ChatGPTのAPIの見積もりに悩んでいる人に向けて
初めまして。CryptoAI株式会社の代表かつ、Stability AI Japanのコミュニティマネージャーをしていて、第二回AI画像コンテストの企画を粛々と進めているNeroです。理科大生です。
皆さんは、ChatGPTのAPIでしっかりした見積もりを出したことはありますか？
僕は複数の案件でChatGPTのAPIを用いたプロダクトを開発しており、複数の人から、ChatGPTの費用で相談が寄せられることが多かったので、今回記事にしました。
皆さんも、費用とかトークンの分割方法でお金が発生するというのは分かったけど、「結局いくらかかるんだ！！」ということが知りたくてこの記事にたどり着いたのかもしれません。大丈夫です。教えます。
まず大事なのが過去の会話をどれだけ含めるかです。過去の会話を含めれば含めるほど、ChatGPTは文脈に沿った会話をすることが出来ます。
結論から言うと、MAX_TOKENの4096トークンで会話をする場合、1.1円かかります。
result = 4096 * 0.002 / 1000 * 140 = 1.14688説明をすると、4096(合計トークン) * 0.002(1トークンあたりの価格) / 1000(1000トークンあたり0.002なので割っている) * 140(1ドル140円と計算) = 1.14688
ちなみに、入力トークンは25パーセント安くなっているはずです。
この場合は、ChatGPTに入力文章+返答文章の合計が日本語で4000文字くらいです。なので、過去の履歴を含む3500文字を入れて500文字の返答が返ってきた場合、1.1円かかる見込みです。
続いて僕の肌感的によくある会話履歴込みで1000文字を入れて、90文字くらい返ってくる時に1100トークンかかるとすると、0.3円くらいです。
なのでユーザーが10回くらい会話したら3円かかる計算です。
GPT-4だと20倍だと考えてください。
このコードで、ChatGPTと会話しながら、大体いくらかかるか分かるGoogle Colaboを作りました。APIキーが必要ですが、遊んでみてください。
使い方は、最初になんでもいいのでAIの性格を入力します。
それで会話をするだけです。
max_messages = 10 # 最大メッセージ数を定義する
この行で、どれだけの会話履歴を含めるかを決めることが出来ます。
endと入力すれば、リセットすることが出来ます。
トークンと文字数の関係を知りたい方は、公式の判定サイトを使ってください。大体、500文字で、550トークンくらいです。↓
急ぎで書いたので、後ほど加筆予定です。
入力トークンが25パーセントくらい値下げされて、安くなっていますが、計算には含んでいません。