こんばんは、ChatGPT部、部長の大城です。
今日はChatGPTのLINE botを開発中、というお話です。
LINE bot開発のモチベーション
先日もnoteにてご紹介させたChatGPT活用の先人達のお一人に、渋谷さんという方がいらっしゃいます。
上記まとめにも取り上げていますが、渋谷さんが「ChatGPTに聞いてChatGPTのLINEアプリを半日で作った」という動画に触発され、私も会社の方で(他の人に頼んで)LINE botの雛形を作ってみました。
( 途中からサーバー立てたりで、ちょっと大変だったので・・)
その動画はこちら。
なおこのnoteではその作成工程は一旦スキップして、「AI Chat botにどのようなキャラクターを演じてもらうか」について検討したいと思います( まだ、試行錯誤の段階なので途中までですが悪しからず。逆にアイディアも募集中です・・! )
①プレーンな状態のAI Chat bot
以下のプロンプトを入れた状態で、「プロンプトくん」という仮の名称でLINE botを作りました。応答はこんな感じ。(裏側はChatGPT-3.5、または4のAPIを叩いてます)
やり取りの結果はこちら。真面目な感じですね。
(2023/4/8 : 画像だと文字が小さいと思うので、書き起こしも追記しました)
予定通り、小学生向けの解説もいけますね。
はい、普通に動作しますね。ただ、何か足りない気がします・・
②ロボ成分を足してみる
おそらく、「キャラが立っていない、中立的なポジション」なのが一つ原因かなと思い、ロボットになり切ってもらってみました。
プロンプトはこちら
さて、この状態でプロンプトくん(仮)はどう変わるでしょうか?
その結果がこちら。
ちょっと「コレジャナイロボ」感がある口調になってしまいました。違う違う、そうじゃない。
ということで、口調変更の指摘をば。
直りましたね!さすがChatGPT-4、IQ155という噂は伊達じゃないようです。
ちなみに話ついでに出身地も聞いてみましたが、「AIなので無い」という回答だったのでせっかくなので考えてもらいました。
(チャットプラネット、いい設定や・・。)
設定自体もChatGPT自身に考えてもらうこともできそうですね。
(ただし、今回はAPI経由なので長期記憶は難しいかもですが・・)
注意:ChatGPT-4のAPIの料金はGPT3.5の30倍以上
ちなみに、ここまで作っておきながら何ですがサービス開発の際のコスト、特に「APIの料金」について補足しておきますと、ChatGPT-4のAPIはめちゃ高いです。3.5の30倍〜60倍くらい。今回だと1回の会話に裏側の処理含めて1000トークンくらい使ってますので、1会話あたり日本円で6円くらいの金額がかかることになります。
以下はOpenAI APIの料金表です
少し下にあるこちら。
GPT-3.5-turboが1000トークン(今回だと1会話)あたり$0.002なので、日本円で0.26円なのですが、GPT-4の安い方の8K contextはPronputで$0.03 ( 3.95円)、Completionで$0.06 (7.89円) の模様。というかCompletionってなんですかね。ChatGPTに聞いてみました。
あー、あれですね。ちゃんとWeb上での裏はとってないですが、おそらく「Pronput」がこちらからのリクエスト、「Completion」がChatGPTからの応答のトークン課金ですね。なるほど・・
ということはもしかしたら長文が返ってくると1会話1往復あたり10円とかになるかもしれませんね・・高い・・。
③ロボにマネタイズの仕組みを仕込む
こちらはまだ構想段階ですが、「トークン制」を導入して課金体系を作れないか、と考えました。利用するたびにトークンが減少し、0になるとチャージしてください、というあれですね。( 漫画コミック系のアプリとかでもよく見かけるアレです )
そのままでは捻りがないので、「ロボパワー」という感じで100だと元気、減っていくと元気が無くなる、という設定をお願いしてみました。
よし、設定完了。シミュレーションしてみます。
ロボパワー100の場合
順調ですね。ではロボパワーを50にしてみましょう。
ロボパワー50の場合
ロボ、だいぶ元気がなくなってしまいました・・。そういう指定しているのもありますが、青息吐息という感じ。
でも、開発者なので心を鬼にしてもう少し実験を続けます。
ロボパワー30の場合
ロボパワーが30のタイミングでちゃんと課金を促す選択肢も出してくれました・・!今回は都度指定してますが、おそらく今回のAPIの外側で実装している固定投入用のプロンプトをいじって設定していけばロボパワーに応じた行動変容は促せそうな気がしています。
(課金機能はまだ実装してないのですが、もちろんこの後ちゃんとロボパワーもチャージしておきました。)
所感その1:実験を振り返って
ロボ設定、いいですね。なんか多少ヘマをしても許せそうな気がしました。
ただ、課金を促す方法として元気が無くなるのは流石にやりすぎかなぁという印象を受けました。この辺り、あまりネガティブにならないようにしたいところですね。
一方でプロンプトの設定をある程度裏で持っておけば、おそらくAI Chat botのキャラや背景設定、そして有料版への移行の提案なども一定保持できることも分かりました。この辺りはAPIの場合、毎回固定で投入する必要があるのですが、例えばN回に1回思い出させるために固定設定を投げる、というような調整でコストカットもできるのかなと思います。
所感その2:やはり、ChatGPT-4のAPIは高い
一方で、ChatGPT-4のAPIはまだまだ高いな、というのが印象でした。1回あたりで6〜10円、となると広告費では全く回収できないですし、1000円チャージしても100回程度しかやり取りできないことになります。
(現状ではChatGPT-3.5ベースのサービスが多い理由を垣間見た気がします)
一方で今後コンピューティングの精度が上がればコストも下がるでしょうし、仮にChatGPT-5などが将来出た際には現行の最新版であるChatGPT-4の値段も小慣れてくると思いますので、当面は面白系はChatGPT-3.5ベース、一部の専門性の高いビジネスユースなどはChatGPT-4ベースで利用する、と言った棲み分けは選択肢としてアリかなという気がしました。
最後に
いずれにせよ4/17週くらいには何かサービスとしてリリースしたいなと思っていますので、しばらくは色々な条件でキャラクター設定をしてみて試してみたいと思います。
またいいアイディアも募集しておりますので、もし何かございましたらこちらのコメント欄にてお知らせください。
(採用された場合は焼肉か何か、ご馳走させていただきます・・!)
それでは皆さんもどうぞ良いChatGPTライフを・・!! (大城)