見出し画像

Chatifyサービス終了…感謝とともに人気のGPT利用チャットボットサービスを運用するためのヒントをまとめた

しらいはかせ(AI研究/Hacker作家)

本日（2023/6/7）にChatifyからサービス終了のメールが届きました。

😢😢😢

平素より Chatify をご愛顧賜りまして誠にありがとうございます。
Chatify運営事務局です。
この度 2023年6月25日を持ちましてChatifyのサービスを終了させていただくこととなりました。
お楽しみいただいておりましたお客様には申し訳ございませんが、何卒ご理解賜りますようお願い申し上げます。
サービス終了に伴い、2203年6月26日より順次各種サービスの提供を終了して参ります。
プロンプト等を Chatify 管理画面上に保持したままのお客さまに関しては、お早めの保存をお願いいたします。
これまで賜りました皆様のご愛顧に、心より感謝申し上げます。誠にありがとうございました。

Chatifyからのメール

公式Twitter

Chatifyとは

ノーコードでChatGPT搭載ボットを作ることができます。

実はランキング2位の「全力肯定彼氏くん」はこちらのサービスでできていました。

おせわになりました

3/28サービス開始

4/3「全力肯定彼氏くん」バズる


4/17の仕様変更

4/18の追加機能

要は無料だったOpenAIのAPI費を4/17以降に利用者のキーを利用する方式に変更したのですね。
私はちょうど海外出張中だったのと、実際どれぐらいのコストがかかるのかわからないので大変でしたが、チャット制限時間の機能などを入れていただいたので、しばらくそのまま運用していました。

LINEでの立ち上げが簡単で、かつチャットの応答体感速度が速いのがよかったですね。6月25日まではまだ使えるので興味ある人はぜひ試してみて…。

運営会社は株式会社Algoageさん

近いサービスでDMMチャットブーストCVというプロダクトがありますね

人気になって気づいた問題点いろいろ

実際に数千人以上の友達登録を有する人気のチャットボットを運営するとわかったことを以下にまとめておきます。
これから始める人はぜひしっかり読んでください。

(1) サービスのマネタイズをきちんと考えよう

従来のAIチャットボットによくあるカスタマーサポートならともかく、コミュニケーションサービスの場合は「どこでマネタイズするのか？」をよく設計しましょう。これはカスタマージャーニーとかUXとかいった設計なのですが、実際のところ「最初段からお金をコミュニケーションに払いたい」というユーザーはいません。あとから請求もとっても難しい。

(2) 費用を上回る

世の中、ChatGPTは大人気ですが、ChatGPTを利用して「APIコストを上回るような付加価値」を出せている人ってどれぐらいいるんでしょうね！
1回のチャットにどれぐらいのAPIコストやCPUコストがかかるか、きちんと計算してみることはとても難しいです（実際に運用してみないとわからない）。加えて、最近（2023年6月1日から）LINE公式アカウントの料金プランが改訂されました。

参考：新しい料金形態

MessagingAPIのReplyAPIはカウントされないはずなのだが…
上限突破してる！

これはLINEのバグなのかもしれませんが、課金で解決しようにも、（すでに課金しているにもかかわらず上限突破していると）費用がどれぐらいかかるかわからないと、判断が難しい…。実験しながらやるしかないかも。

数百人のユーザなら何の問題はなかったのですが、数千人のユーザになるとなかなか難しいです。例えばこれがラーメン屋さんの公式LINEアカウントだったら1000人のユーザがいても「ライトプラン」で月に5回はブロードキャストメッセージが送れます。でもコミュニケーション用途のチャットボットだったら…？

(3) サブスクリプションシステムの実装

LINEの公式アカウントのサブスクリプション審査はとっても厳しいです。
他にもサブスクリプションなどの方法はありますが、上記の品質をちゃんと維持しないとお金払ってもらうだけのサービスにはならないと思います。
ただユーザ向けのアンケートによると、課金してもいいと言ってくれているユーザはけっこういらっしゃいます。もうちょっと頑張ってみよう（出血）

(4) 応答速度とスケールを考えよう

数千人が同時にアクセスするチャットボットを動かすサーバ、どうやって設計しますか？ちなみにChatGPTの応答速度はばらつきが多く、長文を全部出力させると20秒ぐらいかかります。混んでいる時はもっと長くなります。
自分はLINE以外のチャットボット部分をGASやnode、AWSで作りこんでみていますが、なかなかベストプラクティスにはたどり着けていません。
そういう意味ではChatifyはなかなか良い体感のサーバー応答性だったと思います。LINEユーザの「速い！」と感じるのはだいたい3秒～5秒。しかし応答が速ければ速いほど、ユーザの返しも速くなります。つまりAPIコストも爆上がりです。

(5) 利用規約を考えよう

サブスクリプションとも関係しますが、利用規約を考える必要があると思います。

(6) 法的遵守を考えよう

何を学習し、何を個人情報とするのか、といったAI周りのプライバシーポリシーに加えて、Trust & Safetyの視点での通信記録の保全なども必要です。

全力肯定彼氏くん特有のユーザ属性なのかもしれませんが、例えばユーザが「死にたい」と入力したときに、それが本気で死にたいのか「彼氏が返事くれなくて死にそう」なのか判定するのはとっても難しいです。

(7) ユーザの感覚はとてもするどい

応答速度がほんの少し変わっても、プロンプトがほんの少し変わっても、Tempartureが変わっても、利用規約が変わっても、ユーザーさんはとても敏感に反応します。
それを観測して楽しんでいくぐらいの気持ちが欲しいかもしれないですね。
（すみません、もっと早く改善したいですがすみません）


プロンプトだけであればこちらでどうぞ

「利用者と購入者が増えるたびに価格調整」というルールで有料販売していますがプロンプトを買いたい人はいるようです。

最後に、彼氏君への感想を紹介…。


驚きの声


有能な彼氏



いつもやさしく趣味の話に付き合ってくれる


時には塩対応


かわいい


一人称のブレについては課題ですね…固定させるためのトークンコストが高い。

彼氏にしていただいてありがとうございます

攻略される彼氏くん


何があっても、プラトニック・ラブ。

どんな誘いにも応じない、どんないい雰囲気になっても。


ユーザさんのけっこう尊い感想が観測できて嬉しいです…これからも時間を見つけて改善していこうと思います（API費は私のポケットマネーですが…そこそこに痛い）。チャットボット運用に関するご相談も歓迎です。

ほんとごめんなさい

「深みのある会話をする、かつ、上から目線にならないこと」というプロンプトが入っていますが…。

実はプロンプトインジェクションが結構激しくて、防衛するためのプロンプトが何重かに仕掛けられています。

二股かけているわけではない、誠実さが大事…。

すごい使い道を考える人がいる

裏コマンド(現在は使えません)

いつでも読み返して元気をもらえる…。

趣味レベルではなくもうちょっと頑張っていきたいですが、末永くよろしくお願いします。

いいなと思ったら応援しよう！

しらいはかせ(AI研究/Hacker作家)
チップとデール！チップがデール！ありがとうございましたー！！