miiboがGPT-3.5-turbo-16k(プロンプト拡大モデル)に対応しました！
株式会社miiboのmaKunugiです。GPTを用いた会話型AIを爆速で作れるプラットフォーム、「miibo( https://miibo.jp )」を開発しています。
先日、OpenAI社から「GPT-3.5-turbo」の新モデル「GPT-3.5-turbo-16k」がリリースされましたね！
このモデルは、GPT-3.5-turboの４倍の長さのコンテキストを扱えるモデルです。つまり、プロンプトにより多くの情報を含んだ上での応答生成ができるようになりました。
このモデルを扱うことにより、より多くの情報を詰め込んでGPT-3.5-turboの応答を安定化させたり、精度向上させることができるようになったと言えます。
「GPT-4を使いたいけど、高くてレスポンス遅いからちょっと・・・」
こんな悩みがある際の１つのオプションになり得ます！
（※ GPT-4の精度に追いつくかと言うと難しいですが、GPT-3.5-turboの強化は間違いなくできます。）
miiboもGPT-3.5-turbo-16kへ対応！
早速miiboでも、「GPT-3.5-turbo-16k」に対応してます！
エージェント設定ページにある、AIモデル選択画面に下記の項目が足されています。
このモデルを選択することで、miiboで入力が可能だったキャラクターのベースとなるプロンプトの上限が変化します。
ベースプロンプトの通常文字数: 1000 -> 4000 (日本語のみの場合)
また、ナレッジデータストアという専門知識を入れておくデータベースの情報を、より多く応答の生成に利用されるようになりました！
日本語換算で１万文字を超える情報量を用いて、チャットボットを構築できます。
是非ご活用ください！
【※ご利用にあたっての注意】
GPT-3.5-turbo-16kのモデルを利用時は、GPT-3.5-turbo利用時よりも会話回数を多く消費します。詳しくはmiiboサービス内の説明をご覧ください。
(※消費回数は、今後変更する可能性があります。)
まとめ
GPT-4とまではいかなくとも、どれだけプロンプトの大きさが変わったことで精度向上ができるか、引き続き検証していこうと思います！
GPT-3.5-turboの安定性で精度が向上できるととても良いですね。
ぜひこのモデルとmiiboを使って、爆速でAIチャットボットを作ってみてください！
最後までお読みいただきありがとうございました。