言語モデルを会話の流れに応じて変えられる機能を搭載しました！ - miibo アップデート🚀
株式会社miibo運営です。miiboのアップデート情報をお届けします。
今回のアップデートは、miiboの会話の流れを作れる「シナリオエディタ」の改良です！多数の要望も頂いていた、
「シナリオのノードごとにLLMを選択できる」
機能をついに搭載しました！
会話の流れの中で、複数のLLMを使い分けることができるようになりました。それによって、コスト最適化や性能最適化されたAIチャットボットをmiiboで作れるようになります！
シナリオのノードでモデルを設定
これまで、miiboでは１つのAI(エージェント)に対して１つの言語モデルしか割り当てられませんでした。
GPT-4だと高い・・・
GPT-3.5-turboだと安いが精度が低い・・・
こんな悩みがありました。
今回のアップデートで「この会話の部分はGPT-4，その他はGPT-3.5-turbo」みたいな工夫ができるように。
上記は、試しに採用面接官シュミレーションAIを作った際のシナリオです。
□はノードと呼び、タイトルに記載された会話を行います。
このノードには、言語モデルとプロンプトをそれぞれ設定できるようになっています。
上記の例では、
アイスブレイクの会話 -> GPT-3.5-turbo
応募動機のヒアリングと深掘り -> GPT-4
で行うように設定しています。
これにより、精度が重要な応募動機の深掘りはGPT-4で行うという使い分けが可能です。この使い分けによって、会話全体のコスト最適化が可能になります。
LLMフラット
弊社は「LLMフラット」という方針をもとにmiiboの開発を行っています。
現在は上記のイメージにあるようなモデルが利用可能です。
確かな精度が実証されている下記が、現時点で最も実用的なモデルです。
・GPT-3.5-turbo
・GPT-3.5-turbo(16k)
・GPT-4
これに加えて、ファインチューニング済みモデルも利用可能です。
今後は、OpenAI以外のAIにも随時対応予定で、様々なモデルがこのリストに選択肢として表示されていく予定です。
miiboは、LLMをその特性に合わせて簡単に使い分けられる環境にしていきます。ある特定のLLMに特化するのではなく、適材適所でユースケースに合ったLLMを活用できるような機能を提供していく予定です。
まだまだ実用的といえるLLMは数少ないですが、数年後は全く違った環境になっていると思います。弊社でも異なるLLMを利用する実験も、他社の方々とも連携しながら少しずつチャレンジを始めています。
例:
最後に
ぜひ上述の機能を使い、コスト面でも、性能面でも最適化された会話を設計してみてください！
そして、miiboのシナリオ機能は、まだまだ利用方法が複雑です。
随時改善をしていくと同時に、どうしたらより良い会話が設計できるのかの情報発信やイベントも随時行っていく予定です。
そういった情報の発信はサービス内のメール配信やSNSで行っていきます。
ぜひｍiiboに登録（無料）してみてください！
SNS
miibo公式
https://twitter.com/mebo_ai
miiboユーザーコミュニティ
最後までお読みいいただきありがとうございました！