AIキャラクターオフ会 at Tokyo #0 by Saldra に参加して

こちらのイベントに参加したレポです。
かなりたくさんの方が参加されていて、AIキャラの盛り上がりを感じました。

8/13(日)に「AIキャラクターオフ会 at Tokyo #0 by Saldra」を開催します🥳
参加想定者はAIキャラの制作者だけでなくファンもです！ 色々な出会いのきっかけになりますように。
参加費は2000円（学生無料）

以下が申し込みページです！ 先着60人のためお気を付けください！https://t.co/sZ3HVVFXhi pic.twitter.com/gkQitBIkb7

— saldra(サルドラ) (@sald_ra) July 26, 2023

「御杖みこ」のWebUI デモ

配信用のWeb画面に「疑似コメント送信機能」と「コメント履歴表示機能」を追加して、簡易的なWebUIでの会話をデモで公開しました。
ローカルLLMとVOICEVOXの組み合わせで、送信から応答までおおよそ１秒前後で応答してくれるので、割と遊べるかと思います。

これを使えば、配信とWebの複数インターフェースでコミュニケーションが取れるようになるので、Webをゲーム風にできれば色々幅が広がるかなぁと思っています。

あとは、「見たことあります！」「可愛いですね！」という声が生で聞けたことが今回のオフ会の一番の楽しい要素だったかもしれないです。
（次回もあれば、みんなデモを持ち寄ろう！）

AIアイネスのデモ

「さくさくむら さん」がウマ娘のキャラをLLMで再現するデモをされていました。

Flask+StreamlitでAIアイネスと会話できるチャットアプリ作った！
steaming/バッチ推論は今の構成だとできなそうなのが悲しい#AIアイネス #ウマ娘 #アイネスフウジン pic.twitter.com/HKZk21swWc

— Sakusakumura (@Sakkusakumura) August 6, 2023

やはりLLMにキャラクタの知識を入れるには、フルFTが必要という話を中心に、ローカルLLMのFTについて色々と教えていただきました。

子供向けAIキャラクター

小さい子供が同じ動画を見続けて楽しめているのに着想を得て、子供向けにAIキャラクターやったら良いのではという話で盛り上がりました。
確かに、動画よりも反応がある方が面白く、知育玩具の延長みたいな形で実装できたら市場を構成できそうな気もします。
GateBoxさんのようなHWと一体で売ったら良いとか、スマホアプリが良いとか色々話が出ていました。

複数LLMによる協調

ローカルLLMが多数出てきている現在において、複数LLM（モデル違い/FT違い/マルチモーダルの対応）などを連携させることで、人間の知性に近づけることができるのではないかという話が出ました。
GPT-4がこれに近いアーキテクチャという噂もあるので、4bや7b、13bクラスをいっぱい立てて有機的に結合すると面白い気がします。CT2を使えばある程度VRAMの消費も抑えられるのがわかったので、個人のPC内に構築するのも夢ではないかもしれないですね。

AIキャラクターの睡眠

キャラクターの記憶について、経験を外部DBとして処理するのはシステム的には正しいけど、本質的な学習ではないよねという話がありました。
LLMが知性なのであれば、経験したことを随時学習する必要があると自分も思っていましたが、計算リソースなどの問題から難しいと考えていました。
しかし、睡眠として推論システムを停止して、モデルを追加学習することを提案されていて、たしかに人間もそうだよなと納得させられました。

GPU問題

やはりローカルLLM勢の最大の問題である計算リソース問題が今回も話題に上がりました。
とりあえずは自前のGPUで動く範囲で遊ぶとして、レンタルをする場合はしっかりとした実験計画的なものを作って、有効に使い切らないともったいないなぁと思っています。
富豪の方、GPU買ってください！

まとめ

その他にもAITuber開発者の方とお話して運営・企画大変ですよねという話で盛り上がったり、AITuber以外のAIキャラクタのデモを見たりしてとっても楽したかったです！