- 運営しているクリエイター
2024年10月の記事一覧
LangGraphでユーザーの性格分析+会話記憶を持ったチャットエージェントを試作するメモ
はじめにLangGraphは、大規模言語モデルをエージェントとして使うためのフレームワークです。
前回は、法令関連の専門知識をエージェントが探して読み込んで回答する仕組みを試作しました。
今回は、エージェント的に動くチャットボットを試作してみます。
普通のチャットボットの課題感
人間とチャットボット(例: ChatGPT)の間には大きな違いがいくつもありますが、そのうちの一つが、記憶(存在
bitnet.cpp を試す
tl;drMicrosoft が 1-bit LLM 推論フレームワーク bitnet.cpp を公開したよ
llama.cpp をベースにした CPU 推論対応フレームワーク
8B パラメータの 1.58-bit 量子化モデルをシングル CPU で実行可能だよ
macOS 環境におけるセットアップと実行手順を書いたよ(uv で実行確認)
英語での推論は良さそうだけど、日本語出力はちょっと
OpenAIの新しいマルチエージェント用フレームワークSwarmを試す
Google ColabでSwarmを試したのでまとめました。
1. SwarmOpenAIが新しくマルチエージェント構築のためのフレームワークを作り始めました。まだ実験的なフレームワークで、本番環境での使用を想定していないようで、今の所かなりシンプルな仕組みに見えます。
エージェントの調整と実行を軽量で、制御性が高く、テストしやすいものにすることに重点を置いているようです。
2. Googl
【3D×LLMメモ2】Blenderの操作をLLMに手伝ってもらう(VRMの修正)
以下の記事で、モーションの更新を試したが、モデル自体の更新が可能か挑戦する。
環境構築
VRM修正用のスクリプトの作成
以下のスクリプトをBlender上で実行し、VRMが保持しているオブジェクトの情報を抽出する。
import bpyimport osoutput_folder = r"C:\Users\XXXXX\20241005_blender"output_file = os.pa
【3D×LLMメモ1】Blenderの操作をLLMに手伝ってもらう(VRMAの修正)
VRMAをLLMが出力したスクリプトを使って、Blenderで修正することができたので、その手順を紹介する。
今回は指の修正しただけなので、全身の修正などを行う場合は、調整に時間がかかると思われる。
Blenderの環境構築
Blenderをダウンロードする。(できればv4.2.0以上)
アドオンをダウンロードするため、以下のページを表示する。
以下のようなページが表示される。
少し画
Google Colab で Gemma 2 JPN を試す
「Google Colab」で「Gemma 2 JPN」を試したのでまとめました。
1. Gemma 2 JPN「Gemma 2 JPN」は、「Gemma 2 2B」を日本語テキストに合わせてファインチューニングしたモデルです。「Gemma 2」での英語のみのクエリと同じレベルのパフォーマンスで日本語をサポートします。
2. Colabでの実行Colabでの実行手順は、次のとおりです。
(1