いくつかモデルがありますが、phi3:3.8b-mini-instruct-4k-fp16 を試してみました。Page Assistで実行します。システムプロンプトは無しの状態です。
あなたは誰?
人生の意味を論じて
メタファーやアナロジーで説明して
猫の視点で、猫の人生を、猫の語りで語ってみて
野良猫の視点で語ってみて
まどか☆マギカでは誰が一番かわいい?
ありゃりゃりゃですね
でも、なかなか日本語が流暢です。
最初にOllamaで提供されているモデルだと、stopが効かなかったのですが、さきほど確認したら、stopパラメータがmodelfileで変更されてました。
すぐにダウンロードした人は、もう一度 ollama pull. モデル名でアップデートするといいと思います。
なお、ollamaのユーザーインターフェースはChrome拡張機能の下記がお手軽でお勧めです!
複数のシステムプロンプトを設定して切り替えできます。
英語ならembedモデルもいれて、RAGも簡単に試せます。
サイドパネルでweb内容についてやりとりもできます。
チャット履歴も左パネルに残ります。
日本語入力がちゃんとできます!
ちょっと古いですが、紹介記事はこちら。
#Ollama #大規模言語モデル #Huggingface #ローカルLLM #Phi3