Large language Models

AI推論を使うならLM StudioよりGroqCloudの方がいいと思います、私は。

LM Studio https://lmstudio.ai/

GroqCloud https://groq.com/groqcloud/

もちろんローカルに直接ダウンロードもできます。

公式サイト https://ollama.com/

Windows https://ollama.com/download/windows

ダウンロードしたらPowerShellかコマンドプロンプトでranを使います。

例えば、

ollama3.1なら ollama run llama3  

mistralを起動したいなら ollama run mistral

日本語で回答してほしいなら、ollama run hawkclaws/datapilot-arrowpro-7b-kujira

上記2つのモデルの最新バージョンは「日本語で回答して」と質問の最後に入力すればいいようです。

この記事が気に入ったらサポートをしてみませんか?