Large language Models
AI推論を使うならLM StudioよりGroqCloudの方がいいと思います、私は。
LM Studio https://lmstudio.ai/
GroqCloud https://groq.com/groqcloud/
もちろんローカルに直接ダウンロードもできます。
公式サイト https://ollama.com/
Windows https://ollama.com/download/windows
ダウンロードしたらPowerShellかコマンドプロンプトでranを使います。
例えば、
ollama3.1なら ollama run llama3
mistralを起動したいなら ollama run mistral
日本語で回答してほしいなら、ollama run hawkclaws/datapilot-arrowpro-7b-kujira
上記2つのモデルの最新バージョンは「日本語で回答して」と質問の最後に入力すればいいようです。