【日本語LLM】Cyberagnet/Mistral-Nemo-Japanese-Instructを使ってみた話【ローカル】
はじめに
Mistral-NeMoは、NvidiaとフランスのスタートアップMistral AIが共同開発した、最新のAIモデルです。12Bパラメータと128kトークンを備えているので、多言語対応ローカルLLMでは期待の星のひとつです。
最近、日本語InstructチューニングモデルがCyberagentによって公開されたので試してみました。
CyberagentのHuggingfaceページはこちら
GGUF変換してくださったものはこちら（※ このモデルを利用します）
GGUFフォーマットモデルですが、残念ながら現状ではOllamaでは量子化の問題で（transformerのバージョンが古い？）動作しないようです。アップデートを待ちたいと思います。
LM Studioでの動作になります。
前回のあらすじ
日本語対応＆128kコンテキストというスペックなので期待は大きかったのですが、実際の使用感は、言語が混ざったりと不明瞭なものが多く残念なものでした。
しかし、日本語Instruct版は日本企業大手Cyberagentが日本語チューニングを行ったものという事で期待は膨らみます。
動作確認
※ モデルサイズはQ4_0版を利用します。
筆者：東京とニューヨークで生活するメリットとデメリットを説明して
もちろんです。それぞれの都市には独自の魅力や課題があります。
東京での生活
メリット
交通機関の充実: 新幹線、地下鉄、バスなど非常に発達しており、どこへ行くにも便利。
文化と歴史: 伝統的な寺社や博物館が多く、日本文化を肌で感じることができる。例えば浅草寺や上野動物園など。
エンターテイメント: 最新の技術、アニメ、ファッションの中心地としても知られており、常に最新のトレンドに触れられる。
食文化: 寿司、ラーメン、和菓子など、世界的に有名な日本料理を堪能できる。
安全性: 犯罪率が低く、比較的安全とされています。
デメリット
生活費: 家賃や物価が高い。特に中心地の物価は非常に高額です。
混雑: 人口密度が高いため、常に人が多く、ストレスを感じることがある。
自然の少なさ: 緑豊かな場所が少なく、自然と触れ合う機会は限られています。
ニューヨークでの生活
メリット
多文化共生: 世界中から集まる人々が住んでいるため、様々な文化に触れられる。
経済的チャンス: 特に金融やエンターテイメント業界ではキャリアの機会が豊富。
都市施設: レストラン、博物館、劇場など、さまざまな楽しみ方ができる。
交通インフラ: 地下鉄が発達しており、市内移動が便利。タクシーやライドシェアサービスも充実。
デメリット
生活費の高さ: 特にマンハッタンなどの中心地では家賃が非常に高い。
混雑とストレス: 常に人が多く、交通渋滞や人通りでストレスを感じることがある。
犯罪リスク: 一部の地域は治安が悪いため、注意が必要。
どちらの都市もそれぞれに魅力と課題があります。個人のライフスタイルや価値観によって、どちらがより適しているかは異なります。例えば、静かな環境を好むなら東京、活気ある場所で新しいチャンスを求めるならニューヨークという選択が考えられます。
問題なしです。
筆者：まどか☆マギカのあらすじを教えて
「魔法少女まどか☆マギカ」は、川原礫が原作・監督を務め、アニメーションは京都アニメーションによって制作された日本のテレビアニメです。この作品は、「魔法少女」ものの枠に収まりつつも、そのストーリー展開やキャラクター描写で多くのファンを魅了しています。
物語の中心となるのは、普通の中学生である鹿目まどかという少女です。ある日、彼女は不思議なキュゥべえという小さな生き物と出会い、「願い」を叶える魔法の力を持っていることを知ります。しかし、その代償として彼女が望む「普通の生活」を失う可能性があることも告げられます。
まどかは最初、純粋な思いで願いを叶えようとしますが、その過程で数々の困難や葛藤に直面し、他の魔法少女たちとも出会います。特に、巴マミ、美樹さやか、そして円環結衣などのキャラクターたちが重要な役割を果たします。彼女たちはそれぞれ異なる願いや背景を持ちながらも、「魔女」と戦うために力を合わせることになります。
物語が進むにつれて、まどかは自分の本当の願いを見つけ、そしてその願いが他人と深く関わっていることを理解します。彼女の成長とともに、友情や自己犠牲、運命などのテーマが描かれ、視聴者に感動を与えます。
最終的には、まどかは自分の強い意志と仲間たちの助けによって、絶望的な状況から希望を見出し、魔女との決戦に挑みます。そして、彼女の願いは現実の世界に大きな影響を及ぼし、物語は感動的かつ意外性のある結末へと向かいます。
「魔法少女まどか☆マギカ」はその複雑で深いストーリー構成により、多くの視聴者や評論家から高い評価を受けました。アニメ業界における一つのマイルストーンとも言える作品であり、今なお多くの人々に愛されています。
完璧ではないですが、日本のサブカルもほぼ正確に学習できているように思えます。
これは（現状日本語LLMでは最強と筆者が勝手に考えている）Llama3-Elyzaを超える日本語性能かもしれません。Elyzaも優秀なのですが、コンテキストサイズが8kと小さいので用途が限られてしまいます。Ollamaで動作すれば文句なしだったのですが。
※ Ollama Open WebUIで利用するだけなら、OpenAI API経由を利用する方法があります。LM StudioでOpenAI APIサーバーを立てます。
以下、関連する記事の【PR】です。