クリックするだけ！ローカルLLMを入れよう！LM Studioで噂のDeepSeekを試す！
世間で話題のDeepSeek試してみたいなぁ。。と思いつつ。日々イラストやら音楽などの生成AIで遊んでいましたが。ローカルLLMツールで試してみることにしました。
ローカルLLMツールとは何ぞや？というとローカル環境でLLM（大規模言語モデル）を動作させるツールになります。最近は便利な世の中になったなぁと思います。。
ローカルLLMツールは、あまり名前が定着していないようで、いろいろな呼ばれ方があるのですが。。。
基本的に以下のようらしいです
ローカルLLM、ローカルLLM推論ツール、Local LLM Inference Tools
AIチャット、ローカルAI、LLMフレームワーク、LLMツール
とかとか。。。
さっそくですが、いろいろあるようなので、どれから始めようかと悩みました。ということでChatGPTに相談。
なるほど。ファインチューニングや量子化はカスタマイズみたいな話なので少し上級者向けです。まずは、画面付き(GUI)で DeepSeek はどんなものか？と試したいだけなので、見た目もカワイイ LM Studio にすることにしました。
↓ こちらからダウンロード
インストールフォルダを選択するぐらいでした。
超簡単インストール。
こちら初回起動画面です。
クリックで
初めてのLLMの世界へ！
ということが
先読みされてました。。。
いきなりこの画面
ちなみに、DeepSeek は学習量によっていろいろな種類があります
7Bは学習量を指しており、7 Billion（70億）のパラメータを持っているということです。数値が大きいほど賢くなりますが、処理も重くなり、それなりのパソコンスペックが必要になってきます。
「Load Model」で
DeepSeekを読み込みましょう。
ジョークも言う7Bモデル、ググったらそんな人は居ませんでした。
ということで、英語はokですが、日本語の場合14B以上じゃないと、まともに日本語が扱えないようです。日本語で使う場合は話し相手ぐらいにはなってくれると思います。というオチでした。
何かクセがあるのかと思い、気合入れてキャプチャーポチポチ取ってましたが、想像以上に簡単に終わりましたね。。。
ちなみにサイバーエージェントから日本語追加学習をした14BのDeepSeekも公開されています！（32Bもあります）
いちおう補足ですが、公式などで利用できるのは7Bではなく、桁違いでパターンが巨大で賢いので勘違いしないようにしてください。。。
最新、公式だと2025/02/06現在
DeepSeekV3で671Bとのことです。
そして、さっそく14Bと32Bも試してみました！ ↓↓↓↓
いいなと思ったら応援しよう！
