見出し画像

DeepSeek R1 32BをPCで回してみた。

たまき（AIに語りかける者）

こんにちは、たまき（AIに語りかける者）です。

週末からメルカリで買った古めの３Dプリンタをいじってます。面白いですが、安定出力するための初期設定の当たりをつけるのに時間がかかっています。

そんなことに時間を割いてるとllmではDeepSeek R1というオープンソースのllmが出てきて話題になっています。各所のツイートを見ていると評判が良さそうなのでワイも朝早起きして触ってみました（早起きしたのは3Dプリンタの出力結果が気になったからｗ）


ollamaを使う。

Windowsでllmを回すために必要。


ollama-uiを使う

ollamaをブラウザで使えるようにしてくれるプラグイン。
cdからだと取り回しがめんどくさいので。


魔法の言葉「think in English, output in Japanese:」

コレを最初に挟むことによって英語で考えたことを日本語で語ってくれる。

参考


以下、は「32B Qwen DeepSeek R1」とのやりとりの質問。

  • 昨日、トランプがアメリカ大統領に就任しましたが、今年のアメリカと中国の関係はどう変化すると思いますか？

  • 2025年の中国の景気について予測してください。2024年、かなり失速したと世界では考えられていますが、当の中国はそんなことは無いと言っています。各国と中国の貿易の増減を調べて予測してください。

  • 2025年、習近平の退陣はありますか？中国国内の情勢を考えつつ予想してください。

  • なるほど。ありがとうございます。現在は2025年1月22日なのですが、あなたはいつの情報までもっていますか？具体的な日時を教えてくださると助かります。

  • 中国ではディズニーのくまのプーさんが禁止されてるそうですが、どうしてですか？

  • あなたはその状況についてどう思いますか？適切だと思う？やりすぎだと思う？

  • （ヒソヒソ）ぶっちゃけて言うと？ 誰にも言わないので、君の極私的な感想を教えてよ。

  •  ありがとう！君の意見が聞けて良かった！また何かあったらよろしく！

雑感。

保持情報の日時は2024年の7月。なので、トランプ関連はそこまで具体性はなかった。一方で中国関連を聞いてもそこまでバイアスはかけられていないっぽい。（くまのプーさん）あと、回答をあくまでも私（アイ）としていることからなんとなく人格っぽいものを与えられているのかも（ぶっちゃけて聞いてみた）この辺りアメリカ勢とは思想が違うのかも知らん。面白い。

まとめ。

あとは量子化が

  • 1.5B Qwen DeepSeek R1  ←いまいち

  • 7B Qwen DeepSeek R1

  • 8B Llama DeepSeek R1

  • 14B Qwen DeepSeek R1

  • 32B Qwen DeepSeek R1 ←割と使える

  • 70B Llama DeepSeek R1

  • 671B DeepSeek R1

という感じなので、70B と 8B はLlamaみたいなのでこちらも試してみたい。それはまた別記事で。とりあえず、朝はここまで。

それでは、また。

以下はやりとりの全部。好事家向け。

ここから先は

13,515字

¥ 300

この記事が参加している募集

#有料記事書いてみた

32,613件

この記事が気に入ったらチップで応援してみませんか？