Ollama で「DeepSeek-R1 」の日本語追加学習モデルを動かす

devlive

2025年1月30日 11:37

ご無沙汰です、Devliveです 👨🏽‍💻
前回の投稿から時間が空いてしまいました 💦

2024年末から年明けにかけて、AI 界隈の動きがめまぐるしく、私も少しずつ情報を追わねばならないという焦燥感にかられていました。

今後は、知識の整理がてら Obsidian 関連に加えて、AI関連についても投稿していこうと思います。

将来的には独自の AI モデルとか作ってみたいです。。。

今日は AI 関連の記事1本目ということで、「Ollama」の導入方法を紹介していきたいと思います。

Ollama とは？

Ollama は、ローカル環境で動作するAIエージェントプラットフォームです。従来、AIエージェントといえばクラウドベースのサービスが主流でしたが、Ollamaはユーザーの手元で直接AIを動かすことができる点が特徴です。

AIエージェントの現状

現在、ChatGPT をはじめとするAIエージェントは多くの場面で活用されています。ユーザーはクラウド上で動作するこれらのエージェントを通じて、質問への回答やタスクの自動化などを行っています。また、最近では中国で発表されたDeepSheekkなど、さまざまなAIエージェントが登場しています。

しかし、DeepSheek の利用規約にはデータの取扱に関する懸念が記載されており、ユーザーデータの安全性について注意が必要です。

Ollama の利点

これらクラウドベースのAIエージェントには、ユーザーデータのプライバシーやセキュリティに関する懸念が付きまといます。チャットで送信したデータが外部サーバーに送られるため、機密情報の取り扱いには注意が必要です。

そこで登場するのがOllamaです。Ollamaはローカル環境でAIを動作させることができるため、データの安全性を確保しながらAIの利便性を享受することが可能です。研究や開発においても、データの漏洩リスクを最小限に抑えることができるため、非常に有用なツールと言えます。

インストール方法

それでは、Ollamaの導入方法について具体的に説明していきます。以下の手順に従ってインストールを行ってください。

1. システム要件の確認

Ollamaをインストールする前に、以下のシステム要件を満たしているか確認してください。

OS: macOS 10.15以降、Linux、Windows（サポートは限定的）
CPU: 64ビットプロセッサ
メモリ: 最低8GBのRAM（推奨16GB以上）
ディスクスペース: インストールおよび運用に必要な空き容量

2. Ollamaのダウンロード

公式サイトからOllamaの最新バージョンをダウンロードします。

Ollama 公式サイトにアクセスします。
ダウンロードページから、使用しているOSに対応したインストーラーを選択します。
ダウンロードが完了したら、インストーラーを実行します。

3. インストール手順

ダウンロードした `.dmg` ファイルを開きます。
Ollamaアイコンをアプリケーションフォルダにドラッグ＆ドロップします。
アプリケーションフォルダからOllamaを起動します。
ウィザードに従いインストールを進めます。

インストールが終わりましたら、コマンドプロンプトで下記を実行して、Ollamaがインストールされたかどうかを確認しましょう。

ollama --help

以下のように表示されれば成功です。

❯❯❯ ollama --help                                                                                                                                                                                       9:33:43


Large language model runner

Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

コマンドが実行されない場合は、ターミナルを別ウィンドウで開く、もしくは再起動うまくいく場合があります 📝

基本的な使い方

試しに、Ollama 上で DeepSeek-R1 を動かしてみましょう。
以下コマンドでモデルをインストールします。

ollama run deepseek-r1

success が表示されていれば成功です。
同時に対話型のチャットインターフェースが開くので日本語を入力してみましょう。
試しに「AI によって生活はどうかわる？」と入力してみました。
英語と日本語が混在している回答が帰ってきましたね… 💦

DeepSeek-R1 の日本語追加学習モデルを試す。

次に、2025年1月27日にサイバーエージェントより公開された、
「DeepSeek-R1」に日本語で追加学習した派生モデルを使ってみました。

【モデル公開のお知らせ】
DeepSeek-R1-Distill-Qwen-14B/32Bをベースに日本語データで追加学習を行ったLLMを公開いたしました。今後もモデル公開や産学連携を通じて国内の自然言語処理技術の発展に貢献してまいります。 https://t.co/Oi0l2ITzhh
— サイバーエージェント　広報＆IR (@CyberAgent_PR) January 27, 2025

`Cntrl + d` でサーバーを停止して、以下コマンドでモデルインストールします。

❯❯❯ ollama run hf.co/mmnga/cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japanese-gguf                                                                                                                       11:30:32

今回は、cyberagentさんが公開している DeepSeek-R1-Distill-Qwen-14B-Japanese が ollama で利用できなかったため、 GGUFフォーマット変換版を利用しています。
互換性的なものなんですかね？何が違うのかは若干謎なので追々調査したいと思います 🙇

https://huggingface.co/cyberagent/DeepSeek-R1-Distill-Qwen-14B-Japanese

インストールが完了し、日本語でもいい感じに使えるようでした。

しっかりタイプミスもカバーしてくれていますw

まとめ

Ollama は、ローカル環境で安全にAIエージェントを利用できる強力なプラットフォームです。クラウドベースのAIサービスに比べて、データのプライバシーを確保しつつ高度なAI機能を活用できる点が大きな魅力です。研究や開発、日常的なタスクの自動化など、さまざまな用途に対応可能です。

私も少しづつではありますが、Ollama 使い倒して AI 関連の知識底上げしていきたいと思います 👨🏽‍💻

それでは 👋🏼

Ollama で 「DeepSeek-R1 」の日本語追加学習モデルを動かす