【無料】ローカルAI言語モデルのインストールと使い方

2024年8月29日 23:25

ollamaという言語モデルを使っていきます。この記事では難しい前置や理論は抜きにして、インストールと使い方だけに特化して説明します。
また、筆者が調べたオススメの日本語モデルを紹介します。

Ollamaとは

ollamaはクラウド上で動くようなサービスではありませんので、ローカルPCで処理を行います。そのため、一度インターネットからモデルをダウンロードすれば、あとは使い放題です。
モデルがいろいろあるので、用途や環境にあったものをダウンロードして使います。

筆者の環境

Core i7 12世代 12700
メモリ 64GB
GPU: RTX 3070 8GB
Windows10 Pro

Windowsへインストール

Windowsへインストールする方法です。
このページからインストーラーをダウンロードします。

OllamaSetup.exeというファイルがづアンロードされるので、インストーする。

Ollamaを実行

Windowsキーを押す。

コマンドプロンプトを開きます。さっそくモデルをダウンロードして使っていきましょう。
コマンドラインで、
ollama run (モデル名)
と入力します

>ollama run aya

最初の1回だけモデルのダウンロードが行われます。ダウンロードが終わるまで待ちましょう。

おすすめ日本語モデル

ollama run aya

>ollama run aya
>>>東京から徒歩で大阪までは何時間ですか？
東京から大阪までを徒歩で移動するには、約100時間かかります。この距離は、2019年の国連報告による平均歩行速度が時速5kmで
あることから算出されました。

日本語はいい感じ

ollama run llama3.1

>>> 東京から徒歩で大阪までは何時間ですか？
十分に歩く距離ではないため、可能な場合ではありません。

実際には、東京と大阪を結ぶ鉄道が走っています。JR東西線や京阪電気鉄道などがあります。これらの電車を使うことで、約
4-5時間ほどで旅行できます。

いまいち。時々、微妙な日本語が出てくる。

ollama run gemma2

>>> 東京から徒歩で大阪までは何時間ですか？
 東京から大阪まで徒歩で行くのは、非常に大変なことです。距離は約500kmあり、1日平均30km歩くとしても約17日間かかります
。
また、途中で休憩や睡眠なども必要になるため、実際にはさらに時間がかかってしまいます。
 それに加えて、道路状況や天候などの影響も考慮する必要があるため、徒歩での移動は現実的ではありません。

日本語もいい感じです。回答もまとも。

ollama run qwen2

>>> 東京から徒歩で大阪までは何時間ですか？
東京都心から大阪市内までを徒歩で移動する距離や、特に指定の起点がなければ正確な時間を示すのは難しいです。しかし、一般
的に言えば、中央区や千代田区内など都市部からの大阪への徒歩は数十分〜1時間程度です。

ただし、大阪からは新大阪駅などにある交通機関の出発地点から東京都内へ行く場合を指しているのであれば、時間が大幅に変わ
ります。大阪府と東京都が隣接している区間の場合でも最速で約1時間30分〜2時間程度かかり、特に時間帯によっては交通渋滞な
どにより長くなることがあります。

また、安全確保の観点からも歩行による遠距離移動には十分な休息や食事時間を考慮する必要があります。詳細な移動計画を立て
られる場合は、具体的な起点と終点を教えていただけるとより精度の高い回答が提供できるかもしれません。

日本語もいい感じです。しっかりと説明してくれる。

ollama run glm4

東京から徒歩で大阪までは何時間ですか？
東京と大阪の間の距離は大体約300〜400キロメートルありますが、これらの都市を徒歩で移動するのは現実的ではありません。し
かし、仮に理論的に考えてみると、平均的な成人の歩行速度（1時間あたり4～5キロメートル）を基に計算すると以下のようにな
ります。

- 300キロメートルの場合：300 ÷ 4 = 75時間
- 400キロメートルの場合：400 ÷ 5 = 80時間

したがって、東京から大阪まで徒歩で移動するには少なくとも75時間から80時間はかかることになります。これは実用的には考え
られない時間の範囲ですが、理論的な計算としてはこの程度です。実際には、公共交通機関（電車やバス）を利用して数時間以内
で移動することが可能です。

日本語もいい感じです。計算もできる。

チャットの終了

ctrl+d
でチャットを終了できます。

モデル一覧

ollama list
と入力します

>ollama list
NAME                                            ID              SIZE    MODIFIED
aya:latest                                      7ef8c4942023    4.8 GB  7 days ago
gemma2:latest                                   ff02c3702f32    5.4 GB  11 days ago
qwen2:latest                                    e0d4e1163c58    4.4 GB  13 days ago
glm4:latest                                     5b699761eca5    5.5 GB  2 weeks ago
llama3.1:latest                                 91ab477bec9d    4.7 GB  2 weeks ago

モデル削除

ollama rm モデル名
で削除できます。

>ollama rm glm4