nvidia jetson nano に ollamaインストールした。

やるぞ

使うヤツ

Nvidia Jetson Nano
Nvidia Jetson Nano Developer kit 4GB
Ubuntu 18.04.6 LTS

インストール

Download Ollama on Linux

エラー出た

Installing NVIDIA repository...
curl: (22) The requested URL returned error: 404

無視していいらしい。

Install Ollama via standard Linux command (ignore the 404 error): curl https://ollama.com/install.sh | sh
Pull the model you want to use (e.g. mistral): ollama pull mistral
Start an interactive session: ollama run mistral

いまいち

mistral に
What is the highest mountain in Japan?
って聞いても途中であきらめたりするので、モデルを変える。

ラズパイ5でも動いたphi3にする。

ollama pull phi3
ollama run phi3

日本語も返してくれる。遅いけど。

まぁええんちゃう。
ラズパイ5がメモリ8GBで、nvidia jetson nanoが4GB
速度の違いはあんま覚えてない。

追記

ラズパイ5で動いてた記憶やったけど、
電源不足であんまり安定してないかも。