見出し画像

Mac で Moshi を試す

npaka

「Mac」で「Moshi」を試したのでまとめました。


1. Moshi

「Moshi」は、Kyutaiによって開発された低遅延が優れている会話型AIです。

2. Macでの実行

Macでの実行手順は、次のとおりです。

(1) Pythonの仮想環境の準備。

(2) 「moshi_mlx」パッケージのインストール。

pip install torch torchvision torchaudio
pip install moshi_mlx

(3) 「Rust」のインストール。

curl --proto '=https' --tlsv1.2 -sSf https://sh.rustup.rs | sh

次のように選択肢が表示されたら「1」を選択します。

1) Proceed with standard installation (default - just press enter)
2) Customize installation
3) Cancel installation

インストール後、以下を実行します。ターミナル起動毎に実行したい場合は、~/.zshrc に追記します。

source $HOME/.cargo/env

(4) 実行。

python -m moshi_mlx.local_web -q 4 --hf-repo kyutai/moshika-mlx-q4



いいなと思ったら応援しよう！