![見出し画像](https://assets.st-note.com/production/uploads/images/139227989/rectangle_large_type_2_56b0e145f8094b7ceb556adaaab30939.png?width=1200)
【え?こんなに簡単なの!?】 LMstudioでローカルAIを動かす方法 【Mac】
M1/M2/M3あたりを搭載しているMacがあれば、つよつよGPUが無くてもローカルでAIが動かせるってさ! じゃぁやってみよう!
M1/M2/M3シリーズは、なんか通常のメモリをGPUのメモリとして使っちゃうことができる仕組みがあるんだってさ。だからAIを動かすために必要なGPUメモリが足りなくても動かせちゃうんだって!? すごー
まずここにアクセスして LM studio をインストールする(無料)
https://lmstudio.ai/
![](https://assets.st-note.com/img/1714611560575-9ryV03EUMy.png?width=1200)
アプリを立ち上げましょう!
立ち上げたらさっそく試したいmodelダウンロードしましょう
(オープンになってるmodelですが沢山あります)
![](https://assets.st-note.com/img/1714612276127-fhWgkLhvVr.png?width=1200)
↓
試すmodelがダウンロードされるのを待ちます
![](https://assets.st-note.com/img/1714612392624-5MUaU2jv8C.png?width=1200)
↓
ダウンロード終わったら話しかけてみよう!
![](https://assets.st-note.com/img/1714612748510-SiVprJ3j7w.png?width=1200)
↓
(まずは英語でこんにちは)
![](https://assets.st-note.com/img/1714612827945-acppSIyWpb.png?width=1200)
↓
以上!簡単でしたね!(簡単すぎ)
もっと喋れるAI model を探す
先ほど入れたmistralちゃんはあんまり日本語得意じゃないみたい(知能も低め…)
![](https://assets.st-note.com/img/1714613011671-kFrRLcs4jd.png?width=1200)
↓
Llama3賢いって聞くけど、マシンスペック的にちょっと動くかわからないなぁ
![](https://assets.st-note.com/img/1714613277528-fDU604wxhO.png?width=1200)
↓
llama3の8Bモデルを探した(7B/8Bとかより70Bとかのほうが知能高いよ。動かせるなら)
![](https://assets.st-note.com/img/1714613463187-DIWbTNEFSr.png?width=1200)
↓
DL後、model選択を変更して話しかけてみる
![](https://assets.st-note.com/img/1714613597363-vZS168Ofup.png?width=1200)
↓
思い切って、「君のマシンには辛いかもよ」ってモデルをDLして試す
![](https://assets.st-note.com/img/1714613713998-YxiePjoIxG.png?width=1200)
↓
DL完了!
(さて、どうなりますか…)
![](https://assets.st-note.com/img/1714613828795-spDgkkTJDx.png?width=1200)
![](https://assets.st-note.com/img/1714613866057-JlXp3EZ9XD.png?width=1200)
![](https://assets.st-note.com/img/1714613901965-NiuwAvaLv7.png?width=1200)
![](https://assets.st-note.com/img/1714613922371-SxLjDtiDTT.png?width=1200)
おっそぉぉぉぉぉい
おっそいけどがんばってる
すごいね!2024/5の時点でローカルMacでちゃんとAIちゃんが動いてる
インストール簡単。いろんなモデルの試せる!
(M1/M2/M3系搭載のMacならGPUメモリ足りなくて動かなそうなmodelでも動かせちゃう)
動きが遅くても、そこそこの知能のAIがローカルで動くのは素晴らしいですね! ※電気代のみでいいし
最近はmodel開発の方もどんどん進化してるので、軽快に動いて高知能のAIモデルもそのうち出てきそうだよね。楽しみだね!
ではでは良きローカルAIライフを!!
ちなみに
もっとマシンパワー使ってよ!って設定も可能
![](https://assets.st-note.com/img/1714614730713-ShNnAjtHmg.png?width=1200)
ちなみに その2
DLしたモデルを、サーバーを立ててAPI化することも可能
![](https://assets.st-note.com/img/1714615095607-I0lxUJNOfI.png?width=1200)