GPT-4o(GPT-4 Omni)使ってみた感想＋ローカルLLM(LM Studio)の導入手順
2024/5/18開催の「雑談しながら学ぶ！ChatGPT」に参加いただきまして、ありがとうございました！
第4回 雑談しながら学ぶ！ChatGPT-開催報告(2024/5/18)
忘れないうちに、みんなで話した内容をまとめておこうと思います。
月1程度で開催しているShear主催の生成AI系の雑談＆情報共有メインな勉強会となりますが、今回で4回目の開催でした。
何気に土曜日開催は初でしたが、平日の仕事の疲れで準備がまったくできてなくてすみません。
平日は時間がなくて情報キャッチアップできてない生成AIトレンド周りを実際に触ってみるというイベントですが、今回は以下を試しました。
GPT-4o（GPT-4 Omni）を触ってみる！
レスポンスめっちゃ早くなりましたね！
自分は課金していますが、もう課金いらんかもしれん（4oは無料で使えます）と思い始めました…。
イベントの中では、以下を試しました。
画像生成（無料アカウントでは初）➡使える！
プロンプト：かわいいリス耳の女の子のキャラクター画像をください
いいですね～～～
無料で手軽に画像生成できます。
WEB検索（無料アカウントでは初）➡使えない…
自分はWEB検索はPerplexity（https://www.perplexity.ai/）を使っているので、比較してどうか？という触り方をしました。
所感としては、けっこう厳しかったですね。。。
4oのWEB検索を使った利用は難しそうです。（4も同様）
画像認識＋コード生成（無料アカウントでは初）➡まぁまぁ
画像認識ができるようになったということで、このUIのWEBページを作ってというのが、どれくらい出来るのか試しました。(html/CSSのコード生成)
結果、精度としては厳しかったです。簡単なUIとか細部のデザインにこだわりないなら使えるかと。あとは最初にドラフト書かせるだけなら、使えるかな…という感じでした。
結論：GPT-4oのレスポンスの速さは、めっちゃ使える！！！
細かい新機能に関しては突っ込みどころはあるけど、やっぱり速さは最強！！！イライラしなくなったので本当に助かります！！
ローカルLLM（Llama 3）を触ってみる！
今回は、ローカルLLMを気軽に導入できるLM Studio（https://lmstudio.ai/）を紹介しまして、その場でインストールを始めました。
LM Studioのインストールはめっちゃ早く終わりましたが、LLMのダウンロードに時間がかかりました。
そして起きてしまった。めっちゃアプリ落ちるやん…！！！！😢
原因はスペックではありません、自分の場合はCドライブの空き容量が足りなかった…。
これから使って見たいという方、Cドライブの空き容量は十分に確保しておいてくださいませ！
この度はイベント中にLLMダウンロードできないという事態に、大変失礼しました…。自分はイベント後に改めて色々LLMを触ってみました。
「LM Studio」の導入手順を説明
こちら👇がインストールして最初に立ち上がる画面です。
左側のツールバーの虫眼鏡からお目当てのLLMを探してもいいですし、👇以下のトップの画面から検索もできますし、画面の下にある3カラムはみんなが使っている人気のLLMのモデルが羅列されてます。
こちら👇は検索画面ですが、最もDLされているモデルでソートをかけて探すのがおすすめです。このとき、モデルを提供しているアカウントもチェックすることをおすすめします。（右上にある「Open Model Card in Browser」からアカウントを確認できます）
DLは、画面のDownlandをクリックしてください。そうすると、画面の一番下にダウンロードバーが表示されて、ダウンロードが開始されます。（※このときCドライブの容量が足りないと、アプリが落ちます😢）
ダウンロードできたら、早速チャットを試してみましょう！
左のツールバーの吹き出しアイコンをクリックして、チャット画面にいきます。
一番上にある「Select a model to load」からDLしたモデルを選んで、一番下のテキスト入力欄からプロンプトを入力してください。
以上！こんな感じで、いろんなLLMを試すことができますよ！！
楽しいのでぜひお試しください。
また、お試しいただいた方、ぜひ利用PC環境のスペック（CPU,GPU,メモリ等）を教えていただけたら嬉しいです。どこまでPCスペック落とせるのか知りたい…！i5とかRTX以外で動かないかな…厳しいかな…。
（ちなみに自分はRyzen7,RTX 3060 12GB,メモリ32GB）
以上、開催報告でした。
また気になる大型アップデート等あれば、不定期に開催いたします！
扱ってほしいテーマもあればリクエストしてください～。