(旧版)Macで生成AIを使おうと思ったらGPUの歴史を辿った
この投稿は情報整理しきれないまま公開したこともあり、ChatGPT searchを使って再編集しました。
※この投稿の後に、MacのGPUを活用したくなり、LLM 「Llama.cpp」を試してみました。
M1 Pro搭載MacBook Proで画像生成AIやLLM(大規模言語モデル)を使おうとしたところ、思うように動きませんでした。
色々調べたのですが解決策はまだ見つからず、並行してMacのGPUに関する情報収集をしたような形になりました。
※カバー画像はBing(DALL・E 3 Preview)で生成。
始まりはMacBook Pro
Macが初めてNVIDIAの搭載したグラフィックスボード(もしくはGPU)はGeForce 8600M GTでした。
(以下は2007年6月8日の記事です)
MacのGPUの歴史
GoogleのBardにまとめてもらいました。
1994年:Power Macintosh 9500/200にATIのRage IIc GPUを搭載
1997年:Power Macintosh G3にATIのRAGE 128 GPUを搭載
2002年:PowerMac G5にATIのRadeon 9700 GPUを搭載
2006年:MacBook ProにNVIDIAのGeForce 8600M GT GPUを搭載
2010年:MacBook AirにIntelのHD Graphics 3000 GPUを搭載
2013年:Mac ProにAMDのFirePro D300 GPUを搭載
2015年:MacBook ProにAMDのRadeon R9 M370X GPUを搭載
2016年:MacBook ProにAMDのRadeon Pro 460 GPUを搭載
2018年:MacBook ProにAMDのRadeon Pro Vega 20 GPUを搭載
2020年:MacBook ProにAppleのM1 Pro GPUを搭載
2021年:MacBook ProにAppleのM1 Max GPUを搭載
Mac miniで外付けGPUも
外付けのGPU(eGPU)も使用できていたそうです。
当時アップデートされないモデル(Mac mini)を外付けGPU(eGPU)を使って活用している投稿を見つけました。
(この投稿は2014年9月17日公開、2017年3月2日に更新されています)
外付けGPUを正式にサポート
AppleがeGPUを正式にサポートしたのは2018年でした。
「macOS High Sierra 10.13.4」から使用できるようになりました。
(参考にしたのは2018年4月2日の記事です)
NVIDIAと終焉
しかし、2019年11月26日の記事を見ると、NVIDIAがMacへのサポートを終了していました。
CUDAのMac対応終了
翌年、NVIDIAはGPUの開発環境「CUDA」のmacOSのサポート終了を発表しました。
参照したのは以下は2020年6月6日の投稿から。
eGPUは健在
とはいえ、eGPUが使えなくなったわけではないです。
以下の投稿(2020年5月26日)でもわかるように、Mac miniで使用してる例がいくつか見つかります。
M1チップ発表
そしてAppleは2020年11月10日、「M1」チップを発表します。
CPUとGPUを1つに統合するというSoC(System on a Chip)設計を採用しています。
翌年の2021 年 10 月 18 日には上位の「M1 Pro」と「M1 Max」を発表しました。
eGPU使うならIntelのまま
AppleのサイトにはeGPUの利用に関するページが残っています(公開日:2023 年2月1日)。
ただし、「eGPU を使うには、Intel プロセッサを搭載した Mac が必要です。」と書いてあります。
Macは機械学習向きなのか
目的にもよりますが、全般的に機械学習にはNVIDIAのGPUを使えた方が有利だと思います。
AppleとNVIDIAが仲直りしするか、AMDのRadeonがもっと機械学習に強くなるかーー期待します(参考:2020年5月公開の以下の投稿)。
プロも使いにくい?
影響は機械学習だけではないようです。
2023年6月28日の記事では、外部GPUが追加できないことは、プロのグラフィックの専門家にとって大きな問題とされている、と書かれています。
PyTorchがMacのGPUで学習可能に
MacのGPUに対してネガティブなコメントが散見していますが、活用できる環境はこれから整っていきそうです。
2022年5月に、機械学習フレームワーク「PyTorch」がMacのGPUを使って学習可能になるという発表がありました。
GPUで動かす手順に関する投稿なども見つかります(以下の例は2023年3月の投稿)。
生成AIはまだMacよりWindows
MacのGPU活用は進んでいるようですが、昨年(2022年)から話題の画像やテキストの「生成AI」ではまだ出遅れ感を感じます。やはり推奨環境はWindows & GeForce。
画像生成AIの「Stable Diffusion」用ユーザーインタフェース「AUTOMATIC1111」の2023年05月31日のGitHubには、Macについてこう書かれています。
「it is incredibly slow and consumes an excessive amount of memory(信じられないほど遅く、大量のメモリを消費します)」(2023年5月更新)。
一応Mac対応のグラフィックボード
Appleのサイトには、互換性のある「Intel 搭載モデルの Mac Pro のグラフィックカード(ボード)」が載っています(公開日:2023年6月21日)。
2019年モデルで互換性があるのはすべてAMDのRadeon。
繰り返しになりますが、これは「Intel 搭載モデル」に限る話。
このページからも、AppleはCPUもGPUも独自路線であることを再認識しました。
Apple vs NVIDIA?
GPUについては、AppleはNVIDIAと対峙しているように思えます。
しかし、以下の記事(2023年9月公開)に書いてあるように、AIブームが後押し、NVIDIAが独走していると言っていいようです(NVIDIAがAIブームを後押ししていると言ってもいいかもしれません)。
その勢いはNVIDIAの時価総額に反映されています(参考は2023年5月公開の記事)。
AppleがLLMを発表
Appleは、2023年10月にLLM(大規模言語モデル)「Ferret」を発表しました。
(正確には論文を公開したということのようです)
こちらがFerretのGitHub。
現時点では概要しか記載されていません。
論文はこちらです
「The resulting model not only achieves superior performance in classical referring and grounding tasks, but also greatly outperforms existing MLLMs(Multimodal Large Language Model ) in region-based and localization-demanded multimodal chatting.(ローカライゼーションが要求されるマルチモーダルチャットにおいても既存のMLLMを大きく上回る)」
という記述があります。
ようやく、AppleのMシリーズGPUに最適化されたLLM、そして生成AIアプリが登場するかもしれません。