"Bring your machine learning and AI models to Apple silicon"セッション概要 #WWDC24

WWDC24のセッション "Bring your machine learning and AI models to Apple silicon" のセッションについて。

Bring your machine learning and AI models to Apple silicon - WWDC24 - Videos - Apple Developer

⚠️ 本記事の画像、引用部分は基本的に同セッションからの引用です。

本セッションのスコープ

Core MLモデルをデプロイするワークフローにTrain（学習）, Prepare, Integrate（アプリへの組み込み）があるとして、

本セッションでは "Prepare" 段階にフォーカスして、多くの最適化手法について解説する、とのこと。

TrainをiOSエンジニアである自分がやる機会はあまりないし、Integrateはまた別途キャッチアップしているので、まさにいま個人的に興味のある部分について解説されているセッションのようだ。

アジェンダ

• Model compression

モデルの圧縮から始めます。このセクションでは、さまざまな圧縮技術とワークフローの使い方を学びます。

• Stateful model

ステートフル・モデルのサポートについて

• Transformer optimization

トランスフォーマーアーキテクチャの最適化について

• Multifunction model

多機能モデルのサポートについて

非常に長くなったのでそれぞれについては個別記事にまとめていくことにした。

→ 必見の内容。ローカルLLMやCore ML版Stable Diffusionを検討した際にまさに壁に感じていたところを解決する新機能。

その他