AWS Marvell Trainiumの採用状況：NVIDIAを脅かすか？

AmazonのAIアクセラレーターチップ「Trainium」の設計には、主に米国のMarvell Technologyが関与しています。特に第2世代のTrainium2チップについては、Marvellがフロントエンドとバックエンドの両方の設計を担当しています。
Marvellの役割

• 2024年12月にAWSと5年間の戦略的提携を拡大

• カスタムAIチップ（Trainium2）の設計・製造を担当

• 光DSPやイーサネットスイッチングチップなどデータセンター向け半導体も供給

• AWSのクラウドインフラを活用した設計環境を構築
  台湾Alchipとの役割分担

• 初代Trainium1とInferentia2ではAlchipがバックエンド設計を支援

• 第2世代以降はMarvellがフルスタック設計を主導

• 現在開発中の第3世代Trainium3でもMarvellが関与する見込み
  技術協力の背景

• AWSはNvidiaへの依存軽減を目的に自社チップ開発を推進

• Trainium2は前世代比4倍の性能向上を実現

• Marvellのカスタムチップ受注額は2024年時点で10-20億ドルと推定

1. 採用時期

• 2024年中に提供開始予定

• 2025年2月7日現在、既に一般提供が開始されている

2. 採用規模

• Amazon EC2 Trn2インスタンスとして提供

• 1インスタンスあたり16個のTrainium2チップを搭載

• 最大10,000個のTrainium2チップまでスケールアップ可能

利用形態

• 標準的なTrn2インスタンス：16個のTrainium2チップで20.8ペタフロップスの演算性能

• Trn2 UltraServer：64個のTrainium2チップを統合し、最大332.8ペタフロップスの理論演算性能
  AWSは、Trainium2を活用して大規模言語モデル（LLM）やマルチモーダルモデルなど、次世代の幅広い生成AIアプリケーションの構築を可能にすることを目指しています。

NVIDIAの脅威か？

金額も少なく今のところ脅威ではない