ジェンスン・フアン台湾講演。私はChatGPT desktop app for macを駆使して英語ときには台湾語の交じるスピーチをリアルタイムで記録させた。なおかつスピーチの場面ごとにリアルタイムで論文スタイルにまとめさせた。
以下はジェンスン・フアン台湾講演のすべての内容である。
オンラインスピーチをAIがこのようにリアルタイムで纏めてくれる。
これを革命と言わずんや
ジェンスン・フアン登場
何が起きているのか、私たちが一緒に仕事をする意味とは？
ジェネレーティブAIとは何か？
私たちの業界、そしてあらゆる業界への影響とは？
私たちがどのように前進し、この素晴らしい機会に取り組んでいくかの青写真は？次に何が起こるのか？
ジェネレーティブAIの次に来るものは？
本当に、本当にエキサイティングな時代だ。コンピューター業界の再スタートです。あなたが築き上げた産業は次の大きな旅に出る準備をしています。
しかし、その前に、エヌビディアはコンピュータ・グラフィックス、シミュレーション、人工知能の交差点に生きています。これが私たちの魂です。
今日お見せするものはすべてシミュレーションです。
数学です。
科学です。
コンピュータサイエンスです。
驚くべきコンピューター・アーキテクチャだ。
どれもアニメーションではありません。
すべて手作りです。
これがNVIDIAの魂であり、私たちがOmniverseと呼ぶこの仮想世界にすべてを注ぎ込みました。どうぞお楽しみください。
コンピューティングインフレーションの課題をGPUが解決
**概要
エヌビディアは、オムニバースにおけるコンピューティングと人工知能の統合の最前線に立っている。
これらのテクノロジーは、現在約60年の歴史を持つコンピューター業界を再構築しようとしています。
1964年のIBMシステム360に始まり、中央演算処理装置（CPU）、汎用コンピューティング、オペレーティング・システムといった本質的なコンピューティング・コンセプトが導入されました。
PC革命はコンピューティングを民主化し、iPhoneはモバイル・コンピューティングに革命をもたらした。
**現在の課題
伝統的なCPUの性能スケーリングは著しく減速しているが、一方で計算に対する需要は指数関数的に伸び続けている。
この矛盾は、コンピューティングに必要なコストとパワーがエスカレートする、いわゆる「コンピューティング・インフレーション」を引き起こす。
**解決策 アクセラレーテッド・コンピューティング
20年近くにわたり、NVIDIAはこれらの課題に対処するためにアクセラレーテッド・コンピューティングを開拓してきました。
アクセラレーテッド・コンピューティングは、CPUと並行してGPUを使用し、特定の計算タスクをオフロードして高速化することで、コストと消費電力を抑えながらパフォーマンスを劇的に向上させます。
このアプローチは、コンピューターグラフィックス、画像処理、シミュレーション、ディープラーニングなどの並列化可能なタスクに特に効果的です。
**主なテクノロジーとライブラリ： **CUDA (Compute Computing)
CUDA (Compute Unified Device Architecture):** GPU のパワーを活用することで大幅な性能向上を可能にする並列コンピューティング・プラットフォームとプログラミング・モデル。
CUDNN (CUDA Deep Neural Network library):** 深層学習アプリケーションを最適化します。
CuLitho:** 半導体製造における計算リソグラフィを高速化します。
Parabricks:**ハイスループット遺伝子シーケンス機能を提供します。
CuOpt:**複雑な最適化問題を解決する。
CuQuantum:**研究開発のための量子コンピューティングをエミュレートします。
CUDF:**Spark、Pandas、NetworkXのようなデータ処理ライブラリを高速化します。
**インパクトとメリット
高速化されたコンピューティングは大きなメリットをもたらす：
性能:** 電力とコストのわずかな増加で最大100倍のスピードアップを達成。
コスト効率:** データセンターの運用とクラウド・コンピューティングのコストを大幅に削減。
エネルギー節約:** 計算需要の増加にもかかわらず、消費電力を削減。
幅広い採用：*** 加速コンピューティングはさまざまな業界に統合され、アプリケーションやワークフローを変革している。
**課題と解決策
アクセラレーテッド・コンピューティングへの移行には、並列処理能力をフルに活用できるようにソフトウェアを書き換える必要があります。NVIDIAは、幅広い分野に特化したライブラリを開発することで、これを容易にし、エコシステムがアクセラレーテッド・コンピューティングを効果的に活用できるようにしています。
**実世界でのアプリケーション
AIとディープラーニング:** CUDNNのようなライブラリは、研究や産業におけるAI技術の普及を促進します。
データ処理:** CUDFは、現在GoogleのColabプラットフォームで利用可能なPandasのような一般的なデータサイエンスツールを高速化し、最小限の労力で大幅な性能向上を実現します。
**結論
NVIDIAの加速コンピューティングとAI統合への取り組みは、コンピュータ業界を再構築しています。従来のCPUスケーリングの限界を克服し、強力で効率的な代替手段を提供することで、NVIDIAはさまざまな分野で画期的な進歩を可能にしています。コンピューティングの未来は、CPUとGPUの相乗効果にあり、前例のないパフォーマンスとイノベーションを推進します。
CUDAとアクセラレーテッド・コンピューティングによる「鶏が先か卵が先か」問題の解決
**ジレンマの克服
コンピューティング・プラットフォームの成功は、ユーザーの導入、大規模なインストールベース、開発者の関心という好循環に依存しています。
当初は、アプリケーションのないユーザーや、ユーザーのいない開発者を惹きつけることは困難です。
しかし、NVIDIAは過去20年にわたり、ドメインに特化したライブラリとアクセラレーション・ツールを開発することで、この「鶏が先か卵が先か」の問題に取り組んできました。
開発者ベースの拡大：* NVIDIAは現在、500万人の開発者を抱えています。
NVIDIAは現在、世界中で500万人の開発者を抱え、ヘルスケア、金融サービス、自動車などの業界にサービスを提供しています。このような幅広い採用は、OEMやクラウドサービスプロバイダーがNVIDIAの技術でシステムを構築することを促し、規模を拡大しコストを削減するポジティブなフィードバックループを生み出します。
効率性の向上:
高速化されたコンピューティングは、コンピューティングのコストを大幅に削減します。例えば、100倍のスピードアップは、計算コストを最大98%削減することができます。この効率は、GPUのような特殊プロセッサがCPUと並行して動作し、並列化可能なタスクのパフォーマンスを劇的に向上させることで達成されます。
**新たなアプリケーション
計算コストが下がるにつれ、新たな可能性が生まれています。膨大な量のデータを処理する大規模な言語モデルは、計算コストの削減により実現可能になりました。これが人工知能や生成AIの台頭につながっている。
CUDAの重要性：*
CUDA（Compute Unified Device Architecture）は、この変革において重要な役割を果たした。様々なアルゴリズムやアプリケーションを高速化するプラットフォームを構築することで、CUDAはコンピューティングの限界コストを引き下げ、大規模な言語モデルやデジタルツインのようなイノベーションを可能にしました。
NVIDIA Earth-2：地球のデジタル・ツイン
Earth-2の紹介：*。
Earth-2は、エヌビディアの最も野心的なプロジェクトのひとつで、地球のデジタル・ツインを作成することを目指している。この仮想モデルは、AI、物理シミュレーション、およびコンピューターグラフィックスを使用して、気候変動やその他の環境への影響を予測し、災害を回避したり気候変動に適応したりするためのより良い意思決定を支援します。
CoreDiv AIモデル：*。
CoreDivは、WRF（気象研究予報）の数値シミュレーションを基に学習させたディープラーニングAIモデルです。従来のモデルの12倍の解像度を達成し、25キロメートルから2キロメートルに向上した。この飛躍的な向上により、地域の気象予測が強化され、従来のシミュレーションよりも1,000倍速く、3,000倍エネルギー効率が高い。
**台湾での応用例
台湾の中央気象局では、CoreDivのAIモデルを使って、台風の上陸地点をより高い精度で予測している。次の目標は、個々の道路や建物のレベルまで、都市インフラへの影響を考慮した超強力な予測を実現することだ。
高解像度シミュレーション：*。
CoreDiv AIはまた、高解像度の物理モデルを使って大気や沿岸の境界をシミュレートします。この機能は、台風時の豪雨のような現象を予測し、被害の軽減や歩行者の保護に役立てるために極めて重要です。
**結論
NVIDIA Earth-2は、AI、物理シミュレーション、観測データを組み合わせることの威力を例証している。このプロジェクトは、国や企業が異常気象を予測し、それに対応することを支援し、加速されたコンピューティングとAIの変革の可能性を示しています。私たちがコンピューティングのコストを下げ、技術力を強化し続けることで、新しく革新的なアプリケーションが登場し、私たちの地球にとってより良い未来が形作られるでしょう。
ディープラーニングの背景
**ディープラーニングの背景
機械学習のサブセットであるディープラーニングは、人間の脳の構造と機能にヒントを得た人工ニューラルネットワークに基づいている。これらのネットワークは、一連の変換を通してデータを処理する相互接続されたノード（ニューロン）の層で構成されている。基礎となるアルゴリズムは数十年前に考案されたが、深層学習が目覚ましいブレークスルーを達成したのは、膨大な量のデータ、より大規模なネットワーク、そして大きな計算能力が出現してからである。
長期的影響と可能性：* ディープラーニングの長期的影響は甚大である。
ディープラーニングの長期的影響は甚大で、自然言語処理、コンピュータビジョン、音声認識などの分野を変革する。その可能性は、医療（医療画像解析や創薬など）から金融（アルゴリズム取引や不正検知など）、そしてそれ以上に至るまで、事実上あらゆる産業に及んでいる。ディープラーニング・アーキテクチャのスケーラビリティは、これまで以上に大規模なネットワークとより多くのデータによって、継続的な進歩と新たな応用が約束されています。
ディープラーニングの発展におけるNVIDIAの役割
**アーキテクチャの革新
2012年、NVIDIAはディープラーニングをよりよくサポートするためにGPUアーキテクチャの改革を開始した。これには、ディープラーニングに不可欠な行列演算用に設計されたテンソルコアの追加、MDLinkの創設、CUDNN、TensorRT、Nickelのような重要なライブラリとツールの開発などが含まれる。これらのイノベーションは、2016年にOpenAIに提供された初のAIスーパーコンピュータ、NVIDIA DGXに結実した。
**トランスフォーマーと言語モデル
2017年までに、トランスフォーマーの発見により、人間のようなテキストを理解し生成できる大規模な言語モデルの学習が可能になった。自然言語理解におけるこのブレークスルーは、GPT-3やChatGPTのようなモデルへの道を開いた。何千ものNVIDIA GPUを使用して膨大なデータセットで訓練されたChatGPTは、史上最も急速に成長したアプリケーションとなり、生成AIの計り知れない可能性と魅力を実証した。
ジェネレーティブAI：新時代
**知覚から生成へ
ChatGPTが登場するまで、AIは主に自然言語理解、コンピュータビジョン、音声認識のような知覚タスクに焦点を当てていました。ChatGPTは、一語ずつ首尾一貫した意味のあるテキスト（トークン）を生成できる生成AIを世界に紹介しました。この能力は、画像、図表、音楽、音声、動画、さらには化学物質やタンパク質のような複雑な構造の生成にまで及んでいる。
デジタル・ツインズとEarth-2:。
NVIDIAのEarth-2プロジェクトは、デジタル・ツイン（現実世界の実体の仮想モデル）の作成における生成AIの力を例証している。これらのモデルは、気候変動の影響を予測し、異常気象時の都市インフラをシミュレートし、高解像度の予測を提供することができます。Earth-2の一部であるCoreDiv AIは、ディープラーニングを用いて、これまでにない解像度とスピードで気候モデルを生成する。
AI工場： 新たな産業革命
新たな商品としてのAI:。
ジェネレーティブAIは、AI工場が膨大な価値を持つ新しい商品であるトークンを生産する、新しい産業革命を象徴している。ニコラ・テスラの交流発電機が電気に革命を起こしたのと同様に、エヌビディアのAIジェネレーターは、産業全体に適用可能なトークンを生産する。この能力により、IT産業は3兆ドルのセクターから、100兆ドル相当のグローバル産業に直接影響を与えるセクターへと変貌する。
**スケーラビリティと産業へのインパクト
ジェネレーティブAIモデルを作成する手法は、非常にスケーラブルで再現性が高い。このため、さまざまな領域でAIモデルが急速に普及している。IT業界は現在、特定のニーズに合わせたインテリジェンスとソリューションを生成することで、膨大な数の業界にサービスを提供する態勢を整えている。これはコンピューティング業界だけでなく、業界の運営方法にも革命をもたらし、AIを現代の製造業やサービスの中核的な要素にしている。
結論
ディープラーニングからジェネレーティブ AI への進化は、計算能力と革新的なアーキテ クチャの進歩に後押しされ、テクノロジーにおける極めて重要な瞬間を意味する。
NVIDIAの貢献は、GPUアーキテクチャの変革から、AIスーパーコンピュータの開発、ドメイン特化型ライブラリの開発まで、この旅路に役立ってきた。ジェネレーティブAIのインパクトは、従来のコンピューティングをはるかに超え、産業と技術革新の新時代の到来を告げるものです。このシフトは産業の再定義を約束し、成長、効率性、革新のための前例のない機会を創出する。
ツールからジェネレーティブ・スキルへ： 新しいパラダイム
コンピューティングの変容：*」。
伝統的に、コンピューターは特定のタスクを実行するための道具であった。しかし、ジェネレーティブAIの出現により、コンピューターはツールからスキルを生成し、自律的にタスクを実行する存在へと進化しつつある。この変化は、パッケージ・ソフトウェアがPC業界を変革し、日常的な使用に不可欠なものとなった90年代初頭のソフトウェア革命と類似している。
NVIDIA 推論マイクロサービス (NIMS)
NIMSの紹介:。
NVIDIAはNIMS（NVIDIA Inference Microservices）と呼ばれる新しいタイプのソフトウェアを開発した。NIMSは事前に訓練されたAIモデルであり、特定のタスクを効率的に実行するための複雑なコンピューティングスタックをカプセル化しています。各 NIM は、複数の GPU にまたがるワークロードの分散を管理する洗練されたフレームワーク内で実行され、さまざまな並列化技術を活用してスループットと効率を最大化します。
**主要コンポーネント
CUDA:**基盤となる並列コンピューティング・プラットフォームとプログラミング・モデル。
CUDNN:** ディープラーニングタスクを最適化します。
TensorRT:**高性能ディープラーニング推論ライブラリ。
Triton Inference Server:** モデルのデプロイとスケーリングを管理します。
クラウドネイティブ統合:** Kubernetes環境での自動スケーリングをサポートします。
管理サービス:** AIモデルを監視・管理するためのフックを提供します。
共通API:** NIMSと対話するための標準インターフェース。
NIMSの複雑性と価値
**運用の複雑さ
NIMSは非常に多くのソフトウェアと依存関係をカプセル化しており、非常に効率的であるが、管理は複雑である。NVIDIAは、400を超える依存関係を1つのまとまったシステムに統合し、幅広い互換性を確保するために様々なハードウェアプラットフォームでテストしました。
領域を超えたアプリケーション：* NIMSは多様なアプリケーション向けに設計されています。
NIMSは、以下を含む多様なアプリケーション向けに設計されています：
ヘルスケアとデジタルバイオロジー： **医用画像と生物学研究のためのAIモデル。
デジタルヒューマン：人間の相互作用をシミュレートするモデル。
カスタマーサービス： **小売、金融、ヘルスケアなどのためのAI駆動型カスタマーサービスエージェント。
業界特有のタスク：物理シミュレーション、意味検索、視覚言語など、特定の業界向けに調整されたモデル。
AIファクトリー： 新しい産業モデル
**コモディティとしてのAI
エヌビディアのビジョンは、AIを新たな産業革命と位置づけ、AI工場が価値ある商品であるトークンを生産する。これらのトークンは、テキストや画像から複雑なシミュレーションや予測まで、AIモデルによって生成されるさまざまな出力を表します。
**スケーラビリティとユーティリティ
AIファクトリーモデルはスケーラブルで反復可能なため、業界を横断して新しいAIモデルを迅速に展開することができる。このアプローチは、コンピューティングを単なるデータ処理から実用的なインテリジェンスの生成へと変革し、世界全体で数兆ドル規模のセクターに影響を与えます。
アプリケーションの未来： AIチームの結成
**アプリケーション開発のシフト
明示的な指示によって構築される従来のソフトウェア・アプリケーションは、AIの専門家チームを編成するアプリケーションへと移行しつつある。様々なNIMSで構成されるこれらのAIチームは、複雑なタスクを実行するために協働し、タスクを分解して動的に作業負荷を分散する。
**ユーザーとのインタラクション
将来、ユーザーはミッションやタスクを定義することで、AIシステムと対話するようになる。中央のAI（NIM）は、人間の専門家チームを編成するのと同様に、タスクを達成するために他の専門化されたNIMSと連携する。このアプローチは、技術的な知識をあまり必要とせず、AIモデルに組み込まれた専門知識を活用するため、問題解決を民主化する。
結論
NVIDIAのジェネレーティブAIとNIMSにおける進歩は、コンピューティングにおけるパラダイムシフトを象徴している。顧客サービスの向上から産業オペレーションの変革に至るまで、これらのテクノロジーは様々な分野に革命を起こそうとしている。スケーラブルで反復可能な手法を持つAIファクトリーモデルは、イノベーションと効率性の新たなフロンティアを切り開き、IT業界とその先に新たな時代の到来を告げる。
AIとデジタルヒューマン
**AIカスタマーサービス・エージェント
AIを活用したカスタマーサービス・エージェントは、魅力的でパーソナライズされたインタラクションを提供します。これらのエージェントは、顧客からの問い合わせを理解し、効率的かつ効果的なサービスを提供することができる生成的なAIモデルを搭載しています。例えば、医療に関する問い合わせをサポートし、患者が処方箋やアレルギーに関する正しい情報を受け取れるようにします。
**シナリオの例
*患者：「ペニシリンにアレルギーがあることを医師に言い忘れました。それでも薬を飲んでも大丈夫ですか？"
AIエージェント: "あなたが処方された抗生物質、シプロフロキサシンとメトロニダゾールにはペニシリンは含まれていませんので、服用しても全く問題ありません。"
AIブランド・アンバサダー：*」。
ジェネレーティブAIは、AIブランドアンバサダーの創出も可能にし、マーケティングや広告に新たな潮流をもたらす。日本初のバーチャルモデルであるアイマのようなバーチャルモデルは、ジェネレーティブAIとコンピューターグラフィックスの飛躍的な進歩により、人間のような方法で消費者と対話することができる。
**デジタル・ヒューマンの特徴
デジタル・ヒューマンは、多言語音声認識と合成、および会話を理解し生成する大規模言語モデル（LLM）を基に構築されたAIモデルによって駆動される。これらのモデルは、実物そっくりの顔の3Dメッシュを動的にアニメーションさせることができ、リアルなインタラクションを生み出します。
NVIDIA ACE: NVIDIA ACE (アバター・エース)
NVIDIA ACE (Avatar Creation Engine)は、導入が容易で完全に最適化されたマイクロサービス(NIMS)としてパッケージ化されたデジタルヒューマンテクノロジーのスイートです。ACE NIMSには以下が含まれます：
ネモトロンSLMおよびLLM NIMS：** ユーザーの意図を理解し、他のモデルをオーケストレーションする。
リバ・スピーチNIMS:** インタラクティブな音声と翻訳機能を提供します。
音声対顔およびジェスチャーNIMS:** 顔や体の動きをアニメートします。
Omniverse RTX with DLSS:**肌や髪のニューラルレンダリングを可能にします。
デジタルヒューマンにおけるリアリズム:。
NVIDIAの技術は、皮膚との光の相互作用をシミュレートすることで、リアルな外観を再現し、柔らかく透明感のある外観を作り出します。これは、パストレースされたサブサーフェススキャッタリングによって実現され、デジタルヒューマンのリアリズムを向上させます。
**配備と統合
ACE NIMSは、既存のフレームワーク、エンジン、デジタルヒューマン体験に統合することができます。NVIDIA GDN (Global Delivery Network)上で動作し、100を超える地域に低遅延のデジタルヒューマン処理を提供し、シームレスで効率的なパフォーマンスを保証します。
**結論
ジェネレーティブAIとデジタル・ヒューマン・テクノロジーは、カスタマーサービス、ヘルスケア、マーケティングなどに革命をもたらしている。高度なAIモデルを統合し、NVIDIAの堅牢なインフラを活用することで、これらのデジタルヒューマンは、リアルでインタラクティブな体験を提供し、テクノロジーとの関わり方を変革します。
コンピューティングにおけるAIの進化と未来
**パソコンにおけるAIの統合
AIはパーソナルコンピューティングに不可欠な要素となりつつあり、さまざまなアプリケーションを強化し、新たな可能性を生み出している。AIによって強化された写真編集や文章作成ツールから、パーソナライズされたインタラクションを提供するデジタルヒューマンまで、PCは強力なAIプラットフォームへと進化しつつある。
**データセンターとAIスーパーコンピュータのスケーリング
NVIDIAのDGXから大規模AIスーパーコンピュータへの旅は、特にTransformersの導入により、AIの大幅な進歩を可能にした。これらのモデルは、人間の監視なしに膨大な量のデータから学習し、自律的にパターンや関係を見つけることができます。
**物理学に基づくAIの必要性
将来のAIモデルは、リアルな画像、動画、3Dグラフィックスを生成し、物理現象をシミュレートするために、物理法則を理解しなければならない。これは、ビデオや合成データからの学習、AI同士が相互作用して学習する強化学習によって達成できる。
**ブラックウェル 次世代AIスーパーコンピュータ
NVIDIAのBlackwellは、次世代AIの要求を満たすように設計されている。主な特徴は以下の通りです：
チップサイズと接続：*。
最大級の2つのチップを毎秒10テラバイトのリンクで接続。
グレイCPU:。
トレーニング中の高速チェックポイントとリスタート、推論中のコンテキストメモリの保存に使用。
第二世代トランスフォーマーエンジン：*。
計算の必要性に基づいて精度を動的に適応させる。
**セキュアAI
AIを盗難や改ざんから保護します。
第5世代NVLink:。
複数のGPUを接続してパフォーマンスを強化。
信頼性と可用性エンジン：*。
スーパーコンピューターの寿命と信頼性を保証します。
解凍エンジン：*。
ストレージからデータを20倍高速に取り出します。
**Blackwellのインパクト
Blackwellは、AIフロップス（1秒あたりの浮動小数点演算回数）を8年間で1,000倍に増加させ、計算能力を飛躍的に向上させた。この進歩により、2兆個のパラメータを持つGPT-4のような大規模モデルの訓練に必要なエネルギーは、前世代に比べて350分の1に削減される。
**物理ベースAIの応用例
物理学をAIモデルに統合することで、気候モデリングからヘルスケアまで、さまざまな分野でより正確なシミュレーションと予測が可能になる。これらのモデルは、本物そっくりのデジタル人間の生成、バーチャルリアリティ体験の強化、工業プロセスの最適化などに利用できる。
**結論
NVIDIAのBlackwellに代表されるAIとコンピューティングの進歩は、技術革新の新時代を牽引している。AIを日常的なアプリケーションに統合し、かつてない計算能力を持つスーパーコンピュータを開発することで、私たちはより賢く、より効率的で、より能力の高いAIシステムへの道を切り開こうとしています。この進化は、産業に革命をもたらし、効率を改善し、成長と革新のための新たな機会を生み出すことを約束します。
BlackwellとDGXによるAIコンピューティングの進歩
**AIモデルのエネルギー効率性
GPT-4のような大規模言語モデルのトークン生成に必要なエネルギーは大幅に減少した。以前は、1つのトークンを生成するのに、100ワットの電球2つを2日間動かすのと同等のエネルギーが必要でした。しかし、AIハードウェアの進歩により、トークン1つあたりわずか0.4ジュールにまで低減され、最小限のエネルギー消費で高速に効率よくトークンを生成できるようになりました。
Blackwellの紹介：*」。
NVIDIAのBlackwellは、AIコンピューティングにおける大きな飛躍を象徴しています。Blackwellチップは、高性能でエネルギー効率の高いAI処理のために設計されており、DGXシステムに統合されています。
DGX Blackwellシステム:
DGXシステム:**DGX Blackwell:**BlackwellGPUを8基搭載した空冷システムで、各GPUは15キロワットの電力を処理するための大型ヒートシンクを備えています。
MGX Modular System:**液冷システムには、それぞれ4つのGPUを搭載した2枚のBlackwellボードが装備されています。新しいNVLinkスイッチが72個のGPUを接続し、統合された強力なGPUシステムを構築します。
NVLinkスイッチ: NVLinkスイッチは重要な技術です。
NVLinkスイッチは、複数のGPUを接続して1つのまとまったユニットとして機能させる重要な技術です。主な特徴は以下の通りです：
500億トランジスタ
各400ギガビットで74ポート**。
毎秒7.2テラバイトの断面帯域幅**。
ディープ・ラーニングのための統合された数学関数**。
性能強化:。
新しいDGXシステムは大幅な性能向上を実現：
ドメインあたりのGPU数が9倍に増加（8から72へ）***。
帯域幅が 18 倍増加** ** AI 処理能力が 45 倍増加
AIフロップス（1秒あたりの浮動小数点演算）が45倍に増加** **消費電力がわずか1.5%増加
電力使用量はわずか10倍**に増加
**NVLinkスパイン：***NVLinkスパイン
電気的・機械的な驚異である NVLink スパインは、2 マイルに及ぶ 5,000 本のワイヤで 72 個の GPU を接続します。この技術革新により、1ラックあたり20キロワットのエネルギー消費が削減され、より多くの電力を処理に充てることができます。
ネットワーキングの革新:*。
これらの強力なシステムを接続するために、NVIDIAは以下を提供します：
InfiniBand:**スーパーコンピューティングやAI工場で使用される高性能ネットワーキング・ソリューション。
イーサネット・インテグレーション:**既存のイーサネット・インフラを持つデータセンター向けに、InfiniBandの機能をイーサネットに導入し、導入と管理を簡素化します。
**結論
NVIDIAのBlackwellとDGXシステムは、AIコンピューティングの最先端を代表するものであり、前例のないパフォーマンス、エネルギー効率、スケーラビリティを兼ね備えています。これらの進歩は、大規模な言語モデルやAIファクトリーの増大する需要に対応するために不可欠であり、NVIDIAを次世代AI技術のリーダーとして位置づけています。
BlackwellとDGXによるAIコンピューティングの進歩
**AIモデルのエネルギー効率性
GPT-4のような大規模言語モデルのトークン生成に必要なエネルギーは大幅に減少した。以前は、1つのトークンを生成するのに、100ワットの電球2つを2日間動かすのと同等のエネルギーが必要でした。しかし、AIハードウェアの進歩により、トークン1つあたりわずか0.4ジュールにまで低減され、最小限のエネルギー消費で高速に効率よくトークンを生成できるようになりました。
Blackwellの紹介：*」。
NVIDIAのBlackwellは、AIコンピューティングにおける大きな飛躍を象徴しています。Blackwellチップは、高性能でエネルギー効率の高いAI処理のために設計されており、DGXシステムに統合されています。
DGX Blackwellシステム:
DGXシステム:**DGX Blackwell:**BlackwellGPUを8基搭載した空冷システムで、各GPUは15キロワットの電力を処理するための大型ヒートシンクを備えています。
MGX Modular System:**液冷システムには、それぞれ4つのGPUを搭載した2枚のBlackwellボードが装備されています。新しいNVLinkスイッチが72個のGPUを接続し、統合された強力なGPUシステムを構築します。
NVLinkスイッチ: NVLinkスイッチは重要な技術です。
NVLinkスイッチは、複数のGPUを接続して1つのまとまったユニットとして機能させる重要な技術です。主な特徴は以下の通りです：
500億トランジスタ
各400ギガビットで74ポート**。
毎秒7.2テラバイトの断面帯域幅**。
ディープ・ラーニングのための統合された数学関数**。
性能強化:。
新しいDGXシステムは大幅な性能向上を実現：
ドメインあたりのGPU数が9倍に増加（8から72へ）***。
帯域幅が 18 倍増加** ** AI 処理能力が 45 倍増加
AIフロップス（1秒あたりの浮動小数点演算）が45倍に増加** **消費電力がわずか1.5%増加
電力使用量はわずか10倍**に増加
**NVLinkスパイン：***NVLinkスパイン
電気的・機械的な驚異である NVLink スパインは、2 マイルに及ぶ 5,000 本のワイヤで 72 個の GPU を接続します。この技術革新により、1ラックあたり20キロワットのエネルギー消費が削減され、より多くの電力を処理に充てることができます。
ネットワーキングの革新:*。
これらの強力なシステムを接続するために、NVIDIAは以下を提供します：
InfiniBand:**スーパーコンピューティングやAI工場で使用される高性能ネットワーキング・ソリューション。
イーサネット・インテグレーション:**既存のイーサネット・インフラを持つデータセンター向けに、InfiniBandの機能をイーサネットに導入し、導入と管理を簡素化します。
**結論
NVIDIAのBlackwellとDGXシステムは、AIコンピューティングの最先端を代表するものであり、前例のないパフォーマンス、エネルギー効率、スケーラビリティを兼ね備えています。これらの進歩は、大規模な言語モデルやAIファクトリーの増大する需要に対応するために不可欠であり、NVIDIAを次世代AI技術のリーダーとして位置づけています。
ロボット工学とフィジカルAIの時代
**はじめに
ロボット工学の時代が到来し、NVIDIA はこの革命の最前線にいます。物理的AIを活用したロボティクスは産業に革命をもたらし、ロボットが自律的に複雑なタスクを実行することを可能にします。マルチモーダル大規模言語モデル(LLM)の統合により、ロボットは世界を知覚、理解、対話することができ、人間の実演やシミュレーション環境での強化学習から学ぶことができます。
**NVIDIA Omniverse：***NVIDIA Omniverseは、オペレーティング・システムとして機能します。
Omniverseは物理AIのオペレーティングシステムとして機能し、仮想世界シミュレーションの開発プラットフォームを提供します。Omniverseは、リアルタイムで物理ベースのレンダリング、物理シミュレーション、およびジェネレーティブAI技術を組み合わせたものです。Omniverseでは、ロボットはスキルを磨くことができ、シミュレーションと実世界での応用のギャップを最小限に抑えることができます。
**物理AIによるロボティクスの構築
高度なロボットを作るには、3つの重要な要素が必要です：
NVIDIA AIスーパーコンピュータ： AIモデルのトレーニング用。
NVIDIA Jetson OrinおよびJetson Thor： モデルを実行するためのロボット・スーパーコンピュータ。
NVIDIA Omniverse： 仮想環境におけるロボットスキルのシミュレーションと改良用。
ロボット・プラットフォーム:。
NVIDIAは、様々なタイプのロボットシステムのためのプラットフォームを開発しています：
ロボット工場と倉庫:** 製造と物流のための自動化システム。
Manipulation Robots: 物体を扱い、操作することができるロボット。
移動ロボット：**自律的に環境を移動するロボット。
人間の行動や相互作用を模倣するように設計されたロボット。
エコシステムの統合：*。
ロボットシステムの構築と展開には、SDK、API、エッジAI技術、インテグレーターの複雑なエコシステムが関わっている。例えば、FoxconnやDeltaのような企業は、高度なロボット工学と自動化のためのAIを統合し、Omniverseを使用して工場のデジタルツインを構築しています。
**ロボット工場の例
Foxconnは、NVIDIA Omniverseを使用して工場のデジタルツインを作成し、最適化されたレイアウトや構成のための施設や設備データを統合しています。これらのデジタル・ツインは、建設中の真実の情報源として、また自動光学検査や軌道計画などのロボット・アプリケーションのトレーニングの場として役立っています。
**NVIDIAのロボット・テクノロジー・スタック：***NVIDIAは、ロボット・テクノロジー・スタックを提供しています。
NVIDIAは、ロボットシステム構築のための包括的なスタックを提供します：
AIスーパーコンピュータやJetsonモジュールのような高性能ハードウェア。
アクセラレーション・ライブラリ:** AIおよびロボット工学アプリケーション用のソフトウェア・ライブラリ。
事前訓練されたAIモデル： **知覚から操作まで、様々なタスクのためのモデル。
産業パートナーシップ:。
NVIDIAは、ロボット技術を統合するために業界のリーダーと協力しています：
シーメンス:**産業オートメーション向けにNVIDIAの技術を統合しています。
様々な企業:** ArcBest、BYD Electronics、IdealWorksなどのパートナーは、NVIDIAのAIモデルをロボットシステムに組み込み、パフォーマンスを強化しています。
ロボット工学の未来：*。
AIとロボティクスの統合は、製造業から物流に至るまで、業界を変革しつつあります。高度なハードウェア、ソフトウェア、シミュレーション環境を組み合わせたNVIDIAの包括的なアプローチが、この変革を推進しています。
結論:
NVIDIAのフィジカルAIとOmniverseプラットフォームによって、ロボティクスの未来はここにある。この革命はSFではなく、様々な産業で実際に応用され、今まさに起こっているのです。ロボット工学が進化し続ける中、NVIDIAのテクノロジーは未来を形作る上で重要な役割を果たし、産業をより効率的で自律的、革新的なものにしていくでしょう。
ロボット工学とAIイノベーションの未来
**はじめに
AIとロボティクスの次の波は、コンピューティングの展望を大きく変えようとしている。台湾がキーボードを備えたコンピュータ、ポケットサイズのデバイス、クラウドデータセンターシステムを構築してきたように、未来には歩き、転がるコンピュータが約束されている。これらの進歩は、身近な技術を活用して革命的なロボット・システムを作り上げるという、前途多難な旅を意味している。
**台湾へのオマージュ
NVIDIAは、このビジョンの実現において極めて重要な役割を果たした台湾に深い感謝の意を表します。台湾の卓越性、勤勉さ、革新性へのコミットメントは、加速コンピューティング、コンピュータグラフィックス、科学研究、人工知能の発展に貢献してきました。
**イノベーションのバックボーン
台湾は縁の下の力持ちであり、世界のAI産業の柱として称えられている。台湾とのパートナーシップは、業界の若返りを推進し、高度なAI工場の創設を含むコンピューティングの新分野への道を開いた。最先端のAIとロボット工学を駆使したこれらの工場は、共有の努力と完璧さの追求の集大成を象徴している。
**今後の旅路
エヌビディアと台湾がこの協力的な旅を続けていく中で、スマートで便利な生活を構築し、病気や自然災害と闘い、技術革新を通じて世界を改善することに焦点を当て続けます。台湾の堅実さと技術力は、夢を現実に変えるために不可欠な超大国とみなされています。
**閉会の辞
エヌビディアは、AIイノベーションの旅における台湾の重要な役割に心から感謝します。このパートナーシップは、成功し繁栄する産業を創造するための基盤であり、今後もそうあり続けるでしょう。旅が進むにつれ、AIとロボティクスを活用して生活を向上させ、世界的な課題に取り組むという目標は変わりません。
**最後に
台湾の皆さん、揺るぎない支援と献身に感謝します。共に明るい未来を築き、AIとロボティクスのイノベーションで新たな高みを目指し続けましょう。ご来場ありがとうございました！
