産業革命コンピュータこれがNVIDIA DGX GB200 NVL72だ。AI Factory で生産性10倍向上
NVIDIA GB200 72 Blackwell GPUはNVLinkで完全に接続されている
コンピュータノード18個 cpu 36個 gpu72個
NVLスイッチノード9個
DGX GB200 NVL72 フロント1
こちらは、シングルラックに積み上げられた120kWのフラッグシップシステム。
NVIDIA DGX GB200 NVL72コンピュートノード正面
上部にはスイッチがあります。
NVIDIA DGX GB200 NVL72 スイッチ
スタックの下に移動すると、コンピュートノードが見えます。
一番上のスタックには10台のコンピュートノードがあります。
フロントパネルには、各ノードのデュアルInfinibandポート、
4つのE1.Sドライブトレイ、
および管理ポートが見えます。
右側にはBlueField-3 DPUが見えます。
NVIDIA Blackwellコンピュートノード
これらのコンピュートノードには、それぞれ2つのGrace Arm CPUが搭載されています。
各Graceは、コンピュートノードごとに2つのBlackwell GPUに接続されています。
NVIDIA DGX GB200 NVL72 コンピュートノード内部
冷却ブロックがある場合とない場合の内部をもう1度見てみましょう。
NVIDIA DGX GB200 NVL72 NVスイッチ前面
これらのコンピュートノードの下には、9つのNVSwitchシェルフがあります。
注意すべき点は、これらの金色の機能は、シェルフを取り外すためのハンドルであるということです。
NVIDIA GB200 内部 NVLink スイッチ
これらのNVLinkスイッチトレイには、2つのNVLinkスイッチチップが搭載されています。
NVIDIA DGX GB200 NVL72 スイッチトレイ内部
内部はこのようになっています。
NVIDIA DGX GB200 NVL72 コンピュートノード底面
底面には、さらに8つのコンピュートノードがあります。
NVIDIA DGX GB200 NVL72 背面
背面に移動すると、バスバー電力供給設計であることがわかります。
このラックは、バスバー経由の電源、液冷ノズル、および各コンポーネントのNVLink接続をブラインドメイトするように設計されています。
ブラインド嵌合が適切に機能するように、それぞれ多少の動きを許容する必要があります。
NVIDIA DGX GB200 NVL72 NVLinkスパイン(光学系なし)
NVIDIAによると、銅線ケーブルのNVLinkを背面に使用することで、このようなラックで20kWの電力を節約できるという。