NvidiaのRTXシリーズってなに？A100,H100,B100ってなに？

お疲れ様です。

NvidiaのGPUについて、H100やRTX4090といった名前をよく耳にしますが、詳しく理解していなかったため、少し調べてみました。

NvidiaのGPUは大きく分けて、コンシューマー（一般消費者）向けとデータセンター向けの2種類があります。RTXシリーズはコンシューマー向けで、主にゲーミングPCに使用されます。一方、A100やH100はデータセンター向け（AIの学習向け）のGPUに使用されます。

① コンシューマー向けGPU

RTXシリーズの数字は世代と性能を示しています。例えば、RTX3080の「30」は第3世代を表し、「80」はその世代内での性能の高さを示します。性能は通常10から90までの数字で表され、数字が大きいほど高性能です。したがって、RTX3080は第3世代で2番目に高い性能を持つGPUです。2024年8月時点の最新世代は第4世代で、最も性能が高いのはRTX4090となります。

② データセンター向けGPU

データセンター向け（AIの学習向け）GPUは、A100、H100、H200、B100という順に進化してきました。これらの頭文字は、それぞれの世代のGPUが採用するアーキテクチャを表しています。

• A100はAmpereアーキテクチャを搭載（2020年登場）

• H100はHopperアーキテクチャを搭載（2022年登場）

• B100はBlackwellアーキテクチャを搭載（2024年登場）

注目すべきポイントは、H100 GPUが初めて「Transformer Engine」というアルゴリズムを搭載したことで、Transformerの計算を効率的に処理できるようになった点です。とはいえ、H100はTransformerアーキテクチャに特化した専用チップ（ASIC）ではなく、汎用性のあるGPUとしての性質を保っています。そして、それ以降のGPU（B100）にもTransformer Engineが搭載されています。

まとめ

RTXシリーズはゲーミングPCなどに使用されるコンシューマー向けのGPUで、2024年8月現在、最も高性能なのはRTX4090です。一方、A100やH100はデータセンター向けのGPUであり、2024年8月現在、最新かつ最も高性能なのはB100です。

B100は2024年に登場したばかりであるため、2024年8月時点では多くのデータセンターでH100（もしくはH200）が使用されていると考えられますが、今後B100への切り替える企業も出てくると思います。

各企業がどのタイミングで、H100（もしくはH200）から、B100に切り替えるか気になりますね。

最後までお読みいただきありがとうございました。