2021年 exaFLOPS時代の到来
TOP 500 Supercomputer
"TOP 500 Supercomputer" というウェブサイトがある。マニアックなサイトでスーパーコンピュータの性能をランキングした結果を公表している。現在公表されている最新のデータは昨年11月のもので、１位は米国エネルギー省の発注により作られたSummitというスーパーコンピュータで米国オークリッジ国立研究所へ設置されている。２位も米国のスーパーコンピュータでローレンス・リバモア国立研究所にあるSierraである。
３位、４位は中国のスーパーコンピュータがランクインしており、５位はスイスのスーパーコンピュータである。７位には日本の産業技術総合研究所のスーパーコンピュータ、AI Bridging Cloud Infrastructure (ABCI)がラインクインしている。
exaFLOPS時代の到来！
このスーパーコンピュータ界隈において、最近話題となっているニュースがある。2019年5月7日、米国オークリッジ国立研究所が、米国エネルギー省をスポンサーとした"Frontier"と呼ばれるスーパーコンピュータの開発計画を発表したのだ。米国オークリッジ研究所は上記のSummitを有する研究所である。このFrontierは2021年を完成予定とし、世界最速を目指すことを宣言している。
ゴールとして、1.5 exaFLOPS（FLoating point number Operations Per Second）以上の理論演算性能を目指すという。現在のスーパーコンピュータの"Summit"が200 petaFLOPSの理論演算性能なので、7.5倍もの演算性能となる予定だ。そして、なんと2021年には、intelらにより開発される世界初のexaFLOPSのスーパーコンピュータ"Aurora"もデビューが予定されている。2021年、まさにexaFLOPS元年となる。
えっ？AMD社製のCPU&GPU？
ところで、この"Frontier"であるが、1.5 exaFLOPSを目指すこととは別で界隈を賑わせていることがある。
米国AMD社のCPU、GPUと同社が開発するライブラリ群を搭載することを発表したのである。冒頭で紹介した2018年11月のTOP 500を見ていただけたらわかると思うが、AMD社のCPUがスーパーコンピュータで使われるケースは稀である。ほとんどないと言っても過言ではない。そればかりかAMD社が製造するGPU（Graphic Processing Unit）と呼ばれる行列演算処理に適した半導体は、私が知りうる限りスーパーコンピュータで使われたところを見たことがない（私が知らないだけかもしれないので悪しからず）。つまりスーパーコンピュータでは使われたことであろう製品が選ばれたのだ。
AI時代の真っ只中で、現在もっとも重要視されているのは言うまでもなくトロント大学のジェフリー・ヒントン教授らにより開拓されたDeep Learningと呼ばれる技術である。そして、このDeep Learningは上述のGPUを用いることが前提である。現在のところほぼ全てのDeep Learningの研究者/技術者はAMDではなくNVIDIAという会社の作ったGPUを支持している。Deep Learningの歴史とNVIDIAは共にあったからである。
にも関わらず、今回はNVIDIAの製品ではなくAMDが選ばれた。スーパーコンピュータで同社製品が使われるということは、米国のアカデミアはAMD製品と同社製のソフトウェア群を使ったソフトウェアを用意しなくてはならなくなる。つまり、世界一となるであろうスーパーコンピュータで使われることが決定した瞬間に、これまでほとんど見向きもされなかったソフトウェアとハードウェアが、それなりの数の研究者/技術者に利用されることを意味する。
Frontier - アメリカの哲学
しかし、こうしたことを促進するのがアメリカという国なのだという。Frontierを紹介するウェブサイトへ下記のQuoteがある。
It has been basic United States policy that Government should foster the opening of new frontiers. It opened the seas to clipper ships and furnished land for pioneers. Although these frontiers have more or less disappeared, the frontier of science remains.
Vannevar Bush, “Science, The Endless Frontier” — 1945
日本語へ訳すと下記のような意味になる。
"政府が新しいフロンティア開拓を促進すべきであるというのが米国の基本的な政策である。 その政策は帆船へ海を開き、先駆者へ土地を提供した。 これらのフロンティアは多かれ少なかれなくなってきてはいるが、科学のフロンティアは残っている。
Vannevar Bush、「科学、無限のフロンティア」 - 1945"
最後に
私が共同創業した会社では、昨年3月からAMD社のGPUを使ったDeep Learning用のクラウドサービスを通じて啓蒙を行ってきていたが、まさかこのタイミングで世界一となるスーパーコンピュータがAMD社製品を使うとは思ってもおらず、まさに寝耳に水であった。しかし、この発表以来、北米を中心に問い合わせが増えてきている。ようやく徐々に、Deep LearningといえばNVIDIAという潮流が変わって行くに違いない。そう思わずにはいられないニュースであった。
※詳細なスペックは、国立オークリッジ研究所のサイトにスペックシートがあるので、そちらを参照されたい。