Super Micro Computerの売上は10,000x$3mil=s $30 billion Charles Liang CEOが口を滑らす ComputexでのSuper Micro Computeの講演
Super Micro Computerの売上は
10,000x$3mil=s $30 billion
Charles Liang CEOが口を滑らす
ComputexでのSuper Micro Computeの講演
Super Micro Computerの売上は
10,000x$3mil=s $30 billion
Charles Liang CEOが口を滑らす
一方、Jensen Huang氏はトークンがコモディティとなったから
Super Micro Computerの液冷サーバーはもはやDCではなくて
AIファクトリーである持ち上げた。
そんなに売れるなら今宣伝してあげてるからチップ頂戴と
からかった。
たくさんトークンを生み出せるAIファクトリーが勝ちであるとし
二人は肩を組んで「More you buy more you save」
というフレーズを唱えた。
以下触りの部分
アメリカ人の同僚が多いのですが、彼らは私の中国語を理解しません。
中国人の同僚も多いのですが、彼らも私の中国語を理解しません。
でも、毎日少しずつ学んでいます。
私たちは現在、1か月に最大1,000ラックを出荷しています。
1,000ですか？
このようなラックに売値を掛けるとどうなりますか？
そうですね。そうすると、あなたは巨大な会社になりますね。
ええ、ありがとうございます。
だからもっとNvidiaの社長が宣伝してあげてるからチップが必要なんです。
皆さん、計算はしましたか？
あなたは1ラックに2百万ドルも請求しています。
2百万ドル以上ですよね。
これだけ多くの人がここにいるのに、まだ私に価格を出せと言うんですか？
ありがとうございます、本当に... これはテレビでやっていいことですか？
私たちはテレビに出ていますか？
たぶんそうでしょうね。これは...おっと、すみません。
。というわけで、私たちは1か月に約1,000ラックを出荷しています。
これは信じられないですね。
中は、600,000パーツ、これはおそらく600,000パーツ以上です。
何ポンドですか？幾磅ですか？
ああ、わかりません。三千ですか？
動かせますか？3,000ポンド以上だと思います。大体それくらいです。
これは信じられないですね。
ええ、今年の目標はこのようなラックを10,000以上出荷することです。
チャールズ、このことが本当にすごいと思います。
人々は私たちがGPUを作っていると思っていますが、GPUはチップです。
この中には72のチップがあります。
そして他に600,000の部品があります。
72のチップはおそらく1ポンドしかありません。
これは他の2,999ポンドです。
だから1つのラックの中にある技術の量は本当に驚異的です。
これは技術の驚異です。
世界で最も複雑で最先端のコンピュータです。
ええ、今では世界で最高ですね。
ええ、本当に信じられないです。
そしてこれを動かすためのソフトウェアも信じられないほどです。
ええ、信じられないですよね？
だから今、人々はGPUサーバーと言ったときに、もちろん脳はGPUですが、システムはそれよりもはるかに複雑だと認識し始めています。
Supermicroは素晴らしいエンジニアリングをしています。
ありがとう。私の能力は素晴らしいです。ありがとうございます、ありがとうございます。
お返しに、私は3日間やります、あなたが3日間やると言ったからには。お返しに。
今年...
私たちは台湾語を話しますが、だいたい3分の1しか理解できません。
OK、では...アメリカ人もここにいますね。
今年、DSCの市場シェアを1%から15%に増やそうと思っています。あなたのGPUチップのために多くの電力を節約します。エネルギー効率がはるかに良くなります。」
「これはトークン生成の話です。そしてトークン生成は、ミリオントークンあたりのドルで計算されます。
エネルギーのように、キロワット時あたりのドルと同じです。
私たちは今、新しい商品を発明しました。これは皆さんにとって非常に重要な考え方です。
これは新しい商品です。価値があります。
そして、これを速く生成すればするほど、スループットが高くなり、利用率が高くなり、収益が増えます。
これは絶対に真実です。そして、直接測定可能です。
だから、これはデータセンターではなく、工場なのです。
これはファイルサーバーではなく、工場です。
ファイルの取得やメールのやり取りに使われるものではありません。
これは工場の収益を直接生成するものです。
だから、これをAI工場と呼んでいます。
そして非常に強力です。そして、たったの300万ドルです。
そうですね。300万ドル。そして、
年間にどれだけの収益を生み出すかは誰にもわかりません。
300万ドル。1,000ドル。
そして、毎年何ヶ月ありますか？12ヶ月です。
大規模言語モデルの生成、トークン生成のリターンは非常に良くなるでしょう。
その理由は、トークンに知能が埋め込まれているからです。
そして、その知能はさまざまな産業で利用できるからです。
だから、未来は非常に重要です。
今こそスタートアップの時です。
スループット、利用率、すべてが重要です。だから、信頼性には収益への影響があります。
スループットには収益への影響があります。
スタートアップには収益への影響があります。
だから、システム全体をラックスケールに統合し、
すべてのソフトウェアを動作させ、すべてのネットワーキングに接続することが非常に重要なのです。
そして、私たちは自社でデータセンターを構築し、自社でスーパーコンピュータを構築するので、Supermicroを工場に設置する時に、スタートアップ時間が非常に速くなり、利用率が非常に高くなり、スループットが非常に高くなることを知っています。
なぜなら、あなたの収益はそれに依存しているからです。
工場の生産量はすべてのこれらの要因で測定されます。
そして、これらのすべてのラックはNVIDIAのソフトウェアライセンスを持っています。すべて認定されています。それは素晴らしい響きです。
テーブルに置いて、アプリケーションを実行できます。そして、それは動作します。
その通りです。すべてのNVIDIA NIMS、すべての大規模言語モデルが、これらのシステムですべて動作します。
ええ、ありがとう。どういたしまして。」