電力と水の危機に直面するAI：Why AI is Facing a Power Crisis.
AIを運用するデータセンターにまつわる電力と水についてのCNBCの特集ですが、AIクラウドの発展に横たわる課題をデータセンターの現場の声を交え、幅広く整理し説明されており、分かり易い内容となっています。
AIが電力需要に大きな影響を与えているのは周知かと思いますが、AIは、デンマーク全体で利用する4倍以上の水を毎年消費するまでになると言われ、水こそが、今後のAIの発展における根本的な制約要因となるという見解は、新たな気付きでした。以下、ご参考下さい。
（Original Published date : 2024/07/28）
ストーリー・コンテンツ
（1）プロローグ
クラウドコンピューティングへの需要が急増しており、その結果、インターネットの膨大な計算能力を支える強力なサーバーラックの需要もかつてないほど高まっています。
実際、クラウドは遠くにあるものではなく、我々のすぐそばにあります。今まさに我々はクラウドの中にいるのです。
今やソーシャルメディアや写真の保存やストリーミングを止めることはできません。加えて最近では、OpenAIのChatGPT、GoogleのGemini、MicrosoftのCopilotのようなチャットボットのモデル学習や運用にも、より多くのデータが必要とされています。
生成AIの競争のおかげで、このデータセンターのヒートアップが生まれています。Vantageのような企業が急速に建設を進めており、次々とデータセンターが増えています。そのため、これらデータセンターの運用と冷却のための電力需要が急上昇しています。
電力問題については、今すぐに考え方を変えなければ、我々が抱いている夢や我々の生活を本当に変えるであろう、この素晴らしい技術の可能性を実現することはできないでしょう。
ChatGPTの1回のクエリは、通常のGoogle検索の約10倍のエネルギーを消費し、5WのLED電球を1時間点灯させるのと同じくらいのエネルギーを使います。AI画像の生成には、スマートフォンを充電するのと同じくらいの電力が必要です。
AIに対応するためにデータセンターを建設するハイパースケーラー企業は、排出量の急増を目の当たりにしています。この問題は決して新しいものではありません。2019年の推定では、大規模言語モデルのトレーニングは、ガソリン車5台の生涯排出量に匹敵するCO2を排出しているとされています。たとえ十分な電力を生成できたとしても、老朽化した送電網は増加する負荷に対応できなくなっています。
夏場のピーク需要を考えると、データセンターが負荷を減らさない場合、停電が発生する可能性があります。
生成AIの広範な普及に十分な電力が確保できるかという問題が迫る中、CNBCはシリコンバレーのデータセンターを訪れ、その膨大な計算負荷を直接確認し、問題の中心にいる人々に何ができるかを聞きました。
（2）電力を追い求めて
世界には8,000以上のデータセンターがあり、その多くが米国に集中していますが、それでも十分ではありません。
AI特有のアプリケーションからの需要は、これまでのクラウドコンピューティングの需要と同等かそれ以上になると予測しています。
AIブームによってデータセンターの需要は2030年まで毎年15〜20％増加すると予測されています。Vantageのような企業がさらに多くのデータセンターを建設し、十分な電力を確保することがキーになります。
ある報告によると、データセンターは2030年までに米国の総電力消費量の16％に達する可能性があり、これは2022年にChatGPTが登場する前の2.5％から大幅に増加しています。この消費量は、米国全土の住宅の約3分の2に相当します。この需要を満たすためには、主に天然ガスが使われると予想されており、公益事業は成長を支えるために500億ドルの投資が必要になります。
建物自体が約64メガワットの電力を消費するデータセンターの多くは、単一の顧客によって占有されています。その顧客が全てのスペースを賃借していますが、AIアプリケーションを考えると、その数値はさらに増加し、数百メガワットに達する可能性があります。
64メガワットや100メガワットというのは、平均的な家庭の数万世帯の容量に相当し、データセンター1つは、数万世帯分の電力をカバーします。
多くの大手テクノロジー企業は、Vantageのような企業と契約して自社のサーバーを収容していますが、需要が急増する中で、多くの企業が自前のデータセンターを建設するようになっています。
GoogleとMicrosoftでは、この需要増加が直接的に排出量の増加につながっています。Googleの最新の環境報告書によると、温室効果ガスの排出量は2019年から2023年にかけて約50%増加しています。これは部分的にはデータセンターのエネルギー消費によるものですが、Googleのデータセンターは通常のデータセンターの1.8倍のエネルギー効率を持っているとも記されています。Microsoftの排出量も、AIワークロードをサポートするように設計および最適化されたデータセンターにより、2020年から2024年にかけて約30%増加しました。電力需要が非常に高いため、カンザスシティで、MetaがAIに特化したデータセンターの建設を進めているところでは、石炭火力発電所の閉鎖計画が保留になることも発生しています。
AIコンピューティングを止めることはできないので、彼らは電力容量を確保するためにあらゆる手段を講じるでしょう。
1つのアプローチとして、電力が豊富な場所にデータセンターを建設することがあります。
業界全体が、風力や太陽光などの再生可能エネルギーに近い場所や他のインフラを活用できる場所を探しています。これには、石炭火力発電所を天然ガスに転換するためのインセンティブプログラムの一環や原子力施設から電力を購入する方法を模索することも含まれています。
カリフォルニア州サンタクララにあるVantageのデータセンターは、NVIDIAの本社の屋上が見える場所にあります。この場所は、データセンターの集積地として長い間注目されてきました。現在、Vantageはオハイオ州コロンバスやジョージア州アトランタなどの場所でもデータセンターを建設しています。
北カリフォルニアでは、この地域の電力供給不足のために、データセンターの展開がやや減速しています。
一方で、電力が豊富な場所にデータセンターを建設するだけでなく、一部のAI企業やデータセンターは、自社で自家発電する方法を模索しています。
OpenAIのCEOであるサム・アルトマンはこの必要性について公言しており、最近ではパネルと電力貯蔵を一体化したコンテナサイズのモジュールを製造するソーラースタートアップに投資しました。
アルトマンは、Aフレーム構造に収容されたミニ原子炉を目指す核分裂スタートアップのOKLOや、核融合スタートアップのHelionにも投資しています。Microsoftも昨年、2028年からHelionの核融合電力を購入する契約を結びました。また、Googleは、次のプラントで地下深くから十分な電力を引き出して大規模なデータセンターを運営できるとする地熱スタートアップと提携しています。さらに、データセンター自体も自家発電を開始ししています。
例として、昨年、Vantageがバージニア州で実施したのは、特定の顧客のための専用データセンターを支える100メガワットの天然ガス発電所の設置です。これにより、公共の送電網に頼らずにデータセンターに電力を供給できる完全自給型のシステムを構築することができました。
（3）送電網の強化
たとえ十分な電力が生成できたとしても、老朽化した送電網はその電力を伝送する能力が十分ではありません。そこで必要となるのが送電網の強化です。
特定の地域にデータセンターが集中していると、その場所に大量の電力を供給する際に送電網にかかる負担が大きくなりがちです。
北バージニアの「データセンター・アレイ」として知られるデータセンターの密集地域では、毎日世界のインターネットトラフィックの約70%を処理しています。2022年には、一時的に電力会社が需要に追いつけず、新たなデータセンター接続を停止せざるを得ない状況に陥りました。
要するに、ピーク時には住民にエアコンを切るようにお願いするか、AI企業にトレーニングを停止するように頼むしかない状況です。
例えばVantageでは、高温により電力会社が制約を受けることが予想される場合に、負荷削減プログラムを自主的にサポートしています。人々がエアコンを使用する必要がある際に、我々は自主的に送電網から切り離され、その間は自家発電機を稼働させて、全ての人々に電力が供給されるようにしています。
発電された場所から消費される場所まで電力を送る際にしばしばボトルネックが発生します。一つの解決策として、数百マイル、あるいは数千マイルに及ぶ新しい送電線を追加することが挙げられますが、例えばデータセンター・アレイへの送電線を拡張する52億ドルのプロジェクトは、地元の料金支払者の反対に直面しています。彼らはこのプロジェクトのために自分たちの料金が上がることを望んでいません。
送電網側の容量を増やすことも解決策の一つですが、これは非常に費用がかかり、時間もかかります。そしてその費用が住民の公共料金の値上げという形で転嫁されることがあります。
もう一つの解決策として、送電網の最も弱いポイントの一つである変圧器の故障を減らすために、予測ソフトウェアを利用する方法があります。
生成されたすべての電力は変圧器を通過しなければならず、これは主に2つの電気回路を接続する機能を果たしています。米国国内だけでも、変圧器は6000万から8000万台あります。
米国にある変圧器の平均使用年数は38年であり、老朽化した変圧器は停電の一般的な原因となっています。これらを交換するには多額の費用と時間がかかります。
そこで我々は、直径2インチ、厚さ1インチの小さなセンサーを開発しました。このセンサーを変圧器の外側に取り付けるのです。
VIEテクノロジーズは、このセンサーを使用して故障を予測し、どの変圧器がより多くの負荷に耐えられるかを判断します。これにより、故障のリスクがある変圧器から負荷をシフトすることができます。このシステムは、データセンターが次々と稼働している一部のモンゴルのような高電力需要地域に設置されています。VIEによると、ChatGPTが登場した2022年以来、ビジネスは3倍に成長しているとしています。
来年は、さらにビジネスが2倍から3倍に成長する可能性があると聞いています。
（4）冷却
生成AIにより多くの電力と信頼性の高い送電網が必要な大きな理由の一つは、サーバーを冷却するためです。サーバーは膨大な熱を発生させ、空気や水で冷却することで過熱を防ぎ、24時間稼働させることができます。しかし、AIは2027年までにデンマーク全体で利用する4倍以上の水を毎年消費すると予測されています。
AIがエネルギーを大量に消費することについては皆心配していますが、核エネルギーに真剣に取り組むことでその問題は解決可能となります。しかし、本当に重要なのは水で、水こそが、これからのAIの発展において根本的な制約要因となります。
AIコンピューティングに必要な水の量を見たときには、非常に驚きました。
シャオレイ・レン博士は10年以上にわたりデータセンターの効率性を研究してきました。彼の研究チームによると、10から50のChatGPTプロンプトごとに標準的な16オンスの水ボトル1本分の水を消費することがわかりました。トレーニングにはさらに多くの電力が必要で、常に追加されるインターネット全体のデータにアクセスすることでさらに多くの熱を生成します。
Microsoftの米国データセンターでGPT-3をトレーニングする際には、70万リットルの清潔な淡水が直接蒸発します。2027年までに世界のAI需要が最大66億立方メートルの水を引き出すと予測されており、これはデンマークの年間総引水量の4倍以上に相当します。
干ばつに苦しむチリでは、グーグルのデータセンター建設許可が水使用に関する世論の反発を受けて部分的に取り消され、ウルグアイで計画されているデータセンターにも同様の反発が起きています。
業界の一部では、蒸発冷却を利用してデータセンターを冷却するために水を消費する技術が使用されています。これは電力の観点では非常に効率的ですが、水の使用の観点では非常に非効率です。そのため、Vantageの設計は当初から水を使用しないことを最優先としています。
その代わり、Vantageは屋上に設置された多数の巨大なエアコンユニットを使用しています。
屋上には空気処理装置と冷却塔が組み合わされています。データホール内の高熱部から上がってくる熱は、コンデンサーコイルによって冷却水ループに戻され、その冷却水は再び重要な空気処理装置に送られます。
Microsoftは、サーバーを海中に沈めて冷却するという革新的なプロジェクトを中止しました。別の解決策として、空気を水で冷却する非効率な方法ではなく、冷却液を直接チップに流して冷却する方法があります。
例えば、直接チップを冷却する方法など、多くの新技術が研究されています。これにより必要な水の量が大幅に削減されますが、このシステムの構築をスピードをともなって構築するのは非常にチャレンジングです。
業界では、AIの冷却方法を空気から水や液体に移行することが議論されています。これにより、チップ自体をより効率的に冷却できるようになります。しかし、多くのデータセンターでは大規模な改装が必要となります。
Vantageでは、約6年前にデータホールの床に冷却水ループを導入する設計を採用しました。これにより、より効率的な冷却方法に対応できるようになっています。
（5）ワットあたりの処理
AIの大量の水と電力問題を解決するための一つの広範なアプローチは、必要な計算量を減らすことです。つまり、消費電力あたりの作業効率を向上させることです。
結局のところ、手持ちの電力でどれだけ多くのことを達成できるかが重要です。
ScaleFluxは、電力節約に重点を置いたデータセンター向けのメモリおよびストレージデバイスを製造しています。
データ圧縮は、IntelやAMDのx86プロセッサのような汎用コアで行うと非常に遅く、レイテンシーが増加し、電力を大量に消費します。しかし、ハードウェア・ステートマシンに組み込むと、桁違いに速く、効率的に、そして省電力で行うことができます。
これらの電力を大量に消費するx86コアに対する重要な代替手段は、ARMベースの専用プロセッサです。ARMは、初期の携帯電話のバッテリー寿命を最大化する低消費電力チップの製造から始まりました。
電力を徹底的に節約するための設計は、パフォーマンスを最大化しようとする場合とは根本的に異なります。例えば、メモリへのアクセス方法やデータのアクセス方法などが挙げられますが、その設計のあらゆる瞬間において、電力を最優先に考慮することが重要です。
現在、ARMはデータセンター向けのNeoverseを含む様々なチップを設計しています。AIが普及する中で、ARMの電力効率の高さはGoogle、Microsoft、Oracle、Amazonなどの大手テクノロジー企業からますます人気を集めています。
ここにあるAWS Gravitonは、競合するアーキテクチャに比べて60%の電力を節約します。
NVIDIAが3月に発表した最新のAIチップ「Grace Blackwell」は、ARMベースのCPUを使用しており、生成AIモデルを25分の1の電力で実行できるとされています。ARMによると、同社のチップを使用したデータセンターは計算需要が低いため、15％少ない電力で運用できます。
データセンターの規模を考えると、15％の節電はほぼ20億件のChatGPTクエリに相当します。その節約分だけで米国の家庭の20％に電力を供給できるのです。
Apple、Samsung、Qualcommのような企業は、AIをデバイス上で処理することの利点を強調しています。クラウドやサーバーに負荷をかけずに済むことで、クエリごとのエネルギー消費が大幅に削減されます。これにより、データセンターがより多くの施設を建設し、AIの電力需要の高まりに追いつくための時間を確保できるかもしれません。
各企業は可能な限り多くのデータセンターを建設し、それによってサポートできる範囲でAIを活用していくことになります。その結果、人々が望むほどの規模には達しないかもしれませんが、供給制約を緩和する方法を見つけるために多くの人々が取り組んでいます。この業界には間違いなく大きな成長が見込まれています。
以上です。
御礼
最後までお読み頂きまして誠に有難うございます。
役に立ちましたら、スキ、フォロー頂けると大変喜び、モチベーションにもつながりますので、是非よろしくお願いいたします。
だうじょん
免責事項
本執筆内容は、執筆者個人の備忘録を情報提供のみを目的として公開するものであり、いかなる金融商品や個別株への投資勧誘や投資手法を推奨するものではありません。また、本執筆によって提供される情報は、個々の読者の方々にとって適切であるとは限らず、またその真実性、完全性、正確性、いかなる特定の目的への適時性について保証されるものではありません。 投資を行う際は、株式への投資は大きなリスクを伴うものであることをご認識の上、読者の皆様ご自身の判断と責任で投資なされるようお願い申し上げます。