AIはもうすぐはじける泡なのか？ | フロントバーナー

最近では、どこを見てもAIによって全てが動いているように見えます。アドビはジェネレーティブAIの力を使って、プレミアプロで史上最も高度で精密な編集ツールを提供しています。AIのPOCR拡張機能を文字通り数分で構築できます。これは1,400ドルのAI搭載の高性能電動靴です。
これは非常に特殊なタイプの技術で、ジェネレーティブAIと呼ばれています。現在の盛り上がりは、2022年11月のチャットGPTのローンチから本格的に始まりました。チャットGPTを使えば、必要な答えを迅速かつ簡単に得られるようになりました。
基本的に、これらは複雑な数学モデルで、膨大なトレーニングデータセットを使用してプロンプトに対する応答を生成します。テキスト、画像、さらには動画まで生成できます。そして、この技術が将来何ができるようになるかについて、あらゆる種類の誇大宣伝や大きな予測がありました。あなたの仕事を自動化し、アーティストに取って代わり、真に知的な機械への最初のステップになるだろうと。
しかし、約2年後、ジェネレーティブAIは少し停滞しているように見えます。それに加えて、この技術に莫大な投資をしたテクノロジー企業にとって、あまり収益性がないことが分かってきました。これにより、多くのテクノロジージャーナリストや市場観察者は、これが典型的な経済バブルであり、そのバブルが最初の崩壊の兆しを見せているのではないかと懸念しています。
パリス・マルクスは、以前からこのことについて警告してきました。彼はニュースレター「ディスコネクト」を執筆し、ポッドキャスト「テック・ウォント・セーブ・アス」のホストを務めています。AIブームが実際にはバブルかもしれない理由と、バブルが崩壊した後の業界の行方について説明するために、今日の番組に出演してもらいました。
こんにちは、パリス。来てくれてありがとうございます。
はい、参加できて光栄です。
パリス、この時点で私たちは皆、ジェネレーティブAIやチャットGPTについて聞いたことがあり、検索エンジンなどの日常的なツールに登場しているのを見ています。そして、間違いなく、好むと好まざるとにかかわらず、これが未来だと聞いたり読んだりしてきました。私には、突然それがバブルであり、バブルが崩壊しそうだと聞くのは、本当に突然の変化のように思えます。なぜバブルかもしれないのでしょうか？
そうですね、多くの人があなたと同じように感じるでしょう。これらのテクノロジーが全てを変えるはずだと。チャットGPTや画像生成AIなど。そして突然、そうではないかもしれないと。でも、それには実際の理由があります。これらのテクノロジーが導入された直後の数ヶ月間、多くの約束がなされました。そして今、約2年経って、それらの多くが企業によって実現されていないことが分かってきています。
特に今年、ジェネレーティブAIの大きな推進者たちが、約束の規模を大幅に縮小しているのを見てきました。OpenAIやGoogleなどの企業の最近の発表を見ると、世界を変えるような機能ではなく、スプレッドシートをより効率的に使用する方法や、音声アシスタントに新しい機能を追加するなど、もっと基本的なことです。
ここ数年間、私たちはこれらのモデルの知能を向上させることに非常に注力してきました。そしてかなり良くなりましたが、これは使いやすさという点で大きな一歩を踏み出す初めての機会です。
これらの企業からよく見られる、もっと基本的なことであって、世界を変えるようなことではありません。そしてもちろん、これらのテクノロジーの最大の問題は、実行するために大量のデータが必要だということです。これらのモデルを訓練するために、ウェブ上のあらゆるものをスクレイピングしてきました。そのため、計算量が非常に多く、エネルギー消費も多いのです。つまり、実行コストが非常に高いのです。
そのため、これらの企業やツールが、実行に必要な計算コストを支払うために必要な収益を本当に生み出せるのかどうか、疑問が高まっています。
このバブル説は現在どれくらい広まっているのでしょうか？テクノロジー業界を見ている人々の間で、この理論はどれくらい大きなものになっているのでしょうか？
そうですね、非常に一般的になっています。私のような人々は長い間バブルだと言ってきました。しかし、興味深いのは、先月ゴールドマン・サックスが報告書を出して、大手投資銀行が明確にバブルと呼び、生産性向上の利益に疑問を投げかけ、投資家はこれから儲けることができるが、数字が非常に膨らんでおり、これらの数字は下がっていくだろうと言っていることです。
シリコンバレーの最大のベンチャーキャピタルの1つであるセコイア・キャピタルも最近、バブルについて語り、これらのツールが収益を上げるためには、基本的に6,000億ドルの収益を見つける必要があると言っています。大手テクノロジー出版社であるThe Informationは最近、OpenAIが今年だけで50億ドルの損失を出す可能性があると報じています。なぜなら、一般に提供しているものからほとんど収益を得ていないのに、その提供にはとてつもない費用がかかるからです。
これは現在かなり一般的な懸念になっています。過去数週間で、これらの大きな株価下落の後、株式市場でこれらの課題が見られたため、さらに注目を集めるようになったと思います。現時点である程度回復していますが、これらの株価がまた大きく下落する可能性があるという懸念は依然としてあります。
お金は非常に重要な部分です。あなたが挙げているこれらの数字は、私には驚くべきものに思えます。業界はジェネレーティブAIにどれくらのお金を費やしているのでしょうか？この業界にはどれくらいのお金があるのでしょうか？
何十億ドル、何十億ドル、何十億ドルですね。そして、これが起こった特定の理由があると考えてみてください。数年前を振り返ると、テクノロジー業界の全て、あるいはその多くが暗号通貨に興味を持っていました。暗号通貨やNFTに多額の資金が投入され、これらが金融システムの未来になるという約束がありました。そして2021年11月には、それが崩壊し始めるのを私たちは目にしました。多くの人々がお金を失い、多くの企業が破産し、多くの人々が詐欺に遭いました。FTXを運営していたサム・バンクマン・フリードは現在、詐欺罪で服役しています。
サム・バンクマン・フリードは、米国史上最大の金融犯罪の一つと呼ばれるもので25年の刑を宣告されました。これらは生中継の画像ですが、その瞬間、政府も約15年ぶりに金利を大幅に引き上げ始めました。そのため、テクノロジー業界は突然、容易な資本へのアクセスを断たれました。そして、暗号通貨が崩壊し、メタバースが次の大きなものにならなかったため、業界はすでに下降傾向にあった時期でした。
そのため、彼らは他の何かを必要としていました。そしてチャットGPTが登場したとき、それは業界全体にAIに大きく投資する理由を与え、これを未来として位置づけ、多くの大きな約束をする理由を与えました。しかし、金利が上がり、状況が不安定な時期に、株価を押し上げ、投資を促進する理由も与えました。
そして今、私たちはそのサイクルに約2年入っています。AIから実際に何が生まれるのか、これが本当のビジネスになり得るのかという疑問が自然に浮かんでいます。そのため、何百億ドルもの投資をした後、投資家たちは「これからどうやってお金を稼ぐのか」と尋ねていますが、企業には多くの答えがありません。
それも私が疑問に思っていることです。全てのお金が流入していますが、実際のキャッシュフローはどれくらいあるのでしょうか？AI製品自体によって生み出されているのはどれくらいなのでしょうか？
そうですね、あまり多くはありません。これらの多くは無料か、あるいは既に使用しているものの一部として提供されています。特に大手テクノロジー企業から提供される場合はそうです。Googleが提供しているものや、アップルが秋に新しいジェネレーティブAI機能を発表する予定ですが、それらは基本的にデバイスを使用する一部になるだけです。
OpenAIやMicrosoft、そしてGoogleのような企業は、これらのツールの一部をクラウドコンピューティングサービスの一部として提供したり、消費者がOpenAIを通じてサインアップできるようにして、チャットGPTの特定の機能を利用できるようにしています。しかし、彼らが得ている収益は、これらのものを実行するのにかかる費用に全く近づいていません。これは収益性のあるビジネスを行う方法ではありません。
その理由の一部は、単にそれがどれだけ高価かということです。例えば、Google検索を考えてみてください。私たちは皆、それに慣れています。おそらく1日に複数回行っていますよね。しかし、そのような検索をチャットボットとの会話に置き換えると、同じレベルの応答を得るのに10倍から30倍ものエネルギーを使用するという推定があります。
そこで疑問が生じます。これらの多くをはるかに計算集約的でエネルギー集約的なジェネレーティブAIに置き換えることは意味があるのでしょうか？一部のものは現状のままで完璧に機能しているのに。
エネルギーの問題についてもっと深く掘り下げたいのですが、お金の話に一度戻りたいと思います。OpenAIとMicrosoftの関係について話していましたが、これらの小さな企業が大きな企業に支えられているというのは公平な見方でしょうか？OpenAIがMicrosoftに支えられているというように。
はい、そのとおりです。そして、これらのいわゆるAIスタートアップの多くで、実際には特にAmazon、Microsoft、Googleのような大手テクノロジー企業から多額の投資を受けているのを見ています。なぜなら、これらの企業は主要なクラウドプロバイダーだからです。彼らは世界中に多くの巨大なデータセンターを持っています。これらは基本的に、ウェブ上で起こることの多くを実行する何万台ものコンピューターサーバーで満たされた大きな倉庫です。
そして彼らは、これらのデータセンターネットワークを大規模に拡張するプロセスにあります。世界中でそれらを拡張するために何百億ドルも投資しています。そして、これらのAIスタートアップは、AIツールを実行するために、Amazon、Microsoft、Googleが持つ全ての計算能力にアクセスする必要があります。
MicrosoftとOpenAIの取引を見ると、MicrosoftはOpenAIを完全に所有しているわけではありませんが、その会社の実際の運営に多くの力を持っています。彼らが開発しているテクノロジーに対する多くの権利を持っています。そして、OpenAIに対するそのような影響力の見返りとして、その会社が必要とする全ての計算へのある種の優先的アクセスと割引を提供しています。
私たちは現在、収益を上げる具体的な計画はありません。いつか収益を生み出す方法も分かりません。基本的に、この一般的に知的なシステムを構築したら、投資収益を生み出す方法を見つけ出すよう、そのシステムに尋ねるという緩やかな約束を投資家にしています。お金の問題以外にも、多くの問題があります。チャットGPTだけを見ても、ここ数年で多くの人々の考え方を支配しましたが、最初はできることに多くの人々を驚かせ、その可能性に驚嘆していました。そして、多くの問題が浮上しました。多くの間違いを犯し、人種差別的であるなど、問題は際限なく見えました。そして今、2年後、AIの企業はそれらの根本的な問題を克服できたのでしょうか？
いいえ、全くできていません。そして、多くの例を目にしています。OpenAIは継続的に新しいモデルをリリースし、モデルを更新しています。新しいモデルをリリースするたびに、より多くのデータで訓練され、モデルはより大きくなっていると彼らは言います。それによってより良くなるはずだと言っています。しかし、ユーザーからは、以前ほどツールがうまく機能していないという報告が多く寄せられています。
そして、もちろん、これらのツールが一般に公開されると、本当に問題が発生し始めるのを目にします。これらの企業の多くは、モデルが行う「ハルシネーション」（幻覚）について多く語っています。実際、私はそれは虚偽の情報のためのマーケティング用語だと思います。
現在、アメリカでGoogle検索をすると、通常のリンクが表示される前に「AI概要」と呼ばれるものがよく表示されます。これはGoogleのAIモデルによって生成されたものです。このツールが数ヶ月前に公開されたとき、人々はすぐに、非常に基本的なプロンプトでさえ、何が真実なのかを判断できないことに気づきました。
1日に一定数の石を食べることを推奨したり、ピザに接着剤を塗るように勧めたりしていました。普通の人なら、これは馬鹿げていると言うでしょう。しかし、これらのツールは多くの情報をRedditから引っ張ってきており、人々が冗談を言っているのを見つけ、そのジョークや皮肉が実際に誰かが言っていること、あるいは推奨していることではないと判断できませんでした。そして、それを検索結果に載せていたのです。
Googleは私たちが信頼し、情報を得るために行くプラットフォームです。そして突然、直接これらの嘘や虚偽の情報、そして潜在的に危険な情報を私たちに与えているのです。これらのツールの問題と、約2年経ってもこれらの根本的な問題を克服できていないことがよく分かります。
その一部として、可能なことの限界に達していると言えるのでしょうか？
確かにそうですね。これらの企業が主張していたのは、モデルをより大きく、より多くのデータを使用するにつれて、モデルはどんどん良くなっていき、最終的には、これらの人々の中には、機械が人間のように考えられるようになるまで、つまりコンピューターが人間の脳を複製できるようになるまでと言う人もいました。
最初からそれを疑問視する人々がたくさんいました。そして、このサイクルがさらに進むにつれて、それが常に一種の馬鹿げたSF的な考えであり、実際のものではなかったことが分かります。
しかし、数ヶ月前に興味深い報告書がありました。多くのCEOにアンケートを取り、ジェネレーティブAIツールが自社にどのような効果をもたらすと期待しているかを尋ねたところ、96%が生産性を向上させると考えていました。そして、同じ研究者がジェネレーティブAIツールを使用している従業員に話を聞いたところ、77%の従業員が仕事量が増え、生産性が低下したと答えました。
実際に起こっていることと、それを導入しようとするインセンティブがある人々が考えていることの間には、大きな乖離があります。
そして、あなたが以前触れた物理的な限界についても。これをもっとよく理解したいのですが、電力需要が地域の電力網の供給能力を上回り始めると聞いています。これはこの技術にどのような影響を与えるのでしょうか？
確かにそれも大きな問題になってきています。そしてそれは本当にデータセンターの問題に関連しています。Amazon、Microsoft、Google、特にこの3社ですが、他の主要なテクノロジー企業やそれ以外の企業も、私たちが依存しているこれらのテクノロジーを動かすために、世界中に主要なデータセンターを建設しています。
特にジェネレーティブAIは、現在の主要な推進力の1つです。なぜなら、それを実行するには非常に多くの計算、非常に多くのエネルギーが必要だからです。
Googleの最新の環境報告書を見てみると、AIシステムを動かすデータセンターの拡大に伴い、過去5年間で温室効果ガスの排出量が約50%増加したことが明らかになりました。Microsoftの2023年の排出量は2020年のレベルよりも約30%上昇しました。Amazonの炭素排出量は2019年から2021年の間に40%増加しました。
例えば、これらの多くが建設されているアイルランドでは、生成される全電力の21%が現在データセンターの電力に使われています。これは都市部の全ての家庭を合わせたよりも多いのです。そして、これらのテクノロジーが展開されている他の多くの地域でも同様の問題が発生しています。
それらが必要とするエネルギー量とそれがエネルギーグリッドにもたらす脅威や、気候目標を達成するために化石燃料エネルギーへの依存を減らそうとする際に、再生可能エネルギーに置き換えるのが難しくなるという問題があります。また、これらを冷却するために必要な水の量も問題です。
自分のラップトップやデスクトップコンピューターを考えてみると、集中的なタスクを実行している時にどれだけ熱くなるかを想像できますよね。そして今、何万台もの何十万台ものコンピューターを1つの建物に入れることを想像してください。それには大量の冷却が必要で、そこで多くの電力と水が必要になるのです。
インターネット全体への影響についてはどうでしょうか？ハルシネーション、モデルが作り話をすることについて話していましたが、人々は積極的にジェネレーティブAIを使ってディープフェイクを作ったり、虚偽情報を広めたりしています。私は自分のものをいくつか見ましたが、「一体いつそんなことを言ったんだ？」と思いました。冗談はさておき、3秒間あなたの声を録音すれば、家族でさえ騙せるほど十分な模倣を生成できます。まじめに、見てみてください。これらのツールが積極的にインターネットをより信頼できないものにしたという主張はありますか？
はい、私もそう思います。多くの面でそうですね。より明白な方法としては、虚偽の情報を生成したり、人々のディープフェイクを作るのをより簡単にしたりすることです。これは深刻な問題だと思います。
公共サービスの提供や軍隊、あるいはこれらのモデルから出てくる可能性のある虚偽の情報が本当に深刻な結果をもたらす可能性のある他の分野でAI技術を使用することを考えると、非常に危険です。
そしてもう一つの側面は、もちろん、私たち全員が長い間これらの主要なオンラインプラットフォームに依存してきたということです。Amazonでの買い物や、FacebookやTwitterのようなソーシャルメディア、あるいはGoogleを検索エンジンとして使用するなど。
このジェネレーティブAIの押し付けが始まるにつれて、多くの企業が実際にプラットフォームの使用体験を低下させているのを目にしています。なぜなら、彼らは利益と収益を継続的に増やそうとしているからです。
つまり、より多くの広告を展開したり、より多くの広告を見せたり、人々がアクセスできる情報を制限して、ジェネレーティブAIツールに販売し、そこから得られる収益を最大化しようとしたりする必要があるのです。
全体として、インターネットは私たちにとってこの素晴らしい場所になるという約束がありました。全ての情報にアクセスでき、周りの多くの人々と話せるようになるはずでした。しかし、次第にそのメリット、情報、コミュニケーションが侵食されているのを目にしています。そして企業には、それをどのように改善するかという解決策がありません。
ドットコムバブルは崩壊しましたが、インターネットはまだ存在しています。ジェネレーティブAIについても同じような状況なのでしょうか？AIバブルのどの部分が崩壊する可能性があると思いますか？全てではないと思いますが。
確かにそうですね。一般的にAIについて考えると、この用語は50年代からあります。AIは全く新しいものではありません。特にジェネレーティブAIが新しい部分であり、全ての誇大宣伝がそれを取り巻いています。
AIバブルが潜在的に崩壊したときに何が起こるかを考えると、ジェネレーティブAIが完全に消えてしまうということではないと思います。むしろ、このテクノロジーのどの側面が実際に有用で、潜在的により広範な利益をもたらす可能性があるのかを再評価することになるでしょう。
現在、ジェネレーティブAIを絶対に全てに組み込む必要があると想定するのではなく。なぜなら、現在ジェネレーティブAIについて話す企業は、短期的に株価が上昇する可能性が高いからです。そのため、多くのこういったことが起こっているのです。
以前のサイクルでは、多くの企業がメタバースについて話したり、NFTや暗号通貨について話したりしました。そのとき、それが話題になっていたからです。投資家向け会議で言及されただけで株価が上昇したのです。現在私たちが目にしているのはそのようなものです。
しかし、これは一般的なテクノロジー産業のモデルについて、より深い疑問を投げかけると思います。常にこれらのバブルを追いかけているように見えますが、各バブルが起こるたびに、私たち公衆が受け取る利益は次第に減少しているようです。
ドットコムブームとバストを振り返ってみると、確かに問題がありました。確かに人々はお金を失いました。確かに多くの企業が崩壊しました。しかし、インターネットの初期段階と、展開されていた多くのものには、公衆にとって非常に明確な利益がありました。ソーシャルメディアやeコマース、オンラインになることで得られる他の全ての利益にアクセスできるようになったのです。
しかし、暗号通貨やメタバース、あるいはジェネレーティブAI（これらの以前のものよりは少し形のあるものですが）に至るまで、次第に多くの利益が約束されるものの、実際には実現されていないか、あるいはウェブの使用方法に長期的な影響を与えるようなものではないように感じます。
パリス、この話をしてくれてありがとうございます。本当に感謝しています。
こちらこそ、お話しできて光栄です。
今日はここまでです。フロントバーナーをお聴きいただき、ありがとうございました。ステファニー・スキャンダーでした。ジェイミーは明日戻ってきます。