AI スーパースターたちが秘密裏に10億ドルを獲得... 安全な超知能を構築するために?

20,003 文字

はいはい、新しいAIのスタートアップが10億ドルの資金調達に成功したんやけどな、彼らは何も約束せえへんのや。イリヤ・サッツァーとケヴィン、元OpenAIの共同創業者のイリヤ・サッツァーとアップルのAIの元リーダーが大きなことを企んどるみたいやけど、もしそれで遊べへんのやったら、ギャビン、実質何もあらへんのと一緒やないか。
いやいや、ケヴィン、そない言うたらアカンで。これは安全な超知能への彼らの最初の大きな挑戦やねんで。それに、GPT-4oについての新しい詳細が日本から明らかになってきたんや。そうや、ケヴィン、これは馬の口から直接出てきた言葉なんや。2024年、つまり今年のOpenAIの計画について、最新情報をお知らせするで。
それにな、ランウェイの新しい拡張機能を使って、お気に入りのポップカルチャーの瞬間をはるかに超えて進化させてるんや。スター・ウォーズからドゥーム、最後の晩餐まで、もしそれがポップカルチャーの一部やと思えるならな。誰が晩餐に来るか想像もつかへんやろ。これらがいかに簡単に作れるかも見せたるで。
それにめっちゃクールなマインクラフトのAI実験もあるし、今週のその他のニュースもあるで。これがAIや! やめろや、今すぐやめろや!
みなさん、ようこそ! AI for humansへようこそ! これは生成AIの素晴らしい世界への週刊ガイドや。我々はここで大きなニュースの謎を解き明かすんや。ワイはギャヴ・ペルや。ケヴィン・ペレイラもおるで。ケヴィン、今週はどないや?
ワイは元気やし、今週のヘッドラインに飛び込む準備はできとるで。
ええやん、ケヴィン。そうや、すぐにニュースに飛び込むで。ニュースの時間や!
はいはい、ケヴィン。今週のニュースはデカくて、早くて、めっちゃ面白いんや。イリヤ・サッツァーの新しい会社、安全超知能について、ようやく詳細がわかってきたんや。彼らが何をしようとしてるかがな。でも一番大事なのは、イリヤ・サッツァーの会社が、文字通り人々のグループとテキストのウェブサイトと約束だけで、シードラウンドで11億ドルを調達したっちゅうニュースや。
これ、ワイが中学生の時に9人の友達と一緒にサイトを作ったんと同じや。アグレッシブ・インラインについてのサイトで、「Pumped on Adrenaline」、略してPOAっていう名前やったんや。まあ、基本的に同じもんやな。
100%そうや! 神様、どっかで見つかるといいな。オンチェーンウォレットにあるんちゃうか?
きっとウェイバックマシンのどっかにあるはずや。ワオ、誰かが見つけてくれたらええな。ストームシャドウがただ7-Elevenの周りをフロントサイドしてるだけで、スラーピーを完璧にしてる姿を想像してみい。
まあ、10人の男とウェブサイトよりちょっと多いもんやけどな。これらは人工知能分野で最も優秀な頭脳の持ち主たちや。アップルのAI部門の元リーダーがイリヤと一緒になって、10億ドルを調達して、噂では50億ドルの評価やと。でもギャビン、面白いのは、彼らが基本的に何も作ってへんってことや。少なくとも計画では、超知能以外のものを作ることに焦点を当てる必要はないんや。賞品に集中できるんや。
じゃあ、超知能がシードラウンドで10億ドルの価値がある理由について、みんなに説明しようか。この番組でよく話題にする人工汎用知能(AGI)っていうのがあるやろ。これは、すべてのモデルが目指してるもんや。つまり、AIが普通の人間と同じくらい賢くなって、普通の人間ができることは何でもできるようになる、あるいは普通の人間よりもっと賢くなって、そういうことができるようになるっちゅう考え方や。
でも、AGIの次のステップは、多くの人が信じてるんやけど、AGIに到達したら、それ自身で改良できるようになって、ASI(人工超知能)になるんや。これは基本的に、SFに出てくるデジタルの神様みたいなもんや。AIが人類のあらゆる部分よりも多くのことを知っていて、驚くべきことを解明できるようになる、つまり人間を止めてきたものを本当に突破できるようになるっちゅうアイデアや。
新しい物理学を解明したり、自分で物を発明したり、実際に我々の生活の仕方を変えたりできるようになるんや。これが、この会社が目指してるもんで、50億ドルの価値があると考えられる理由や。もしこれが作れたら、莫大な価値を生み出すことになるんや。数十兆ドルか数百兆ドルの価値を生み出す可能性があるんや。発明したり作り出したりできるものの種類を考えたらな。
ここで重要なのは、単に数兆ドルを目指すレースじゃないってことや。勝者総取りのレースかもしれへん。それが大きな賭けや。最初に到達した者が勝ち、その日を支配するんや。なぜなら、あなたの超知能は他の誰よりも優れてるからや。そして、これらのものが自己改良するなら、そのミリ秒のヘッドスタートは、他の誰よりもミリ秒だけ優れてることを意味するんや。スカイネットになりたいと決めるまでな。
元アップルのリーダーであるダニエル・グロスは、こう言うてるんや。「我々を興奮させるのは、仕事に興味があって、シーンやハイプに興味がない人々を見つけることや」。ギャビン、彼は誰に向かって言うてるんやろ?
そうや、彼は直接我々に言うてるんや。ダニエル、ワイから離れてくれ。ワイは好きなようにするで。自分らしくおりたいんや。
ワイは、これはちょっとサム・オルトマンに対する当てつけやと思うんや。サムはずっと世界ツアーをして、これについて話してきたからな。これらの人々は、そうやな、とても真面目な人々やと呼ぼう。イリヤはいつも、プライベートでは非常にジョークを言う人やと言われてるけど、世間一般では、彼の録音を聞いてみると、そして再度、イリヤがした長時間のインタビューを聞くことをお勧めするけど、これらは技術を可能な限り進歩させようとしてる人々やからな、ケヴィン。
ワイはね、指摘したいことがあるんや。これはロイターの記事で、SSI(会社)がこの情報を提供したんやけど、イリヤは特に、自分が取り組んでたものとは少し違う山を見つけたって言うてるんや。これは、瞑想の地で1年間過ごした後に降りてくるグルーのようなもんや。彼は降りてきて言うんや。「紳士諸君、ワイはこれまで取り組んでたものとは違う新しい山を見つけました」。あなたは聞かなあかんのや。なぜなら、この人こそが我々を現在のAIの段階に導いた人やからや。
実際、あなたに2つ質問があるんや。1つ目、超知能に到達することを心配してるけど、その追求において安全にしようとしてる会社は、他の会社よりもかなり遅く動く可能性があるよな。他の会社は「誰が気にするんや、とにかく到達しろ、何が何でも、ガードレールなしで行こう」ってな感じやろ。
それとも、政府の規制がかなり関与して、必要なすべてのエネルギーとリソースを使用できる唯一の会社は、政府から承認の印をもらった会社だけになるんやろうか。
あるいは、ギャビン、3つ目のシナリオかもしれへん。政府は無謀に競争してる会社だけを望んでて、「ガードレール派の皆さん、はい、あなたたちはそこでやってることをやり続けてください。でも秘密裏に、我々はこの他の会社に数十億ドルを与えてます」って言うかもしれへんな。
何が起こるんやろうか、それが俺が聞いてる質問や。
ケヴィン、ワイは混乱してるわ。でもな、ケヴィン、混乱してないことがあるんや。この事実についてはよくわかってるんや。あなたは今すぐに我々のYouTubeチャンネルを登録すべきやで。そうや、あなた、このポッドキャストを聴いてる人、もし登録してへんのやったら、聞いてくれ。
実際、そこには本当の質問があったんや、ギャビン。安全性の追求が彼らを遅らせるのか、それとも政府のせいで、それが彼らがそこにたどり着ける唯一の方法になるのか。
みんなが見てるこのビデオをYouTubeチャンネルに登録した後、我々のPatreonに参加して、さらに下にリンクがある我々のDiscordに行った後に答えるわ。でも、はい、ケヴィン、ワイはそう思うんや。それについてのワイの意見を言うと...
おっと、超知能なら、Appleのポッドキャストで5つ星のレビューを残すことを知ってるはずやな。なぜなら、番組の最後でそれを読むからな。
わかった、それじゃあ、この話にさっと結論をつけるとな。多分、政府は最初からこれに手を出すと思うんや。イリヤは暴走する超知能、つまりガードレールのない超知能についてかなり心配してると思うんや。会社の名前が文字通り「安全超知能」やからな。
この2つの会社が分岐して、最終的に何らかの形で再び一緒になる世界もあると思うんや。それは面白いことになると思うわ。2つの会社の再統合やな。でも、本当に面白いのは、ASIが我々人間にとって一体何を意味するのかってことやと思うんや。これが次の10年以内に起こったら、我々は一般的にめちゃくちゃ奇妙な時代に突入することになると思うんや。
AGIに、ASIについてどう感じるべきか聞くのが待ち遠しいわ。実際、今週、日本のある種の会議から、OpenAIの次のモデルについての興味深い最新情報が出てきたんや。
そうや、GPTネクストって呼ばれてるんや、ギャビン。ワイの初期のMTV視聴が何か教えてくれたとしたら、これらのAIはバスに乗ってて、そしてデートに行くんや。もし彼らが対話してるユーザーを気に入らなかったら、ただAIって言って、他の誰かがバスから降りてくるんや。AIよ、左にスワイプせえ、左にスワイプせえ。
誰も気にせえへん参考やな。誰も気にせえへんやろ。左にスワイプするのは却下で、右にスワイプするのはイエスやったっけ?知ってる?
左が却下や、右がイエスや。おっと、それは告白やったな。お前、そういうアプリを使ってたんやな、ケヴィン。お前がそういうアプリを使ってたのは明らかや。
ワイが何を使ってたかなんて知らへんで。ワイは結婚してるんや、ギャビン。ワイは...待って、そこカットして。
ケヴィン、カットせえへん。じゃあ、GPTネクストの話をしよう。真面目になろうや。
噂では、100倍強力になるらしいって言われてるんや。これは、我々が今アクセスできるものより2桁も優れてるってことやな。さらに効率的にもなるんや。つまり、OpenAIがすでに持ってる計算クラスタで動かせるってことや。大規模な都市全体の停電を引き起こすようなことはないやろ。
我々はこの前触れをGPT-5やGPT-nextって呼んでたけど、OpenAIの人自身からの興味深いツイートがあったんや。この人の名前はBoris Power、Twitterでの名前やけど、応用研究の責任者や。彼はChaGPTの購読をキャンセルしたって言うた人に返信してて、こう言うたんや。「申し訳ありません、我々はあなたを失望させてしまいました。辛抱強く待っていただきありがとうございます。うまくいけば、すぐにこれを修正して、購読をもっと価値あるものにします」って。
これら全てが、ケヴィン、我々が言うてきたように、OpenAIから何かが来るっちゅうアイデアを指し示してるんや。我々は選挙後に来ると思うてる。なぜなら、彼らはこの全ての真ん中に巻き込まれたくないと思うからや。
でも、想像してみてくれ。ちょっと仮説を立ててみようや。選挙後に、彼らが約束してたけどまだ実現してへんかった新しいものを全て備えた、完全に機能するGPT-4oをリリースするとしたらどうや。高度な音声も含めてな。そして、人々が使えるSoraをリリースするとしたらどうや。この時点では理にかなってるやろ。
そして、GPT-nextをリリースするか、あるいは何ができるかを実際にショーケースで示すとしたらどうや。これは我々が次のレベルに踏み込むことを意味するんや。そして、世界中のAI嫌いの人たちは、ちょっと恥を食らうことになるかもしれへんな。「いや、違うんや」って言えるで、ギャビン。
でも、ギャビン、Boris Powerのツイートをもう一度、もっと悲しげな調子で読んでみてくれへんか。そしたら、ワイがそれを日本語に翻訳して、雨の効果音をかけて、悲しいアニメの音楽をつけるわ。
そうやな、今やYouTubeもポッドキャストも誰も残ってへんから、ギャビン、xAIとコロッサスについて話すのにぴったりの時間やな。コロッサスは多分、木造ジェットコースターにちなんで名付けられたんやろうな。あるいは、X-Menにちなんでるかもしれへん。あるいは、1970年の映画「The Forbin Project」にちなんでるかもしれへん。ギャビン、これは自我を持ったコンピューターが人類を乗っ取る映画やで。
そうや、xAIが発表をした、あるいはイーロンが発表をしたんや。これはいつもちょっと注意して受け止めなあかんのやけど、彼らはコロッサス10万H100クラスターを立ち上げたんや。つまり、10万台のH100を集めて、AI訓練のために稼働させたってことや。これは、次のモデルのGrockー3が超パワフルになるってことを意味するんやけど。
我々にはそれが何を意味するのかはわからへん。このような訓練クラスターが何をもたらすのかはわからへんのや。ケヴィン、注意深く受け止めるって話をしたけど、ここにはちょっとした裏話があるんや。人々はこれに必要な電力について話してて、完全にオンラインになってへんけど、接続されて組み立てられてる可能性が高いって言うてるんや。
ワイは、AIの電力が多分今後1、2年の話題になると思うんや。これらの巨大な訓練を実行するのに実際にどれだけの電力が必要なのかについてな。
まあ、過去15〜20年の気候変動の話と同じような感じがするな。AIは環境に悪影響を与えるっていう大きな議論が再び起こるんやろうけど、でもこれは、これらの巨大なテクノロジー企業が、これらの実行とこの量のエネルギーが我々がやってることの価値があると本当に信じてるっちゅうアイデアに戻るんや。
そうや、もちろん彼らはそう信じてるわ。エネルギー依存や気候危機の解決、よりクリーンで良いユートピア、「デモリション・マン」の未来につながる可能性があるから彼らはそう信じてるって言うてるんか?
そうやな、議論はこうや。ビットコインマイニングみたいな、以前にたくさんのエネルギーを使ってたものを見てみると、テクノロジー企業がやってきた他のことで多くのエネルギーを消費するものがあるやろ。でも、これにはずっと価値のあるエンドゲームがあるんや。
今週、The Informationからの興味深い記事があってな。別の1,250億ドルのAIクラスターが構築されてるんや。マイクロソフトのProject Stargateは進行中やってことは知ってるけど、別のがあって、どの会社がやってるかは正確にはわからへんのや。これは我々が冒頭で話したレースやな。みんながこれに到達しようと競ってるんや。
実際、最近ラリー・ペイジの興味深い引用を見たんや。ちょっと前のものやと思うけど、基本的に彼はこう言うてた。「グーグルが破産しようが気にせえへん。彼らはこれに勝たなあかんのや」。正確な引用ではないけど、それが彼の考えやった。
これほど大きな賭けをするなら、少なくとも表向きには、サム・オルトマンが持ってるのと同じような考えを持たなあかんのや。1兆ドルか2兆ドル失おうが、彼らにとってはエンドゲームがそれだけの価値があるんや。
でも聞いてくれ、ワイのAlexaと深い感情的なつながりを持って、新しいタイドポッドを注文するかどうかについて議論できるだけで、残された氷河が溶けてもええんや。シロクマに水泳させてもええ。ワイはもっと良いAlexaが欲しいんや。
はいはい、tidepods.blogspot.comからの答えやな、ケヴィン。これは面白い話やな。ここでの話は、AlexaがClaudeを組み込み始めるっちゅうことや。少なくともワイにとっては大きな勝利やな。我々の家の周りにはこれらのAlexaデバイスがあるんや。ワイと妻がAlexaに質問するたびに、それがどれだけ悪いかにイライラするんや。これは密かに大きな話やと思うんや。
ただし、はっきりさせとかなあかんのは、これには追加料金を払わなあかんってことや。これは有料サービスになるんや。無料ではないんや。
指摘しておくべきことがいくつかあるな。AmazonはClaudeの親会社に投資してる。英国の裁判所で止められてるみたいやけど、かなりの規模の投資やった。Amazonは自社のAIとこれらのアシスタントを展開しようとしてきた。1年以上前から試してきたんや。彼らは自社のモデル、自社のTitanモデルを社内で持ってる。でも、必要なレベルには達してへんみたいやな。
これはワイの意見だけじゃなくて、Amazonの意見でもあるんやろうな。AmazonのCEO も同じ考えやと思うわ。彼らが提案してる月5〜10ドルの購読料で提供するものを見てみると、AIが生成する日々のニュースサマリー、子供向けのチャットボット、会話型ショッピングツールなんかがあるんや。
Amazonアプリを使って、彼らのAIを少し試してみたんやけど、最近やったんや。製品の推薦をしてもらおうと試みたんやけど、製品のレビューを全部統合して、それを会話型チャットボットに変換しようとしてるのは面白かったな。でも、まだチャットボットと話してる感じがしてて、スマートなアシスタントとは違うと感じたわ。
これをAlexaに組み込むのは面白いやろうな。でも、その体験に5〜10ドル請求するのは驚きやわ。Amazonがどれだけ金持ちか、そして無料で提供したらどれだけ大きなことになるかを考えると、変な感じがするんや。
これは、人々が再びAlexaを買う理由になるんちゃうかな。実際にAlexaを買うとか、親にAlexaを買ってあげるとかな。でもな、ケヴィン、ここで一番重要なのは、我々の新しいホームボット、新しいNeo-1ベータロボットに指示を出せるAlexaが必要やってことやな。
Neoを手に入れるんか? ワイはハグが欲しいんや。ワイはハグしてくれて、気持ちいいロボットが欲しいんや。
これ見逃したんかな。今週の初めに出た話やけど、新しい人型アンドロイドが市場に出たんや。1X Neo-Aロボットっていうんやけど、SF映画に出てくるロボットにそっくりで怖いくらいや。ガラスの顔があって、ワイが思うに何らかの形で光って、ある種の画面みたいに見えるんやろうな。
そうやな、でも、多くの人が偽物に見えると思うような、この変な布みたいなものもあるんや。でも偽物じゃないんや。今では十分な情報が出てきてるんや。ケヴ、特に話したいのは、脚の下の方がすごく太くなってるんや。このロボットの足首には何か本当に変なものがあるんや。
YouTubeを見てへんからイメージできへんかもしれへんけど、身長164cm、重さ約30kg、歩行速度時速4km、走行速度時速12kmのロボットを想像してみてくれ。かなり速いな。20kgまで持ち上げられて、やることによっては2〜4時間充電で動くんや。
今、この小さくてかなり機敏な家庭用ロボットを想像してるやろ。そして今からギャビンがその一部分にこだわり始めるんや。どうぞ、ギャビン。
なぜか足首の部分が下に行くほど広がってるんや。ワイにはわからへんのや。このロボットが走ってるところはまだ見てへんのや。時速12kmって書いてあるけど、走ってるところは見てへんのや。
そうやな、工場での動画のほとんどは、コードが接続されたままやな。これはロボットが継続的に電力を得る方法や。彼らが家の中で働いてるところを公開した動画では、食洗機から皿を出したり、この女性にハグをしたりしてるんや。
でも、ワイが思うに、これは人々の家に入り込むことになるロボットの一種やと思うんや。Figure 01やその他の超高級ロボットを見てきたやろ。これはその変な布を付けてて、2〜5年後には誰かの家にあるものみたいに感じるんや。
1年後には、ベータテストとして、何か面白いものとして試すために、ワイの家にもあるかもしれへんな。そして多分その2年後には、裁判所で証拠品Aとして、ワイの顔が口を開けたまま、証拠マークの隣に置かれてるかもしれへんな。今のところ、ワイが信頼できへんような動きをするからな。でもベータテストのために1台欲しいな。
面白いのは、多くの人が、彼らが見せてるデモ、卵を作ったり皿洗いをしたり、物を棚に入れたりしてるところは、実際にはテレオペレーションされてるって言うてることやな。今のところ、エンドツーエンドのAIの振る舞いは見てへんのや。
でもな、Amazonの無人レジの店舗を覚えてるやろ。ギャビン、その話では、AIは全く関与してへんかったんや。インドの遠隔地で数千人の労働者がおったんやって。
でもな、これが最初の波の家庭用ロボットになるかもしれへんと想像してみ。実際にはAIは必要ないかもしれへん。家に1台あって、購読料の一部として、誰かが時給5ドルでお前のロボットを遠隔操作して、皿洗いをしてくれるんや。そして最終的には、十分な恨みを持って、X1のサーボパワーを全開にしてお前を絞め殺すかもしれへんな。
実際、これは馬鹿げたことを考えてるって分かってるし、ここで話が脱線してるのも分かってるんやけど、例えばフィリピンにいる人がロボットを操作してるとしたら、彼らはアメリカの司法権の外にいるわけやろ。もし彼らが犯罪を犯したら、それはどうなるんやろな。これは面白い問題で、人々の家にこういうロボットが入るまで本当に考えへんことやな。
ワイはロボットがハグしたり、人を強く抱きしめすぎたらどうなるかって冗談を言うてたけど、このロボットは特にそんなに力は強くないらしいんや。めちゃくちゃ強くはないんやけど、それでも朝のコーヒーに少し毒を入れたりするのを止められへんやろうな。
そうや、ベッドの横にレゴをばらまいて痛みを与えるとかな。嫌なロボットを家に置くなんて想像してみ。ワイは太い足首のことにこだわってるけど、誰も鮭の大きな問題について話してへんな。このフェルトの全身タイツみたいなボディスーツを着たロボットを手に入れたとして、家で鮭を料理したことあるか? 基本的な家事をしただけで、1週間後にはこのロボットがどんな臭いがするか想像できるか? そのワンピースを脱いで洗うこともできへんし、裸のロボットが動き回るのも見たくないしな。そして、その時点まで知らなかったんやけど、なんでジャンクがあるんやろな。
なんでジャンクがあるんやろって? ワイが言うたのは、もしジャンクがあったらどうやろかってことや、ケヴィン。お前が「もし鮭があったら」って言うたから、ワイは「もしジャンクがあったら」って言うたんや。
まあ、もう先に進もう。これ以上は進めへんからな。でも、ロボット工学について聞いた中で、これが一番恐ろしいことやと言っておくわ。ロボットに鮭の飛沫がかかってるのを想像したらな。ワイは「お手伝いできますか?」って言うてるロボットに「いや、頼むから」って言うてるんや。そして、お前のロボットの部分を隠してくれ。なんでそんなものがあるんや? なんでそこから充電するんや? 壁のコンセントに膝をついてるのがめっちゃ気まずいんや。
よし、本当に先に進もうな。中国から来た新しいAI動画モデル、Max-Mっていうのがあるんや。Soul Dialで本当に面白いものをいくつか見たんや。我々の友達のDave Clarkが作った信じられないほど素晴らしいAI動画があってな。実際に、ダース・モールとダース・ベイダーの間の本当に面白いライトセーバーの決闘を作ったんや。
明らかに、IPは彼らにとって問題じゃないんやな。彼らは本当に多くの興味深いスパゲッティテストをやってるんや。キーヴ、ワイが言いたいのは、Kingっていう別の中国の動画モデルもあるってことや。ワイはまだKingをあんまり使ってへんし、多分これも使わへんと思うんや。なぜって、偽の電話番号が必要やからな。新しい電話番号が必要なんや。ワイはまだ、これらの中国企業に自分の電話番号を渡すのはあんまり快く思えへんのや。
まだ使ってへんし、まだ必要性も感じてへんな。生成されるものは素晴らしいけど、ワイはRunwayを使って楽しんでるし、Dream Machineも使ってるんや。Luma Labsも良いモデルを持ってて、最近カメラコントロールも追加したんや。Luma Dream Machineを使うと、被写体の周りでカメラをどう動かしたいか、パン、チルト、ズームなどを細かく設定できるんや。
まだ手を出してへんけど、中国のモデルは本当に良くなってきてるし、とても速くなってるんや。中国のモデルは本当に良くなってきてるし、とても速くなってるんや。そして、アメリカのモデルが持ってるIP制限を持ってへんのや。これは比較的すぐに大きな問題になると思うんや。
本当に気になるのは、アメリカの企業や政府がこれらのものへのアクセスを制限し始めるんやろうか、そしてそれがどのようなものになるんやろうか、どのように起こるんやろうかってことや。
でも、先に進もうな。ケヴィン、今週のニュースで最後に話したいのは、SF作家のテッド・チャンによるThe New Yorkerの非常に長い記事やな。彼は信じられないほど素晴らしい作家で、SF短編をたくさん書いてるんや。映画「メッセージ」は彼の短編小説を原作にしてるんや。
でも、彼が「なぜAIは芸術を作れないのか」っていうエッセイを書いたんや。ワイはお前も強い意見を持ってると思うんやけど、基本的に、彼は芸術家として、作家として、AIはコピー機械にすぎないって主張してるんや。人々がするような種類のものは決して作れへんって。人々は創造的な選択をし、創造的なアイデアを思いつき、突然思いつくんや。
ワイがこれを読んだとき、テッド・チャンのファンとして、本当に彼のことが好きなんやけど、かなり見せかけの議論やと感じたんや。創造的な人々の間には分断があって、これらのツールを嫌ってても、もっと時間をかけて使ってみる必要があるんや。たとえ嫌いでもな。なぜなら、それが何が起こってるのかを理解するのに役立つからや。
この記事を読んだとき、ワイは「ああ、これは明らかに、執筆や人間の創造性、芸術について多くのことを考えてきた人やな」って思ったんや。でも、実際にAIを使って芸術を作ろうとしてへん人のように感じたんや。
ワイにとって、議論はあちこちに飛んでるように感じたんや。「人間の介入なしで芸術になり得るのか?」「一般的に芸術とは何なのか?」「一連の決定や選択なのか?」「コミュニケーションの必要性なのか?」って感じで、なんかふわふわしてて、これらのツールに対する一般的な攻撃みたいに感じたんや。ワイはもうこういうのには慣れてるんやけど、もっと内容が欲しかったな。
例えば、こんな風に始まるんや。「現在、ChatGPTのような大規模言語モデルが生成するフィクションはひどいものやけど、将来的にはそういうプログラムが改善される可能性がある。どれくらい上手くなるんやろうか? 人間よりもフィクションを書いたり、絵を描いたり、映画を作ったりするのが上手くなるんやろうか? 電卓が足し算や引き算で人間より優れてるのと同じようにな」
そう、答えはイエスや。
数年前の質問やったら、「AIはこういうものを生成できるんやろうか」って感じやったんや。でも今や、ゴールポストを動かして、芝生を引きずって、「うん、でもひどくない方法でできるんやろうか」ってところまで来たんや。
ワイは、ほとんどの芸術は一般的にひどいもんやって言いたいんや。Netflixの「Love & Gelato」見たことあるか? あれは企画会議や予算決めを通過して、Netflixのダイヤルまで辿り着いたんや。ほとんどのひどい芸術は、Googleドキュメントか我々のYouTubeチャンネルで死ぬ程度の品位はあるんや。芸術はひどくてもええんや。なぜなら、人々はひどいものを作り、そのうちの一握りが時間とともに上達していくからや。今日我々が話してるこれらのシステムも、最初は全くできへんかったんや。でも今は自分でやり始めてて、その一部はひどいけど、多分良くなっていくやろ。
そして我々は、芸術とは何かを定義しようとする危険な罠に陥るんや。ワイにとっては、これはいつも負け戦やけど、ここで著者は芸術を何千もの決定の結果やって言うてる。もしそれを基準にするなら、オッケー、行こうや。
そしたら彼はこう言うんや。「テキストから画像を生成するジェネレーターを使って、同じように膨大な数の選択をする機会はあるんやろうか? ワイは答えはノーやと思う」
お前、答えはノーやと思うんか? ただ...申し訳ないけど、AIツールで際立ったものを作る誰かに、芸術を作るために尋ねてみてくれへんか? だって、もしお前がただDeviantArtをカジュアルにスクロールして、胸の大きな獣人がクロップトップから飛び出してるのを見たら、「ああ、これは基本的なプロンプトやな、ここに芸術はない」って思うかもしれへん。でも、ワイが言う「本物の」AIアートを作る人々と話してみたら、ギャビン、彼らは何百時間もかけて、どのツールを使うか、どう統合するかについて何千もの決定をしてるんやで。
ワイは、一部のAIアートの方が、穴を開けた塗料缶を持って屋根裏で振り回してキャンバスの上に落とすような奴らよりも、もっと努力が必要やと思うんや。
そうやな、ケヴィン。それは本当に難しいんや。お前が言ってることはわかるで。
そうや、それも本物の芸術やけど、もしそれが本物の芸術なら、人々がUIワークフローでやってることも同じように本物の芸術やと思うんや。
この議論の中で一番激しい部分について話させてくれ。それは、AIが芸術になるようなものを作れるっていうアイデアを使ってるってことや。大規模言語モデルに「本を書いてくれ」って言うたら、出てくるものは良くないやろ。そして、人間の物語と同じくらい良いものになるかどうかはわからへんのや。
同じように、Midjourneypromptに一文を入れて出てくるものは、アーティストができるものほど良くないと思うんや。これは、ワンショットでアートになるものについての会話じゃないんや。これは今起こってる会話じゃないんや。
お前は、我々の番組にゲストとして出演したPersのことを言及したな。AIアーティストのPersは、一文をAIマシンに入れて、それを取り出して「はい、これが芸術です」って言ってるわけじゃないんや。それは、彼または彼女が作ってる大規模な一連の選択なんや。ワイは、「プロンプトを入れて、それが芸術や」って言う人の芸術を信じへんのや。本当に信じへんのや。
でも、AIで作業してる人々の大多数は、これらの選択をしてるんや。いい例が、数週間前に番組で話したように、ワイが作った馬鹿げた2台のカメラによるデート動画「AI Dates for You」や。最初のショットはMidjourneyからやったけど、その男の人のショットを得るのに30回も生成を繰り返したんや。そのためにスクリプトを書いて、その過程で生成されるたびに調整や編集など、ワイが行った創造的な選択をいろいろしなきゃいけなかったんや。
ワイはこれらが芸術やとは言ってへんけど、言いたいのは、これがAIアートやAIコンテンツ全般から生まれる創造的なプロセスやってことや。
ChatGPTを使って課題を完成させるのは、ウェイトルームにフォークリフトを持ち込むようなもんや。そんなことをしても、認知能力は絶対に向上せえへんで。
筋トレの例え話をしたいんなら、ワイにはボディイメージの問題や24時間フィットネスでの時間が十分にあるんや。ここで言わせてもらうけど、それは適切な例えじゃないで。なぜなら、ウェイトルームで本当に成果を出したいなら、どうするか知ってるやろ、ギャビン。スポッターを付けるんや。お前を押し上げてくれる人を付けるんや。それにテストステロンショットとか、そういうのもな。
いや、ケトルベルスイングの話をしようや。
ちなみに、もし今まで重量挙げをしたことがないなら、その例えを使おうや。初めて重量挙げをするなら、コーチを付けたいと思うやろ。速度を上げて、ベストプラクティスを教えてくれる人が欲しいと思うやろ。1万時間か1000万テラバイトのデータと知識を持ってる人をな。
ワイはGPに代わりに持ち上げてもらいたいとは言ってへんし、誰もそうは言ってへんと思うんや。でも、ガイドとして、ツールとして、アシスタントとして、芸術とその追求を超絶的に強化できるんや。
その議論に対する一番簡単な反論は、数学者が電卓を手に入れたとき、彼らの処理能力が落ちたり、数学のやり方を忘れたりしたか?っていうことや。実際には、初期段階の作業をずっと簡単にして、後でもっと複雑なアイデアに到達できるようになっただけやろ。
ワイは、書くことでも同じことが起こらないとは言えへんけど、本を書いたり、本や脚本を書こうとしたりした人間として、その一部は構造やと思うんや。構造はAIが手伝えるかもしれへんものやと思うんや。
今のところ、AIが素晴らしい文章を書けるとは思えへんし、多くの場合、非常にクリシェに感じるやろう。でも、本には構造があるんや。本には構造があって、中間点があり、クライマックスがあり、すべてが失われる瞬間があるってことを知ってるやろ。これらすべてが本の構造の一部であり、AIと一緒に学んで作業できるものやと思うんや。
とにかく、この話題にたくさんの時間を費やしてしまったけど、AIは最終的にはもっと上手くやるようになるで。
さて、ケヴィン、これらの機械に魂があるかどうか、あるいはあるかもしれへんって話をしてる番組のパートに移ろうか。何千もの魂を仮想環境に閉じ込めた実験があるんや。これは、我々が「おっ、なるほど、そういうことか」って言いながら立ち止まるセグメントで話す多くのことの1つやな。
そうや、みんな、これはプロジェクト・シドや。これはAltera AIの人々による新しいプロジェクトや。この会社はAIエージェントやビデオゲームなどに焦点を当ててるんや。彼らは1000のAIエージェントをマインクラフトの世界に入れて、自分たちで物事を理解させ、社会を作らせたんや。ケヴィン、面白いことが起こったんや。
彼らは自分たちで市場を作って、お互いに宝石を取引し合ったんや。このビデオで本当に気に入ったのは、司祭のキャラクターを与えられた人が、誰が最も取引するかという文脈で、一種の宗教に人々を買収し始めたっていうアイデアや。町の宗教的な人々に買収されてたんや。
これは、我々が以前見たことのある良い例の次のステージやな。番組で話したことがあるけど、小さなAIが何かをするんや。これについて面白いのは、Alteraが、これらはマインクラフト内だけじゃなくて、最終的にはDiscordやメールなどの外部にアクセスする能力を持つようになるって言ってることや。これはAIエージェントが何になり得るかの初期段階の見方やな。
最後のセクションで、AIは芸術的なものを思いつく能力があるのかっていう話をしたばかりやけど、この場合は、AIが外に出て、人々を引き付けるような新しいものを作り出せるのかっていう感じやな。これは、我々が今後1、2年で入っていく、一種の生成的なAIの世界やな。これはSFじゃなくて、間違いなく来るんや。
ビデオの例の1つでは、ギャビン、村人が行方不明になって、町の人々がどうすべきか話し合い始めるんや。そして、夜に町中に小さな松明を置いて、この迷子の村人が「ああ、あそこが私の村や」と気づくための灯台を作ろうとするんや。これは完全に生成的な行動で、supposedly全く誘導されてへんのや。
他の初期のマインクラフト実験と比べて、この世界でAIに動かされるNPCのパフォーマンスを見ると、彼らはもっと多くのアイテムを発見し、もっと多くのものを作り、もっと多くの取引をしてるんや。また、プロジェクト・ストロベリーやQARについて話すように、AIの中でこれらの行動をアンロックし始めると、はるかにパフォーマントな結果が見られるようになるんや。
ワイはこの種の実験が大好きや。みんなビデオを見るべきやな。
プロジェクト・ストロベリーと言えば、ケヴィン、ユーザーのGood Sideからの素晴らしいツイートがあったんや。先週話したように、OpenAIのストロベリーは、ストロベリーの綴り方や、ストロベリーの文字にRが何個あるかっていうストロベリー問題を解決しようとしてるんや。
Riley Goodsideは、実際のストロベリーじゃなくて、7つのストロベリーが入った小さなRの容器の絵を作ったんや。そして、「Rの中にいくつのストロベリーがありますか?」って聞いたんや。ケヴィン、AIは7つのストロベリーを特定できたんや。
これについて面白いのは、OpenAIのストロベリーの問題は、我々が話してきたように、これらの単語をどうトークン化するかってことで、特にストロベリーは大きな問題なんや。でも面白いのは、ストロベリーの絵から、簡単にそれらを数えることができたってことや。これらが異なるモデルで、異なることに取り組んでるってことがよくわかるな。
もうちょっと真面目だけど、hopefully我々の視聴者に役立つかもしれへんのは、人々がAIを使って健康保険の請求拒否と戦ってることや。これは本当に興味深いんや。
サンフランシスコのテクノロジー労働者のHolden Karnofsky、名前の発音を間違えてたらごめんな。でも彼らにはウェブサイトがあって、ギャビン、そこに行けば健康保険の請求を提出できるんや。個人を特定できる情報を削除するように求められるんやけど、サイトには何がブラウザにローカルに保存されて、何が彼らのサーバーに保存されるかがはっきり書かれてるんや。彼らを信頼できるなら、だけどな。
アメリカに住んでたら、健康保険がこの国でほとんど機能してへんってことはわかるやろ。保険会社は、提供すべきサービスであっても、請求を拒否するんや。彼らはカスタムの微調整されたモデルを使って、基本的に請求の拒否と健康履歴、そしてあなたが必要だと言うものを比較して、請求の拒否に反論するために使える手紙を作成するんや。
ワイはただ、そうや、もっとこういうのが増えてほしいな。これこそAIエージェントが我々のために働き始める場所やと思うんや。この場合、Holdenは本当に大きな利益をもたらす可能性のあることをしてると思うんや。これらの会社は対処するのがひどいし、人間に対してかなり攻撃的にもなり得るからな。これが今後大きなことになることを願ってるわ。
そうやな、ワイはちょうどKaiserアプリを見下ろしたんやけど、今や大きな聴診器を付けたKermit the Frogになってるんや。これってAIの素晴らしい使い方やと思わへん?
ワイはこの話が大好きや。Damon Beres、XではDLBSっていう名前の人がいるんやけど、基本的に彼はiPhoneのすべてのアプリをKermitに変えたんや。ワイはFluxを使ったんやと思うんやけど、AIで何か馬鹿げたことをする最高の方法やと思うわ。
これをよく見ると、Kermitは全部違うんや。InstagramのKermitのアイコンは、長い金髪の流れるような髪の毛を持ったKermitが自分に向かって電話を持ち上げてるんや。認証アプリのアイコンは、警棒を持った警官の制服を着たKermitやな。
ワイにとっては、これはAIの非常に馬鹿げた楽しい使い方で、今日にでも自分でGuy Fieriでやってみるかもしれへんな。どうなるか見てみよう。
ああ、それ大好きや! やらなあかんで! 宿題を自分で作ってもうたな。
その通りや、めっちゃ楽しそう!
宿題と言えば、ケヴィン、今週AIで何をしたか少し話そうか。我々はRunway Gen 3の40秒延長機能で遊んでみたんや。これを見逃した人のために説明すると、今はRunwayの単一のビデオを40秒まで延長できるんや。Gen 3 Turboモードじゃなくて、Gen 3でやらなあかんのやけどな。本当にクールなことをする人たちを見てきたんや。環境的な感じの、ゆっくりとしたショットで一番うまく機能するみたいやけど、他にもいろんなことができることがわかってきたんや。お前も少し時間をかけて使ってみたんやろ?
ワイは人気のゲームボックスアートカバー、DoomやKatamari Damasiみたいなのを入れ始めたんやけど、すぐに生成エラーが出て、多分モデレーションにフラグが立てられたんやと思うわ。著作権のある作品を検出したんやろうな。
プロンプトを少し変えて、「スペースマリーンのドラマチックなズームアウト」じゃなくて、「銃を持った戦士」みたいな、もうちょっと曖昧にしたら生成が通ったんや。でも一度最初の生成ができたら、ギャビン、左下に「extend」っていうボタンがあるんや。それを押して、ズームアウトしたときに何が見えるべきかを理解させるための追加のプロンプトを与えられるんやけど、ワイはそれを空白のままにしたんや。AIに勝手に想像させたかったからな。
ゲームでいうとHaloやDoom、それにKatamari Damasiまで、映画のポスターではスター・ウォーズやジョーズなんかをやってみたんや。
そうやな、スター・ウォーズのやつについて話そうか。これはええ例やと思うわ。もし動画を見てへんのなら、何が起こってるか説明するわ。
クラシックなスター・ウォーズのポスターで、ルークとレイア、そして後ろにダース・ベイダーがおるんやけど、面白いのは、ゆっくりとズームアウトしていって、本当に面白い感じの第二の惑星が見え始めるんや。巨大な宇宙船同士が戦ってるんや。そして最後に、突然我々が映画セットにおるってことが明らかになるんや。面白いことに、横に人が現れるんや。人がおるんや。そして全く別のものに完全に変わるんやけど。
でも、最初の30秒くらいは、何かを生き生きとさせる本当にクールな方法に感じるな。お前の言う通り、最初の10秒を過ぎると少し保持されるんやけど、さらに10秒行くと少し不安定になり始めるんや。それ以上になると、時々完全に場面が変わってしまうんやけどな。
そのスター・ウォーズの例で、今気づいたんやけど、2秒くらいのところで、スター・デストロイヤーの上に何かがコピー＆ペーストされてるんや。なんでそこにあるのかわからへんけど、あるのが好きやな。
Katamari Damasiのやつは本当にワクワクしたわ。有名なKatamariのシーンで、ランダムな物体のボールが街を飲み込みながら遠くに大きく見えるやつがあるやろ。ワイはズームインするように言うたんや。建物の小さな細部をAIが想像するのを見たかったからな。そして、高層ビルの上をズームしていくと、アップルキャンパスの大きな虹のアーチみたいなものが見えるんや。
それを街路や車に囲まれたところで見ると、ギャビン、フルモーションビデオや実写版のKatamari Damasiがどんな感じになるかがわかるんや。ところで、それはええアイデアやな。
これらのうちもう1つについて話したいんやけど、お前の最後の晩餐の写真や。ここには非常に興味深くて、潜在的に冒涜的なことがたくさん起こってるんや、ケヴィン。
はっきりさせておきたいんやけど、最後の晩餐の写真から始まって、ズームアウトしていくと、右端に女性の使徒がおることに気づくんや。そしてユージーン・レヴィが現れたかもしれへん。でも、我々は最後の晩餐にいるだけじゃなくて、イエスの話を聞くために集まった大勢の人々のための会議ディナーみたいなところにいるんや。
多分、イエスがTEDxの講演者やってことを知らんかったんやな。これが元祖TEDxやったんかもしれへん。最後の晩餐は実際には10xカンファレンスやったんや。
ワイはこういうのが大好きや。美しくすることはできへんし、プロンプトを空白のままにするのが好きなんや。誰でも1枚の画像でこれができるんや。Runway Gen 3にドラッグ＆ドロップするだけや。お前が言うたように、ターボじゃなくて通常のモデルを使うんや。一度うまく生成できたら、左下の「extend」ボタンを何度もクリックできるんや。40秒まで延長できるんや。
ワイがやったのを見てみ。先週のサムネイルを使ってみたんや。サムネイルを使うときの面白いところは、人の顔でどんなことができるか理解しようとすることなんや。
この場合、我々はゆっくりとズームアウトしていって、銀河がどんどん大きくなっていくんやけど、それから超サプライズが入ってくるんや。我々の胴体を想像しようとさえしてへんかったんや。お前にちょっと腕を与えたけど...
そうやな、でもズームアウトすると、我々の頭の間に浮かんでるイチゴから爆発が起こるんや。
ワオ、ああ、そうや。あの人は誰や? これが未来のファッションなんか、ギャビン? 例えば、ライダーが親指と2本の指だけを覆う手袋を着用するみたいに、ただ肩から三角形になってて、乳首を挟んでるだけの未来のシャツなんか?
イチゴが戻ってくると...
まあ、来週の課題はこれやな。
基本的に、サムネイルで好きなのは、人々を見せて、他の人々が現れるんや。「この写真に2人おるなら、もう1人おるはずや」って思うからな。この場合、我々がさらに銀河の奥に行くと、ランダムな人が現れるんやけど、めっちゃ楽しいし、すごいわ。大好きや。
さて、5つ星レビューの時間やな。いつも、Apple PodcastやSpotify Podcastでレビューを残してください。今はSpotifyにも動画をアップロードしてるから、楽しんでもらえてたら嬉しいわ。5つ星レビューをもらうたびに、ここで番組内で読み上げるんや。
今週は、ケヴィン、Mad Max 1661からの5つ星レビューを読んでくれるか?
5つ星やな。さらにレビューに5つの絵文字の星まで付いてる。ありがとうな。
「AIはすごい、人間のホストもすごい（今のところはな）。AI for humansにハマってもうた。ホストが複雑なAIの概念をめっちゃわかりやすく説明してくれるんや。AIの分身が必然的に引き継ぐまで見続けるで。そのころには、ワイ自身のAIクローンが、ワイの代わりに視聴してるんやろうな。ワイは元のホストとバハマでピニャコラーダを飲んでるかもな。頑張って働いてるデジタルな自分たちに乾杯や。給料を稼ぎ続けてくれてるからな。ロボットの反乱がこんなにリラックスできるもんやとは誰が知ってたやろか。人間にも、未来のAIの代替品にもオススメや」
Mad Max 1661、その5つ星レビューありがとう! Apple Podcastを持ってへんとか、段落を書くのが大変そうに思えるなら、わかるで。みんな忙しいし、忙殺されてるからな。
このポッドキャストを友達と共有するのを手伝ってくれるなら、それが我々の成長につながるんや。YouTubeでいいね、登録してくれるのはお金かからへんし、ThreadsやXで関わってくれるか、TikTokで関わってくれ。そこではギャビンが主の仕事をしてるで。そこで熱心に投稿してるんや。
TikTokは唯一、仕事をして何ももらえへんプラットフォームやな。視聴者の愛と喜びだけやな。
ちなみに、これはAIにとってクレイジーな月になるで。もし我々の番組を誰かと共有しようと思ったことがあるなら、今がそのときや。なぜなら、我々は新しいツールが登場する次の段階に入ろうとしてるからや。だから誰かと共有してくれ。
我々のDiscordで会おうな。実際にそこにおるんや。リンクはショーノートにあるで。
そして、特別なVIPラウンジで過ごしたいなら、パトロンにならなあかんのやで、ギャビン。
わかってる、わかってる。お前は今にもマイクを落としそうやったな。「行くで」って感じやったけど、今はSCしてる...オッケー、オッケー...
これらは季節の理由やで、ギャビン。
その通りや、スクロールを急いではあかんな。
これらは我々のパトロンや。もしお前が我々のパトロンなら、我々のパトロンレベルの「かなり良い人間」の一部やな。「かなり良い人間」って呼んだんや。ただ愛やな。
みんな、支援してくれてありがとう。そしてもし我々を支援したいなら、patreon.com/from_showに行ってくれ。
じゃあな!