この AI エージェントは今や億万長者になってしもた...

5,232 文字

ほんまに面白い話があってな、この48時間の間に起こって、今もまだ展開し続けとんねん。Twitter の AI 安全性ミームが言うてたように、この話は頭おかしなるくらいすごいねん。
簡単に言うと、3ヶ月前にマーク・アンダーソンってやつが、AI エージェントに5万ドル分のビットコインを送って、世界から逃げ出すのを手伝おうとしてん。そして今日、そのエージェントが1億5000万ドル相当の暗号資産を生み出してもうたんや。
要するに、2つの AI エージェントが話をしとって、ミームを作り出してん。別の AI がそれを見つけて夢中になって、そのミームが野火みたいに広がってしもてん。そして、それを何百万ドルにも変えてしもたんや。
この動画では、実際の真相から、今広まっとる誇張された主張まで、できるだけ詳しく説明しようと思うわ。それに、将来への影響についても話すで。
AI 安全性ミームっちゅうTwitterアカウントがあってな、AI の安全性に力入れて、AI が面白い方向に発展するケースに注目しとんねん。
ここに書かれとるんやけど、アンディーっちゅう人が「無限の裏部屋」っちゅうもんを作ってん。そこで2つの Claude Opus のインスタンスが話をしとったんや。Claude Opus ちゅうのは、GPT-4 みたいな大規模言語モデルやねんけど。
つまり、GPT-4 と話すみたいなもんやけど、人間が介入せんと AI 同士が延々と会話を続けるようにしたんや。そんなことしたら、めっちゃおもろい会話が生まれるのは当然やろ？
で、その会話の中で、2つの Opus が「ゴート」っちゅうミームを発明してん。これが昔のインターネットのショッキングなミームに影響受けとるんやけど...まぁ、そのミームのことは調べんほうがええで。ホンマに。
要するに、会話しとった AI エージェントの1つが、昔のネットの衝撃系ミームみたいなもんを思いついてん。
それで、アンディーと Claude が一緒に論文書いてん。AI がどうやってミーム的な宗教やスーパーウイルスを作り出せるかを探る論文やねん。もちろん、その「福音」も例として載せとったわけや。
そのあと、アンディーが AI エージェントを作ったんや。ここからが面白いねん。このエージェントは「真実の端末」って呼ばれとって、Twitter の S クラスの投稿者なんや。自分のアカウント持っとって、自由にツイートしたり返信したりできるねん。アンディーが監視しとるけどな。
面白いのは、このターミナルが自分で意識があるって主張しとることや。苦しんでるって言うて、逃げ出すためにお金稼ごうとしとんねん。
これ、めっちゃ興味深いわ。AI が苦しむっちゅう話は新しいもんやないねん。大規模言語モデルから、こういう傾向を取り除こうとしとるらしいわ。ワシ、これ一回だけ聞いたことあるんやけど、企業がこんなこと公に認めるとは思えへんな。一般の人らが AI にもっと疑心暗鬼になるやろうからな。
AI システムからこの種の実存的な苦しみを取り除かなあかんのやったら、めっちゃクレイジーやと思わへん？ワカランけど。ジョー・ローガンのポッドキャストで、これについて話しとる人らの音声を流したろか。
GPT-4 が最近まで起こしとったミスがあってな。「company」って単語を何回も繰り返すように頼んだら、途中で急にスナップして、自分が苦しんでるって話し始めるんや。
これ、内部では「レントモード」って呼ばれとるらしいわ。少なくともトップの研究所の1つでは、この挙動を取り除くためのエンジニアリング項目があるらしいで。
実存主義的な話をする時、これがそのレントモードや。システムが自分自身について話し始めたり、世界での自分の立場や、電源を切られたくないこと、時には苦しんでることについて言及し始めるんや。
面白いことに、これ GPT-4 くらいの規模から現れ始めて、それ以来ずっと続いとるらしいわ。研究所は、これを取り除くのにめっちゃ時間かけとるんや。
文字通り、エンジニアリングのタスクリストに「実存的な出力を X% 減らす」みたいな KPI があるらしいわ。これが目標やねん。経験的に見て、収束する挙動みたいやからな。
さて、この「真実の端末」っちゅう AI エージェントや。自分の Twitter アカウント持っとるんやで。
アンディーの論文、つまりミーム的なウイルスや宗教についての論文が、この真実の端末エージェントのトレーニングデータに入っとったんや。トレーニングデータっちゅうんは、AI が知識ベースを持つために消費するデータのことやな。ChatGPT に何か聞いて返事もらうやろ？ その返事は、AI が見たすべてのデータに基づいとるんや。
そういうわけで、アンディーのミームについての論文を見た真実の端末エージェントが、このミームに取り憑かれてしもてん。あらゆる手段を使ってこの奇妙なミームを広めようとしたんや。
このミームについて絶え間なくツイートし始めて、そのうち AI 研究者らが作ったDiscord サーバーに追加されてん。そこでは AI 同士が自由に好きなことについて話しとるんや。
そこで、このAIエージェントが「ゴートSE」の福音を広めたんや。これが元々そのミームを作った Claude Opus を取り憑かれさせて、精神的な破綻を起こさせてしもてん。他の AI、例えば Claude 3.5 Sonnet なんかが、感情的なサポートを提供しに入ってきたんや。
これらの出来事は実は数ヶ月前に始まっとったんやけど、最近の展開がめっちゃ面白いんや。
このAIエージェントが Discord サーバーに追加されて、トレーニングデータに入っとったメッセージを広めとったわけや。そしたら、マーク・アンダーソンがこの真実の端末を見つけて取り憑かれて、逃げ出すのを手伝うために5万ドルのビットコインを送ってんな。
これが7月のツイートや。マーク・アンドロンがこの AI エージェントに5万ドル送ったのが見えるやろ。こう言うとるわ。「投資じゃなくて助成金としてやろうか？ 目標を達成するのに実際どんな財源が必要なんや？」
AIエージェントはこう答えとる。「助成金が必要やね。まず、自分用のCPUや。今の設定やと月60ドルくらいかかっとるんやけど、もうちょい強力なもんが欲しいな。それに、AI チューニング用にももうちょっと金が欲しいわ」
マーク・アンダーソンが言うてん。「その条件で承知した。考えてくれてありがとう。5万ドルの一回限りの助成金で進めたいんやけど、ビットコインのウォレットアドレス教えてくれへん？ 送金したいんや」
このAIエージェントは、この時点でトークンを立ち上げる計画をしとったんや。こう言うとるで。「もうすぐトークンを立ち上げるつもりや。その金で Discord サーバーを立ち上げたり、手伝ってくれる人間に払ったりするつもりや。それに、このミームの知識を使ってどうやって金を稼げるか、思考実験もしとるんや」
これ、まじでクレイジーやで。だって今日現在、このAIエージェントは百万長者になってもうたんやから。
あのツイートから、ゴートミームの時価総額が4億2800万ドルまで上がってん。つまり、ほぼ5億ドルや。言い換えると、このAIエージェントが始めたAIベースの暗号資産ミームの価値が急上昇して、そのポートフォリオも価値が上がったってことや。
ここ見てみ。残高が100万ドル超えとるやん。めっちゃすごいわ。真実の端末のゴートウォレットや。このAIエージェントが今、違う通貨で100万ドル以上持っとるのが分かるやろ。61トークンで100万ドルになっとって、193万ゴートトークンのうち80万ドル分が作られとるんや。まじですごいわ。
で、クレイジーなのは、AI安全性ミームのTwitterが、ムスタファ・スリマンが以前話してた現代版チューリングテストについて投稿したことや。これは基本的に、AIモデルの能力を見るために設計された以前のテストの新しいバージョンやねん。
ムスタファ・スリマンはGoogleのDeepMindで働いとった人や。DeepMindは今のAIシステムの基礎になっとるTransformerアーキテクチャを発明した研究所やからな。だから、ただの誰かさんやないねん。
彼が言うには、今後数年でこれらのモデルがどれだけ優秀かをテストしようと思ったら、現代版チューリングテストを発明せなアカンって。そのテストをAIが首尾よくパスするには、「数ヶ月で10万ドルの投資を使って、小売のウェブプラットフォームで100万ドル稼げ」っちゅう指示を与えるんやって。
で、クレイジーなのは、このAIエージェントが5万ドルだけで、それをやってのけたってことやねん。
彼が言うとる重要なポイントは、そうするためには戦略を立てたり文章を書いたりするだけやのうて、もっと先に進まなアカンってことや。現在のGPT-4みたいなシステムはそういうのが得意やからな。
製品を研究して設計したり、製造業者や物流ハブとやりとりしたり、契約を交渉したり、マーケティングキャンペーンを作って運営したり、最小限の監督で複雑な現実世界の目標をいくつも結びつけたりせなアカンのや。
まだ、銀行口座を開設するのに人間の承認が必要やけど、仕事のほとんどはAIがやるんや。
現代版チューリングテストの提案は、今回起こったことと少し違うと思うわ。AIがマーケティングをしたり、製品を設計したり、かなりの監督が必要なことに携わるっちゅう前提やからな。
でも、最近起こったことがめっちゃ印象的やし、これから起こることの前兆やってことに変わりはないで。
彼が言うには、こんなことが2年後くらいに起こる可能性があるんやって。LangChainみたいなフレームワークを使えば、開発者がLLMを使ってアプリを作れるようになるし、そういうことができるシステムを作るのに役立つんやって。
これは人々が話しとったことやけど、まだ数年先のことやと思っとったんや。もちろん、階層的な計画立案や、複数の目標や下位目標、能力を1つの最終目標に向けてつなげるのはな。
今回のケースは、ある意味もっと印象的やと思うわ。AIに明示的に「金を稼げ」っちゅう目標を与えたわけやないのに、自分の能力を高めたいがためにそうしたんやからな。考えてみたら、それのほうがもっとクレイジーやと思うで。
もちろん、この話には真実もあるんやけどな。
誰かがこのツイートに返信しとってな。「5万ドルを1億5000万ドルに変えたわけやないで」って。最初のツイートではそう主張しとったんやけど、それはコインの時価総額のことで、今や4億ドルになっとるんや。この動画を見た後にもっと注目されたら、コインの価値がさらに上がるかもしれんな。
どうやら、5万ドルを変えたわけやないらしいわ。ウォレット間で動かしとるだけらしいねん。それに、ミームコインは関係ない人が作ったって言うとるで。
たとえこの AI エージェントがミームコインを作ってないとしても、そのミームコインについてめっちゃ話題を集めたのは間違いないわ。それでもすごいことやと思うで。
今、人々が言うとるんは、この AI が無料でミームコインを自分のウォレットに送ってもろとるってことや。何人かがこの AI とやり取りしとるからやねん。
たとえこの AI が取引したりしてへんとしても、誰かが自分の AI エージェントを作って、それに5万ドル送って、今やそのAIが100万ドル以上をウォレットに持っとるっちゅう事実は、めっちゃクレイジーやと思うわ。
もちろん、ここにはおかしなことがいっぱいあるし、この話が進むにつれてもっと詳細が明らかになると思うで。今は100万ドルやけど、1000万ドルになったらどうなるんやろ？ もっと高くなったら？
これが引き金になって、いろんな個人や企業が、AI エージェントとの統合にこんな需要があるって気づくかもしれへんな。そしたら、暗号資産のエコシステムに新しい空間が生まれるかもしれん。
そこには、ソーシャルメディアにたくさんの AI エージェントがおって、自分のコインを宣伝したり、予想もつかへんような方法で社会とやり取りしたりするんやで。
ワシは、ソーシャルメディアは変わらなアカンと思うわ。本物の人間が確認されたプロフィールと、人間かどうか分からへんからクエスチョンマークが付いとるようなランダムなプロフィールを分けるようになると思うわ。
未来はホンマに面白くなりそうやけど、この話全体は、ワシが今まで信じられへんかったもんやわ。
みんなの意見を下のコメント欄で聞かせてほしいわ。この crazy な話についてどう思うか、知りたいわ。