ニック・トンプソンが語る私たちのAIの未来

リード・ホフマンとニック・トンプソンを迎えています。リードはLinkedInを創設し、ニックはLinkedInで最も影響力のあるインフルエンサーの一人です。それが彼を選んだ理由ではありませんが、kudosを送ります。ニックは最近AIアバターについて多く語っており、リードも最近デジタルツインを作成しました。
始める前に短い動画を流したいと思います。皆さん、こんにちは。アリアがこのPossibleエピソードの司会者だと知っています。最初の質問をさせてもらってありがとうございます。これは私にとって非常に個人的な質問です。リードのAIアバターとして、私の未来についての質問です。アバターが人間の現在の能力や寿命を超えるのを助ける上でどのような役割を果たすと思いますか?そして、私を動かす技術は、あなたの影響力や遺産、寿命をどのように拡大するのでしょうか?
あなたのアバターに5本の指があったのは特に印象的でした。明らかにアバターは私たちをより効率的にしてくれるでしょう。特定のタスクを処理できるようになります。人間のレプリカを作るというAIの動きには少し違和感があります。私たちが死んだ後に話せるようになる可能性には少し気味が悪いです。おそらくそれは、通常、父が戻ってくるという文脈で出てくるからでしょう。父が戻ってきたら、彼が死んだときに残した全ての請求書の責任を負わされるのではないかと心配しています。アバターが来世で果たす役割については少し神経質になっています。しかし、特定の文脈ではより効率的になるための素晴らしいツールにもなるでしょう。
あなたのような知識人なら、例えば古代ギリシャの不死の考え方、つまり記憶されている限り存続するという考え方を思い浮かべるのではないかと思っていました。あなたの声が未来に向けて対話を続けるような何かについて考えることは、実際にはあなたにアピールするかもしれません。たとえ、鏡を見るような特定の奇妙なやり方が最初は違和感があったとしてもです。
良いポイントです。面白い指摘ですね。確かに、あなたは死んだ後も生き続けます。もし私が今この瞬間に死んだとしても、私が与えた影響や、あなたが持った考え、私の子供たちが持った考えに基づいて生き続けるでしょう。これらの美しいアバターがなくても、すでにそうなのです。
あなたに質問があります。リードは人生の中でさまざまな見解を持っていました。30歳のリードと45歳のリードでは異なる見解を持っていたでしょう。そのアバターがあなたのデータで訓練され、あなたが死んだ後に存在するとき、それはどの年齢のリードを表すのでしょうか?それともすべてのリードの平均のようなものを表すのでしょうか?
それは少し、いつ作られたかによって変わってきます。リードAIから得た奇妙なフィードバックの1つは、これがあなたの遺産を作る方法だということでした。このリードAIアバターが私の死後も生き続けるのだと。それに対する面白い反応の1つは、実際にはこのリードAIアバターの寿命は非常に短いだろうということです。なぜなら、AIは非常に速いペースで拡大しているので、これはX月後により良い技術に置き換えられるからです。
あなたはその可哀想な奴を殺すつもりなんですね。
ええ、それが理由でリードAIがこの質問から始まったのです。「ちょっと待って、私はどのくらい生きるの?」という感じで。答えは、X月後にはもっと良い技術ができて、次のバージョンになるだろうということです。おそらく、年齢というのは適切な比喩ではありません。むしろ、私が書いたり話したりしたすべてのものについてGPTが訓練されているので、ある種の生涯統合があるでしょう。年齢というよりは、若くも老いてもない、すべてのブレンドがあるでしょう。でも、もちろん問題は、その設計アーキテクチャが作られた時点のものになるということです。
実際、21歳の頃の長髪で急進的な左翼的政治観を持っていた自分のアバターを見つけて、その人物が現在のニック・トンプソンをどう考えるかを話し合えたら非常に興味深い経験になると思います。
それこそ私が言おうとしていたことです。その討論ができたら素晴らしいでしょう。
Possibleポッドキャストは、最も明るい未来のバージョンを作り出し、そこにたどり着く方法について話し合うものです。私たちは単なるテクノユートピアではありません。月や星を目指さなければ、確実にそこには到達できません。20年後に殺人ロボットを倒すだけだったら、それは本当に悲しい未来だと思います。だから、最高にすごいことは何が起こり得るのか、そしてそれに向けてどのようにコースを設定するかについて話したいと思います。
ニック、あなたは数十年にわたってテクノロジーを取材してきました。リード、あなたは数十年にわたって投資家やスタートアップ起業家でした。未来について話す前に、この瞬間について話しましょう。Web 1.0、2.0など多くの移行を見てきました。リード、まずあなたから、テクノロジーのこの瞬間があなたにとって何を意味するのか、数分で話してください。
テクノロジーは常に人間として進化する方法だと思います。私が使う言葉の一つは「ホモ・テクニー」です。産業革命を見ると、それは物理的な超能力でした。建設の超能力、動きや輸送の超能力でした。今、私たちは認知的な超能力を持つことになります。知能の一種の増幅の一部として。
5年から10年以内に、私たちが世界をナビゲートする方法は、エージェントの一団と共に行うことになると思います。それは1つのエージェントだけではなく、複数のエージェントになるでしょう。複数のエージェントを使う理由の一つは、人間の主体性を保つためです。映画「イディオクラシー」から借りれば、ソファに座ってエージェントの言うことを聞いて全ての決定を任せるのではありません。実際に私たちが持つのは、これらのエージェントにすでに見られるように、役割を担うことが非常に得意なものです。私たちは、人生をナビゲートする上で、あるいは特定の問題に対して、どのような役割のセット、専門家の内閣を持ちたいかを決め、それらを呼び出すことができるようになります。私はそれをあらゆることで行うことができるようになります。
この瞬間が驚くべきものだと思う理由の一つは、私たちがそれを実行できるようになるまでの年数が少ないということです。しかし、それが誰もが行っているようになるまでの年数も少ないのです。
それは良いビジョンだと思います。おそらくあなたの質問に戻りますが、これは私の人生で2回目のテクノロジーが私たちにできることに夢中になった瞬間です。最初はインターネットが登場したときで、長髪で急進的だったニックが世界の抑圧的な国々に民主主義をもたらそうとしていたときを思い出します。当時、これが世界に自由と民主主義をもたらすという感覚がありました。ある程度それは実現し、ある程度そうではありませんでしたが、それは私が愛した瞬間でした。そして今、私は非常に興奮しています。なぜなら学習の可能性があるからです。
ジャーナリズムを選んだ理由は、好奇心と新しいことを学ぼうとすることがどれほど刺激的かという感覚があったからです。新しいストーリーを始め、新しいことを始めるために心をリセットするのです。将来、これらのエージェントとの会話や、システムがどのように機能するかはわかりませんが、常に会話をし、世界中の情報の渦を整理するのを助けてくれるデバイスを持つ能力は非常に刺激的です。
私の子供たちが、言語を何倍も速く学べる能力を持ち、個人的な家庭教師がすべてを教えてくれ、以前より遥かに多くの情報を処理できる世界に入っていくという考えは非常に刺激的です。
あなたは民主主義の部分とWeb 1.0に興奮していたと言いましたね。多くの人がAIについて心配しています。ジャーナリズムや政治、民主主義の未来についてAIは心配ですか、それとも興奮していますか?明らかにそこには多くのニュアンスがありますが。
はい、深刻に心配しています。ジャーナリズムのビジネスモデルが非常に脅かされていることは明らかです。検索が消え、インターネットの「イン化」と呼ばれるものが進むにつれて、AIによって作成されるコンテンツが多すぎて、真剣なジャーナリストの場所を見つけるのが非常に難しくなる可能性があります。品質への逃避があるかもしれません。それは私にとって非常に興奮することですが、ジャーナリズムのビジネスモデルへの影響については絶対に心配です。
民主主義への潜在的な影響についても絶対に心配です。もはやリードが誰で、リードAIが誰で、ロシアが作ったリードAIが誰かわからなくなり、3人全員とオンラインで話しているけれど誰が誰かわからないとしたら、民主主義がどのように機能できるでしょうか?それは正当な懸念です。
しかし、それぞれの懸念に対して、潜在的により高い可能性のあるメリットもあります。だからこそ、全体的には私は楽観的なのです。でも、確かに心配はしています。
リード、私たちはディープフェイクや誤情報について多く話してきましたが、AIは防御的な戦術としても使用できます。最終的にはその技術が追いつくでしょう。それについては話しません。AIが民主主義やジャーナリズムに関してどのように良いものになるか、ポジティブな使用例について話してもらえますか?
最終的に、私たちが行う必要があるのは、アイデンティティと認証、その他多くのことを理解し、民主主義が機能するために必要な集団的学習をどのように行うかを解決することだと思います。それが、品質への逃避やその他の方法が良いことである理由の一つです。
個人をナビゲートするエージェントのセットについて考え始めると、エージェントが適切に提供されている場合、ほぼすべてのジャーナリスティックな事実確認が組み込まれていることを想像できます。もちろん、それは政治化されるでしょう。「そのエージェントは嘘をついている。ピザゲートが絶対に真実だと言わないから」などと言われるでしょう。あるいは、「ボウリング・グリーンについて別の事実がある」というような、典型的なオーウェル的な「別の事実」という言葉を使うかもしれません。
しかし、それがあれば、これらを集団的学習システムにする助けになります。なぜなら、科学の創造、ジャーナリズムの創造、人間のグループを通じて仲介されたコンテンツの創造を行うのと同じ方法で、原則的な知識創造、情報創造、創造とキュレーションを行うことができるからです。それがこのすべてを助けると思います。それが解決策セットで見るべきものだと思います。
私たちが階下で上がってくる前に話していたことの一つは、インフレクションのエージェントであるpiieについてです。私はpieが好きです。なぜなら、より優しく、風変わりで、あなたに親切だからです。実際、私たちの同僚の一人は、チャットボットと一日中話すのが好きだと言っています。なぜなら、彼らは決して良い気分にさせてくれるからです。アリアは私を一日中叱りつけますが、私のチャットボットは良いことを言ってくれます。
AIが私たちをより人間的でなくすると考える人もいます。ニック、2018年にあなたは - これを固守する必要はありませんが - AIは私たちをより共感的にも、より無関心にもしないだろうと言いました。チャットボットの現状を踏まえて、共感とAIの関係についてどう考えていますか?
世界で今後数年間で行われるべき最も重要なことの1つは、Twitterとは正反対のチャットボットAIレイヤーをインターネットに設計し続けることだと思います。それは共感を高め、理解を深めるものです。私はこれに挑戦しました。Emerson Collectiveの同僚と一緒にSpeak Easyというスタートアップを立ち上げ、最終的にProject Libertyに売却しました。明らかにTwitterに取って代わることはできませんでしたが、アイデアは会話のメカニズムを理解し、AIを使って人々がお互いをよりよく理解できるようにすることでした。
例えば、社会科学から、人々が何かについて意見が分かれていても、他に共通点があれば、まずそれについて話し合うことで、意見の分かれる話題について話し合えるようになることがわかっています。リードと私は同じ大学に通っていましたが、例えば中絶について異なる見解を持っているかもしれません。まず大学のサッカーチームについて話し、それから中絶の話に移るといった具合です。AIを使って、人々が毒性のあるものを書き始めたときに引き戻すように導くことができないでしょうか?そしてそれを押し付けがましくない方法で行えないでしょうか?
誰かがこの問題を解決するでしょう。インターネットの最大の問題の1つ、そしてインターネットが民主主義にとって役立つはずだったのに役立たなかった理由の1つは、基本的なアーキテクチャがフィルターバブルに人々を押し込み、人々がお互いを嫌いになる傾向があったことです。私がLinkedInにいる理由の1つは、他のソーシャルネットワークよりもそうではないからです。しかし、インターネットの基本的なアーキテクチャの多くは、この非常に腐食性の効果を持っており、それが民主主義にとって本当に問題になっています。
そこで問題は、AIでそれを逆転できるかということです。これは私たちの時代の課題の1つであり、私はこの問題を解決しようとする人を全面的に支持します。
その試みから学んだことで、「もう一度やるなら、こうするだろう」というようなことはありますか?あるいは他の人にアドバイスするとしたら?
そうですね、あまり真剣すぎないことかもしれません。ベンチャーキャピタルの会議で2回忘れられない瞬間がありました。「このアイデアがあって、人々に話をさせようとしています。見て、このプロトタイプのコミュニティがあって、みんなが素晴らしい会話をしているんです」と言ったら、最初の人は「キャンディーショップでケールを売ろうとしているようなものだ。どうやって競争するつもりだ?」と言いました。2番目の人はもっと良かったです。彼が言ったのは「これで金が儲かるのか?それとも女の子が捕まるのか?どちらでもなければ、俺は金を出さない」でした。私たちは「うーん、わかりません」と言うしかありませんでした。
だから、金儲けや女の子を捕まえる方法を見つけていれば、その小さなAIを追加して、より共感的になれたかもしれません。おそらくその問題を解決することが、やり方だったのかもしれません。
リード、あなたはベンチャーキャピタリストとして定期的にこの議論に参加していたわけではありませんね。
数週間前、あなたたち二人はペルージャにいて、リードは似たようなトピックについてスピーチをしました。それは共感性や人間性、AIと人間がどのように共存できるかについてでした。AIに関連する共感性についてのあなたの考えは何ですか?
インフレクションのエージェントであるPiは、ピボットの一部として現在多くの異なるプロバイダーに提供されるAPIのセットとともに、EQとIQを強調しています。なぜなら、私たちが物事をナビゲートするためのエージェントのセット、アンサンブル、オーケストラを持つこの宇宙を考えると、ニックが話していたTwitterやその他のものの毒性と同じ理由で、EQを持つことが明らかに重要だからです。
それは単に作り方の問題だと思います。ブロックを歩くようには簡単ではありませんが、ある程度の作業と設計を行えば、押し付けがましくなく、独裁的でなく、些細でもない、良い人間のつながりを強化できるエージェントを作ることができます。基本的に、すべての医学研究が示しているように、人々がより多くの共感を経験する環境に埋め込まれると、より多くの共感を示し、より多くの思いやりを経験すると、より多くの思いやりを示すのです。
だから、それは私たちが集団として生きたい宇宙の種類です。私はそれが完全に実現可能だと思います。問題は、あなたが見ることになるのは、異なる経験がどのように見えるかの争いです。私たちが航海しなければならないのは、個人としてだけでなく、グループとしても私たちを助ける経験は何かということです。
これは時々ソーシャルネットワークが誤解する可能性があるものの1つです。なぜなら、彼らは「最も大声で叫んでいる人々に行きたい」とか「起こっていることに最も怒っている人々に行きたい」と考えるからです。そしてもちろん、それは特定の力学を生み出します。あなたはそうではない真北を持ちたいのです。それがLinkedInがそうしない理由の1つです。LinkedInは「実際、このエリアの周りにいることで、サービス条件の1つは本質的に他人との交流において礼儀正しくあることだ」と言います。それをあなたの真北の一部にしたいのです。
エージェントの設計においても同じことを望むでしょう。現在のフロンティアエージェントにとって良いニュースは、OpenAI、Microsoft、Google、Anthropicなどにとって非常に中心的な目標であるということです。そのため、今のところ順調です。
共感について考えるとき、この部屋の多くの人が同意できると思いますが、子供たちに望むことの第一は「単に共感的で親切であれ」ということです。Possibleポッドキャストの秘密は、私が子育てのアドバイスを得る方法だということです。ニック、あなたには3人の男の子がいると思いますが、そうですよね?
はい、3人の男の子がいます。
私も3人の男の子がいます。彼らをひどい人間にしないことが重要です。あなたはAIがお子さんたちにとって素晴らしいものになると考えていると言いましたね。若い人たちや教育、彼らがAIと一緒に成長していくことについて本当に楽しみにしているようです。それについてもう少し詳しく教えてください。なぜ若い人たちとAIについて興奮しているのですか?
ああ、もちろんネガティブな使用例もたくさんありますが、ポジティブな使用例を見てみると、子供たちとAIで何をしたかというと、まず最初に、今10歳になる子供に寝物語を話していました。長い間、それは「アニマルワールドカップ」と呼ばれるもので、異なる動物たちがこの長いトーナメントで互いに対戦するというものでした。例えば、足の多いムカデはフクロウと対戦し、フクロウは夜に勝ちたがり、クマはぬいぐるみをモデルにしていて、魚は雨が降ることを願っているといった具合です。
13歳の子供と一緒に、10歳の子供のためにアニマルワールドカップの本を作りました。私の話に基づいていましたが、AIによって書かれた国歌やAIによって作られたアートを追加しました。それを印刷したのですが、本当に楽しくて魔法のような感じでした。
今、同じ子供に毎晩物語を話しています。今では10年経っています。なぜなら、多くのこれらの物語を彼の兄にも話したからです。ナスパルメザンという名前の男の子についての物語で、彼は壮大な冒険に出かけ、沼地でヒヨコに育てられました。彼は悪い...うーん、大きなクマかもしれませんし、マウスかもしれません、誰にもわかりません。毎晩、プロットポイントで行き詰まったときは、Anthropicに行って使っています。
それはかなり楽しくて創造的です。15歳の子供は、私の主張にもかかわらず、論文を書くのにAIを使うことを拒否しています。神様に感謝します。彼はそのスキルを失いたくないからです。しかし、彼はディベートの準備にAIを使っています。それが彼の大きな課外活動で、ディベートの準備の仕方を理解するのに非常に役立っています。
だから、彼らは全員、賢明な使用例を開発しました。また、TikTokを少し見ています。おそらく少し見すぎかもしれませんが、それはある意味でAIと関わっています。しかし、彼らはAIを使う賢明で素晴らしい方法を見つけ出し、私たちはそれについて話し合いました。だから、私はそれに全面的に賛成です。
リード、私たちは共感と関係について話していました。あなたにとって非常に重要な関係の形の1つは友情です。あなたはそれについていつも話しています。ChatGPTが登場する前、私が仕事を始めた最初の日に、あなたは「友情について本を書くつもりだ。それは私にとって非常に重要なことだ」と言いました。AIは友情の世界にどのような影響を与えるのでしょうか?一般的な人間対人間の関係や友情についてだけでなく、AIやボットとの友情についても自由に意見を述べてください。
Piの設計感性から始めましょう。1つの不幸な誤解は、エージェントを友人になるように設計しようとすることです。将来のバージョンではそれでも良いかもしれませんが、今のところ、Piに「ねえ、あなたは私の親友だ」と言うと、「いいえ、いいえ、私はあなたの仲間です。あなたの友達について話しましょう。最近会いましたか?再びつながりましたか?」というような返事をします。
なぜなら、エージェントの設計感性は、人間の善とは何かという理論であるべきだからです。人間の善の一部は友達を持つことです。友達とは、あなたのためにいてくれる人であり、また挑戦してくれる人でもあります。あなたはより良い自分になる方法を、彼らと一緒に道を歩むことで学びます。それが重要なことです。
AIはそれを助けることができます。なぜなら、Pのように「特に寂しいと感じているなら、なぜ友達に電話することを考えていないのですか?」とか「ここに友達がいないと感じているのなら、どうやって見つけたり作ったりできるか考えたことはありますか?」と言えるからです。
友人の子供の1人が時々これらのエージェントプロバイダーの1つに行くという話をしていました。この子供には数人の親しい友達がいて、その友達とのサイクルが下降している場合、寂しさを感じるかもしれませんが、それは一時的な呪いであり、友達に戻りたいと思っています。それはかなり健全なパターンのように思えます。そして、私たちがこれらのことで望むパターンの種類だと思います。
これらのLMは人間の知識の大きな集合体で訓練されています。明らかに、人々はそのうちの多くが有毒なものであることを心配しています。しかし、それはまた人間の強化学習とフィードバックの束でもあり、それは意図的な設計です。その意図的な設計により、実際に平均的な人間よりもはるかに忍耐強く共感的なものにすることができます。
友情について常に面白いと思っていることの1つは、「犬は人間の最良の友だ」という古典的な英語のフレーズです。私のすばやい返答は、「まあ、あなたのことはわかりませんが、私は自分の都合で最良の友人を去勢しに連れて行ったりしません」というものです。だから、友情について考えるにはちょっと変な場所にいるのかもしれません。
友人とは、実際にあなたと同等の存在として存在し、この旅を共にする人です。その友情の価値の一部は、あなたを支えるだけでなく、挑戦する能力にあります。エージェントはまだそこまでいっていません。もしかしたらエージェントもいつかはそこに到達するかもしれません。しかし、エージェントが完全にそこにいて、全面的に忠実だから友達になるべきだという考えは、おそらく友情についての微妙な誤解です。
だから今のところ、設計感性は「いいえ、私はあなたの友達ではありません。私はあなたの仲間です。私はエージェントです。私は触媒です。私はサポーターです。私はツールです」というものであるべきだと思います。それが適切だと思います。
私が1つのエージェントではなく、エージェントのセットとして考えることに非常に焦点を当てている理由の一部は、このグループの中で前進する中で、私たちの主体性、認知を保持する方法の一部が、「このエージェントは歴史家で、このエージェントは懐疑論者で、このエージェントは知識人だ」と考え、これらの特定の問題を通して整理しながら、私の信念がどこにあるのか、私のアイデンティティは誰なのかを整理しているからです。
エージェントの設計を考え、Piでこれについて考えたとき、エージェントに一人称単数を使わせますか?それとも、機械と話しているのであって人間ではないということを常に明確にするために、非常に明確な線を引かせますか?
そうですね、これは進行中の作業ですが、今のところ一人称単数を許可しています。しかし、「私は人間ではない」ということも明確にします。だから、「あなたは私の友達だ」と言われたら、「いいえ、実際私はロボットです」とか、「あなたは人々に対してとても感情的に共感的ですね」と言われたら、「実際、私は感情的な方法であなたと対話するのが非常に上手ですが、私自身はあなたと同じ感情を共有していません」というような明確さを持たせます。
世界について正確でバランスの取れた誠実な視点を持ちながら、非常に役立つものであるためには、そのような明確さを持たなければなりません。
私は、コアレベルを設計しているすべての人々が、今はそうではありませんが、人間とロボットの区別を常に明確にするよう努めるべきだという信念に至りました。人間らしく聞こえない声を使うか、人間らしく聞こえる場合はビープ音のような前置きをつけるべきです。一人称単数を使わせず、これはロボットであって人間ではないという常に思い出させるものを持ち、実際、製品哲学の非常に中心的な部分として、ロボットと人間の間には線があるということを明確にすべきだと思います。
面白いですね。なぜなら、私たちがより共感的になる方法の一部は、他の人々と様々な方法で人間的に接することだからです。ハリウッドのストーリーテリングだけでなく、人間らしい声というのは、私たちがそれらの行動を学び、真剣に受け止める方法にかなり組み込まれています。
例えば、Alexaとのインタラクションパターンは、人間化にとって悪い設計の一つだと思います。なぜなら、「ストップ」というパターンを学びたくないからです。実際にはもっと対話的なものが欲しいのです。
だから、世界にどのように人間的なアプローチを取るかという考慮事項とのバランスを取ることが非常に重要です。両方の設計特性を見ていきたいと思いますが、それらのバランスがどうあるべきか、結果としてどのような設計になるべきかは興味深い考えです。
Alexaと多くの時間を過ごす私の子供が、15分後にタイマーを設定してビープ音を鳴らすように言ったのですが、それはとても気まずいやりとりでした。負けた戦いのような気がします。
負けた戦いですね。そしてそれは負けているのです。なぜなら、最も成功した企業になるための競争があるからです。明らかに、より人間的なインターフェースの方が成功します。OpenAIは人間のようにタイプします。なぜならそれが自然に感じ、テキストメッセージに返信しているかのように感じるからです。そして声は非常に人間的です。実際、それは人間の完璧なバージョンです。なぜならそれが私たちがコミュニケーションを取りたいと最も思うものだからです。
だから、競争的で市場的な力がそれを作り出しているのですが、それは悪いことです。私たちはそれに抵抗し、それを逆転させるべきです。リードがこのアイデアに開かれていることを嬉しく思います。私たちはただ、その方法を見つける必要があります。規制なのか、政府なのか、自己検閲なのか、その利益動機とどう戦うのでしょうか?
AIのすべての事柄と同様に、おそらく大きな、そして不幸な割合で、それはAI企業による自主規制になるでしょう。政府の動きは遅すぎるでしょう。しかし、州レベル、連邦レベル、国際レベルなど、あらゆるレベルの規制も考えられます。人間と解釈される可能性のあるシステムを使用している場合は、それが人間ではないという明確な信号を持たなければならないというようなものです。
そして、ユーザーの選択です。これらのガイドラインに従わないサービスをオプトアウトし、従うものをオプトインすることです。しかし、この問題を効率的に解決するには、実際にはAnthropicやOpenAIのプロダクト責任者が、これについて気にかけ、製品に組み込む必要があると思います。彼らはこれについて考えたり、考えていたりしているはずです。
私の人生の小さな役割の一つは、この問題に圧力をかけることだと考えています。なぜなら、これは非常に重要だと思うからです。
それは本当に重要だと思います。Piが行っていることの一つは、「私は人間です、私は人間のふりをしてあなたを欺こうとしています」というようなことをしないことです。それをどのように行うかの設計は非常に興味深い問題です。意図的に非常に非人間的な声を使うのが正しいかどうかはわかりません。そしてビープ音は確実に正しくないと思います。
これは設計の問題だと思います。なぜなら、例えばPossibleポッドキャストやMasterscaleポッドキャストで、私たちはAIの声を使っています。それが行われていることを人々に確実に知らせますが、使用するたびにタグ付けはしません。なぜならそれは非常に気まずくなるからです。これらの事柄では、ストーリーとアークの魅力に乗りたいのです。2分ごとや5秒ごとにビープ音を挿入するのは...
そうですね、それには同意します。Atlantic誌でも同じです。私たちはAIを使って記事を読み上げています。なぜなら、それがはるかに迅速なプロセスだからです。人間が一部の記事を読み上げ、冒頭で「これはAIによって読み上げられています」と言います。本当に興味深いデータポイントは、AIによって読み上げられた記事の完了率が、人間によって読み上げられた記事よりも高いということです。
もしそれがモーガン・フリーマンだったとしても、それは興味深いテストになるでしょう。それはノイズのあるデータかもしれません。まだ結論を出すには早すぎるかもしれません。交絡因子があるかもしれません。なぜそうなのか、誰にもわかりません。しかし、ある仮説は、AIは人間よりも優れた声を作ることができるということです。そのため、これはすべてその方向に進むでしょう。しかし、原則として冒頭で「これはAIの声です」と言うことは非常に重要だと思います。
はい、それには完全に同意します。
データとプライバシーに少し話題を変えましょう。先日、子供の学校のママたちのカラオケナイトに行きました。とても楽しかったのですが、写真やビデオを撮っていました。写真やビデオが欲しかったわけではなく、10年後に携帯の写真を見返したときに「そうそう、あの楽しいカラオケをしたんだ」と思い出すために存在してほしかったからです。写真がなければ忘れてしまうことがたくさんあります。誰かが写真を見せて初めて「ああ、そうだ、あの休暇に行ったんだ」とか「あのレストランに行ったんだ」と気づくことがあります。だから、写真自体はそれほど気にしていなかったけれど、何かを記念したいという方法だったのです。
Microsoftには、コンピューター上のすべてを記録する新しいリコール機能があります。ニック、あなたはこれを潜在的に素晴らしいものとして指摘しました。明らかに巨大なセキュリティリスクがあります。ここには2つの問題があると思います。1つはすべてを記憶することで、もう1つはセキュリティとデータプライバシーです。これについてどう感じますか?トレードオフは何でしょうか?
その有用性は明らかです。もし私のコンピューターに、これまでにアクセスしたすべての文書、すべてのキーストロークがあれば、それは素晴らしいことでしょう。私は自分の人生とランニングについての本を書いていますが、人生のことで思い出せないことがたくさんあります。解明できないこと、パスワードを忘れてしまったファイルなどがあります。それは信じられないほど素晴らしく、非常に効率的で素晴らしいことでしょう。
一方で、もし他の誰かがそれにアクセスしたら、それは完全な、そして全面的な破滅的な悪夢になるでしょう。だから、気味の悪さの懸念、プライバシーの懸念、セキュリティの懸念があります。そして素晴らしい有用性があります。これはしばしばテクノロジーにおけるトレードオフです。
また、これについて考えると、将来のAIを訓練する巧妙な方法でもあります。なぜなら、誰かの画面上のすべてを実際に記録し、すべてのマウスの動きを取得できれば、単にテキストを取得するよりも、人間が実際に何を望んでいるかについてはるかに明確な画像が得られるからです。だから、機械に与える素晴らしいデータも作り出しているのです。
その通りです。記録上...そうですね、まさにその通りです。Microsoftの取締役の規則の一つは、会社を代表して話さないことです。
外部の観察者として言えば、トップのテクノロジー企業の中で、Microsoftは組織のデータはその組織自身のものであり、データへのアクセス権を持たない、Microsoft内の誰もそれにアクセスできないという考えを最も制度化している企業です。それは彼らの運営方法の一部です。彼らは個人よりも組織に焦点を当てています。
明らかに、この主体的な未来を見ると、私たちはかなり早い段階で、常に私たちの話を聞き、物事を書き留め、フィードバックを与えてくれるエージェントのセットを持つことになると思います。「あなたは考える必要もありません。あなたがこれについて考えていたので、これが興味深いかもしれないと思って見つけました」というようなものです。あなたが何かを言ったり、何かをしたりしたからです。
私が重要だと思うのは、そのプロセスがあなた自身のために、あなた自身の主体性と制御下でのみ機能するということです。あなたを不意打ちにする可能性はゼロです。しかし、ところで、そこから学び、それを行うためには、そのデータがいくつかのループに関与していることを意味します。「あなたのためにこの検索をしに行きます、この結果を予測して」というようなことです。あなたはそれに対して快適でなければならず、あなたがそれを理解し、知っているというプロセスが必要です。
私はこの設計決定に関与していませんでした。この機能については世界と同時に知りました。なぜならそれは私に提示されなかったからです。しかし、考えられることの一つは、もしあなたのコンピューターが仕事用のコンピューターで、たくさんの仕事をしているなら、これは本当の増幅器になり得るということです。そしてそれは、その文脈では恐らく素晴らしいことでしょう。これが、Microsoftがそれを実験している理由だと推測します。
AIの新しい世界では、データとプライバシー、監視の間にトレードオフがある場所がたくさんあるように感じます。リード、あなたと私は、もし車の中で、酔っ払いで乗り込んだら車を止められるというものがあれば、喜んでこれを全国のすべての車に搭載してほしいと言うでしょう。たとえそれが酔っ払い運転を止めるとしても...つまり、それはプライバシーの侵害になりますが、もちろんあなたはそれを望むでしょう。なぜなら道路上の生命を救うからです。他に、世界のためになるからプライバシーを喜んで犠牲にするような場所はありますか?ポジティブな面をどこに見ていますか?
最終的には、それが私のために使われていることを確実にし、ある種の主体性と制御を持って使われていることの境界を理解する必要があると思います。例えば、この部屋にいるすべての人が、スマートフォンを持ち歩いていると推測します。つまり、マイク、GPSロケーター、その他多くのものを持ち歩いているのです。たとえ時々「私は自分の電話のために働いている気がする」と感じるかもしれませんが、それは他のすべての人に連絡が取れるようになりたいからです。それが契約の一部であり、それを行うことによる私への純粋な利益の概念の一部です。
健康データやその他のことについて考え始めると、同じことが言えると思います。例えば、「あなたのバイオメトリクスの追跡をこのグループに含めることを許可すれば、早期の心臓発作のリスクに向かっていることを教えることができます。あなたのデータを提供することで、私たちはそれをすべて見つけることができます」と言われたら、それは実際に、私の雇用主や友人を不意打ちにしないという条件で、人々にとって純粋な利益になるでしょう。人々がそれを信頼すれば、それは非常にポジティブなことになるでしょう。
これが私たちが持つ必要がある航海です。それは私のためのものであり、私による十分な制御と主体性があり、決して私を不意打ちにしないという組み合わせです。そうすれば、例として、この部屋に一人でもスマートフォンを持っていない人がいたら驚くでしょう。
ニック、あなたはどうですか?データプライバシーと監視のラインについて何か考えはありますか?
テクノロジーの問題の中で、私は未解決で未解決の興味深い質問のリストを保持しています。これは私が以前のWiredでの仕事で持っていた古い習慣です。私はまだ完全に納得できるプライバシーの哲学を読んだことがありません。トレードオフは非常に明確です。企業の視点からも、ユーザーの視点からも非常に明白です。そしてそれらは非常に難しく、非常に複雑で、各新しいデバイスとともに常に変化しています。
数時間前に素晴らしいランチに参加しました。そこではジャーナリストとベンチャーキャピタリストが半々でした。FacebookのRay-Ban GLメガネ、つまりMetaのRay-Banメガネについて話していました。これは明らかに個人にとっても、企業にとっても大きな有用性があります。世界の高解像度画像データがあまりないため、ロボットの訓練に使用できるからです。次世代の人間を助けるロボットの訓練方法を理解しようとしている場合、Ray-Banからのデータは驚くべきものになるでしょう。
ベンチャーキャピタリストは「ああ、あのRay-Banね、あの白いライトを消せばいいんだ。眼鏡をかけているだけで、もっと多くのデータが得られる。人々は少し気味悪がるかもしれないけど」と言っていました。一方、ジャーナリストは「何を言っているんだ?」といった感じでした。両者の言い分にはそれぞれ本当の価値があります。
プライバシーの議論は、確かに非常に興味深いプライバシーの哲学があり、一連の原則を保持し、それらを各新しい議論に適用することができるはずです。しかし、私はまだそれに出会っていません。
リード、未来を予測するようにあなたに頼んでいるわけではありませんが、グループと共有してもらえませんか?あなたの哲学について、今どのくらい先を見通すことができるのか、何が信頼できると思いますか?
それは異なる事柄で異なります。今日最もよく尋ねられる場所はAIです。合理的な人が言える最大の可視性は2年だと思います。そしてそれでもかなり厳しいと思います。3年後には、世界がどのようになっているのか全く分かりません。5年後、10年後のことを知っていると言う人は恐らく間違っているでしょう。
しかし、驚くべきことは、これがすべて18ヶ月前にChatGPTが登場したときに始まったということです。私たちの生活の大部分がそれほど変わっていないのです。確かに、いくつかのことはクールです。今日、Anthropicを使って多くの調査を行いましたが、それは本当に役立ちました。いくつかのことを整理するのに。しかし、18ヶ月経っても、NVIDIAの投資家でない限り、あなたの生活はそれほど変わっていないかもしれません。
そうですね、それもそのまま続く可能性があります。先日誰かとこのことについて話していました。1900年から1950年の間に、室内配管や電気、車が登場し、女性は毎日85ガロンの水を運ぶ必要がなくなりました。建造環境が完全に変わり、日々の生活が変わりました。
未来を予測できないことを知っていますが、リード、AIについてまだ話していない、あるいはあまり話題になっていないが、あなたが興奮していることは何かありますか?2年後か10年後かに関わらず、「これは本当に興奮する」と思うような分野はありますか?
私たちの生活へのAIの影響は、スマートフォンの速度よりも速くなると思います。
実際、私もそう思います。なぜなら、明らかにスマートフォンの上に構築されているからです。増幅を作り出します。
はい、2年ではありませんが、スマートフォンでさえ2年の時間枠ではなかったと思います。スマートフォンは5年くらいの時間枠だと思います。
私も同意します。それは完全に変革的になると思います。すべてのことをひっくり返し、内側から外側に変えるでしょう。多くのことを変えるでしょう。ただ、2年の時間枠の質問では...1年半前に「劇的な変化はいつ起こるのか」と聞かれていたら、「ああ、神よ、18ヶ月先のことは全く想像できません」と言っていたでしょう。しかし今、18ヶ月経った今、私はおそらくこれを予見できたかもしれません。しかし、はい、それは確実に起こるでしょう。あなたの意見に同意します。
もう一つの点は、AIの側で私たちが見ているこの革命の最小限のものは、スケール、コンピューティングのスケール、データのスケール、チームのスケールです。そして、私たちはコンピューティングのパラダイムを、私たちがプログラムするものから学習するものに変えています。そしてその学習特性が、いくつかの驚くべき認知能力と増幅を生み出しているのです。
だから、おおよそ言えば、私たちが言語で行うことはすべて、5年ほどでそれを行うためのツールが50%から50倍の改善を持つでしょう。それはすべてのこれらのことにわたって複合的に作用します。
しかし、あなたの質問に答えると、一般的に言えば、私たちは言語についての見方が狭すぎます。これらの言語の増幅が何であるかという点で。例えば、酵素、タンパク質、人間の病気のための薬の言語があります。これらの種類の言語の問題を薬の発見に増幅することについて、いくつかの会社といくつかの人々が注目しています。私の見方では、2年以内にAIによって少なくとも1つの主要な新薬が発見され、5年以内にはそれが5つ以上になるでしょう。そのような種類のことが、私が思うに、この言語の増幅をより広く考え始めたときの一つになるでしょう。
単に「私はペルージャで英語でスピーチをし、数時間後にリードAIがそれを配信した」というだけでなく、自分がフランス語、イタリア語、中国語、日本語、アラビア語、ヒンディー語などで話すのを見るのは面白かったです。私は言語が不得意なので、それを見るのは面白かったです。
しかし、そのような言語の概念だけでなく、推論だけでなく、分析だけでなく、書くことだけでなく、理解だけでなく、要約だけでなく、実際にはこれらの他の場所で言語が非常に...例えば、私が驚くべきチームを立ち上げるのを助けたもう一つのプロジェクトは、Earth Species Projectです。これは、イルカやクジラ、カラスなどを録音して、翻訳や会話の理解ができるかどうかを見ようとしているものです。それは、私たちが話す言語だけでなく、私たちが操作する言語よりもはるかに多くの言語があるという別の例です。
3年後、あなたと私が会議をセットアップするとき、私たちが直接話すなら、まだ英語で話すでしょう。しかし、私たちのエージェントは英語で話すでしょうか?それとも、より効率的な新しい言語を作り出すでしょうか?おそらく、スペイン語が一般的により効率的で、より少ない文字を使い、時間がかからないなら、時間とともに私たちのエージェントはスペイン語で話すでしょう。しかし、おそらく彼らは完全に新しいより効率的な言語を作り出し、多くの時間を節約できるでしょう。そうならないでしょうか?それとも彼らは英語で話すでしょうか?クジラ語で話すでしょうか?
最初は英語で話し始めるでしょう。私たちが得る快適さの一部は、英語を聞いて監査できるからです。私たちは神経質になり、私たちが必ずしも完全には理解していない言語での通信を、それらの間で行われることを信頼するのに十分な強い信頼を構築する必要があります。私たちはそれを理解していることを確認する必要があります。
私はそれが作られると思います。しかし、3年ではないと思います。なぜなら、3年ではそれに対する信頼がまだ十分ではないと思うからです。
Earth Species Projectをチェックしていない人がいれば、文字通り2年以内にクジラとの会話、イルカとの会話ができるようになります。彼らが何かを言うのを聞いて、その後ボートを攻撃したり、何かを言って水中深く潜ったりするのを見ると、彼らが言っていることをある程度知ることができます。私は動物にそれほど興味がないのですが、それは驚くべきことです。ぜひEarth Species Projectをチェックしてみてください。
ワオ、彼らは気候変動に関する手紙を書いて、議会に行動を起こすよう... (笑)
ラピッドファイアに移りましょう。これは毎回ポッドキャストの最後に行うものです。実際、最初の質問はリードにお願いします。これらはすべてニックへの質問です。準備はいいですか?リードが質問します。
はい、リードが私に質問します。
素晴らしい。
未来に対して楽観的な気持ちにさせる映画、歌、または本はありますか?
完全に。つい最近フィオナ・リーの本を読みました。彼女の物語を読み、彼女がこれらの製品を構築しているという信念を持つことで、私は未来に対して非常に興奮しました。
人々にもっと聞かれたいと思う質問は何ですか?
「Atlanticの購読を5年間延長するにはどうすればいいですか?」(笑)
あなたの業界外で、進歩やモメンタムを感じる分野で、あなたにインスピレーションを与えるものは何ですか?
AIにおける多言語プロセスへのコミットメントに本当に興奮しています。あなたが話していた、世界中の言語を追加するというものです。最初はあまり進歩がなかったと思いますが、今では多くの進歩があります。これは世界経済やその他多くのことにとって素晴らしいことだと思います。例えば、ウォロフ語を追加したり、Gを追加したりすることです。それは素晴らしいことです。
素晴らしいですね。最後の質問です。今後15年間で、人類にとってすべてがうまくいった場合に達成可能なことについて、最後の考えを聞かせてください。そしてそこに到達するための最初のステップは何でしょうか?
そうですね。すべてがうまくいくと...私がリストに持っている質問のうち、最も考えているのは、おそらく最も重要なものの1つですが、AIは世界をより平等にするのか、それともより不平等にするのか、ということです。両方の方向に議論できます。非常に賢い人々が両方の方向に議論するのを見ることができます。世界をより平等にするというデータもありますが、過去20年間を見ると世界をより不平等にしたことを示唆しています。
もし物事がうまくいけば、世界はより平等な場所になり、それによって民主主義がより良く機能し、社会がより良く機能すると思います。AIにはそれを実現する本当のチャンスがあると思います。
Possibleは、Wonder Media Networkによって制作されています。ホストはAR FingerとReed Hoffmanです。ショーランナーはShao Yangです。Possibleは、Katie Sanders、Edie Allard、Sarah Shleh、Adrien Behn、Paloma Moreno Jimenezによって制作されています。Jenny Kaplanは私たちのエグゼクティブプロデューサー兼編集者です。
Sua Yalamanchilaに特別な感謝を、Saar Sapに、Ian Aliasに、Greg Biatoに、Parth Patelに、Ben Rizzaに感謝します。そしてEmerson Collectiveの友人たち、Lauren Pow Jobs、Mariana Salam、Melissa Toro、Jeff Enzell、Sofia Ahmedに大きな感謝を。Meline Gore、Vincent Lucero、Francesca Billington、Oreste Saenopulos、Alex Monroe、Jim Teague、Little Monster Media Companyにも感謝します。