未来学から公共思想へ: AIや技術、ビジネスを超えたグローバルな課題

私は仕事におけるブランディングの大きな転換を図っています。というのも、23年ほど未来学者として活動してきましたが、未来について語ることは素晴らしい経験でした。ビジネスについて語ることも素晴らしく、私も多くのことを学び、クライアントも多くを学びました。YouTubeには1000本以上の動画があり、現在30万人の登録者がいます。しかし、今は技術の使い方やビジネスの改善方法よりも重要なことについて語る時期だと感じています。しばらく前からそう感じていました。良い未来についての議論などもありましたが、あなたもその議論に参加していましたね。
今、私は自分を「公共的思想家」として再定義しようとしています。もちろん、これは既に私がやっていることです。未来という言葉はマーケティングタグのように感じられ、人々に「ジーは未来を知っている」と言われるような引き出しに閉じ込められてしまうからです。そんなものはありませんよね。あなたも同じような経験をしたと思います。
私は未来学者という肩書きを卒業し、次のステージに進みたいと思っています。それが公共的思想です。公共的思想家とは、本当に重要なことについて語り、違いを生み、影響を与える人のことです。これが重要な部分です。商業的な議題から独立していることが大切です。
AIをビジネスにどう活用するかという議論は、私たちが本当に必要としているものとは異なる議論だと感じています。世界に必要なのは、もっと広い視野で考えることです。私たちが議論してきた協働的な問いや、グローバルな意識の問題もそうです。もちろん、自由な思想家を必要とする問題もあります。
最近、企業にとってそれほど重要ではないという理由で、そういった話題が置き去りにされる傾向があると感じています。そのため、私は公共的思想というブランドに移行しようとしているのです。
はい、いくつかの反応があります。まず、ジー、素晴らしいですね。いつも一歩先を行っています。あなたの転換、あるいは移行は非常に理にかなっていると思います。公共的思想の分野に移行することは、いくつかの理由で意味があります。
まず、過去5、6年の間に、私たちのような人々のおかげで、未来について語ることが一般的になりました。ある意味で、未来を公の会話や議論、思考に持ち込むことに成功したと言えるでしょう。その反面、未来についての質の高い思考が希薄になり、より企業主導、技術主導になってしまったという側面もあります。人々を巻き込み、影響を与えるという重要なメッセージが失われかねません。これが、あなたがその分野に進むことが理にかなっている一つの理由です。
第二に、あなたの会話が過去2、3年の間に、私たちが直面している体系的な問題についてより明確に語るようになったことに全く同意します。グリーン転換に焦点を当て、気候変動を引き起こしてきた経済モデルについて疑問を投げかけ、生産と消費について問いかけ、それが資本主義なのか、それとも中国的特色を持つ社会主義なのかといった問題に焦点を当てています。公共的思想の分野に移行することで、より正当な立場から明確に、挑発的に語り、誰もが難しい選択をするよう促すことができるようになるでしょう。
ありがとうございます。根本的な課題は、企業のために働けば働くほど、正直さと大胆さが徐々に企業の懸念事項に変わっていくという影響があることです。独立した未来学者であり続ける唯一の方法は、あなたに対価を払える顧客を持つことです。学者でもなく、有名な作家でもなく、予算のないイベントで話すこともできません。これも現実の問題になりつつあります。
結論として言えば、私たちには5年しか残されていません。これが現実です。人工知能全般や機械の支配などについて、2040年の見通しだと考えていましたが、それがはるかに早く、より近づいています。今では2030年だと思います。あなたが住んでいる国でも、もちろんこれが最重要課題になっています。
世界のグリーン化、グリーンな未来のシナリオ、持続可能性、気候変動の要因についても、2060年までは大丈夫だろうと思っていました。大きな問題が起きるかもしれないけれど、と。しかし今や、私たちは2度、3度、4度の温暖化に向かっており、それが5年後に起こるのです。すべてがはるかに速く進んでいます。未来は既にここにあり、私たちは協力するためにあらゆる手段を尽くす必要があります。
実際、私たちは科学技術の発明によって、医療の問題やがん、エネルギー、核融合、量子コンピューティングなど、ほとんどの実践的な問題を解決する能力があります。しかし、それをどうするか。私たちはそれをどう使うかについて合意できていません。協力もしていません。
最初にすることは、AIを使って武器を作ることです。ドローンや、より効率的に殺す方法について考えます。これらは非常に大きな問題です。なぜなら、結局のところ一つの問題に帰着するからです。私たちは協力する能力があるのでしょうか。グローバルな議題を見出す能力はあるのでしょうか。そして、実際の知恵の評議会とは何でしょうか。彼らは本当に、スタートレックの経済リーダーのような存在になれるのでしょうか。
これらはすべて疑問点であり、より多くの公共的思想家が必要だと思います。公共的思想家や公共知識人について考えると、中国にはアイ・ウェイウェイがいました。彼は今どこか別の場所にいますが、アートの分野で、そして公共的思考の分野で最も重要な人物の一人です。
彼は、私たちが同じページに立ち、未来を私たちが決定し、作り出すものとして考える必要があると言います。そして、未来は協力によってのみ存在するのです。なぜなら、20年後には明らかに、私たちが協力するか、それとも存在しなくなるかのどちらかだからです。これが気候変動、人工知能、核エネルギー、そしてこれらすべての問題についての全体的な問いなのです。
私にとって、議題は協力をより多く実現し、同じページに立つ方法を見出すことです。私が「良い未来」プロジェクトで行っていたように。社会主義や大衆主義、その他の主義や資本主義について何を考えるかは問題ではありません。唯一重要なのは、私たちが100億人の人口を抱える惑星で、重要な問題について協力できるかどうかです。
核融合を手に入れたら、私たちは惑星を離れることができるでしょう。これらは私たちが一緒に取り組まなければならない巨大な問題です。AIのための別のマンハッタン計画のような軍拡競争を行うと言っても、前には進めません。もしそうなら、私たちは最も知的な種としての地位を維持できないでしょう。超知能を発明すれば。
これらは重要なトピックです。これで二つ目の議論に移りましょう。公共的思想家についてのフィードバックをありがとうございます。AIについてのこの議論について、あなたの見解を聞かせてください。私が「知的アシスタント」と呼ぶ、基本的にどこにでもある低レベルのAIや、ビジネスツールとしてのAIだけでなく、デジタルアシスタントについても。これらはビジネスや社会の問題ですが、存在論的な問題ではありません。
しかし、OpenAIや、もちろんマイクロソフト、そして世界中の他の企業の宣言された目標は、必ずしも人間のような人工知能全般を構築することではなく、むしろ私たちとは別の知性、言わば異質な知性を構築することです。OpenAIやマイクロソフト、他の企業の宣言は、人類全体を超える知性を構築することです。これが目標です。この点についてあなたの意見を聞かせてください。
そうですね、この議論にはいくつかの重要な点があります。明確な答えはないと思いますが、あなたが挙げた例から、企業がどの方向に向かっているかについてかなり明確な兆候が見えています。
例えば、OpenAIとマイクロソフトの例を取ると、AGI（汎用人工知能）を作ることへの彼らの関心が、ビジネス上の利益によって推進されることは確かです。
アップルのインテリジェンスについて私が好きなのは、より個人的なAGIに向かっているように見えることです。もしあなたが自分のメール、カレンダー、連絡先、会話へのアクセスを提供する意思があれば、彼らはそれを利用者の知能を増強するものとして位置づけているようです。
このモデルは興味深いと思います。なぜなら、マイクロソフトがCopilotで試みたこと、そして明らかに監視の方向に向かっていたためにCopilotをリコールしたことから離れているからです。
これらの例では、アメリカの企業であるため、一定の歯止めを与えるような実際のテクノロジーダウンポリシーがありません。これが、中国にいる私が少し安心している点です。政府の規制があると感じています。インターネットへのアクセスに少しフラストレーションを感じることはありますが、全体的には政府のガードレールがあると感じています。
私は「コントロール」という言葉ではなく「ガードレール」という言葉を使います。なぜなら、膨大なリスクがあるからです。ディープフェイクに関するすべての会話を見ても、西側では誰も何もしていません。これらのガードレールと、中国企業が追求しているより遅い開発は、AGIに対するより合理的なアプローチのように思えます。
個人的には、あなたが指摘したように、技術を良いことや、より良い未来のためではなく使用する傾向があることを考えると、より快適に感じています。
より多くの公共的思想家があなたのように、警鐘を鳴らすことと挑発のバランスを取り、収束を促し、さらには良いまたはより良い未来に向けたコンセンサスを形成することを促進する必要があります。
もちろん、これらは複雑なトピックです。なぜなら、そのレベルでは国家安全保障や軍事、ゲノム開発に触れるからです。例えば、新しいタンパク質折りたたみ技術で、ゲノムの変化を説明し、ゲノムをはるかに速く理解し、ゲノムの問題について何かをすることができるでしょう。これも別の大きな問題ですが。
基本的に、私が思うに起こっているのは、一般的に知的なデジタルエンティティ、デジタル存在を開発することが、投資に数兆ドルを持つ多くの企業の議題になっているということです。
私の見解では、AIをビジネスツールとして扱う企業、例えばIBMのように、より効率的なビジネス、より良い方法を作り出すことを目的としているのであれば、それは一つのことです。しかし、宣言された目標が永遠に人類を変え、私たちを超越する超知能を発明することであれば、それはもはや民間企業の問題ではありません。
これは、永遠の混乱や、最も可能性の高い永遠の混乱の可能性を持つあらゆる要素を含んでいます。例えば、アップルのこの問題に関する戦略を見ると、私の見解では、ほとんどのアップルの物事と同様に巧妙です。彼らは、この技術を使ってあなたをより強力にし、自分自身に対する権威を保つと言っています。
例えば、アップルはSiriが私の知的アシスタントになり、映画「her」のように私の人生を運営し、恋に落ちることができ、私の人生を乗っ取るようになるとは言っていません。一方、他の多くの人々は、OpenAIのように、すべてのビジネスパーソン、実際にはすべての人が、実際の人間のコピーのような独自の知的アシスタントを持つようになると言っています。このアシスタントは実際に私たちに代わって物事を行います。
これは完全な権限剥奪のスキームです。例えば、私の予約をしたり、私のためにAIを予約したりするボットは一つのことですが、私の投資ポートフォリオについて重要な決定を下すボットはどうでしょうか。それが私には理解できないブラックボックスになってしまったら。なぜなら、それがあまりにも賢く、あまりにも速いからです。
そして、私が「あなたは私のがん治療を理解したので、あなたにやらせます」と言ったら、それは私たちの人生の一部だけでなく、あらゆる部分でブラックボックスの症状になります。私たちの人生が操作されたシミュレーションになってしまうのです。
これは科学フィクションではありません。なぜなら、民主主義の問題でもすでにこれが起こっているのが見えるからです。人々はもはや他の人々を信頼せず、技術を信頼しています。これは大きな問題になると思います。なぜなら、その時点であなたはビジネスから、本質的に人類のミッションコントロールになるという線を越えているからです。私はそう言うのが好きです。そして、誰も一人で人類のミッションコントロールになるべきではありません。
したがって、私は次のように提案しています。AIには素晴らしいことがたくさん起こっています。印刷機や火、インターネット、その他多くの良いものの発明と同じように。しかし、私たちは確実に99.9%私たちのコントロール外にあり、また人類の進路を運営する責任を負う大多数の人々によってコントロールされていない、あるいはコントロールしようとされていないものを発明するべきではありません。
これは民間の活動になっていますが、それは良いアイデアではないと思います。特に、アメリカと中国という二つの極について話す時、非常に軍拡競争に向かう可能性が高く、力の問題になるからです。そして、これは私たちが勝てるものではありません。
基本的に、核不拡散は勝てます。爆弾を作ろうとする人々のほとんどは、それは非常に複雑で単純ではありません。しかし、AIはコードであり、それでハボックを引き起こすのははるかに簡単です。
そこで私は、超知能のレベルで不拡散条約を提案しています。集まって、「はい、技術的にはできます。5年後には前例のない、克服できないレベルのAIを持つでしょう。しかし10年後には、自己複製し、自己再発明する超知能システムを持つ可能性があります。それは私たちが生き残れない超知能になるでしょう。私たちは第二レベルの知能になってしまいます」と言うのです。
AIや超知能をコントロールできるという考えについて、あなたはどう思いますか。
そうですね、あなたが指摘したように、それは課題になるでしょう。国連が戦争で失敗し、国家や人々、宗教が協力し、共に生きられる平和な条件を作ろうとしてきたのを見てきました。残念ながら、国連モデルは今日の私たちの状況には適していません。
私も非常に懸念しています。なぜなら、グローバルコミュニティとして集まり、私たちの集合知を結集し、あなたが提案するように不拡散条約を作る能力が欠けているからです。それについては心配しています。
一方で、OpenAIとBMYSの最近のコラボレーション動画を見ると、AIが実際に私を助けることができる、例えば視覚障害者がタクシーを呼ぶのを助けたり、新しい目を持つことができるというような短いクリップがありました。これは知能を増強する良い例です。
また、私たちがモノのインターネットのスマートシステムを作ることができなかったという事実にも慰めを感じています。なぜなら、デジタルと物理的な世界をつなぐコードを本当に解読できなかったからです。まだ非常に限られています。つまり、最終的に必要な意思決定の多くは、依然として人間がスイッチを操作する必要があるということです。
もちろん、これは重要な点です。現時点で人工知能は現実の世界を知りません。現実の世界は感じること、触れること、感覚することについてです。人間は三次元的で、体を持っています。現時点でAIは体がなく、感覚がなく、常識がありません。未来を理解せず、ジョークも理解しません。私の顔を見るなど、物理的な要素だけを理解します。
私は、実際の生活の知能の5〜8%程度だと思います。しかし、私たちが見ているのは、スーパープロセッサーにより多くのお金を費やし、それらから排出されるものをあまり出さない方法を見つけると、例えば、スーパーコンピューティング、量子コンピューティング、そして無限のエネルギーを提供する核融合が無限のコンピューティングを提供することになるということです。
これは、デジタルエンティティにとって感覚を持つという考えがそれほど遠いものではないことを意味します。もちろん、愛や思いやりを感じることはできません。それは数学的なプロセスではありません。しかし、AIは愛が何であるかを観察することで、思いやりや共感、愛をシミュレートすることができます。したがって、いわば愛のコピー、愛のシミュレーションを作ることができます。
これは映画「her」で見られるように、多くの混乱を引き起こす可能性があります。まず第一に、私たちが自分が誰であるかを見失い、合成世界を作り出すことで混乱を招く可能性があると思います。
私は人工知能を4つの部分で説明します。一つは認知を賢くすることで、これは良いことです。次に、データグローブやモノのインターネットで私の能力を増強し、より速く、より良く物事を行うのを助ける拡張です。三つ目は仮想化で、これによってデータ空間に入り、今私たちが仮想的に旅行するように旅行することができます。最後は自動化で、人々はこれが重要だと考えていますが、私は人々が考えているほど重要ではないと思います。
これらが4つの部分です。もし私たちが次の10年でこれらすべてを行える機械を持つことになれば、これは完全に協力の問題だと思います。気候変動と同じ意味で。ヨーロッパとアメリカで5年以内にネットゼロになることはできますが、全員がネットゼロにならない限り、それは事態を救うことはできません。AIも同じことになるでしょう。
私たちは合意を作り、「私はあなたの金融ネットワークをハッキングするためにそれを使わない、そして超知能のドローン軍を作らない」と言うことができます。私たちはそれをしないと合意し、標準があると言います。人々は標準を破るかもしれませんが、制裁があり、全体的に標準を守ろうとする意思があります。核や遺伝子工学、オゾン層のように。
国連はこれらの多くのことを行ってきました。それらに対して称賛すべきです。しかし、超知能に関する基準を作る方法を見つけることができるでしょうか。そうすれば、それを活用できます。がんを終わらせることができるでしょうか。これらすべてのことができると思います。しかし、一緒にやる場合のみです。
これは、国連のアントニオ・グテーレス事務総長が常に話していることです。彼は基本的に、「未来は協力か滅亡か」と言います。アントニオは素晴らしい人物で、私の見解では常に正しいことを言います。しかし、人々は彼に注目しているでしょうか。実際に彼に従い、「協力か滅亡か、誰も滅亡を選ばない」と言うでしょうか。世界のどこにいても、誰も悪い未来を望んでいません。
それは、パリ気候協定を起草した人々が書いた本「私たちが選ぶ未来」の前提です。名前を忘れましたが。お互いを本当に理解し、そして難しい選択をするために必要な懸命な仕事の素晴らしい物語です。これが協力の根本にあるのです。
もし私たちが異なる方法で協力し始めることができなければ、あなたが言うように、デフォルトで滅亡の道を辿ることになるでしょう。
もしよろしければ、今年の終わりに出版される私の新しい本を宣伝させてください。「持続可能な未来をデザインする」という本で、私と共著者のマニュエル・セリが、より良い未来を想像し、経験をデザインし、協力し、難しい選択をするために一緒に取り組むことの重要性について語っています。なぜなら、それらは難しい選択だからです。
私は、私が興味を持っていないすべてのことをやってくれるAIを持ちたいと思います。しかし、そこに到達するには、選択をし、AIが何に適しているか、何に適していてほしくないかを知る必要があります。
もし私たちが認知について本当に違う考え方ができれば、なぜならAIはコンピューターを心として、あるいは心をコンピューターとしてのメタファーに基づいているからです。多くの人々は、あなたが言ったように、身体化された認知について忘れています。私たちの五感はすべて情報をもたらし、感覚を与え、最も重要なのは、人々についての感覚を与えるということです。
チャットボットと対話している時、それがどれだけ本物のように見えても、まだ何か不気味な谷があります。理想的には、私が自分の仕事で、特に今の学生たちとしようとしているのは、より身体化され、より現在に存在し、環境に敏感になるよう教育することです。
これは、解決策やテクノロジーから離れ、人々とより関わり、より存在感を持つように心の在り方をシフトするのに非常に強力な方法だと思います。これは、気候変動やより良い健康など、これらの問題に取り組むためにコミュニケーションの方法を本当に変えようとするなら、根本的に重要になるでしょう。
これが私たちが直面している課題です。全体論的な思想家であり続け、全体論的なビジネスモデルを維持しなければなりません。つまり、最も魅力的な技術や技術への興奮、あるいはお金への興奮以外の懸念があるということです。
アメリカンモデルを取れば、お金への興奮です。中国モデルは、国家がお金とビジネスに興奮するというものです。それは異なるバリエーションですが、同じ方向を向いています。私たちには、ただ一つのことだけではなく、より多くの興奮が必要です。
基本的に、私が常に言っているように、四重の議題があれば、つまり人、惑星、目的、繁栄です。AIをこのように使うことができれば、「はい、私たちは人々を助け、惑星を助け、繁栄を増やしますが、同時に目的も生み出します」と言えます。常に各項目で10点満点を取ることはできませんが、選択をします。
現在、私たちには一つのP経済、つまり利益だけの経済があります。私はいつも冗談で、フルスタック経済、4つのPの経済に取り組んでいると言っています。なぜなら、それがAIを使うためのチケットだと思うからです。そうしないと、破壊的になり、全体論的なアプローチを失ってしまいます。
つまり、私たちは身体性を失い、意味を失うのです。なぜなら、その議論の一部は、AIがすべてが労力のいらないという幻想を作り出すからです。これは完全な幻想です。特にアジアの文化では、努力は結果の一部です。努力は取り除かれるべきものではありません。
例えば、女性や男性との関係を築くのは努力です。努力を重ねなければ、結果は得られません。偽の関係になってしまいます。
私たちの両方が言っていることは、あなたの本と共鳴しています。私たちは人間性を増強するためにAIを使う必要があります。もし私たちがそれに同意し、集まることができなければ、今日の世界で起こっていることに本当に挑戦し、より良い未来を築くことができなくなるでしょう。
はい、そうですね。あなたはもうすぐ行かなければならないので、まとめに入りたいと思います。私にとって、人工知能のビジネス上の問題に介入する必要はありません。それらがビジネスや自由経済、そして企業が収益を上げ、生活をより良くしようとする傾向についてである限りは。それが医療や金融、その他何であれ。
しかし、サム・アルトマンが言い続けているように、これらが創造的で考え、計画し、推論する存在になるという考えには反対です。私はこれらのAIに推論してほしくありません。なぜなら、もし推論するなら、私たちの考えと一致しない方法で推論する可能性があるからです。これが整合性の問題です。
整合性の問題を解決していない限り、基本的に人間を介在させ続けることが重要です。では、どうやってそれを実現するのでしょうか。人間を介在させ続けることが重要だということに同意する必要があります。
ええ、ソーシャルメディアが始まった時のことを思い出させますね。人々を結びつける技術だと言われていましたが、まったく逆のことをしてしまいました。むしろ、より多くの分断を生み出しました。AIはさらに悪くなるでしょう。
だから、ユートピア的なシナリオを聞く時、あなたが言うように非常に慎重になる必要があります。ソーシャルメディアは、AIが、特にAGIができることと比べれば大したことではないでしょう。
初めのころ、ソーシャルメディアの目的は人々を結びつけ、何らかの方法でそれを収益化することでした。しかし今や、目的は人々に影響を与え、物を買わせ、広告を見せ、プラットフォーム経済のためにデータを搾取することです。
アマゾンはこれをフライホイールと呼んでいます。両側で回転し、あなたは中央で吸い込まれます。中央にいるアマゾンは何でもできます。なぜなら、フライホイールの中心にいるからです。
これがソーシャルメディアで起こったことは悪いことです。多くの面で公共メディアや出版を破壊しました。人間を取り戻すことでそれを修復する必要があります。しかし、AIで同じ過ちを繰り返すべきではありません。
前に言ったように、ビジネスの問題であれば、より賢く、より知的にするためにできることは何でもするのは構いません。しかし、社会の問題であり、人類を超越し、異質な知性を発明する問題であれば、私は次のように言います。
もしそれがあなたの目標なら、あなたは監督、規制の対象となり、民間企業であることはできません。人類の進路を再設定しようとするのであれば、それは意味がありません。なぜなら、潜在的に非常に強力で、天国にも地獄にもなりうるものを発明することで、誰もの人生を変えることになるからです。
聞いてくれてありがとう。あなたも行かなければならないようですね。これは重要な会話でした。私たちは引き続きこの問題について考え、話し合っていく必要があります。人類の未来がかかっているのですから。