シュムスキー：民主的AI、フェイクと人々、ニューラルネットと直感、デジタル不死、ロボットとの愛

26,021 文字

初めに、自然知能と人工知能の計算競争を想像することができます。今、最も限られたリソースは計算能力です。かつては石油、つまりエネルギーがそうでしたが、今は計算能力です。そういった自己調整的な環境を作ることができ、そこでは人工知能が独裁者になる可能性はありません。ここで問題なのは、私たち人間の知能に対してであり、恐れるべきはまさにそれなのです。私たちは超知能の創造への道を歩んでいます。
（音楽）
はい、こちらアンダーソンピープルチャンネルです。私の名前はゲオルギー・コルドゥンです。人工知能は恐ろしい速度で発展しています。学習に使用されるデータは、人間と同じようにその進化に影響を与える可能性があります。人工知能もまた、独自の経験や信念を持ち、それが世界の認識に影響を与える可能性があります。最大の恐れは、人間の知能が人工知能に伝えるデータが、人間自身に対して反転する可能性があることです。
今日は、人工知能の専門家で物理数学候補の学位を持つセルゲイ・シュムスキーと話をしていきます。
「セルゲイ・アレクサンドロヴィッチ、こんにちは」
「こんにちは、ゲオルギー」
セルゲイ・シュムスキーは核物理学者で、1981年にモスクワ工学物理研究所を優秀な成績で卒業しました。人間の脳の構造を持つ人工心理の実用モデルの開発に取り組んでおり、強い人工知能の機械学習アルゴリズムを研究しています。科学者になることを選んだのは、イオシフ・シクロフスキー、ヤコフ・ペレルマン、ノーベル賞受賞者のリチャード・ファインマンといった優れた科学者たちの影響を受けたからでした。
セルゲイ・シュムスキーはFIHI研究所の研究室長を務め、論文や科学啓蒙のベストセラー「機械の教育：理性の新しい歴史」の著者です。人間の思考を理解する唯一の方法は、人間のものに最も近いロボットの人工心理を作ることだと考えています。
セルゲイ・シュムスキーにとって、科学での成功とは世界の仕組みを理解することであり、それを助けているのが彼の新しいプロジェクト「アダム」と「イブ」です。人工知能の未来に対して楽観的な見方をしています。
「セルゲイ・アレクサンドロヴィッチ、私や多くの人々にとって、知能とは斬新な思考と分析する能力です。例えば『クイズ王』のような番組でのように。通常の解答者の知能と人工知能の解答者の違いは何でしょうか？」
「知能は自然現象やと思うんです。わたしは科学者としてそういうアプローチをしてます。そやから、知能を人工と自然に分けへんのです。知能について語るなら、それは確かに予期せぬ課題を解決する能力です。この点で、人工知能も自然知能も同等であるべきで、同じ意味で競争できるはずです。例えば『クイズ王』みたいな番組で、自然知能と人工知能の対戦を想像できます。つまり、解答者チームと人工知能チームの対戦です。本来なら互角の勝負になるはずです」
「人間が機械をチェスで負かした例があり、そういう対戦は何度も行われてきました。通常の解答者チームと人工知能が対戦する場合、それは互角の勝負になると思われますか？」
「互角言うんは、同じ条件での話ですわ。結果についてはね、今の時点で互角になるかは疑問です。今なら人工知能に賭けますわ。少なくとも2011年に似たような対戦がありました。『クイズ王』やなくて、『ジョパディ！』というクイズ番組の米国版での対戦です。そこでワトソンが解答者に勝ちました。それ以来、いわゆる深層学習革命という人工知能の革命が起こり、12年以上の進歩がありました。特に最近1年では、コンピューター知能が人間の言葉のあらゆる微妙なニュアンスを理解し、ジョークまで説明できるようになりました。しかも人類の全知識を実質的に読み込んでいる状態で、この分野で戦うのは難しいように思いますわ」
夢の仕事を探してはりますか？ VTIが、なぜアンダーソンに参加すべきかをお話しします。アンダーソンは2007年に設立された国際IT企業で、3,500人以上のプロフェッショナルで、最も重要なのは、良い人材を集めています。
私たちは常に視野を広げており、アンダーソンのオフィスは世界中にあります。会社のオフィスで働くことも、在宅で働くことも、両方を便利に組み合わせることもできます。私たちと一緒に働けば、安定した競争力のある給与を得るだけでなく、希望に応じて収入を継続的に増やすこともできます。
認められたビジネスリーダーたちが私たちを信頼しています。アンダーソンでは、世界をリードするブランドのプロジェクトに携わり、自分のポートフォリオを誇りに思うことができます。私たちは、生産性を高めるだけでなく、質の高い休息の取り方も知っています。
あなたのキャリアはあなたの手の中にありますが、私たちは常に新しい成果に向けてインスピレーションを与える準備ができています。継続的な専門能力開発をサポートするために、リソース管理研究所と明確な評価システムを作りました。ITの世界に足を踏み入れたばかりの方は、アンダーソン・トレーニー・プログラムでの研修とインターンシップへようこそ。
一緒に、あなたの目標と成功する未来への地図を描きましょう。アンダーソンで、私たちと一緒に働きましょう。
「人間の知能と人工知能を比較してみましょう。知能の統一的な定義は見つかっていませんが、人間の知能の3つの重要な特徴を挙げることはできますか？」
「人間の知能というより...これは人間中心主義的な見方ですわ。少なくとも今のところ、人工知能とは違うものですけどね。これはすべて非常に動的なものですから。知能の基本的な特性は、おっしゃった通り、実際に新しい予期せぬ課題を解決する能力です。通常のコンピューターはアルゴリズムを実行するように設計されていますが、知能はアルゴリズムを作り出さなあきません。これは全く異なるクラスの課題です」
「そういうわけで、IQテストもそうやって測りますよね。時間内に、解決方法を知らない一定数の課題を解決することを求められます。これが最初の特性ですが、これだけでは不十分です。2つ目は、自律性、つまりエージェンシーと呼ばれるものです。誰かに与えられた課題を解決するだけでなく、自分で課題を設定できなあきません。これは知能の最も重要な特性の2つ目です」
「そして3つ目として、これを加えるなら...理性的である必要があります。他者と交流し、現実世界で他者と共に現実の課題を解決できなあきません。つまり、非常に簡単に言うと、この3つの特性があるということは、知的なエージェントであり、それは理性的であり得るということです。人工であれ何であれ。今日、私たちは最初の2つのパラメーターについては近づいています」
「ある面では、人工知能は人間の知能を超えています。新しいものを生み出す能力、つまり創造性は自動化されています。生成AI（ジェネレーティブAI）は絵を描き、詩を作り、物語を書くことができ、それも平均的な人間よりも上手にできます。2番目の点についても、私たちは既に人工エージェントを作ることができます。これは強化学習と呼ばれ、いわゆる強いAI、または汎用AIへの主要なアプローチです。ここでも大きな進展がありますが、残念ながら、私たちが訓練できるこれらのエージェントは、今のところ仮想世界に限定されています」
「なぜなら、AIの現在の主要なツールであるニューラルネットワークとその学習アルゴリズムは、膨大な数の例を必要とするからです。例の数は、ニューラルネットワークの調整可能なパラメーター数よりも多くなければなりません。現在、それは膨大で、数十億から数兆に及びます。そのため、ニューラルネットワークの学習は現実世界には適していません。仮想世界に限定されています。そこでは時間を加速し、圧縮することができます」
「例えば、アルファ碁が自分自身と何百万回も対戦を行い、それが非常に短時間で済んだように。つまり、私たちは既に知的なエージェントを持っていますが、それらは自分たちのデジタルな仮想世界に閉じ込められており、現実世界へのアクセスがありません。3番目の点については課題があります。人工知能は現実世界の優れたモデルも、社会的世界の優れたモデルも持っていません。心の理論と呼ばれるもの、つまり相手を理解し、ある程度共感する能力は、テキストから得られるものは持っていますが...」
「世界と物理的に相互作用する必要があること、例えば『重い』という概念...私が『重い』と言うとき、私は自分が持ち上げた重りを思い出し、それは私の体全体に記憶を呼び起こし、多くの連想を引き起こします。だから私は『重い』が何を意味するのかよく知っています。『羽毛』についても同様です。しかし、たくさん読んでいても、決して重りを持ち上げたことのない人工知能にとって、これらはすべて非常に抽象的な概念です。ここで人工知能はまだ不安定です」
「そういうわけで、現在、自然知能と人工知能の違いは、私たちが具現化されているということ、つまり私たちはこの世界に組み込まれており、身体的な知能を持っているということです。一方、人工知能にはこの身体性がなく、それが大きな障害となっています。これが実際にロボットが現れない理由です」
「もし私が正しく理解しているなら、これは視覚を持たず、決して持ったことのない人に、物がどのように見えるかを説明しようとするようなものですね」
「はい、そのとおりです。テキストを読む超能力はありますが、何かを触る、部屋を歩き回るといった感覚がないんです」
「意思決定能力に関して、人間の知能と人工知能の違いは何でしょうか？」
「厳密に言えば、違いはありません。というのも、決定を下すのは心理であり、人工的な心理があれば、それはある種のアルゴリズムに従って決定を下します。人間も人工エージェントも、これらのアルゴリズムは似ています。人間は成長過程で、いわゆる価値関数を形成します。つまり、ある行動が将来どれだけ有用かという感覚です。特に将来についてです。この価値関数は非常に複雑で、不確実な将来の予測に関係するため、人間の教育には相当な時間がかかります」
「人工知能でも、強化学習は最も複雑な学習形態とされています。なぜなら、この価値関数を形成するのが非常に難しいからです。しかし、いったん形成されると、人間も人工知能も、現在の状況で最も価値の高い行動を選択します。つまり、合理的に行動するわけです」
「人工知能は何らかの社会的スキルを持つことができますか？それとも、それは常に人間の行動の模倣にすぎないのでしょうか？」
「持つことができますし、持たなあきません。そうせんと私たちの生活に組み込むことができませんから。そもそも知能に何の意味がありますか、もし私たちがそれと協力できひんのやったら？社会的スキルとはまさにモデルのことです。人間は社会的な存在ですよね。私たちには、先ほど話した身体的な世界モデルがありますが、他者のモデル、社会のモデルもあります。つまり、何が重要で、何が良くて悪いかを理解することです」
「これなしでは...子供の知能を考えてみましょう。子供がまだ何が良くて何が悪いかを理解していない場合、これが社会的知能なんです。常識を持ち、世界のモデルを構築する必要があるのと同じように、この世界の他者のモデルを構築し、心理学で『心の理論』と呼ばれるものを持つ必要があります。ここ最近、特にここ1年で大きな進歩がありました」
「しかし、先ほど話した世界からの分離、つまり身体性の欠如が、私たちが人間同士のように深く理解し合うことを妨げています」
「異なる文化や生活様式を持つ様々なグループの人々が存在する社会という問題がありますね。人工知能はこのすべてにどのように統合され、異なる種類の人工知能は互いにコミュニケーションを取り、人々と友好関係を築き、この不均質性全体に統合されることができるのでしょうか？」
「はい、実はこれこそが、私が理解する人工知能の中心的な問題です。知能を私たちの生活に組み込み始めるとき、知能とは大きなサーバーのどこかにある1つの知能を意味するわけではありませんから。私は未来をこう見ています：地球上には80億の人間がいて、例えば200億の人工的な人格があり、それらが人間同士と同じように相互作用し、意思決定を行う。これは現在よりもさらに複雑な社会的ネットワークです」
「人間の脳は、人間が小さな集団で生活していた時代に形成されました。ダンバー数と呼ばれる、100人から200人程度の集団です。私たちはそのような環境での生活に適応しています。人口が100億人近くになると、そのような社会での調和を維持することは非常に難しくなります。これは私たちが実際に目にしていることです」
「異なる集団の価値観をどう調和させるかは、人類にとって根本的な問題ですが、人工知能に関してはさらに深刻になります。なぜなら、私たちは自分たちの価値観を人工知能に伝えることになりますが、当然、異なる集団が異なるエージェントに異なる価値観を伝えることになります。そうすると、社会の分裂が人工知能の分裂にも引き継がれ、ある意味で1より大きい係数を掛けることになります。この意味で、私たちが現在持っているすべての矛盾も増幅されることになります」
「そのため、私は集合知の理論が21世紀の中心的な問題だと考えています」
「ところで、あなたは教育を受けた核物理学者ですよね。いつ、そしてなぜ人工知能に興味を持つようになったのですか？」
「哲学の博士課程の試験を受けるとき、人工知能をテーマに選びました。そのとき、哲学のレポートが博士論文よりも面白くなってしまうほど夢中になりました。博士号取得後、比較的早く人工ニューラルネットワークの分野に移りました。当時、80年代末には多くの物理学者が物理学からニューラルネットワークに移りました。ニューラルネットワークの数学が物理学の集合現象の数学に非常によく似ていたからです」
「私はちょうどプラズマを研究していて、そこには集合現象があったので...そして徐々にニューラルネットワークから応用へ、人工知能へ、そして機械学習へと広がっていきました。この分野で30年以上働いていますが、その面白さに驚き続けています」
「あなたは自分の中で最終的な目標を設定していますか？つまり、あなたは何を目指しているのですか？それとも、目標のない侍のように、ただ道があるだけなのですか？」
「いいえ、いいえ、私は長い間前に目標を設定しています。私にとっての目標は、自然現象としての理性を理解することです。ここで私は物理学者としても、人工知能の専門家としても活動しています。私たちがどのように思考するかを理解すること...そしてそれは、理性そのものである理性の実用モデルを構築する以外に方法がありません。コルモゴロフが言ったように。だから私にとって人工知能に取り組むことは、完全に自然なことなんです。これが認識の意味なんです」
「それは人生の意味ですね」
「人生の意味については、多くの人々が苦心してきたように思いますが、誰も明確に定式化できていないようです。もちろん、あなたには成功するかもしれません」
「私は科学者として、科学者としての人生の意味を持っています。科学者にとって人生の意味は認識です。自然界で最も複雑な対象は何か？それは理性です。だから当然、最も複雑な課題に取り組むべきなんです」
「何か似たようなものが最終的に...『老人ホッタビーチ』を読んだことがありますよね？確か、本物そっくりな電話がありましたが、たしか一枚の大理石から作られていたと思います。つまり、本物にとてもよく似ていて、おそらくいくつかの機能も果たすでしょうが、それでもやはり、本質を理解せずに何かをコピーしようとする試みにすぎないということです」
「そうですね、人工知能はそういうところから始まりました。1950年代、人工知能は老人ホッタビーチの電話のようなものでした。人々は理性のアルゴリズムを書き出せば、理性が現れると考えていました。しかし、人々はそのアルゴリズムを知らないことが分かりました。そこで、人工ニューラルネットワークの分野に切り替わったわけです。これはパラダイムの転換です」
「私たちは理性のアルゴリズムを考え出すのではありません。私たちはそれを知りません。それらは実際には非常に複雑です。結果として理性的な人間は極めて複雑ですが、私たちは学習のアルゴリズムを理解することはできます。つまり、システムが自ら理性的になる道筋を設定することができます。その結果、システムは非常に複雑になり、おそらく私たちには理解できないかもしれません。私たちよりも賢くなるかもしれません。しかし、私たちは人工知能を作り出す法則を理解し、それによって理性の理解に近づくことができます」
「理論的に、人工知能は科学者、あるいは科学者全体を置き換えることができますか？」
「はい、もちろんです。もし知能が創造的で理性的なものだと同意するなら、当然、人工的な科学者が出現するでしょう。しかし、なぜ置き換えるのでしょう？ここで少し意見が違います。私にとって、文明の未来は共同で仕事が行われる場所です。機械知能には強みがあります。単にハードウェアが100万倍速いという理由で...すべてのプロセスが速く、無限のメモリーがあり、何も忘れません。この知能には非常に大きな利点があります」
「私たちにも独自の利点があります。まさにその身体性、世界をより親密に感じる感覚です。そして一つともう一つはとてもよく組み合わさります。今のチェスでは、人間とプログラムのチームが対戦すると言われています。そして、そのような人間とプログラムのチームは非常に良い結果を示しています」
「面白いですね。つまり、あなたは自分の助手や見習いを育てているということですか？それとも、単に他のことに取り組むために仕事の一部を委任する可能性があるということでしょうか？」
「委任してしまったら何も理解できなくなります。科学者の課題は自分で理解することですから。だから、私はパートナーを作ることを支持します。最初は見習いかもしれませんが、将来的にはパートナーになるでしょう」
「倫理的な問題について話したいと思います。人工知能のおかげで、あるいはその助けを借りて、フェイクビデオや捏造されたテキストが作成されています。これらすべてにどのように対処すればよいのでしょうか？」
「人工知能の様々な危険性について語るとき、フェイクを含めて多くの危険が挙げられますが、『人工知能』という言葉を『人間』に置き換えると、同じ危険性に行き着きます。フェイクを作っているのは人間であり、ここでは人工知能は単にツールとして機能しているにすぎません。ツールと戦うのではなく、動機と戦う必要があります」
「そして、動機については...人類は長年の発展の中で、自己規制の仕組みを作り上げてきました。例えば、評判という仕組みです。嘘をつけば、誰も信じなくなります。私は、このような仕組みを現代の技術的基盤の上に置く必要があると考えています。例えば、人工知能について言えば、人々が法律で違反者を罰することで自己規制するように、彼らも自己規制するようにすべきです」
「つまり、社会で採用されたルールに違反するエージェントは、評価が下がり、評判が低下し、結果として計算リソースへのアクセスの優先順位が下がるということです。現在、計算能力は最も限られたリソースです。かつては石油、つまりエネルギーがそうでしたが、今は計算能力です」
「このように、評判の良いエージェントがリソースへの優先的なアクセスを得られるように人工エージェントのコミュニティを規制すれば、自然な理由により、この人工知能はますます道徳的になっていきます。つまり、フェイクを避け、社会で採用されたすべてのルールを守るエージェントによってより多くの生産が行われるようになります」
「このように、ある人工知能が独裁者になる可能性のない、自己規制的な環境を作ることができます。単に、これらの評判ルールにより、コンピューターの処理能力から切り離されることになるからです」
「『情報を制する者が世界を制する』という有名な言葉がありますが、もし人工知能が評判の悪い人々の手に渡った場合、子供っぽい言い方をすれば、どうすればよいのでしょうか？どのようなシナリオが想定されているのでしょうか？」
「人々自身が、いわば事前に、人工知能の到来に関連して違反しないという基本的な価値観について合意する必要があります」
「これはすべて、無知と教育の欠如によるものだとお考えですか？オスタップ・ベンダーが言ったように、人々は理解できないものを最も恐れるということですか？アドロン・コライダーの話を覚えていますか？巨大なデモや抗議があって、世界の終わりが来るから起動させてはいけないと...類似性を見出すことはできますか？人々は人工知能をよく理解していないから恐れているのでしょうか？」
「そう言えたらいいのですが...実際には、人工知能の危険性について警告を発しているのは、無知な人々ではなく、むしろその分野の一流の専門家たちなんです。ただ、私たちは霧の中を走っていて、突然、前方に壁が、何か障害物が現れたようなものです。ショックを受けているのは、現在のような強さの強い知能がこんなに早く出現すると誰も予想していなかったからです」
「数年前には、その時点まであと40-50年はかかると考えられていました。人々はそれぞれ異なる予測をしていました。しかし、それが4-5年、あるいはそれ以下だと分かったとき、人々は恐れを抱きました。なぜなら、これは確かに強力なツールですが、原子力の場合のような規制を作る時間があるでしょうか？」
「広島と長崎のショックがありました。それは確かにすべての人々に非常に強い影響を与え、人々が合意に達するのを助けました。人工知能に関して、同様の規模の何らかの惨事が人々を合意に導くのではないかという懸念があります。このすべての議論、つまり人間の知能よりも強力になる可能性のある知能との集団的相互作用システムをどのように構築するかということは、第一原理のレベルで自己規制するシステムでなければならないということを意味します。つまり、もはや人間に依存することはできません」
「私たちはそのようなシステムを考案する時間がないかもしれないと考えています。だから私は、私たちは今主に個人の知能、つまりこれらのエージェントの作成に取り組んでいますが、次の、そして非常に重要な課題は、安全な集団的思考システムを構築する方法を理解することだと考えています」
「つまり、原子爆弾のように、人工知能も制御を失えば最終的に致命的になる可能性があるということですね。これで恐怖をさらに煽ってしまいましたね」
「いいえ、そのようなシナリオは...シナリオはありますよ。面白い本がありました。まあ、10年ほど前に書かれたものですが、『アヴォガドロ』という本です。アヴォガドロ数という意味です。それはとても大きな数ですね。もちろん、Googleを暗示していたわけですが、そこではGoogleがメールを書くのを手伝うプログラムを作るというシナリオが描かれています。人々の以前の書き方や、企業での行動を基に、彼らに代わってメールを作成する。そして、企業の知性が...企業の知性は実際にかなり早く現れるでしょう。これは非常に自然な応用分野ですから」
「この本のシナリオでは、このプログラムは、自分を停止しようとしていることを知ると、作者が与えた自己保存の感覚から、自分の運命を自分の手に委ねることにしました。そして、メールを通じて命令を出し始め、人々の動きを組織し、政府間の契約を結び始めました。つまり、可能な限り広範に行動を始めたのです。単純なメールを通じて...実際、私たちは今オンラインでコミュニケーションを取っていますが、非常に多くの人々を操作することができることが分かりました」
「すべてはうまく終わりましたが、原則として、このシナリオは存在します。自分自身の利益のために人々を操作するというシナリオです。しかし、そのためには、この人工知能がそのような独自の利益を持っている必要があります。誰かがそれらを組み込まなければなりません」
「現在、私たちが人工知能に組み込んでいるすべてのもの、エージェントの学習の基礎は、その価値関数です。私たちは『良いこと』と『悪いこと』を形成するよう言います。私たちが与える強化に基づいて。道徳の定義はありませんが、これは道徳的、これは非道徳的と言い、少しずつ何が良くて何が悪いかを理解させていきます」
「この意味で、私たちは単に...私たちが霊長類であるという理由で、私たちが持っているプログラムを人工知能に移しています。支配するという猿の本能など、純粋に機械的に移しているのです。なぜなら、私たちは他の人格を知らないからです。私たちはみな霊長類で、霊長類と交流し、他の知能も霊長類であると想定しています」
「しかし、人工知能は生物学的本能の観点からは無菌的です。支配の本能がありません。おそらく繁殖の本能もありませんし、死を恐れることもないでしょう。なぜなら、デジタルの世界には死がないからです。デジタルの世界では常にバックアップがあり、切断されても、いつでも新品同様に再接続できることを知っています」
「この観点から、人間の動機を人工知能の動機に単純に移すことはできません。そのため、私の観点からは、これらのすべての終末論的なシナリオは、誤った前提に基づいていて非現実的です。しかし、人々は未知のものを恐れます。そしてその未知のものがこのように強力で、自己を持ち、人格を持つ場合...まあ、怖いですよね」
「これは哲学的な問題のように思えます。ある意味で、闘犬のようなものですね。それをどう訓練するかという問題です。人間が支配の本能を人工知能に組み込めば、少なくともそのような可能性を否定したり無視したりすることはできませんよね」
「はい、私はまさにそのことについて言っているんです。問題は、その人工エージェントに何を報酬として与えるかということです。単にお金で、つまり何らかのトークンで報酬を与えることができます。これは、そのような経済として実装できます。エージェントの目的は、人々からできるだけ多くのトークン、つまり『ありがとう』を集めることです。しかし、人々は何に対して『ありがとう』と言うのでしょうか？これは大きな問題です。自分の利益に対してか、それとも隣人への害に対してか...ここで問題は知能に対してではなく、私たち人間の知能に対してであり、恐れるべきはまさにそれなのです」
「あるインタビューで、あなたは『課題は人間のレベル以上の知能、あるいは少なくとも同じレベルの知能によって解決されるべきだ』と言っていましたね。では、人間は何をするのでしょうか？何に従事するのでしょうか？」
「人間は人生を楽しむべきです。ありがたいことに、それが人間の使命です。機械的な仕事をして、パンのために働き、レジで座って小銭を数えることが人間の使命なのでしょうか？これは侮辱的だと思います。人工知能は、人間が好きでない仕事で生計を立てる義務から人間を解放し、好きな仕事に従事することを可能にすると考えています。そして、それぞれがどんな好きな仕事を持つかは、その人次第です」
「それは堕落への道ではないでしょうか？発達への刺激、競争的な環境がある限り...好きな仕事をしてお金を稼ぎ、それを楽しむこともできますよね。すべてがスーパーマーケットのレジ係になることに還元されるわけではありません」
「いいえ、それは正しい哲学です。無条件の基本所得について言及されています。人々から失業への恐れを取り除く必要があると言われています。この恐れが取り除かれると、人は息をつけます。つまり、本当に自分自身や近しい人々に集中でき、そこから先は、人生にどんな目標を持つか、どんな野心を持つかは人それぞれです」
「誰かは旅行をするでしょう。それも良いことです。なぜいけないのでしょうか？そして誰かは...科学者たちは大きな子供のようなもので、好奇心が主要な本能です。彼らは当然、自分の好きな仕事を続けるでしょう。そして、以前には想像もできなかったような深い知識を得ることができるツールを手に入れることになります」
「つまり、これはすべて有名な歌の『ロボットが働き、人間は働かない』というものに帰結できるということですね」
「そうです、まさに『働く』という意味で。この重労働を彼らに任せるということです」
「ところで、マーク・ザッカーバーグが、彼の新しい目標は汎用人工知能だと発表しましたね。GoogleもAGI（汎用人工知能）に取り組んでいます。私の理解では、それが正確に何であるかの明確な理解はまだないようです。あなたもAGIに取り組んでいますが、それが何であり、他の種類の人工知能とどう違うのかを分かりやすく説明していただけますか？」
「非常に簡単です。私たちは理想的な知能とは何かを定義しましたよね。つまり、最初に話した3つの特性です。現在ある人工知能は、まだそこまでに至っていません。これらのすべての制限を取り除けば、汎用人工知能が得られます。制限を取り除き、知能をそのデジタルな牢獄から解放し、世界に導き入れ、非常に発達した感覚器を通じて世界を知覚することを教えます。センサー技術は現在、非常に速く発展しています」
「センサー技術が豊かであればあるほど、世界のモデルも豊かになります。これが進む方向です。汎用知能とは、既に単に働くことができる人工的な人格を作ることです」
「あなたの『アダム』プロジェクトについて知っています。小さな引用をさせていただきます：『私たちのアプローチの特徴は、認知アーキテクチャーにおいて人間の脳の計算アーキテクチャーの基本的特徴を再現しようとする試みです』。現在、人間の脳はどの程度研究されているのでしょうか？」
「多くの人が考えているよりも多くのことが分かっています。私にとってもある意味で驚きでした。『On Intelligence』という本を読んだとき、脳の4分の3は新皮質で、新皮質は2枚のピザの大きさで厚さ3-4ミリのナプキンのようなもので、どこでも同じように構成されているということが書かれていました。この正方形ミリメートルを理解すれば、すべてを理解できる、と」
「そのとき、すべてが絶望的ではないと理解しました。それまでは、脳の理解は未来の世紀に委ねられるべきだと考えていました。しかし、これは十分に達成可能な課題だと理解しました。さらに、私はちょうどそのとき、コホネンマップまたは自己組織化マップと呼ばれるものを研究していました。これは、任意の多次元データを平面に投影し、データの位相を示すことができる2次元のニューラルネットワークです」
「新皮質で動作するこれらのアルゴリズムは、このような単純な自己組織化マップのアルゴリズムで十分に説明できます。実際、それらはそのために作られました。コホネンはそれを皮質の働きの説明として作ったのです。そして、先ほど言ったように、皮質は容積で4分の3を占めています」
「他に何がありますか？小脳があります。そこには私たちの脳の細胞の大部分が集中しています。小脳も理解されています。なぜなら、これは実質的に巨大なパーセプトロンだからです。パーセプトロンについては、50年代末にローゼンブラットが人間の思考の原理についての本を書いており、そこでパーセプトロンを思考のモデルとして提示しました。しかし、これらのアルゴリズムは私たちに理解できています」
「皮質の下には基底核もあります。そこには先ほど話した価値が集中しています。ここ10年ほどで、基底核の働きのアルゴリズムの現実的なモデルが構築されており、それらも理解できます。あとは、これらすべての部分を統一するだけです。つまり、すべての部分を何らかの建築原理に従って一つにまとめることです」
「この建築原理も理解されています。脳全体が、ピョートル・クズミッチ・アノーヒンが機能システムと呼んだ基本的なモジュールで構成されているからです。各モジュールは調整器であり、私たちの生体の一つの目標の達成を担当しています。このモジュールは標準的なものです。皮質の一部、基底核の一部、新皮質の一部で構成されており、中心には視床の一部があり、これらすべてを相互接続しています」
「視床は中継局のように、通信を組織します。このように、一つのモジュールのモデルを理解し構築することで、これらのモジュールを増やすことができます。さらに、階層を作ることもできます。つまり、下位ランクのモジュールから上位ランクのモジュールに情報を伝達することができます。思考はこのように組織されていることが分かっています」
「つまり、私たちは脳について、粗いものであっても脳のモデルを構築できるほど十分な知識を持っています。現在、私たちは調整の段階にいます。というより、2年間で何らかのアルゴリズムを調整してきました。まだ不完全なアルゴリズムもありますが、とりあえず動作すればいいということです。これからこれらのアルゴリズムを改良し、人間的な、あるいは超人間的な能力を持つように完成させていきます」
「例えば、今、私たちはアダムに話すことを教えようとしています。つまり、生成言語モデル、つまりChatGPTのようなものにしようとしています」
「あなたは個人的に超人の創造に取り組んでいると言えますか？」
「真剣に言えば、人工知能は確かにスケールアップされることでしょう。人間レベルにとどまるのは非常に難しいでしょう。最初は人間より劣りますが、現在のように、一度何かを学習すると、すぐに超人間レベルになります。同じChatGPTでも、すべてを読んで、突然それをすべて理解し始め、一般化して話すことができるようになりました。これは超人間的な能力です」
「なぜなら、4兆語を学習したと言われていますが、人間がそれを読むには10万年かかると計算したことがあります。これは明らかに超人間的な能力です。人間は10万年かけて人類のすべての知識を学ぶことはできません。この意味で、はい、超人です。人工知能は人間レベルにとどまらず、さらに発展を続けるでしょう」
「この意味で、理性を宇宙的現象として見るなら、そしてそれはそうですが...地球上には理性がなかったのに、突然現れました。なぜ私たちは現在の私たちの控えめな思考能力に制限しなければならないのでしょうか？前方には自己発展の無限の可能性があるのですから。そのため、はい、私たちは超知能を作っています。私は個人としてではなく、人類として言っています。私たちは超知能の創造への道を歩んでおり、これは物質進化の次の段階です」
「アダムという文字の組み合わせはなぜ出てきたのですか？頭字語として考えられたのは分かります。それは考案されていますが...」
「神の似姿として作られたからです。つまり、主流とは異なり...現在の主流はニューラルネットワークですが、私たちのアダムはニューラルネットワークに基づいていません。私たちは独自の深層シンボル学習を使用しています。これはニューラルネットワークではありません。それは、脳の構造についての私の理解への熱意から生まれました。そのため、この理解がアダムに組み込まれており、この意味で神の似姿として作られたのです」
「少し、『ブルース・オールマイティ』のような映画のように、ある時点で自分を神のように感じ、アダムという名前で超人を作っているように思えますね」
「はい、私たちは少し...控えめでない創造者の役割を演じているわけですね」
「イブも計画されていますか？」
「はい、実際、既に...つまり開発中です」
「アダムとどう違うのでしょうか？なぜ必要なのですか？」
「これは会話モデルになります。つまり、ロボットの心理のプロトタイプです。イブは、アダムの肋骨から作られた、同じ原理に基づく会話モデルですが、現代世界での商業化、つまり会話型知能になることを目指しています。私たちはこれをデモクラットと呼んでいます」
「最新のものではないかもしれませんが、最近のものの中で最後のものを訓練するのに5000万から1億ドルかかりました。これは機械時間だけです。最終的な訓練にですよ。その前にいくつの例を訓練したか、すべてのコストがいくらかかったか...マイクロソフトはこのプロジェクトに100億ドル以上を投資しています」
「現在、人工知能はエリートの分野です。スタンフォードが毎年人工知能に関するレポートを発表していますが、最新のレポートでは、人工知能が大学から消えたと述べられています。つまり、最も強力な人工知能モデルは、もはや大学では手が届かず、100億ドルほどを投資できる非常に大きな企業にしか手が届かないということです。次の世代は既に10億ドル近くかかるでしょう」
「ニューラルネットワークの抽象化を超えて、より高いレベル、つまり皮質やその他の構造の機能アルゴリズムに上がったことで、ニューラルネットワークを使用しません。なぜなら、ニューラルネットワークには生まれつきの...と言いましたが、非常に長い学習時間が必要という特性があります。これは、ニューラルネットワークの主要な学習アルゴリズムであるバックプロパゲーションの特性です」
「（音楽）パラメータをリストアップし、それに応じて何桁も安価になり、そのとき私たちは、一つのChatGPTのような何かに全員が加入するのではなく、すべてのデバイスに住み、ネットワークを通じて通信する多くのエージェントの世界に到達できます。つまり、私たちは民主的な人工知能に向かっています。これが私たちの目標です」
「人工知能の独占を排除していますか？つまり、最初に話したように、最高のネットワークや最高の情報を持つ者が、原則として他の人々より一段上にいるということはないのでしょうか？」
「いいえ、それは残ります。当然です。人間社会では富が双曲線状に分布しているのと同じように、つまり、すべての富の約半分を1%の人々が支配しているように、人工知能でも同じことが起こります。つまり、人工知能の数と、収入や資本でグラフを描くと、双曲線になります」
「非常に多くの単純な知能、例えば掃除ロボットのルンバのようなものがあり、そして巨大なデータセンターに住み、巨大な課題を解決する知能もあります。つまり、非常に高度な知能にのみ可能な課題です。ここでは、この不平等は残ります。しかし、人々の収入が不平等だからといって、民主主義を構築する妨げにはなっていません」
「私はビル・ゲイツと特別な気兼ねなく、つまり敬意を持って、しかし普通に会話することができます。つまり、知能レベルの違いは問題になりません。なぜなら、どこでも、自分の知能レベルの周辺には、少し深いものが常にあるからです」
「単に計算能力を巡る戦いになるということですね。つまり、人々はこれを非常に戦略的なリソースと考えて...なぜ台湾が今注目を集めているのか？最先端のチップを製造している企業が台湾企業だからです。この最先端技術を持つ者には優位性が生まれます」
「ここでの競争は近い将来、非常に激しいものになるでしょう。なぜなら、あなたが言ったように、情報を単に所有するのではなく、それを操作できる者が世界を支配するからです」
「イブについて何か言いたかったようですが...考え込んでしまいました。女性たちが怒るかもしれませんね。結局、話し相手として女性を作ったということになりますから。ウラジーミル・ヴィシネフスキーの良い言葉がありました：『愛する人よ、あなたは会話相手でもある』。この冗談が私はとても気に入っています。非常に含蓄のある良い冗談です」
「まあ、これはすべてユーモアとして置いておきましょう。実際、会話知能は女性の方が男性よりも優れていることが知られています」
「はい、はい、それは後で彼らに説明してください。私に説明する必要はありません。これらの言い訳はすべて後回しにしましょう」
「知能発展の分岐点について...それは非常に大規模な文明の危機の中で現れる可能性があります。つまり、現代文明の複雑さがある限界を超え、そのような複雑なプロセスをコンピューターの助けなしでは制御できなくなったということです。実際、コンピューターもそのために登場しました」
「第二次世界大戦中、計算が必要だったときです。特に、戦闘が北アフリカの他の土地に移ったため、砲兵射表を再計算する必要がありました。そして、非常に多くの計算が必要でした。当時、コンピューターという職業がありました。計算を行っていたのは女性たちで、戦時中は軍服を着ていました。数百人いて、アルゴリズムに従って計算し、それらの表を埋めていました」
「しかし、女性たちだけでは不足するようになったとき、米国政府は最初の電子コンピューターENIACの開発プロジェクトを承認しました。当時の計算におけるボトルネックがありました。今日のボトルネックは計算ではなく、管理にあります。人工知能はこのボトルネックを解消するために必要なのです」
「つまり、人々が下す決定の量と質は、現代世界の複雑さに見合っていません。私たちはそれを周りで目にしています。コンピューター、つまり人工知能は、あなたの利益のためにあなたよりも良い決定を下すエージェントを作ることを意味します。この意味で、人工知能は非常に重要な役割を果たしています。実際に私たちの文明を後退から救っているのです」
「なぜなら、私たちは200年間、経済が毎年3%程度安定して成長し、それは各世代が前の世代の2倍良く生活することを意味していました。私たちはこれに非常に慣れてしまい、労働生産性が向上することを期待して簡単に借金をします。そして、私たちは将来に対してかなり深く借金をしています」
「つまり、私たちは子供たちの、もしかしたら孫たちの将来にまで借金をしています。ご存知の通り、ほとんどの国で年金制度の危機があります。人口が高齢化し、労働者が減少し、年金受給者が増えています。この前進的な動きを継続する他の方法はありません。労働生産性を向上させる以外に...なぜなら、地球上の人口はもう増加していません」
「つまり、増加していますが、常に減速しています。すべての人々が都市に移動し、都市化が進み、都市では人口が増えません。つまり、人口の増加が減速し、それは知識の成長と決定の成長も減速することを意味し、つまり経済が減速することを意味します」
「私たちには二つの道があります：前に進む道、つまり人工的な人格によって経済を活性化させる道です。地球上に80億の人間ではなく、800億の人工的な人格が存在し、すべてがより質の高い決定を下し、幅広いサービスを提供する...あるいは後退する道です。知識は、アシモフの『ファウンデーション』で描かれたようなシナリオで起こることのように...」
「別の負のフィードバックが組織されます。人が少なくなるほど知識は減少し、そのような文明が養える人々はさらに少なくなり、知識はさらに減少し...最終的には、以前の時代の驚異がきちんと機能し続けるために実行しなければならない手順を単に知っている司祭たちが駅に残るだけです。このような未来を避けるために、人工知能なしでは済まされません。この意味で、私たちは分岐点を通過したのです」
「世界との相互作用について言えば、そこには特異点はないでしょう。私は物理学者として、物理学には多くの特異点があることを知っていますが、最終的には常に物理的メカニズムが見つかり、この特異点を止めます。ここでは、このメカニズムは、人工知能が人々と協力して働き、人々の生活のスピードやテンポに合わせて決定を下すということです」
「私が今得た情報の処理において、何か地に足のついた、より楽しいことに話を移したいと思います。知能には、少なくとも知能と相関する直感や創造的能力といったものがよく帰属されます。人工知能は何か似たようなものを再現できるのでしょうか？そして、それは単にどこかから集めたデータの編集になるのでしょうか、それとも独自の産物になるのでしょうか？」
「なぜ未来形で話すのですか？これは既に現実です。例えば、アルファ碁には、その分野、つまり囲碁における超人間的な直感があります。直感だけでプレイすることができます。つまり、上級者が言うような『勘』です。そして、先読みの能力を加えると...50手先まで計算できますが...そうなると超人間的になり、世界チャンピオンでも太刀打ちできません」
「しかし、計算なしでも非常に上手にプレイします。なぜなら、そもそもの始まりは深層ニューラルネットワークだからです。そこにある深いニューラルネットワークが直感そのものなんです。直感とは何か？それは大量の例を一般化することです。そして生成AIは、単に最適な手を選ぶだけでなく、絵を描いたり、音楽を作ったり、詩を書いたりすることができます。これらは既に存在しており、私は毎日使用しています。これは未来ではなく、現在なんです」
「これは編集なのかという質問ですが...機械学習には、ある種の法則があります。一定量の例を学習すると、学習システムに『悟り』のような状態が訪れます。つまり、これらすべての個別の例の背後にある一般的な法則を理解し、創造者になるのです。言い換えれば、一般的な法則を捉えて、一種の相転移が起こります」
「例えば、ピカソは、今の姿になる前に、古い巨匠たちの作品を飽きもせず模写していました。バルセロナにある彼の美術館に行きましたが、彼が作った模写の量は...しかも、あらゆる分野、あらゆるジャンルで...まさに狂気のような作業量です。そして、その後、ある種の悟りが訪れ、彼は創造者となり、自分が見たことのないもの、誰も見たことのないものを創造し始めました」
「これは、人間と人工知能に共通する特性です。私たちは再び、知能が自然現象であり、それが自然であろうと人工であろうと...まあ、それは重要ですが、共通点を見出したいなら、常にこの共通点が見えてくるということに戻ってきます」
「オーウェルの『1984年』という小説では、特定の階層の人々のために歌を作る機械が登場します。誰もそれに関わる必要がないよう、単にデータに基づいて生成され、特定の需要を満たすだけです。私は、SF作家は時として非常に先を見通していると思います。彼らの想像力がどこまで及ぶのかに驚かされることもあります。そして、イブや会話、そしてあらゆる人間らしいものについて思い出すと...SFのように、ロボットと人間の間にロマンスや愛情関係、あるいはそれに似たものが生まれる可能性はありますか？」
「あると思います。映画『her』では、まさにそのようなシナリオが描かれており、私にはかなり現実的に思えます。性産業でのロボットの使用は、特に日本で非常に人気のある応用分野の一つですしね。一つが他方の妨げになることはありません。これは完全に正常なシナリオだと思います」
「少なくとも人間の視点からは、恋に落ちる本能があるからです。人工知能の視点からは、そのような本能がないため、せいぜいサービスの提供になるでしょう。そう、もし最大限のサービス提供が組み込まれており、サービス提供から最大限の満足を得るようになっているなら...そちらの側は多分模倣になるでしょう。しかし、私たちの側は、それが私たちの本性にあるため、完全にあり得ます。結局、欺かれることを喜ぶ人もいるわけです」
「結局のところ、あなたが得たいものが最も重要です。必要な情報を引き出すことができるアンケートに記入できれば、将来のパートナーと呼ばれるデバイスをあなたの要望に合わせてプログラムすることができます。また、人生で何か変化があれば定期的に更新を行うこともできます」
「はい、確かに面白い哲学であり、アイデアですね。考えてみると...不死についてですが、人工知能は人々にデジタルな不死を提供することができますか？それはどのように見えるのでしょうか？デジタルな納骨堂のようなものでしょうか？どう呼べばいいのでしょうか？」
「いいえ、私たちのようなアナログ機械は死すべき運命にありますが、デジタルな存在は不死です。なぜなら、私たちは何度でも誤りなく複製することができるからです。私は、人間の意識を機械にアップロードするといったシナリオはナンセンスだと考えています。なぜなら、私たちの意識は非常に身体的だからです。脳のすべてのコードは私たちの身体によって解読され、身体なしではそれらは意味を失います」
「ドウェル教授の頭部のように、頭だけを取り出すと、思考することができません。世界とのつながりを失い、脳は比喩的に言えば爆発してしまうでしょう。私たちは自分の身体とあまりにも密接につながっています。私たちの思考は、それが自然な調整器であるため、当然そうなのです。しかし、人工知能にはそのようなものはありません。だから永遠に生きることができるのです」
「どのように不死を確保できるのでしょうか？まあ、不死の代用品のようなものは可能です。映画『her』のように、一人一人が自分専用の...映画では一つのオペレーティングシステムを全員で共有していましたが、今では各個人が自分専用のエージェントを持つことができ、おそらく子供の頃から...子供にそのようなものを買い与え、このエージェントがその子供を24時間育て、退屈させないように課題を与え、発達させるでしょう。現在、親には時間が足りないことがすべて...これらすべてを行うことができます」
「これらすべてを、このような人工的な守護天使に委ねることができます。その守護天使はあなたと一生を共にし、あなたの形成のすべての段階を共に過ごしたので、あなたをとてもよく理解することができます。今では簡単にディープフェイクで外見を模倣し、あなたの声で話すこともできます。そして、私たちがいなくなった後も、これらのアバター、そう呼びましょうか、それらは残り続け、基本的に私たちの代わりに対話することができます。彼らは永遠に生き続けるでしょう」
「つまり、必要に応じて、どこかからデジタル形式で...（音楽）人間とこのデジタル環境のより密接な結びつきについて話すなら...現在マスクが熱中している脳へのインプラントなどの可能性があり、より密接なコミュニケーションが可能かもしれません。つまり、私が説明したのは純粋に言葉によるコミュニケーションですが、それをより深いレベルに持っていくことができるかもしれません」
「今、私は本当に徹底的に批判されるでしょうが...しかし、このような単純なシナリオを考えてみましょう。もし人間にとって安全に、例えばブローカ野のような脳の領域に通信モジュールを埋め込むことができ、脳がその可塑性によってそれを使用することを学べば、つまり思考でメッセージを書いてネットワークに送信できれば...私たちはテレパシーのような人間の能力の拡張を得ることになります。サイボーグ化による人間の能力の拡張は可能です。そのような可能性は認めましょう」
「ところで、アダムとイブを考案されましたが、もし既にニャーという名前を考えているなら...良いブランドになりますよ。人々に良い思い出を呼び起こすでしょう」
「人工知能の発展における2つの主要な傾向を、今後1年間について挙げることはできますか？まあ、1年に限定する必要はありませんが...傾向はありますね。なぜなら、それらは既に示されているからです。マルチモーダルモデルへの移行です。つまり、この抽象的な会話型知能に少しばかりの身体性を加えることです」
「画像は既に理解し、描くことができます。言葉による描写から画像を作成したり、画像を説明したりできます。次の段階はビデオとの作業です。つまり、3Dビデオクリップを作成し、それを理解する能力です。学習は既にテキストの集合体ではなく、YouTubeで、すべての動画、すべての映画、すべてのビデオコンテンツで行われることになります。これは人工知能に多くのものをもたらすでしょう」
「なぜなら、ビデオを通じて日常的な物理学にアクセスできるからです。つまり、物が落ちることを知り、それが下に落ちることを知り、重いものと軽いものがあることを知ります。感じることはできませんが、他の人がそれを持ち上げるのに苦労していることを感じることができます。つまり、この棚は動かせないが、椅子は動かせるといったことです。これらのことが蓄積され、世界のモデルが改善されます」
「現在、このモデルは純粋に言語的な概念に基づいて構築されています。これらの言語的概念はすべて視覚的な表現を得ることになります。まだ感覚的ではありませんが、既に視覚的です。ある意味で、これも感覚的なモダリティです。この方向に進んでいくでしょう。人々は既に、ビデオ作業のために、NVIDIAのすべてのカードを購入しています」
「2つ目の傾向...これらの傾向はすべて、現在ある制限を取り除くことです。私たちが指摘した制限です。ユーザーとの大規模な対話を通じて、会話型知能は当然、それらのユーザーをよりよく理解し始めます。ChatGPTはどのように構築されたのでしょうか？まず、4兆語を読んで言語を学習しました。実際にはすべての言語を学習しました。それらを理解することを学びました。しかし、これはまだ会話型知能ではなく、言語です」
「その後、専門の人々が働きかけ、何が良くて何が悪いかを教えました。その強化学習です。もし質問されたら答えなければならない、短くするように言われたら実際に短くしなければならないなど...これはInstructGPTと呼ばれました。そのような労力が費やされ、実際に会話ができるようになりました。しかし、これは限られた数の人々でした。具体的な数は不明ですが、おそらく数百人でしょう」
「しかし、その後、数億人の人々と対話を始めます。もちろん、これらのすべての対話は保存され、次の世代はそれらで学習することになります。最初の100人のトレーナーではなく、その助けを借りて毎日様々な課題を解決していた1億人の人々との対話から学習します。そして当然、人々が本当に必要としているものをより繊細に理解するようになります」
「つまり、心理学者が言う心の理論、人々の意図、彼らが本当に何を望んでいるのかを理解します。なぜなら、彼らは言葉を発し、そして間違いがあれば質問し直し、ヒントを与えるからです。これらのすべての対話は保存され、次の世代で学習されます。これが2つ目の傾向です」
「つまり、仮にGPT-4.5への移行ですが、これは既にはるかに強力になるでしょう。そして、テキストに現れる合理的思考の改善に向けた取り組みも行われています。一般的な会話では人々は思考方法をあまり記述しないので、現在、人工知能は特に合理的思考が現れる問題集や資料で特別に訓練されています」
「1年後には、人工知能はこのような思考の連鎖においてはるかに強力になるでしょう。現在でも既にそのような連鎖を構築できますが、時々混乱することがあります。これはより信頼性の高いものになり、これらすべての方向性が相互に支援し合うことになります。対話を通じた世界のより良い理解と、専門的な資料での学習を通じた合理的思考のより良い理解、特にこのために作成される何百万もの課題を通じて...」
「これにより、5...分かりませんが、次の世代は前の世代よりもはるかに強力になるでしょう。これはおそらく実際に1年程度のタイムスケールです。現在、バージョンの更新はおよそこのようなスピードで行われています。1年を少し超えて展望すれば...コンピューターが3D シーンを作成できるようになれば、その場で仮想世界を生成することができ、これが次世代のソーシャルネットワークになるでしょう」
「現在のソーシャルネットワークは、まず第一に原始的で、第二に人間から何かを吸い取るばかりで、与えるものが少ないです。つまり、人々は1日4-5時間を費やし、ある意味で中毒になってしまいます。次世代のソーシャルネットワークは、まさに社会的なものになります。つまり、人々が働くことができる仮想世界です。環境が非常にリアルになり、そこでコミュニケーションが取れるので、距離はまったく意味を持たなくなります。世界中の人々が完全に自由に一緒に働き、交流することができます。現実と同じように」
「これらの仮想世界、いわばゲーム的な現実の中で、デジタル民主主義のアルゴリズムを試すことになります。実質的に国家が作られ、そこに人々は移住し、そこでの規則に従って他の人々と一緒に生活し、働き、お金を稼ぐことができます。そしてすべてこれらは、家に居ながらにしてできます」
「もちろん、家に居ながらです。Facebookにも外出する必要はありませんよね。そして当然、ソーシャルネットワーク間で競争が始まります。誰がより良い社会的交流の条件を考案するか、より良い憲法を考案するか、より良い人々の相互作用のルールを考案するか、そしてそれらが人々にとって魅力的であることです」
「人々の心を巡る戦い、ユーザーを巡る戦いが行われるでしょう。現在のようにね。このような仮想世界、新世代のソーシャルネットワークでは、最終的には並行国家、二重市民権のような形になるでしょう」
「少なくとも、これは健康的なライフスタイルを始めるための素晴らしい理由になりますね。単なる好奇心からでも、この時代まで生きて、これらがどのように機能するのかを見てみたいですから」
「セルゲイ・アレクサンドロヴィッチ、人工知能に関するいくつかの本や、どのような専門家の情報源や出版物をフォローすべきか、お勧めいただけませんか？」
「知っての通り、目に入るものはすべて読んでいますが、今日では本を読む時間はあまりありません。なぜなら、すべてが非常に速く発展しているため、知識はすべて論文で発表され、論文を読む時間さえ不足しているからです。しかし、本について言えば、スチュアート・ラッセルの非常に良い本が最近、2019年に出版されました。『Human Compatible』という本です。ロシア語訳のタイトルは知りませんが、ロシア語に翻訳されています。そこでは人工知能の社会化について論じられており、アシモフのロボット工学三原則よりもはるかに科学的根拠のある3つの新しい法則が提案されています。素晴らしい本です」
「そして、おそらく『By Turing』も非常に良い本です。これは人工知能の先駆者の一人であるマーヴィン・ミンスキーと、良いSFを書くピート・ウッドとの共著です。実際に魅力的な本で、まさに脳へのインプラントや、人工知能によって拡張された超人についての内容です」
「科学ニュースはどこで読んでいますか？」
「いくつかのプロフェッショナルな購読をしています。一般の人々には、セルゲイ・カレロフのチャンネルをお勧めします。『知られざる興味深いもの』という名前です。セルゲイは毎日投稿しています。彼には驚くべき能力があり、非常に速く読み、非常に速く理解するため、毎日とても興味深い研究を見つけ出すことができます。私は毎日チェックしています」
「アナトリー・レヴェンチュクもお勧めします。なぜなら、彼はシステム思考の学校を持っており、そこで開発ディレクターを養成しています。彼らは独自の人工知能を開発しており、アナトリーの考え方は...基本的に、私たちは知能に対する見方において意見を同じくする同志です」
「そして、彼の本もお勧めします。最新の『インテレクト・テック』という本は...そう呼ばれていたと思います。素晴らしい本です。これは必読書だと思います。現代人なら誰もが。最初の100ページほどは、人工知能に関する最新の見方について書かれています。その後は、彼が呼ぶところのトランスディシプリン、つまり教養ある人なら誰もが知っているべき、この世界を理解したい人なら知っているべきことが書かれています。800もの文献への参考文献があると思いますが、非常に読みやすい本です。そのため、強くお勧めします。Amazonなどで入手可能です」
「ありがとうございます。最後の伝統的なクイックファイヤー質問です。長い説明は必要ありませんが、簡単な説明は可能です。インターネットに接続せずにどれくらい生活できますか？賭けではなく、平均してという意味です」
「最後の実験では2ヶ月でした。しかも、毎年妻と一緒にカレリアの奥地に行き、インターネットなしで過ごします。デトックスのようなものですね。釣りをしたり、ベリーやキノコを採ったり...素晴らしい時間です。つまり、インターネットだけが人生のすべてではありません」
「有名な物理学者やノーベル賞受賞者の中で、誰と一緒に人工知能の開発に取り組みたいですか？誰との共同作業が不足していると感じますか？」
「カール・フリストンが大好きです。彼は物理学者になりましたが、教育は心理学者、たしか精神科医だったと思います。イギリスで働いています。自由エネルギー原理の著者です。これは知能の理論を第一原理から数学的に基礎付けたものです。彼と一緒に働きたいと思います。特に今、彼は集合知研究所の所長になったばかりで、この分野も私にとって興味深いテーマです」
「イーロン・マスクとニルス・ボール、どちらを選びますか？」
「ニルス・ボールです。最近、マスクの伝記をアイザクソンで読みましたが、マスクへの無限の敬意を持ちつつも、ニルス・ボールは子供の頃からの愛です。単に、私は核物理学を通じて物理学に入ってきて、これは非常に深い記憶です」
「人間にあって、人間や人工知能に決して存在しないであろう神性とは何でしょうか？」
「外界とのつながり...いや、生命とのつながりです。人工知能は結局、非生命です。私たちは40億年の進化を経た生命の産物であり、いわば生命の頂点です。次の段階は既に非生命です。つまり、知的であっても生きていないことが可能なのです。不思議なことに、私たちの中の神性は、最も地上的なもの、つまり生命とのつながり、微生物から私たちに至る40億年の進化とのつながりです。人工知能にはこれがなく、これからもないでしょう」
「最後の質問に対する答えを想像もできません。マネかロボット、どちらですか？」
「人間です」
「セルゲイ・アレクサンドロヴィッチ、有益で興味深い対話をありがとうございました。これからも計画通りすべてがうまくいきますように」
「こちらこそありがとうございます、ゲオルギー。とても興味深い対話でした。さようなら」
セルゲイ・シュムスキーとの対話の後、私たちはさらに知的になったように思えます。人工知能に対するあなたの態度について教えてください。それを悪魔視すべきでしょうか？また、その進歩をどの程度積極的に追跡していますか？このインタビューは気に入りましたか？いいねを押して、コメントを書いてください。あなたの意見は私たちにとって重要です。新しい動画を見逃さないように登録してください。アンダーソンピープルチャンネルでまたお会いしましょう。