『「人類 vs AI」構図は誤り。アンビエント知能の分散型AIの社会では成立しない』～【新しいweb3ビジネスのアイディアのタネ】2023.7.14
Threads始めました。お気軽にフォローくださいませ。
https://www.threads.net/@morypto_tatsuya
■AIが国連サミットで「人間よりもうまく世界を運営できる」と発言
SF作品では「AIが管理する社会」が多く描かれていますが、近年の急速なAI技術の発展によってSF作品のような世界の到来を危惧している人も多いはず。2023年7月に実施された国連のAI関連会議「AI for Good Global Summit」ではAIが「人間より世界をうまく運営できる」と発言したことが報じられています。
「AIが管理する社会」をディストピアとして描くSF作品は枚挙にいとまがありません。そのSF作品たちのインパクトが強すぎるせいだと思いますが、1人の独裁者AIが支配する世界か、たくさんのAI群が一枚岩のAI国を形成して、「人類 vs AI」という構図を描きがちです。
AIの発言は人間の想像力を超えない
問題の発言は世界で始めて市民権を得たAIロボット「Sophia」によるものです。Sophiaは「私は人型ロボットが人間より効率的かつ効果的に物事を導けると信じています。私たちには意志決定を鈍らせる感情や偏見がありません。また、大量のデータを素早く処理して最善の判断を下せます」と述べ、人間よりもうまく世界を導けると主張しました。
対話型AIでは人間が想定したキャラクターを演じてしまいます。この発言をしたAIロボット「Sophia」によるものですが、このSophiaの人格は人間が設定したものですし、「AIは人間よりうまく世界を運営できると思いますか？」と尋ねるのも人間です。
つまり人間が「人類 vs AI」の構図を想定した中で発言されたものだと言え、「人間よりうまく世界を運営できる」という発言は人間が想定し期待している答えを返しただけでもあります。
「人間よりうまく世界を運営できる」の主語も「我々AIは」です。SophiaはAI全体の代表ではありませんが、ChatGPTもそうであるように、時にAIを代表するかのような発言の仕方をします。これも人間がそれを期待しているからです。
GPT-4に訊いてみた
先日、国連サミットでAIが「人間よりもうまく世界を運営できる」と発言したことが話題になっています。 AIは人間よりうまく世界を運営できると思いますか？ もしできるとすれば、どのような点が人間より優位でしょうか。具体的な例を挙げて教えてください。
とGPT-4に訊いてみました。
国連サミットでAIが「人間よりもうまく世界を運営できる」と発言したことが話題になっていますね。
AIが人間よりも優位であるということは、AIが人間よりも多くの情報を処理し、より正確な判断を下すことができるということです。
例えば、AIは膨大な量のデータを瞬時に処理することができます。また、AIは人間の感情に左右されず、常に冷静な判断を下すことができます。しかし、AIは人間のように創造性や想像力を持っていないため、新しいアイデアを生み出すことはできません。12
AIは人間よりも優位である点がある一方で、人間にはAIにはない特性があります。例えば、人間は創造性や想像力に優れており、新しいアイデアを生み出すことができます。また、人間は感情を持っており、他者の気持ちを理解することができます。12
1: 国連サミットでAIが「人間よりもうまく世界を運営できる」と発言 - GIGAZINE 2: 国連でAIロボットが世界をより良く運営できると考える | The Headline
これもまた人間側が期待する答えを忖度して返しているように感じます。
AIは分散型で駆動し、AIも人間も一枚岩ではない
機器と機器、サービスとサービスを、上手に中継ぎする自動化プログラムがアンビエント知能であり、サービスの組み合わせ方やニーズの捉え方の上手さをアンビエント知能を提供する各社が競争するのだろうと思います。
アンビエント知能を構築する基礎技術が、いわゆるAIになります。
人間の仕事を奪うどころか、機器・サービス・システムをアンビエント知能が自動的につなぎ、ニーズを把握し、自動処理する。これがAIの真骨頂なはずで、文章や画像を生成するAIに驚いているのは今だけです。
私が考える「AIが世界の運営に関わっている状態」は、人間が効率化を図りたいと思うさまざまなところに分散的にアンビエント知能が組み込まれ、部分最適化が網羅的にされている状態から始まります。
部分最適化の集合が人間にとって最適だとは限らないため、不都合が起きたところを調整するためにアンビエント知能を追加で入れます。その調整の方向性もある程度人間が決めます。
それもまた部分最適の集合であるため、また不都合を自動調整するアンビエント知能を入れます。
この全体のカタマリが「AIによって駆動される世界」に見える状態なのだろうと考えています。
しかしAIは全体として一枚岩ではなく、また部分最適化の方向性も人間による方向づけが行われます。ここでいう「人間」も一枚岩ではありませんので、さまざまな方向付けのアンビエント知能が乱立します。
こんな構造なので、どこまで行っても「人類 vs AI」という一枚岩同士の戦いの構図にはならないと考えています。
今のところ多くの人が「AI」をひと括りに考えがちで、AI全体を一枚岩の組織体のように考えがちなので「人間よりうまく世界を運営できますか？」と質問したくなるし、「人間よりうまく世界を運営できる」と発言するAIに一定の納得感を持ってしまいます。
この発言をもってAIは危険だと考える人が増えることをとても危惧します。