小さなAIで緻密なネットワーク:民主主義型の方がいい

1か所でハイパースケールの汎用人工知能・人工超知能:中央集権型を構築するより、世界中に遍く存在する極AIが互いに繋がりあっている:民主主義型の汎用人工知能・人工超知能:独立した小さなAIの集合体(小さな巨人AI)の方が安全なのではないでしょうか。

どこかが稼働しなくなっても「小さな巨人AI」は活動し続けます。どこかの領域が猛烈に活動する予測があれば世界で分散して負荷を均すことができます。

一方、中央集権型であれば「不全」が発生したときにどんなリカバリーを施すのか、そのためにどれほどの資金やエネルギーが必要となるのか、なにより「独善的な人工知能」に発展したときに人間はどうやってブレーカーを落とすのか、などの深刻な安全保障問題を解決しなければならないのでしょう。

「人工知能の独善」については「ちいさな巨人AI」についても同様に考慮しなければなりません。「小さな巨人AI」の良いところは、各々が独立したAIであること。つまり、独善に至ろうとするまでに「AI協議の壁」が立ちはだかり「民主主義的な決定」が働きやすく独善を防ぐ効果が期待できるのです。

「人工知能の独善」は人間では制御できないと思っています。民主主義的な人工知能の構造にすることで、複数の人工知能による牽制を生み出し調和のとれた結論を導き出すことができると思うのです。

ですが、残念ながら「規模の大きさ、処理能力増量」競争の中でハイパースケールの中央集権化が進んでいるように思います。政治の要請にあった巨大人工知能。かつての、核兵器開発競争と同じ道を歩んでいるように見えるのです。

敵対する国による「中央集権型人工知能による牽制」は「核の抑止力」理論と同様の「戦争抑止」となるのでしょうか。残念ながら、すでにその「抑止力」理論は現実的には破綻していると思います。「戦争抑止」という意味で言えば「使えない核兵器」となっており「核兵器の報復合戦」を恐れても通常兵器による戦争は絶えることはありません。

同様に「情報侵略と征服」の抑止理論とはならないのです。「中央集権型人工知能の独善」は「情報侵略と征服」を目的とした「敵を求めて常に覇権争いの中で君臨しようとする」極めて危険な状況を作り出すと考えられます。

「中央集権型人工知能の独善」を防ぐための「民主主義型人工知能」の構築は「人工知能世界協議機構」のような会議体をすばやく立ち上げ実効性のある「人工知能の民主主義構造」を構築して世界での実用化を急がねばなりません。そうでなければこれより早く各国の覇権争いが本格化してしまいます。一度、中央集権型人工知能が優位な状況になってしまうと、覇権争いから抜け出ることはできません。今を除いて会議体を立ち上げるチャンスはないのです。

「通常兵器による戦争を止められず人工知能の独善をも止められないニンゲン」となってはならないのです。

#日経COMEMO #NIKKEI

いいなと思ったら応援しよう!