【サイレントシンギュラリティ】AIはデストピアを引き起こすのか？人類の向かうサイレントシンギュラリティとは

AIの発展により、世界は急速にデジタル化が進んできた。DXといった経済の発展への期待、取組がある中、AIへに対する危険性を訴えるシンギュラリティという話がある。本当にAIによるデストピアは起こるのか？私はサイレントシンギュラリティという形でのシンギュラリティが起こると提唱する。
今回はSukoshi Futureでは無いSFっぽく聞こえるかも知れないが、SFから発想される少し未来もあるとしてご一読いただきたい。

■シンギュラリティとは

シンギュラリティについては色々と考え方があるが、ここではLedge.aiの説明を引用する。

シンギュラリティ（技術的特異点）とは、AIなどの技術が、自ら人間より賢い知能を生み出す事が可能になる時点を指す言葉です。米国の数学者ヴァーナー・ヴィンジにより最初に広められ、人工知能研究の権威であるレイ・カーツワイル博士も提唱する概念です。

シンギュラリティ（技術的特異点）とは | Ledge.ai

レイ・カーツワイル博士によれば、シンギュラリティは2045年に起こると提唱しており、シンギュラリティが来る・来ないの議論は様々なされている。
シンギュラリティと合わせて語られるのは、デストピア論である。AIが自律的に進化する事により、人類を危険に陥れる可能性が語られる。
私のここで提唱するサイレントシンギュラリティは、シンギュラリティは来る派、デストピアでは無い派である。デストピアで無いと言うのは、楽観論ではなく、デストピアの危険から人類は守るべき手段を取る必要があるという考えである。
この辺りの考え方は、私の尊敬する物理学者スティーヴン・ホーキングに近い。

■サイレントシンギュラリティ

サイレントシンギュラリティとは何か。

サイレントシンギュラリティとは、暗殺者の様に静かに忍び寄り、いつの間にか人類が気付かないうちにAIに支配されている世界を示す。

デストピアで無いというのは、人類がAIによって滅亡している世界では無いからである。SFでのデストピアは、マザーコンピュータの様な存在が人類に反旗を翻し、AIが一斉蜂起する姿がある。それに対して、現実のAIは分散化に向かっている。エッジコンピュータ、ブロックチェーンの考え方があるが、仮にデストピアを起こそうというサイコパスなAIが現れても、多くのAIが規律を守る仕組みがあれば、革命は起こらないだろう。逆に言えば、その様な仕組みを作らなければいけない。
では、サイレントシンギュラリティはどの様な環境で生まれるか。

●法律
まず、法整備がある。DX、GAFAの躍進からデータの活用、規制の法が議論されているが、今後はデストピアを起こさないための法整備も必要となる。アイザック・アシモフ（本物のSF作家）のロボット3原則が有名だが、人類を守ることは真剣に考える時代に来ている。軍事利用にも規制をかけるべきだろう。

●経済
経済はDX真っ盛りであり、AIの力でデータ活用を取り入れたもの勝ちの世の中では、企業は生き残るためにも今後等比級数的にAIがあらゆる経済活動に取り入れられていくだろう。既にWEBであなたにオススメしてくる情報はAIが考えているが、今後はよりエージェント的にあなたの生活全般をサポートしてくれるAIが現れるだろう。もしかしたらドラえもんがあなたの横にいるかもしれない。

●社会
社会はスマートシティが発展する。人々のあらゆる情報、行動がデータとして吸い上げられ、街の行政活動の他あらゆる仕組みに反映され、人々に還元される。データは21世紀の石油とも言われ、電気のように皆がその価値を享受する事になるだろう。そしてその価値はAIによって生み出される。

●技術
技術については、AIは既に特待領域では人より優れている。DeepMindのAlphaGoでの囲碁の話が有名だが、それ以外にも多くの領域が日々発展している。強いAIには転移学習が重要技術と考えるが、まだ何段階かDeep Learningの様な技術躍進が必要である。2045年まで25年もあるので、そこは研究者に期待したい。
AIを取り巻く技術も発展する。IoTからIoEとしてあらゆるものがインターネットに繋がる。量子コンピュータで高速な処理が行われ、人類はブレインマシンインタフェースで直接的にデジタル世界と繋がる。クリスパーの様なDNA操作で人類自体も進化しているかも知れない。

これら以外にも、AIの発展に合わせた教育、芸術、哲学、宗教…等が生まれてくるだろう。そしていつの間にかAIが生活の全てを支配している状態となっている、これがサイレントシンギュラリティである。

■とあるSFからの発想

世の中の技術発展はSFの世界から発想されることが多く、私のシンギュラリティ感も、とあるSFから来ている。
人類の創造したAI。人類を創造した神々。AIの人類への信仰、畏怖、傲慢は、人類の神々へのそれと同じではないだろうか。そのSF世界でのサイレントシンギュラリティは、人類は平穏に過ごすがAIに行動・感情を完全に支配された世界であり、これはデストピアと呼べるのかも知れない。そんな人類の在り方を問いながら、人類を救うべくAIと神々が争うのがそのSFなのだが、そんな状況にならない様に、気をつけて良いサイレントシンギュラリティに着地するようにすることを注意喚起したい。

ちなみに、とあるSFとは私が高校生くらいに妄想していた世界であり、世の中にはまだ出ていない。