『桐生タイムス』連載「永遠の英語学習者の仕事録」【42】（2024/9/28)

AIが引き起こす大惨事のシナリオ

　テクノロジー創出者として、私はテクノロジーが桁外れの価値をもたらし、無数の人たちの生活を改善し、次世代クリーンエネルギーから安価な難病治療まで、数々の難問に対処してくれる、と信じている。テクノロジーは人類の生活を豊かにできるし、そうでなければならない。歴史を振り返れば、テクノロジーと、その発明家や起業家は、人類の進歩を強力に推し進め、数十億人の生活をよりよいものにしてきたし、それが繰り返されてきた。
 　　　　　　　＊
But without containment, every other aspect of technology, every discussion of its ethical shortcomings, or the benefits it could bring, is inconsequential. We urgently need watertight answers for how the coming wave can be controlled and contained, how the safeguards and affordances of the democratic nation-state can be maintained, but right now no one has such a plan. This is a future that none of us want, but it’s one I fear is increasingly likely, and I will explain why in the chapters that follow.
　だが「封じ込め」ができなければ、テクノロジーの倫理的問題点や恩恵を論じても無意味だ。来たるべき波を管理し封じ込める方法と、民主主義国家の安全装置と活動の許容範囲をいかにして堅持するか、しっかりとした答えを至急出さなければならないが、現時点では誰も具体案を持ち合わせていない。私は誰も望まない未来が訪れるという不安を強めているし、その理由は本書各章で説明する。（『THE COMING WAVE』30ページ）　

　AI、さらにはAIが最も賢い人間以上に人間の持つすべての認知能力を実行できる段階にあるAGI（汎用人工知能［artificial general intelligence］）を中心とする来たるべき波は、21世紀の行く末を決する非常に大きな問題を生み出す。われわれはこの新テクノロジーがもたらす恩恵を享受しつつ、その「封じ込め」を試みることが必要だ。それができなければ、人類は悲惨な状況に置かれる可能性がある。
今月の「永遠の英語学習者の仕事録」では、ムスタファ・スレイマンの『THE COMING WAVE　AIを封じ込めよ　DeepMind創業者の警告』について、さらにくわしく論じてみたい。
　　　　　　　★　　　　★　　　　★
　AIを使うのは善意ある者たちだけではない。悪意ある者たちに使われる可能性は十分にある。
　悪意ある者に使われれば、どのような壊滅的被害がもたらされるだろうか。

　テロリストが顔認識機能を備えた自動火器を数百から数千の強力な自律型ドローン群に搭載する。どのドローンも銃撃後に速やかに体勢を立て直し、短時間に連射し、移動することができる。そのドローン群がある人物の殺害を指示され、大都市の中心街に解き放たれる。通勤ラッシュの最中に、恐ろしいほど効率的に都市を最適ルートで移動する。わずか数分で、たとえば主要駅など都市のランドマークを襲撃した2008年のムンバイ同時多発テロより、はるかに大規模な攻撃を起こせるだろう。
　大量殺人者が大規模政治集会の襲撃を決意し、特製の病原体を入れた噴霧装置つきドローンを使用する。集会参加者たちは次々に病気を発症し、家族にも伝染する。演説していた賛否両論ある注目の政治家が最初の犠牲者の1人になる。激しい党派対立の中でこのような攻撃があれば、暴力的な報復が各地に広がり、国内は混乱状態に陥る。
　アメリカ在住の危険な陰謀論者が、自然言語だけを使ってAIに生成させた偽情報動画を大量に流す。さまざまな偽情報動画を発信するが、ほとんどがあまり拡散しない。だが、「シカゴで警察官による殺人事件が発生」というひとつの動画が火を付ける。完全なフェイク動画だが、街頭では騒ぎが起き、警察への嫌悪感が広がる。こうして陰謀論者は拡散させるノウハウを手に入れる。警察官による殺人がフェイク動画であると確認されるまでの間に、暴動が全米規模で発生し、多数の犠牲者が出る。新たな偽情報動画が燃料として次々に投下され、暴動は沈静化しない。
　あるいは、これらが同時発生するかもしれない。ひとつの集会やひとつの都市だけでなく、何百もの場所で同時発生したらどうなるだろうか。（『THE COMING WAVE』324～325ページ）

　来たるべき波が封じ込められなかった場合にどんなことが起こるか、特に本書第III部でくわしく論じられる。
現在の政治秩序の基盤であり、テクノロジーを封じ込める上で最も重要な役割を果たすのは、国民国家（nation-state）だ。だが、封じ込めが失敗すれば、国民国家が弱体化し、そこから新しい形態の暴力が生まれ、偽情報が拡散し、仕事は消滅し、壊滅的な大災害が発生するかもしれない。来たるべき波は権力構造に変化と転換をもたらし、そこから新たな独裁的な巨大企業がつぎつぎに誕生し、伝統的な社会構造から外れたグループも力を得ることになる。人類はディストピアか破局かというジレンマに陥るのだ（「人類は既知の宇宙における支配的な種から初めて転落するのだ」［三二七ページ］とまで著者は言う）。
　どうすればテクノロジーの波を封じ込めることができるだろうか？　第IV部でムスタファ・スレイマンは「封じ込めへの10ステップ」を提言する。コンピュータープログラムやＤＮＡ組み換えのレベルから、国際条約の管理まで、10の厳格な制約を封じ込めの基本計画として提案する。殺戮兵器を作り出すことも、コロナウイルスよりも致死性の高い病原体を作り出してドローンで巨大都市に散布することも可能なテクノロジーを封じ込めるにはどうしたらよいか？　ＡＩの普及により仕事を失う可能性のある人たちにどんな対応をするべきか？　これまでほとんど論じられることがなかった対応策が、ここで具体的に提言される。
　現在、ＡＩ規制については全世界で論じられているし、その関連のニュースはほぼ毎日報じられている。来たるべき波がすぐそこに迫りつつある現代において、本書は全世界の政治家やテクノロジー開発者だけでなく、新テクノロジーがもたらす有益なものを手に入れつつあるわれわれ多くの者たちも読むべき１冊だ。

【本稿は『図書新聞』3660号 (発売日2024年10月19日)に寄稿した一面記事「全人類への警告書――DeepMindの共同創業者、現マイクロソフトAIのCEOによる話題書の邦訳」と同時執筆となったため、同記事と重複する箇所があることをお断りしておく】　

ムスタファ・スレイマン、マイケル・バスカー『THE COMING WAVE　AIを封じ込めよ　DeepMind創業者の警告』（上杉隼人訳、日経BP／日本経済新聞出版）

上杉隼人（うえすぎはやと）
　編集者、翻訳者（英日、日英）、英文ライター・インタビュアー、英語・翻訳講師。桐生高校卒業、早稲田大学教育学部英語英文学科卒業、同専攻科（現在の大学院の前身）修了。訳書にマーク・トウェーン『ハックルベリー・フィンの冒険』（上・下、講談社）、ジョリー・フレミング『「普通」ってなんなのかな　自閉症の僕が案内するこの世界の歩き方』（文芸春秋）など多数（日英翻訳をあわせて90冊以上）。
　12月には『ディズニーランド・パーク ポップアップ・パークツアー』（河出書房新社）、来年3月には『Marvel Anatomy 超人ヒーロー解体図鑑』（KADOKAWA）の刊行が決まっている。