ＤｅｅｐＭｉｎｄの共同創業者、現マイクロソフトＡＩのＣＥOによる全人類への警告書　ムスタファ・スレイマン、マイケル・バスカー『ＴＨＥ ＣＯＭＩＮＧ ＷＡＶＥ　ＡＩを封じ込めよ　ＤｅｅｐＭｉｎｄ創業者の警告』上杉隼人訳、日経ＢＰ／ 日本経済新聞出版）刊行に寄せて　上杉隼人

　今日のＡＩ（人工知能［artificial intelligence］）システムの進化はめざましい。物体も人間の顔もほぼ完璧に認識し、音声からテキストへの変換も、瞬時の言語間の翻訳も問題なくこなす。ＡＩナビで自動運転も可能だ。いくつか簡単なプロンプトを与えれば、新世代の斬新な画像を生成し、情報量の多い論理的な文書も書き上げる。驚くほどリアルな合成音声も生成可能だし、美しい音楽も作曲する。長期的な計画も立ててくれるし、想像力が求められる複雑なアイデアをシミュレーションするなど、かつては人間にしかできないと思われていたことも軽々とこなしてしまう。
　ＡＩ、さらにはＡＩが最も賢い人間以上に人間の持つすべての認知能力を実行できる段階にあるＡＧＩ（汎用人工知能［artificial general intelligence］）は、数年後には人間と同じレベルでさまざまなタスクを処理できると思われるし、実はすでに実現しているのかもしれない。
　だが、このＡＩがロボット工学、合成生物学、量子コンピューターといった同じく急激な進化を遂げている新世代テクノロジーと組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる可能性がある。
　可能性は低いかもしれないが、一度起こってしまえば甚大な影響がもたらされる。たとえわずかな可能性であっても、緊急に対応しなければならない。だが、まだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」（英語のcontainmentで、管理し、制限し、止めること）に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る……。
　本書は、AlphaGoを開発したＤｅｅｐＭｉｎｄの共同創業者で、現在はマイクロソフトＡＩのＣＥＯを務めるムスタファ・スレイマン（Mustafa Suleyman, 一九八四年～ ）の全人類に対する警告書だ。一年前の二〇二三年九月に原書が刊行されて以来、世界中で大変な話題を集めている。
　この注目の一冊がついに日本に上陸、先月末に日経ＢＰ／ 日本経済新聞出版より刊行された。

　封じ込めは可能か？　　

　テクノロジー創出者として、私はテクノロジーが桁外れの価値をもたらし、無数の人たちの生活を改善し、次世代クリーンエネルギーから安価な難病治療まで、数々の難問に対処してくれる、と信じている。テクノロジーは人類の生活を豊かにできるし、そうでなければならない。歴史を振り返れば、テクノロジーと、その発明家や起業家は、人類の進歩を強力に推し進め、数十億人の生活をよりよいものにしてきたし、それが繰り返されてきた。
　だが「封じ込め」ができなければ、テクノロジーの倫理的問題点や恩恵を論じても無意味だ。来たるべき波を管理し封じ込める方法と、民主主義国民国家の安全装置と活動の許容範囲をいかにして堅持するか、しっかりとした答えを至急出さなければならないが、現時点では誰も具体案を持ち合わせていない。私は誰も望まない未来が訪れるという不安を強めている……。（『ＴＨＥ ＣＯＭＩＮＧ ＷＡＶＥ　ＡＩを封じ込めよ　ＤｅｅｐＭｉｎｄ創業者の警告』30ページ）

　本書『ＴＨＥ ＣＯＭＩＮＧ ＷＡＶＥ　ＡＩを封じ込めよ　ＤｅｅｐＭｉｎｄ創業者の警告』における著者ムスタファ・スレイマンの主張は一貫している。
　人類は未曾有の力を備えた「来たるべき波」（The Coming Wave）を迎えつつある。来たるべき波はかつてない規模の富と利益を生み出す人工知能（ＡＩ）と合成生物学のふたつの中核テクノロジーを有するが、このふたつのテクノロジーが急速に拡散すれば、さまざまな形で悪用される可能性もある。それによって想像もできない大規模な混乱が生じ、社会は不安に陥り、大惨事が引き起こされるかもしれない。来たるべき波は、二十一世紀の行く末を決する非常に大きな問題を生み出すのだ。われわれは新テクノロジーがもたらす恩恵を享受しつつ、その「封じ込め」を試みることが必要だ。それができなければ、人類は悲惨な状況に置かれる可能性がある。
　ふたつのＡＩ会社、ディープマインド（のちにグーグルに買収）とインフレクションＡＩを立ち上げ、最先端ＡＩ技術を開発しつつも、その使い方には常に慎重で、グーグル在籍時にはＡＩ倫理諮問評議会を社内に設置することも求めたスレイマン（現在はマイクロソフト ＡＩのＣＥＯを務める）は、状況を明確に見据え、このように提言する。
　だが、４つの特性（「オムニユース（汎用性がある）」「超進化」「非対称（力の差を埋める〝非対称インパクト〟がある）」「自律性（自ら学習して進化する）」）を備えた来たるべき波の封じ込めは容易ではない。
今何が起こりつつあるのか？　何が波の封じ込めをむずかしくしているのか？　波を封じ込められなければどうなるか？　封じ込めを実現するにはどんなことが必要か？
　スレイマンは本書を通じて、こうした問題を論じながら、今を生きるわれわれだけでなく、これからの世代の行く末を占う。
　スレイマンは第Ⅰ部で、数千年にわたるテクノロジーの歴史をひもとき、テクノロジーの波がどのように広がったのかを概観する。どうして波は社会に浸透したのか？　波を拒んだ社会はどうなったか？　
　第II部では、来たるべき波について詳細に論じる。ＡＩ、合成生物学、ロボット工学、量子コンピューターなどのテクノロジーが激しく複雑に絡み合いながら、指数関数的に（exponentially）発展していく中、多くの国家や企業や団体は競い合うように開発を進める。政治、経済、そのほかの理由によって、新テクノロジーの開発を止めることはむずかしい状況にある。
　第III部では、来たるべき波が封じ込められなかった場合にどんなことが起こるかが論じられる。現在の政治秩序の基盤であり、テクノロジーを封じ込める上で最も重要な役割を果たすのは、国民国家（nation-state）だ。だが、封じ込めが失敗すれば、国民国家が弱体化し、そこから新しい形態の暴力が生まれ、偽情報が拡散し、仕事は消滅し、壊滅的な大災害が発生するかもしれない。来たるべき波は権力構造に変化と転換をもたらし、そこから新たな独裁的な巨大企業がつぎつぎに誕生し、伝統的な社会構造から外れたグループも力を得ることになる。人類はディストピアか破局かというジレンマに陥るのだ（人類は既知の宇宙における支配的な種から初めて転落するのだ［三二七ページ］）。
　どうすればテクノロジーの波を封じ込めることができるだろうか？　第IV部で、ムスタファ・スレイマンは「封じ込めへの10ステップ」を提言する。コンピュータープログラムやＤＮＡ組み換えのレベルから、国際条約の管理まで、十の厳格な制約を封じ込めの基本計画として提案する。殺戮兵器を作り出すことも、コロナウイルスよりも致死性の高い病原体を作り出してドローンで巨大都市に散布することも可能なテクノロジーを封じ込めるにはどうしたらよいか？　ＡＩの普及により仕事を失う可能性のある人たちにどんな対応をするべきか？　これまでほとんど論じられることがなかった対応策が、ここで具体的に提言される。
　現在、ＡＩ規制については全世界で論じられているし、その関連のニュースはほぼ毎日報じられている。来たるべき波がすぐそこに迫りつつある現代において、本書は全世界の政治家やテクノロジー開発者だけでなく、新テクノロジーがもたらす有益なものを手に入れつつあるわれわれ多くの者たちも読むべき一冊だ。
　ユヴァル・ノア・ハラリ（歴史学者、『サピエンス全史』）、ビル・ゲイツ（マイクロソフト共同創業者）、アン・アプルボーム（ピューリッツァー賞受賞、歴史家）、ダニエル・カーネマン（ノーベル経済学賞受賞、『ファスト＆スロー』）、ヌリエル・ルービニ（ニューヨーク大学名誉教授）、アル・ゴア（元アメリカ副大統領）、アンドリュー・マカフィー（MITスローン経営大学院首席リサーチ・サイエンティスト）、アラン・ド・ボトン（哲学者、作家）、マーサ・ミノウ（ハーバード大学教授）、エリック・シュミット（元グーグルＣＥＯ）、イアン・ブレマー（政治学者、コンサルティング会社ユーラシアグループ社長、『危機の地政学』）、デイヴィッド・ミリバンド（イギリス元外務大臣）、グレアム・アリソン（ハーバード大学ケネディスクール初代院長、『米中戦争前夜』）、アンジェラ・ケイン（元国連軍縮担当上級代表）、ブルース・シュナイアー（サイバーセキュリティ研究者）、エリック・ブリニョルフソン（スタンフォード大学教授、人工知能学者）、ジェイソン・マセニー（ランド社CEO、元テクノロジー担当大統領副補佐官）、スティーブン・フライ（俳優、放送作家）、サー・ジェフ・マルガン（ユニバーシティ・カレッジ・ロンドン［ＵＣＬ］教授）、リード・ホフマン（リンクトイン共同創業者、インフレクションＡＩ共同創業者）、フェイフェイ・リー（コンピューター科学者）、ジェフリー・Ｄ・サックス（経済学者、国連ミレニアムプロジェクト・ディレクター）、チー・ルー［Qi Lu］（コンピューター科学者、ミラクルプラスＣＥＯ、元マイクロソフト執行副社長）、メーガン・Ｌ・オサリバン（ハーバード大学ケネディスクール・ベルファー科学国際問題センター所長）、トリスタン・ハリス（テクノロジー倫理学者）、スチュアート・ラッセル（カリフォルニア大学バークレー校コンピュータサイエンス学部教授）、ニーアル・ファーガソン（歴史家、スタンフォード大学フーヴァー研究所シニアフェロー、『キッシンジャー』）、ジャック・ゴールドスミス（ハーバード大学法科大学院教授）、エリック・ランダー（元アメリカ大統領首席科学顧問）、ケビン・エスヴェルト（ＭＩＴメディアラボ准教授、生物学者）、エフード・バラク（イスラエル元首相）、ケビン・ラッド（オーストラリア元首相）と実に多くの錚々たる政治家、テクノロジスト、ビジネスリーダー、作家、学者が推薦文を寄せた本書は、まさに時代が求める一冊と言える。

　波を封じ込めれば、何が手にできるか？

　膨大で詳細な調査をもとに全世界が知りたい情報を網羅し、マイケル・バスカーの印象的な詩的表現でドラマチックにつづられる本書を数カ月で訳すのは大変な作業であったが、多くの人たちの支援を得てどうにかやり遂げることができた。この場を借りて、その人たちに謝意を表したい。
大作の訳書に抜擢してくださった日本経済新聞出版本部長の國分正哉さんと同編集部の金東洋さんに、深く感謝申し上げる。特に金さんには翻訳上で貴重なアドバイスをいくつも賜り、事実確認、訳文の向上も精力的にはかっていただいた。金さんの力強く寛大な支援と励ましがなければ、とてもできない仕事だった。
　夏村貴子さん、坂元理人さん、片桐恵里さん、品川暁子さん、玉木史惠さん、楠田純子さんには原稿段階で訳文と原文との突き合わせをお願いし（おかげで訳文の質が加速度的に向上した）、眞鍋惠子さん、玲子さんには合成生物学に関する表現を確認していただき、上原昌弘さんにはゲラを念入りに校正していただいた。皆さんに厚くお礼を申し上げる。
　　　　　　　　　　　　　　　　＊
　来たるべき波を封じ込めるのはむずかしいし、できないかもしれない。だが、われわれは立ち向かわなければならない。波を封じ込めることができれば、われわれには何を手にできるのか？　
　ムスタファ・スレイマンは最後にそのことも示してくれている。スレイマンのその言葉から希望が生み出され、来たるべき波の封じ込めに向けた活動が具体化するかもしれない。
　ＡＩ時代最重要書の一冊と言える本書が多くの方に読んでいただけることを願っている。

上杉隼人（うえすぎはやと）
　編集者、翻訳者（英日、日英）、英文ライター・インタビュアー、英語・翻訳講師。早稲田大学教育学部英語英文学科卒業、同専攻科（現在の大学院の前身）修了。訳書にマーク・トウェーン『ハックルベリー・フィンの冒険』（上・下、講談社青い鳥文庫）、ジョリー・フレミング『「普通」ってなんなのかな　自閉症の僕が案内するこの世界の歩き方』、ジョー・ノーマン『英国エリート名門校が教える最高の教養』（文藝春秋）、ベン・ルイス『最後のダ・ヴィンチの真実 ５１０億円の「傑作」に群がった欲望』（集英社インターナショナル）、ウィニフレッド・バード『日本の自然をいただきます──山菜・海藻をさがす旅』（亜紀書房）、チャーリー・ウェッツェルほか『ＭＡＲＶＥＬ　倒産から逆転ＮＯ・１となった映画会社の知られざる秘密』（すばる舎）・ジョン・ル・カレ『われらが背きし者』（共訳、岩波現代文庫）のほか、ディズニー、マーベル、「スター・ウォーズ」関連の翻訳も多数（日英翻訳をあわせて九十冊以上）。　
　十二月には『ディズニーランド・パーク ポップアップ・パークツアー』（河出書房新社）、来年三月には『Marvel Anatomy 超人ヒーロー解体図鑑』（ＫＡＤＯＫＡＷＡ）の刊行が決まっている。

「図書新聞」No.3660･ 2024年10月26日号に掲載。https://toshoshimbun.com/「図書新聞」編集部の許可を得て、投稿します。