#13 世界をディストピアにしないために：安野貴博×牛久祥孝×佐久間洋司（3/3）
TAUROとは
TAUROは人間と協働することでより創造的な科学研究を可能にする「AIサイエンティスト」を研究開発するプロジェクトです。内閣府「ムーンショット型研究開発制度」における「目標３：自ら学習・行動し人と共生するロボット」に採択され、2050年までにノーベル賞クラスの研究を人間とAIが共同で行える社会を目指し活動しています。
noteでは、AIの過去、現在、未来に注目し、人間とAIが一緒に生きていく未来がどのようにつくられていくのかを全16回で解説していきます。第13回目はゲストに安野貴博さんをお招きた対談の最終回。前回に続いてリーズニングのお話と、2050年に向けた未来への道のりについてお話を伺いました。
ーー前回、リーズニング（ある現象が起きたときに、どうしてこの現象が起きたのかを理由付けをするAIタスク）の話がでました。今回はその続きをお話いただきます。
ELSIを考える
安野 ABC予想を解くことは、結局、地球上で10人くらいしか理解できないと言われています。つまり検証が正しいのか間違っているのか、よくわからない状態のままでいるのが現状だと思っています。それに近い状況で、例えばすごい発見をし、リーズニングのAIによって説明されるのですが、その説明が人間が脳みそに入れられる許容量を超えていて、誰もその説明が正しいかどうかを判別できない。けれども、AIによって科学はどんどん前に進んでいるし、エクスポネンシャルにリーズニングのAIが吐き出してくる論文や説明の量が増えまくっていく状況になると思うのですが、牛久先生はどのように考えていますか。
牛久 これはとても重要で、まずは、AIサイエンティストと人間のインタラクションが必要だということです。今回のムーンショットでは、ELSI（エルシー※Ethical, Legal and Social Issuesの頭文字をとったもの）という法律的な問題、倫理的な問題、あるいは社会課題として、研究していくことで生じるリスクや、逆にメリットを議論するという“宿題”があります。
例えばAIが完全にリーズニングをやめた世界で、新しい万病の薬や、常温でも超電導状態になる物質が出てくるとして、それは高度に発達した科学と魔法が見分けがつかない世界です。人間はAIが出す「すごい結果」を理解できないから、とりあえず「AIさま～」みたいな感じで、神棚ならぬAI棚に向かって、AIが何か出してくれるのを祈って待つというディストピアになってしまう。
そこをAI自身がいかに研究者に、そしてより広い社会の人々に教えられるのかということが、そのまま人間がどうやってAIサイエンティストをコントロールしていくのかということと表裏一体になるということです。いかに人間が理解可能なモデル化に成功しながら、AIサイエンティストが研究を進めていくかが、キーになると思っています。AI自身がこれから発見していく新たな知識に対して、モデル化して、人間に理解してもらって、それをコントロールしてもらうということを、インタラクションの中でやっていけるようにしないといけない。つまり物量は全く意味がない。必要なのはリーズニングの質ですね。
安野 面白いですね。リーズニングができないけど、役に立つものをAIがガンガン供給してくれるという状態に仮になったとして、それがELSIの考え方にどう反するのか。きちんと言葉にしようとすると結構難しいなと思います。また、ELSIはエシックス、リーガル、ソーシャルイシューですよね。例えば万病の薬が出てきたときに、リーガルは人間の決めた勝手なルールなので、「それでよし」とならばOK。エシックスも人間の決めた話ではあると思いつつ、反論するとしたらこの辺かなとも思うのですがいかがでしょうか。
牛久 おそらくどの項目でも、サポート側に回ることも、敵対側に回ることもできるんです。ELSIの中で、「ここ、みんな気にするんだ」と思ったのが、デュアルユースです。デュアルユースというのは、例えばダイナマイトを、鉱物を掘るために使うのか、戦争に使うのか、という意味でのデュアルユースです。軍事利用でもあるし、逆に防衛技術にもなる。そこで一番問題になるのは、意図して攻撃をしたり、意図して防御をしたり、という人間がコントロールできる技術であるということ。これが人間が理解できない神頼みで攻撃手段を獲得したり、神頼みで防御手段を獲得したりすると、カオティックな状況になってしまう。科学を正しく積み上げていく立場としては、やはりリーズニングやモデル化をコントロールして対応していくことが大事だと思っています。
2050年までに私たちがするべきこと
佐久間 ここまで、AIサイエンティストをどう生み出すのか、コントロールしていくのかというお話を伺ってきました。ここからはこれから私たち、2050年に向けてどんなことを考えていかなくてはならないか伺います。特に若い世代の読者に向けておふたりからメッセージをいただけますか？
安野 2020年代から2050年代までは人類史的にまだ経験したことないことが起こると思っています。テクノロジーが発達するスピードと、人間社会がテクノロジーを受容して社会の形が変わるスピードを比べたときに、2020年代くらいまではテクノロジーが発達するスピードのほうが圧倒的に遅い。だから何かが発明されることが、社会の形を変えるということと密接に結びつくと思います。
でも2020年から2050年くらいの社会を作っていく上では、技術をどういう形で使うのか、技術と社会の関係性について議論したり、一人ひとりが社会に参加している「主体」となって議論をしていく。その「心の受容速度」自体が社会を変えるスピードになっていくと思います。こうやって未来を語る機械を通して、技術と社会の関係性を引き続き考えていくのがよいと思います。
牛久 まず感想から述べさせていただくと、実は僕らの「オムロンサイニックX」という会社の「サイニックX」は、オムロン創業者が作った理論です。社会と科学が技術を媒介にしながら相互作用して、ここまで人間が歴史の中で発展を遂げてきた、というのが「サイニック理論」です。未来予想もしていて、ちょうどこれから自立社会になるみたいな未来予想を50年前にしていたので「サイニック理論、合ってるじゃん！」という感じになっています。そこの中でも、社会と技術、科学の関係性がハイライトされているので、技術の進化と社会の進化のスピードが変節するという視点はすごくおもしろいなと思いました。
僕自身が2050年までに大事だと思うことは、2つあります。まずはテクノロジーへの興味。これをぜひ多くの人に持ってもらいたい。理系オタクなイメージがある一方で、STEAM教育が大事だという変節が起きているのがいまだと思っています。今後より一層、テクノロジーへの興味が重要になっていくだろうと考えています。
そしてディストピアな未来を防ぐためにも、やはり技術がどういうふうに進化しているのかを身近に感じてもらう必要があると思っています。そのためにも、興味関心に応じて無邪気にいろいろなことをやってみてほしい。それこそ「目の前にパソコンがとりあえずあったから、ブラックボックス的にいろいろ叩いてみました」というのが好例になると思います。あとはSF小説を読みましょう、ということですね。
安野 ぜひ、読んでください！
牛久 理由は岡田斗司夫さんが言っているのとあまり変わらないのですがビジョナリーとしての視点を養成してほしいというのが僕からのお願いです。若いうちから長期的な視点で「こういうことが起きるかもしれない」「じゃあどうすればいいのだろう」という、柔軟な思考を養うための思考訓練が大事だと思います。みなさんにもどんどん安野さんのマネをしてほしい。興味に任せてテクノロジーに触れよう、SFを読もう、といいたいですね。
安野 素晴らしいですね。
佐久間 お二人とも、この度は長時間にわたり、大変興味深いお話をありがとうございました！