ポッドキャスト|AIラヂオ009後編|ノーベル物理学賞受賞のAIのゴッドファーザーは、なぜAIの脅威に警鐘を鳴らすのか？【文字起こしつき】
みなさま、こんにちは！テック系フリーランスライターの五条むいです。
テクノロジーとの共生でハッピーになりたいHarmonic Society株式会社の師田賢人とテック系フリーランスライターの五条むいがゆるく愉しくお届けする、〈AIラヂオ〉をお届けします！
今回は、Webメディア・雑誌の『Wired』の記事、『ノーベル物理学賞受賞のAIのゴッドファーザーは、なぜAIの脅威に警鐘を鳴らすのか(2024.10.9)』を読んでのトーク・後編です。ジェフリー・ヒントンさんが問題提起したAI脅威論についてトークを交わします。
ポッドキャストは、〈AIラヂオ〉のWebサイトから配信しています。
文字起こしもついてます。それではよろしければ、しばしお立ち寄りください。
AIラヂオ009後編の文字起こし
（前編からの続き）
師田：ただ今回の場合は、AIの知性といったものが一度発達してしまうと、もう歯止めが解かない制御不能な状態に社会が陥ってしまう危険性っていうのが十分にあるからこそ、ヒントンさんも警鐘を鳴らしてるっていうことなんでしょうね。
五条：そうなんですよね。
だからヒントンさんとしては、制御技術の開発に人類は全力を上げなきゃいけないっていう主張してるんですけど、ところがその一方で、ある矛盾にも陥ってると思うのは、ヒントンさん自身が、AIがどのような形で脅威になるのか、全く予想がつかないって言ってるわけです。
予想がつかないんだったら、制御技術をどうやって開発するんだろうというのがボクの疑問だったりします。
師田：ヒントンさんがわかんなかったら、他に誰がわかるのかと思うんですけど、ヒントンさんの提案としては、世界中のAI技術者を集めてタスクフォースとして、一緒にAIに対する防御線を張っていくっていうことで、手を組まないといけないみたいなこともおっしゃっていて、中国のAI研究の第一人者とかと、一緒に研究をしたり話をしたりするべきなのかもしれないみたいなお話も、インタビューの中にありますよね。
五条：そうですね。ヒントン自身はAIのゴッドファーザーと言われてるんですけど、AIのゴッドマザーと言われてるような人たちもいて。
そういう人たちが協力する必要があるんじゃないかという気はしますよね。
師田：そうですね。第二次世界大戦が起きたときに、世界がある意味一つになって、これからはこういうような悲劇が2度と起こらないようにしなきゃいけないみたいな形で、国際平和のレジームっていうのが少しずつ出来上がってきていれたとは思うんですけど。
それと同じで、AIも何かそのくらいの危機感を持って世界中の国々とか世界中の優れた頭脳が集結して、人類の危機として挑む必要があるんじゃないかっていうようなことだと思うんですけど。
なんかそれにしては、ボクたちの危機意識が薄すぎるというか、ChatGPTとか使えて便利な面がすごく嬉しい反面、それに関するリスクっていうのを軽視しがちになっちゃいますよね。
五条：そうなったときに、世界的な協調をするということが果たしてできるのかどうかっていうのは、かなり疑問なところはありますよね。
やらなくてはいけないことだと思うんですけど、見識ある方はみんな多分同じことを考えていて、『AI vs.. 教科書が読めない子供たち』が馬鹿売れした新井紀子さんも、東洋経済かなんかでおっしゃってたんですけど。やっぱり皆さん、脳天気すぎると。
やっぱり備えが必要だし、それに対する倫理感とか危機感というものが非常に欠けてるっていう話をされてますよね。
師田：なんかそうなったときに、ボクたちのポジションとしては、科学者でもなければ政治学者でもない、ある意味、自由に討論を話してる人たちの立場として、これからどういうことができるかっていうと、そういった問題を一般の人が具体的にイメージできるように、わかりやすく例え話などを用いて、繰り返し伝えていくっていうことが、ボクたちにできることなんじゃないかと思いますよね。
五条：そうなんですよね。だからそんなコミュニティがどうやったら構築でできるのかみたいな議論に持っていきたいんですけど。
最終的にはやっぱAI倫理の話に陥っていくと思うんですけど、AI倫理の問題とはなんぞやみたいなところを、多分、技術哲学的な議論になっていくとは思うんですけど、掘り下げていくっていうのは、ボクたちの使命としてあるかなっていう気はしますね。
師田：そうですね。なのでAIラジオでも、そういった技術哲学とかAIと政治哲学っていうテーマを、これからも扱っていきたいんですけど、やっぱりボクたちがいろいろ話していても、世の中の人に伝えるとなったときに、そんな拡散力とか声を広げていくパワーが、なかなかないということなので。
これ、五条さんにも打ち合わせとかでも言ってなかったんですけど、ゲストの方、例えばAIの第一人者だったりとかAIを題材にしてるアーティストの方とか、AIのビジネス面で優れた人だとか、そういった方をゲストにお招きお招きして、そういったオープンなディスカッションの場っていうのを社会に作ってくみたいな、オープンな言論の場を作っていくっていうことが、役割として大きいのかなっていうことも思うんですよね。
五条：やっぱり方法論としてはそれしかないような気がしていて、ローカルニッチなコミュニティから始めて、それが拡散していくようになっていくといいなっていうのがボクの希望だったりはしますね。
師田：そうですねなんか。日本って結構、政治とか経済とかに関してオープンに言論できる場っていうのがなかなかないですよね。
海外とかだと、若者が積極的に政治の話をするというような話も聞くんですけど、なんか日本の人って、そういう政治的な話とか経済的な話とか、今回の哲学的な話っていう議論を重い話題と受け止めて、無視する傾向があるなっていうふうに思うので、そういった日本の国民性みたいなのとも今後、向き合っていかなきゃいけないとは思いますね。
五条：日本人って、公と私の区別がついてないっていうか、プライベートとパブリックの概念が成立してない気がするんですよね。
師田：そうですよね。日本だと村社会っていうのもありますし、自分の知ってる身の回りのことに関してはすごく良くなるように気を遣うんだけど、他人に関しては、結構、冷たいみたいな指摘もされていたりとかして。
意外と公共に対して、個人が貢献するみたいな意識っていうのは、やはりアメリカとか米国とかと比べて、NPO法人など第3セクターとかが発展してないことからも見て取れるのかなっていうふうにも思います。
五条：たとえば日本人には寄付の概念が根付いてないとか、いろいろそういう問題もあるんですけど。
ともあれやるべきことっていうか、できることっていうのは、若い知性の方々が活躍できるようにすることだと思う。
師田：積極的に参加していただいて、いろいろお話を伺いしたいなとか、そういうところですね。
はい、なのでAIラジオもまず、どのくらいのペースとか、どのぐらいの時期になるかわかんないんですけど。ゲストをお呼びして、ディスカッションの場を広げていきたいなっていうふうに思ってるという感じですね。
今回はAIラジオの第8回目として、ヒントンさんの、AIの知性が人間を超えるんじゃないかっていうことと、人間の知性を超えて制御不能になるんじゃないかってことでした。
五条：AIラヂオは文字起こしして、noteで公開してるんですけど、フォロアーの方に面白い方がいらっしゃるんですよ。だからnoteで対談相手を募集してみたりとか、いろいろやってみたいですね。
師田：そうですね。いろいろできることが増えますね。
最後に告知で、AIラジオのウェブサイトがオープンしました。拍手！
（パチパチパチパチ）
AIのいわばポータルサイトの立ち位置になればいいのかなっていうことで、ポッドキャストだとか、五条さんが配信してくれてるnoteの記事だとか、あとはこういったAIに関する読み物的な記事っていうのを、AIラジオのホームページに一挙に集めて、このホームページを見ればAIの最新事情がわかったりとか、AIに関しての議論っていうのを知ることができるみたいな場所を作る。その箱ができたっていうことです。
それができましたので、ai-radio.jpというURLでやっているので、ぜひ皆さん、興味がある方訪れてみてください。
はい、今回ここまでとします。ご清聴いただきありがとうございました。
五条：ありがとうございました。