ポッドキャスト|AIラヂオ009前編|ノーベル物理学賞受賞のAIのゴッドファーザーは、なぜAIの脅威に警鐘を鳴らすのか？【文字起こしつき】
みなさま、こんにちは！テック系フリーランスライターの五条むいです。
テクノロジーとの共生でハッピーになりたいHarmonic Society株式会社の師田賢人とテック系フリーランスライターの五条むいがゆるく愉しくお届けする、〈AIラヂオ〉をお届けします！
今回は、Webメディア・雑誌の『Wired』の記事、『ノーベル物理学賞受賞のAIのゴッドファーザーは、なぜAIの脅威に警鐘を鳴らすのか(2024.10.9)』を読んでのトークです。ジェフリー・ヒントンさんが問題提起したAI脅威論についてトークを交わします。
ポッドキャストは、〈AIラヂオ〉のWebサイトから配信しています。
文字起こしもついてます。それではよろしければ、しばしお立ち寄りください。
AIラヂオ009前編の文字起こし
師田：皆さん、こんにちは。AIラジオというポッドキャストです。
この番組では、やさしいDXの推進をテーマに関する情報発信をしています。
今回は著名なAI科学者が、AIの発展に警鐘を鳴らすといった議論について紹介します。
お届けするHarmonic Society株式会社代表の師田と、五条むいです。よろしくお願いします。
五条：よろしくお願いします。
師田：はい、五条さん。著名なAI科学者さんのとある記事で、AIに警鐘を鳴らしているということを聞いたんですけど、具体的にどういうことなんでしょう。
五条：そうですね。実はWIREDというWebメディアで、10月9日に公開されてた記事なんですが、AIのゴッドファーザーと呼ばれているジェフリー・ヒントンさんという方がいらっしゃるんですね。
この方はディープラーニングの基礎を築いたっていうことでノーベル物理学賞を受賞されてるすごい方なんですけど、この方が二つの大きなことを言ってるなと思ったんです。
一つ目がですね、AIが人類の知能を超えるという話で、二つ目に人類の知能を超えるAIは脅威になりうると。
ボクとしてはこの二つの話を、今日はしたいと思ってます。
師田：なるほど。
一つ目のAIは人間の知能を超えるといったところなんですけど、結構、このAIラジオでもそういった議論っていうのはしてきました。
ただヒントさんっていう、AIの基礎的な理論を作った人が言うのは、やっぱ説得力が違いますよね。
五条：やっぱり、ボクたちみたいな人が言うよりかは遥かに説得力ありますよね。(笑)
ただこのラジオで話してきたことと、実は共通すること言ってるんじゃないかなっていう気がしてます。それというのは、ヒントさんとしては、おそらく今後5年から20年以内にAIが人類の知能を超えるんだと言ってるんですけど。
その根拠なんですが、実は根拠そのものをというよりかは何となく傍証的なことをおっしゃっていて、まず一つ目に、これってボクたちとが言ってきたことと、全く同じじゃんっていうのが、長年、ヒントさんは今よりも高度な知性を得るには、ソフトウェアが人間の脳のように複雑なものへと発達しなければならないと信じてたんだけど。
でもこの考えは間違いなっていたんだっていうことに気づいたっていうんですね。
これってボクたちが、AIって人間の脳をシミュレーションするように発展するというよりはむしろ「エリアインテリジェンス」、つまり異星人の知能っていうか、機械異星人的な知能に発展するという話をボクたちはしてきたと思うんですけど、これとまったく同じ考え方だと思うんです。
師田：たしかに、五条さんが度々、エイリアンインテリジェンスっていう、人間ではない知性を身に着けるんじゃないかってお話をしてきましたよね。
五条：そういった意味では、ちょっと鼻高々なんですけど(笑)。
師田：そうですね、それでヒントンさんが、それに気づいた理由っていうのが何かジョークにあったっていうようなお話なんですけども。
何か人間のジョークの、いわゆる感情の機微みたいなところをAIが理解するのは、ヒントンさんは、結構、先の話だっていうふうに思ってたみたいなんです。
けど、ただ実際に説明させてみると、ジョークのどこが面白いのかっていうのを、非常に何ていうか、正確に説明するということに気づいて、AIの知能は、自分が想像してたよりも早いペースで発展してるんじゃないかっていうふうに気づいたみたいですね。
五条：そうなんですよね。ボクの個人的な発想だと、その人間の状況を理解するなんて、人間にしかできないじゃんって思うんですけど。
実はエリアインテリジェンスは、理解できるってことですよね。
これはボクみたいな非専門家には、なかなか想像しがたいメカニズムなんですけど。
ただ生成AIのLarge Language Modelが、ChatGPT3が出た後に、3.5、それから4になって、飛躍的に性能が発展したじゃないですか。
あれって、実はシンプルなことしかおこなってなくて、LLMですよね、生成AIのモデルのパラメータ数がある閾値を超えたら、急激に性能が発展したということなんですね。
なので、「量が質に転化する」って話あるじゃないですか。
だからよくわかんないんですけど、ディープラーニングはパラメータ数という意味で、ある閾値量を超えると、人間の知能を超えるシンギュラリティが、やっぱり来るんじゃないかとということなんですね。
師田：そうですね。それがヒントンさんは、最初は、30年から50年後みたいな話だと思ってた実みたいなんですけど、それが5年から10年20年くらいの間に訪れるんじゃないかっていうふうに、あの記事の中でおっしゃってるじゃないですか。
5年後ってなると、もう結構すぐそこじゃないですか。
五条：そういったときに、やっぱりまだまだ、ボクたちのAIに対する理解っていうのも追いついていないし、AI以外の知性が生まれたときに、どういうふうに付き合っていくというか、コミュニケートしていけばいいかっていうことに関しては、私は全く術を持っていない状態だと思うんですね。
師田：だから2023年の3月に、これ以上、AIのカスタマイズというか新アップデートを、ちょっと一旦止めないかみたいな書簡をイーロン・マスクさんとかと出したっていう話があったと思うんですけど。
AIの進歩っていうのがちょっと早すぎて、やばいっていうような状況になってるっていうふうに記事ではおっしゃってましたね。
五条：それがヒントさんが言ってる二つ目の話ですよね。AIが人から制御権を奪うことがありうると。だからわたしたちは今から懸命に取り組むべきなんだというようなことをおっしゃっていて。
エイリアインテリジェンスという異星人知能が発展すると、何かユートピア的な世界が来るんだろうと、ボクなんかはずっと思ってたんでですけど、確かに脅威論についても思いをはせる必要があるんだなと思ったわけです。
師田：やっぱり人間は、ポジティブな面っていうのを何て言うか重要視しがちっていうことがあると思うので、生成AIで行う攻めの部分ということに対してヒントンさんが警鐘鳴らしてるのは、それと同じくらい、またはそれ以上に、守りの部分をどうしていくかとか、法整備の話とか倫理の話だとか、政治哲学の形態の話だとか、そういった議論っていうのを深めていかなきゃいけないっていうことをおっしゃってますよね。
五条：その点について、ちょっと昔話を思い出したんですけど、実は自動車がはじめてできたときに、時速20キロぐらいしかスピード出せなかったんですが、その理由はですね、エンジン性能とかは20キロ以上のスピードを出せたんですよ。車の性能としては。
ところがブレーキ性能が追いついていかなかったので20キロしか出せなかったと。
これって歴史上、何度も繰り返してる話で、たとえばサイバーセキュリティってあるじゃないですか。車でいうとブレーキですよね。ところがサイバーセキュリティの技術って、実はすごく遅れてるっていう話があって。だから今社会問題になってるじゃないですか。
原子力発電にしろ何にしろ、そういうことの繰り返しなんですよね。
（後編に続く）
この記事が気に入ったらサポートをしてみませんか？