Geoffrey Hintonが人工知能を恐れる
「AI のゴッドファーザー」と呼ばれるGeoffrey Hintonが Google を去りました。しかも、その理由が「人工知能の危険性を警告するため」とのこと。
しかし、なぜ彼はそんなにAIを恐れるのか。
5月1日のニューヨークタイムズの記事によると、Googleを去ることで会社に気を使わずに発言できるようになるためと伝えられていますが、彼は何を語ったのか。Googleに対する不満でもあるのか。
それとも、教え子であるIlya SutskeverがOpenAIのチーフサイエンティストであることと何か関係があるのでしょうか。
AlexNetの成功
Geoffrey Hintonは、2012年のImageNetの画像分類のコンペで優勝したモデルを開発したチームを率いていました。コンペの正式名はILSVRC 2012（ImageNet Large Scale Visual Recognition Challenge）です。
画像分類は、今でこそ基本的な機能に思えますが、当時はAIの進歩が研究者やホビイストを驚かせました。この時からコンピュータビジョンはディープラーニングを使うのが一般的になりました。
彼らのモデルはAlexNet。Alex KrizhevskyとIlya SutskeverとGeoffrey Hintonが共同で設計しました。畳み込み層を組み込んだディープラーニングのモデルをGPU上で走らせ、他のコンピュータビジョンのソリューションを大きく引き離した性能を発揮しました。
とはいうものの、歴史を辿ると、畳み込み層は福島邦彦のネオコグニトロンが最初だと言われています。また、ニューラルネットワークの訓練を効率よく行う手法である誤差逆伝播法（Back-Propagation）はYann LeCunが実用的にしました。
なのでGeoffrey Hintonがすべてを編み出したわけではないのですが、彼が長いことAIの冬の時代を乗り越えて研究に従事し貢献したこととが理由となって「AI のゴッドファーザー」と呼ばれるようになったようです。また、ILSVRC2012での優勝が人々に大きな印象を残したこともあるでしょう。
AlexNet後の経歴
2013年には、Geoffrey Hintonが創設した会社DNNResearchがGoogleの買収されました。同時に、彼と一緒にAlexNetを開発したAlex KrizhevskyとIlya SutskeverもGoogleに入社しました。
そのため、Geoffrey Hintonは2013年から、カナダのトロント大学で研究とGoogle Brainでの仕事を同時にこなしてきました。
また、興味深いのは、Ilya Sutskeverは2015年にGoogleを去って、OpenAIに参画します。そして、現在もチーフサイエンティストとして活躍しています。その後のOpenAIの活躍は目を見張るものがあります。
もともとはAIの研究をオープンに行う目的だった、OpenAIは商業的な成功へと舵を切っていきます。一方で、Geoffrey Hintonはあくまでも研究に身を捧げる態度を貫きました。
そして、2018年には、Yann LeCunとYoshua Bengioとともにディープニューラルネットワーク関連の研究における貢献を認められてチューリング賞（Turing Award）を受賞しています。
やがて、75歳になるGeoffrey Hintonは2023年にGoogleを去りました。
AIの危険性とは
Geoffrey Hintonが恐れているのはAIそのものよりも、それが人間の生活に及ぼす影響と、AIを悪用する人間そのもののようです。
彼は、多くの仕事が奪われAIに取って代わられることを心配しています。翻訳や秘書などは自動化が可能であり、スピードの遅い人間を使う理由はほとんどなくなるでしょう。
彼はインターネットが嘘の情報で溢れかえることを心配しています。偽の画像、ビデオ、文章など、普通の人間には本物かどうかの見分けがつかなくなって来ています。それを悪用する人間が増えることで世の中が混乱します。
以前の彼はAIが人間よりも賢くなるまでにはまだ30年から50年はかかるだろうと考えていました。しかし、今ではそうは思わないと言っています。
また彼は、GoogleとMicrosoftとの間の競争などを皮切りに世界中でAIの進歩が加速されると考えています。それがAIの技術をうまくコントロールする術を持たないままにスケールアップしていくことを恐れているそうです。
それを制御できるかどうかを理解するまで、さらに拡大すべきではないと思います。
（原文）
I don’t think they should scale this up more until they have understood whether they can control it.
こう言ったことを公に述べるにはGoogleに位止まるのは都合が悪いと考えたようです。
教え子の成功
かつての教え子であるIlya SutskeverがOpenAIで活躍しChatGPTなどの推進力になっていることに対して後悔の念のようなものがあるようです。
教え子のことに関しては、直接に言及していないのですが、後悔の念についてこう述べています。
「私の一部は」と彼は言った「生涯を捧げた仕事を今は後悔している」
（原文）
A part of him, he said, now regrets his life’s work.
もし、本人がそう思うのであれば、同じような気持ちを教え子にも求めるのではないでしょうか。
AIに関して彼はまだ人間の頭脳レベルではないとしつつも、ある領域においては凌駕しつつあると考えています。特に、2022年にGoogleとOpenAIが膨大なデータを利用して言語モデルを訓練したことから、彼はAIは実際には生物の脳よりもずっと良いものになるかもしれないと言っています。
「もしかすると、これらのシステムで起こっていることは、実際には脳で起こっていることよりもはるかに優れているかもしれません。」
（原文）
“Maybe what is going on in these systems,” he said, “is actually a lot better than what is going on in the brain.”
5年前と今を比べて、同様の進歩がこの先続くとしたらと考えると恐ろしい、と彼は述べています。去年まではGoogleは冷静だったが、MicrosoftがBing検索にチャットボットを導入したことで事態は急変したそうです。競争しなくてはならなくなり、もはや立ち止まることは不可能です。同じようなテクノロジーを世に出すほかありません。
自分の教え子も含めて、競争に巻き込まれて止まることができない。そうこうしているうちにコントロールできない脅威がどんどん強力になっていく。
AIが発見する脅威
AIはよく人間が気づきもしないようなことを莫大なデータから学びます。人間がAIにコードを生成させたり、やがてはコードのデプロイや実行まで任せるようになるとしたら、誰もが予測しなかったことが起こるかもしれない。
AIを利用した兵器や殺人ロボットで問題が起きたらどうなるのか。その可能性がないことを誰が保証できるのか。
こう言ったAIの脅威に対して、なぜGoogleに止まってAIをコントロールする研究をしないのでしょうか。
MIT Technology Reviewによると、彼は75歳なので技術的な仕事をするには歳を取りすぎていると自らのことを考えているそうです。なので今後は、より哲学的な問題に取り組む意向とのこと。
だとしても、Googleを去る必要はあったのでしょうか。それともGoogleに対して批判を述べたいのでしょうか？
実際には、Googleに対して批判的でもないようです。最近のツイートでは、Googleを去ったのはGoogleに与える影響を気にせずにAIについて語れるようになりたいからと言ってます。また、Googleは責任ある行動をとって来たとも言っています。
In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.
— Geoffrey Hinton (@geoffreyhinton) May 1, 2023
まとめ
AIの仕組みは思っていたよりも複雑ではなかった、というのがGeoffrey Hintonの正直な気持ちではないでしょうか。彼はカプセルネットなどより複雑な仕組みを提案していましたが、それほどの成功には至っておりません。
むしろ、もっと莫大なデータで巨大なモデルを訓練すれば、人工知能はさらに進化し続ける。仕組みが単純であるがゆえに、人間の脳よりも効率が良い。大企業は豊富な資金を使って電気代も気にせずに訓練を行える。人間の脳のように省電力で小さいものである必要もない。
さらに、企業間の競争が圧力となることでAIを理解しコントロールすることを蔑ろにするのが憚るようになる。リスクを顧みずに利益を追求し続ければある日予想にもしない事態が起こる可能性は常にある。
そうでなくとも、人間の能力を超えたAIが人々の生活に大きな影を落とすようになる。そんな状況を放っておいても良いのか。ある意味、AIの研究をこれ以上進めてもあまり意味がないと感じたのかもしれません。必要なのは技術革新ではなく、もっと多くのデータだけ。
75歳という高齢なのもあるでしょう。普通ならリタイアしている歳です。人生を顧みて、自分が生涯をかけて研究をしてきた成果が人類に及ぼす影響について後悔の念を持っていることもあるでしょう。
また、大学の方での研究をフルタイムで専念したいのかもしれません。彼がGoogleを去ったというニュースからはまだ多くのことが疑問として残ります。
これからも彼の行動に注目していきたいと思います。
（以上）
この記事が気に入ったらサポートをしてみませんか？