ノーム・チョムスキーが明かすAIの真の限界: なぜ機械は人間のように言語を理解できないのか

2,412 文字

機械は潜水艦が泳ぐかどうか尋ねるようなことはせえへんのや。物理学でさえ、まだ答えの出てへん疑問がたくさんあるんやで。知らんことについては勝手に答えを出すこともできるけど、言語や意識に関してはそうはいかへんのや。
わいの目の前にあるコンピューターができるんは、プログラムを実行することだけや。大量のデータをスキャンして、統計的な規則性を見つけ出すんや。それで次にくる単語をまあまあ予測できるようになるんやけど、これは関係ないってことを示してるだけなんや。
2、3歳の子どもは、基本的に言語の本質をマスターしてしもてるんや。チャットGPTみたいなんが大量のデータを使うって言うてたけど、これは「刺激の貧困」としても知られとるんやな。AIモデルが少量のデータで動作できるのに、なんで人間の言語習得における「刺激の貧困」の考え方と、AIモデルが大量のデータを必要とすることを調和させられるんやろか？
これは関係ないってことを示してるだけなんや。2、3歳の子どもは、ほんまに少ないデータで基本的に言語の本質をマスターしてしもてるんや。言語学習や認知を理解しようと思うたら、そのプロセスを見る必要があるんや。膨大なデータをスキャンして、表面的に2歳児と似たようなことができるプログラムがあるからって、それは何も教えてくれへんのや。
アラン・チューリングの有名な1950年の論文で書かれてることに、おそらくあんたも同意すると思うんやけど、彼はこう書いてるんや。「これは議論に値せんほど意味のないことかもしれへん。それでも、世紀末には一般的な教育を受けた人々の言葉の使い方が大きく変わって、矛盾を指摘されることなく機械が考えるって言えるようになると信じとるんや」って。
チューリングの見方と、チャットGPTの能力を思考の一形態と見なすことについて、あんたはどう思う？これは単に定義の問題やと思う？
それは潜水艦が泳ぐかどうか聞くようなもんや。それを泳ぐって呼びたいんやったら、ええよ、潜水艦は泳ぐんや。プログラムがやってるんは、もう一度言うけど、大量のデータをスキャンして統計的な規則性を見つけ出すことや。それで、ある文章の次にくる単語をまあまあ予測できるようになるんや。これを思考って呼ぶんか？潜水艦が泳ぐかどうかと同じ質問やな。
あんたの言うとる理由の一つは、もちろんこれらのシステムには意識がないってことやな。サールの議論や弱いAIの考え方について、あんたはどう思う？機械が本当に言語を理解したり、本物の意識を持ったりすることはできると思う？それとも、人間の認知には機械では絶対に再現できへん根本的に違うものがあるんやろか？
まず、用語を整理せなあかんな。機械は何もせえへんのや。わいの目の前にあるコンピューターは、基本的に文鎮みたいなもんや。何もせえへん。わいの目の前のコンピューターができるんは、プログラムを実行することだけや。
プログラムって何やねんって？プログラムは、機械が実行できる表記法で書かれた理論やねん。科学では見られへん変な種類の理論なんや。プログラムが機能するには、全ての質問に答えがなきゃあかん。答えのない質問があったらあかんのや。科学とは違うんや。物理学でさえ、まだ答えの出てへん疑問がたくさんあるんやで。
知らんことについては勝手に答えを出すこともできる。それがプログラムみたいなもんやな。だから、この変な種類の理論が、知性や意識の理論になり得るかどうかって問題なんや。なんでなれへんのか？意識の理論を持つことはできるやろ。これらのアプローチは全然近づけてへんけど、人間の知性についての科学的な理論ができる可能性はあるんや。
実際、わいらはすでにかなりのことを知っとるんや。まだ答えの出てへん質問はたくさんあるけど、進歩はしとるんや。意識についても何か言えるかもしれへん。科学的な理論ができたら、プログラムにすることもできるやろな。答えの出てへん質問に答えられたら、コンピューターで実行することもできる。これには何も魔法みたいなもんはないんや。
ほんまに意識の原因が分かってんのか？脳のニューロンが発火することが原因なんか？意識を引き起こすのは正確に何なんやろか？
意識の原因について話すことはできるんや。意識的な経験にどんな神経構造が関わってるか見つけることもできる。これは科学的な問題や。簡単やないけどな。
難しい問題の一つの理由は、まず脳がめちゃくちゃ複雑な物体やってことや。ほとんど分かってへんのや。使われとる基本的なモデル、ニューラルネットのモデルは、おそらく間違ってるんや。そう考える原則的な理由があるんやけどな。
もう一つの問題は、倫理的な理由で人間に実験ができへんってことや。人間の子どもを人工的な環境で育てることはできへんし、何が起こってるか調べるために大脳皮質の単一細胞に電極を刺すこともできへんのや。
人間の視覚についてはかなり分かってるけど、それは他の動物に侵襲的な実験をしたからや。他の動物は人間とほぼ同じような視覚システムを持っとるからな。言語や意識については、他に同じような生物がおらへんから、そういうことができへんのや。
だから、これはめちゃくちゃ難しい問題なんや。複雑なシミュレーションをしても、何も進歩せえへん。何も教えてくれへんのや。
ジョン・サールの議論については、あんまり感心せえへんかったな。わいらが「考える」って言葉を使う方法では、部屋は考えへんのや。また潜水艦が泳ぐかどうかって話に戻ってきたな。
これはヴィトゲンシュタインが指摘したことや。人々は人形や精霊が考えると思うかもしれへん。これは彼の警句的な言い方で、「考える」は人がすることを表す言葉やって言うとるんや。ちょっとあいまいなところもあって、人に似たようなものにも適用するかもしれへんけど、それは基本的に用語の問題やな。何も関係ないんや。