LLMは言語を理解していないとかのたまうやつら
茂木健一郎、新井紀子、今井むつみ。
主にこの辺の人たちがよく言うLLMの限界について、LLMにまとめてもらうと以下になります。
1. 茂木健一郎氏
概要：
脳科学者・認知科学者として知られる茂木健一郎氏は、人間の知能が身体性や環境との相互作用に大きく依存しているという立場から、純粋なテキストデータに基づくLLMには本質的な限界があると指摘することがあります。たとえば、「実際に体験し、環境の中で学ぶことが知能にとって不可欠である」という観点から、LLMのようなシステムだけでは人間のような意味理解や創発的な知識獲得は難しいと論じることがあるようです。
参考記事例：
茂木健一郎「人間は身体で知る」(東洋経済オンライン)
2. 新井紀子氏
概要：
認知科学者であり作家としても活躍する新井紀子氏は、人間の「生身の体験」や「情動」といった側面が言語理解や創造性に深く関わっていると主張しています。新井氏は、LLMが大量のテキストデータからパターンを学習する一方で、実際の身体的体験や感覚に裏打ちされた「意味」や「常識」を持たない点について、限界があると批判する意見を展開することがあります。
参考記事例：
新井紀子「AIに足りないもの」(J-CASTニュース)
今井むつみ氏
概要：
慶應義塾大学環境情報学部の教授である今井むつみ氏は、認知心理学・言語心理学・教育心理学の観点から「記号接地問題」など、AIが言葉を理解する過程で人間固有の身体的体験や実世界との結び付きが欠如している点に言及しています。氏は、生成AI（LLM）が人間のように実体験や身体性に基づいた知識獲得をしていないため、真の意味理解ができず、単なる「記号の操作」に留まると批判することがあります。
参考記事・リンク：
人間至上主義という思いあがった思想
とにかく、根拠はないけど機械は人間よりも劣っているということにしたい。
人間はすごくて、身体を持っているので感覚と言語を一致させていて、LLMよりも言語を理解している。
んなわけねーだろ。
機械が身体を手に入れたら終了
身体感覚がないから言語理解ができない、という謎の仮定を肯定した場合、近い将来に機械が身体を手に入れたら、記号設置の問題は解消し、この思想自体の根拠もなくなります。
身体感覚なんてものは、物理的にはセンサーと電気信号で代替できるので、Teslaのオプティマスがリンゴを齧って、成分を分析し、甘いとか美味しいとか感じることは原理的に可能であり、生物だけの特権では決してないです。
さらに、センサーは人間の身体限界を超えられるので、人間をはるかに超えた記号設置と言語理解が可能になります。
サーモグラフィーを付けてもいいし、人間の耳では聞き取れないほどの可聴域外の周波数を聞ける耳を付けてもいい、人間の目では見えない紫外線だって見れるし、放射線だって感じられる。超高温、超低温も体で感じて、言語と結び付けられる可能性を持っている。それがLLMです。
まぁ、未来にはそのオートマタの頭脳として搭載されるものがLLMとは呼ばれなくなっているかもしれないですが、その元となる技術が現在LLMと呼ばれているものです。
実体験していないことのほうが多い
人間誰しも、実体験しないで情報を食って理解しているだけなことのほうが多いです。
海外旅行に行ったことない人が、フランスパリのエッフェル塔についてテレビや書籍で知識を得ていたとして、それって記号設置してないですよね？とか言われても、ハァ？って感じですよね。
歴史の知識も、誰も身体的に経験してないし、できるわけないし。
歴史の勉強をしてもそれは意味理解できてないとか、単なる記号の操作でしかないとか、そうかもしれないですけど、はっきり言ってどうでもいいですよ。
それで世界は回っているので。
そもそも人間が言語理解しているという前提が間違っている
そもそもこの人たちも大して言語理解なんてできてないでしょ。
なんですか言語の真の意味理解って。
人間なんて言う動物は、そもそも言語を理解していないし、文法なんて知らない、雰囲気で会話している存在なんです。
哲学的ゾンビの寓話でも散々言われていますが、友達と会ったらウェイ、メロン食ったらうめぇ、サウナ入ったらアチぃ、セックスして気持ちイイ、みたいに、言語を理解していなくても相手の行動に対するリアクションができるし、相手の言葉をちゃんと聞いてなくても、雰囲気とバイブスで会話が成立してるんですよ。
ウェ～イとか言い合って。
大半の人間が、言語を操るスキルでは現代のLLM以下です。
人間というのは、言語理解などしなくても、他人（親）の猿真似と感情ドリブンな行動によって、なんとなく生きてるんです。
そんな人間とLLMを比較して、人間のほうが優れているって、何をどうしたらそんな結論にたどり着けるのか。
この思想の諸悪の根源
さらに、言語学者のノーム・チョムスキーっていう世界的に有名な老害がおりまして、この人が諸悪の根源みたいな感じですが。
ノーム・チョムスキー氏は、大規模言語モデル（LLM）に対して批判的な立場を取っています。彼は、LLMのアプローチが統計的手法に依存しており、人間の言語能力の本質的な理解には至っていないと指摘しています。また、LLMが生成する出力には一貫性や論理性の欠如、事実誤認（ハルシネーション）などの問題があると述べています。さらに、LLMは膨大なデータからパターンを学習するものの、言語の深層構造や普遍文法といった人間の生得的な言語能力を捉えることはできないと考えています。このように、チョムスキー氏はLLMの限界を指摘し、人間の言語理解にはより深い理論的探求が必要であると主張しています。
一貫性や論理性の欠如、事実誤認はお前もしてきたし、今後は痴呆とかも相まって大変になるんですけどね。
なんというか、人間というただの複雑なだけのたんぱく質の塊に対して、よくそんな独善的な妄想を捻り出せますね。
今まで言語というコミュニケーションツールを扱う能力を持つ存在がほぼ人間だけだったという過去に縋り、人間だけが特権的な能力を持つと錯覚し、優越に浸るのが気持ちよくて仕方ないんでしょうけど、それってもうただの既得権益者のポジショントークであり、その地位を新参に譲り渡して惨めな立場になりたくないってだけの滑稽な悪足掻きに見えます。