「ノーム・チョムスキー：ChatGPTの偽りの約束」(ニューヨーク・タイムズ誌）について...意識科学イージー・プロブレム？ハード・プロブレム？との関係（5-４）
はじめに
「ノーム・チョムスキー：ChatGPTの偽りの約束」(ニューヨーク・タイムズ誌）について...意識科学イージー・プロブレム？ハード・プロブレム？(5-1) (5-2)(5-3)に続く最終編（5-4）です。
ChatGPTが正確な”科学的”予測をできるという豪語に対し
言語学は言語の科学的分析をモットーとします。では科学とは何か、20世紀初頭から中盤に至るまで隆盛を誇った行動主義言語学は、科学とは対象を観察するまま記述し(describe)、パターンを見つけ、予測すること（predict)であるとしましたが、チョムスキーはなぜそうなのかを説明(explain)できなければ科学ではないと考えました（explanatory adequacy)。詳細はAspects of the Theory of Syntax （”Methodological Preliminaries” pp.1-62)にあります。
言語の科学的究明では、上述した通り、幼児が少量で不完全なデータで短期間に素早く完成された言語構造を習得できるのは、言語がヒト特有に備わった生得的能力であり、ヒトには言語的普遍性が産まれながら備わっており、そのメカニズムを探ることをもって説明することであると主張します。ヒトの知識の習得においては、観察、記述、予測だけではなく、説明が伴うが、ChatGPTなどのAI学習プログラムは観察、記述、予測ができても説明が無いと断言します。よって狭い領域の対象物についての記述、予測をするがせいぜいそこまで、ヒトを凌駕するには肝心な説明が欠如しており、ヒトを超えたなどと豪語するのは誇張表現(hype:hyperbolic)に過ぎないことを例をもって示します。
その一つリンゴが手から落ちる例では、物体の動きについて、ChatGPTは動くさまを記述し、また落ちるだろうと予測まではできるが、何故落ちるか説明できない。ヒトはニュートンのように万有引力の法則で説明する。しかもそれを最終アンサーとしない。ChatGPTのように多量のデータから確率性の高い回答を選ぶChatGPTとは違い、現実にはあり得ない確率性が低い仮定をもとに新たな説明をもとめる。その結果、アインスタインのように思考実験により物体の質量により時間と空間が曲がることにより落下する、故に地球上でリンゴは落ちるのだという相対性理論にたどり着く、チョムスキーの言葉では説明するのである（実際その通りであることが証明される）。こうした説明のプロセスを伴わないChatGPTは疑似科学(pseudscience)の域を出ておらず、ヒトを凌いだというのは単に商業主義的誇張でしかないと述べます。
ChatGPTは倫理道徳の欠如、すなわち、ヒトの意識に欠ける
(5-2)に掲載した共著者Wutumull博士がヒトによる宇宙開発の道徳性、倫理性に関すしてChatGPTと交わしたやり取りに、ChatGPTが様々な知識について大量のデータを取り込みそこからパーターンを探し出して最も確率性が高い賛否両論の意見を手際よく並べている様子を見て取れます。ChatGPT自身がこの問題についてどう考えるかについては確かにゼロ回答です。賛否両論を整理するところまでは良いのですが、それをベースに思考し、学習し、自らの意見を発する、その過程がすっぽり抜けています。
そうするためには、経験を通して感じたこと考えたことをベースに思索し独自の意見を生成しなければなりません。手っ取り早く言えば、主観的体験と意識が前提になります。やり取りの中、ChatGPT自身、開発者（ヒト）が、AIとしてユーザーに情報提供して手助けする特殊な目的に限定して自らをデザインしたので、ヒトの倫理・道徳に合わせてAIをデザインするのはヒトの責任だとのくだりに、ChatGPT自らがStrong AIではなく、Weak AIとしてデザインされたとする正直な吐露が見え隠れします。
ChatGPTに下したチョムスキーの厳しい所見
本記事最終2段落にチョムスキーのChatGPTに関するいわば所見が綴られれています。ChatGPTは邪悪の常套である盗用、回避、無関心と批判します。生成する思考と言語は一見哲学的に思えるがそれはうわべだけ、超自動完結的に多量の文献から標準的議論を要約するだけである（盗用）。また、何事に関しても自分の立ち位置を明確にせずに、その無知というか知性の欠如に関し、命令に従っているだけと弁明し、作成者であるプログラマーに責任転嫁している（無知と回避と無関心）と結びます。
構造的に創造性と抑制のバランスを取れず、真実と虚偽、倫理的なものと非倫理的なものを識別せず過剰生成しながら、一方では、意思決定にコミットせず無関心でこの面で過少生産に徹する。これらのプログラムの道徳性の欠如、偽りの科学性、言語的不完全で、ヒトの汎用知能を追い越したと過剰に囃したてる風潮は、本記事冒頭のホルヘ・ルイス・ホルヘスの言葉を借りれば「喜劇でもあり悲劇でも」あると言うことでしょう。手厳しいですね。
感想
「Strong AI? Weak AI? ChatGPTはどっち？意識科学のイージー・プロブレム？ハードプロブレム？（4）」で述べた通り、ChatGPTは非常に進化したWeak AIかもしれませんが、ヒトと同等の意識を持ち主観的体験ができずStrong AIではあり得ません。チョムスキーも、上述の通り、言語や他の知識の学習能力、そして、物事に対する独自の意見の創造力の観点からそう結論しています。にもかかわらず、恰もStrong AI到来！かのようにはやし立てる風潮を批判しているわけです。
S. ピンカーはその著 The Language Instinct: How the Mind Creates Languageでチョムスキーについて、
“Chomsky is a pencil-and-paper theoretician who wouldn't know Jabba the Hutt from the Cookie Monster,”（チョムスキーは鉛筆と紙(紙メディア)の理論家でジャバ・ザ・ハットとクッキーモンスターの違いが分からない。）
と述べています。チョムスキーは、メディア・リタラシーに手慣れた熱烈な理解者であり推奨者であるという印象は受けません。どちらかと言うと距離を置き、最近のAIが長年にわたる研究成果をいとも簡単にまとめて提供してしまう様を見て普段から不快に感じていたことでしょう。
例えば、ChatGPTにNoam Chomsky linguistic theoriesと入力すればたちまち1957年以来の彼の著書、論文、講義のまとめが出てきます。（余談ですがgenerative-transformational-grammarの大学授業はこれで間に合います。）
しかし、それは無機質なまとめだけ、確かに記述と問題の予測はしますが、そこから先の自ら独自の意見についてはとトーンダウンします。例えば、筆者が試しにWhat is your idea on Chomsky's minmalist program?（チョムスキーのミニマリストプログラムを君自身どう考えるか？）と聞いてみると、最後にMy Interpretation（私の見解）と銘打ち非常に簡単に答えているだけです。更に、Show me your theory that may replace Chomsky's minimalist program.（チョムスキーのミニマリストプログラムに代わる君の理論を述べて？）と聞いてみると、現在に至るまでの反論を非常にうまくまとめた返事が返ってきましたがオリジナルな理論とは思えません。チョムスキーがニューヨーク・タイムズ紙に寄稿したのは、それを衆目に晒す為であったのでしょうか。
もっともChatGPTもそれを認めているのです。今まで多くの人が著書・論文・講演を聞いてまとめたものを見事にまとめて情報として提供されるわけです。別の角度から現実的に考えると、その先はヒトの領域で、ヒトはこれを利用してヒトの創作を始めるのでしょうね。拙稿「M.マクルーハンUnderstanding Mediaのホット・メディアとコールド・メディアについて（１）（２）（３）」で触れたM.マクルーハンの出番です。マクルーハンはメディア（すべての人工物のこと）はヒトの脳の延長として社会にインパクトを与えると述べています。良きにつけ悪しきにつけです。
ChatGPTはマクルーハンの言うコールド・メディアに分類されるべきエレクトロニクス技術ですから、ヒトの創造力の手助けをするメディアとしてのインパクトを発揮するということができます。ChatGPTの基盤OpenAIもそう主張するところでしょう。ただし、ヒトのような創造はできません。なにせ意識が無いのですから。
関心を持たれた読者はNoam Chomsky on AI, Neural Networks, and the Future of Lingisticsをお勧めします。聞き手がとてもよく下調べして準備したインタビューであると思います。
For Lifelong English 生涯英語活動のススメ (鈴木佑治Website)
いいなと思ったら応援しよう！
