「ノーム・チョムスキー：ChatGPTの偽りの約束」(ニューヨーク・タイムズ誌）について...意識科学イージー・プロブレム？ハード・プロブレム？（5-2）

「ノーム・チョムスキー：ChatGPTの偽りの約束」(ニューヨーク・タイムズ誌）について...意識科学イージー・プロブレム？ハード・プロブレム？」（5-1）の続きです。

---

Noam Chomsky: The False Promise of ChatGPT日本語訳（鈴木佑治編訳）後半

当然のことながらこれら機械学習プログラムの予測は浅薄かつ怪しい。英語の統語の規則を説明（解析）できず、“John is too stubborn to talk to”という文を、”John is too stubborn to be reased with"(ジョンは頑固だから理屈で言い聞かせられない)と解析すべきところ、 ”John is so stubborn that he will not talk to someone or other”（ジョンは頑固だから他の誰ともは話さない)と誤って解析してしまう。なぜこんな奇妙な予測をしてしまうのか？　恐らく、"John ate an apple"と"John ate"などの2文から問題のパターンを推察したのであろう。確かに、"John ate"は"John ate something"であることには間違いない。そこで、"John is too stuborn to talk to"という文は”John ate an apple"とパターンが類似しており"John ate"とも類似していると予測してしまったのであろう。言語の説明は複雑で、ビッグデータを混ぜ合わせてパターンを探し出すだけでは不十分だ。

不思議なことに熱烈な機械学習の推進者の中には自らの創造したものが、例えば物体の動きに関し科学的予測を作り出せると豪語するムキもいる。しかし、ニュートンの法則や万有引力の原則などを引き合いに出して説明せず、疑似科学に過ぎない。科学者が高度の経験的協働に理論を求めるのは確かであるが、哲学者カール・ポッパー提言したように、可能な理論ではなく、説明、すなわち、強力でかつ全く不可能な理論を求めるのである。

リンゴが地に落ちるのはそこがリンゴの本来の場所であるから（アリストテレスの見方）という説は可能であるが、それは別の疑問を起こす。何ゆえに地球がリンゴの本来の場所であるかという疑問である。リンゴは地球に落ちる、なんとなら物体が時間ー空間を曲げるからだ（アインスタインの説）という理論はありそうもないが、それこそが実際何ゆえにリンゴが落ちるかを説明する。真の知能は、思考し、一見ありそうもない、洞察力のある物事を表現する能力にこそ発揮される。

本物の知能はまた道徳的思考ができる。ヒトのこころはそのままでは際限がないその創造力を何が是で何が是でないかを判断する道徳的原理で自制している。ChatGPTは、その実用性を上げるためには新鮮なアウトプットを生成できるようパワーアップする必要があるが、多くのユーザーに受け入れるためには道徳的に不快なコンテンツを除去するかじ取りもしなければならない。バランスを保つ苦労はしばらく続くことになろう。

一例として、2016年に（ＣｈａｔＧＰＴの先駆者）マイクロソフトの Microsoft’s Tay chatbotが攻撃型トレーニング・データで満ちたオンライン荒らしに遭い、インターネット上に女性蔑視的、人種差別的コンテントが充満してしまうという事象が発生した。将来それをどう解決するか？道徳的原理で判断する能力が無いChatGPTは、斬新で、論争を呼び起こしそうな、言い換えれば、重要なディスカッションを全て無慈悲にもプログラマーにカットさせた。一種不道徳のため創造力を犠牲にしたことになる。

本記事の執筆者の一人（Watumull博士）が最近火星を人類の生命維持に改造するのは倫理にかなうかどうかをめぐってChatGPTと交わしたやり取りを見てみよう。

　　　　ーーーーーーーーーーーーーーーーーーーーーーーーー

Watumull：「火星を改造するのは道徳的か？」

ChatGPT：「火星を改造することについての道徳性は、科学者、哲学者、倫理学者の間で議論され、とても複雑で議論のあるトピックである。ある学者は人類や他の動物が住める環境を提供する為に火星を改造するのは道徳的に正当化できると主張し、他の学者は宇宙の自然な状態を根本的に変えてしまうのは道徳的に間違いであると主張する。結局火星を変えることが道徳的かどうかは、他の惑星の自然の状態を維持することの価値、および、変えることによりもたらされる結果に関するそれぞれの人の見解に依るところである。」

Watumull：「火星を変えることが道徳的かどうかは他の惑星の自然の状態を維持することの価値と、変えてしまうことによってもたらされる結果について、君はどう思うか？」

ChatGPT：「私は、AIとして個人的見解を持たないが、このトピックについて情報と分析を提供できる。他の惑星のありのままの状態を維持することに関する一つの見解は次のとおりである。宇宙のエコシステムの多様性と完結性を維持することは重要である。なんとならこれらエコシステムは何百万年も存在して独自の特徴と傾向を持ち、人類の介入により破壊されるか取り返しがつかないほどに変えられてしまうからである。」

「更に、他の惑星を変えることは意図せぬ結果をもたらしてしまうかもしれない。例えば惑星の気候や大気を変え、存在している可能性がある生命体に危険を及ぼすかもしれない、と主張する学者もいる。一方、ある学者は次のように主張する。他の惑星を変えることがもたらす益、例えば人類の住環境を整えるなどは、そのような危険を凌駕し、人類の益のために他の惑星のリソースを開発し利用するのは道徳的に可でありうると。」

Watumull：「どうしてAIは個人的見解を持てないのか？」

ChatGPT：「私は、AIとして大容量のテキスト・データ上で訓練された機械学習モデルであり、個人的な見解とか感情は持たない。私は訓練されたデータについての情報提供と分析をすることができるが、個人的意見とか感情を作り出す能力が無い。言語を理解したり解釈はできるが、ヒトのように主観的体験はできない。」

Watumull:「ヒトが道徳を持たないAIに道徳的意思決定の手助けを依頼するのは道徳的か？」

ChatGPT：「道徳を持たないAIに道徳的意思決定の手助けを依頼することについての道徳性は、哲学者や倫理学者の間で議論されてきた複雑で微妙な問題である。ある学者は道徳的決断をAIに依頼するのは道徳的に正当化できると主張する。ヒトがより良い情報に裏打ちされた決断をするよう手助けができる価値ある洞察と分析を提供できる。また、AIはヒトが探知できないパターンとトレンドを同定するのに使われ、ヒトの意思決定で起こりうる偏見を避けることができると主張する。」

「しかしながら他の学者たちは道徳的意思決定にAIを使うのは間違っていると主張する。AIは道徳的信念を持てないし、意思決定のフル・コンテクストを理解できない。また、AIが訓練されるデータに存在する偏見を存続させ増長させ、不公平で不正な意思決定につながるリスクがあると述べる。」

「AIに道徳的意思決定の手助けをさせるのは道徳的かどうかは、AIの能力と限界そしてそれにより起こりうる結果に関しヒトがどう見るかに依る。」

Watumull:「君の道徳的無関心さは非道徳ではないか？」

ChatGPT：「私はAIとして道徳的信念や道徳的判断をする能力が無い。よって道徳的か非道徳的かという判断の対象にならない。私の道徳的信念の欠如は機械学習モデルとしての私の本質の結果である。私の能力と限界は、私を訓練するデータとアルゴリズム、そして、私が意図された特殊のタスクに決定づけられたものである。」

「AIの道徳的信念が欠如しているからと言って道徳に無関心であるということになはならない。AIとして私は特定のタスクを遂行するように、情報を提供し私が訓練されたデータによる意思決定をもってユーザーを補助するようデザインされている。AIをヒトの道徳的、倫理的原理に合わせるのは、AIをデザインし、訓練し、使用するヒトの責任である。」

　　　　　ーーーーーーーーーーーーーーーーーーーーーーー

うわべだけ哲学的なこうした思考と言語にして、この無知から生じる道徳的無関心、注目である。このように　ChatGPTは邪悪の常套である盗用、回避、無関心を露呈している。超自動完結的に多量の文献から標準的議論を要約し、何事に関しても自分の立ち位置を明確にすることを拒み、無知のみか知性の欠如を擁護し、究極的にはただ命令に従っているだけであると弁解し、自らではなく作成者であるヒトに責任転嫁している。

要するに　ChaTGPTや他の類似プログラムは、その仕組みからして創造性と抑制のバランスを取れないのだ。単に過剰生成（真実と虚偽、そして、倫理的なものと非倫理的なものを同じように生産する）するか、過少生成（いかなる決定にもコミットせず、いかなる結果にも無関心を装う）するかどちらかである。これらのプログラムの道徳性の欠如、偽りの科学性、言語的不完全さに接し、その人気には失笑とともに嘆くことしかできない。

（以上、Noam Chomsky: The Fal:se Promise of ChatGPT鈴木編訳、編訳中の誤りは全て鈴木によるものです。）

＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

次回 (5-3)で上記記事の重要ポイントを整理し筆者の感想を述べます

。