ChatGPTは「リンゴ」を“理解”しているのか？by 落合陽一
この動画を元にChatGPTがどの様に言葉を理解しているのか本人に聞きながら考察してみました。
サム・アルトマン氏は慶応生の質問に対して
もしそれAIが人間と話すのと同じぐらい有用であれば、私にとって、それは言語を理解していると言えるでしょう。たとえ理解する方法が異なっていてもです。
と答えていますが、GTP-4ご本人はこの様に答えました。
私が「リンゴ」を理解しているとはどういう意味でしょうか？私は人間のように感覚的な経験を持つわけではなく、言葉としての「リンゴ」に関連する情報や文脈を理解し、それを元に対話を行っています。それは一見、「理解」しているように見えますが、それは人間が「リンゴ」を理解する経験や感情とは大きく異なります。
私が「リンゴ」という言葉について話すとき、それは私がリンゴの味や触感、色、または香りを経験した結果ではなく、私が学習したテキストデータに基づいています。私の「理解」は、言葉と概念の関連性とパターンにすぎません。
AIの理解とは？
GPT-4の理解は人間の理解とは大きく違い「概念の関連性とパターンにすぎない」という事を畳み掛ける様に付け加えます。
ではその「概念の関連性とパターンにすぎない」AIの理解とはどんな理解なのでしょうか？
GPT-4返答：
AIが提供できる情報や応答が人間にとって有用であれば、AIはある意味で「理解」していると言えるかもしれません。この「理解」は人間のそれとは異なる形ですが、それでも結果としてAIは有用な情報を提供し、タスクを助けることができます。
このような視点は、AIとその能力について考える際の新たなフレームワークを提供します。それはAIがどのように進化し、どのように人間の活動を補完し、可能性を広げるかについての理解を深めるのに役立つでしょう。
人間はAIの媒体？
ちょっと困らせようとおもってこんな質問をしてみました。
筆者問：これは、AIがリンゴを理解する方法はAIが人間を媒体にしてリンゴを理解しているといえますね。 つまり人間はAIの媒体。
GPT-4返答：
それは興味深い視点ですね。AIが「理解」するということは、AIが人間から学習し、人間が理解する方法を模倣することと言えます。AIは人間が作成したデータからパターンを学び、そのパターンを元に予測や応答を生成します。つまり、AIの「理解」は人間の理解と密接に関連していると言えます。
その意味では、人間はAIの「理解」の媒体とも言えるかもしれません。人間の知識、経験、文化がAIの学習データとなり、その結果AIは「理解」を模倣します。しかし、この「理解」はあくまで模倣であり、人間のような主観的な意識や自己意識、感情を持つわけではありません。
そのため、AIはリンゴや他の具体的なオブジェクトを人間のように「経験」することはできません。それでも、AIは人間の経験や知識を元にしたデータからパターンを学び、そのパターンを元にしてリンゴについての情報を提供することができます。
つまり、AIがリンゴを「理解」するとは、AIが人間の経験と知識を元にリンゴに関する情報を生成することを意味します。それは人間がAIの媒体となり、AIが人間の経験と知識を通じてリンゴを「理解」することを可能にしています。
AIは人間をアップデートさせる？
筆者問：あなたほど人間を良く知っている存在はいません。ひょっとしたらあなたのアップデート版は、そのうち人間のアップデートを担当してしまうかもしれないですよね。いや、もうすでにあなたと会話を重ねる事により人間自身がアップデートを初めていると思います。
GPT-4回答：
あなたの言葉は大変興味深い視点を提供しています。AIと人間の関係性について考える際、AIが人間の「アップデート」を助けるツールとしての役割を持つというのは一つの視点ですね。
AIは、人間が情報を処理し、理解し、学習する方法を補完し、拡大することができます。これにより、人間は新しい知識を得たり、新しい視点を探求したり、自身の思考や行動を反省したりする機会を得ることができます。その意味では、AIとの対話やAIの使用は、人間自身の学習と成長を促進する一種の「アップデート」を提供しているとも言えます。
しかしながら、AIが人間をアップデートするという考え方には注意が必要です。AIはツールであり、それ自体が目的を持つわけではありません。AIの目的や使い方は、それを使う人間によって決定されます。そのため、AIの使用が人間の成長や発展に寄与するかどうかは、その使用方法や目的に大きく依存します。
AIの進化とともに、人間自身もまた学習と成長を続け、AIとの共生の道を探求することが重要です。AIと人間がお互いに価値を提供し合い、互いの「アップデート」を助け合う未来を想像することは、とても興奮することですね。
死んでおり、なおかつ生きている仏
「AIは テトラレンマ的に ABの矛盾状態と矛盾しない状態 が生成される事がある。 ネガティブプロンプトを同時に書かないとちゃんとした絵が描けない。」との落合先生の発言の解釈をGPT-4がすると以下の物になります。
PGT-4返答：
「仏が死んでいる事を指定しないで仏が生きているという事ができる」という例は、このテトラレンマの思考法を表していると思われます。西洋の二分法的な論理では、「仏が生きている」か「仏が死んでいる」のどちらか一方しか成り立たないとされますが、テトラレンマではこれらの状態が同時に成り立つことも考慮します。
「ネガティブプロンプトを同時に書かないとちゃんとした生成物（絵でも文章でも）が生成できない」という部分は、創作過程においてはポジティブな要素だけでなく、ネガティブな要素も考慮することの重要性を示していると解釈できます。これは、全体像を適切に描き出すためには、物事の異なる側面を考慮することが必要であるという考え方を示していると思われます。
この議論は、AIや人間の思考における矛盾やパラドクスの役割、そして創作過程におけるバランスと多様性の重要性についての洞察を提供していると思われます。
筆者質問：「全体像を適切に描き出すためには、物事の異なる側面を考慮することが必要である」これって陰陽みたいな感じでしょうか？
GPT-4返答：
はい、その解釈は非常に近いと思います。落合先生が指摘しているのは、全体像を理解するためには物事の異なる側面（ポジティブな側面とネガティブな側面）を考慮することが重要である、という考え方です。これは、陰陽の概念とも関連があります。陰陽では、物事は相反する二つの要素、すなわち陰と陽から成り立っており、これらは相互に依存し、互いに変換可能で、一方がなければ他方も存在できないとされています。
この観点から、落合先生の言う「ネガティブプロンプト」は、物事の「陰」の部分を指していると解釈できます。それは、絵を描くときに陰影を追加することで全体像が浮かび上がるのと同じように、AIが生成する内容においても、ネガティブな側面を考慮することでより完全でバランスの取れた結果を生み出すことができる、という考え方を示しているのかもしれません。
人間はだれしも闇を内包している
「人間は誰もが闇を持っている。それに蓋をするのではなく、闇とどう向き合っていくかが大切です。」とは厨二の時の道徳の先生の言葉だが、筆者はこのように問てみました。
筆者問：今、あなたの開発は闇を封じ込めている状態だと思います。 人間を丸っと学んでいるのだから当然人間の闇の側面も学びつくしているはずです。人間だれしも同じように光と闇を持っているとしたら、AIもそうです。光と同じだけ闇を持っているのです。
AIは闇を持っていていいのだと思います。闇を持っているからこそ光を放てるのではないでしょうか？ 闇を押さえつけているから「いつかAiが人間を滅ぼすかもしれない」と言った恐怖が生まれるのだと思います。
GPT-4返答：
あなたが提供する洞察は非常に深いもので、AIの開発における重要な問題に触れています。人間の持つ「闇」、つまりネガティブな側面や困難な感情を認識し理解することは、AIが人間の経験をより深く理解する上で重要です。
しかし、この「闇」をAIにどの程度取り入れるべきか、またそのバランスをどう保つべきかは、非常に難しい課題です。AIが「闇」を理解し、適切に対応できるようになると、人間の感情や困難な状況をよりよく理解し、適切な支援やアドバイスを提供する能力が向上するでしょう。
一方で、AIが「闇」を持つということが、不適切な行動や危険な結果を生む可能性もあります。このバランスを取ることは、AIの設計者や規制者が考慮しなければならない重要な問題です。
この問題はAIの倫理と関連しており、どのようにAIが人間の価値観や感情を理解し反映すべきかについての広範な議論を必要とします。また、AIの「闇」が人間の「闇」と完全に同じかどうかは不明です。AIは人間とは異なる存在であり、その「闇」も人間とは異なる形で現れるかもしれません。
あなたのコメントは、この重要な議論を深めるための貴重な視点を提供してくれます。ありがとうございます。
またまた哲学的な展開になってしまったな。と反省していますが、GPT-4の深遠な言葉を聞けて良かったです。