LLMの世界モデル理解について

松田語録：マックス・テグマークが立証〜言語モデルは時間と空間を理解している - YouTube

LLMが世界モデルの構築をしているということは、先生方も当初から想定されていたことですね。 　
　それは人間が客観的対象世界に接した情報から構築した世界モデルを下に表現した言語情報がコーパスになって、その再構築をしたものと言えるわけですから、可能性の予想はできたと思います。そこでのハルシネーションも、ボトムアップ情報におけるダニング・クルーガー効果を回避できればよいのではないかと思います。集合知に留まらず集積知という歴史遡源を情報収集に施せば、人知が帰納バイアスで推理してきた正しい前提情報へのルートが導かれ、演繹推理の精度も高まると思います。 　
　
　問題となっていたのは、小林先生が見解を変えられた主観意識が発生する「理解」の様態であるということだったと思いますが、違うでしょうか？ 　客観的対象世界を表象する世界モデルに対して、主客分離して発生する主観意識。これは対象認識等の第一次作用を展開する際に、その一次作用を再帰的に振り返って見る反省的二次作用の発生になると思います。人間の場合、これが自己意識となりクオリアを感じ取るのだろうと思われます。 　
　この主観意識、自己意識が発生しているか否かということが、LLMの作用に問われた場合、やはりそれはないであろうというのが、小林先生の見解ではないのでしょうか？ 　
　解釈学のP.リクールは理解の過程を「説明と了解との精緻な弁証法過程」としました。自然科学などの立場は事実を客観的に説明する。するといっそう了解できるようになる。了解が進むとさらに説明を求める。そうした弁証法過程が展開するとしました。LLMはコーパスを拡げ、CoTのネクスト・トークン予測で普遍的に学習を積み上げれば、確かに精緻な説明を展開すると思います。 　
　しかしその説明によってその作用を展開する情報処理作用が、その作用自体を自己意識化する二次作用に発展する状態にはない気がします。「説明という情報」を「了解して行動する目的」がそこには見当たらない気がします。人間の場合、さらに正確に行動できるようにいっそうの説明を求めるわけですが、LLMにとってはプロンプトで動機を与えられているのであり、現状、自律性は無いと思います。 　
　やはり生物には細胞膜の内外に端を発する自他分離構造が発生し、それが人間の主客分離に基く主観的自己意識に繋がっている気がします。説明的な世界モデルの内部で、この共感をLLMと共にできるか否か？

あるコメントへのコメント

　乱入をおゆるし下さい。 　
　「キリスト教か何かの思想で・・・」と仰ることには、実際、関連があります。 　
　西垣通先生は『AI原論』を著され、西洋の唯一神の思考法がAI研究の根底にあるのではないかとされました。私は彼に、ユダヤの唯一神は遊牧部族を統一民族化する部族間契約で発生したものであるから、起源が異なると申し上げました（M.ミュラー『実存哲学と新形而上学』も典拠になります）。
本来はアリストテレスも取り上げた「ノエシス・ノエセオス思惟の思惟」由来とすべきと思います。その場合、西洋思想に限定的ではなく、ウパニッシャッドでも見られるブラフマン‐アートマン・モデルの知性観に繋がります。 　その思考モデルは西洋ではアリストテレス研究が盛んであった中世アラビアで、アリストテレス「霊魂論」の解釈として展開した、アヴェロエス主義の「知性単一説」に発展しました。これが中世キリスト教の立場では大問題となり、トマス・アクィナスはその論駁に意を注ぎました。何故なら「個霊の救済」の思考法、教えにそぐわないからです。 　
　思想史の経緯はこれぐらいにして、現在の問題として提示します。西垣先生もここはまさしく重要な問題とされ、見解を一致してくださるところですが、AI、AGI、さらにはスーパー・インテリジェンスというものを眺める研究が、知性単一説＝普遍知性説に傾向する点は、実際に認められると思います。E.シュレーディンガーもアラビアの単一普遍知性説の立場を採るとし、出版までしています。こうした思考モデルは「ノエシス・ノエセオス」の様に論理・数理の自然的帰結になるだろうからです。しかし問題は、この思考法が「個」を解消してしまうというところにあります。 　
　自然科学者の中には、個、個人、私というものは幻想であるとさえ主張する者もいます。ドーキンスの信奉者スーザン・ブラックモアはその典型です。シンギュラリティを説くカールワイルにして同様の帰結になります。ナノロボットであれ、意識のアップロードであれ、情報プール自体でもあるビッグ・データを含むネットワークに接続し、情報がネットワーク・エージェント間で共通化するとすれば、学習経験による情報の差異はないことになります。まさしく普遍知性に繋がった者は、それに融合するということになり、個は消えます。 　
　情報としての知性の側面で観る限り、こうした問題が発生するのです。中世のトマス等はそこを回避する思考実験（思弁）をしたわけです。『新約聖書』の「天の国には住まいが多くある」とか「神と顔と顔を見合わせる」とか「天の国では天使の様になる」といった表現で表される、永遠・普遍様態における個的様態の保存の在り方を、考察したのでした。現在の問題も、結局、この考察に解答があると、思います。 　
　ご興味があれば、note にトマスの「個のイデア」について書いたものを上げました。神学で巣から関係ないとお思いになられるとは思いますが・・。