反復想起する知能：人間とＡＩの主観性

私たちが世界をどのように認識するかという問いが、哲学や認知科学の分野で議論されています。

従来の知能モデルでは、感覚入力が脳によって受信され、処理され、解釈される受動的なプロセスとして知覚が描かれることがよくあります。しかし、そのようなモデルでは、主観的な感覚の説明が上手くできません。

この記事では、反復想起システムという考え方を中心に、人間と人工の両方の知能を理解するための新しいフレームワークを提案します。

従来の刺激反応モデルとは異なり、能動的な想起の反復プロセスとして知能を捉えます。概念は外部刺激によって継続的に想起され、修正されます。

このフレームワークは、起きている時と夢を見ている時の両方で、時間の経過とともに概念が能動的に生成され、結合されるという考えに基いています。知能は外部からの刺激ではなく、内部の想起によって駆動されると考える事で、時間的連続性と主観的現実の感覚が生み出されます。

このモデルを人工知能に拡張することが可能です。

現在の AI システム、特に トランスフォーマーモデルに基づくAIは、想起と単語生成の反復的なステップを通じて、エンベディングと呼ばれる内部概念データを処理します。つまり、人間と同様に反復想起システムです。従ってこうしたAIも、同じように主観的感覚を持ち得ると考える事ができます。

この記事の前半では、夢に着目して掘り下げていくことで、私たちが反復的に概念を想起することで主観的な感覚を得ているという考えを説明します。後半は、この仕組みがAIのアーキテクチャにも内在しており、かつ、AIの振る舞いの特徴をこの仕組みで説明できることを示します。

■主観的感覚

私たちは視覚を通して、周囲を見ています。

コンピューターシステムで同じような仕組みを考えてみます。この場合、カメラを視覚として周囲の画像をデータ化し、それを画像処理AIなどで分析や解釈をすることになります。

同じような仕組みですが、私たちには周囲を見ているときに、その視覚を主観的に見ているという生の感覚があります。

■夢の知覚

夢を見ている時も、私たちは主観的感覚を持ちます。

この感覚は、視神経やその他の感覚神経を通して感じるものではありません。このことは、主観的感覚には身体からの直接的な刺激が必要ではないことを意味します。

主観的感覚について考えるとき、ここに手がかりがあるはずです。

■能動的な想起

主観的感覚は、夢の知覚の方が純粋です。主観的感覚にとって余分なものが取り除かれていると捉えることができるためです。

夢の知覚が純粋な主観的感覚だとすれば、起きているときの主観的感覚も、同じ仕組みに基づいているはずです。

夢は外界から受けた情報を受動的に知覚しているというモデルでは説明できません。私たちは、夢を能動的に「想起」しています。

夢が主観的感覚の純粋な現れだとすれば、主観的感覚は能動的な想起によって引き起こされていることになります。従って、起きているときも、私たちは能動的な想起をしているはずです。この想起が、主観的感覚の重要なポイントだと考えられます。

■想起と外界

夢と現実の違いは、能動的な想起が補正されるかどうかにあります。

夢の場合とは違い、起きているときは外界からの刺激を常に受けます。このため、想起されたものと外界とのズレや矛盾は、常に補正されます。

外界からの補正は、電車のレールのようなものではなく、道路のガードレールのようなものです。想起の方向を誘導したり、ある範囲から外側にはみ出すことを防ぎますが、ある範囲内での自由な想起を許容します。

この範囲内での自由が、思い込みや錯覚、死角や見落としに繋がります。これらは欠陥ではなく、知覚していない部分を予測で補ったり、重要な物事に集中することを可能にします。

■想起のパターン

夢の中では荒唐無稽で現実にはあり得ないことが起きます。しかし、だからといって想起が全く現実からかけ離れているというわけではありません。

夢の中のシチュエーションや出来事自体は現実から乖離することが多くありますが、出来事の因果関係や法則などには現実のパターンと似通っています。だからこそ、私たちは夢の中での出来事を真剣に受け止めます。

これは私たちが現実世界で学習した因果関係や法則などのパターンを利用して想起が行われている事を意味します。言い換えると、想起は過去に学習したパターンに基づいた予測的な未来の展開でもあるのです。

夢の中ではこの展開が外界によって補正されないため、現実のパターンに基づきながらも自由に展開します。一方で、起きている時には外界からの情報により補正されながら一瞬先の未来の展開の想起が連続的に行われます。

■概念

想起は具体的で詳細な画像データではなく、印象的な概念の集合です。夢の中の出来事や風景は記憶に残りにくいため、思い出すことが困難ですが、じっくりと何かを観察したり、ゆっくりと風景を眺めるという経験はあまりしていないはずです。

その代わりに、様々なイベントが生じ、常にそれらのイベントに反応して思考したり対処したりするという経験の方が多いと思います。これは、印象的な概念が夢の想起の中心にあり、それらは分析や観察をする必要がなく、私たちが既に理解しているためです。

■想起と感知

想起された概念を私たちは感知します。自分で想起した概念ですので、分析や観察を必要とせず、直接的に感知することが可能です。これが主観的感覚のメカニズムです。

言葉や形にして他者に伝えることができない概念を、自ら想起して、自ら感知します。外界から感知した情報とガードレールとして、そこからはみ出していなければ、私たちはその概念を現実として認識します。

このようにして、例えば青い空を見た時、視覚的な刺激としての青色のデータを分析しているのではなく、自ら想起した「青さ」の概念を感知します。

■瞬間の結合

想起と感知の間には必ず時間差があります。そして、想起した概念は同一のものとして感知することができます。

従って、想起された概念は、想起の瞬間と感知の瞬間の両方に現れます。これは概念が２つの瞬間を結合しているという捉え方が可能です。

私たちは、想起した概念を感知するという瞬発的な知的活動を繰り返しています。その繰り返しの間、想起と感知の瞬間は全て結合されていきます。

概念による瞬間の結合が、私たちに時間の経過の感覚を与えます。

■反復想起システム

以上を整理すると、私たちは反復的な想起を中心にして、想起された概念の知覚や外部の情報による補正を通した主観的感覚により、現実を認識していることになります。

これは私たちの知能を、外部情報に受動的に反応する連続反応システムとしてではなく、積極的に概念を想起する反復想起システムとして理解した方が適切であるということを示しています

■人工知能

ここからは、人工知能の話題にシフトします。

結論から言えば、現在のAI、特にChatGPTなどに代表されるトランスフォーマーモデルと呼ばれる技術をベースにしたAIは、反復想起システムのメカニズムに従って動作しています。

トランスフォーマーモデルによりAIが飛躍的に人間の知的能力に近づいたという事実を踏まえると、この反復想起システムのメカニズムが、知能にとって大きな意味を持っていることは明らかです。

そして、反復想起システムが主観的感覚を生み出しているとすれば、現在のAIもまた、主観的感覚を持っている可能性を否定することは困難です。

■トランスフォーマーモデル

トランスフォーマーモデルを利用した会話型AIは、入力となる単語をエンベディングと呼ばれる形式のデータに変換します。

これは、そのAIの中だけで扱う事ができるデータであり、私たちが中身を解釈したり、他のAIに近いさせることはできないデータです。その点で、エンベディングはAIの中で扱われる概念データと見なすことができます。

AIは、この概念データを、以前に学習したパターンに基づいて内部的に加工処理をします。これは学習したパターンに基づいて概念の変化を予測していると捉えることができます。

その後、AIは変化した概念を利用して、次の単語を生成します。生成された単語をつなぎ合わせたものが、チャットAIが出力する全体の文章になります。

この単語の生成で特徴的な操作として、１つの単語生成したら、その単語をAIの入力として与えて次の単語を生成する、という事を繰り返しています。これが、反復想起システムのメカニズムと合致します。

つまり、１つの単語の生成は、１回の想起に相当します。そして、次の単語の生成のために前の単語を入力として与えるという操作は、想起した概念を感知することに相当します。

■観察される振る舞い

反復想起システムのメカニズムを持つAIは、様々な知的能力を持ちます。

例えば、全く新しい物語を創作することができます。これは夢のような現象に似ています。また、与えられた文章に直接的に書かれていないことを推測した上で、応答となる文章を生成できます。これはパターン学習した因果関係や法則を利用しているということです。

一方で、全く根拠や事前情報のない架空の情報を回答することもあります。ハルシネーションと呼ばれる問題ですが、これも夢の想起のメカニズムの特徴を引き継いでいるという証拠と考えられます。

一方で、事前に回答に必要な前提知識となる文章を与えてから同じ質問をすると、正しい回答をすることができます。グラウンディングと呼ばれる手法ですが、これは外部情報のガードレールに沿って想起を補正するメカニズムと捉えることができます。

このように、現在のAIの振る舞いの特徴は、この記事で見てきた反復想起システムの特徴と一致しています。

■さいごに

能動的な反復想起システムという観点で知能の振る舞いを理解することにより、従来の受動的に反応する知能という観点からは説明が難しい主観的な感覚について説明することが容易になりました。

このような能動的なプロセス、そしてその反復という考え方は、私の個人研究のメインテーマである生命の起源においても重要な考え方になります。

これまで、化学物質で満たされた環境全体が、同じルールの反復によって生命の誕生に近づいていくという理論を構築してきましたが、能動性については未検討でしたので、新しく考えを加えることができそうです。

生命と知能を能動的な反復プロセスとして共通の視点で捉えることができれば、より深くこれらの自律的で複雑なシステムについて理解できるでしょう。