人工知能分野の問題
拝啓 奥さんへ
「人工知能のための哲学塾」で有名な三宅陽一郎さんによると、人工知能（AI）研究は「哲学」でも「科学」でもない、その中間の分野だそうです。あらゆる学問は、世界を分解することで成り立っています。社会学、心理学、化学、生物学…問題を分解して、ひとつひとつ調べようとすることで学問がなりたっています。
しかし、人工知能は、それをもう一度搔き集めて、世界と知能を再構築する試みです。分解する学問ではなく、統合する学問であるといえます。そこが他の分野と違うところです。ここでは、人工知能の研究で議論されている問題を取り上げ、人工知能の実現可能性について考察します。
人工知能分野の問題には、下記のような問題があります。
トイ・プロブレム（おもちゃの問題）
フレーム問題
チューリングテスト
強いAIと弱いAI
シンボルグラウンディング問題（記号接地問題）
身体性
知識獲得のボトルネック
特徴量設計
シンギュラリティ
どれも興味深い問題ですが、ここでは「フレーム問題」「シンボルグラウンディング問題」「身体性」に絞って考えていきたいと思います。
フレーム問題
フレーム問題は、1969年にジョン・マッカーシーとパトリック・ヘイズが提唱した人工知能における重大な問題です。未だに本質的な解決はされておらず、人工知能研究の最大の難問ともいわれています。
フレーム問題は、「今しようとしていることに関係のあることがらだけ選びだすことが、実は非常に難しい」ことを指します。「えっ、そんな簡単なこと！？」と人間なら思うかもしれません。人間は自分に関係のない情報を捨てることができますから、フレーム問題をごく当たり前に処理しています。
哲学者のダニエル・デネットは、次のような例を用いてフレーム問題の説明をしています。
例：洞窟の中には台車があり、台車の上にバッテリーと時限爆弾がある。
バッテリーを持ち出すようにロボットに命令すると…
1号機：そのまま持ち出して爆発！
↓ 自分が行った行動の結果、副次的に何が起きるかを考えるように改善
↓
2号機：持ち出す方法の計算中に爆発！
↓ 目的を遂行する前に、目的と無関係なことは考えないように改善
↓
3号機：持ち出す方法の計算方法の計算中に爆発！
ボードゲームをするとか、機械を組み立てるとか、やろうとしていることが限定されている人工知能ではこのフレーム問題は生じません。しかし、いろいろな状況に対応する人工知能ではこの問題は無視できません。人間と同じように、フレーム問題を解決できるかが研究目標の1つになります。
これは夫の直感ですが、この問題には「無限」の概念が絡んでいるのではないかと思います。基本的に人間の思考も、コンピュータと同じく、離散的で有限のものしか扱うことができません。でも、そこに本当は連続体があると考えてみる。それが無限です。有限からどうやって連続体という無限に想像力を近づけていくか、その思考がまさに人間の脳の思考だと思うのです。
無限は数学の概念であるだけでなく、私たちの日常生活の思考もまた、有限から無限を作り出すかということであり、それは「習慣」に代表されるように意識的もしくは無意識的に行われることだと思います。フレームを作るとは、有限から無限を作ることの逆、つまり、無限から有限を作ることです。それは微分積分、足し算引き算のような関係です。だから、人間には、時間と空間の制約の中で、いま何をすべきかを考えることができるのではないかと考えます。
シンボルグラウンディング問題
シンボルグラウンディング問題とは、認知科学者のスティーブン・ハルナッドにより議論されたもので、記号（シンボル）とその対象がいかにして結びつくかという問題です。フレーム問題と同様、人工知能の難問とされています。
人間の場合は、「シマ（Stripe）」の意味も「ウマ（Horse）」の意味もよくわかっているので、本物のシマウマ（Zebra）を初めて見たとしても、「あれが話に聞いていたシマウマかもしれない」とすぐに認識できます。
ところがコンピュータの「記号（文字）」の意味が分かっていないので、記号が意味するものと結びつけることができません。「シマウマ」という文字はただの記号の羅列にすぎず、シマウマ自体の意味を持っているわけではありませんから、「シマのあるウマ」ということを記述できても、その意味は分かりません。初めてシマウマを見ても、「これがあのシマウマだ」という認識はできないのです。
ここでの問題は、コンピュータにとって、「シマウマ」という記号と、それが意味するものが結びついていない（グラウンディングしていない）ことです。そのためシンボルグラウンディング問題と呼ばれています。
例えば、ChatGPTと会話をすることができますが、このときChatGPTは会話の意味を理解しているわけでなく、実は、1つずつ単語を足しているだけなのです。これを「言語モデル」と言います。言語モデルとは、簡単に説明すると、「どんな単語の列のあとにどんな単語が現れるのか」という確率を計算するためのモデルです。人間によって与えられる「お手本のデータ」の中から機械がパターンを発見し、それによって未知の新しいデータに対して分類や予測をする技術です（機械学習）。文章を自動生成するChatGPTも、ある言葉の後にどの言葉が続くことが多いのか、その確率を学習して、文の生成に利用しています。そして、たまには人間のように失敗もします。
人工知能がたまに失敗（ハルシネーション（幻覚））を起こす原因としては、様々なものが考えられています。例えば、学習データが不十分であったり、間違っていたりすることが考えられますが、人工知能がシンボル・グラウンディングできないことが、ハルシネーションの大きな原因の1つと考えられています。夫は、ハルシネーションには身体性の問題が関わっているのではないかと考えています。
身体性
知能が成立するためには身体が不可欠であるという考え方があります。
人間には身体があるからこそ物事を認知したり、思考したりできるという考え方です。このようなアプローチは「身体性」に注目したアプローチと呼ばれています。
人間は体のすみずみにに張り巡らされた神経系を通して世界を知覚しますが、知覚した情報は膨大で複合的なものです。こうして得られた現実世界に関する豊富な知識に対して、「シマ」とか「ウマ」などの記号を対応付けて処理するようになります。つまり、身体を通して得た感覚と記号を結びつけて（シンボルグラウンディングして）世界を認識するわけです。
例えば、コップというものを本当の意味で理解するためには、実際にコップに触ってみる必要があるでしょう。ガラスを触ると冷たいという感覚や、落とすと割れてしまうという経験も含めて「コップ」という概念が作られていきます。「外界と相互作用できる身体がないと、概念はとらえきれない」というのが身体性のアプローチです。
夫はこの身体性のアプローチに賛成で、情報は実体の影だから、影をいくら集めても実体はできない、生命と知能は不可欠だと思います。この世界を立ち現わせる根源の力は、わたしたちの無意識よりもっと深い部分で、わたしたちが生命として受け容れている場所にあると思います。それは、仏教でいう阿頼耶識のようなものです。そして、阿頼耶識の前提は身体があることです。身体の複雑なネットワークこそが阿頼耶識の正体でしょう。私たち生物はそのネットワークで世界を受け取る。いま花盛りの「情報論的AI」の考え方に、東洋的な知のアプローチを加えると、面白いことになるのではないかと思います。
総括
最近は「リザバー（ため池）コンピューティング」というニューラルネットワークを使った手法があります。水槽の中で混沌を作り出し、その中から自分がほしい混沌を選んで引っ張ってくるイメージです。荒々しいやり方ですが、東洋的な知能のあり方に近いのではないかと思います。世界の創世神話が混沌から始まるのに似ています。混沌は、混乱とも無秩序とも違います。混沌には混沌と深い混沌があります。混沌をいかに深いレベルで作り出すか。それが人工知能分野の問題を解く鍵になるかもしれません。
アリストテレス以来、西洋の哲学、そして科学は因果律の上に大きな仕事を積み上げてきました。電気機器も、コンピュータも、すべて第一原理から始まり、科学法則も因果律に沿って作られています。これは人類史上、もっとも大きな成功を収めることになりました。人工知能も同様に、第一原理から始めて、因果律に沿って作っていこうとするのは、西洋にとってきわめて自然なことです。しかし、知能を作ることは、電気機器やコンピュータを作ることとは違います。大きくなった西洋の思想（機械主義）は、すでに西洋自身にも止められなくなっています。それを批判し、新しい方向に導くには、東洋思想の大きな力が必要です。
自己が世界を認識する、というモデルが人工知能では支配的です。ところが、現象学では総合的な経験の中から自己が立ち上がる、そして、東洋哲学では混沌から自己が生成すると言います。つまり、世界を捉えようとする主体は、また世界からも捉えられ、世界と自己は相互一体となります。ふむ、少し哲学的になり過ぎたので、そろそろ筆をおこうと思います。哲学するのもほどほどにですね。多謝。