人工知能に哲学が必要なわけ

　三宅陽一郎氏（日本デジタルゲーム学会理事）

今回のゲストは、ゲーム業界を牽引する人工知能の開発者、三宅 陽一郎氏。人工知能開発する上では常に「知能とは何か、人間とは何か」という問いがつきまとうという。この問いを考えるに当たって足場となるのが、哲学だ。エンジニアの立場から哲学を捉えたユニークな著書「人工知能のための哲学塾（ ビー・エヌ・エヌ新社,2016）」で注目を集めている三宅氏が、人工知能を、人間を理解する上で哲学がなぜ必要なのかを語る。

■人工知能を作る=知能とは何かを知ること

人工知能に関わるのに、なぜ哲学なのか。それは、人工知能を理解するために、我々が人間を理解する必要があるからです。そして人工知能そのものにも人間を理解させることが大事だからです。伝統的な人工知能というのは、例えば「翻訳ができます」「言葉が話せます」というような、特定の能力に突出したソフトウェアのようなイメージだと思います。でも人工知能の出発点でイメージされていたもの、あるいは僕がやろうとしている人工知能というのは、人間が持っている能力を丸ごと備えたもののことです。人工知能（Artificial Intelligence）という言葉が初めて生まれたのは、1956年のダートマス会議と呼ばれる場。ここでの定義は、簡単に言ってしまうと「人間の知能の形を機械で再現しましょう」というものでした。そのためには人間の精神や知能が、どのような構造になっているのかを解き明かす必要があります。しかしここには、明快な解があるわけではありません。さまざまな捉え方=哲学があるのです。

現代で人工知能と呼ばれるものには、大きく2つの潮流があります。1つ目は記号主義と呼ばれるもの。もう一つはコネクショニズムというものです。まず記号主義とは何か。人間の精神というのは「言語」によって構造化されており、我々が物事を捉える時には、常に言語を用いているという考え方です。これは現代の先進国で特にメジャーな考え方です。人間は生まれた時には、お母さんと自分の区別しかできません。育っていく過程でだんだんお父さん、りんご、妹などと、言葉を覚えることで、わかってくる。分かるということはつまり、言語的に分けるということです。我々は言語を通じて、世界を分割しているとも言えます。それは、言語構造が世界の理解の仕方であるという言い方もできます。こうした発想から、言葉、論理（記号）をうまく組み合わせれば知能を作れるのではないか、という発想にいたります。これが記号主義です。いわゆるプログラム言語に基づいたもので、代表格としてはGoogleの検索エンジンが挙げられます。ネット上で集まったビッグデータを解析して利用する、といった手法もこの流れによるものです。

一方のコネクショニズムは、人間の脳や体はあらゆる機能からできているのだから、そっくりの物質や機能ををつくればよい、という発想です。例として、囲碁で人間を打ち負かした"AlphaGo"とが 挙げられます。これは一見ロジックで成立しているように見えますが、実は碁盤を画像認識し、判定するという仕組みでできています。視覚の機能をテクノロジー化したものです。記号主義が人間の左脳的な面を担っているのに対し、コネクショニズムは音や映像など、人間の右脳に近しい機能を備えていると言えます。このように人間機能を数学的モデルにしてシミュレーションしてみる、といったことをやった結果出てきたのが、ニューラルネットです。そして近年話題になってきたディープラーニングは、このニューラルネットの流れから生まれたものです。

この2つの根底に流れる思想は全く違うもので、相容れないまま現在に至っています。記号主義の方は、日々コツコツと機能が進化しています。Google検索も、気づかれない程度に毎日進化しているんです。一方、コネクショニズムの流れの方は、ある日突然ブレークスルーします。これまでは大きく3回、ブレイクポイントがありました。最初は人間の脳にあるニューロンの仕組みが分かった1962年からの10年弱。2度目が、ニューラルネットの思想が出てきてからの10年程度。そして最近それを改良したものとしてディープラーニングが登場し、ブームになっているのが3度目です。

■西洋と東洋で正反対の”知能観"

人工知能は、いつの時代からやってきたのでしょうか。歴史を振り返ってみると、記号主義のもととなる「思考の算術化」に貢献した科学者や哲学者たちに行き当たります。17世紀に活躍したデカルトの考え方は、近代哲学の基礎となりました。この時代は様々な議論や宗教が混在しており、学問全体がまだ体系化されていない時代でした。デカルトは、学問全体をユークリッド幾何学のように体系化できないか、と考えます。そのためには、あらゆる学問の出発点がなければならない。「我思う、故に我在り」というように、いろんな疑問の出発点となるのは自分という存在だと考えます。自分から出発し、いろいろな推論によって学問を作っていこう、という思想から発表されたのが「方法序説」です。
その次に、万能の天才と呼ばれたライプニッツという人が出てきます。デカルトは数学を基本として論理的に世界と捉えようとしましたが、ライプニッツは、我々の思考の運動そのものは記号の記述によって表現できるのではと考えました。これが有名な普遍記号学と呼ばれるもので、いわゆる論理学です。彼は実際に記号だけが並ぶ本を執筆して、これが人間の精神なのだ、と説きました。
その後道半ばで亡くなったライプニッツの想いを、フレーゲ、ラッセルなど多くの哲学者たちが継承していきます。そして20世紀初頭になって、チューリングが記号の操作系で人工知能の理論を作ったとされています。このときは、ラッセルの記した数学の基礎に関する著書「プリンキピア」の講義をプログラムに教え、その中の定義を自動証明させたんです。これが実は、世の中で最初にできた人工知能のプログラムと言われています。このように見ていくと、記号主義の人工知能は、350年ほどかけ、西洋の哲学者、科学者たちが論理的に世界を表現しようとしたところから発展してきたといえます。

では、東洋では人間の知能はどのように捉えられてきたのでしょうか。例えば、今から1,500年ほど前の思想家荘子の考えを見てみます。彼は、人間の理性というのは大したものではなく、考えれば考えるほど駄目になる。世の中に存在している、万物を支配する根本原理である”道”に進めば、人間は上手くいくのだと説きます。これは「考えれば良い方向に行く」と考える西洋的考えとは、全く反対の思想です。荘子の生きた時代は中国の戦国時代の終盤、いわゆる知識人と呼ばれる人がたくさんいたのですが、王があらゆる知識人の意見に耳を傾けて行くうちに、国がどんどん乱れていくという現実がありました。荘子は、考えるだけが知能ではない、人間というのは、世の中の流れの中で生きているんだ、ということを説くのです。
また、仏教では”唯識"と呼ばれる人間の意識の解釈が語られています。同じ人を相手にしていても、人によっては相手を親切だと感じ、別の人は意地悪と感じることがある。実はあらゆる存在は自分の心を投影しているのであって、自分で解釈を加える=分けて考えるということ自体が、煩悩の始まりだという考え方です。逆に言えば、分けないということが悟りにつながると言えます。東洋の思想では、こうした”存在のゼロポイント”が、道、無、空、絶対的一者など、あらゆる形で表現されています。西洋の哲学者は物事を分解して組み上げるところで知を形成するという考え方なのに対し、東洋の思想家は物事を区別しないところから知が生まれる、という発想なんですね。
こうして考えると、僕がやっている「人工知能を作る」ことは、人工知能に煩悩を与えるということとも言えます。例えば、僕があるゲームで主人公の敵キャラクターを作るとします。人工知能は、生まれたときには本当に何にも興味がないんです。機能もなにもなく、世界の一部になっている。プレーヤーを倒せ、と言っても「なぜ僕はあいつを憎まなければならないんだ」という状態な訳です。でも、そんな悟りを開いたキャラクターがいても、ゲームは面白くなりません。なので、あいつは悪いやつだから倒すんだ、食料がないと生きていけないから隣の村に行って襲ってこい、という、ある種の偏見を与えるわけです。そうするとこのキャラクターはゲーム内で暴れます。ゲームは面白くなりますが、最後は勇者に倒されてしまう。いろんな煩悩を与えることで、ある種彼はものすごく苦しむことにもなるのでしょうが、それが人間的だとも言えるのかもしれません。

■哲学が、まだ見ぬ汎用的知能の手がかりとなるか

今のロボットや、ゲームのキャラクター作りに組み込まれている、エージェントアーキテクチャという人工知能の基礎があります。これは人工知能が世界から情報をセンサーで知覚し、思考した後、運動による出力をするという構造です。思考のフェーズには、キャラクター自身が意思決定できるようなモジュールが組み込まれています。こうすることで今、ゲーム内ではプログラマーの命令なしで思考する「自立型人工知能」というものが実現できています。プレーヤーと銃撃戦で戦うゲームでは、キャラクター自らがゲーム内の環境を自分で感じ、防御しやすい場所、打ちやすい場所を都度考え判断したりと、勝手に動くのです。こうしたキャラクターの意思決定モデルは、人間の意識・無意識のモデルのように意思決定の階層が複数に分かれており、生き物の本能に備わっている反射の動きから、「戦うべきか、戦術的に撤退すべきか」を思考する段階まで、総合した意思決定ができるようになっています。

このように表現すると、人工知能は自立して物事を考えられる知能を持っているように見えます。ですが、人工知能の能力には、現段階では大きな制限があります。それは、自分自身で問いを作ることができないということです。人工知能はまだ、人間に問われたことの外に出て、思考することはできません。これをフレーム問題といいます。人間の知能は総合的知能といって、例えば囲碁が上達したら、チェスもちょっと上手くなったりする。能力の応用が利くのです。でも囲碁ソフトは、チェスが上手くなったりはしません。与えられた問題を突き詰めて行くスピードは人間より早いかもしれませんが、その問いから出ることができないのです。また、人工知能は現実世界が得意ではありません。なぜなら、想定外のことが起こる可能性が無限にあり、その時に対処がしにくいからです。自動運転技術などの難しい点もここにあります。僕は、問いに依存しない知能＝汎用型知能を作りたいと頑張っているんですが、汎用型知能は今地球上にはありません。哲学をもってしても、まだこのフレーム問題を解決するには至っていません。

先ほどお話しした西洋と東洋の哲学的考えは、どちらが正しいという答えが出ているわけではありません。全く違う内容ながら、どちらともなんとなく知能を捉えている感じがします。西洋の人工知能は”機能論”、つまり「何ができるか」で語られるのに対し、東洋の人工知能は存在論であり、世界とどう結びついているか」ということで語られる傾向があります。あるいは西洋の考え方は、時間とともにある、時間が経つごとに組み上がって行く、「世界とともに行動したい」という発想なのに対し、東洋的な考えというのは、時間に関係なく普遍的な存在として自分を保ちたい、「世界と離れて1つの普遍的な存在でいたい」という発想です。こうした別々の想いが絡み合って、人間はできているとも言えると思います。ですので、僕は西洋的考えも東洋的考えも共創するような形で、エージェントアーキテクチャを考えていくようにしています。

人工知能というと、テクニカルなスキルを重視されるイメージを持たれることが多いものですが、実際は最先端に突き詰めるような研究ばかりではない、ということが伝わったでしょうか。僕に限らず、人工知能の研究者の一部は、こうした「人間とは何か」という根源的な部分から追求しているように思います。哲学研究と絡めながらやっているのは、どこかで「知能の正体をエンジニアリングによって解き明かしたい」と思うからなのからかもしれません。すると、エンジニアリングとピュアな哲学という領域が、結びついた問題として浮上してくるのです。

文：武藤あずさ　撮影：梅田眞司

＜登壇者プロフィール＞
■三宅　陽一郎

ゲームAI開発者。京都大学で数学を専攻、大阪大学（物理学修士）、東京大学工学系研究科博士課程（単位取得満期退学）。デジタルゲームにおける人工知能の開発・研究に従事。IGDA日本ゲームAI専門部会設立（世話人）、日本デジタルゲーム学会理事、芸術科学会理事、人工知能学会編集委員。共著『デジタルゲー ムの教科書』『デジタルゲームの技術』 翻訳監修『ゲームプログラマのための C++』『C++のためのAPIデザイン』（SBCr）『はじめてのゲームAI』など多数。