G検定試験対策③人工知能の問題

人工知能の分野は現在大変盛り上がっており、期待されていますが、課題も多くあります。G検定では人工知能の課題についても出題されますのでよく覚えておいて下さい。特にフレーム問題とシンボルグラウンディング問題は重要です。

フレーム問題

1969年にマッカーシーとヘイズが指摘した人工知能研究の最大の難問。

フレーム問題とは、「今しようとしていることに関係のある事柄だけを選び出すことが、実は非常に難しい」ことを指します。

人間は何かタスクを行う時、それに関係あることだけを抽出し、その中だけで思考することができます。

一方、機械は自分の中にある情報全てを一度探索し、それがタスクに関係あるかどうかを思考しなければ、タスクをこなすことができなません。

機械はどんなに賢くなっても探索すべき範囲(フレーム)を自分で定義できないことを示します。

シンボルグラウンディング問題

人間は、もし「赤」と「ピーマン」を知っていたとしたら、赤ピーマンを初めて見たとしても、「これが赤いピーマンだ」と認識できるはず、

一方、機械は「赤ピーマン」の文字を記号としてとしてしか処理できないので、自ら「これが赤ピーマンだ」と認識することができません。

機械は記号(シンボル)をその意味と結びつける(グラウンド)することができない

このようなことをシンボルグラウンディング問題と呼びます。

トイプロブレム

第1次人工知能ブームは推論・探索の時代でした。この時代の人工知能ができるのは、あらかじめ設定された環境下での問題のみです。何を思考すれば良いのかわからない状態です。例えばオセロや迷路はかなり成果を出しましたが、それはたまたま問題設定がしやすかっただけということになります。このように機械が解きやすい問題設定をしてやる、実際には複雑な問題に対しても機械がわかりやすいかたちで、簡単な設定にしてやる、そういった問題のことをトイプロブレムといいます。

例、パズル、ボードゲーム、チューリングテストや深さ優先探索、幅優先探索

モラベックのパラドクス

コンピューターに知能テストを受けさせたりチェッカーをプレイさせたりするよりも、1歳児レベルの知覚と運動のスキルを与える方がはるかに難しいか、あるいは不可能である Moravec Hans (1988 )

身体性

知能が成立するためには身体の不可欠であるという考え方があります。人間には身体があるからこそ物事を認知したり、思考したりできるという考えです。このようなアプローチは「身体性」に着目したアプローチと呼ばれています。

人間は身体の隅々に張り巡らされた神経系を通じて世界を認識しますが、知覚した情報が膨大で複合的なものです。こうして得られた現実世界に関する豊富な知識に対して、「シマ」とか「ウマ」などの記号を対応付けて処理するようにになります。つまり身体を通じていた感覚と記号を結びつけて世界を認識するわけです。
コップというものを本当の意味で理解するには、実際にコップに触ってみる必要があるでしょう。ガラスに触ると冷たいという感覚や、落とすと割れてしまうという経験も含めて「コップ」という概念が作られていきます。「外界と相互作用できる身体がないと、概念はとらえきれない」というのは身体性というアプローチの考え方です。

チューリングテスト

人工知能研究が深まるにつれ、人工知能ができたかどうかが議論されるようになりました。
それで有名なのが「チューリングテスト」です。
イギリスの数学者、アランチューリングが1950年に発表したコンピューターが人間と同様に知的かどうかを判定するテストで、会話の相手が人間かコンピューターか気づかないときは、テストに合格とします。

方法は簡単です。まず2人の人間と1つの人工知能を用意します。試験官となる人間を別室に置き、相手が見えない状態で人工知能と、もう1人の人間と会話をします。このとき、試験官が人工知能と人間を明確に区別できなければ、その人は人工知能には知能があるとされます。つまり「人間だと勘違いされたら成功」とするテストです。

チューリングテストは人工知能の設定や試験官の質問などで、その結果が左右されやすいと、その正確性がデメリットとして指摘されています。

しかし、テストそのものが理解しやすく、誰でも納得できる指標として人工知能の性能を試す際に、チューリングテストは今でもよく語られています。

アラン・チューリング

アラン・チューリングは人工知能を語る上で非常に重要な人物です。

チューリングはイギリスの数学者、論理学者、暗号解読者、コンピュータ科学者です。

コンピュータ全般における功績、および「チューリングテスト」などから「人工知能の父」と呼ばれます。

コンピューターの誕生に重要な役割を果たし、彼がいなかったら今のIT業界はないし、現在のマイクロソフト、アップルも存在していないと人さえいます。それほど彼に対する評価は高いです。

彼は小さい頃から数学の才能を開花し、大学の研究員のときには、チューリング・マシンの論文を発表し、コンピュータが発明される前から、その可能性を示していました。
また、第二次世界大戦の間、ドイツの暗号を解読するいくつかの手法を考案し、ドイツ海軍の暗号通信を解読する部門の責任者を勤めました。
そして、ドイツが使用していた、「エニグマ暗号」を解読し、戦争を勝利に導きます。
しかし41歳の若さで亡くなってしまいます。彼がもっと生きていれば、人工知能が今よりもっと進化していたと言う人もいます。

彼の死後、彼の名にちなみ、コンピュータ界のノーベル賞である「チューリング賞」もつくられました。

中国語の部屋

哲学者ジョン・サールがチューリングテストで合格したとしても人間と同じような知能ではないという反論を込めて「中国語の部屋」という思考実験を行いました。
「中国語の部屋」とは次ような仕組みです。
中国語が全くできない人間に中国語の辞書のマニュアルを渡して部屋に閉じ込めます。次に部屋の外にある中国語を理解する人が中国語で手紙を書き、密室の中にいる人に空いた穴から差し入れます。部屋の中の人がやっていることは、中国語の文字が入ってきたら、難しい漢字で意味が全くわからないとしても、「こういう風に質問されたらこう返せ」と書かれた分厚い辞書のマニュアルをめくりながら言葉を作り、できたら箱の外の人間に手渡すという作業です。

中国語で質問すると中国語で返答が返ってくるので「中国語の部屋」といいます。しかし、この中に入っている人は中国語がわかっていると言えるのでしょうか。

「人工知能には人間と同じような思考があるか」という問いかけは、「中国語の部屋」の意味するところと同じだということをサール氏は訴えたいのです。

人工知能が人間のような「意識」を持てるかのいう問題で、サール氏が提唱した「中国語の部屋」はよく使われます。この考えを元にサール氏は「強いAI」実現不可能という立場を取っています。

ELIZA（イライザ）効果

意識的には分かっていても、無意識的にコンピューターの動作が人間と似ていると仮定する傾向を指します。1966年に発表された元祖チャットボットELIZA（イライザ）に由来しています。
ELIZA効果はプログラミングの限界の自覚とプログラムの出力を生む動作との微妙な認知的なずれの結果とされます。
イライザ効果は人工知能の研究における重要な発見であり、チューリングテストについてそれまで考えられていたような、言語を通じた会話というだけでなく、人間の認知的な性質といったことについても、より目を向けられるようになりました。

※ELIZAはユーザが言及した話題に関して質疑応答するようにプログラムが組まれていました。

ローブナーコンテスト

チューリングテストに降格する会話ソフトウェアをみなすコンテストで1994年から開催されています。

コーヒーテスト

何でもこなせるAIの判定基準。
人間のように何でもこなせる「汎用人工知能」。その判断基準として提案されているのは「コーヒーテスト」です。
「間取りを知らない家に上がってコーヒーを入れる」ということができれば汎用AIというわけです。Apple社の創業者の1人であるスティーブ・ウォズニアック氏が、「知らない家に上がってコーヒーを入れる機械を我々は決して作れないだろう」と予言したことに由来するため「ウォズニアック・テスト」とも呼ばれます。

コーヒーテストをクリアすることは、人間にとってはたやすいことです。初めて訪問する家でも、まずはドアを開けて家に入ってキッチンを探し、コーヒーメーカーを見つけてコーヒー豆と水をセットすればよいのです。

しかし、AIにとっては難題の連続です。まず「家」とは何か、「キッチン」とは何か、「コーヒー」とは何かを理解しなければいけません。そしてドアを押すべきか引くべきか、コーヒーメーカーがなければどうするべきか、という具合に、判断すべき事は無数にあります。私たち人間は、常識に照らして、考えるべきことを無意識に絞り込む事ができます。この常識をAIが獲得できるかどうかに、汎用AIの実現が大きく関わっているのです。

シンギュラリティー

人工知能の分野で語られるシンギュラリティー(技術的特異点)とは、人工知能が十分に賢くなり、自分自身よりも賢い人工知能を作るようになった瞬間、無限に知能の高い存在を作るようになり、人間の想像力が及ばない超越的な知性が誕生するという仮説です。このことは知的なシステムの技術開発速度が爆発的に加速するということを意味しています。

未来学者で発明家のレイ・カーツワイルはこのようなシンギュラリティーが2045年という近未来であることを主張しています。シンギュラリティーは「人工知能が人間よりも賢くなる年」であるという広義の意味で使われることが多いのですが、カーツワイル自身は、そのような出来事は2029年頃に起こると予測しています。

これは、ほんの少しでも自分の能力を超える人工知能を開発できたら、その人工知能がさらに賢い人工知能を作ることができるようになり、それを無限に繰り返すことで、圧倒的な知能がいきなり誕生するというシナリオです。

自分以下のものをいくら生産しても、自分の能力を変える事はありませんが、ほんのわずかでも自分より賢い人工知能生み出せるようになった瞬間から、人工知能は新たなステージに突入します。これは0.9を何度かけても1を超える事はありませんが、1.0を少しでも超えると、いきなり無限大に発散してしまうことと同じです。

このよう人工知能が特異点に達すると、知的なシステムの技術開発速度が爆発的に加速し、これまでの常識が適用できなるため、何が起こるのか誰も予測できません。人間では到底理解できないレベルに達する可能性があります。

このような超越的な知能を持った人工知能の誕生がもたらすかもしれない脅威に警告を鳴らす人々がいます。
G検定では、人工知能の脅威に対する発言に関する問題がよく出題されますので、誰がどんな発言をしたのかよく覚えておいてください。

スティーブンホーキング(宇宙物理学者)
「完全な人工知能を開発できたら、それは人類の終焉を意味するかもしれない」

イーロンマスク(テスラやスペースXのCEO)
「人工知能にはかなり慎重に取り組む必要がある。結果的に悪魔を生み出していることになるからだ。ペンタグラムと聖水を手にした少年が悪魔に立ち向かう話を皆さんもご存知だろう。少年は必ず悪魔を支配できると思っているが、結局できはしないのだ。」

ビル・ゲイツ（マイクロソフト創業者）
「私の人工知能に懸念を抱く側にいる1人だ」

ニック・ボストロム（オックスフォード大学（FHI所長）・哲学者）
著書「スーパーインテリジェンス:道筋、危険、戦略」
「一度AIが人間の知能と同程度に達すれば、人間の能力を遥かに超えたスーパーインテリジェントになるまで長くはかからない」

ヒューゴ・デ・ガリス

「シンギュラリティーは21世紀の後半に来る」と予想した。

オレン・エツィオーニ

「シンギュラリティーは終末論的な構想で馬鹿げている」と述べたことで有名。

レイ・カーツワイルは、加速的に発展する革新的技術を使ってこれより人類の最も困難な課題に積極的に取り組むことをミッションとしたシンギュラリティー大学という教育プログラムを作っています。また、人工知能、電子工学、ナノテクノロジーという3つの組み合わせることで、生命と融合した人工知能が実現すると考えています。