AIにも一般常識は必要だよね ～フレーム問題、シンボルグラウンディング問題、オントロジー～
AIに、私たち人間が普通に理解しているような「常識」という概念を与えるのってけっこう難しいのですよ。
ここではAIの常識に関する、フレーム問題、シンボルグラウンディング問題、オントロジーについて簡潔に分かりやすく説明します。
1. フレーム問題
まずは哲学者・認知科学者であるダニエル・デネット氏が考案した例を、読みやすいようにちょこっと脚色して紹介します。
1号
主人公は、AIロボットのラケット1号。
1号の目の前には洞窟があります。
研究者は1号に対して、次のように命令しました。
「洞窟の中にあるバッテリーを取って来い。早くしないと、お前はバッテリー切れで停止しちゃうぞ」
1号は急いで洞窟に飛び込み、中を探検します。
「あった！ バッテリーだ！」
1号はやっとバッテリーを見つけました。
その上には、何やら時限爆弾のようなものが取り付けられています。
しかし爆弾がついていようと、それが「バッテリー」であることに変わりはありません。
とにかく指示通りにバッテリーを持ち帰ろうと思った1号は、迷いも無くバッテリーを爆弾ごと拾い上げて洞窟を出ました。
ドカーン！
時限爆弾は爆発し、1号は粉々になってしまいました……。
これではダメですね。
2号
続いて開発されたのはラケット2号。
2号は1号よりも頭が良く、自分の行動によって副次的に起こることを予想できます。
1号と同様の指示を受け、洞窟を探検していた2号はバッテリーを発見して立ち止まりました。
「バッテリーに爆弾みたいなものがついてる……これってもしかして危ないのでは？」
ファインプレーですね！
しかし、2号はまだ動きません。
「いや待てよ……爆弾をどかそうとしたら天井が落ちてきて死ぬトラップがあったらどうしよう。あと一歩でも近づいたら爆発するようになってたらどうしよう。僕がバッテリーに触れた途端、壁の色が変わる仕掛けとかだったらめっちゃ面白いな……」
2号は、自分の行動によってあんなことが起こるだろうか、ひょっとしたらこんなことが起こるかもしれない、という風にぐるぐる考え続けて停止してしまいました。
ドカーン！
時間切れです。
ミッションと関係ないことを考え続けて停止した2号。
これもダメですね。
3号
続くラケット3号に与えられた指示はこうです。
「ミッションに関係ないことは考えなくて良いぞ」
3号は洞窟に入ろうとし、すぐに立ち止まりました。
「そもそも、ミッションに関係ないことって何だろう？ この壁の色は？ さっき見た虫の種類は？ 気温は？ 湿度は……？」
3号はミッションに関係あることと無いことを仕分ける作業に時間がかかり、そのままバッテリー切れで停止してしまいました。
このように、ミッションに関係あること、つまりフレーム(枠)の内側にあることはどれかを判断するのは、AIにとっては意外と難しいのです。
この問題をフレーム問題といいます。
2. シンボルグラウンディング問題
ある日、友達があなたにこう言いました。
「羽の生えた新種の犬がいて、ハネワンコっていうらしいよ」
その翌日、あなたが羽の生えた犬を見かけたら、「あれが噂のハネワンコかぁ～」と推測できますよね。
しかし、この単純な思考にも実は「常識」が不可欠なのです。
例えば「犬」を理解するためには、「４本足」「ワンと鳴く」「かわいい」といった、ざっくりした知識が必要です。
要するに「犬あるある」です。
AIにとっては「羽」も「犬」もただの文字列であり、仮に犬の写真を見て「犬」を知ったつもりでも、ハネワンコを前にして
「通常の犬には羽は無いが、あれは羽が生えている特殊な犬の可能性がある。そうなると以前聞いたハネワンコはこれかもしれない」
と柔軟に結びつけることは難しいのです。(※不可能ではない)
このように、文字と意味がうまく結びつかない問題のことをシンボルグラウンディング問題といいます。
3. オントロジー
オントロジーとは哲学で「存在」を意味する言葉。
AIの分野では「知識にも仕様書があるべき」という考え方を指します。
前提知識として、AI研究のひとつに「意味ネットワーク」というものがあります。例えばこんな感じ。
・「人間」は「哺乳類」
・「ねこ」に「耳」は「2つ」
・「人間」に「しっぽ」は無い
・「たかしくん」は「人間」
このように、知識どうしをリンクさせて表現するものが意味ネットワークです。図にすると下のようになります。
オントロジーにはさらに「is-a関係」「part-of関係」という概念があります。
is-a関係は、例えば
「ねこ is a 哺乳類」(ねこは哺乳類だ)
「たかしくん is a 人間」(たかしくんは人間だ)
のような、カテゴリーを表す関係です。
part-of関係は、例えば
「手 part of たかしくん」(手はたかしくんの一部だ)
「親指 part of 手」(親指は手の一部だ)
のような、何かの一部分となっている関係を表します。
is-a関係では推移律が成り立ちます。こんなのです。
「A is s B」かつ「B is a C」ならば「A is a C」
例えば
「たかしくんは人間」かつ「人間は哺乳類」ならば「たかしくんは哺乳類」なのは当たり前ですよね？
しかし、part-of関係の方は少し複雑です。
例えば、「タイヤ part of 車」において、もし「タイヤ」が無くなればそれは「車」とは言えませんよね。
しかし「水 part of 川」においては、「水」をバケツですくって持って行ったとしても、「川」は「川」のままです。
もしたかしくんに弟がいて「たかしくん part of 兄弟」である場合、「たかしくん」がいなければ「兄弟」にはならないし、弟の方も「弟」という肩書を失います。
このように、part-of関係と一口に言っても色々なパターンがあるのです。
私たち人間にとっては簡単なことでも、これをAIに教えるために正しく記号化できるのか、というのはなかなか難しいところです。
これがオントロジーの研究です。
ちなみに「人間が知識をきちんと整えてAIに教えよう」とする考えをヘビーウェイト・オントロジー、「知識間の関係性をAIが自分で発見できるようにしよう」とする考えをライトウェイト・オントロジーと言います。
ライトウェイト・オントロジーの方が難しそうですが、最近はこちらの技術もかなり進んでいます。クイズや大学入試に挑戦するようなAIはライトウェイト・オントロジーを採用しています。
初学者におすすめの記事
ここからは私もお世話になった、初学者でも楽しくAIを学べる書籍を厳選して二冊だけご紹介します！
まずはこちら。定番ですね。
なるべく数式などを使わず、歴史や具体例を交えながら丁寧に説明してくれていて、とにかく分かりやすいです。
AIだけでなく、人間とは何か？ 知能とは何か？ といった問いにも触れています。
楽しく読みながらしっかり頭に入ってくるので非常におすすめです。
電子書籍版もあります。
↓ ↓ ↓
続いてこちら。
簡単な言葉で書かれていて、イラストも多いので読みやすいです。
AIについてほとんど知らない方や、中高生にもおすすめできます。
電子書籍版もあります。
↓ ↓ ↓
まとめ
いかがでしたか？
単にデータと記号では表せない、「常識」のお話でした。
人間とは認識の仕方がまったく違うAIって、やっぱり面白いですよね！
以上、ラケットでした！
いいなと思ったら応援しよう！
