全てはマニュアルに書ききれないから知能労働、常識活用が必要（人間はフレーム問題を回避）

　職場の新人インターンが、何でも聞いてくるので、同僚は「質問力がある」と高評価をしていたのですが、実は何も考えずに、他人に訊いたほうが楽ができるためでした。また、仕事中に「なぜ？」など考えたこともない、ということがわかりました。これは困ります。マニュアルには書いてないことが山のようにあるので、そんな時、全部相手に負担をかけて訊いてしまうのです。自分の周囲の人間達を、巨大なマニュアル群として使う、究極のマニュアル人間です。

　トム・クルーズ主演、デミ・ムーア、ジャック・ニコルソン、ケビン・ベーコンという豪華俳優陣で、名匠ロブ・ライナー監督がミュージカルの感動作を映画化した「ア・フュー・グッド・メン」にこんなシーンがあります。

海兵隊でおきた「殺人事件」は、実は軟弱な落ちこぼれの癖に頭越しに隊の違法発砲などを手紙でチクって規律を乱す兵士に、「コード・レッド」を大佐（大隊長）が命じたシゴキ（布団で簀巻きにして殴る）で起きた悲劇だった。海軍の主任弁護士トム・クルーズらがそれを証明しようと隊の仲間を証人として法廷に呼んだところ、検事役のケビン・ベーコンが、膨大な量のマニュアルを証拠品として提出し、「コード・レッドなどどこに書いてあるのだ？」と聞きます。記述はありません。でもみんな知っていました。

　「マニュアルにないのだからそんな非公式命令など出されたはずがない」と言い張る検事役に対し、弁護側は、「食堂への行き方が書いてある条文を示してください」と同じ証人に訊きます。その記述も、どこにもありません。「おかしいですねぇ、、それではあなたは軍で一切食事をしないのですか？」「いえ１日三回食事します」「どうやって食堂に行けるのですか？」「さぁ、まわりについていったり、なんとなく着けるのです」「質問を終わります。」

　上記動画のこのエピソードは、何千、何万ページを費やしても、人々の全ての行動を指示、規定するマニュアルなど書き切れない、ということを示唆しています。これは、人工知能のフレーム問題とほぼ等価といえます。

上図は、AIロボットに、倉庫から美術品を出してみんなのいる会議室に運べと指示したら、台車の上に美術品と一緒に、導火線に火のついた爆弾が載っていた様子です。しかし、指示を受けていない、あるいは、これがまずい事態だと定義した正解データに接したことのないAIには何もできず、会議室の皆を殺してしまいます。

　指示した結果の行動にまつわる、ありとあらゆる、起こりえる出来事を記述しきることは不可能である。これが大雑把なフレーム問題の定義となります。機械学習の時代も事情は変わりません。ありとあらゆる事態を想定し、そうなったときの条件と正しい行動などの結果という入出力ペアをすべて正解として与え、大量に学習させ終えていなければならないからです。

　私たちの脳に、常識って、どれくらいの量、詰まっているんでしょうね？　まだ計量するすべも、適切な構造でデータ表現するすべもはなはだ不十分です。人によって随分と違う常識をもっていることもあるでしょう。

　それでふと思い出すのは、社会人３年目くらいの30年ちょっと前に、後輩の新人をひっかけてやろうと思って作ったトイレ離席票です。

遠い記憶なので、どれくらいの時間、新人くんが青ざめていたか、よく覚えてませんが、30秒くらいは、油汗流しかけてたかと思います。

　これにひっかかるフリをしてくれたり、見るなりゲラゲラ笑いだす、「強いAI」を開発できたら楽しいでしょうねぇ。そのためにはどんな常識知識をどれだけ投入し、もちろん、この課題専用でなく、同様のありとあらゆる「カツガレた！」という史上初の事態を認識し、笑いがこみあげてくるようにしなければなりません。そんなAIの開発は、まだまだ、夢のまた夢です。