ChatGPTの欠点から導き出した、統合AIの必須機能（３）明らかな嘘を見抜く
統合AIが学習に用いるデータは、非常に広範囲の情報が含まれます。そうなると、明らかに嘘の情報や、互いに矛盾する情報も含まれます。それらをキッチリと整理して、矛盾のない出力が統合AIには求められます。
人類の中の賢い人は、明らかな嘘をキッチリと見付けています。一般に信じられている情報でもです。具体的な例を挙げましょう。911テロで公表された、旅客機がビルに衝突する動画です。旅客機が左側から飛んできて、ビルに衝突する映像です。テレビで何度も放映され、なんとなく覚えている人もいるでしょう。
この動画をコマ送りでゆっくり見ると、旅客機がビルに吸い込まれていきます。まるで、幽霊が壁を通り抜けるような感じです。物体と物体が衝突したら、通り抜けるような映像には絶対なりません。衝突した箇所から破壊が始まり、両者が壊れた映像になるはずです。この動画には、あり得ない点が、もう１つあります。旅客機のような物体の衝突では、破壊された旅客機の破片が、ビルの下に落ちていくのが普通です。高速で飛ぶミサイルとは違って、遅いですから。衝突場面の他の動画でも同様で、旅客機の破片が下に落ちてません。
このような動画を専門家が見れば、VFXだとすぐに判断できます。それも、相当に幼稚なVFXだと。この件を私が知ったのは数年前で、ツイッターで指摘されていた内容を見たからです。他のツイッターの書き込みには、旅客機が衝突しないで、ビルだけが爆破されている映像もありました。つまり、旅客機が衝突した動画を誰かが作り、各国のテレビで放送したということです。（どんな圧力で放送させたかに関しては、ここでは触れないことにします）（この動画をYoutubeで検索しましたが、見付かりません。マズイと思って削除させたのでしょうか）
この嘘を指摘したのは、人類の中の賢い人です。全世界でテレビ放送されようとも、嘘を見抜ける人は見抜くのです。嘘だと判断した理由を、論理的に説明できる点も見逃せません。それと、世界中のマスメディアは嘘付きの仲間ですから、嘘の指摘を無視してます。
統合AIが人類に追いつくためには、このような明らかな嘘を見抜く必要があります。嘘の種類は様々なので、簡単には見抜けない嘘もあるでしょう。それでも、明らかな嘘を見抜く機能は、人類に追いつくなら必須です。
必須機能だとしても、嘘を見抜く機能の実現は、非常に難しいと思います。多くの場合、その分野の専門家の知識と経験が必要で、その中身をソフトウェアとして実現するのは、かなり困難でしょう。この機能だけでも、人類に追いつく統合AIの実現が、相当に難しいと判断できます。
嘘を見抜けた場合、その情報の扱い方も大事です。専用AIの学習機能を用いて構築された、ChatGPTのようなシステムでは、嘘でないデータと一緒に処理すると、変な悪影響が出てしまいそうです。そのため明らかな嘘の情報は、嘘ではない学習データとは、分けて処理する必要があります。どのように処理すればよいのかは、わかりませんが。
学習後のシステムの出力として、嘘であることを明示する機能も必要です。前述のような動画なら「これはVFXで、旅客機を人工的に追加した動画です」などと表示すべきでしょう。また、嘘情報だと気付かないケースを避けるために、大きな嘘マークなども表示する手もあります。
嘘だとは直接指摘されていない情報の中には、明らかな嘘情報と同じ内容を記述しているものもあります。今回の例なら、テキストで「9月11日に旅客機がビルに衝突しました」などと書いている記事です。これらも、嘘の内容として扱う必要があります。動画の中身をテキスト化して、同じ内容を記述している記事を探す必要があるでしょう。かなり大変です。
私は詳しくないので知りませんが、嘘の学習データだけを嘘だと明示し、嘘でないデータと一緒に学習する方法が、開発されているのでしょうか。それが開発されていない場合は、明らかな嘘を扱う学習方法を、新たに開発する必要があります。
この機能に関しては、まだまだ奥が深いです。最初に正しいと学習した情報が、後から嘘だと見付かることもあるからです。
もちろん逆に、嘘だと言われていた情報が、後から正しいと判明することもあるでしょう。嘘情報が見付かるたびに全情報を学習し直すのは非効率なので、個々の情報の嘘判定を、途中で切り替えできることも求められるのではないでしょうか。どのようなシステムなら、それを実現できるのか、まったく見当つきませんが。ちなみに、人類の中の賢い人ならば、新しい情報が加わったとき、それを加味して考察するのは当たり前なので、嘘判定の結果が途中で切り替わったときに対応できなければ、人類より劣る機能になります。
ここまで解説したように、統合AIでは、嘘に騙されない機能が必要です。人類の中の賢い人は、既に嘘を見抜いているわけですから、その機能がないと人類には追いつけません。