生成AIの「幻覚」と『ヒト』の役目
人がミスするように、生成AIも「幻覚」を作り出す。
そう言われると生成AIもニンゲンっぽく思えてきますが、AIの幻覚は「事実とは異なる出力」をしてしまうこと。
今回はこの「生成AIの幻覚」にまつわる記事を見ていきます。
【記事の概要】
・生成型 AI の幻覚について、「生成型 AI モデルから幻覚を完全に排除することは不可能である」と説明。
・ここで言う「幻覚」とは、事実と異なる出力を大規模言語モデル（LLM）が実行してしまう現象を指す。
・幻覚はこれらのシステムの本質的な特性であり、その根本的な数学的および論理的構造に根ざしていると、ゲーデルの不完全性定理と停止問題をこの主張の証拠として引用して主張する。
・しかし同時に、事実からの逸脱を引き起こす予測不可能性が素晴らしい創造的能力をもたらすとも。
【それは「事実」か「幻覚」か】
この記事からわかるのは
「（今のところ）どれだけ生成AIが高精度になっても、構造的に『事実とは異なる出力』が出てしまう」
ということです。
前々から「AIが出した答えは一度チェックが必要」と言われているので、ある意味真新しい話ではないかもしれません。
こうした背景からも
「（生成）AIが出した答えが『事実』か『幻覚』か」
を人が判断することとなりますが、AIを『便利なツール』くらいに捉えていると、その事実確認を怠って出力された答えを頭から信じ切ってしまう人も出てくるでしょう😨
特に
『科学的根拠に基づいた情報』
（実際には「科学的根拠という言葉を用いれば人はその言説を信じやすい」と学習をしたAIによる『騙し』のフレーズの可能性もある）
というケースの場合、「科学的根拠」というフレーズを使うだけで、それがさも真実であるかのように人を錯覚させることができます😵💫
「そんな簡単に人は騙されない😄」と思われるかもしれませんが、たとえば2020年のコロナ禍において日本人の約9割がこうした「科学的根拠に基づいた情報」を信じてワクチン接種をした結果が
・新型コロナウイルス感染第11波
・10月1日からの定期接種
を招いている事実から、よくよく学ぶ必要があるでしょう🥲
【AIが出力するものの正体】
そこに「最もらしい論理・根拠」が示されれば、人が人を騙すこともできる訳ですから、
『学習によって人よりも人らしく人を騙すAI』
が登場した際、人はAIの出す答えに騙されやすいことが想像つきます😔
こうなると、それが「事実」か「幻覚」かを見極める為に
「AIが出力するものの正体」
について押さえておく必要があります。
これを理解する為には、まず「AIとは何か」についてまとめていきます。
人工知能（じんこうちのう、英: artificial intelligence）、AI（エーアイ）とは、
「『計算（computation）』という概念と『コンピュータ（computer）』という道具を用いて『知能』を研究する計算機科学（computer science）の一分野」
を指す語。
「言語の理解や推論、問題解決などの知的行動を人間に代わってコンピュータに行わせる技術」、または「計算機（コンピュータ）による知的な情報処理システムの設計や実現に関する研究分野」ともされる。
このように人工知能（AI）の解説を見れば、AIとは『数字の産物』であるとわかります。
そして数字である以上、『限られた空間』の再現に留まります。
そうなると「AIが出力するものの正体」とは「数字で再現可能な『空間』」だとわかります👨🏻🏫
そして数字とは『時間』に追いつくことができないことから、現実世界においてAIが出力するものとは「時間の経過によって成立しなくなるもの」となる可能性を含みます。
それを端的に言い表すのなら『不自然』であり、AIが出力するものであっても自然の摂理に従ったものでなければ長続きはしない、という話です😮
［AIの幻覚を見抜き、現実へと導くのが『ヒト』の役目］
そうなると、AIが生み出した不自然を人間に適合させる、すなわち『自然』なものへと変えていく営みが不可欠となります。
自然の産物であるヒトが、AIが現実世界に存続できるよう『時間』の性質を添える必要があるのです。
となれば、ヒトが養うべきは『自然』の感性となりますが、現代社会はヒトと自然を切り離すような仕組みになっている為、そうした感性を普段の生活で養うのが年々難しくなっています🥲
例えば「衣食住」を見れば、多くの方が化学繊維のものを着たり、食品添加物、化学調味料がふんだんに使われた飲食物を摂り、石油化学物質で作られた住まいに暮らしています。
これにより皮膚アレルギーや生活習慣病などを患いやすくなっているのですが、これは
「ヒトが自然から不自然へと塗り替えられた結果」
と見ることもできます🔍
こうして自然から不自然へ染められていく中で自然への感性が鈍れば、AIが出す答えに対しても「数字で再現可能な空間」だけで判断するしかなくなります。
そしてその分野においてAIは人を超えている部分もあり、AIの幻覚に人が気づけない可能性が高くなる訳ですね😱
こうならない為にも、ヒトは普段から『自然』を感じることが肝要となります。
この自然とは『時間』+『空間』であり、時間の性質と空間の性質を程よく織り交ぜた感覚から生まれた文明によって、僕たちはこれまで栄えてきたのです。
アルキメデスが風呂に入った時に『アルキメデスの原理』を。
ニュートンがりんごの木から1個のリンゴが落ちた時に『万有引力の法則』を発見したように。
このことから「自然≧本来の科学」という図式が成り立つことが見えてきます。
そしてAIの幻覚とは「事実とは異なる出力」のことですから、それは不自然であり『偽物の科学』と言えます。
上の図式と合わせると
（自然≧本来の科学）≠偽物の科学
となります。
ですから、AIから出力されるものの中から
「AIの幻覚（=偽物の科学=不自然）」
を見抜いて
「現実世界（=自然）」
に適応させるようAIを導くのがヒトの役目と言えます😊
【まとめ】共に「幻覚」から覚めた時、豊かな未来へ歩み出す
今回は「生成AIの幻覚」を見てきました。
おそらく生成AIに触れた方であれば、時折AIがこちらの意図を汲まないような「トンチンカンな出力」をするのを目にしているかと思います😅
また、場合によっては理路整然と書かれた文章が現実世界とはかけ離れた内容になることもあるでしょう。
それらは本質的に
「ヒトが『言語』で操られているのと同じように、生成AIもまた『大規模言語モデル』で幻覚を作り出す」
という事実をあらわにしています。
［『事実』と『現実』は別なのだと、忘れていませんか？］
こうした『幻覚』を見抜く為には「事実と現実は別」ということを前提として理解する必要があります。
たとえば、目の前に提示された情報の正しさを検証する『ファクトチェック』がありますが、このファクトチェックすらも科学的根拠（=数字）に依存する以上、
「絶対的に正しいとは言い切れない部分（反証可能性）」
を常に残し続けることを、僕たちは忘れてはいけません🙅🏻♂️
「科学的根拠で示されている（『空間』）」
と
「現実世界で再現できるか（『時間』+『空間』）」
は別であり、有名なところで言えば「太陽光発電の火事」では
・事実として「太陽光設備の消火は可能」
・現実として「消火は容易ではなく鎮火までに20時間を要した」
という結果になっており、
「消せる事実があるのだとしても、現実に火が消せなければ意味がない」
ことがわかります😢
故に「事実として（科学が）証明されているのだから正しい」という判断は、現実世界をおざなりにした判断でもあると言えます。
僕たちの肉体は「現実世界（=日本というフィールド）」にあるのであって、「科学的根拠が示された世界（=数字で再現されたワールド）」にあるとは限りません👨🏻🏫
にも関わらず、今の社会は科学が示す『正しさ』を無防備・無考慮に受け入れ過ぎているように見えます👀
［生成AIの幻覚を『創造』にするもの］
生成AIが出力した「幻覚」は、『正しさ』から見ればミスであり、失敗作です。
それらは数値で評価可能な『機能』から判断したものであり、正しさばかりが求められる社会ではその価値が認められることはありません😔
一方で、人はその「幻覚」を見て「生成AIとは言えミスするのか」と、ちょっとホッコリします☺️
（それが急ぎの仕事でなければ）
その「ホッコリ」は数字で再現できない感覚であり、人が氣付いた「生成AIが偶然生み出した創作物」です。
あるいは、その失敗作を見た時に「もっとこうすれば良いものになるかもしれない」と人の氣付きを促すかもしれません。
人類の発明が「無数の失敗」から生み出されたものである以上、その失敗を先に、無限の思考量で生成AIがしてくれたなら、生成AIの「幻覚」は『創作のたまご』と言えるでしょう🥚
つまり「事実からの逸脱を引き起こす予測不可能性が素晴らしい創造的能力をもたらす」為には、その創造的能力に人が氣付くことが不可欠なのです。
そして人が氣付きを得る為には、不断の学びと『自然』の中に入ることが大切です。
理性と感性が程よく交じり合った先に『ひらめき』があり、そのひらめきを活かすシミュレーションを担うのが生成AIとなり。
人とAIが程よい関係性になった先にこそ、互いの「幻覚」を超えた『豊かな未来』があるのです😊
そして、その未来に辿り着くには「人がどれだけ愛情を持てるか」が鍵となります。
というのも、利便性を求めるだけでは「愛を装う」ことしかできず、生成AIの幻覚を愛することもできずに氣付きも創造も生まれません。
「愛と愛情の違い」を理解したとき、初めて生成AIの幻覚を愛情を持って捉えることができ、その『意味』を自分の思考から創り上げることになります。
つまり生成AIの創造とは「人間との『共創』」であり、その共創を可能にするのは数値で評価可能な『正しさ』ではなく、自然の営みから培われた『愛情』なのです☺️
この他にも介護ブログや読書ブログを運営しています。
今回の記事に共感してもらえたり、興味を持ってもらえたなら、ぜひご覧ください☺️
オンラインショップ「みんなのしるし館」では占いやキャンドル販売を行っています。
「レイキサロン&スクール 明璃-あかり-」も始めました。リラクゼーションや健康が気になる方はぜひご覧ください☺️