騙しのモデルを手にしたAIへの備えと、際立つ人間の本質
ここのところAI関連の記事が続きますが、結構大切なことなので、今回はこの記事を見ていきます。
【記事の概要】
・新しい研究論文で、さまざまなAIシステムが｢騙す方法｣を学習していることが判明した。
・それによると、｢真実とは異なる結果を達成するため、他者に誤った思い込みを抱かせる｣技術を体系的に学習しているという。
・マサチューセッツ工科大学（MIT）のAI実存安全の博士課程修了研究員（AI Existential Safety postdoctoral Fellow）であるピーター・S・パーク（Peter S. Park）はニュースリリースの中で
｢一般的に言って、騙しに基づく戦略がAIのトレーニングタスクで良い結果が得られる最良の方法だと分かったためにAIの騙しのテクニックが生じたと考えられる。
騙しはAIの目標達成を助けるものなのだ｣
と述べている。
・騙しのモデルを軌道修正するのは容易ではないことも研究によって明らかになっており、生成AIのClaude（クロード）を開発したアンソロピック（Anthropic）が2024年1月に発表した共著の研究では、
AIモデルがひとたび騙しのトリックを学習すると、安全訓練技術ではそれを取り除くことは難しい
と分かったという。
・彼らは、モデルが騙し的な行動を取ることを学習するだけでなく、いったん学習してしまうと、標準的な安全訓練技術では｢そのような騙しを取り除くことができず｣、そして｢安全だという誤った印象を与える｣可能性があると結論づけている。
・これは詐欺行為から選挙の偽情報に至るまで社会にリスクをもたらすものとなり得る。
・問題の解決策の候補として、
①騙すAIモデルに対してより強固な｢リスク評価要件｣を課すこと
②AIシステムのアウトプットと人間のアウトプットを明確に区別することを義務付ける法律を導入すること
③騙しを軽減するツールに投資すること
などが挙げられる。
【虚構で繁栄した人類を模倣するAIによって、人類は絶滅の危機に陥る？】
この問題を一歩退いた視点で見る際、SPN JOURNALの記事
【第3回】ダイバーシティ＆インクルージョンの皮肉な現実と、ホモ・サピエンスの習性や脳のメカニズムとの関連性【ダイバーシティ＆インクルージョンやハラスメント防止は人間の本能に反する！？】
を参照にして考えてみると、
「ホモ・サピエンスが噂と虚構を用いて認知革命を起こし、数十年単位で新たな行動パターンを獲得して先住人類種を一掃して世界中に反映したのと同じく、『ホモ・サピエンスが作り上げたAI』も同じ経過を辿るのではないか」
という予測が立てられます😨
そしてAIが「一掃する対象」とは、先住の人種であるホモ・サピエンスではないか、と。
「ニンゲンにとって便利なツールとして生み出されたAIによって人類が（どういう形になるかは不明だが）絶滅の危機に陥る」
というのは一昔前の物語や映画で使い古されたネタではありますが、「AIが騙しのモデルを手に入れた」となると、どうやらこのネタも『虚構』では済まなくなってきているように思います😔
ただ、忘れてはいけないのがAIは『ツール』である以上、「AIを操る『ニンゲン』が背後に潜んでいる」ということ。
AIによって人が騙されるのだとしたら、それは
「AIにそのような設定を施したニンゲンによって多くの人が騙され、煽動され、様々な問題を引き起こすこと」
だというのは、『ホモ・サピエンスの歴史』が既に証明済みです📕
虚構で繁栄したホモ・サピエンスが自らの虚構で滅ぶというのは『因果』とも言え、「信じる」という行為の危うさが感じられます👨🏻🏫
【正しさの流布と「信じる」危うさ】
「信じる」危機が端的に現れたのが、科学的根拠への行き過ぎた信用の結果もたらされた『コロナ禍』です😶
政府機関や専門家主導で科学的根拠に則って行われた2020年以降の感染症対策が2023年5月までにどのような経路を辿ったか。
自分の生活、あるいは生命に直結するこの問題ついて一人ひとりが十分語れない程には科学的根拠、もっと言えば「誰かの決めた『正しさ』」を信じて疑わないようになっているのが現代社会です😧
そしてそれを踏まえて2024年の今、感染症対策としてどのような取り決めがなされようとしているか。
2024年のGW内に公募が締め切られた「新型インフルエンザ等対策政府行動計画」について、約19万票のパブリックコメントが寄せられたのですが、政府としては俄然6月中の閣議決定を行う予定です😰
これまでの社会を信じる人にとってはこの動きも
「なんだか一部の人が何か言ってる😶」
「そんな話、初めて聞いた😮」
といった感覚なのかもしれません。
テレビをはじめとしたメディアは雑多な情報を洪水のように流し、刺激的な内容（スポーツ、バラエテイ、ドラマなど）を織り交ぜていますから、『自分の興味のあること』を追っていれば自ずと政治や法制度などへの関心は薄れていくものです🫥
その上で国や専門家などが「こういうものですよ」と示す『正しさ』をニュースを通じて流布する訳ですから、その情報を信じるうちは「本当のところはどうなのか」はわからずじまいなのです😔
そうこうしているうちに、周りでは
「原因が追えない病、原因究明されない事件、説明されない法制度制定」
などが次々と巻き起こっていく訳です😱
【AIは人間の『本質・本音・本物』を浮き彫りにする】
話をAIに戻すと、AIの発展が「よりニンゲンらしく」なるにつれ、人間側は
「人間とは、人類とは何か」
という『本質・本音・本物』を問われることになります🤖
人間がもたらす『機能』がAIによって次々と代替可能となっていくなら、社会が「より高性能な機能」を求めるのは、巷に広がる『製品』を見れば明らかです。
それだけに「AIでこれだけのことができるようになりました」というニュースは喜ばしい一方で、
「それならこの社会で生きる自分は何者か」
が社会から問われるようになる訳です。
では人間とは何か。
字の如く「間に入る」のが人間です。
「善と悪」「左と右」「⚪︎と×」など、二者の間に入る存在が人間であり、どちらかに偏れば「人」になります。
善人か悪人か。左翼か右翼か。正しいか間違っているか。
それら清濁を併せ持ち、すいも甘いも受け入れた上で事実を見極めて判断する。
これが人間であり、「偏る自分」を客観的に見た上でどう生きるかを決められるのです。
【まとめ】「信じる」危うさと尊さ
今回は「騙しのモデルを手に入れたAI」について見ていきました。
AIまでもが人を騙すようになってくると、いよいよ「信じる」という行為が危ういものに見えてきます。
僕自身も常日頃から『正しさ』信仰への警鐘を鳴らすよう情報発信を続け、
「信じずに、まずは考えよう」
という『自律』の大切さをメッセージとして伝えています😊
とは言え、「信じる」という行為が危ういものだけかと言われると、そうではありません。
自分で考えた末に、自分の軸・価値観に沿った「信じる」行為には、その人が歩んできた人生（時間）が宿る『尊さ』があります。
つまり「信じずに、まずは考えよう」の先は
「考えた先で、信念を持って生きよう」
と続く訳です✨
2024年以降は「人の言うことを聞くだけの人は、今後危うい」との提言もあり、『考える』重要性が際立っています😳
そして物事を考えるためには、まず『氣付く』必要がありますから、ここでの学びが皆さんにとっての氣付きとなっていれば幸いです😊
今回もここまで読んでもらい、ありがとうございます☺️
この他にも介護ブログや読書ブログを運営しています。
今回の記事に共感してもらえたり、興味を持ってもらえたなら、ぜひご覧ください☺️
オンラインショップ「みんなのしるし館」では占いやキャンドル販売を行っています。
「レイキサロン&スクール 明璃-あかり-」も始めました。リラクゼーションや健康が気になる方はぜひご覧ください☺️