『呪術廻戦』と『ワンパンマン』から考えるAI倫理問題
生成AIの著作権問題などの観点から、漫画やアニメをテーマにAI倫理問題を考えることは重要です。これに関する詳細は以下の記事などで、繰り返し取り上げています。
『装甲騎兵ボトムズ』、『伝説巨神イデオン』、『機動戦士ガンダム』、『超時空要塞マクロス』、『エヴァンゲリオン』、『輪廻のラグランジェ』といったロボットアニメシリーズや、『PSYCHO-PASS サイコパス』に登場するシビュラシステムが導入されたAI監視社会などを描いた漫画やアニメからAI倫理を解説することは非常に簡単です。
しかし、あまりにも簡単過ぎるものは、解説しても意外性が無さ過ぎて面白みに欠けるので、ロボットやアンドロイドやAIが一切登場しない『ちびまる子ちゃん』、『サザエさん』、『あしたのジョー』、『となりのトトロ』といったアニメや漫画のストーリーそのものからAI倫理の概念を解説するのが本シリーズの試みです。
漫画やアニメでAI倫理を説明すると、読まれる確率が圧倒的に高くなる現象のことを、AI無知倫理学会では『ワンパンマン効果』と名付けています。
『ワンパンマン効果』… タイトルに『ワンパンマン』と入れるだけで、アクセス数が激増します!
漫画やアニメを語るうえで面倒なのが、アニヲタ(アニメに精通している方々のこと)は、小説版、漫画版、アニメ版、ゲーム版などのキャラ設定の違いや、些細な台詞の間違いに対して、厳しいツッコミが入るところです。学術論文でも同じような現象は生じますが、アニヲタのツッコミの方が手厳しいです。
呪術廻戦とは
呪術廻戦の何かがさりげなくて素敵な学校
『呪術廻戦』におけるAI倫理問題のエッセンス
『ワンパンマン』には、戦闘能力や実績に応じてS,A,B,C級ヒーローの格付けがあります。『呪術廻戦』には、特級呪術師、1級、準1級、2級、準2級、3級、4級術師の呪術師の階級が存在し、どちらの作品にも、それぞれ異なる能力と格付けを持つキャラクターが登場するという共通点があります。軍や警察組織であれば、命令指揮系統や権限を明確にするために、このような階級を設けることは意義があります。
然しながら、『ワンパンマン』や『呪術廻戦』のキャラクターの能力は、一般人の常識を超越しており、一般人にはこれらの特殊能力を正確に評価する能力がありません。AIによる人事評価システムや企業の格付けシステムでは、明確な評価基準を設けたとしても、評価基準以外の能力や、労働者の真の貢献を正確に把握することは困難なため、AIが間違った判断を下すリスクが高まります。人間がAIのスコアリングミスを見逃してしまうと、死亡事故を引き起こす可能性もあります。
また、LLMのベンチマークはGLUE(日本語対応のJGLUE)だけではありません。様々なベンチマーク自体が不完全であり、一見客観的に見えても実はバイアスが掛かっています。そのため、ベンチマークを鵜呑みにすることは問題があります。
以下の数字を見比べると、どうみてもNECの方が開発速度も推論能力もNECの方が、松尾研よりも圧倒的に上ですが、同じJGLUEを使っているのに、どうしてこのような差が出るのでしょうか?
その他の考察すべき事項
意識とAI:『呪術廻戦』における呪物や呪霊は、人間のネガティブな感情や願望や欲望から生まれる存在とされています。人間の呪いが憑依して悪意の感情を持った、人形、岩、彫刻、樹木、建物といった発想は、世界中にあり、欧州の建築物の屋根についているガーゴイルや、日本の鬼瓦や鯱には、魔除けとしての役割があると考える人は少なくありません。こういった概念は世界中の原始宗教にも共通する概念です。非生命体に意識や魂が宿るという前提に立つと、AIが感情や意識を持つ以前に電源の切れたコンピュータが、魂を宿していても不思議ではありません。このような概念がAI倫理的に許容されるべきかどうかは重要な課題です。
以下のように人型ロボットPepperくんに感情を与えたと主張している東京大学大学院の特任准教授・光吉俊二・極真空手道連盟極真館七段のようなカラテ家も実在しています。
呪術の利用:呪術師たちは様々な技を使って戦いますが、これをAI技術の利用として捉えることができます。技術の進化によって、どこまでが許容されるのか、またその限界とは何かというテーマを考えることができます。『呪術廻戦』に登場する狗巻棘(いぬまき・とげ)は、言葉に呪力を込めることで、ものを破壊したり、人を操ることができる『呪言師』です。EUのAI規則では容認できないAIリスクとして『明確な人権侵害:(1) 意識や行動の操作による害、(2) 公的機関による社会的スコアの誤用、(3) 法執行機関による生体識別など』が、類型(5条1項)として取り上げられており、『1. 精神的・身体的な害を生じさせる形態で対象者の行動に著しく干渉するため、対象者の意識を超えたサブリミナルな手法を展開するAIシステム』の利用が禁止されています。
この記事が気に入ったらサポートをしてみませんか?