ディストピアの入り口はどこにあるのか
AIで簡単に動画を生成できる時代になりましたよね。今日は、それについて考えたことを書いてみます。
AI内部のアルゴリズムなんかはまったく理解していないのですが、そのようなシロウトでもわかることを書きます。現時点で、シロウト目にもわかるAI動画の限界点と、その先に行かれたらヤバいな、という境界線について。
いきなり結論を先取りしてしまうと、現時点のAI動画の限界は、リアリティという概念が欠如していることだと思うんだけど、それが何を意味するのかを説明するために、まずは
リアリティとは何か？
という点について、物理的リアリティ、心理的リアリティ、社会的リアリティにわけて考えてみたい。
逃がした魚は大きい
いまでこそ大雨で松山城の城壁が崩れて、痛ましい事故も起きたりしているが、ぼくの出身地である瀬戸内海沿岸地方は、もともと降水のすくない乾燥した地域で、かんきつ類の栽培も盛んだ。
小学生のころは夏になると断水がしょっちゅうあった。そして水不足から農作物を守るために昔からあちこちらに貯水池が作られており、子ども時代にはため池でフナ釣りをして遊んだものだ。
フナは５～１０センチのかわいいものが主流なのだが、後にも先にも１回だけ、ぼくの針に池のヌシとでも呼べそうな大物がかかったことがある。
いまでもはっきりおぼえているけ、どいきなり竿がぐいーんと９０度にしなって、ガクガク揺さぶられた。それから水面に魚影が現れ、周囲のお兄さんから「あわてるな！あわてるな！」というあわてた声が聞こえたのと同時に、その魚が跳ねて、釣り糸はプッツリと切れてしまった。
そして「あーあ」という声が周囲からあがったのだが、僕の目にはあの魚影は１メートルくらいあったように見えた。
一瞬で釣り糸を切るくらいだから、そこそこの大きさはあったのだろうが、とはいえ、今にして思えば１メートルはなかったと思う。おそらく３０センチか、大きめに見てもまあ４５センチというところだろう。
でも、糸を介してやりあったぼくにとっては１メートルに感じられたわけで、これはこれで一つの真実だと思う。
仮に４５センチというのが物理的な現実（リアリティ）だとすれば、ぼくにとっての１メートルという感触は心理的な現実（リアリティ）だといってもいい。
よく「逃がした魚は大きい」などとバカにしたように言われるけれども、逃がした魚を大きく感じるのはウソをついているというような単純なことではない。
だしぬけに大物に遭遇したときの驚愕や感動を加味すると、そのくらいの大きさに感じるのが「人間心理の自然」ということではないか。いわば
心理的リアリティ ＞ 物理的リアリティ
という図式が成り立つわけで、これが「逃がした魚は大きい」が意味する心理的リアリティなのではないかと思う。
「金やんの１８０キロ」のリアリティ
似たような例はそこかしこにある。たとえばプロ野球だ。かつてプロ野球投手の投げる球は速くても１４０キロ代であり、１４８キロも出れば立派な剛速球だった。
ところが、近年、選手の体格も良くなってきて、あたりまえのように１５０キロを投げる選手が増えてきた。そしてついに大谷翔平選手が１６４キロをマークするようになった。
そのころ、日本プロ野球史上唯一の通算「400勝投手」であり、球界の重鎮でもあられた金田正一さんが、
わしの現役時代は１８０キロは出ていた
と言い出して失笑を買ったことがある。「そんなことはありえない」とマジで反論する人も現れたりしたんだけど、カネやん自身がシャレで言っていたふしもあるので、そうマジになる必要もない。
「NEWSポストセブン」でカネやんがゴルフの青木功さんと対談した際にも、記者から
──なんせ直球が180キロ出ていたんですもんね。
と振られたカネやんは
金田：（記者を睨んで）お前、バカにしているだろう。
青木：アニキ、本当はもっと出ていたよね？
金田：200キロ位かな。
などと言っている。球速を１キロ上げようと思えばかなり大変だと聞くが、カネやんくらいの大物になると、その場の勢いで２０キロ増しにしてしまうのだから、まあ、その程度のことだと思っておけばいいのだ。
さて、ここで大事なのは、物理的な球速ではなくて、心理的な球速のほうである。大半のプロ選手が満足に栄養も取れず体も小さかった戦後間もないころの日本プロ野球界で、あのカネやんなら１４９キロくらいは出していたかもしれない。
だとすれば、これだけ選手の体が発育した現在、大谷選手の投げる１６０キロよりもいっそう速く感じられたとしても何の不思議もないわけで、当時、カネやんと対戦したバッターにしてみれば、彼のストレートが１８０キロに見えたとしてもウソではないと思うのである。
これが金やんの１８０キロの真相ではないだろうか。ぼくの１メートルと同じくウソではなくて、心理的リアリティがあったのだ。
「マークスの山」のリアリティ
ここまで物理的リアリティ、心理的リアリティについて書いてきたけど、さらに社会的リアリティというものもある。
ぼくがはじめて高村薫氏の『マークスの山』という小説を読んだ時におどろかされたのはは警察内部がたいへんリアルに描かれていたということだった。
それまでは「西部警察」にしろ「太陽にほえろ」にしろ「あぶない刑事」にしろ、警察は正義の味方で、一丸となって悪者を追いかけるというストーリーが当たり前だった。
ところが『マークスの山』に出てくる警察は、刑事同士の手柄の取り合いやら、派閥抗争やら、上層部による隠ぺい工作などなど、犯人を追いかける以前に内部に問題をいっぱい抱えた組織として描かれていて、こちらのほうが本物の警察組織のあり方にいっそう近いように思えた。
つまり社会的リアリティがあったわけで、「組織ってこういうもんだよな」と読者に納得させる力があったのだ。
陰謀論の社会的リアリティ
ところで、ぼく自身は陰謀論を全否定する立場ではない。「陰謀」という単語が存在する以上、それに対応する社会現象もどこかに存在するはずだと思っている。
とはいえ、現在流布している陰謀論の大半には首をかしげてしまう。なぜなら社会的リアリティが欠けているように見えるからだ。ぼくもこれまで５０年以上生きてきて、「社会ってこういうもんだよな。組織ってこう動きがちだよな」という基準のようなものが自分の内部にできあがっているんだけど、陰謀論の大半は、その基準に合致しない。つまりリアリティに欠けると感じられる。
社会って、組織って、そんな風には動かないでしょ？
と思わされるものがほとんどである。
しかし、その手の陰謀論を信じてやまない人々がたくさんいるのも現実で、ということは、ぼくの抱いている社会的リアリティの基準と、陰謀論者の抱いている社会的リアリティの基準はだいぶ隔たりがあるということになる。そして、そういう人たちがかなりの数存在するのが、本当の意味での現代社会の社会的リアリティなのである。
生物的リアリティ
さて、AIに話を進める前にもうひとつ「生物的リアリティ」とでも呼べそうなものも紹介しておこう。リアル・アンリアル（現実・非現実）を使い分けるのは人間だけではない。
自然界にも擬態というやつがある。カマキリが獲物を捕食するために、枝に化けたりするのが擬態だ。トップ画像のやつがそうで、実にうまいこと化けているでしょう。
こうしてカマキリは、見かけのリアリティを逆手にとってメシを食っているわけだけど、これは贋作画家がフェルメールの贋作を金持ちに掴ませてメシを食っているのと構図的にはあまり変わらない。
生物界でも贋金づくりと同じようなことが行われているわけだ。
カマキリ自身に贋作意識があったのかどうかはわからないが、しかし、少なくとも自然界全体には、リアルとニセモノのを区別する「意識」があるということだけは言えると思う。
本物と偽物の区別があるからこそ、あえて他の動物になりすまして詐欺を働く動物が成り立つわけで、そもそもリアルとアンリアルの区別がなければ「リアルに寄せる」などということはやれないのだ。
リアリティのまとめ
以上のいろんな例を見てきたうえで、以下の２つのことが言えると思う。まず１つめだけど、人間界だけでなく、動植物も含めた世界には
①リアルとアンリアルの境界線があるということ。
その境界線があるからこそ。「アンリアルがリアルに寄せていく」ことや、または、あえて「リアルからアンリアルへと逸脱していく」ことなどが行われる。
前者の代表がモノマネ芸人だとすれば、後者の代表はファンタジー小説だろう。モノマネ芸は、ニセモノがリアルへ寄っていくところにおもしろさがあり、逆にファンタジー小説はリアルからアンリアルな異世界へ越境していくところが売りである。しかし、いずれもリアルとアンリアルの区別を意識しているからやれるのは同じだ。
そして２つめとして
②心理的リアルや社会的リアルの基準はあいまいで、時代や社会や個人や金やんによってずいぶん異なる。
ということもいえる。
さらに補足しておくなら、社会的リアル・アンリアル、心理的リアル・アンリアルの境界線はさまざまだけど、だからといって、その境界線がど－でもいいと思っている人は一人もいない。人間は一人残らず（そしてカマキリも）自分なりの境界線にものすごくこだわっている。だからこそ、陰謀論を信じる・信じないでこれほど熱い戦いが生じるのである。
AIの世界にはリアルの境界線がない
そのうえで、AI動画に触れてみたい。
数週間前に以下のようなnote記事を読んだ。最先端の生成AIでどのような動画の生成が可能になっているかをさまざまな角度から検証しているもので、無料で読めるのでまあ１回読んでみると参考になると思います。
この記事でさまざまな動画を見てぼくが感じたのは、生成AIには、すくなくとも現時点においては、リアルとアンリアルの境界線自体が存在しないということだった。中でもこの動画が一番わかりやすい。
AIが考える漫才のツッコミが僕の知っているのと全然違った・・・ pic.twitter.com/LXk9Cm7WhJ
— けんすう - ハイパー起業ラジオやってるよ (@kensuu) July 2, 2024
著者のけんすうさんは「漫才のツッコミを作ろうとしたら、漫才自体をあまり知らないのか、男女が融合して宙に浮かぶ謎の動画になりました」と書いているけど、この動画では、
・そもそも人と人は融合しない（生物的リアリティ）
・しかしファンタジー動画なのであえて融合させてみた（境界の侵犯）
というすべての人間が共有している前提条件すら意識されていないように見える。人と人が融合することと、しないことのあいだに差がないように見える。膨大なデータの海の中をただ泳いでいるだけに見える。
ぼくがアルゴリズムのことをわかっていないだけかもしれないけど、そういう風に見えた。その上で今後だけど、
・すべての人間がわきまえている「リアル・アンリアル」の基準を学習したAIが現れたらおそろしいことになるだろう
ということが１つ。そして
・そもそも人にとって社会的リアリティや心理的リアリティはあいまいなものなので、それを学習させるのも難しいだろうな
ということ。しかしそこを突破するAIが現れたら、それこそおそろしいことになるかもしれない、ということを思いました。