生成AI優位のディストピア

　本稿では、「生成AIの普及が人間としての本質を損なわせるのではないか」ということについて考えたいと思います。
　まずはきっかけとなったエピソードを書きます。

　先日『傲慢と善良』（辻村深月著）の感想を投稿しました。

　noteで他の方の感想をいろいろ読み漁りました。
　その中に、全然見覚えが無い登場人物たちを挙げ、全然違うあらすじについて感想を書いている方がいました。
　『傲慢と善良』は登場人物が少ないので覚え間違いは考えられませんし、そもそもストーリーがまったく違います。

　おそらくですが、投稿者は生成AIを使ったのではないか、と予想しました。文章を生成し、正確さを確認すること無くそのまま投稿したのでは無いかと。
　この小説を読み、人物名もストーリー展開もまったく関係の無い感想を書くことも、それを投稿することもあり得ません。人間であれば。

　他にも、大学生のレポートで実在しない学者の論文が参考文献として挙げられている例が増えている、という発言を目にしました。
（もちろんこの発言自体が生成AIによる文章作成かも知れない、という懸念も十分考えられますが）

　生成AIによるデタラメな読書感想文。
　そして実在しない学者の論文を参考にしたレポート。
　この２つのエピソードにより僕の哲学的思考が刺激され、それと同時に社会デザインへの不穏さを感じました。

　それでは改めて、「生成AIの普及が人間としての本質を損なわせるのではないか」という議題で考えていきたいと思います。

---

◾️生成AIは手に余るのでは

　上記の「読書感想文」と「大学生のレポート」の件はとても象徴的だと思いました。
　どちらも本質的には「自分のために文章を書くこと」が前提だと思います。
　ですがどちらも「他の人に見せること」が優先されています。
　そこに、投稿者自身の人間性や人となり、人格などは刻まれません。自分はこんな人間である、というアピールよりも、閲覧数や「スキ（いわゆる「いいね！」）を手っ取り早く稼ぐことを優先したのでしょう。生成AIを使用した大学生は、実在する論文に当たり自分で思考し執筆することよりも、手っ取り早く期日内にレポートを提出することを優先したのでしょう。

　僕自身は生成AIに対して完全否定派ではありません。
　使いたい人は使えば良いと思いますし、便利で有意義な使い方を理解しているのであれば使えば良いと思います。
　ただ僕は現時点では使いたいとは思いません。

　それは僕が「車の運転が怖い」というのと通底している気がします。
　車を運転するより自転車に乗ってる方が気が楽です。
　車のスピードや複雑な操縦は僕の手に余るからです。
　自転車の方がまだ自身の力で制御できると思えます。

　生成AIも同じく、僕の手に余る。
　それに生成AIの方は「自分でやってる感」がありません。
　読書感想文は読んで字の如し「読んで、感じたり、想ったことを、書く」行為です。
　これらをあけ渡してしまう。
　僕に言わせれば、せっかく面白いのに辞めちゃうのってもったいなくないですか？という感じです。
　「ハンバーグの肉抜きです」みたいな。一番大事な部分を捨てちゃったんだ、みたいな感じです。

　「生成AIの普及が人間としての本質を損なわせるのではないか」と感じるのはつまりそういうことです。
　人間の大事な部分を捨てて、別のものを優先させてしまう。
　その場をやり過ごすことは出来ても、未来の自分にとっては成長を阻害する行為です。

　生成AIに任せることで、そこに「自分」は無くなってしまうのではないでしょうか。

◾️そこに「僕」があるかどうか

　小説を読んで何かを感じたり、誰かに話したくなったりするのは「自分」です。
　その「自分」を捨ててしまうのは考えられません。
　何かを感じたり、思考したり、悩んだりする時間をすべて生成AIにあけ渡してしまうなんて考えられません。
　ですがそれでも良いと考える人もいる。

　その自らをbot化する振る舞いに違和感を覚えない人が今後増えていくのでしょう。
　人は便利さや時短や楽には勝てません。

　自分の自分らしさを捨ててまで楽な方を取る。
　コスパやタイパを優先させることが利口であると判断したのでしょう。
　きっと、他にもやることがあるとか、時間や労力の無駄だと判断したのでしょう。
　ですが僕からすると、率先して自分を捨てることが信じられません。
　自分はbotと変わらないと表明することで評価を下げるでしょう。
　今後はbot化が当たり前になっていくのかも知れませんが、一部の人はずっと抗い続けるでしょう。僕はそういう人たちからの評価が下がることの方が怖いです。

　つまり、面白い人達からbotだと思われるのが怖い。
　面白い人達から無視され見向きもされなくなるのが怖いです。

　この、「面白い人達と面白い話をしたい」というのは僕の中にある根源的な欲求です。これが僕です。この「僕らしさ」を捨て去る行為である「生成AI優位」となる振る舞いはしません。

◾️生成AIの情報の真偽を生成AIに質問する

　「自分」よりも生成AIが生み出したものを優先させる人が増えていくとどうなるのでしょうか。
　僕が懸念しているのは「真偽を生成AIに問う怖さ」です。

　生成AIが生み出した論文や世界情勢ニュースなどの真偽を生成AIに問い、納得したり安心したりするという無意味な行為が当たり前になる気がします。

　現時点でも、「テレビでやってたから」と純粋に信じ切っている方々が居るように、今後は「生成AIが言ってるから」と深く疑わない方々が増えていくのではないでしょうか。
　誰かが生成AIを使って作成したニュース記事を、他の誰かが生成AIを使って正しいかどうか判断する。

　「その情報は間違っている」と叫ぶ人が現れても、他の人は生成AIで真偽を調べますから「お前の方が間違ってる」と大勢に叩かれるでしょう。
　やがて間違った情報が優位となり、社会は変容していくかも知れません。

　巨大企業など、大々的に間違いを否定し正しい情報を広報できるところは良いでしょう。ですが個人がもし標的となった場合、それを覆す方法は難しいでしょう。訴訟を起こすには時間もお金も労力も掛かり過ぎます。多くは泣き寝入りを選ぶでしょう。
　つまり、悪意ある人物は極めて少ないコストで、誰かを社会的に抹殺することが可能になる、ということです。

　「生成AIによる名誉毀損をした者、情報を拡散した者は懲役30年、罰金5億円」くらいにした方がいいでしょう。
（立法について全然詳しくないので、もしすでにこのような法律が作られているのでしたらすみません。作る気も無さそうなのであれば近い将来にとんでもない事件が起きると思います）

◾️生成AIが社会をデザインしたらどうなるか

　今後社会デザインを生成AIに頼ることが起きるかも知れません。
　生成AIがデザインした社会を、bot化した人達が何の疑いもせずに生活する。
　そこにいるのは本当に「人間」なのでしょうか。
　その社会に歪さを感じ取る人がいても、市民の総意に反する人物だとして排除されてしまう。
　なぜなら生成AIで最適な社会がデザインされているのだし、生成AIに正しさを問うてデザインしたから間違い無いのだ、と。

　もしかしたら、歪さを感じ取り叫ぶような人物は「陰謀論者」のレッテルを貼られるかも知れません。
　「生成AIの情報は真偽不明である。人間が営む社会は人間がデザインしよう」と叫んでも、便利で快適で楽な生成AIに頼る人は減らないでしょう。
　「みんなが良いと言っているのだからこのままで良いのだ」と、反対意見を封殺するのでしょう。その「みんな」は生成AIが提示する「みんな」なのですが、その違和感には気付くことが無いのです。

　僕からするとこれらの予測はディストピアにしか思えないのですが、こうなっていくのだとしたら、もうbot化の勢いは止まらないのでしょうね。

　読書感想文は無駄。
　レポートは無駄。
　絵を描くのも無駄。
　添削も無駄。
　編集者は無駄。

　果たしてそこに暮らしている人達は「人間」と呼べるのでしょうか。

◾️まとめ

　「生成AIの普及が人間としての本質を損なわせるのではないか」という議題で僕が感じる違和感や未来予測をしてみました。

　無駄を排除する行為や、利便性を追求する行為。そして、短期的な楽さによって長期的に損失になるかも知れないと想像すらしないこと。
　これらは僕からするとbot化です。
　それに、間違っているかどうかを判断する出典先すら信用できなくなる、というのは単純に社会の崩壊へと繋がっているように思えてなりません。
　正しい人が間違っていると糾弾されるような社会は、正しさを持つモチベーションをいちじるしく傷つけるでしょう。

　やがて人間的な感情の動きや理不尽さ、不可解さ、不合理さは、生成AIに反する行為と見なされていくかも知れません。
　例えば「今の時代結婚して子どもを産むのは倫理に反する行為です」という思想が一般化してしまうかも知れません。
　生成AIにいかに歪んだ情報を信じ込ませるかが重要視される未来がすでに始まっているかも知れません。
　自分の会社の利益になる情報や、現政権に有利になる情報を生成AIに学ばせている人がすでに居るかも知れません。

　これらに違和感を覚えることが出来るのは「人間」だけです。
　bot化に逆らい、人間で居続ける。
　そのためには、便利さや楽さ、コスパ、タイパに向かわないことが大切です。
　

　最後までお読みいただきありがとうございました。

　みなさんはどのように感じましたでしょうか。
　賛成意見や反対意見などいただけますと大変嬉しいです。