魂がデータ化され売られる日 人は不要なのか考える
声優の声が勝手に売られる、という問題を受けて。
この件は文化や社会性、そして人が信頼して営んでいくということ自体が壊れていくほどのインパクトを感じます。
声優有志が許諾なき“無断生成AI”にNO 山寺宏一、梶裕貴ら声優26人が啓発動画に出演「声が勝手に売られていた」（オタク総研） - Yahoo!ニュース
以前からも「生成AI」に対し、絵を描く人が問題提起していましたし、ディープフェイクなども常に問題視されています。
本稿はこれらの問題を受け、「エンタメとフェイク」、「人間の必要性」、「新しいAI犯罪」という点を考えていきたいです。
ざっくりとした結論から先にお伝えしますと、「人は生成AIに負ける。そして人必要派と人なんて要らない派に分かれる」という感じです。
■フェイクを扱ったエンタメ作品
声優生成AI問題で僕が真っ先に思い浮かんだのが映画『コングレス未来学会議』（2013年 監督脚本アリ・フォルマン）です。
ストーリーはこうです。
女優ロビンは映画会社に絶頂期の姿をデジタルデータ化し、その使用権を売ります。
その後、誰でも女優ロビンになれる薬が出回るのでした。
先見性がある映画です。
声優が批判しているのは「声を生成するな」ということですが、いずれ映像そのものが生成されるでしょう。テレビCMなどで生成AIのモデルが登場していますが、今後より高度になっていくでしょう。
ディープフェイクにより顔だけすげ変えた映像もありましたし、最近のAVでも顔を生成AIの美人顔にし、肉体はAV女優そのまま、という作品も生まれています。
（エルフ顔などもあり、今後バリエーションが増えていきそうな新ジャンルです）
政治家がディープフェイク動画に利用されることもあり、その偽りの言動が多くの人に影響を与えることは容易に想像できます。
また、モノマネ・声真似もフェイクの一種と言えます。例えば「ビートたけしの声真似で他の芸人に電話をし、気付くまでだまし通す」というような企画は以前からありました。
これは種明かしがされる点と、モノマネする人の技術や性質による点があるため、「生成AI」とは全然違うものであると納得しやすいかと思います。
■AIによる学習と本物の違い
引用記事にある『NOMORE無断生成AI』についてですが、まだまだ不勉強のため個人的に違いがはっきりしていない部分があります。
声優Aさんの声を抽出し、それを生成AIに学習させ発話させる。
これを禁止したい、というのは意味がわかります。
一方で、声優Aさんの声は絶対に入れない生成AIが、膨大な音声データをもとに合成し、声優Aさんとまったく同じに聞こえるほどそっくりな声を生成した場合。これも禁止したいということなのでしょうか。
「スマホでの通話の音声は実際の自分の声とは違う」というのを聞いたことがあるかと思います。自分の声はスマホを通じて合成された「自分とよく似た音声」に変換されているというものです。
「みかんの味」は本物のみかんじゃなくても科学的に再現可能です。
僕たちの舌に「みかんの味」成分を刺激することで本物と同じように感じ取らせることができます。
同じように、本物の声優の声が無くても他の素材から本物にしか聞こえない声を作り出すことも可能でしょう。
先ほどの「モノマネ・声真似」の問題と似ています。
限りなくそっくりな場合、その声は誰のものなのか。
この領域になると法整備がかなり重要になってくる気がします。
例えば「本物と○○％以上似ている場合は無断使用禁止」というような。
■人が要らなくなる？自分が要らなくなる？
この項目では「哲学性・倫理性」の視点から考えてみます。
姿も声も再現可能だとしたら、自分は要らなくなるのではないか。
『コングレス未来学会議』のように、自分のデータを売ることで、データ上は永遠に同じ姿のまま生き、自身はひっそりと老いていく、ということがあり得るのではないか。
その時、世間にはデータの自分だけが認識され続けます。
本当の自分は老いていく「この私」であることに間違いないはずが、他の人たちは「この私」を自分だとは認めてくれません。
また、生成AIのAVでも挙げたように、今後は人そのものを必要としなくなるかも知れません。
生成AIの映像を見たり、高精度のアンドロイドと恋愛をするようになるかも知れません。
ここで人類は二つに分かれるのではないでしょうか。
「人必要派」と「人なんか要らない派」です。
人と人とが手を取り合うことこそが至高、と感じる派。
一方、代替できるなら生成AIでも全然問題無い、と感じる派。
究極的な話をすると、「声も感情も振る舞いもさわり心地も、何もかも人そっくりな生成AI」が作られ、「生成AIだと気付けない仕組み」が出来るならば、その人は「人必要派」に所属したまま生成AIを愛し続けることでしょう。人だと勘違いしたまま。
(ロマンス詐欺で騙される人も文字と顔写真だけで愛せるわけですから)
技術が発展し、今後生成AIを見抜くことなど出来なくなっていくことが予想されます。
そうした時、僕を含む「人必要派」はどうしていけば良いのでしょうか。
■これからの犯罪の可能性
今後「高精度オレオレ詐欺」が増えていくことが予想されます。
個人の音声データはSNS上にいくらでも転がっています。
これに家族構成や住所などの情報が加わることで、方言や趣味などの個人データを学習した最強詐欺AIが誕生することでしょう。
通話の相手は声やイントネーションで生成AIかどうかを聞き分けることなど出来ませんし、話の内容も家族や趣味のことを話すので、もう本人としか感じられないでしょう。
例え知らない電話番号から掛かってきたとしても、親しい感じで「高精度オレオレ詐欺」を仕掛けられたら。もう詐欺であると見抜けないでしょう。
回避する方法は「あなたにお金をせびることなんかしない。どうしても困った時は直接頭を下げに行く」と言っておくしかありません。「通話でお金をせびったら全部詐欺だ」と。
身内からの通話なら見抜けますが、今後は有名人のフリをした生成AIを相手にする必要があります。
例えば「ファンクラブの情報を見て連絡してしまった。あなたにしか頼めない、マネージャーにも言えない悩みなんだ」と応援している芸能人から通話が来たら騙される人が多そうです。
他にどんな新しい生成AI犯罪が思い付くでしょう。
例えば「高精度ラブドールが勝手に作られる」です。
SNSから顔写真や音声、身体の構造などを生成AIに学習させることで、その人そっくりのラブドールが作られます。おぞましいですね。
というか有名人とかで実際に作られたりしてるんじゃないでしょうか。３Dプリンタで本人フィギュアとか作ってる人は居そうです。
他にも、精巧な生成AI政治家を作り出し、効率的にテロを仕掛けたり、政治家を騙り市民を煽動するなども可能でしょう。
内閣支持率もあっという間に引き下げることもできるでしょう。
立法府のみなさんも自身のケツに火がついてるってことにもっと自覚を持った方が良いと思うんですけどね。
■科学技術の発展を食い止めることはできないのでは
高度なAIの研究を停止すべき、という考えを持つ人たちがいます。
ですがもうこの業界は止まらないのではないでしょうか。
戦争兵器の技術を止められないのと似ています。
人は自分たちで制御できるラインをとっくに突破している科学技術にますます翻弄されていくことでしょう。
AIの研究を止めても、他の企業が開発を進めてしまう。それによる経済的損失は計り知れない。だから研究を止めることが出来ない。
このまま行けば社会は壊れるでしょう。それはこれまで書いてきた通りです。
我々は今後、偽物を見抜くことが出来なくなるでしょう。そして偽物でも良いからと人の代替物を愛する人が増えていくでしょう。
まずは法整備を早めることが大事です。
ですが法整備をしても抜け道があるでしょう。
生成AIを抑止する法律が出来たとしても、その頃には生成AIはさらに先へと進んでいるはずです。
いたちごっこどころではなく、例えるなら自転車をこぎながら新幹線を追いかけるようなものです。
■まとめ 人必要派と人なんか要らない派による住み分け
今後人類は人必要派と人なんか要らない派とに分かれると予想しました。
人なんか要らない派は、生成AIによる音声や顔、肉体などを享受して生きていける人々です。
その時はもう『NOMORE無断生成AI』という反対運動すら風化しているかも知れません。個人個人に向けて、その人にとって一番耳心地の良い声が生成され続けワイヤレスイヤホンから流る社会になっているかも知れません。
人肌のぬくもりも、生成AIにより数値化されたものを触ることで、人間としか思えない体感を味わえるようになるかも知れません。
接客業そのものが消滅してしまうかも知れません。
僕たちが現在スマホをいじって満足しているように、高精度な最新科学技術を享受して人と関わらずに生きていく人が圧倒的多数を占めるようになるかも知れません。
つまり、人は負けます。
今後人は人を必要としなくなる。
自分自身も必要としなくなり、代替物に置き換えて、ひっそりと隠れるように老いさらばえていく。
それでも僕は人が好きでいたいです。
人と会うのとか、人間関係を構築していくのとか、いろんな面倒なことがあっても、生成AIの利便性には屈せずに生きていきたいです。
我々は今まさに歴史の転換点に居ます。
生成AIに人類の文化を明け渡すかどうか。
人の人らしさを捨てて利便性を追求するかどうか。
今まさにどちらに進むのか考えておく必要があると思います。
僕は人と会って話すことを優先させたいと思っています。
作られたものを人と勘違いして生きたくはないです。