AI生成のフェイク動画に思う事

著作権や肖像権などの権利侵害は論外です。まず犯罪なのでやめましょうという事は前提として。

近年、生成AIの技術が飛躍的に進化し、その結果としてフェイク動画の作成が急速に普及しています。顔を他人に差し替えるディープフェイクや、声までその人のものに似せる技術が、今や手軽に利用できるようになりました。
このような状況を受けて、一部では「犯罪利用」の危険性を理由に生成AIを規制すべきだという声も上がっています。
ただ、私個人としては、こうした議論には冷静さが欠けているのではないかと感じています。

少し視点を変えて「映画」について考えてみましょう。
映画はある意味、フェイク映像の集合体です。
例えば、歴史的な事件を題材にした映画や、ファンタジーの世界を描いた映画など、事実ではないことを事実かのように見せるために作られた映像は、すでに何十年も前から存在しています。『ジュラシック・パーク』などのように、恐竜が現代に蘇るという完全にフィクションの設定でさえ、映像技術によって非常にリアルに表現され、観客に感動を与えてきました。
ただ、『ジュラシック・パーク』の動画を見て『恐竜生き返った！』と混乱する人はいないと思います。
殺人者の役をする人を見て『この人は殺人者だ！なぜならこの映像で銃を乱射していたからだ！』とパニックムービーを見せて騒いでも、周りからは白い目で見られることでしょう。

映画の例を見れば分かるように、フェイク映像そのものは新しいものではありません。それはすでに私たちの文化の一部となっており、映画やドラマ、さらには広告など、さまざまな形で私たちの日常生活に浸透しています。

おそらくですが、重要なのは、生成AIによってその作成コストが劇的に低下したという点です。

かつては、リアルな映像を作成するには膨大な資金と時間が必要でした。
しかし、今では個人が手軽にフェイク動画を作成できる時代になっています。高価な機材も必要なく、私の持っているPCでも作成できるようになりました。

これにより、質の高いフェイク映像が大量に出回る可能性が増え、確かにその利用には慎重さが求められます。たとえば、ディープフェイクを利用して政治家のスピーチを捏造することで、世論を操作することが懸念されています。また、個人に対する名誉毀損やプライバシー侵害のリスクも無視できません。
肖像権なども当然あります。
ただ、これは『生成AIだから生じるリスク』ではなく、『生成AIでも生じるリスク』かと思います。

技術の進歩に伴うリスクを過大に恐れるあまり、その可能性や有用性を無視するのは賢明ではないでしょう。例えば、映画制作や広告業界では、生成AIがコスト削減やクリエイティブな表現の拡充に大いに貢献するかとおもいます。
今はまだ過渡期ですが、今後この流れはよほど大きなことが無い限り続いていくでしょう。

生成AIによるフェイク動画の出現は、映像制作のコストが劇的に下がったことを示す一例に過ぎません。これを「犯罪利用」の観点からのみ議論するのは、少し視野が狭いのではないかと思います。
当然その対策の一つとして、『生成AIで作成したもので名誉棄損をした場合は、従来よりも厳しく罰する(刑が重くなる)』といった事も選択肢の一つにはなりえるでしょう。

ただ、やはりすごい技術だとは思っています。生成AIが持つポジティブな面を最大限に活用しながら、社会全体で共存していく道を模索することが、今後ますます重要になってくるのかなと思います。