デジタル故人が社会の分断に使われないよう祈る
「本日、私の国葬が厳粛に執り行われます」
国葬から3日前の9月25日、「東京大学AI研究会」を名乗る団体が「故安倍元総理追悼AIプロジェクト」実行委員会を組織して、元総理の音声を合成したメッセージをアップロードした。
元総理の声色と抑揚が自然に表現されていて、まるで本人が話しているようだ。
Twitterで公開して間もなく、1万以上の「いいね」がつき、大臣経験のある衆議院議員がFacebookでシェアするなど、大きな反響を呼んだ。
それと同時に大きな物議を醸しもした。明らかに是非を分ける要点は主に2つある。
①故人を“騙って”いる
2019年末の紅白歌合戦で披露された「AI美空ひばり」も曲間の台詞で「お久しぶりです」と語ったことが賛否を分けたが、それとまったく同じ構造の無配慮がみられる。
本人でない誰かが本人として公に向けて喋らせるのは尊厳を踏みにじっていると捉えられても仕方がない。いまの技術があればいくらでも意思や意図が加えられる。だからこそ、遺族を含む他者が故人の独立性を維持する配慮が求められるが、そこを顧みる意識が感じられない。
②運営組織が不明瞭
運営は「東京大学AI研究会」となっているが、サイトでリンクしている東京大学工学部は同研究会との関連を公式に否定している。どんな人たちがどんな責任を背負って運営しているのか見えず、見せる意思も感じられない。非常に大きな影響力を持つ人物の追悼プロジェクトとしては、いささかアンバランスに映る。
排他的な空気にデジタル故人を利用しないでくれ
私はここ半年ほど、日経ビジネスで「デジタル故人とは何か?」という連載記事を書かせてもらっている。連載を通して、非常に正確で柔軟性のあるデジタル故人が構築できる技術がすでにあることと、デジタル故人に拒否感を抱く人が圧倒的多数であることを知った。
それを踏まえて考えたとき、将来追悼のひとつの選択肢としてデジタル故人が受け入れられる可能性は十分にあると思う。けれど、倫理的な配慮や社会的な責任を軽くみるサービスが目立ってしまうと、社会に受け入れられる未来は望めないのではないか。
とりわけ危険に思うのは、「故安倍元総理追悼AIプロジェクト」の固定ツイートだ。
“安倍さんを支持していた皆様”だけを見て、AIを使って故人を騙って、“安倍さんを支持していた皆様”が心地よいメッセージを発する。
これをやってしまうと世の中が確実に分断してしまう。異を唱える人の目を無視して賛意ばかりを意識する行動は、コミュニティをどんどん内輪化して排他的な空気をつくる。そんな行為にデジタル故人を利用してほしくない。
政治的な意図やスタンスはどうだっていい。それよりもずっと初歩的なところでただただ乱暴にデジタル故人が使われている。それが残念でならないし、二度と同じようなことが起きてほしくない。
デジタル故人が世の中に広まる未来は、デジタル故人に拒否感を持つ人を抜きにしては存在しない。それだけは確信している。
この記事が気に入ったらサポートをしてみませんか?