『試練の技術』

What happens when none of us can tell real from fake?
皆が真実とウソの見分けがつかなくなったらどうなってしまうのだろうか？

（FTC 連邦取引委員会）

【ＡＩの悪用】

　ＡＩ（人工知能）が犯罪に悪用される恐れが高まりつつある。

　「ディープフェイクボイス」ーー。ＡＩによって生成される他人の声のことだ。知人や親族の「なりすまし声」を犯罪者が活用できるのでは、と懸念されている。

　生成ＡＩなど、精度の高い技術が企業の生産性を高めるなど、技術発展の恩恵は大きいだろう。生成ＡＩによって議事録が作成される。

　また、蓄積されたデータを用いて、文章を生成するなど一気に利便性が向上した。

　同時にＡＩを活用するうえでの懸念点を国々は表明。

　不正利用しないよう、明確なルールや倫理など順守事項なども並べているケースはある。

　例えば、米国では「連邦取引委員会、司法省、消費者金融保護局、雇用機会均等委員会が連名で、ＡＩが違法な偏見や差別を生む可能性を指摘する声明を発表」（ＡＩ戦略会議より）と、公式に述べている。

【明確なルール】

　重要なのは悪用の対策を官民連携で明記することだ。

　上記に並べられているのは国主導の「委員会・省」による連名発表。日本において、ＡＩの不正利用を制御する管轄が複数あるのが、望ましいとみられる。

【犯罪目的での利用】

　犯罪に転用されるのは、時間の問題ーー。この危機感を覚える。

　「生成 AI によって低コストで作成された精緻な画像・音声や巧妙な文章が、オレオレ詐欺等に利用される可能性がある。また、生成 AI を通じて得た武器、大麻や覚醒剤、麻薬の製造法等の情報が犯罪につながる可能性がある」（ＡＩ戦略会議より）。

　すでに有識者会議で悪用の「可能性」は指摘されている。ＡＩによる犯罪を取り締まる場合に適用されるのは「現時点では、刑法（246 条 詐欺罪、246 条の2電子計算機使用詐欺罪）、不正アクセス禁止法（4 条 識別符号の不正取得）、武器等製造法、大麻取締法等の法制度等と執行 体制により、対処」と検討されている（ＡＩ戦略会議より）。

　特殊詐欺やオレオレ詐欺に絞るとＡＩの不正利用は「刑法（２４６条　詐欺罪）、（２４６ 条の２電子計算機使用詐欺罪）、不正アクセス禁止法（４ 条 識別符号の不正取得）」によって取り締まりがされるということになる。

　米国連邦取引委員会 (FTC)の公式ホームページには 、警鐘を鳴らす文章が記載されている。一部を抜粋する。

　"They (fraudsters) can use deepfakes and voice clones to facilitate imposter scams, extortion, and financial fraud. And that’s very much a non-exhaustive list."

　「詐欺師はディープフェイクや他人の音声を使って、成りすましの詐欺行為やゆすり、金融詐欺に手を染めかねない。そのような犯罪はとてもではないが網羅しきれない」（拙訳）

　ＡＩによるディープフェイクなどが及ぼす悪影響を懸念している。FTCは独占禁止法などに罰則を課す委員会。

　所轄が異なるものの、犯罪への転用を表明するのは、米国の委員会・省庁一丸となって、ＡＩの不正利用を防ぐ、もしくは、取り締まる構えであることを示しているのだろうか。

【特殊詐欺】

　日本国内特殊詐欺の被害額は年間で３７０億８千万円（２２年）。「オレオレ詐欺」は１２９億３千万円（同年）。

　特殊詐欺のなかでもオレオレ詐欺の被害額が突出している。これは一目瞭然だ。事件化されていない被害も含めると実際の額は、もっと多いと思われる。

　ディープフェイクボイスを使って「知人・友人」がターゲットになりかねない。オレオレ詐欺の主な認識は、高齢者を狙って、息子や親族になりすまして電話をする。

お金に困っているとの理由で、ターゲットの高齢者に電話をかけ、成りすました人が、お金をもらうといったものだろう。

【被害年齢層の若年化】

　主流な詐欺のターゲットが若年化する可能性もある。

　オレオレ詐欺は「息子・娘」など、子や甥姪などになりすますのが主流。声が酷似していなくても、高齢者の「孤独な心理」につけこみ、安易に接触できるからだと思われる。

　ところが、なりすまし精度の高い音声が友人のフリをする可能性も考えられる。友人や知人から突然、金の無心の電話ーー。交友関係が広い人ほど、ターゲットにされかねない。

　知人間での金銭の貸し借りにいっそうの警戒が必要となる。若者を狙った詐欺は主に、投資詐欺やマルチ商法。

　しかし今後、ディープフェイクボイスを使った若者の金銭の貸し借りでの詐欺被害が増加しかねない。被害者のみならず、犯罪に加担する若者の増加も危惧する。

　特殊詐欺ーー。この詐欺手法の恐ろしい点として、実行犯が「普通な人」であることが挙げられるだろう。ＳＮＳ（交流サイト）などに「求人」が載せられている。

　手続きや実行までのプロセスは簡易で、犯罪行為に加担するという精神的ハードルが低くなっているように思える。

　いわゆるリクルーターによる、求人だ。秘匿性の高い通信アプリを使って、特殊詐欺は行われる。主犯格が逮捕されるケースは少ないように思える。

　若者中心の実行犯グループが、ＡＩの変声機能を使って、巧みに詐欺を働く可能性は多分にあるだろう。

【共存へ】

　法整備や、啓発意識は重要だ。同時に、人間が技術発展に取り残されてしまわないよう「リスク」の部分に目を向けるのは必然になるだろう。

　さもないと、技術発展に人間が遅れをとってしまうのだから。技術革新はこれからも発展してゆくだろう。正負の両面があるのも、真実でもあるだろう。

　発展させたのはひとさまーー。ふんぞりかえるのではなく、つくりあげた文明の利点を生かす。同時にリスク管理をする。

【最後に】

　個人の意識と社会全体で、悪用を防ぐ枠組みが欠かせなくなる。

　利便性の享受と悪用は表裏一体だ。

　築き上げられた英知を、悪しき目的で使わないように努める、人間の良心がかつてなく、問われているのではないのだろうか。

　技術革新の表と裏から目を背けない。

　法整備に努める。

　トップダウン型ではなく、国民一人ひとりが、危機意識ーー表裏であることーーを受け止め、適切にＡＩを利活用できるかどうか。

　わたしたちの未来を占う試金石が、すぐそこにあるように思える。

【参考一覧】
AI に関する暫定的な論点整理（総務省）
FTC（連邦取引委員会）