甘美な誘惑
ジェニー・デセリオさんの息子が自殺してから、4か月が経っていた。
悲しみに打ちひしがれ、自分が知らないままでいることを不本意に思った彼女は、息子の携帯電話を手に取り、彼のTikTokアカウントを調べることにした。
そこに現れたものは、彼女を戦慄させた。
母親が知ったのは、16歳の息子メイソン・イーデンスが亡くなる少し前に、別れや鬱、自殺に関する生々しい動画に何十本も「いいね！」をしていたことだった。
メイソンが最近、ひどい別れを経験したことは知っていたが、彼がどんどんのめり込んでいくプラットフォームで何を見ていたのかは知らなかった。
デセリオさんは、メイソンが「いいね！」した自殺を直接的に推奨する動画を少なくとも15本発見したと述べ、そのうちのいくつかは1年以上経った今もプラットフォーム上に残っている。少なくとも5本は、彼が使用した方法を具体的に推奨していた。
NBCニュースが動画を検証したところ、何万もの「いいね！」が集まっている動画もあった。
TikTokは「いいね！」を「For You」ページのアルゴリズムのシグナルとして利用しており、ユーザーの興味に合うと思われる動画を配信している。
「メイソンがTikTokの動画を見ていなければ、今も生きていただろうと心から信じています」とデセリオさん。
彼女は現在、他の8人の親とともに、子供たちの死につながった製品の欠陥をめぐり、複数のソーシャルメディア企業を相手取って訴訟を起こしている。
訴訟では、TikTokが自殺や自傷行為を促す動画でメイソンさんをターゲットにしたとされている。
この訴訟は、「TikTokのようなソーシャルメディア・プラットフォームが若者にとって中毒性があるため、欠陥があり危険である」と主張する、斬新な法的戦略の1つだ。
支援者たちはソーシャルメディアが原因とされる被害に対して、人々が正義を得る手段になることを期待している。
TikTokや他のソーシャルメディア企業に対して、少なくとも4件の訴訟が起こされており、親たちはTikTokのコンテンツが子供の自殺の一因になったと主張している。
疾病対策センター（CDC）によれば、自殺は複雑な問題であり、単一の状況や出来事によって引き起こされることはめったにないと主張する。
「むしろ、個人、関係、コミュニティ、社会のレベルでのさまざまな要因がリスクを高める可能性がある。これらのリスク要因は、人が自殺を試みる可能性を高める」と、CDCは自殺防止ウェブサイトで述べている。
TikTokの広報担当者は、進行中の訴訟についてはコメントできないとしたが、「TikTokは、ティーンに安全で前向きな体験を提供するために、業界をリードする措置を講じ続けている」と述べた。
TikTok には自殺を助長するコンテンツや自傷行為につながる可能性のある行為を禁止する明確なポリシーがあるが、何十億もの動画の海の中では、自殺を美化するコンテンツが依然として見逃されている。
デセリオさんは、メイソンがTikTokに夢中になりすぎて眠れなくなることがあり、それが不安障害につながったと語った。友人らによると、メイソンは初めての失恋を経験して、主にTikTokで感情のはけ口を見つけたという。
「16歳の少年に、TikTokはそのような動画を送るべきではありません。それでも真の説明責任を果たすようになるまで、彼らは自主的な規制をしないでしょう」と、彼女はソーシャルメディア企業について語った。
メイソンはある動画で、「ショットガンを口に当てて脳を吹き飛ばしたい」という合成音声と、うつ病に関する文章が添えられていたことに「いいね！」した。
この投稿の音声は最終的に削除されたが、動画はそのまま残っている。
別の動画では自殺する計画が描かれ、人間関係の問題に関するコメントも添えられていた。
彼が「いいね！」した動画の1つ（6万7000件以上の「いいね！」があった）には、銃を発射するスローモーション映像に「将来の計画は？」というテキストが添えられていた。
この動画は現在、プラットフォーム上では視聴できない。
これらの動画は、その要素を総合すると明らかに自殺をほのめかしているにもかかわらず、その多くがTikTokの自動モデレーションシステムによる検出を逃れているようだ。
TikTokによると自動モデレーションシステムは、動画内のキーワード、画像、タイトル、説明、音声など、コミュニティガイドライン違反を示す可能性のあるさまざまな種類のシグナルを拾うように、設計されているという。
TikTokは、メイソンが「いいね！」した動画が同社のモデレーションシステムを回避した経緯や理由について、コメントを控えた。
（Did TikTok videos inspire a teen’s suicide? His mom says she found graphic evidence NBC NEWSより抜粋）
今こそ、日本独自のプラットフォームが必要ではないのか（明日に続く）
イラスト hanami🛸|ω･)و