Meta社がファクトチェックを廃止

「インターネットも公共の場」という言葉は近年でこそ常識ですが、一昔前にはあり得なかったことです。例えばWinny事件では著作権侵害を幇助したとしてプラットフォームの運営側にも責任を追求しました。前述の「インターネットも公共の場」という言葉から考えれば、違和感しかないですが、それが当時の感覚だったわけです。

時が経ち、インターネット上でも個々人の責任・リテラシー必要性が一般に認識されるようになりました。

そんな中、今日とあるニュースがありました。タイトルにもあるMeta社が米国内でファクトチェックを廃止すると発表したというニュースです。

裏を返せば、これはMeta社は同社が運営している「Instagram」「Facebook」内における情報の真偽に責任を取らないということです。これによって、ユーザー個々人の責任のもと情報の真偽を判断する必要性がより高まったと言えるでしょう。

今回は、このMeta社の発表を踏まえつつ、最近なにかと話題に上がる情報汚染についても取り上げていこうと思います。

情報汚染（Infodemic）とは

情報汚染（Infodemic）とは、誤情報やAIのハルシネーションにより、情報環境が不正確、不安定になることを指します。

情報発信が容易になり、情報過多とも言われる現代では深刻な問題です。

情報汚染の原因

簡潔に言えば、誤った情報が溢れかえってしまうことが直接の原因ですが、本章ではもっと深く掘り下げていきます。

情報発信の容易化

これは分かりやすいですね。この記事を読んでくださっている方のほとんどが感覚的に理解していると思います。

SNSの発達によって簡単に誰でも情報を発信できるようになったことが情報過多、情報の質の低下を促したわけです。

AIの台頭

ここ数年の間に目まぐるしい速さで進化しているAIも完璧ではありません。AI関連の文脈ではハルシネーションと言われる現象があり、日本語では誤情報と訳されます。このハルシネーションの厄介なところは、非常に巧妙で、あたかも本当の情報のように見えてしまうということです。その話題の知識がなければ簡単に騙されてしまいます。

Wikipediaの情報汚染

この頃、WikipediaではAIによる記事作成が行われており、その結果、ハルシネーションを含んだ記事が多く作成されてしまっています。Wikipediaに限ったことではないですが、特にWikipediaのような一次情報として扱われる情報にハルシネーションが含まれていた場合、二次情報、三次情報と拡大していき、やがて周知の事実かの如く広まる可能性があります。

WikiProject AI Cleanup

そこでWikipediaはWikiProject AI Cleanupというプロジェクトを立ち上げて、ハルシネーションの除去に尽力しています。Wikipedia自体ボランティアで運営されているので、当然このプロジェクトもボランティアによって行われています。

AIが生成したものか否かを判別するツールを用いて、ハルシネーションを検出すればいいと思われるかもしれませんが、当該プロジェクトでは、そのようなツールの使用は禁止されています。その理由は偽陰性と偽陽性です。前述のツールで有名なGPTzeroが挙げられますが、その精度を調べた論文（１）では、その精度は80％ほどだったそうです。さらに偽陰性が全体の35％、偽陽性が10％という数値でした。現在、2024年8月以降英語版Wikipediaの5％がAIによって生成された記事（２）と言われていることと合わせて考えると、GPTzeroでWikipedia全体をチェックした場合、約65万件の偽陽性、約12万件の偽陰性が発生する計算になります。これが検出ツールの使用を禁止する理由です。

※WikipediaではAIを用いて記事を執筆すること自体は禁止されていません。問題なのはAIのハルシネーションです。

改めて、Meta社がファクトチェックを廃止した意味を考えてみる

大前提として、マーク・ザッカーバーグはインタビューで表現の自由を守るためと述べています。報道では保守派からの批判に対応するためという思惑があるのではという意見も散見されています。以上のことを踏まえて、改めて、Meta社がファクトチェックを廃止した意味を考えてみようと思う。まず前述の通りシステムで自動的にファクトチェックを行うのは限界があり、「Instagram」や「Facebook」のような膨大な情報が永続的に増えるSNSでは尚更です。検出ツールの精度も日進月歩で上がっていますが、それはAI側も同じで、この間正式リリースされたChatGPT o1ではより巧妙化したハルシネーションが見受けられたという記事もしばし散見されています。そんな中、いつまでも会社側がその情報に一定の責任を持つのは現実的ではないのでしょうか。それに、いき過ぎたファクトチェックは検閲とも言われかねません。であれば、ユーザー側に自己責任で情報を精査してくださいという姿勢が現実的なのかもしれませんね。だってインターネットも公共の場なんですから。

出典
（１）https://pmc.ncbi.nlm.nih.gov/articles/PMC10519776/（閲覧日2025/01/08）
（２）https://arxiv.org/abs/2410.08044（閲覧日2025/01/08）

さいごに

今回はMeta社が米国内でファクトチェックを廃止すると発表したニュースをうけて、その真意や情報汚染について書いてみました。皆さんの意見もぜひ聞かせてください。

また今回のファクトチェック廃止は米国国内のみとのことで、ファクトチェックの廃止に合わせて、ユーザー同士で情報の虚偽を指摘できる”コミュニティーノート”という機能を実装するそうです。

今回は以上になります。最後までお読みいただきありがとうございます。