「情報の真偽判定」と監視社会
「情報の真偽性判定」とは何だろう。
その情報が、真であるか、偽であるかを判断することなのだろうか。しかし情報は必ずしも真か偽かに分けられるとは限らないのではないか。画像においても、アナログレベルで合成された画像は真なのか偽なのか。
真偽判定は、統計学では仮説検定に近いのかも知れない。しかし仮説検定で得られる結論は、帰無仮説が起きうる確率が低いとみなすことができるか、という所まで。確率が低い場合、一応「偽」と考える。しかしどんなに頑張っても「真」であるかは判断できない。
という前提のもと、最近見た記事は何をしようとしているのか気になった。「情報の真偽判定」をAIを使って開発するのだという。
「偽情報分析に係る技術の開発」というタイトルで「情報の真偽性判定に資する要素技術」「偽情報対策プラットフォーム」を開発するのだそうだ。
（１）要件定義
偽情報分析に係る最新の技術動向や、公的機関や民間企業によるユースケースを調査し、対象とするユースケースを特定するとともに、(2)~(4)の要件定義を行う。加えて、国際会議等において情報収集を行い、海外も含め可能な限り最新の動向を把握する。
（２）偽情報検知技術
情報を構成する文章、画像、動画等における加工を総合的に分析する技術を開発する。加えて、情報に付随するメタ情報（時刻情報や地域情報等）に対する客観的な事実の紐づけや発信者の正当性等によるエンドースメントを作成し、情報の真偽性判定に資する要素技術を開発する。
（３）偽情報評価技術
情報の受け取り手の反応や発信元の情報等を収集・分析することにより、当該情報に対する社会的影響等を定量化及び可視化し、脅威評価に資する指標・要素を開発する。
（４）偽情報検知/評価システム化技術
SNS等のオープンソースを対象とした情報収集方式及び偽情報分析対象の情報の絞り込み手法、（２）及び（３）の技術との連接手法の検討を行い、偽情報検知/評価システムを構築する。
富士通など産学9組織、ネットの偽情報を判定するシステムを2025年度末までに構築
富士通など産学9組織は2024年10月16日、インターネット上の情報の真偽を判別するシステム「偽情報対策プラットフォーム」の開発に着手したと発表した。2025年度末までに構築し、クラウドサービスとして提供する。真偽不明の情報をシステムに入力すると、判別結果を根拠の説明と共に提示する。富士通が開発プロジェクトのプライム事業者となり、再委託先となる企業・大学など富士通を含めた9組織で、2024年10月から共同研究開発を開始する。
9組織は、富士通、国立情報学研究所〈NII〉、NEC、慶応義塾大学SFC研究所、東京科学大学、東京大学生産技術研究所、会津大学、名古屋工業大学、大阪大学とのこと。
（東京科学大学は、東京工業大と東京医科歯科大が合併してできた大学）
有名な企業・大学・研究所が、4年間（実質３年半？）計60億円をかけて開発するということらしい。
NEDOが60億円を投じて「偽情報対策システム」、開発担当は富士通 NEDO（国立研究開発法人新エネルギー・産業技術総合開発機構）がインターネット上で流通する、フェイクニュースなど偽情報対策システムの開発に着手した。2024年から2027年までの3年間に60億円を投じ、実際の研究開発は富士通が担当する。 同システムの開発は、内閣府や経済産業省、その他の関係府省が連携し経済安全保障上重要な先端技術の研究開発を推進するため創設した「経済安全保障重要技術育成プログラム」の中で進める。NEDOや富士通が2024年7月19日に発表した。
富士通側の発表
何も知らないと、4年間計60億円あればすごいことができそうだ、と思うかも知れない。しかし、技術は継続。計画は４年間（実質３年半）。この間にでできることは、今すでにある技術、芽が出かかった事柄を集めて組みなおすこと程度だろう。（本当の意味でのイノベーションは４年より短い時間で起きる可能性はある。しかしあらかじめ計画した４年間で都合よくイノベーションを起こせる確率は低いだろう。だから４年間で成果を出すことを目標に据えるなら、今すでにあるものを組み合わせて使うという方法に行きつかざるを得ないはずだ。）
続いて開発内容について：
まず「情報の真偽判定」とは何か。直観的に思うのは、作成された情報が後で手を加えられた痕跡があるかないか、なら判定できる気がする。工学系の人たちが、これを「情報の真偽判定」と呼ぶだろうと想像するのは簡単だ。
しかし、これは表向きの説明なのではないかと感じる。実はこの枠ぐみで行われるであろう開発内容には恐ろしいシステムを含んでいるように見える。（３）偽情報評価技術では、社会的影響等を定量化・可視化するという名目の元、情報の受け取り手の反応を調べるツールを開発する、と言っているのだ。「脅威評価に資する指標・要素を開発する」と言う。つまりこのシステムを手にしたら、何を「脅威」とするか決められる。監視対象を特定し、監視対象の反応を逐次調べることができるということだ。
これを恐ろしいと思うには理由がある。311後の日本の話だ。２つの原発爆発後、きわめて短期間に「食べて応援」に傾いて行ったメディアの動きに疑問を持った人がいる。福島からは離れた所に住んでいたその人は、これを知るためどのようにお金が使われたかを知るため多くの情報開示請求をした。出て来た情報を元に経緯を調べた。開示された資料からは、メディアを使った広報を行っている実態がよくわかると言う。注目すべきは、放射能汚染の深刻さを発信し続けるインフルエンサーを探し出して、"対策"していた事実だ。（例えばこの動画 43:50 ～ を参照）
情報の受け取り手の反応を調べるツールは、意図を持って運用すれば、意にそぐわない反応を示す人を自動的に探し出すツールとして機能する。311の時は、恐らく人手でインフルエンサーを探し出していたのだが、今回はこれを自動化しようとしているのではないか。
「情報の真偽性判定」という名の開発の中で、何が行われるのか。注目して行きたい。