AIによる偽情報から社会・脳・命を守り、活かすHumanity Brainを創業します
本物の人間は誰？ 真実のわからない社会
引用2:https://www.theclueless.ai/models
この画像には、本物の人間が一人だけ存在し、それ以外は全てAIで生成された架空の人物です。奇抜なジャケットを着たローマ法王や、フォロワー32万人を超えるAIインフルエンサー、そして右上にいる2人の女性のうち、どちらかひとりが本物です。偽物はこちらのwebサイト「This Person Does Not Exist 」で生成されたものです。
現在、インターネット上はAIで生成された真偽不明の情報で溢れています。その中には、私たちの知らないうちに、考え方や行動を意図的に操作する偽情報も含まれています。そして偽情報によって選挙投票が操作され、戦争では命が奪われるセンセーショナルな事件が起きています。私たちはすでに、思想、行動、意思決定が操作され、国家の安全、民主主義、命（脳の発達など）が脅かされる世界に生きています。映画『インセプション』のように潜在意識が支配され、考え方や行動が操作される危機はすでに現実となっています。
私はこれらの脅威から「守り」人類の可能性を広げるための新会社Humanity Brainを創業し新たな挑戦を始めます。Humanity Brainでは、意思決定や認知・学習プロセスをアップデートするAI技術の開発とソリューション提供を政府、企業、個人に向けに行う予定です。
（これに伴い、前職のNature Architectsの社長を辞任しました。詳しい経緯こちらをご覧ください）
本記事の内容
偽情報が拡散されることで生じる危機的状況について戦争や政治だけでなく、脳の発達障害など、さまざまな側面から解説します。
こうした脅威に対抗する「コグニティブセキュリティ」と呼ばれる新技術と、国内外の動向について
Humanity Brainの技術開発、事業開発からチームビルディングについて
AIによる偽情報が蔓延する恐ろしさ
ここ数年で、生成AIによるコンテンツやAIアカウントが急速に増加し、真偽不明の情報がネット上に溢れています。そして、偽情報によって考え方や行動が操作される事件が増加し、国家や民主主義、命（脳の発達など）が危険に晒されています。ここからは、具体的に起こった事件や研究で明らかになった脳発達な弊害などをみていきます。
国家や民主主義への脅威
ロシアとウクライナの戦争では、偽の避難情報がSNSで拡散され、日常的に命が奪われています。当時、ウクライナのシェルターに避難していた私の友人はSNSから流される偽の避難指示に従い行動し、待ち構えていた敵国兵士に虐殺される事件を目の当たりにしたと言います。
2023年には、ウクライナのザルジニー総司令官が大統領を非難し、「指揮官の指示に従わず、首都キーウに集まれ」と呼びかけるAIで作成された偽動画がSNSで拡散されるなど、国民や兵士を混乱させるAI情報戦が繰り広げられています*1。
2016年のアメリカ大統領選挙では、AIを利用して秘密裏に投票が操作されていたことが明らかになりました。ケンブリッジ・アナリティカ社は、Facebookの「いいね」をデータ解析し、支持政党から性的嗜好まで85％以上の確率で予測できたと言われています*2。これを基に、影響を受けやすい人々をターゲットに広告が行われ投票を誘導したことが判明し、民主主義を揺るがしかねない大きな社会問題へと発展しました。
日常にも潜む認知戦
こうした脅威は人間の考え方すなわち「認知」をいかに占領するかという戦い：認知戦（コグニティブウォーフェア）と呼ばれ、すでに国内外で危険性が強く認識されています。
私たちの日常生活も認知戦と無関係ではありません。例えば、インターネットを頻繁に利用する12歳から15歳の子どもたちは、利用頻度の低い子どもたちに比べて大脳がほとんど発達しないという驚くべき事実が報告されています*3。SNSはユーザーの注意を引きつけるために意図的に設計されており、そこでは限られた認知資源を奪い合う認知戦が繰り広げられています。
真実よりも偽情報は強い影響力持つ
多くの人々にとって、SNSで流れてくる情報の真偽をいちいち確かめる余裕はありません。 私自身も、恥ずかしながら新型コロナウイルスが蔓延したパンデミック下で無意識のうちに「コロナは毒性が低く、パンデミックもすぐに収束する」といった、自分の信じたい情報ばかりを集めてしまった経験があります。
最新の研究によると、偽情報を信じる人々に正しい情報を与えても、半数近く（43%）がそれを意図的に避け、93%が偽情報を信じ続けるという実験結果が報告されています*4。また、別の研究では、SNS上は偽情報が真実よりも何倍も速く、広く、深く拡散されることが明らかになりました*5。つまり、偽情報は正しい情報よりも影響力が数倍も強く、訂正も困難であることが科学的に示されたことになります。
AI社会は人間性の危機的状況にある
このままでは、嘘をつく者が得をする社会が加速し、ディストピアが到来しかねません。「アテンションエコノミー」と呼ばれる人々の注意や関心を引くことが経済合理性を持つ社会や、自分が求める情報だけが溢れる「フィルターバブル」、そして極端な思想が強化され続ける「エコーチャンバー現象」が、より一層過激化するでしょう。我々は、これまで当たり前だった認知、意思決定、学習が機能しなくなるかもしれない、歴史上かつてない人間性の危機に直面しています。
認知を守る：コグニティブセキュリティ
認知戦の危機に対抗するために、「コグニティブセキュリティ」と呼ばれる新しい技術が国内外で求められています。すでに各国の政府は大型の予算を編成し、いくつかの企業が技術開発を行いソリューションを提供しています。サイバーセキュリティはコンピュータウイルスなどのマシンへの攻撃から守る技術でしたが、コグニティブセキュリティは、人々の考え方、つまり認知（コグニティブ）への攻撃から守る全く新しい技術領域です。
情報の環境汚染で必要な技術
現在、AIは情報の生成や発信といった「アウトプット」側で主に活用されています。一方、情報の認知・理解・意思決定を行う「インプット」には十分に活用されていません。凄まじい速さで情報の生成や発信が進化し、高度に複雑化する中で、生身の人間が自力で情報を処理し続けることは、汚染された情報環境中で悪影響を受け続けることを意味します。したがって、インプット側にこそAIと人間の共進化を促すテクノロジーが必要だと私は考えています。
Humanity Brainの使命
株式会社Humanity Brainでは、個人、企業、国家を横断して認知戦の脅威から認知機能を「守り」「活かし」、学習や意思決定をアップデートするAI技術を開発します。また、防衛や政治に限らず、医療や教育などあらゆる領域に適用可能な汎用技術を構築し、政府、省庁、学術界と密に連携しながら、ソリューション提供を行います。Humanity Brainは技術開発と事業を通じて、人類を根源的に理解し、アップデートすることを使命とします。
国内外のコグニティブセキュリティの状況
アメリカやイスラエルでは、コグニティブセキュリティに特化した企業がいくつか存在しますが、日本ではほとんどみられません。一方で、日本の政府や省庁は強い危機感を抱いており、すでに数十億規模の予算が複数編成され、大型の研究プロジェクトが進行しています*6,7,8,9。
コグニティブセキュリティ市場は2030年には市場規模が約20兆円に達すると予測されていますが、まだ成熟していない全く新しい新しい領域です*9。この記事で述べてきた通り、認知戦の脅威は防衛や政治にとどまらず、教育、医療、マーケティングなど、あらゆる産業に深く関わります。そして、認知戦に対抗するためには、AI化が進む社会の中で人間が本来もつ認知、学習、意思決定などを再定義する必要があると考えています。つまりシンギュラリティに向かう中で人間性が根源的に問い直されることへの挑戦でもあり、20兆円をはるかに超える大きな市場が生まれると私は確信しています。
なぜスタートアップとして挑戦するのか
コグニティブセキュリティの領域は課題の捉え方から技術開発、ソリューション提供に至るまで、どの組織も正解を模索している段階です。スタートアップ企業だからこそできる高速な技術開発、柔軟な政府・省庁との連携、トップレベルの人材を集めたチームビルディングが流動的に進化する社会の課題を解決るために必要です。Humanity Brainはスタートアップとしてこの領域のリーディングカンパニーとなることを目指します。
技術開発
課題解決のために、専門領域を横断し統合した技術開発を行います。
具体的には、
・音声や画像・動画など各メディアごとのAI生成による偽情報の検出技術
・意味（ナラティブ）の解析や偽情報検知のためのネットワーク解析技術
・高精度な個人特性のモデリング技術
など、異なる領域の技術を統合した基盤技術を構築します。さらに、最先端の技術を持つデジタルツイン企業と連携し、デジタルツインと当社技術を統合することで、個人の特性や多種多様のエージェントを組み込んだ、様々な用途に活用できる社会シミュレーションの実行環境を実現します。技術開発の詳細は機密の観点で伏せています。詳しく知りたい方は私まで直接ご連絡ください。
倫理規定の重要性
我々が開発する技術は、大衆操作に悪用されるリスクがあるため、倫理規定を明確にし、機密性と透明性を両立させることが重要です。何が真実であるかは立場によって異なることもあり、非常に難しい問いです。真実かどうか、プロパガンダかどうかといった問題にはグレーゾーンが多く、論点やリスクが多い事業になるでしょう。だからこそ、倫理規定を定め、透明性と機密性をバランス良く両立させながら事業を進める必要があります。
なぜ私たちにできるのか：チームビルディング
私がこれまで代表を務めていたNature Architects株式会社では、AI、形状処理、物理シミュレーション、メタマテリアルなど、複数の要素技術を横断的に統合することで、ファッション、自動車、防衛産業をはじめ、国内外のあらゆる製造業の重要な課題解決に取り組んできました。たとえ学術的に成熟した技術であっても、異なる領域を横断・統合することで、事業視点から最先端技術を生み出し、人類を前進させることができると信じています。Nature Architectsでディープテック領域の技術開発と事業拡大を先導した経験を活かし、Humanity Brainで新たな挑戦に取り組んでいきます。
事業目線で異なる要素技術を統合する、新しい技術課題の開発を行う
この挑戦を進めるために、私たちは既に複数の連続起業家やサイバーセキュリティの専門家を中心に創業メンバーを組織しました。さらに、政府や省庁との密接な連携を行い、学術界とも連携し最新の研究を技術開発に組み込んでいきます。政府、省庁、学術界、産業界からトップレベルのチームを組織し、非常に困難かつ挑戦的な課題に取り組みます。
仲間を募集しています （特にCTO候補）
私たちはすでに、連続起業家を含む数名の創業メンバーによるチームを組成し、今後はトップレベルの技術を持つ企業との資本業務提携や、最先端の研究を行う研究者との連携を具体的に計画しています。しかし、技術開発を共に行う仲間がまだ不足しています。ゼロイチの立ち上げから、人類全体が直面する全く新しい挑戦的な課題に取り組む仲間を求めています。少しでも興味を持っていただけた方は、ぜひ私までご連絡いただければ幸いです。
株式会社 Humanity Brain
代表取締役 CEO
X
参考文献
[1]https://www.tokyo-np.co.jp/article/336056
[2]"Correction: Sordid genealogies: a conjectural history of Cambridge Analytica’s eugenic roots"Michael Wintroub
[3]"Impact of frequency of internet use on development of brain structures and verbal intelligence: Longitudinal analyses". Takeuchi et al., Human Brain Mapping 2018
[4]"Who Does Not Benefit from Fact-checking Websites?: A Psychological Characteristic Predicts the Selective Avoidance of Clicking Uncongenial Facts"Yuko Tanaka et al.CHI '23: Proceedings of the 2023 CHI Conference on Human Factors in Computing Systems
[5]"The spread of true and false news online"Soroush Vosoughi Deb Roy, and Sinan Aral, Science
[6]https://www.nedo.go.jp/news/press/AA5_101763.html
[7]https://www.soumu.go.jp/main_sosiki/joho_tsusin/d_syohi/taisakugijutsu.html
[8]https://research.nii.ac.jp/~iechizen/crest/index.html
[9]さきがけ：民主主義のレジリエンスを高めるための社会変革技術
[10]https://www.gii.co.jp/report/ires1466522-cognitive-security-market-by-component-services.html
[11]ディープフェイクの衝撃 AI技術がもたらす破壊と創造 (PHP新書)
笹原 和俊