一田和樹のメモ帳

広義の文筆家。小説家。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究…

一田和樹のメモ帳

広義の文筆家。小説家。明治大学サイバーセキュリティ研究所客員研究員。新領域安全保障研究所 UNVEIL。 https://ichida-kazuki.com 連絡先 https://ichida-kazuki.com/post/650695238157058048/

  • 余談ですが……

    日常的なものごとです

  • 民主主義の現在

    民主主義に関する資料や記事などを紹介します

  • 新しい世界の話をしよう

    これから起こり得ることにについて書いています。 ほとんどフィクションです。 おそらくいい意味でも悪い意味でも他では読めないものしかありません。 アパ日本再興財団の懸賞論文に応募するか、正論に寄稿しようと思うんですが、ダメですよね。

  • ファクトチェックを取り巻く課題

    ファクトチェックを取り巻く課題をビジネスなどの側面。特にパトロンとなっているフェイスブックやグーグルの問題点を取り上げています。

  • デジタル権威主義

    デジタル権威主義についての情報を発信してゆきます。 当面は備忘録代わりにニューズウィーク日本版などに発表した記事の資料を掲載します。余裕できたらオリジナル記事を書くかもしれません。

すべてのマガジンを表示

LLMから幻覚を取り除くのは不可能ということを数学的、論理的に証明した論文

2024年9月9日、Sourav Banerjee, Ayushi Agarwal, Saloni Singlaらの論文、「LLMs Will Always Hallucinate, and We Need to Live With This」（ https://arxiv.org/abs/2409.05746 ）が公開された。この論文はLLMの幻覚（hallucinations）は原理的に除去不能であることを証明した。 ●概要論文ではLLMの原理を分析し、すべての幻覚が構

一田和樹のメモ帳

    • Social Media Labによるオープンソースの選挙広告分析ツールPoliDashboard

      カナダのSocial Media Labが公開した各国でMetaに出稿されている選挙広告の分析ツールPoliDashboard。14カ国に対応。残念ながら日本は入っていない。 国をクリックすると、こんな感じで選挙広告の出稿費用のランキングが表示され、その詳細を確認できる。 広告で使用された単語の分析もできる。ハリス陣営は対トランプを最大のアピールにしているようだ。 好評発売中！ 『ネット世論操作とデジタル影響工作：「見えざる手」を可視化する』（原書房） 『ウクライナ侵攻

      一田和樹のメモ帳

      • 最近の新領域安全保障研究所の見所

        新領域安全保障研究所の仕事がバタバタしていて、noteの更新がすっかりおろそかになってしまった。 最近の新領域安全保障研究所の記事で興味深いものをご紹介。 Data & Societyによる「偽・誤情報の棚卸し2024」偽・誤情報の分野ではちょっと知られたData & Societyの「偽・誤情報の棚卸し」4つのレポート。いずれも力作ぞろいなので必読だと思う。 Weirder Oxygen and W Building Trust to Counter Misinforma

        一田和樹のメモ帳

        • ニュースに関心を持っているほど、政府やメディアの偽・誤情報脅威ナラティブにはまりやすい

          最近の政府の省庁やメディアによる偽・誤情報脅威論の煽りには目を疑うものも多い。先日、ロイタージャーナリズム研究所が公開した「ロイター・デジタルニュースリポート2024」の偽・誤情報に関する部分について、NHK放送文化研究所ブログに解説記事（ https://www.nhk.or.jp/bunken-blog/200/671694.html ）が掲載されていた。 解釈が真逆だったNHK放送文化研究所ブログ最近、フェイクニュースへの不安が高まっていることを「認識が高まった」と肯

          一田和樹のメモ帳

        LLMから幻覚を取り除くのは不可能ということを数学的、論理的に証明した論文

        一田和樹のメモ帳

        マガジン

        • 余談ですが……
          172本
        • 民主主義の現在
          412本
        • 新しい世界の話をしよう
          5本
        • ファクトチェックを取り巻く課題
          54本
        • 定期資料置き場
          24本
          ¥10,000
        • デジタル権威主義
          218本

        記事

          シチズン・ポートフォリオ革命

          シチズン・ポートフォリオについては、もはや世界的に当たり前のことになってしまったので、日本が最初に始めたということを知らない学生も多いと思う。202＊年、総選挙の際、野党も与党も目立った政策を打ち出せていなかった。そこに降って湧いたように「シチズン・ポートフォリオ構想」がバズって話題になった。経済学者や政治学者はメディアの解説に駆り出され、世論はシチズン・ポートフォリオ導入に傾いた。しかし、当初は野党も与党もシチズン・ポートフォリオがなにであるかを理解できておらず、さらにはそ

          一田和樹のメモ帳

          シチズン・ポートフォリオ革命

          一田和樹のメモ帳

          『小説　新聞社販売局』新聞社が透明性を持てない理由がいやというほどわかる本

          『小説　新聞社販売局』（幸田泉、講談社、2015年9月）を読んだ。10年前の本だけど、新聞者ってほんとに反社だなという印象を強くした。 本書は小説の形態を取っているものの内容は固有名詞を伏せた形での新聞社の内部腐敗の告発本となっている。主人公は編集局の記者だったが、編集局長ににらまれたため、販売局に異動させられてしまう。そこでは想像を超えた現実が待っていた。 お話しそのものもおもしろいが、やはり気になるのは新聞者の腐敗の構造だろう。いくつかキイワードをご紹介しておく。おそ

          一田和樹のメモ帳

          『小説　新聞社販売局』新聞社が透明性を持てない理由がいやというほどわかる本

          一田和樹のメモ帳

          科学論文のバグ・バウンティ・プロジェクトERRORが始動　ファクトチェックにも報奨金を！

          nature　Vol:632に掲載された「Cash for catching scientific errors」 https://www.nature.com/articles/d41586-024-02681-2 は、科学論文のバグ・バウンティ・プログラムという珍しいプロジェクトを紹介している。 ●概要科学論文のバグ・バウンティ・プログラム＝ERRORプロジェクトはベルン大学のデジタル化戦略を推進する基金「Humans in Digital Transformation

          一田和樹のメモ帳

          科学論文のバグ・バウンティ・プロジェクトERRORが始動　ファクトチェックにも報奨金を！

          一田和樹のメモ帳

          フェイクニュースが蔓延し大きな影響を持っているという神話　＃偽・誤情報の神話　＃3

          「誤・偽情報対策を見直すために読むべき論文や記事のガイド」（ https://note.com/ichi_twnovel/n/n06d3fda04ac2 ）で紹介したDan Williamsの偽・誤情報にまつわる神話をデバンキングするシリーズ。神話は全部で5つ。 1．私たちは前例のない「偽・誤情報の時代」あるいは「ポスト真実」の時代を生きている 2．偽・誤情報を特定するのは政治的に中立な仕事である 3．フェイクニュースは蔓延し、大きな影響力を持つ 4．人々は偽・誤情報に簡単

          一田和樹のメモ帳

          フェイクニュースが蔓延し大きな影響を持っているという神話　＃偽・誤情報の神話　＃3

          一田和樹のメモ帳

          2024年Q2、Metaの脅威レポートを公開　ドッペルゲンガーはパーセプション・ハッキングだった！？

          フェイスブック、インスタグラムなどを運営するMetaが最新の脅威レポート（ https://transparency.meta.com/ja-jp/metasecurity/threat-reporting/ ）を公開した。 ●キイとなるポイントロシア（4つのテイクダウン）、ベトナム（1）、アメリカ（1）およびロシアのドッペルゲンガーにつおての最新情報が主たる内容となっている。 まず、冒頭でキイとなるポイントが提示されている。 ・生成Aiの利用 ロシアの偽・誤情報キャン

          ¥10,000
          一田和樹のメモ帳

          2024年Q2、Metaの脅威レポートを公開　ドッペルゲンガーはパーセプション・ハッキングだった！？

          一田和樹のメモ帳

          偽・誤情報ではない情報の方が多いのだから警戒一辺倒ではなく信頼とのバランスを取った対策が必要ということを検証した論文

          我々が日頃接する情報のほとんどは偽・誤情報ではないことは数々の調査研究でわかっている。現在行われている偽・誤情報対策は、偽・誤情報を検知し、排除することに焦点を当てており、メディア・リテラシーは人々に情報に対して懐疑的になることを奨励している。しかし、誤った情報を信じることが、信頼できる情報を拒否するよりも有害であるという検証は行われているわけではない。 ●概要この論文「Media literacy tips promoting reliable news improve

          一田和樹のメモ帳

          偽・誤情報ではない情報の方が多いのだから警戒一辺倒ではなく信頼とのバランスを取った対策が必要ということを検証した論文

          一田和樹のメモ帳

          『日本の未来、本当に大丈夫なんですか会議』を読んで、わかったような気になった

          『日本の未来、本当に大丈夫なんですか会議』（西田亮介、安田洋祐、日本実業出版社、2024年6月14日）は、社会学者である西田亮介と、経済学者である安田洋祐の対談で、次の4つをテーマに語っている。 1．日本の経済 2．日本の政治 3．日本の教育 4．経済学と社会学について 対談や語ったものをまとめたものは読みやすい分、文章量に対して中身が薄い印象があったが、本書は内容もてんこ盛りで、おすすめだった。 ●概要対談ではあるのだけど、交互に話をするというより、ある程度のボリュー

          一田和樹のメモ帳

          『日本の未来、本当に大丈夫なんですか会議』を読んで、わかったような気になった

          一田和樹のメモ帳

          警戒主義が広がった結果、プレバンキングは不要になったという論文

          実験以前から被験者達が偽・誤情報への警告にさらされていたため、プレバンキングの効果がなかったという結果の論文。 オランダのアムステルダム大学のMichael Hameleersの論文「Is the alarm on deception ringing too loudly? The effects of different forms of misinformation warnings on risk perceptions of misinformation expos

          一田和樹のメモ帳

          警戒主義が広がった結果、プレバンキングは不要になったという論文

          一田和樹のメモ帳

          官公庁とメディアは、SNSを見習って透明性レポートとデータアクセスを提供すべきだ

          官公庁とメディアはことあるごとにSNSを偽・誤情報問題の元凶として批判するし、マルチステークホルダーとしての協力を要請する。しかし、その一方で自分たちの透明性を改善する努力はしていないように見える。 ●ウェビナー「『官製ファクトチェック』の出現を危惧する」で感じたこと昨日、登壇した「『官製ファクトチェック』の出現を危惧する」では、テーマ通りに官公庁の透明性の問題の指摘にもガンガン話が出た。大手メディアがおよび腰という話なんかも出た。 もともと私自身は「『官製ファクトチェック

          一田和樹のメモ帳

          官公庁とメディアは、SNSを見習って透明性レポートとデータアクセスを提供すべきだ

          一田和樹のメモ帳

          サイエンスコミュニケーションの新たな課題？　X上で科学者は平均よりも多く政治的発言を行っており、強いほど信頼を失う傾向があるという論文

          2016年から2022年にかけて、Twitterを利用していた9万8000人の科学者行動と、1,700人のサンプルに対する科学者のオンラインでの政治的発言の影響を分析した論文「Politicized Scientists: Credibility Cost of Political Expression on Twitter」（Eleonora Alabrese, Francesco Capozza, Prashant Garg、CESifo Working Paper No

          一田和樹のメモ帳

          サイエンスコミュニケーションの新たな課題？　X上で科学者は平均よりも多く政治的発言を行っており、強いほど信頼を失う傾向があるという論文

          一田和樹のメモ帳

          偽・誤情報関連アクターのアジェンダ設定パターン　メディアの偽・誤情報マッチポンプ・ビジネス？

          偽・誤情報関連アクターは根拠なしの言動が多い偽・誤情報のアクターには、FIMI（海外からの情報干渉、Foreign Information Manipulation and Interference）、SNSプラットフォーム、IBEs（Identity Based Extremists）、政府や当局、専門家、反IBE、メディアなどがある。 これらの関係アクターのFIMI、政府と当局、IBEs、メディア、専門家は根拠なく、自分たちの利益のために偽・誤情報が発生するたびに同じ

          一田和樹のメモ帳

          偽・誤情報関連アクターのアジェンダ設定パターン　メディアの偽・誤情報マッチポンプ・ビジネス？

          一田和樹のメモ帳

          「情報セキュリティ白書2024」第4章「4.1 虚偽を含む情報拡散の脅威と対策の動向」を読んだ

          「情報セキュリティ白書2024」（ https://www.ipa.go.jp/publish/wp-security/wp2024dl.html ）に誤・偽情報のことが書いてあるというので、さっそく読んでみた。想像していた以上によくできていて驚いた。日本の事例もかなりちゃんと紹介されていた。日本語だし、読みやすいし、おすすめです。この分野を追いかけている人にとって、目新しい情報があるわけではないが、網羅的に紹介されているので、「これは知らなかった」という発見もあると思う。

          一田和樹のメモ帳

          「情報セキュリティ白書2024」第4章「4.1 虚偽を含む情報拡散の脅威と対策の動向」を読んだ

          一田和樹のメモ帳