選択と相対 ヒュームと因果推論
人間と同等あるいはそれ以上の知能をもつAGI（汎用人工知能）の出現が現実味をもって語られ、専門分野にとどまらない一般的な政治経済のニュースとしてとりあげられることが目に見えて増えている。それまでAGI出現に懐疑的であった人たちまで、急速な生成AIの進化によって簡単には見過ごせなくなっている。
トランプの選択
2025年1月20日に行われた大統領就任式においてドナルド・トランプは、記録的な数の大統領令に署名するというパフォーマンスをもって、みずからのリーダーシップと変革の始まりをド派手に演出した。
大統領令のなかには、アラスカにある北米最高峰デナリ山の名称を旧称のマッキンリー山に戻すなど印象的なものが散見された。マッキンリー山は、20世紀最初のアメリカ大統領であり共和党のウィリアム・マッキンリーにちなんで名付けられていたが、2015年、民主党のバラク・オバマ大統領時代にアラスカ先住民の呼び名であったデナリ山に改称していた。それをまたトランプは「関税と自身の才能によって我が国を非常に豊かにした」と賞するマッキンリーの名に戻した。ここにトランプのメッセージを読みとるのは容易なことだ。
ちなみに、マッキンリーといえばわたしの子ども時分のアイドルであった植村直己が遭難した山である。稀代の冒険家が遭難したのは、かねてからの夢であり何度も阻まれてきた南極大陸横断の許可をようやっとのこと得て、出発直前まで漕ぎ着けていたものの折からのフォークランド紛争によって断念せざるを得ず、以前に登頂を果たしていたマッキンリー山に世界初の冬期単独登頂に挑み成功した、その下山中のことだった。植村直己の冒険記を読み漁っていた中学生だったわたしは捜索打ち切りのニュースに非常なショックを受けた。ずいぶん余談となったが、マッキンリーといえば、今回もまた植村直己のことをしばし思ったわけで、ここに記しておきたい。
閑話休題。1月20日のトランプはさらに重大な、AIと半導体をめぐる地政学にも影響を与えうる大統領令に署名している。それは、地球温暖化対策の国際的な枠組みである「パリ協定」からの離脱だ。同日に署名した大統領令では、不法移民の入国の阻止に向けた非常事態宣言と並ぶ重大なものだったと言えるだろう。
その翌日1月21日、トランプ大統領はOpenAI、ソフトバンク、オラクルと提携した5,000億ドルの人工知能投資計画「スターゲイトイニシアティブ」を発表した。アメリカにおけるAI関連の大規模なインフラ構築を目指すもので、手始めに1,000億ドルがテキサス州のAI用の半導体工場建設およびデータセンター運営に投じられる。
計算資源をめぐる地政学
半導体工場、データセンターの一大拠点は莫大な電力消費は必定で、CO2排出を規制する地球温暖化対策の国際的な枠組みである「パリ協定」からの離脱は、その点でも重要な意味をもってくるだろう。
ホワイトハウスの執務室で行われた就任記者会見で、ウクライナ戦争について問われ「プーチンとのDeal（取引）を重視する」と答えたトランプにとって、スターゲイトイニシアティブは“大アメリカ株式会社“の最高経営責任者として最重要プロジェクトなのだ。トランプにとっては外交であれ、行政であれNegotiation（交渉）ではなくDeal（取引）なのだという、ビジネストップらしさを強く印象づけた。
わたしなどはこのニュースが出た直後に、中国の新興AI企業DeepSeekが既存の生成AIほど計算資源を問わない言語モデル「R1」を発表したのは、中国政府と中国企業によるスターゲイトイニシアティブに対する牽制の意味があるのではないかと勘繰ってしまった。DeepSeek R1のインパクトはなかなかでGPU製造の最大手で飛ぶ鳥を落とす勢いであったNVIDIAの株価を急落させた。
GPUの性能つまり計算力をさほど問わない生成AIの登場はゲームチェンジャーとなりうるもので、米中を中心として台湾（TSMC）、韓国（Samsung）、日本を巻き込む東アジアの地政学の点からも決して看過できるものではない。
計算資源をめぐる地政学は、ものすごい熱量で動いており今後も注視しないわけにはいかない。
AGIの要件
スターゲイトイニシアティブに日本企業として出資したのはソフトバンクである。
トランプ政権にいるイーロン・マスクはその投資額に対し、名指しで疑念を発したりしたのだが、このあたりはイーロン・マスクとOpenAIのCEO、サム・アルトマンとの因縁めいた話の類だろう。
ソフトバンクグループとOpenAIが合弁会社「SB OpenAI Japan」を設立するとのニュースが流れたのは2月3日のことだ。来日したサム・アルトマンと登壇したソフトバンクグループの孫正義氏は、日本の大企業に向けて業務効率化と意思決定支援を行う最先端AIツール「クリスタル・インテリジェンス」の提供を開始すると発表した。
孫氏はさらに「1年前にはAGI（汎用人工知能は）は『10年以内にやってくる』と申し上げたが、数カ月前に私は『2～3年以内』と訂正した。今、私は『本当にもっと早くやってくる』とコメントしたい」と述べた。
孫氏が、こうした発言を繰り返してきたことはこのコメントのなかでも窺い知れるし、そのたびにちょっとしたニュースにはなってきたが、今回ほど氏特有の煽り抜きに現実味をもって感じられたのは初めてだ。
AGI（汎用人工知能）なんて、まだ先の話だと思っていたのに、ここ数年、ここ数カ月の信じられないほどの進化のスピードによって大きく印象が変化した。テクノロジーの進化予測の常識がすっかり破壊されてしまい、信じられないような進化を“信じざるをえない”事態に至っているためだろう。
もちろん、AGIの要件を「人間と同等あるいはそれ以上の知能」とひと言でいったところで、人間の知能さえ要件を定義できるものではないのだから、さまざまに知能は解釈できるものだし、不可知論的な立場をとれば永遠に知能など理解することはないということもできる。
しかし、孫氏らが目指す自律的に判断して業務を行うという、昨今話題のAIエージェントをもうすこし高等にしたレベルのAGIであれば、遠からず実現しそうだ。
フレーム問題で問われるような常識の把握や、ハードプロムレムと言われるような主観的な意識の取得、わずかな経験から論理を導いたり抽象化したりして世界をメタ認知するといった高度な課題は挙げればキリがない。ただ、現に現在のAIは概念登場の当初期に想定されていた汎用的な知能のレベルに達していると考えられる。すでに、「チューリングテスト」の域をChatGPTが易々とクリアしているのは誰もが感じている。
決定論的な“反省”
一方で、わたしたちはAGI誕生を祝福できるほど呑気ではない。
人間の知能を凌駕するAGIが人間の脅威になりうる未来も同時に想像しているからだ。単にAIに“仕事を奪われる式”の脅威だけならまだしも──いや、これはもちろん重要だ。しかし仕事を奪われるのは決して現状の経済格差の敗者のほうとは限らない──、AIが優れた知能と処理能力で政治や経済をコントロールする可能性、あるいは軍事目的での使用によって紛争の犠牲者が増加するといった脅威もある。
その点で、AGIにいち早く備えてほしいのは、常識や意識、感情という掴みどころのないものよりも、端的に道徳や倫理のようなものだろう。意識、感情と、道徳、倫理の関係がいかようなものであるかは古くから哲学の問題であったし、カントあたりを参照してなにかを語らなければならないのかもしれないが、残念ながらわたしにその力はない。
わたしが、AIに対し人と同じように生活するレベルに達するために求める“自律”は、指示がなくともみずからの判断で処理や行動を始動するといった類のことではない。わたしが求めるAIの“自律”とは、みずからを省みる知能を有することだ。みずからの処理や行動が、いかなる結果を導きうるのかを想定する知能だ。端的に言えば、反省ができるかどうかということだ。
反省などというと、よく議論される代表的なものに「自由意志」の問題が想起されるあもしれない。決定論的なルールに準拠した処理や行動ではなく、AIが自由に──ときにはルールを犯して──処理、行動を選択するということになろうが、わたしたち人間の自由意志さえ哲学的、心理学的に難解な問題でありAIの自由意志を論じる力はこれもまたわたしにはない。
とはいえ、AIに求める反省とは人が人に求めるべき反省とはやや違うものであると考えている。人がAIに求める“反省”となれば「自由意志」の有無は一旦、保留することはできないだろうか。
アルゴリズムに基づいた決定論的な“反省”。AIに求めるそれはフィードバックループのような構造的なものであっても構わないのではないか。価値判断をできなくとも、アーキテクチャとして失敗を繰り返さなければ良いのではないか。人間のような罪悪感までをもつことは不要なのではないか。
いや、待てよ。価値判断がなければAIも自律的にフィードバックループをまわすことはできないのかもしれない。だいぶ、頭の中が混乱してきてしまっている。
反実仮想は何をもたらすか？
AIが人間の知能に匹敵するには因果推論の能力が必要だと説いたのはコンピュータ科学者で哲学者のジューディア・パールだ。パールは『因果推論の科学 「なぜ？」の問いにどう答えるか』（ダナ・マッケンジー共著/松尾豊監修/夏目大訳/文藝春秋)のなかで、因果推論の能力が人間の高度な思考、特に「反実仮想」に不可欠であると論じた。
反実仮想とは、「もしも○○だったらどうなっていただろう？（Xが原因でYが起きたのか？ Xが起きなかったらどうなったのか？ 違う行動をとったらどうなったのか？）」といった、実際には起こらなかった事象について考える能力である。過去の行動や判断を振り返り改善点を見つけ出すプロセスである“反省”は反実仮想と深く関連している。
因果推論とは、言い換えれば本書の副題にもあるように「なぜ？」──原題はThe Book of Why──を考えることである。なぜを問うことは物理的な原因、心理的な原因など事象の発端要因を問うことである。自然科学や統計学、機械学習は、データのパターン認識は得意だが「なぜ？」を問うことはできない点を重大な問題として、パールは長い年月をかけて因果推論モデルを研究、開発した。
本書でパールは、「なぜ？」を問うことの重要性を説き、従来の統計学やAIが因果関係を追求してこなかったことを批判する。近代統計学は相関関係を分析できるが、「喫煙が肺がんを引き起こすのか？」というような問いに誰でもが納得するような──肺がんには遺伝的素因もある──客観的な因果関係を明確にはできない。
パールはこうした問題を克服するために、関連づけ（観察）・介入・反事実の三段階である「因果のはしご」論を提唱し、因果ダイアグラムやdo演算子といった手法を開発することで、因果推論を可能にする数学的な手法を提示した。
因果推論は人間の知能の核心であり、過去を振り返り「もし別の選択をしていたら？」と考える反実仮想にも不可欠だと述べる。現在のAIは相関しか扱えないが、真の知的システムを構築するためには因果推論の能力が必要となる。因果推論を取り入れることで、未来予測や説明可能なAI（XAI）の実現が可能になるとパールは主張する。
因果ダイアグラムは、プロセスに多様な変化を与えうる変数を整理しながら因果関係を視覚的に表現するツールであり、交絡因子とコーライダーという要素によって因果関係を整理する。
「アイスクリームの売上が増えると、溺死者数も増える」といった事象の観察において、２つの変数（「アイスクリームの売上」と「溺死者数」）が生じさせる“偽の因果関係”（「アイスクリームによって溺死する」）を整理するために必要となる共通の要因（この場合は「気温」）のことを、交絡因子という。
一方、コーライダーとは「健康診断を頻繁に受ける人ほど、病気である確率が高い」というような、2つの変数（「健康診断の受診頻度」と「病気の確率」）を関連づけするとかえって誤った相関を生じさせ、バイアス（「健康診断を受けると病気になりやすい」）となって適切な因果推論を阻害させてしまう要因だ。
さらに、do演算子とはある事象の観察にとどまらず、「もしXを人為的に操作したら、Yはどうなるか？」 という介入を表現するために用いられる手法である。「アイスクリームの売上（X）を減らすと、溺死者数（Y）も減るか？」といった操作（介入）をすれば、この２つに因果関係が成り立たないのが明瞭になる。
ひじょうに乱暴に『因果推論の科学』の要点をまとめたが、その内容はわたしには難解なものであり、これ以上わかりやすく説明する術が思いつかない。しかし、本書のメッセージするところの重要性にはとても感銘を受けた。AIの進化のプロセスに必ずや因果推論の能力が必要となることが、嫌が応にもわかったからだ。
相関関係で眺められた世界
『因果推論の科学』がわたしにとって重要な示唆をもったのはもうひとつある。ここ数回の記事で論じてきたことに通底する大きな時代背景が浮かびあがってくるのだ。
パールは、従来の統計学では因果関係を推定できないという。それどころか、統計学者あるいはそのデータを基にする少なくない科学者が、この世に確たる因果関係はなく相関関係しかないと考えている。
統計学では、確率論とグラフ理論を組み合わせたモデルである「ベイジアンネットワーク」が代表的だが、ベイジアンネットワークには先に見た介入の考え方がない。データを任意に操作して因果関係を検証できないのだ。もうひとつの統計学の代表的な手法「ランダム化比較試験（RCT）」はデータを任意に操作する介入を行えるのだが、RCTが実施できるのはかなり制約された条件下のみとなる。大規模なデータを収集するためのコストや人体実験じみた操作が必要になったりするため、経済的にも倫理的にも許されない場合が多々ある。
パールは、序章で統計学の大家の名を挙げてこう断言する。
実のところ、近代統計学は、ゴルトンとピアソンが遺伝に関する因果的な問いに答えようとしなかったことから生まれたものである。二人はその問いに、何世代にも及ぶ人々について集めたデータを使って答えようとした。残念ながら、二人はその試みに失敗したが、そこで立ち止まってなぜ失敗したのかを考えることはせず、代わりにこの問いを「扱ってはならぬもの」としてしまった。そして、因果関係を除外した統計学を生み出し、それが現在にいたるまで繁栄を続けているわけだ。
ともにイギリス人のフランシス・ゴルトンとカール・ピアソンは、統計学の先駆者といわれる科学者で19世紀から20世紀にかけて活躍した。ゴルトンは「相関」や「平均への回帰」といった概念を発見し統計学を創始し、ピアソンがそれを厳密に数式化──数学の言葉に翻訳──した功績で名高い。ゴルトンは、遺伝をめぐってあの悪しき優生学を生み出してもいる。これが「遺伝に関する因果的な問い」と述べられている部分だ。
因果関係を除外し相関関係のみを問う統計学の誕生は、近代化によって情報収集、データ集積が加速的に進化した時代のなかで、量子力学の確率論的世界観とも相まって「ラプラスの悪魔」に象徴されるような決定論を圧倒的に後方に退けてしまった。
こうした世界に対する姿勢はポストモダンのような相対主義とも通じている。わたしがうけとった重要な示唆とはそれだ。
統計、量子、ポストモダン、ディープラーニング
統計学の確率論的な相対性、量子力学の不確定性、ポストモダン思想の主体の流動性は、異なる分野に属しながらも、「客観的な実在の不定」と「観測者の関与」という考えを共有する知的潮流──本稿でいう世界への姿勢──にある。こうした知的潮流の源泉には、18世紀スコットランドの哲学者、ディビッド・ヒュームの経験論が深く関わっている。
ふたたびパールの著書から引用しておこう。
ヒュームは規則性説では、「事象Aが常に事象Bと同時に起きるということが何度も繰り返されれば、一方をもう一方の原因だと言っていい」と言っていた。──中略──この（引用者注：規則性説の）欠陥を修復しようとして、彼は『人性論』の時点では暗示すらしていなかった、反事実的な第二の定義を追加した。彼は「第一の事象がなかった場合、第二の事象は決して存在しない」関係にある二つの事象を因果関係と呼ぶ、と書いたのである。
ヒュームの定義は反実仮想に及んだにもかかわらず、それは受け継がれなかった。
ところが哲学者たちは、ヒュームの第二の定義を無視した。一九世紀から二◯世紀の大半にかけてそれが続いた。「そうだっただろう」というような反事実的な記述は、どうやら学者たちにとってあまりにも優柔不断で不明瞭に思えたようだ。哲学者たちは、ヒュームの第一の定義を──中略──確率論的な因果関係の理論によってどうにか救い出そうとした。
ヒュームは、因果関係の観念は事象の連続性から生じる「心的習慣」にすぎないと結論した。すべての前提は経験の集積から導かれ、普遍的・絶対的な真理の存在も保証されないとする彼の懐疑論は、広く受け入れられるようになった。この考え方は、科学や技術の発展を支える大英帝国の思想として広まっていった。
ヒュームを源泉とする相対主義は、統計学における因果関係の推定の限界、量子力学ではハイゼンベルクを代表とする確率的解釈、ヒュームに影響をうけたフランスのポストモダン思想における主体の捉え方と重なるものだ。
そして、AIにおいてもディープラーニングの手法はビッグデータをもとにした帰納法的なロジックによってブレイクスルーした点も見落とせないだろう。それ以前のルールベースという前提をおいた演繹的なロジックを脱しているからだ。ディープラーニングを“経験”と呼ぶことが許されるとしたら、まさに経験ゆえに客観的な説明を受けつけないのだ。
統計学において、ヒュームと同時代のトーマス・ベイズが確立した統計の枠組みでは、確率は客観的な性質ではなく、観測者の“信念”の更新によって変化すると考えられる。この考え方は、ヒュームの「知覚の束」の概念とも通じ、経験していないことを認めない彼の懐疑的な立場とも共鳴する。
さらに、ハイゼンベルクの粒子の位置と運動量は同時に測定できないという不確定性原理も、ヒュームの懐疑論と通じていないだろうか。物理的世界は観測という経験なしには確定（収束）しないということだからだ。
ポストモダン思想ではもっと直接的にヒュームの影響下にある。主体や意味は前提として固定されたものではなく、歴史的・社会的文脈によって形成されるとされる。ジル・ドゥルーズはヒュームを再解釈し、「主体は知覚の束であり、流動的なもの」と論じた。同じように、ジャック・デリダの「差延」という概念もまた、確定的な意味の不在を指摘する。こうした相対主義が性別すらも文化的な構築物であるとする現在の社会科学、アクティビズムを支える〈理論〉となっていることは「#52 テクノロジーはイデオロギーから遠く離れて ポストモダンからポストヒューマンの時代へ」でも触れておいた。
すこし余談めくが、「#51 マスメディアは何に負けたのか？ インテリジェンス・トラップとメリトクラシーの地獄」で、サンデルの著作をもって論じた、能力主義の裏側に潜んでいる不公正な競争とその勝者であるエリートについても、核心となる富裕層と学歴の関係も因果ダイアグラムを使えば相関ではなく因果で解読できる部分があることをパールは示している。富裕層の家庭環境は学歴に影響を与えるが、親の学歴や教育環境などの交絡因子を考慮する必要があると論じられるのだ。
話を戻そう。こうしたヒュームから続く思想が20世紀に入って同時並行で発展したのは決して偶然ではないだろう。量子力学は1920～30年代に、ベイズ統計はその再評価が始まった1950年代に、ポストモダン思想は構造主義につづいてポスト構造主義が登場した1960～80年代に、いずれも「決定論の崩壊」「客観性の揺らぎ」という共通の問題意識を持って知的潮流を転換した。ヒュームの経験論は、この知的転換の原点のひとつといえ、20世紀の科学・哲学のみならず社会全体に対して、「世界の不確定性」というメタな認識を提供していった。
「あのとき、こうしていれば」とともに生きる
前提となる本質や絶対を認めず因果関係を遠ざけ相対主義に覆われた世界への向き合い方は、統計学、量子力学、ポストモダン思想だけではなく、映画や文学といった芸術にも影響を与えた。極論すれば、近代という神なき時代における主だった芸術作品はすべてこの潮流のうちに眺めることもできる。そこにはたとえば、ポリフォニックなドストエフスキーの小説があり、黒澤明の「羅生門」が発明した映像話法がある。
そのうえで、芸術の多くはフィクショナルなものである。フィクションとはまさに反実仮想である。文学や映画が、社会にとって必要な機能を果たしてきたのは反実仮想の能力による部分も小さくない。客観的に観ることを許されない世界と対峙して、主観的な体験を繊細に描出することで、直観的に世界を掴みとる術と考え方のヒントを与えてきたものが芸術なのではないかと思う。
データによる判断ではなく、みずからの肌で感じる直観によって理解し行動する。パールは先述した「因果のはしご」の説明で、AIのような学習する機械は、はしごの一段目である現状を把握して要素を関連づける観察しかできず、環境への介入を可能する道具（手法）を手に入れた人間がなんとか二段目にあがることができる。存在しない世界を想像し観察した事象の原因を検討、判断できるのが三段目。その段階を20世紀以降の知的潮流のなかで担ってきたのは芸術である。芸術が客観的なデータでは証明されない世界と人生の真実を照らしてきたのだ。
翻っていえば、反実仮想がない芸術がいったいわたしたちに何を語りかけられるだろうか。反実仮想とは希望を語ることであり、未来を論じることだ。その希望や未来が現在の世界への見通しをはっきりさせてくれる。
人生にはさまざまな分岐点があり、その都度にわたしたちは選択を迫られる。日常のかすかな判断でさえそれは選択であり、その選択を変えればバタフライ効果よろしくまったく違う現在を発生させる可能性を秘めている。過去にもどって選択を変えることはできない。あるいは量子力学でいう多世界解釈のように、選択ごとに世界そのものが分岐しているとしても、わたしたちは並行する世界に移動することはできず、いまいる世界に留まるしかない。それは過去へ戻れないことと同じだ。
マルセル・カルネの古典的名作映画「天井桟敷の人々」の名台詞ではないが、過去をふりかえれば野獣のように喰らいつかれて現在さえ見失うのが、人の哀しさだろう。いくつもの「あのとき、こうしていれば」とともに生きるのが人なのだ。バチストとガランスの一夜が違ったものであったなら、というわけだ。そして、「あのとき、こうしていれば」こそ、反省そのものだ。
ネタバレになるので詳細は避けるが、本稿のテーマに沿うので紹介したい小説がある。わたし自身はネタバレに厳密ではないのだが、次に紹介する小説だけは前情報なく読んでほしいから、内容には立ち入らない。それは、昨年、亡くなったアメリカの小説家、ポール・オースターの『4321』（柴田元幸訳/新潮社）だ。A5判2段組800ページという長編に込められているのは、徹底的に反実仮想的な構成である。著者のオースター自身が「私の知る限り、この形式で小説を書いた人は誰もいない」というように、小説を読むことの新鮮な喜びを味わうことができる傑作だ。
『4321』にはケネディ大統領が暗殺された日のニューヨークの様子を描写するシーンがある。ダラスからのニュースに接した当時の若者たちの絶望を日本人のわたしたちはなかなか想像できない。アメリカにおいて大統領が政治リーダーであるのみならず国民的ヒーローであることを思い知らされるシーンだ。
果たしてトランプはどうか？ トランプは就任早々に矢継ぎ早に選択、決断していっている。その選択がどういう希望と未来を指し、現在を照らしているのかはわたしにはわからない。
かつてのわたしたちは社会を抑圧する大前提となる宗教や政治、慣習に苦しめられてきた。そこには絶対的な悪が存在し、世の中の歪みには共通の原因があった。それらを運命、宿命としてわたしたちは抗ってきた。
近代が進行するなかで、そんな運命も宿命もないことに気づいたわたしたちは、かえって世界の歪みに対する責任を個々に追及されるようになった。そのために世界が相対的であることに疲れ果て、新しい絶対を捏造さえして帰依しようする。そうやって、自己の責任（運命）をすこしでも軽くしようとする。
反実仮想の概念は、わたしたちにどう生きるのかを問うひとつの方法を示している。