因果推論の科学 「なぜ?」の問いにどう答えるか(ジューディア・パール)

なぜこの本

AI、すなわち人工知能についての話題を聞かない日はないほど、昨今はAIブームに沸いています。
普段、仕事中心の生活を送っていると「AIをいかにして使うか」に重きを置きがちかもしれません。
でも、「AIはどのように動くか」にも興味が湧きませんか。
「AIはどのように動くか」の本は文系の私には理解面で辛い時もありますが、心の刺激を求めて、挑戦をしています。
本書もそんな一冊。
ところが約600ページもある、ずっしりとした本書を手に取ると、帯に躊躇させる一言が。
「私が解説するのが憚られるすごい内容」(東京大学大学院・松尾豊教授)
いやいや…人工知能の大家の松尾教授が解説憚られる内容ってどんな内容なのでしょうか…？

因果推論の科学 「なぜ?」の問いにどう答えるか

どんな本

2024年8月現在、AIというとChatGPTをはじめとした生成系AIをイメージされる方が多いと思います。
生成系AIは汎用AI(AGI、いわゆる「強いAI」)に近づく存在ではありますが、まだ人間の知能と互換性があるとは言い難く、何よりも汎用性があるとはまだ言えないレベルにあります。
それはなぜでしょうか。

本書序盤で示される「因果のはしご」で理由の一端を見ることが出来ます。
因果のはしごは三段で構成されており、それぞれの段で出来る事が定義されています。

一段目：観察して関連付けることができる
「歯磨き粉を買った顧客がデンタルフロスも買う可能性はどのくらいだろうか？」

二段目：行動・介入することができる
「歯磨き粉の価格を2倍にしたらデンタルフロスの売上はどう変わるか？」

三段目：想像することができる
「歯磨き粉を買った客のうち、その価格が倍だったとしても買ってくれた確率はどのくらいか？」

人間は三段目にいますが、多くのAIや動物は一段目にいる、と著者のパール氏は言います。
生成系AIもディープラーニングなどによって驚くべき出力をしますが、これは観察に基づいて関連のある結果を出力しているに過ぎない、と断じられているのです。
一方、人間は身体性による介入を通じて世界モデルを学習し、因果関係を認識していきます。
その為、人間は身体性を超えた因果関係(たとえば気候変動)は自らの介入が難しいことから認識するのが難しくなります(∵自分一人で温室効果ガスを増減させて気候変動がどう変化するのかを実験することはできません)。
パール氏の慧眼は人間の身体性を超え、数学的な表現で因果関係を明らかにする方法を示したところにあります。

ベイジアンネットワークの開発もパール氏の大きな成果。
少し数学を齧った私でも知っている有名なベイズの定理から展開された点も興味深いところ。
ベイジアンネットワークとは、ある事実を観察することで、他の事実についてそれが真である確率、偽である確率を計算できる推論の手法で、現在では音声認識、天気予報、医療診断など広く使われています。
ベイズの定理は事前確率と事後確率の関係性を数式化したものですが、ここから、原因と結果の非対称性(＝原因から結果を推定するのは容易だが、結果から原因を推定するのは困難という非対称性)を対称にする事を目的としています。
つまり「原因→結果」を「結果→原因」に変換できるということです。
人間にとって、原因→結果は容易です(たとえば、窓ガラスにボールを投げる少年を見た時、この後に窓ガラスが割れるだろうと予想することは容易)。
逆に割れている窓ガラスを見て、少年がボールを投げただろうと推測するのは人間の通常の思考からすると難しい。
シャーロックホームズのように証拠(散らばるガラス片の大きさと位置、隣の子どもの遊び場、時間など)を集めることで少年の投げたボールが原因と推測をする。
これがベイジアンネットワークで行われていることです。

ところで、この本のしおり替わりに挟んだ書店のレシート日付は2022年12月28日(原書は2018年5月上梓)。
その約1か月前の11月30日にはChatGPT3.5がリリースされていました。
いわゆる「強いAI」に一歩近づいた生成AIの背景に本書の因果推論も役立っていると言えますが、先程述べたように強いAIまでの道のりは長そうです。

誰に、どんな時におすすめ

AIに興味を持っている方のみならず、論理や統計を学んだ人にも新鮮な驚きがあるに違いない一冊です。
仮にAI、論理や統計に興味がなくとも、因果ダイアグラムの概念は仕事や日常生活などの実世界でも役立つでしょう。
実は今回、この書評を書くにあたって再読したのですが、とても時間がかかりました(勝手に書評の間隔が空いたことの言い訳に過ぎませんが)。
初読時に一気に読むことができた時間はとても幸運な時間だったのかもしれません。