Thoughts on FEP and Bayesian Mechanics
最近、自由エネルギー原理(能動的推論)のことを(丁々発止とはいえ)勉強する上で、ベイズ力学に出会った(例えばこの動画）。そこでずっとモヤモヤしていた部分があったのだが、David MarrのVisionの勉強会を行う上である程度言語化できてきたので備忘録かつ詳しい人がいたら聞きたいと言う気持ちでメモをしておく。
注意:私は自由エネルギー原理の専門家でなければ計算論的神経科学の専門家でもないので間違っている場所・理解が足りない場所があるかもしません。指摘等あれば教えてくだされば幸いです。
したがって本記事でベイズ力学を学ぼうとすることはできないと思います。すみません、、、
自由エネルギー原理とベイズ力学
自由エネルギー原理(FEP)は数多ある脳機能が自由エネルギー最小化によるベイズ推論として定式化できるという主張である。様々な理論的な展開や実験的証拠が提出され、神経科学で大きな注目を浴びている。FEPそれ自体の嬉しさは、様々な脳機能に関するアルゴリズムの仮説を統一的に説明できること。例えば、意思決定に関わる強化学習や知覚における予測符号化、ホメオスタシスなどが説明できる（その他多くの脳機能についても提案され続けている。）
FEPは、脳がベイズ推論によって知覚や意思決定を行なっていると考えるベイズ脳仮説に対応するアルゴリズムの一つである。しかしながら、なぜ脳がベイズ推論を行うべきなのかという疑問には答えていない。それにある種の答えを与えるのがベイズ力学である。
ベイズ力学では、自己と環境である種の境界がある場合を想定する。これを統計学的に解釈すると、内的状態と外的状態がマルコフブランケットによって区切られたベイジアンネットワークに対応する。そしてその上でランジュバン力学系を考えると、内的状態が外的状態をベイズ推論しているとみなせることが示される。これをもって、ある種の状況における力学系は、（それが粒子の集まりであっても）ベイズ推論をしているとみなすことができる。つまり、神経系とか知能のようなものを想定する必要がなくベイズ推論の必要性を論じることができる。
ベイズ力学と計算理論
Visionでは、最初にMarrの3レベルと（後に）呼ばれる情報処理を研究するための3つの水準が主張されている。それは、計算理論、（表現・）アルゴリズム、実装の水準である。計算理論とは、「何を計算すべきか、なぜそれを計算すべきか」についての理論のことであり、アルゴリズムは実際にそれをどう計算するか、実装は物理的にどう実装するかについての理論である。Marrの3レベルの観点から言えば、FEPはアルゴリズムであり、計算理論に対応するものがベイズ脳仮説である。
さて、VisionでMarrがした重要な主張の一つは、計算理論は「なぜその計算が必要か」を説明するための（物理的）制約を明らかにする理論であるべきというものだ。
つまり、計算理論であるところのベイズ脳仮説には、なぜ自由エネルギー原理などのベイズ推論が知能にとって必要であるかを明らかにする「制約」が付随するはずなのだ。何通りかの答えが考えられるが、ベイズ力学は一つの答えを示している。それはつまり、内と外の境界を作り、好ましい状態をサンプリングするためにはベイズ推論が必要であるというものだ。
以下では勉強してる途中の、疑問点を挙げていく。
疑問1:変分推論で本当にいいのか？
上で述べたように、ベイズ力学の理論は自己組織化という生物（あるいは知能）が持つ制約を軸にした、ベイズ脳仮説の正当性の証拠のように感じる。一方でベイズ脳仮説は計算理論であり、自由エネルギー最小化とは等価ではない。従ってアルゴリズムとしてFEPを採用しなければならない理由はない（と認識している）。
これは完全に個人的な趣味だが、FEPが基礎をおく変分推論よりもサンプリング仮説の方がしっくりくる（あまり言葉に表せないけど、サンプリング仮説の方が「生物っぽい」感じがするし、美しさ（？）を感じる）。自由エネルギー原理（あるいは変分推論）を生物が行う理由あるいは証拠はどこなんだろう？これはおそらくベイズ力学のような理論的な解答ではなく、実験的な検証が必要であり、現在様々な研究が挑んでいるところだと認識している。
疑問2:生物の持つ物理的制約は自己組織化だけ？
自己組織化という制約からベイズ力学が導かれることはある程度理解出来る。しかしながら、果たして自己組織化だけが生物の第一原理なのかというところには疑問が残る。他にもいくつか候補がある気がする
候補1:環境との相互作用
生物が環境の中で生きるには自然選択を生き抜く必要があり、そのために様々な機能が発達してきた。（あるいは、様々な機能を発達させた生物が生き残ってきた。）つまり、生物あるいは知能の第一原理として、環境変化にやわらかくかつ素早く対応するというものがある気がする。そのためには単純に自分と相手を区切るだけではなく、なんらかの方法で外部環境を受容したり利用することが求められる。直観的にはこれは自己組織化と逆を向いているような気がしてしまう。これはベイズ力学（あるいは自己組織化）で説明できるのだろうか？
候補2:社会的行動
基本的にベイズ力学ではAgentとEnvironmentをはっきり区別している。つまり他のAgentはまとめてEnvironmentとして説明されている。しかしながら、他者との社会的行動は自己組織化の範疇なのか？つまり、他者と共同して社会を育み、他者を思いやるような行動は自分と他の区別を行うというもので説明できるのか？という疑問である。
割と別の議論だが、一つだけ書いておきたいことは集合的予測符号化仮説(CPC)についてである。谷口忠大先生達のこの仮説は門外漢が雑にまとめると、言語や文化というシステムはそれ自体が世界や環境の情報を符号化するために各エージェントの予測符号化を利用して形成されたものではないか？というものである。CPCはFEPの発展あるいは一般化として捉えられることが指摘されている。これは上の議論に対する答えのような気もするが、一方で言語や文化による世界の符号化は自己組織化なのか？という疑問が浮かんでくる。
自己組織化ではないベイズ力学の正当化
ベイズ力学は自己組織化を第一原理として提案されている。一方で上で挙げたように生物にとっては別の制約が見つけられるというのが私の疑問だ。一方で、環境との相互作用にしても社会行動にしてもFEPで説明できていると認識している。ということはベイズ力学も正当化されるべきだろう。
この疑問を解消する方法は大きく分けて二つある気がする。一つは私の勘違いで上であげた二つともが自己組織化と繋がるあるいは等価であるという考え方（こちらの方が可能性が高そうな気はする）。もう一つは上で挙げた（あるいは他の制約）を含めたより本質的な物理的制約があり、そこからベイズ力学が正当化されるという考え方である。
まとめ
結果的には自分の勉強した知識と考えを雑多に話しただけになってしまったため、皆さんには学びがなかったかもしれません、、、
とりあえずベイズ力学面白そうって思う人が増えて、一緒に勉強できればありがたいところです。