
ノーベル物理学賞(2024年)をクールに語ろう! その4
前回まででホップフィールドの理論についてざっと語ったので、今回よりもうひとりの受賞者ヒントン先生の理論について語っていこうと思っていたのですが…
予定を変更して、延長戦です。
語り忘れていたものを思い出したので、延長戦に突入でございます。

$${E=-∑_{i<j}w_{ij}s_{i}s_{j}}$$ とありますね。これについてちゃちゃっと語っていきます。
左辺の $${E}$$ は見てすぐピンとくると嬉しいです。エネルギーの $${E}$$ です。
こういうの、小学校の理科や、中学校の社会科で目にしたことがあると思います。水は高いところでは位置エネルギーが大きくて、海に流れ込むと、そこから先はもう「下」がないわけだから、位置エネルギーはゼロとなります。

ここで、その2で私が語った内容を思い出していただきたいです。
以下の行列に…

何かてきとーに [0, -1, 0] とか [1, 0, -1] とかを放り込んで、そして出力された数列を再度この $${W}$$ に放り込むことを繰り返すと、最終的には [1, -1, 1] に落ち着く(収斂する)よって、あのお話です。
雨はどこに降ろうが、最終的には海洋に落ち着くという、以下の図と同じ原理です。

$${E=-∑_{i<j}w_{ij}s_{i}s_{j}}$$ はこの図を数式化したものと思えばいいです。$${E}$$ の値がこれ以上小さくならないとき、ポップフィールド・ネットワークは海抜ゼロつまり海面にまで川が達した、つまり安定状態となったということです。
そういえばノーベル賞委員会が用意した説明図も、同じアナロジーで描かれています。

$${E=-∑_{i<j}w_{ij}s_{i}s_{j}}$$ はエネルギー関数と呼ばれます。この「エネルギー関数」なるフレーズはキーワードなので、今のうちに頭のなかに収めておくと、後でいいことがあるかもしれないので、収めておくときっといいことがあると思います。
その5につづく ⇩