
ノーベル物理学賞(2024年)をクールに語ろう! その5
その4から続く。今回でようやくもうひとりの受賞者について語り始められます。
ヒントン先生の、この数式について。(ノーベル物理学賞委員会による解説より)

ううまためまいをおこしそうなブツがふたつ。しかしこの二つを片付ければ後は楽勝…だと思うので気合入れていきましょう。
こっちから片づけていきましょう⇩

ヒントン教授の大発明…というのは嘘で、これには元ネタがあります。検索したら面白い画像があったのでそれを使って説明します。
「イジング模型」とありますね。これ、磁性体についてうまく説明してくれる模型(モデル)です。

こっちのほうがわかりやすいかな?磁性体はこんな風に、上向きと下向きの二つがランダムに並んでいるよって模型です。

↑ と ↓ がランダムに並んでいますね。この矢印のいくつかを指でつまんで反対向きにしても、やがて元の向きに戻るという、面白い現象があります。磁性体特有の、面白い現象です。
各矢印どうしが、磁性によってネットワーク化されているのですよ。輪ゴムで互いに結びついていて、どれかの矢印の向きを反転させても、輪ゴムによって元の向きに全員戻るみたいな、そういうメカニズムです。
↑ と ↓ の並びを、ネットワーク全体でしっかり記憶しているわけですよ。
この研究は、1925年にドイツの物理学者エルンスト・イジング(Ernst Ising)によって提唱され、彼の指導教授ヴィルヘルム・レンツ(Wilhelm Lenz)が基礎付けしたものです。

日本でいうと大正の終わり頃ですか。こんな数式で表せるよんと。
$${E = -\sum_{i<j} J_{ij} s_i s_j - \sum_{i} h_i s_i}$$
その50数年後、アメリカのジョン・ホップフィールドが、これに目を付けました。「神経ネットワークに、上の式を応用でけへんやろか」
そして彼がこしらえたのが、この数式でした⇩(前に解説したとおりです)

さらにその数年後、今度はジェフリー・ヒントン先生が「こっちのほうがええんちゃう?」とこしらえたのが ⇩

見ての通り、イジング模型の数式($${E = -\sum_{i<j} J_{ij} s_i s_j - \sum_{i} h_i s_i}$$)とクリソツです。
*
いいですかホップフィールド先生のはこうですが…

ヒントン先生のは、さらにこんなの(紫で囲った部分)が追加されています。

彼がどうやってこれの追加を思いついたのかというと、いうまでもなくイジング模型の数式($${E = -\sum_{i<j} J_{ij} s_i s_j - \sum_{i} h_i s_i}$$)をそのまま応用したろという着想からだったわけですが…
イジング模型においては、この紫パートは、外部からの磁場によって ↑ と ↓ の向きが変更される、つまり記憶が書き替えられる機能を表しています。
ヒントン先生が提唱される「ボルツマン・マシン」においては、この紫パートは自己学習機能を示しているのです!