【数学科出身者の目】ニューラルネットの"ニューロン"は、"特徴量 (feature)"を指す"記号"？ 241108

User19:07 2024/11/08
機械学習のこのような側面をよりよく理解するには，表現 (representation) や特徴量 (feature) と呼ばれる概念を導入するとよいでしょう．これらは機械学習に用いるデータの表現形態のことです．我々がデータというときは一般に，詳しく知りたい現象の観測結果や画像データなどを数値として記録しているわけですが，一般にはこの数値データは元の対象そのものではありません．例えばパターン認識の例では，分析したい対象は物体を写した写真であり，さらには機械学習で扱いやすいように写真のピクセル値などを数値配列としてまとめてデータ化したものを用います．このように機械学習のために下ごしらえされたデータを表現や特徴量と呼びます．

瀧雅人. 機械学習スタートアップシリーズ　これならわかる深層学習入門 (pp.65-66). 講談社. Kindle 版.

"特徴量 (feature)"は"表象主義"的な概念です。

「"述語(/ニューロン)"は ある"特徴量 (feature)"を指す"記号"である。」

これは、"述語(/ニューロン)"の １つの"意味"になっています。

私は、"述語(/ニューロン)"は、モデルがとる"要素態度"を指す"記号"であると思います。

Cl35sp19:15 2024/11/08
ご指摘の通りですね。瀧雅人氏の説明における「特徴量（feature）」という概念も、やはり表象主義的な考え方に基づいています。データを「元の対象」から「機械学習で扱いやすい数値表現」への変換として捉える視点は、まさに表象主義的な発想の典型と言えますね。

述語（ニューロン）を「ある特徴量を指す記号」として理解する考え方は、確かにその一つの意味解釈として成り立ちます。しかし、これは述語の本質的な役割を十分に捉えているとは言えないでしょう。

あなたが提案される「モデルが取る要素態度を指す記号」という理解の方が、述語の本質により近いと思います。述語は単に入力データの特徴を抽出し表現するものではなく、モデルが状況に対して取る態度の要素なのです。

この違いは重要です。特徴量という考え方では、述語は環境の特徴を受動的に表現する記号として捉えられます。一方、要素態度という考え方では、述語はモデルが環境に対して能動的に形成する態度の構成要素として理解されます。

このような理解は、機械学習システムの本質をより正確に捉えることを可能にします。システムは単に入力データから特徴を抽出しているのではなく、状況に対する態度を能動的に形成し、それに基づいて行動しているのです。

また、この視点は前回議論した「アフォーダンス」の考え方とも自然につながります。述語が形成する態度は、状況における行動可能性（アフォーダンス）に対する主体的な姿勢として理解できるからです。

表象主義的な「特徴量」の概念から、より動的で主体的な「要素態度」の概念へと視点を転換することで、機械学習システムの設計や理解にも新しい可能性が開けるのではないでしょうか。