【論文瞬読】深層学習モデルの『遅効学習』の謎に迫る - Grokkingの新たな発見
みなさん、こんにちは。株式会社AI Nestです。
今回は、ディープラーニングの学習プロセスで見られる不思議な現象、「Grokking（グロッキング）」について紹介します。Grokkingとは、学習データに過学習した後に、モデルの汎化性能が向上する現象のことで、「遅効学習」とも呼ばれています。最近、この現象に関する新しい発見が報告されたので、ぜひシェアしたいと思います。
タイトル：Deep Networks Always Grok and Here is Why
URL：https://arxiv.org/abs/2402.15555
著者：Ahmed Imtiaz Humayun, Randall Balestriero, Richard Baraniuk
Grokkingはもっと一般的な現象？
従来、Grokkingは特定の条件下でのみ生じる特殊な現象だと考えられていました。例えば、ニューラルネットワークの初期化を特定の方法で行った場合や、アルゴリズミックなデータセットを使用した場合などです。
Grokkingが生じることを示している
しかし、今回紹介する論文では、Grokkingがさまざまなデータセットとニューラルネットワークの組み合わせで観察されることが示されました。例えば、CIFAR10データセットでConvolutional Neural Network (CNN) を学習させた場合や、ImagenetteデータセットでResNetを学習させた場合にも、Grokkingが生じたのです。
つまり、Grokkingはもっと一般的な現象なのかもしれません。この発見は、ディープラーニングの学習プロセスを理解する上で、重要な手がかりになるでしょう。
敵対的サンプルに対するGrokking - 「遅効ロバスト性」の発見
さらに驚くべきことに、この論文では、敵対的サンプル（Adversarial examples）に対してもGrokkingが生じることが確認されました。敵対的サンプルとは、ニューラルネットワークを騙すために細工された入力データのことです。
敵対的サンプルに対するGrokkingの様子を示している
具体的には、研究者たちは、学習済みのニューラルネットワークに対して、Projected Gradient Descent (PGD) という手法を用いて敵対的サンプルを生成しました。そして、学習の進行に伴って、これらの敵対的サンプルに対する精度がどう変化するかを観察したのです。
その結果、通常のテストデータに対してGrokkingが生じるのと同じタイミングで、敵対的サンプルに対してもGrokkingが生じることが明らかになりました。この発見は、「遅効ロバスト性」とでも呼ぶべき新しい現象と言えるでしょう。
Grokkingのメカニズムに迫る - 「Region migration」の発見
それでは、Grokkingのメカニズムに迫った、この論文の内容を詳しく見ていきましょう。
研究者たちは、ニューラルネットワークの入力空間を分割する「区分線形領域」に着目しました。区分線形領域とは、ニューラルネットワークが入力データを分類する際の決定境界によって形成される領域のことです。
彼らは、この区分線形領域の密度（Local complexity）を測る新しい指標を提案しました。この指標は、ある入力データ点の周辺で、どれだけ多くの区分線形領域が存在するかを表します。
Grokkingとlocal complexityの関係、およびRegion migrationの様子を示している
そして、この指標を使ってGrokkingの学習ダイナミクスを観察したところ、興味深い現象が明らかになりました。学習の後半に、「Region migration」と呼ばれる現象が生じていたのです。
Region migrationとは、区分線形領域が再配置される現象を指します。具体的には、学習の初期には、区分線形領域が入力データ点の周辺に密集しています。しかし、学習が進むにつれて、これらの領域が入力データ点から離れ、決定境界の方へ移動していくのです。
つまり、Grokkingが生じる際には、ニューラルネットワークの内部表現が大きく変化しているのです。この発見は、Grokkingのメカニズム解明に重要な一歩を踏み出したと言えるでしょう。
今後の展望と課題
この研究は、Grokkingのメカニズム解明に重要な一歩を踏み出しました。しかし、いくつかの課題も残されています。
まず、提案された手法の計算コストが高いことが挙げられます。区分線形領域の密度を測るためには、入力空間を細かくサンプリングする必要があり、これには膨大な計算量が必要です。より効率的な手法の開発が求められます。
また、この研究では主に画像分類タスクを扱っていましたが、自然言語処理など他のタスクへの適用可能性も検討する必要があるでしょう。
さらに、Grokkingの知見をニューラルネットワークの学習アルゴリズムにどう活かすかについても、さらなる研究が必要です。例えば、Region migrationを促進するようなRegularization項を導入することで、Grokkingを加速できるかもしれません。
ロバスト性のGrokkingの様子を示している
とはいえ、この研究は、ディープラーニングの学習プロセスの理解を深める上で重要な一歩を踏み出したと言えます。今後、Grokkingと関連する他の現象も含めたより包括的な理解が進むことを期待したいですね。
おわりに
みなさんは、Grokkingについてどう思いましたか？ディープラーニングの学習プロセスには、まだまだ謎が多いですが、こうした基礎研究の積み重ねによって、その神秘のベールが少しずつ剥がされていくのだと思います。
特に、今回紹介した「遅効ロバスト性」の発見は、adversarial attackに対する防御手法の開発にも役立つかもしれません。また、Region migrationの概念は、ニューラルネットワークの解釈性（Interpretability）の研究にも示唆を与えてくれそうです。