分類AIの進化史⑨ResNet

前回は、VGG-16を解説しました。単純なパターンを繰り返す構造を持ち、以前は転移学習などでよく使われていました。

今回紹介するResNet（Residual Networks）はMicrosoftのHeらによって開発され、2015年のILSVRCの画像分類部門で優勝しました。152層を持つネットワークを訓練し、それ以前のモデルより良い精度を達成しました。

ResNetでも、VGG-16のように単純なパターンを繰り返す構造を持つため、用途に応じて異なる数の層を持つネットワークとして訓練することが可能となっています。その意味ではVGGと似たような使い方ができ、転移学習などでよく使われるようにたりました。

しかし、層の数が増えるほど勾配消失の問題が生じやすくなるはずです。以前解説したGoogLeNetでは特殊な方法で勾配消失を回避しており、そのために訓練が複雑になっていましたが、それでも22層しかありませんでした。

その反面、ResNetではより単純な手法によって勾配消失の問題を回避しています。