分類AIの進化史⑩ResNeXt

前回は、2015年のILSVRCの画像分類部門で優勝したMicrosoftによるResNetを紹介しました。今回は、2016年のILSVRCの画像分類部門で２番手となったResNeXtを紹介します。

2016年のILSVRCの画像分類部門で優勝したのは、Trimps-Soushen（公安部三所）です。エラー3％以下を初めて叩き出しました。事前トレーニング済みモデルを組み合わせて使うアンサンブルの手法を採用しました。Inception-v3、Inception-v4、Inception-ResNet-v2、Pre-Activation ResNet-200、および Wide ResNet (WRN-68–2)を組みわせ高い精度を達成しましたが、技術的には目新しいものはありません。

カリフォルニア大学とFacebook AI Research（Meta）によるResNeXt開発チームには、物体検出モデルとして有名なFaster R-CNNを開発したRoss GirshickやKaiming Heが参加しています。

ResNeXtは、その名前からも分かるようにResNetのアーキテクチャに触発されたモデルです。ディープな畳み込みニューラルネットワークを構築する仕組みをさらに進化させています。

ResNetが残差学習（入力を出力に直接追加する）の概念を導入したのに対し、ResNeXtはカーディナリティという新しい概念を導入しています。