5.ディープラーニングの手法（学習・過学習等）

近年、機械学習、特にディープラーニングは目覚しい進歩を遂げています。

ここでは、
①学習
②過学習
③機械学習における過学習の原因と対応策
④勾配消失問題
⑤DQN
を考えてみます。

それでは、まず、機械学習における「学習」と「過学習」がどのような意味を持つのか、それぞれの定義について考えてみましょう。

①学習

機械学習における「学習」とは、コンピューターが、手元にあるデータから何かしらのパターンや規則性を見つける作業を意味します。この際、コンピュータが発見したパターンを、未知のデータに当てはめて予測させることでAIの予測モデルを構築します。

②過学習

機械学習における「過学習」とは、学習時に利用したデータのみに過剰に適合してしまうために、汎化性能が失われてしまうことを指します。過学習が行われると、AIが学習プロセスで取得したデータに過剰に適合するため、未知のデータ分析が正しく行えなくなってしまうことになります。過学習の問題点は、データ全体の傾向が掴めず、新しいデータへの対応力が低下してしまうことです。これにより、学習時には高い性能を発揮できているのに、予測時は、性能が著しく低下してしまうことになります。

また、別の言い方だと、過学習とは、訓練誤差が小さいにも関わらず、汎化誤差が小さくならない状態を指す。ディープニューラルネットワークも過学習を起こしやすいことが知られており、過学習を抑制するための手法として、LASSOなどの正則化手法が用いられることが多い。また、ドロップアウトという、重みを更新する枝を一定の割合でランダムに無効化する手法もディープラーニングでは、よく用いられる。

③機械学習における過学習の原因と対応策