4-1.ディープラーニング基礎論点

ディープラーニング（Deep Learning）は、人工ニューラルネットワーク（Artificial Neural Network）を用いて、大量のデータから高度なパターンや特徴を学習する機械学習の一手法です。これは、人間の脳の働きを模倣したニューラルネットワークと呼ばれる数学モデルを使用し、データの特徴を自動的に抽出し、分類や予測を行うことができます。ここでは、主に以下を取り上げます。

⓪DNN（ディープニューラルネットワーク）
①活性化関数
②勾配降下法
③誤差逆伝播法
④ノーフリーランチ定理
⑤モラベックのパラドックス（Moravec's paradox）
⑥ディープニューラルネットワーク（DNN）
⑦ファインチューニング
⑧ドロップアウト
⑨早期打ち切り (Early Stopping)
⑩重み更新のタイミング
‐ イテレーション
- エポック

⓪DNN

DNNとは「ディープニューラルネットワーク」の略で、深層学習(ディープラーニング)と呼ばれる学習法の一つでもあります。ディープラーニングでは、入力に対して一つの出力のみではなく、複数の出力を可能にします。
そうすることで、複雑な判断をAIができるようになります。ディープラーニングの技術が発達によって、さまざまな分野への実用化が進むようになりました。

DNNなどを活用したディープラーニングでできる主な機能としては、画像認識、音声認識、言語処理、レコメンデーションが挙げられます。これらは、高い精度が期待でき、場合によっては、人を超えるものであるとも言われています。

①活性化関数

ニューラルネットワークの各ユニットにおいて、入力を出力に変換するために活性化関数を何に設定するかは、予測の精度に関わる非常に重要な問題となります。活性化関数とは、あるニューロンから次のニューロンへと出力する際に、あらゆる入力値を別の数値に変換して出力する関数である。

単純パーセプトロンは、ニューロンの一種であり、活性化関数としてステップ関数を用いたものに当てはまる。ステップ関数とは、関数への入力値が0未満の場合には常に出力値が0、入力値が0以上の場合には常に出力値が1となるような関数のことである。