[備忘録] Week03: 自走できるAI人材になるための6ヶ月長期コース

キカガクさんの半年にわたる講義の備忘録

長期コース | 株式会社キカガク

2020.05.23(土) Week 03

適宜、手書きでノートをとるのがキカガクさんの講義スタイル。手書きで学ぶとなぜか頭に入りやすい。。。手書きにすると情報量が落ちるから頭に入りやすいのかな。

備忘録

Week 3 実施内容

・演習問題: Bank Marketing 
・PyTorch 入門
・PyTorch でネットワークの学習

欠損値補完を実施するときはその分野の知見を加えると良い。

※「学生は結婚している人は少ない」という条件でも良い。

Down Sampling 実行時の注意点

Down Sampling を実行するのはデータ数が潤沢にあるとき

ベイズ最適化利用時のHyper Parameter の挙動

ベイズ最適化を用いてHyper Parameter を求めるとき、Hyper Parameter は実行するたびに変わる

ReLU関数

Relu 関数ではない

回帰・分類で用いる損失関数は異なる

回帰　平均二乗誤差 Mean Squared Error (MSE)
分類　クロスエントロピー (Cross Entropy)

Python クラス

# 初期設定
def __init__

#call関数
def __call__

ミニバッチ、エポック間ではパラメータw の情報を引き継がれる

→パラメータの「勾配情報」の初期化はepoch ごとに行われる