ラビットチャレンジ：Stage1実装演習レポート

第1章：線形代数

機械学習、深層学習などAI実装の手法に関わらず、すべての基礎となる分野。まずはその演算方法や特性について理解する。

・行列・ベクトルの演算方法
線形代数の背景などはあるが、まずは表記方法／計算ルールとして手法を理解しておく。

・連立1次方程式への応用
元の数と、（同値でない）式の数が同数ある連立一次方程式を行列とベクトルを用いた表記によって表すことが出来る。
また、行列の変形によって連立方程式の解を求めることが出来る。

・逆行列と行列式、その数学的意味
逆行列は行列演算（積）における逆元で、直感的には逆数（割り算の乗算表現）のようなもの。
連立方程式を行列で表現した際に、逆行列を求めることは連立方程式の解を求めることと同じ。
連立方程式が解を持つ条件：行列式≠0

・固有値・固有ベクトル・固有値分解
行列演算（行列とベクトルの積）は、ベクトルを行列によって線形変換すること。この線形変換を行っても、向きが変わらないベクトルを固有ベクトルと呼び、固有ベクトルの長さの変化量（スカラー）を固有値と呼ぶ。
この固有ベクトルを使って元の行列を表現する（行列の積に分解する）手法を固有値分解と呼ぶ。

・特異値分解
正方行列では無い行列に対して行う固有値分解のようなもの

第2章：確率・統計

ここでは、統計学としての考え方、用語を理解し、まずは読めるようになるという事を目標とする。

・集合の基本的な考え方
まずは和集合などの基本的な考え方をベン図を使って復習。数学的な表記法（A∩B　等）の再確認。

・確率の基本的な考え方
頻度確率（客観確率）：物事の発生頻度を考える確率
ベイズ確率（主観確率）：信念の度合い？全数調査などの正確な情報が無く、様々な条件を踏まえて確率を導き出すもの
数式としての表現を用いることで、数学的に確率を扱うことが出来る。

・条件付き確率
ある条件下において起きる確率。
ある二つの事象AとBについて、
　　AとBが同時に発生した
　　Bが発生したうえでAが発生した
は異なるものである。条件付確率は後者を指すが、前者を使って求めることもある。

・ベイズ則
ある事象を関連する事象との関係性に基づいて表現し、条件付き確率の考え方に基づいて確率（or 頻度、分布等）を求める手法

・期待値／分散／標準偏差／確率分布
高校数学の復習。
次章の偏り方を数値で表現し、それによって分布状況を示すもの。
この段階では、用語と数式の決まり事として理解し、今後の学習の中で用途とその数学的な意味との繋がりについて理解を深めたほうが良いと考える。

第3章：情報理論

情報量の変化を数学的に表現すること。ここでは直感的な理解にとどめておき、実用場面で具体的な数式と照らし合わせて数学的な解釈に当てはめることとする。

・自己情報量
情報量の変化を比率で表し、その変化量の合計（積分値）によって全量を把握する。

・シャノンエントロピー
自己情報量の期待値
発生した事象から、新たに得られる情報量を示す考え方。

・カルバック・ライブラー   ダイバージェンス
確率分布の違いを数式的（数量的）に表現する手法

・交差エントロピー
カルバック・ライブラー ダイバージェンスの一部の情報に対して表現したもの。