書記の読書記録#1036『統計的信号処理 -信号・ノイズ・推定を理解する-』
関原 謙介『統計的信号処理 -信号・ノイズ・推定を理解する-』のレビュー
レビュー
最小二乗法のその先として，アレイ信号処理・ベイズ推定・EMアルゴリズム・カルマンフィルタの概観をする教科書。
もくじ
第1章 確率の基礎
1.1 確率と確率分布
1.2 確率変数の変換
1.3 確率変数の期待値と分散
1.4 多変数の確率分布
1.5 共分散と確率変数の独立
1.6 ベクトル型確率変数
問題
第2章 正規分布
2.1 正規分布の確率密度関数
2.2 正規分布の重要な性質
2.3 中心極限定理
2.4 多次元正規分布
問題
第3章 推定
3.1 推定量の良さを表す指標
3.2 不偏性
3.3 有効性
3.4 一致性
3.5 最尤推定法
3.5.1 最尤原理
3.5.2 繰り返し計測における最尤推定の例
3.5.3 ベクトル型確率変数における統計量の最尤推定
問題
第4章 線形最小二乗法
4.1 線形離散モデル
4.2 最小二乗法の導出
4.3 線形最小二乗法の解
4.4 最小二乗解の不偏性
4.5 最良線形不偏推定量
4.6 観測データに含まれるノイズ分散の推定
問題
第5章 線形最小二乗法に関連した手法
5.1 線形最小二乗法の特異値分解による解法
5.1.1 行列Hの特異値分解
5.1.2 擬似逆行列を用いた解
5.2 正則化を用いた解
5.3 白色ノイズの仮定が成立しない場合
5.4 劣決定系の最適推定解
5.4.1 推定解の任意性
5.4.2 ミニマムノルムの解
5.4.3 ミニマムノルム解の性質
5.4.4 重み付きノルムの解
問題
第6章 センサーアレイ信号処理
6.1 信号源推定法：問題の定式化
6.1.1 アレイ応答ベクトルと観測のモデル
6.1.2 低ランク信号モデル
6.2 非線形最小二乗法を用いる信号源推定法
6.3 低ランク信号の性質を用いる信号源推定法
6.3.1 低ランク信号の性質
6.3.2 MUSICアルゴリズム
6.3.3 信号およびノイズ部分空間
6.4 線形離散モデルに近似する方法
6.5 補遺：ノイズ部分空間の最尤推定
問題
第7章 ベイズ推定の基礎
7.1 ベイズ定理
7.2 確率密度分布とベイズの定理
7.3 線形離散モデル
7.4 ベイズ推定における最適推定解
問題
第8章 ベイズ線形正規モデル
8.1 スカラー(1変数)の場合の簡単な例
8.2 事後分布の求め方：多変数の場合の簡単な例
8.3 多変数線形離散モデル
8.3.1 事後確率分布の導出
8.3.2 最小二乗解とベイズ推定解との関係
8.3.3 周辺確率分布f(y)の導出
問題
第9章 EMアルゴリズムとハイパーパラメータの推定
9.1 エビデンス関数
9.2 平均データ尤度
9.3 EMアルゴリズム―スカラー変数の場合
9.3.1 観測データのモデル
9.3.2 Eステップ
9.3.3 Mステップ
9.3.4 EMアルゴリズムのまとめ
9.4 EMアルゴリズム―多変数の場合
9.4.1 平均データ尤度の導出
9.4.2 ハイパーパラメータの更新式
9.4.3 EMアルゴリズムのまとめ
9.5 EMアルゴリズムの妥当性
問題
第10章 線形動的システム
10.1 データのモデル
10.2 スカラー変数に対する線形動的システム
10.2.1 データモデル
10.2.2 カルマンフィルターの導出
10.3 カルマンフィルター―多変数の場合
問題
付録A 線形数学における基本事項
A.1 列ベクトルの性質
A.2 行列に関する基本的な計算規則
A.3 スカラーのベクトルあるいは行列での微分
A.4 分割された行列に関する計算規則
A.5 逆行列に関するいくつかの公式
A.6 行列の固有値
A.7 行列のランク
A.8 行列の特異値分解
A.9 線形独立なベクトルの張る空間
A.10 行列の列空間と零空間
問題の解答
参考文献
本記事のもくじはこちら：
