書記の読書記録#1015『サポートベクターマシン入門』
ネロ クリスティアニーニ，ジョン ショー‐テイラー『サポートベクターマシン入門』のレビュー
レビュー
サポートベクターマシン（SVM）の数理についてまとめられた専門書で，SVMの研究者であれば有効に使えるかもしれない。
もくじ
第1章 学習法
1.1 教師あり学習
1.2 学習と汎化
1.3 汎化能力の向上
1.4 学習の長所短所
1.5 サポートベクターマシンでの学習
1.6 練習
1.7 さらなる文献と話題
第2章 線形学習マシン
2.1 線形クラス分類
2.1.1 ローゼンブラットのパーセプトロン
2.1.2 その他の線形クラス分類器
2.1.3 多クラスのクラス分類器
2.2 線形回帰
2.2.1 最小2乗法
2.2.2 リッジ回帰
2.3 線形マシンの双対表現
2.4 練習
2.5 さらなる文献と話題
第3章 カーネル誘導特徴空間
3.1 特徴空間の学習
3.2 特徴空間への陰写像
3.3 カーネル作成
3.3.1 カーネルの特徴
3.3.2 カーネルからのカーネル構築
3.3.3 特徴からのカーネル構築
3.4 特徴空間での作業
3.5 カーネルとガウス過程
3.6 練習
3.7 さらなる文献と話題
第4章 汎化理論
4.1 PAC学習
4.2 VC理論
4.3 マージンに基づく限界による汎化
4.3.1 最大マージン限界
4.3.2 マージンパーセント点限界
4.3.3 ソフトマージン限界
4.4 その他の汎化限界「幸運さ限界」
4.5 回帰での汎化
4.6 学習のベイズ分析
4.7 練習
4.8 さらなる文献と話題
第5章 最適化の理論
5.1 問題定式化
5.2 ラグランジュ理論
5.3 双対性
5.4 練習
5.5 さらなる文献と話題
第6章 サポートベクターマシン
6.1 サポートベクトルによるクラス分類
6.1.1 最大マージンクラス分類器
6.1.2 ソフトマージン最適化
6.1.3 線形計画法サポートベクターマシン
6.2 サポートベクターマシンによる回帰
6.2.1 ε-インセンシティブな損失回帰
6.2.2 カーネルリッジ回帰
6.2.3 ガウス過程
6.3 議論
6.4 練習
6.5 さらなる文献と話題
第7章 インプリメンテーション技術
7.1 一般事項
7.2 素朴な解決：勾配登り
7.3 一般的技術とソフトウェア
7.4 チャンク化と行列分解
7.5 SMO法
7.5.1 2点の解析的な解
7.5.2 ヒューリスティックな選択
7.6 ガウス過程の方法
7.7 練習
7.8 さらなる文献と話題
第8章 サポートベクターマシンの応用事例
8.1 テキストのカテゴリ化
8.1.1 情報検索でのカーネルを使った情報フィルタ
8.2 画像認識
8.2.1 物体の向きに独立なパターン分類
8.2.2 色を基準とするクラス分類
8.3 手書き文字認識
8.4 バイオインフォマティックス
8.4.1 タンパク質相同性検知
8.4.2 遺伝子の表現
8.5 さらなる文献と話題
付録A SMOアルゴリズムのコード
付録B 背景となる数学
B.1 ベクトル空間
B.2 内積空間
B.3 ヒルベルト空間
B.4 作用素・固有値・固有ベクトル
文献
索引
本記事のもくじはこちら：
