G検定 6−8 33. モデルの解釈性
シラバス 33. モデルの解釈性 についてまとめていきます
目標
・モデルの解釈性が必要な背景について理解する
・解釈性が必要なユースケースについて理解する
・解釈性の向上に寄与する代表的な手法について理解する
キーワード
CAM, Grad-CAM, LIME, Permutation Importance, SHAP, 説明可能 AI (XAI)
モデルの解釈性が必要な背景について理解する
ディープラーニングのブラックボックスを解決するため…
ディープラーニングモデルがどのようにして特定の予測や判断を下したのかを理解する能力のこと。
解釈性は、モデルの信頼性や透明性を高め、使い手が安心して利用するために重要である。
解釈性が必要なユースケースについて理解する
医療診断
患者への治療についてAIモデルが提案する際、診断の理由を明示する必要がある。
金融審査
否決された際の理由を明示しなければ、ユーザーに不信感を与える可能性がある。
法的判断
自動化された法的意思決定は透明性が必要で、モデルによる判断の説明が求められる。
説明可能AI(Explainable AI)
モデルがどのように判断しているか解釈
AIの決定プロセスを人間が理解しやすくするための技術全般を指す。
これによりAIの信頼性と利用可能性が向上する。
予測値に対する各特徴量の重要性を分析する手法
LIME (Local Interpretable Model-agnostic Explanations)
入力データがモデルの予測に与える影響を局所的に評価する手法。
モデルに依存しないため、さまざまなモデルに適用可能。
PI（Permutation Importance）
特徴量の重要性を評価する手法。
各特徴量の値をランダムに入れ替えて予測の変化を測定する。
SHAP (SHapley Additive exPlanations)
ゲーム理論に基づいて予測を説明する手法。
各特徴量の寄与を公平に割り当てることで解釈性を高める。
CAM
CAM (Class Activation Mapping)
2016年に発表された手法
グローバルアベレージプーリング（GAP）がある画像認識モデルのみ適用可能
特定のクラス分類に寄与した画像領域を視覚化する手法。
モデルがどこに注目していたかを示す。
モデル内部の特定構造を利用しているため、グローバルプーリング層が必要ですが、簡単で高速です。
Grad-CAM (Gradient-weighted Class Activation Mapping)
CAMの進化版で、より多くの層に適用可能。
リッチな情報を提供し、具体的な特徴量を強調して視覚化できる。
勾配情報を使用するため、幅広いモデルで利用でき、CAMよりも精度の高いヒートマップを得られることが多いです。