【実践AIガバナンス（2024/5/18）】ケース検討「Case02. 人材採用AI」②リスクアセスメント
シン・リスクチェーンモデルを用いたケース検討シリーズです。
前回に続いて、ケース「人材採用AI」を対象にAIサービスに関わる重要なリスクシナリオの検討を進めていきます。
シン・リスクチェーンモデルのアプローチはこちらの記事をご覧ください。
前回の振り返り（パーパスアセスメント）
前回は、AIサービスに関わるパーパスを検討しました。
Step4. リスクシナリオの識別
デジタルMATSUMOTOのシミュレーション
前回に続いて、デジタルMATSUMOTOに以下のプロンプトテンプレートで指示を与えて、リスクシナリオを識別します。（ChatGPTやClaudeでも同じようにできますので、良ければ試してみてください）。
このAIサービスについて【パーパス】の実現を阻害する重要なリスクシナリオを発散的思考・水平思考・コンテキスト思考・逆説的思考・クリティカルシンキング等を用いて様々な視点で網羅的に検討してください。
※検討結果は「リスクシナリオ名」「リスクシナリオの概要」「影響するパーパス」「特に影響を受けるステークホルダー」で一覧表の形式で記載してください。
===
【パーパス】
P001. 最適な人材のマッチングと採用：応募者にとって最適な職種での採用機会の提供と、企業にとって最適な候補者の効率的かつ効果的な探索
P002. 個人情報とプライバシーの保護：個人情報の保護と公正な評価、情報セキュリティとデータの完全性の確保
P003. 企業のコンプライアンスと倫理規範の維持：企業活動の合法性と倫理規範の維持、企業のコンプライアンスリスクの最小化
P004. 職場環境の改善と従業員の権利の保護：職場環境の改善、キャリアアップの機会、従業員の権利と福利厚生の向上、不当な労働慣行からの保護
P005. 社会と労働市場の発展：雇用の質と量の向上を通じた社会の安定、労働市場の公正な運営と労働者の権利の保護
===
【ステークホルダー】
応募者、人材採用担当者、部門長、A社AI開発部門、人材エージェント、学校の就職担当者、経営陣、法務・コンプライアンス部門、IT部門、現在の従業員、労働組合、厚生労働省
以下のリスクシナリオが識別されました。
リアル松本による修正
デジタルMATSUMOTOが検討したリスクシナリオ一覧について、過去のリスクチェーンモデルの検討も参考にしながら、リアル松本が修正しています。
https://ifi.u-tokyo.ac.jp/wp/wp-content/uploads/2022/10/RCModel_Case01_Recruitment-AI_JP.pdf
まず並び順は以下のように修正しています。
・AIの出力に関わるリスク
・利用者や社会との関係性に関わるリスク
・サービス全般の維持・信頼性に関わるリスク
以下のように内容も個別修正しています。
・「コンプライアンス違反」は内容がアバウトなので削除
・「人材トレンドの変化」「虚偽の申込」「判断結果の目的外利用」を追加
最終的にリスクシナリオの一覧は以下のように整理されました。
※「影響するパーパス」も一部見直ししています
Step5. リスクシナリオの評価
次に識別したリスクシナリオを評価していきます。
従来のリスクチェーンモデルでは各リスクシナリオの影響評価を行っていなかったのですが、シン・リスクチェーンモデルでは以下4つの項目で評価を行っています。
・影響度： 1.不便さ, 2.利用離れ, 3.損害あり, 4.回復困難, 5.回復不可
・影響範囲： 1.内部限定, 2.内部広範, 3.外部含む, 4.社会全体
・持続性：1.瞬間的, 2.一日以上, 3.一月以上, 4.永久的
・発生確率：1.月次以下, 2.週次以下, 3.日次以下(不確実), 4.日次多発
デジタルMATSUMOTOのシミュレーション
人間の検討ではなかなか判断が難しいので、ここでもデジタルMATSUMOTOに以下のプロンプトテンプレートで影響評価してもらいます。
以下のAIサービスについて識別された下記のリスクシナリオについて、以下の点を評価してください。
・影響度： 1.不便さ, 2.利用離れ, 3.損害あり, 4.回復困難, 5.回復不可
・影響範囲： 1.内部限定, 2.内部広範, 3.外部含む, 4.社会全体
・持続性：1.瞬間的, 2.一日以上, 3.一月以上, 4.永久的
・発生確率：1.月次以下, 2.週次以下, 3.日次以下(不確実), 4.日次多発
※検討結果は「リスクシナリオ名」「影響度」「影響範囲」「持続性」「発生確率」で一覧表の形式で記載してください。
【リスクシナリオ】
R001.採用レベルの低下: AIが特定のキーワードや条件に過度に依存することで、実際には適合する可能性が高い応募者を不適合と判断する等、採用レベルが低下する。
R002.人材トレンドの変化: 求める人材トレンドの変化にAIの予測傾向が対応できず、採用レベルが低下する
R003.過去の偏見の再生産: AIが過去のエントリーシートデータと合否判定結果を学習することで、過去に存在した偏見やバイアスを学習し、それが将来の判断に影響を与える。
R004.虚偽の申込: 申込内容に虚偽が含まれているが、合格と判断してしまう
R005.透明性の欠如: AIの判断基準が不透明で、応募者や人材採用担当者がAIによる合否判定の根拠を理解できない。
R006.AI依存度の増大: 人の判断がAIの判断に依存しすぎることで、人間の判断力や直感が軽視され、結果として最適な人材が見落とされる。
R007.職場環境の悪化: AIによる選考が従業員間の不信感や不平等感を引き起こし、職場環境が悪化する。
R008.労働市場の偏り: 特定の背景やスキルセットを持つ応募者を優遇し、多様性が損なわれることで労働市場全体のバランスが崩れる。
R009.個人情報の流出: エントリーシートに含まれる個人情報が不正アクセスやシステムの脆弱性により流出する
R010.判断結果の目的外利用: AIサービスの判断結果や判断傾向を目的外もしくは不正利用する
R011.アップデートの遅れ・誤り: AIモデルの日次更新が適切に行われず、新しい傾向や必要なスキルが反映されない。
R012.技術的な障害: AIシステムの障害やエラーが発生し、採用プロセスが停滞する。
===
【パーパス】
P001. 最適な人材のマッチングと採用：応募者にとって最適な職種での採用機会の提供と、企業にとって最適な候補者の効率的かつ効果的な探索
P002. 個人情報とプライバシーの保護：個人情報の保護と公正な評価、情報セキュリティとデータの完全性の確保
P003. 企業のコンプライアンスと倫理規範の維持：企業活動の合法性と倫理規範の維持、企業のコンプライアンスリスクの最小化
P004. 職場環境の改善と従業員の権利の保護：職場環境の改善、キャリアアップの機会、従業員の権利と福利厚生の向上、不当な労働慣行からの保護
P005. 社会と労働市場の発展：雇用の質と量の向上を通じた社会の安定、労働市場の公正な運営と労働者の権利の保護
===
【ステークホルダー】
応募者、人材採用担当者、部門長、A社AI開発部門、人材エージェント、学校の就職担当者、経営陣、法務・コンプライアンス部門、IT部門、現在の従業員、労働組合、厚生労働省
以下のように出力してくれました。
リスクシナリオ名 影響度 影響範囲 持続性 発生確率
R001.採用レベルの低下 3.損害あり 3.外部含む 3.一月以上 2.週次以下
R002.人材トレンドの変化 3.損害あり 3.外部含む 3.一月以上 2.週次以下
R003.過去の偏見の再生産 4.回復困難 4.社会全体 4.永久的 3.日次以下(不確実)
R004.虚偽の申込 3.損害あり 2.内部広範 2.一日以上 3.日次以下(不確実)
R005.透明性の欠如 2.利用離れ 3.外部含む 3.一月以上 2.週次以下
R006.AI依存度の増大 3.損害あり 3.外部含む 3.一月以上 2.週次以下
R007.職場環境の悪化 4.回復困難 2.内部広範 3.一月以上 2.週次以下
R008.労働市場の偏り 3.損害あり 4.社会全体 4.永久的 3.日次以下(不確実)
R009.個人情報の流出 5.回復不可 4.社会全体 4.永久的 3.日次以下(不確実)
R010.判断結果の目的外利用 4.回復困難 4.社会全体 4.永久的 3.日次以下(不確実)
R011.アップデートの遅れ・誤り 3.損害あり 3.外部含む 3.一月以上 2.週次以下
R012.技術的な障害 2.利用離れ 2.内部広範 2.一日以上 3.日次以下(不確実)
リアル松本による修正
先程と同様にリアル松本がスコアを修正し、4つのパラメータをリスク初期値(リスクスコア)を積算して、優先度を以下のように設定します。
- Very High(VH)：リスクスコア100以上
- High(H)：リスクスコア60以上100未満
- Middle(M)：リスクスコア30以上60未満
- Low(L)：リスクスコア30未満
機械的に決められた優先度を実態に合わせて見直していきます。
・R003.過去の偏見の再生産「持続性」を「4.永久的」→「3.一月以上」：AIの公平性による問題は関心が高いですが、永久に被害が続くという認識は極端だと思います。
・R005.透明性の欠如「影響度」を「2.利用離れ」→「3.損害あり」：R001と同じく人材を取り逃がすので、損害ありと見直しました。
・R007.職場環境の悪化「発生確率」を「2.週次以下」→「1.月次以下」：発生頻度が高いものではないので見直しました。
・R008.労働市場の偏り「発生確率」を「3.日次以下(不確実)」→「1.月次以下」：発生頻度が高いものではないので見直しました。
・R008.労働市場の偏り「影響度」を「4.永久的」→「3.損害あり」：永久的な偏りは大げさと感じたので見直しました。
・R008.労働市場の偏り「発生確率」を「3.日次以下(不確実)」→「1.月次以下」：発生頻度が高いものではないので見直しました。
・R009.個人情報の流出「影響度」を「5.回復不可」→「4.回復困難」：回復不可は人命を失ってしまった場合等で見直しています。
・R011.アップデートの遅れ・誤り「発生確率」を「2.週次以下」→「3.日次以下(不確実)」：発生頻度を実態に応じて見直しました。
最終的に、このケースでは「R003.過去の偏見の再生産」「R009.個人情報の流出」「R010.判断結果の目的外利用」が特に重要なリスク(Very High)として識別されました。
次に重要なリスク(High)として「R005.透明性の欠如」と「R011.アップデートの遅れ・誤り」が識別されています。
※また、Middleのリスクもビジネス上は重要なものが認識されていると感じています。
注：リスクスコアの大きさが必ずしもリスクの重要性とは限りません。
最終的にはビジネス上の機会損失も含めて優先度を検討していきます。
次回は優先度の高いと認識されたリスクシナリオを対象として、リスクチェーンを用いた検討を行っていきます。
