JDLA生成AIテスト＞生成AIのリスク＞特徴（1/2）
２０２３年は生成ＡＩが大注目を浴びる１年でした。
Ｇ検定でおなじみのＪＤＬＡ（日本ディープラーニング協会）も生成AIに関する新しい検定試験を作ったので、受験することにしました。
試験日は１２月２日（土）です。
こちらの記事に書きました通り、生成AIの試験は生成AIを使って準備を進めていこうと思います。順不同で書いていきますので、後日マガジンにまとめようと思います。
さて、今回は生成AIのリスクについてです。
生成AIが、技術面・倫理面・法令面・社会面などで多様なリスクを孕むことを理解している。
正確性、ハルシネーション (Hallucination)、セキュリティ、公平性、プライバシー、透明性、悪用、誤情報の拡散、敵対的プロンプト、特定の生成AIサービスへの依存、環境問題
生成AIでまとめた内容は以下の通りです。
【ChatGPT４の場合】
生成AIは、技術革新として大きな可能性を秘めている一方で、多方面にわたるリスクを孕むことも事実です。
1. **正確性**: 生成AIはデータに基づいて学習するため、不正確なデータやバイアスがあると、誤った情報を生成するリスクがあります。
2. **ハルシネーション (Hallucination)**: AIが存在しない事実やデータを「幻視」し、誤った情報を生成することです。これは信頼性の低下につながります。
3. **セキュリティ**: AIシステムはサイバー攻撃の対象になりうるため、不正アクセスやデータ漏洩などセキュリティ上のリスクが常に存在します。
4. **公平性**: AIが特定の集団に対して偏った結果を生み出すことで、不公平が生じる可能性があります。
5. **プライバシー**: 個人データを学習や生成プロセスに使用することで、プライバシー侵害の懸念があります。
6. **透明性**: AIの意思決定プロセスがブラックボックス化すると、その動作がどのようにして結果に至ったのかを理解しにくくなります。
7. **悪用**: 生成AIは偽情報を作成したり、デジタル詐欺に利用されるなど、悪意ある目的で悪用されれたりするリスクがあります。
8. **誤情報の拡散**: AIが生成した誤情報やフェイクニュースが社会に拡散すると、公共の安全や民主主義に対する脅威になりえます。
9. **敵対的プロンプト**: 意図的に誤解を招くような入力（プロンプト）をすることで、AIを誤った情報の生成に導くことが可能です。
10. **特定の生成AIサービスへの依存**: 一つのAIサービスに依存すると、そのサービスが停止した場合に大きな影響を受けるリスクがあります。
11. **環境問題**: 大量のデータを処理し、学習するための計算リソースは大量のエネルギーを消費するため、環境への影響が問題となります。
これらのリスクに対処するためには、多角的な規制、倫理的なガイドライン、技術的な改善、および公開された議論が不可欠です。
（Bingの場合）
生成AIとは、人工知能（AI）の技術を用いて、テキストや画像などの新しいコンテンツを自動的に生成するシステムのことです。生成AIは、様々な分野で有用な応用が期待されていますが、同時に多くのリスクも孕んでいます。以下に、キーワードを含めたリスクの例を挙げます。
正確性：生成AIは、学習したデータやプロンプトに基づいてコンテンツを生成しますが、その正確性や信頼性は保証されません。生成AIが誤った情報や根拠のない情報を生成する可能性があります。また、生成AIが生成したコンテンツは、人間が作成したものと区別がつきにくい場合があります。これは、消費者や利用者にとって混乱や誤解を招く恐れがあります。
ハルシネーション (Hallucination)：生成AIが、学習したデータに存在しないような情報やコンテンツを生成することをハルシネーションと呼びます。ハルシネーションは、生成AIの創造性や多様性を高める効果がありますが、同時に誤情報やでっち上げの原因にもなります。ハルシネーションは、生成AIの内部ロジックやアルゴリズムが不透明であることや、生成AIが学習したデータの品質や偏りに依存することによって引き起こされます12。
セキュリティ：生成AIは、大量のデータを必要としますが、そのデータの管理や保護にはセキュリティ上の課題があります。生成AIを利用する企業や個人は、自社や自身のデータが漏えいしたり、改ざんされたり、盗用されたりするリスクに直面します。また、生成AIを提供するサービス事業者も、自社のシステムがマルウェアや不正プログラムに感染したり、攻撃されたりするリスクに直面します12。
公平性：生成AIは、学習したデータに含まれる偏りや差別を反映したり、増幅したりする可能性があります。生成AIが、性別や人種、年齢などの属性に基づいて不公平なコンテンツを生成することで、社会的な不平等や不正義を引き起こす恐れがあります。公平性の確保には、生成AIの学習データの選択や評価、生成AIの出力の監視や評価などの対策が必要です。
プライバシー：生成AIは、個人のプライバシーに関わるデータを利用したり、生成したりする可能性があります。生成AIが、個人の顔や声、筆跡などの特徴を模倣したり、個人の行動や嗜好などの情報を推測したり、個人の同意や知らないところで個人のデータを収集したりすることで、個人のプライバシーを侵害する恐れがあります。プライバシーの保護には、生成AIの利用目的や範囲の明確化、個人の同意や選択肢の確保、個人情報の匿名化や暗号化などの対策が必要です。
透明性：生成AIは、その内部ロジックやアルゴリズムが不透明であることが多く、生成AIがどのようにコンテンツを生成するか、生成AIが生成したコンテンツにどのような意味や意図があるか、生成AIが生成したコンテンツの正確性や信頼性はどの程度かなどの情報が不明瞭であることがあります。これは、生成AIの利用者や消費者にとって不安や不信を招く恐れがあります。透明性の向上には、生成AIの仕組みや原理の説明、生成AIの生成過程や根拠の提示、生成AIの生成物の識別や出典の表示などの対策が必要です。
悪用：生成AIは、その能力や特性を悪用される可能性があります。生成AIが、偽造や詐欺、脅迫や恐喝、誹謗や中傷、犯罪やテロなどの目的で利用されることで、個人や組織、社会に損害や被害を与える恐れがあります。悪用の防止には、生成AIの利用規制や監視、生成AIの利用者や提供者の責任や義務の明確化、生成AIの利用履歴や証跡の保存などの対策が必要です。
敵対的プロンプト：生成AIは、その入力となるプロンプトによって、生成するコンテンツの内容や品質が変化する可能性があります。生成AIに対して、故意に不適切なプロンプトを与えることで、生成AIが不適切なコンテンツを生成することを誘発することができます。これを敵対的プロンプトと呼びます。敵対的プロンプトは、生成AIの悪用やハルシネーションによって引き起こされます。
特定の生成AIサービスへの依存：生成AIは、その開発や提供に高度な技術や資源が必要であることから、特定の企業や組織によって独占的に支配される可能性があります。生成AIの利用者や消費者は、特定の生成AIサービスに依存することで、そのサービスの品質や価格、利用条件などに左右される恐れがあります。
シラバスの内容をより具体的にまとめることで理解が深まります。
この方法で学習を進めて、時間に余裕があれば参考文献を読み進めたいと思います。
以上です。
いいなと思ったら応援しよう！
