生成AIサービスに対するリテラシー
生成AIサービスを利用する際には、セキュリティ面だけでなく、内容やリスクを理解し、適切に対処するためのリテラシーが求められます。
私は、結構フリーマン(笑)ですが、会社ではそういうわけにいかない。
でもちょいと制限がきつすぎんじゃね？！ と感じるところもあります。
そんなこんなで、生成AIサービスに共通して留意すべきリテラシーを確認しはじめました。
この記事は、主にFeloさんに手伝っていただいた記事です。
生成AIサービスに対するリテラシー
1. 情報リテラシー
情報の真偽を確認する能力: 生成AIが提供する情報は必ずしも正確ではありません。特に「ハルシネーション」と呼ばれる現象により、誤った情報が生成されることがあります。したがって、出力された情報の信頼性を自ら確認することが重要です。
情報源の評価: 生成AIが学習したデータの出所やその信頼性を理解し、情報の背景を評価する能力が必要です。特に、生成されたコンテンツがどのようなデータに基づいているかを考慮することが求められます。
2. プライバシーとデータ管理の理解
個人情報の取り扱い: 生成AIに入力する情報には個人情報が含まれる可能性があります。個人情報保護法に基づき、どの情報を入力すべきか、または避けるべきかを理解することが重要です。
オプトアウトの選択肢: 多くの生成AIサービスでは、ユーザーがデータの学習に利用されることを防ぐためのオプトアウト設定が用意されています。この設定を利用することで、自分のデータがどのように扱われるかを管理できます。
3. セキュリティ意識
機密情報の保護: 企業や個人の機密情報を生成AIに入力する際には、その情報が漏洩するリスクを理解し、慎重に取り扱う必要があります。特に、業務上の機密情報や顧客データは入力しないことが推奨されます。
セキュリティ対策の確認: 利用する生成AIサービスがどのようなセキュリティ対策を講じているかを確認し、信頼できるサービスを選ぶことが重要です。
4. 倫理的な考慮
著作権と権利侵害の理解: 生成AIが生成するコンテンツが著作権や商標権を侵害する可能性があるため、生成されたコンテンツの利用に際しては、法的なリスクを理解し、適切な対策を講じる必要があります。
フェイクニュースのリスク: 生成AIが生成する情報には、誤情報やフェイクニュースが含まれる可能性があります。これに対処するためには、情報の出所を確認し、批判的に評価する姿勢が求められます。
5. 技術的な理解
生成AIの仕組みの理解: 生成AIがどのように動作するか、どのようなデータを基にしているかを理解することで、出力結果の特性や限界を把握できます。これにより、より効果的にAIを活用することが可能になります。
プロンプト設計のスキル: 生成AIに対して適切な指示（プロンプト）を与える能力が求められます。具体的で明確なプロンプトを設計することで、より望ましい結果を得ることができます。
6. 継続的な学習と適応
最新情報の把握: 生成AI技術は急速に進化しているため、最新の情報やトレンドを常に把握し、適応することが重要です。新たなリスクや対策について学び続ける姿勢が求められます。
フィードバックの活用: 生成AIの利用結果に対するフィードバックを行い、次回の利用に活かすことで、より良い結果を得ることができます。
主要AIサービスのセキュリティ
ユーザーのデータが学習に利用されるリスクについての表現を改善し、オプトアウト設定などの具体的な対策を含めることで、評価のレベルをより現実的に反映させることが重要です。以下に、修正した表を示します。
これにより、ユーザーは自分のデータをどのように管理できるかを理解しやすくなります。
生成AI利用に関するガイドラインサンプル
全社員への通知
生成AIの導入を進めるにあたり、全社員が安心してこの技術を活用できるよう、以下のガイドラインを策定しました。このガイドラインは、生成AIを利用する際の注意点や推奨事項を示していますので、必ず遵守してください。
1. 利用目的の明確化
生成AIを使用する際は、その利用目的を明確にし、業務プロセスにおいてどのように活用するかを具体的に定義してください。無駄なリスクを避けるため、業務に関連する明確な目的を持って利用することが重要です。
2. データ管理とセキュリティ
機密情報の取り扱い: 機密情報や個人情報を生成AIに入力しないようにしてください。特に、個人名、メールアドレス、クレジットカード番号、住所などの機密性の高い情報は絶対に入力しないでください。
データの暗号化: 生成AIを利用する際は、データの暗号化やアクセス制御を徹底し、情報漏洩のリスクを最小限に抑えます。
3. プロンプトの設計
生成AIに与えるプロンプトは具体的で明確に設計してください。曖昧な指示は誤解を招く可能性があるため、期待する出力を得るためには、具体的な指示を心がけましょう。
4. 人間の関与
生成AIが出力した内容は必ず人間が確認し、適切性や正確性を検証してください。AIの出力をそのまま使用するのではなく、必ず内容を確認し、必要に応じて修正を加えることが求められます。
5. 教育とトレーニング
生成AIの利用に関する教育プログラムを受講し、リスクを理解し、適切に利用できるようにしてください。全社員がこの技術を正しく理解し、活用できるようにすることが重要です。
6. 定期的なレビューと改善
生成AIの利用状況や技術の進展に応じて、ガイドラインを定期的に見直し、必要に応じて更新します。最新の情報と技術に基づいた運用を心がけましょう。
7. 透明性の確保
生成AIの利用に関する情報を社内で共有し、透明性を持たせることで、全社員の信頼を得ることができます。定期的な報告やフィードバックの場を設け、情報共有を促進します。
8. 利用するサービスが満たすべき要素
生成AIを利用する際には、以下の要素を満たすサービスを選定してください。
データの再利用ポリシー: 利用するサービスが、入力したデータを今後の学習に再利用するかどうかを明確にし、情報漏洩のリスクを理解した上で利用すること。
セキュリティ対策: サービス提供者が適切なセキュリティ対策を講じていることを確認し、データの保護が確実に行われているかを評価します。
コンプライアンス遵守: サービスが関連する法令や規制を遵守していることを確認し、特に著作権やプライバシーに関するリスクを軽減するための措置が講じられているかを確認します。
透明性の提供: サービスがどのようにデータを処理し、生成物を作成するかについての透明性を提供していること。利用者が理解できる形で情報を提供することが求められます。
サポート体制: 問題が発生した際に迅速に対応できるサポート体制が整っていること。利用者が困った際に相談できる窓口があることが重要です。
このガイドラインを遵守することで、生成AIを安全かつ効果的に活用し、業務の効率化と革新を推進していきます。全社員がこのガイドラインを理解し、実践することを期待しています。
まとめ
どのサービスがというより、どのサービスであっても、ベースとなるリテラシーがないといけないってことだけど、主要AIサービスのセキュリティを見た限り、そんな危なっかしいものはないけどなぁ… ってのが個人的な感覚。
機密情報を入力しない、信頼できるサービスを選ぶ、生成された情報を鵜呑みにしない ってのはよく言われますが、機密情報を入力しないってのはGoogle検索であっても同じ。信頼できるサービスを選ぶことができてれば、まぁ、大いに活用しようぜ！って感じじゃないの？！(笑)
リテラシーに関するソース
[1] https://www.kittenlawoffice.com/column/generativeai2/
[2] https://www.mhlw.go.jp/content/11801000/001310736.pdf
[3] https://www.cloud-contactcenter.jp/blog/points-to-keep-in-mind-of-generative-ai.html
[4] https://www.dsk-cloud.com/blog/gc/6-disadvantages-to-be-aware-of-with-generation-ai
[5] https://www.nri-secure.co.jp/blog/generative-ai-risks
[6] https://www.tlsc.osaka-u.ac.jp/project/generative_ai/important_point.html
[7] https://ai.yoshidumi.co.jp/navi/generate-ai-problem-points
[8] https://officebot.jp/columns/basic-knowledge/generation-ai-issue/
[9] https://bizx.chatwork.com/generate-ai/risk-geai/
[10] https://enterprisezine.jp/article/detail/20663
[11] https://www3.nhk.or.jp/news/special/sci_cul/2023/06/special/ai-guideline/
[12] https://www.soumu.go.jp/use_the_internet_wisely/special/generativeai/
[13] https://www.koushin.co.jp/archives/16188
[14] https://www.digital.go.jp/assets/contents/node/basic_page/field_ref_resources/c1959599-efad-472e-a640-97ae67617219/a4d5d229/20240529_resources_generalitve-ai-guidebook_01.pdf
[15] https://shift-ai.co.jp/blog/5632/
[16] https://shift-ai.co.jp/blog/5747/
[17] https://www8.cao.go.jp/cstp/ai/ai_senryaku/3kai/kojinjouhou.pdf
[18] https://cloud.watch.impress.co.jp/docs/special/1626694.html
[19] https://www.businesslawyers.jp/articles/1316
[20] https://www.sms-datatech.co.jp/column/consulting_generativeai-guideline/
[21] https://dx.mri.co.jp/generative-ai/column/risks-05/
[22] https://standard-dx.com/post_blog/what_is_ai_literacy
[23] https://www.mhlw.go.jp/content/11600000/000816680.pdf
[24] https://ai-market.jp/howto/generative_ai_guideline/
各AIサービスに関するソース
[1] https://ainow.jp/optout-ai/
[2] https://www.nri-secure.co.jp/blog/generative-ai-risks
[3] https://miralab.co.jp/media/chatgpt_optout/
[4] https://www.businesslawyers.jp/articles/1316
[5] https://storywriter.jp/pair/chapter/data-collection/
[6] https://www.tlsc.osaka-u.ac.jp/project/generative_ai/important_point.html
[7] https://www.onamae.com/business/article/100558/
[8] https://www.meti.go.jp/policy/mono_info_service/connected_industries/sharing_and_utilization/20180615001-3.pdf
[9] https://www.ai-souken.com/article/what-is-chatgpt-opt-out
[10] https://bocek.co.jp/media/exercise/chatgpt/7238/
[11] https://storialaw.jp/blog/4831
[12] https://aisi.go.jp/assets/pdf/ai_safety_eval_v1.01_ja.pdf
[13] https://takizawalaw.com/column/corporate-law/5178/
[14] https://aismiley.co.jp/ai_news/machine-learning-evaluation-index/
[15] https://metaversesouken.com/ai/chatgpt/no-learning-data/
[16] https://www.turnitin.jp/blog/what-can-data-do-for-you-support-student-learning-ja
[17] https://www.meti.go.jp/policy/mono_info_service/connected_industries/sharing_and_utilization/20180615001-1.pdf
[18] https://innoventier.com/archives/2024/06/17026
[19] https://ja.statisticseasily.com/glossario/what-is-evaluation-criteria-data-science/
[20] https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/pdf/94037901_01.pdf
[21] https://openlegalcommunity.com/ai-training-data-not-protected-by-copyright-german-court-decision-suggests-post-ai-world-and-differences-with-america/
[22] https://app-liv.jp/ai/articles/115/
[23] https://www.mext.go.jp/content/20240328-mxt_syoto01-000028144_1.pdf
[24] https://www.ai-souken.com/article/machine-learning-evaluation-metrics
[25] https://www.jftc.go.jp/cprc/conference/index_files/21011902.pdf
[26] https://www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/seisaku/r06_02/pdf/94089701_05.pdf
[27] https://www.goatman.co.jp/media/chatgpt-optout/
[28] https://ascii.jp/elem/000/004/131/4131573/
いいなと思ったら応援しよう！
