OpenAI公式 2024年の世界的な選挙に対するOpenAIの取り組み(訳)

Kyutaro

2024年1月16日 05:39

以下は2024/1/16(日本時間)にOpenAIの公式Blogに掲載された How OpenAI is approaching 2024 worldwide elections の和訳になります。

2024年の世界的な選挙に対するOpenAIの取り組み

私たちは、悪用を防ぎ、AI生成コンテンツに関する透明性を提供し、正確な投票情報へのアクセスを改善するために取り組んでいます。

2024年1月15日　著者 OpenAI　安全性と整合性（Safety & Alignment）

選挙の完全性を守るためには、民主的プロセスのあらゆる角度からの協力が必要であり、私たちは自社の技術がこのプロセスを損なうような方法で使用されないようにしたいと考えています。

私たちのツールは、人々が日常生活を改善し、複雑な問題を解決するための力を与えています - 例えば、AIを使って州のサービスを強化したり、患者のために医療フォームを簡素化するなどです。

私たちは、AIシステムが安全に構築、展開、使用されるようにしたいと考えています。新しい技術と同様に、これらのツールには利点と課題があります。それらは前例のないものであり、ツールの使用方法についてさらに学ぶにつれて、私たちのアプローチを進化させ続けます。

世界最大の民主主義国での2024年の選挙に向けて準備する中で、私たちのアプローチは、正確な投票情報を強化し、測定されたポリシーを施行し、透明性を向上させることによって、プラットフォームの安全性に関する作業を続けることです。選挙に関する作業に専念する横断的な取り組みがあり、安全システム、脅威インテリジェンス、法務、エンジニアリング、ポリシーチームの専門知識を結集して、潜在的な悪用を迅速に調査し対処します。

以下は、今年の選挙に向けて私たちのチームが投資している主要なイニシアチブです：

悪用の防止

私たちは、人々がツールを安全かつ責任を持って使用することを期待し、目指していますが、選挙も例外ではありません。私たちは、誤解を招く「ディープフェイク」、規模の大きな影響操作、候補者を装ったチャットボットなど、関連する悪用を予測し、防止するために取り組んでいます。新しいシステムをリリースする前に、私たちはそれらをレッドチームでテストし、ユーザーや外部パートナーからのフィードバックを得て、害を減らすための安全対策を構築します。何年にもわたり、事実の正確性を向上させ、バイアスを減らし、特定のリクエストを断るためのツールを反復してきました。これらのツールは、選挙の完全性に関する私たちの作業のための強固な基盤を提供します。例えば、DALL·Eは、実在する人物（候補者を含む）の画像生成を依頼するリクエストを断るガードレールを持っています。

私たちは、人々がどのように使用するか、または悪用しようとするかについてさらに学ぶにつれて、ChatGPTとAPIの使用ポリシーを定期的に改善しています。選挙に関連して強調すべきいくつかのポイント：

私たちはまだ、私たちのツールが個別の説得にどれだけ効果的かを理解しようとしています。もっと知るまでは、政治キャンペーンやロビー活動のためのアプリケーションを作成することを許可していません。
人々は、実際の人物、ビジネス、または政府とやり取りしていることを知り、信頼したいと思っています。そのため、実在する人物（例：候補者）や機関（例：地方政府）を装ったチャットボットを作成することは許可していません。
民主的プロセスへの参加を妨げるアプリケーションは許可していません。例えば、投票プロセスや資格（いつ、どこで、誰が投票できるか）を誤って表現することや、投票を思いとどまらせること（例：投票が無意味だと主張する）などです。
新しいGPTでは、ユーザーが潜在的な違反を私たちに報告することができます。

AI生成コンテンツに関する透明性

画像の出所に関するより良い透明性 - 画像がどのツールを使って生成されたかを検出する能力を含む - は、有権者が信頼と自信を持って画像を評価するのに役立ちます。私たちはいくつかの出所に関する取り組みに取り組んでいます。今年初めには、DALL·E 3で生成された画像に対して、コンテンツの出所と真正性のための連合のデジタルクレデンシャル - コンテンツの出所に関する詳細を暗号化でエンコードするアプローチ - を実装する予定です。

また、DALL·Eで生成された画像を検出するための新しいツールである出所分類器の実験も行っています。私たちの内部テストでは、画像が一般的なタイプの変更を受けた場合でも、初期の段階で有望な結果が示されています。私たちは、ジャーナリスト、プラットフォーム、研究者を含む最初のテスターグループに対して、間もなくそれを利用可能にする予定です。

最後に、ChatGPTは既存の情報源との統合を進めており、例えば、ユーザーはグローバルなリアルタイムのニュース報道にアクセスし始め、帰属とリンクが含まれます。情報の出所とニュースソースのバランスに関する透明性は、有権者が情報をより良く評価し、自分たちが信頼できると判断するのに役立ちます。

権威ある投票情報へのアクセスの改善

アメリカ合衆国では、国家秘書官協会（NASS）、公務員のための国内最古の超党派の専門組織と協力しています。ChatGPTは、特定の手続き的な選挙関連の質問に対して、CanIVote.org（米国の投票情報に関する権威あるウェブサイト）にユーザーを誘導します。例えば、どこで投票するかなどです。この作業から得られた教訓は、他の国々や地域でのアプローチに役立てられるでしょう。

今後数ヶ月でさらに共有することがあります。今年の世界的な選挙に向けて、私たちのツールの潜在的な悪用を予測し、防止するために、パートナーと協力し、学び続けることを楽しみにしています。