OpenAI 探索日記（１）

2023/01/27

ようやくOpen AIのアカウントを作ることが出来た。サイトをみると、感激する。これからしばらくここを探索して、いろいろ考えていきたい。
まず目についたのはＯｐｅｎＡＩＣｈａｒｔｅｒ　である。

OpenAI Charter

英語で書かれているので、ＤｅｅｐＬで日本語にしてみた。

私たちは、OpenAIのミッションを実行するための原則を記した憲章を発表します。この文書は、OpenAIの内部と外部の多くの人々からのフィードバックを含め、私たちが過去2年間に洗練させてきた戦略を反映しています。AGIまでのスケジュールはまだ不確定ですが、私たちの憲章は、その開発期間中、人類にとって最善の行動をとるための指針となるでしょう。

OpenAIのミッションは、人工知能（AGI）-経済的に最も価値のある仕事において人間を凌駕する高度に自律的なシステム-が全人類に利益をもたらすことを確実にすることです。私たちは、安全で有益なAGIを直接構築することを試みますが、私たちの仕事が他の人がこの結果を達成するのを助けるならば、私たちの使命は達成されたと考えるでしょう。そのために、私たちは以下の原則にコミットします。

広く分散された利益
私たちは、AGIがすべての人の利益のために使われることを保証し、人類を傷つけたり、権力を不当に集中させるようなAIやAGIの使用を可能にしないために、AGIの展開に関して私たちが得るあらゆる影響力を利用することを約束します。
私たちの第一の忠実義務は、人類に対するものです。私たちは、ミッションを達成するために多大なリソースを必要としますが、広範な利益を損なう可能性のある従業員やステークホルダー間の利益相反を最小限に抑えるため、常に真摯に行動していきます。

長期的な安全性
私たちは、AGIを安全にするために必要な研究を行い、その研究をAIコミュニティ全体に広く普及させることにコミットしています。
私たちは、AGI開発の後期段階が、十分な安全対策を講じる時間なしに競争的なレースになることを懸念しています。したがって、もし価値観を同じくする安全志向のプロジェクトが、私たちよりも先にAGIを構築しようとするのであれば、私たちはそのプロジェクトとの競争をやめ、支援を開始することを約束します。具体的には、その都度合意していきますが、典型的な発動条件としては、「今後2年間に成功する確率が均等以上であること」などが考えられます。

技術的リーダーシップ
AGIが社会に与える影響に効果的に対処するために、OpenAIはAI能力の最先端を行く必要があります-政策や安全性の提唱だけでは不十分です。
私たちは、AGIの前にAIが社会に広く影響を与えると信じており、私たちのミッションと専門性に直接合致する分野でリードするよう努力します。

協働指向
私たちは、他の研究機関や政策機関と積極的に協力し、AGIのグローバルな課題に共に取り組むグローバル・コミュニティを目指します。
私たちは、社会がAGIへの道を歩むための公共財を提供することを約束します。現在、私たちはAI研究のほとんどを公開していますが、安全性とセキュリティへの懸念から、将来的には従来の公開は減少し、安全性、政策、標準化の研究を共有することの重要性が高まると考えています。

どうだろうか？
政策や安全性の提唱だけでは不十分
社会がAGIへの道を歩むための公共財を提供

のところがしびれるね。原子力技術は核爆弾を生み出して、それに対しては、政策や安全性の「提唱」しか出来なかった。それに匹敵する影響力のあるＡＩ技術を開発するときにそれを公共財　public goods　にしていく戦略はすばらしい。

さて、どのような方向にこれからの社会を向けていくのか？公開されているいままでの歴史を探索しながら、いろいろと考えてみたい。

AGI

AGIはartificial general intelligenceの略で、Open AIのミッションとして次のように説明される。

OpenAIのミッションは、人工知能artificial general intelligence（AGI）-経済的に最も価値のある仕事において人間を凌駕する高度に自律的なシステム-が全人類に利益をもたらすことを確実にすることです。

私たちは、安全で有益なAGIを直接構築することを試みますが、私たちの仕事が他の人がこの結果を達成するのを助けるならば、私たちの使命は達成されたと考えることにします。