将来、人間は自分よりはるかに賢いAIシステムを監督する必要があるだろう
要約
OpenAIの最新研究によれば、将来、人間は自分よりもはるかに賢いAIシステムを監督する必要があります。この研究は、超人的なAIアライメントに焦点を当てており、人間よりも賢いAIを監督する方法を模索しています。研究では、小さなモデルが大きなモデルを監督するアプローチを提案し、GPT-2レベルのモデルがGPT-4を監督することで、複雑な問題に対しても高い性能を発揮できることが示されています。これは、強力なAIモデルが弱いスーパーバイザーの指示に従い、その能力を活用できることを示唆しています。
この研究は、強化学習に基づくアライメント手法の限界に挑戦し、将来の超人AIモデルのアライメントに向けた新たなアプローチを提供します。さらに、研究チームは弱対強の汎化に関するオープンソースコードを公開し、超人AIアライメント研究のための助成金プログラムを開始することで、この分野の研究を促進し、高度なAIシステムの安全性と有用性を確保することを目指しています。
オープンAI、将来のリスクと報酬、人工知能について 👀 サム・アルトマン
将来、人間は自分よりはるかに賢いAIシステムを監督する必要がある
グーグル・ディープマインド、解けない数学の問題を解くために大規模な言語モデルを使用
🧸 グライムスは子供向けの対話型AI玩具に取り組んでいる。Grokの紹介。
ポータブルで非侵襲的な読心AIが、思考をテキストに変える。
14の新しいAIツールとリソース。ツールの全リストはオンライン版をご確認ください。
将来、人間は自分よりはるかに賢いAIシステムを監督する必要がある。
超人的なAIアライメントの分野におけるOpenAIの新しい研究は、"スーパーアライメント "について論じている。この分野の主な課題は、人間よりもかなり賢いAIシステムを監督することである。この研究の背後にあるチームは、この問題を研究するためのアナロジーを提案している：より小さく、より能力の低いモデルを使用して、より大きく、より能力の高いモデルを監督する。
この研究では、GPT-2レベルのモデルをGPT-4の監督に用いることで、小さなモデルが失敗するような複雑な問題であっても、GPT-3.5に近い性能を引き出すことができることを示している。これは、強力なモデルが弱いスーパーバイザーの意図に従って汎化し、スーパーバイザーの限界を超えた能力を活用できることを示している。
この論文は、人間のフィードバックからの強化学習（RLHF）のような現在のアライメント手法の限界に取り組んでいる。しかし、提案された手法は、弱対強の汎化を改善することに有望であり、将来の超人AIモデルのアライメントを行うための潜在的な道筋を示唆している。
この分野のさらなる研究を促進するため、研究チームは弱対強の汎化実験のためのオープンソースコードを公開し、超人AIアライメント研究のための1,000万ドルの助成金プログラムを開始する。その目的は、高度なAIシステムが人類にとって安全かつ有益であり続けることを保証することであり、この新たな研究の方向性は、AIアライメントにおける実証的進歩のための有望な道を提供するものである。
偏ったニュースにイライラしていませんか？事実を見つけるために100以上のニュースソースをふるいにかけることにうんざりしていませんか？意見を捨てて、純粋な事実のダイジェストを毎日受け取りましょう。1440にご挨拶を！政治、ビジネス、科学、スポーツ、文化、その他を掘り下げてみましょう。毎朝1440を読んでいる300万人のアメリカ人に加わりましょう。
バーチャル試着は、ユーザーが物理的に試着することなくファッションを試すことができる、革新的な技術となっている。しかし、既存の方法では、忠実度が高く、ディテールに一貫性のある結果を生成することに苦労することが多い。拡散モデルは、高品質でフォトリアリスティックな画像を生成する能力を実証していますが、バーチャル試着のような条件生成シナリオに関しては、制御と一貫性を達成する上でまだ課題に直面しています。Outfit Anyoneは、2ストリームの条件付き拡散モデルを活用することで、これらの制限に対処し、よりリアルな結果を得るために衣服の変形を巧みに処理することを可能にします。また、ポーズや体型などの要素を調整するスケーラビリティと、アニメから実写まで幅広い適用可能性により、他とは一線を画しています。多様なシナリオにおけるOutfit Anyoneのパフォーマンスは、その有用性と実世界への展開の準備の整ったことを強調しています。
InstagramがGenAIを搭載した背景編集ツールを導入
インスタグラムは、米国を拠点とするユーザー向けに、AIを活用した新しい背景編集ツールを導入した。MetaのジェネレーティブAIリーダーであるAhmad Al-Dahleがこの機能を発表した。この機能には、「レッドカーペットの上で」や「子犬に囲まれて」といったプロンプトが用意されており、ユーザーが自分で書くこともできる。このツールは、これらの背景を持つストーリーズに "Try it "ステッカーを追加し、他のユーザーがこの機能を使用することを奨励する。
Snapchatはまた、AIが生成した画像を作成して送信するための有料ユーザー向けツールもリリースした。Snapchatは以前、テーマに沿った画像を作成するためのDreamsという機能を発表し、Snapchat+のユーザーがプロンプトベースの背景を使用できるようにした。
さらにMetaは、28種類のAIキャラクターをWhatsApp、Messenger、Instagramを含む米国内の全アプリに拡大した。これらのキャラクターはビング検索をサポートし、コンテキストウィンドウが改良されている。Metaはまた、Emuモデルを搭載したスタンドアローンのAI画像ジェネレーター、Imagine with Metaを発表した。