AIの未来は吉か凶か【海外最新AIニュースまとめ】

2023年11月2日 17:43

毎日たったの5分で世界の最新AIトレンドがわかるまとめニュースをTwitterやnoteで配信しております！
ぜひフォローして毎日のAI情報キャッチアップの一つにお役立てください♪
Twitterアカウント：@AICrossTime（タップしてフォロー）

✍️本日のハイライト【約2分で読み終わります】

フロンティアリスクと備え

OpenAIはAGI（人工一般知能）の安全な構築を使命として、現代のシステムから超知能に至るまでのAIに関連するあらゆる安全リスクに真摯に取り組んでいます。7月には、他の主要なAI研究所と共に、AIの安全性、セキュリティ、信頼を促進するための自主的なコミットメントが行われました。Summitでは、フロンティアAIの安全性に関する進捗を詳細に報告し、自主的なコミットメントの範囲内での取り組みを共有されました。

最先端の既存モデルを超える能力を持つフロンティアAIモデルは、人類全体に利益をもたらす可能性がある一方で、ますます重大なリスクをもたらす可能性もあります。フロンティアAIから生じる壊滅的なリスクを管理するためには、

フロンティアAIシステムが悪用された場合の危険性はどの程度か？
フロンティアAIシステムの危険な能力に対するモニタリング、評価、予測、保護のための堅牢なフレームワークをどのように構築するか？
もしフロンティアAIモデルの重みが盗まれた場合、悪意のある行動者がそれをどのように利用するか？

など、高い能力を持つAIシステムの安全性を保つために必要な理解とインフラを確保する必要があります。

そこでOpenAIは「備え」という意味を持つ”Preparedness”という新しいチームを構築しています。このチームはAleksander Madryがリーダーを務め、近い将来に開発するモデルからAGIレベルの能力を持つモデルに至るまで、フロンティアモデルの能力評価、評価、内部レッドチームの活動を緊密に連携させています。

生成AIはビジネスを変革するか？

生成AIは、利用の増加と技術の洗練が急速に進んでいます。ChatGPTの公開以降、多くの人々が生成AIを試しており、最初の5日間でプラットフォームの利用者は100万人を超えました。Insider Intelligenceの予測によると、2023年末までにアメリカのインターネット利用者の25%（約8,000万人）が月に少なくとも一度は生成AIを利用するとされ、2024年には33%に増加する見込みです。

この現象はアメリカに限ったことではありません。Salesforceの調査によれば、アメリカ、イギリス、オーストラリア、インドの4,000人のうち半数が生成AIを利用した経験があり、その中でもインドが最も高い割合で3/4の人が技術を試しています。

データオフィサーであるChristian Ward氏は、「生成AIが人間の言葉を理解できることが非常に大きな進歩である」と述べており、人々がAIと自然にコミュニケーションを取れるようになったことで、テクノロジーがより身近に感じられるようになったということです。

安全でセキュアなAIへの取り組み

サイバーセキュリティの脅威は日々進化しており、最大の脆弱性は企業や製品の製造者ではなく、外部のセキュリティ研究者によって発見されることが多いです。Googleは「Vulnerability Rewards Program (VRP)」や「Project Zero」、「オープンソースソフトウェアのセキュリティ」などを通じて集団セキュリティを支援してきました。

GoogleはVRPを拡大し、生成AI特有の攻撃シナリオに対する報酬を提供することで、AIの安全性とセキュリティに関する研究を刺激し、AIをみんなにとって安全なものにするための問題を解明することを目指しています。

新しい技術には新しい脆弱性報告ガイドラインが必要です。生成AIは伝統的なデジタルセキュリティとは異なる問題を引き起こす可能性があります。「Trust and Safety」チームは、これらの潜在的なリスクに対して事前に評価し、テストするために数十年にわたる経験を生かし、包括的なアプローチを取っています。

Amazon、AIへの情熱を加速

AmazonのAIの成長が目覚ましいものとなっています。同社がAIからの収益を報告しているわけではなく、今後もそうなる可能性は低いと思われます。しかし、利益報告においてAI関連の用語の使用が増加しているのが見受けられます。特に、Amazonの生成AI製品である「Bedrock」や「CodeWhisperer」の言及は前四半期比で67％、200％増加し、「Anthropic」という新進気鋭のAIスタートアップへの投資による言及は4倍にもなりました。

Amazonは、自社がクラウドコンピューティングの最大のライバルであるMicrosoftにAI分野で後れを取っているとの印象を払拭するため、生成AIへの注力を強化しています。実際に、Amazon CEOのアンディ・ジャッシーは投資家との電話会議で、Alexaや店舗、その他のAmazonビジネスがこの技術をどのように活用しているかを列挙しました。Amazonの第三四半期の結果がその背景を物語っています。AWSクラウドユニットは前年比でわずか12％の成長に留まり、前四半期と同じペースで、昨年の第三四半期の28％から大幅に減速しています。これは、マイクロソフトのAzureクラウドユニットの29％の成長と比較すると対照的です。

AIに関するイギリス首相スピーチ：2023年10月26日

イギリスのリシ・スナック首相は、AIが将来の世代にもたらすあらゆる恩恵と機会を実現するために、AIを取り巻くリスクを理解し、それに対処することが私たちの世界的責任であるとスピーチしました。このスピーチでは、医療の分野でのAIの利用例、特にMoorfields Eye Hospitalでの目の画像からの病気の診断や心臓発作、脳卒中、パーキンソン病の予測などが挙げられています。

しかし、リシ・スナック首相はまた、AIの潜在的なリスクにも言及しています。化学や生物兵器の製造が容易になること、テロリストがAIを利用して恐怖を広めること、サイバー攻撃や不正行為、さらには「スーパーインテリジェンス」と呼ばれるAIによる人類のコントロール喪失の危険性が含まれます。

これに対応するために、以下の三つの具体的な取り組みを紹介しています。

安全の確保：スピーカーは、AIの安全性を評価するための新しいタスクフォースを設立し、AI Safety Instituteを開設すること。
国際的な協力：スピーカーは、世界初のGlobal AI Safety Summitを開催し、世界中のAIの専門家、企業、政府代表者を集めて、AIのリスクに関する共通の理解を築くこと。
AIの利益の享受：スピーカーは、すでに世界で3番目の技術力を持ち、AI関連のビジネスにとって魅力的な場所であるイギリスをさらに強化し、人々がAIの機会を享受できるようにすること。

最後に、テクノロジーの力を利用して人々の生活を向上させ、将来の世代により良い未来を提供するための強い使命感を表明し、スピーチを締めました。

🛠新しいAI関連のツール紹介

Olle - MacでChatGPT。
Audioflare - 書き起こし、分析、翻訳 - Cloudflareプレイグラウンドのオールインワンオーディオツール。
Genie AI - AIリーガルアシスタント。
Spoke - プロダクトビルダーのための優先受信ボックス。
Helpbar - SaaSのために構築されたユニバーサル検索。
Resolve AI - サポートチケットの50%を即座に解決。
Bodt - ウェブサイトのためのAI会話チャットボット。
tldr - ウェブ上のあらゆる記事を要約。
Writers brew - 毎日のライティングに最適な AI アシスタントアプリ。
Zephyr 🪁 - AlpacaEvalのChatGPTと同等の7Bパラメータモデル。

View more →

👀その他のAIに関する海外ニュース