r1のご紹介。あなたのポケット・コンパニオンOpenAI Accidental Release - メモリ付きGPT
今日のメール
🔓 ChatGPTを脱獄させる方法
🔥 MultiOn： AIエージェントで人類の明るい未来を築く
🕵🏻♂️ AIは国家国家のハッカーを助けるが、米国のスパイが彼らを見つけるのにも役立つとNSAサイバー長官が語る。
AIを活用した15の新しいツールとリソース。ツールの全リストはオンライン版をご確認ください。
r1をご紹介します。あなたのポケット・コンパニオン
本日、ラビットの新しいAIデバイス「R1」がCEOのジェシー・リュウによって発表された。価格は199ドルで、2.88インチのタッチスクリーン、回転カメラ、ナビゲーション用のスクロールホイール／ボタン、2.3GHz MediaTekプロセッサー、4GBのメモリー、128GBのストレージを備えたコンパクトなスタンドアローンAIガジェットだ。ティーンエイジ・エンジニアリングとのデザイン・コラボレーションが特徴で、「1日中」バッテリーが持つことを約束している。軽量で優れたデザインのハードウェアにもかかわらず、R1の最大の目玉はソフトウェアであるラビットOSだ。Rabbit OSは、大規模言語モデルとは異なり、「大規模アクションモデル」（LAM）に基づいており、アレクサやグーグル・アシスタントのように、アプリのユニバーサル・コントローラーとして機能する。単一のインターフェースを通じて、音楽の制御、車の注文、食料品の購入、メッセージの送信など、さまざまなタスクを実行できる。
R1は新しいアクションを実行するようにトレーニングすることができ、様々なサービスにログインするためのラビットホールと呼ばれるウェブポータルと統合されている。ラビットの戦略では、APIを構築したり、R1をサポートするよう開発者を説得したりする必要はない。その代わりに、LAMは既存のアプリでトレーニングされる。R1はいくつかのタスクを単独で実行できるが、新しいタスクを教えるには、ラビット社の仮想マシンを使用する必要がある。
Rabbit OSは、ChatGPTがウェブ検索を変えたように、アプリストアに革命を起こすかもしれない。しかし、R1の実際の実用性や、様々なプラットフォームやデバイスとの統合能力については、まだ未知数だ。このデバイスは予約可能で、3月に出荷が開始される予定だ。
OpenAI Accidental Release - GPTs with Memory 😍（メモリ付きGPTs
昨日一瞬、一部のChatGPTユーザーのアカウントにこのポップアップが表示されました。このスクリーンショットは新しいGPTメモリ機能を指しています。これはOpenAIがプロジェクト・サンシャインと呼んでいるもので、OpenAIからの以前のリークでも見られたものです。
新しいポップアップとともに、設定メニューの下に "Personalization "という新しいセクションがあり、そこでメモリオプションのON/OFFを切り替えることができます。
約20分後、新しい設定は消え、設定メニューで見つけることができなくなりました。ChatGPTをテストしたところ、現在チャットに実際のメモリがないこともわかりました。
これはOpenAIによる偶発的なリリースのようですが、OpenAIが近いうちにこの機能をリリースする可能性は高いでしょう。
MultiOnを発表： AIエージェントで人類の明るい未来を築く
マルチオンは、スタンフォード大学の卒業生であるディヴィ・ガーグとオマー・シャヤが設立した革新的なAIスタートアップだ。彼らのビジョンは、ありふれた仕事をこなすAIエージェントを作ることで、人々がより有意義な活動に集中できるようにすることだ。MultiOnのAIエージェントは、旅行日程の予約やレストランの予約など、通常人間には時間がかかる作業を素早く処理することができる。
ディヴ・ガーグは、複数の仕事を掛け持ちしながら自律型AIシステムに興味を持ち、スタンフォード大学の博士課程を中退してマルチオンを立ち上げた。彼の経歴には、大規模言語モデル（LLM）、強化学習の研究が含まれ、アップル、グーグル、Nvidiaなどの企業で顕著な貢献をしている。
コンピューターサイエンスと消費者向け製品に強いバックグラウンドを持つオマー・シャヤは、ディヴと出会ったとき、スタンフォードでMBAを取得しようとしていた。彼はマイクロソフトとメタで消費者向けAI製品に携わった経験があり、彼の洞察力はマルチオンの製品ビジョンに大きな影響を与えている。
同社のミッションは、AIによって人間の潜在能力を増強し、同時並行的なタスク処理を可能にし、日常生活の効率化を変革することだ。マルチオンはすでに、航空券の予約、食事の注文、予約などの機能を実証している。業界大手から大きな注目と投資を集めており、AIの展望に革命を起こす可能性が認められている。
新しい論文 ジョニーがLLMを脱獄させる方法
このプロジェクトでは、GPT-3.5やGPT-4のような大規模言語モデル（LLM）を「脱獄」または操作するために、さまざまな説得テクニックを使用することに焦点を当てている。40種類の説得テクニックの分類法が開発され、これらのモデルに繰り返し適用された。研究チームは、彼らが "Persuasive Adversarial Prompts"（PAPs）と呼ぶものを使って、これらのLLMをジェイルブレイクすることに92％という非常に高い成功率を発見した。
興味深いことに、GPT-4のようなより高度なモデルは、これらのPAPに対してより弱いことが明らかになった。さらに、これらのPAPに対抗するために開発された適応的防御は、他の形態の攻撃に対しても有効であることが証明され、これらの防御の広範な応用が示唆された。
また、このメッセージは、「論理的アピール」や「面前でのドア」といった説得テクニックの使用も文章内で実証しており、議論されているコンセプトの実例をリアルタイムで提供している。このプロジェクトの目的は、様々な形の説得攻撃に対するLLMの安全性と整合性をテストし、改善することにあるようだ。
#R1ポケットAI (R1 Pocket AI)
#Rabbit新デバイス (Rabbit New Device)
#GPTメモリー機能 (GPT Memory Feature)
#ChatGPT進化 (ChatGPT Evolution)
#AIエージェントMultiOn (AI Agent MultiOn)
#人間とAIの共生 (Human-AI Coexistence)
#AIアプリ革命 (AI App Revolution)
#スタンフォードAIスタートアップ (Stanford AI Startup)
#LLMジェイルブレイク技術 (LLM Jailbreak Techniques)
#AIパーソナライゼーション (AI Personalization)