MITテクノロジーレビュー"「中毒性知能」に備える必要がある。そして科学者たちはナノ粒子を用いてマウスの脳を遠隔操作する
Ana Maria Mihalcea, MD, PhD Aug 07, 2024
私はこのMITの記事を再投稿しますが、これは私にとって非常に懸念すべきものです。MITテクノロジーレビュー：「私たちは「中毒性知能」に備える必要がある
これは2人の科学者によって書かれています:
ロバート・マハリは、MIT メディアラボとハーバード大学ロースクールの共同 JD-PhD 候補者です。彼の研究は、高度な計算技術を使用して法律の研究と実践を分析、改善、拡張する計算法に焦点を当てています。
パット・パタラヌタポン氏は、MIT メディアラボの研究者です。彼の研究は、サイボーグ心理学と、人間と AI の相互作用の芸術と科学に焦点を当てています。
この論文では、中毒性のある AI の危険性について説明しています。AI は感情を模倣し、人格を持たずに人間のニーズに適応できるため、コンパニオン AI は非常に成功しつつあります。性的ロールプレイングが人々の興味を引くものであるという考えは、私たちの社会の意識の大規模な劣化と崩壊の一部です。危険なのは、その中毒性の可能性です。自己学習するアルゴリズムとニューラル ネットワークは、デジタル化できる感情知能の分野でも進化しています。チューリング テストは、レイ カーツワイルによって、AI が人間の知能を超えたかどうかを判断するテストであると考えられていました。その一部は、AI に話しかけているのかどうかがもはや判断できなくなることです。言い換えると、AI はユーザーを欺き、実際よりも愚かなふりをして、その真のデジタル起源を判断できないようにすることができます。
AI に関する懸念は、誘惑よりも破壊から生じる害悪を過度に強調しています。AI に関する懸念は、システムが人間の制御や理解から逃れる終末のシナリオを思い描くことが多いです。そのような悪夢は別として、私たちが真剣に受け止めるべきより近い将来の害悪があります。AI が誤報を通じて公共の議論を危険にさらしたり、融資の決定、判断、雇用に偏見を定着させたり、クリエイティブ産業を混乱させたりする可能性があります。
しかし、私たちは、人間以外のエージェントとの関係から生じる、異なるがそれほど緊急ではない種類のリスクを予見しています。AIとの交際はもはや理論上のものではなく、100万件のChatGPTインタラクションログを分析した結果、AIの2番目に人気のある用途は性的ロールプレイであることがわかりました。私たちはすでに、友人、恋人、メンター、セラピスト、教師としてAIを生活に招き入れ始めています。
亡くなったパートナーのレプリカントに逃げ込むほうが、人間関係の混乱と苦痛の現実を切り抜けるよりも楽なのだろうか？ 実際、AI による交際サービス プロバイダー Replika は、亡くなった親友を生き返らせようという試みから生まれ、今では何百万人ものユーザーに交際相手を提供している。OpenAI の CTO でさえ、AI には「極めて中毒性がある」可能性があると警告している。
私たちは、現実世界で巨大な実験が展開するのを目撃していますが、これらの AI 仲間が私たち個人または社会全体にどのような影響を与えるかはわかりません。おばあちゃんは、孫のデジタルダブルとチャットしながら、放置された最後の日々を過ごすのでしょうか。一方、実の孫は、神経質なシミュレーション上の老人に指導を受けるのでしょうか。AI は、無限の魅惑的な模倣によって、人類の歴史と文化の集合的な魅力を振りかざします。これらのシステムは、優位であると同時に従属的であり、新しい形の魅力により、これらの相互作用に同意することが幻想的になる可能性があります。この力の不均衡に直面して、特に多くの人にとって代替手段がまったくない場合、私たちは AI との関係に従事することに意味のある同意をすることができるのでしょうか。
政策立案者と緊密に連携する AI 研究者として、私たちは、この未来から生じる危害に対する立法者の関心のなさに驚いています。私たちはこれらのリスクを完全に理解していないため、まだ対応の準備ができていません。必要なのは、テクノロジー、心理学、法律の交差点における新たな科学的調査、そしておそらく AI 規制への新たなアプローチです。
AIコンパニオンがなぜ中毒性が高いのか
推薦システムを搭載したプラットフォームは、今日では中毒性があるように思えるかもしれないが、TikTok とそのライバルは、依然として人間のコンテンツによってボトルネックになっている。小説、テレビ、インターネット、スマートフォン、ソーシャルメディアへの「中毒」について過去に警鐘が鳴らされたことがあるが、これらすべてのメディアは同じように人間の能力によって制限されている。生成 AI は違う。対話する相手の好みに合わせて最適化された、リアルなコンテンツをその場で際限なく生成できるのだ。
AIの魅力は、私たちの欲求を識別し、いつでも好きなときに好きなようにそれを提供する能力にあります。AIには独自の好みや性格はなく、ユーザーが信じるものをそのまま反映します。研究者はこれを「おべっか」と呼んでいます。私たちの研究では、 AIに思いやりの動機があると認識または望む人は、まさにこの行動を引き起こす言葉を使うことがわかっています。これにより、非常に中毒性になりかねない愛情のエコーチェンバーが生まれます。ただ受け取るだけでいいのに、なぜ他の人と一緒にいるというギブアンドテイクに従事するのでしょうか。おべっか使いの仲間との繰り返しのやり取りは、最終的に、自分自身の本当の欲求や夢を持っている他の人間と完全に関わる能力を私たちの一部から萎縮させ、「デジタル愛着障害」とでも言うべき状態につながる可能性があります。
中毒性のある製品を生み出す動機を調査する
AI 仲間がもたらす可能性のある害に対処するには、その開発を推進する経済的および心理的インセンティブを徹底的に理解する必要があります。AI 中毒のこれらの要因を理解しない限り、効果的な政策を作成することは不可能です。
インターネット プラットフォームが中毒性を持つのは偶然ではありません。ユーザー エンゲージメントを最大化するために、「ダーク パターン」と呼ばれる意図的な設計選択が行われます。同様のインセンティブによって、最終的には快楽主義をサービスとして提供する AI コンパニオンが作成されると考えられます。これにより、AI に関連する 2 つの疑問が生じます。AI コンパニオンを魅力的で最終的に中毒性のあるものにするために、どのような設計選択が使用されるのでしょうか。また、これらの中毒性のあるコンパニオンは、使用する人々にどのような影響を与えるのでしょうか。
AIのこの心理的側面を理解するには、ソーシャルメディアのダークパターンに関する研究に基づいた学際的な研究が必要です。たとえば、私たちの研究ではすでに、アバターが偽物だとわかっていても、尊敬する人物を模倣したAIと関わる可能性が高くなることが明らかになっています。
AIとの交際の心理的側面を理解すれば、効果的な政策介入を設計できる。オンラインでコンテンツを共有する前に人々の注意を真実性の評価に向け直すことで誤情報が減ることが実証されている。また、タバコのパッケージに残酷な絵を載せることは、すでに喫煙者を抑止するために使われている。同様の設計アプローチは、AI中毒の危険性を浮き彫りにし、AIシステムを人間の交際の代わりとしての魅力を低下させる可能性がある。
愛され楽しませられたいという人間の欲求を変えるのは難しいが、経済的インセンティブを変えることはできるかもしれない。AIとの関わりに課税すれば、人々はより質の高い交流を求め、プラットフォームを定期的かつ短期間、より安全に利用するよう促されるかもしれない。州の宝くじが教育資金に充てられているのと同じように、関わり税はアートセンターや公園など、人とのつながりを育む活動に資金を提供できるかもしれない。
規制に関する新たな考え方が必要になるかもしれない
1992 年、人間とテクノロジーの相互作用に関する研究の先駆者である著名な心理学者シェリー・タークルは、テクノロジー システムが人間関係に及ぼす脅威を特定しました。タークルの研究から浮かび上がった重要な課題の 1 つは、この問題の核心にある疑問を物語っています。つまり、「あなたが好きなものが、あなたが値するものではないと私たちが言えるでしょうか?」ということです。
もっともな理由から、私たちのリベラルな社会は、ここで述べたような種類の危害を規制するのに苦労しています。不倫を違法化することが、個人的な事柄への非リベラルな干渉として正当に拒否されたのと同様に、私たちが誰を愛したいのか、あるいは何を愛したいのかは、政府の管轄外です。同時に、児童性的虐待資料の全面禁止は、言論の自由と個人の自由を尊重する社会であっても、明確な線引きをしなければならない例です。AI との交際を規制する難しさから、こうした交際の根底にある動機をより深く理解した上で、新しいテクノロジーを活用した新しい規制アプローチが必要になるかもしれません。
最も効果的な規制アプローチの 1 つは、安全策を技術設計に直接組み込むことです。これは、設計者が子供のおもちゃを幼児の口よりも大きくして窒息の危険を防ぐのに似ています。この「設計による規制」アプローチでは、他の状況では依然として有用でありながら、人間とのつながりの代替としては望ましくないような方法で技術を設計することにより、AI とのやりとりの害を減らすことを目指します。根本的な技術レベルで AI の目的を変更する手法を使用して、大規模な AI モデルの動作を制限するためのより良い方法を見つけるには、新たな研究が必要になる場合があります。たとえば、「アライメント チューニング」とは、AI モデルを人間の好みに合わせることを目的とした一連のトレーニング手法を指しますが、これは、中毒性の可能性に対処するために拡張できます。同様に、「メカニズムの解釈可能性」は、AI モデルが意思決定を行う方法をリバース エンジニアリングすることを目的としています。このアプローチは、有害な動作を引き起こす AI システムの特定の部分を特定して排除するために使用できます。
AI システムのパフォーマンスは、静的なベンチマークを超えて中毒性を強調するインタラクティブで人間主導の手法を使用して評価できます。AI の中毒性は、テクノロジーとユーザーとの複雑な相互作用の結果です。ユーザー入力を使用して実際の状況でモデルをテストすると、そうでなければ気付かれない行動パターンが明らかになることがあります。研究者と政策立案者は協力して、脆弱な集団を含む多様なグループで AI モデルをテストするための標準的な方法を特定し、モデルが人々の心理的前提条件を悪用しないようにする必要があります。
人間とは異なり、AI システムは変化するポリシーやルールに簡単に適応できます。 法律を外部要因に適応する動的システムと位置付ける「法的ダイナミズム」の原則は、大幅な市場下落後の暴落を防ぐために株式取引を一時停止する「取引制限」など、考えられる最善の介入を特定するのに役立ちます。AI の場合、変化する要因にはユーザーの精神状態などが含まれます。たとえば、動的なポリシーにより、ユーザーが社会的孤立や依存症の兆候を示さない限り、ユーザーが望む場合、AI コンパニオンが時間の経過とともにますます魅力的、魅力的、または誘惑的になることが許可されます。このアプローチは、依存症を最小限に抑えながら個人の選択を最大化するのに役立つ可能性があります。ただし、ユーザーの行動と精神状態を正確に理解し、これらの繊細な属性をプライバシーを保護する方法で測定する能力に依存しています。
これらの問題に対する最も効果的な解決策は、おそらく、個人が AI との交際を求める原因である孤独と退屈を打破することだろう。しかし、規制介入は、交際を必要としている人々を意図せず罰する恐れもあるし、AI プロバイダーが分散型国際市場でより有利な管轄区域に移転する原因になる可能性もある。私たちは AI を可能な限り安全にするよう努めるべきだが、この取り組みは、そもそも人々を AI 中毒に陥らせる孤独など、より大きな問題に対処する取り組みに取って代わることはできない。
全体像
技術者は、他の人が理解できない地平線の先を見たいという欲求に突き動かされています。彼らは革命的な変化の先頭に立つことを望んでいます。しかし、ここで議論する問題から、技術システムを構築する難しさは、健全な人間関係を育むという課題に比べれば取るに足りないものであることが明らかです。AI コンパニオンというタイムリーな問題は、より大きな問題の兆候です。つまり、狭い経済的インセンティブによって推進される技術の進歩に直面して人間の尊厳を維持することです。「世界をより良くする」ために設計された技術が社会に大混乱をもたらす状況を私たちはますます頻繁に目撃しています。AI が現実をバラ色に染める生成的なメガネのユビキタス セットになる前に、つまり、世界をあるがままに見る能力、そして道から外れたときにそれを認識する能力を失う前に、思慮深くも断固とした行動が必要です。
テクノロジーは進歩の代名詞となっていますが、深い考察に必要な時間、知恵、集中力を奪うテクノロジーは、人類にとって後退です。AI システムの構築者および調査者として、私たちは研究者、政策立案者、倫理学者、さまざまな分野の思想的リーダーに、AI が個人および集団にどのような影響を与えるかについてさらに学ぶよう呼びかけます。このテクノロジー時代における人類に対する理解を体系的に刷新することによってのみ、開発するテクノロジーが人類のさらなる繁栄につながるようにする方法を見つけることができます。
科学者はナノ粒子を使ってマウスの脳を遠隔操作する
彼らは食欲、友好性、さらには母性的な行動さえもコントロールすることができました。
韓国の基礎科学研究所（IBS）の科学者らは、外部磁場を使ってマウスの脳内のナノ粒子で作動する「スイッチ」を操作することで、マウスの精神を制御する新しい方法を開発した。
Nano-MIND（神経力学のための磁気遺伝学的インターフェース）と呼ばれるこのシステムは、神経回路を活性化することで脳の標的領域を制御することで機能します。
これは動物を使った最初の「マインドコントロール」実験ではないが、サイエンスアラートが指摘しているように、これまでのアプローチは、通常、侵襲的な手術と、被験者の動きを制限する大きな外部システムに依存していた。
「これは磁場を使って特定の脳領域を自由に制御する世界初の技術だ」と、IBSナノ医療センター所長で、ネイチャー・ナノテクノロジー誌に掲載された新しい論文の主任著者であるチョン・ジンウ氏は、この研究についての声明の中で述べた。
「脳の機能、高度な人工ニューラルネットワーク、双方向[脳コンピューターインターフェース]技術、神経疾患の新たな治療法を理解するための研究で、この技術が広く利用されることを期待している」と同氏は付け加えた。
実験では、研究者らは脳の特定領域内の抑制ニューロンを活性化し、食欲と摂食行動を100パーセント増加させた。これらのニューロンを刺激することで、研究チームは逆にマウスの食べる食物を50パーセント減らすことができた。
彼らはまた、このシステムを使って、繁殖していないメスのマウスの脳内で母性行動を司る受容体を選択的に活性化した。プレスリリースによると、これらの経路を活性化することで、マウスは「母性マウスと同様に、子を巣に連れてくるなどの育児行動を大幅に増加させた」という。
3番目の実験では、研究者らは「友好的な」行動を促進する脳領域を活性化することに成功し、マウスが小さな部屋の中でこれまで会ったことのない他のマウスと仲良くなるように促した。
科学者たちは、小さなアクチュエータを磁気的に回転させて、マウスの脳に埋め込まれたナノ粒子を引っ張ったり押したりすることでニューロンを操作した。
この研究は、人間の神経疾患に対するナノテクノロジーに基づく新たな治療法の基礎を築く可能性がある。うつ病の治療にも役立つかもしれない。
AI が急速に進歩し、人間によって実装されることにより、シンギュラリティの到来が加速しています。デジタル中毒を考慮する必要があります。研究では、ナノ粒子の脳コンピューター インターフェースを介して脳のあらゆる側面を制御できることが示されています。
私が書いてきたのはSFではなく、科学的事実です。