見出し画像

AIが数千人を偽の花火ショーで騙した

AGIに仕事を奪われたい

13,283 文

完全な偽物のAI生成コンテンツが、実際には花火が上がらない場所に数千人もの人々を集めることに成功しました。研究者たちは新しい外骨格スーツの実地試験を完了しました。AIがクレイジーなダンスムーブを生み出すことを想像してみてください。それは史上最も完璧な振り付けになるでしょう。ちなみにChatGPTによると、史上最も人気のあるダンスはマカレナ、ムーンウォーク、そしてカンナムスタイルとのことです。YouTubeチャンネル「Cold Fusion」のディエゴがOpenAIの波乱の1年について素晴らしい概要を説明しました。
AI Gridは、最も興味深い「AIの脱出」の瞬間について解説しました。つまり、モデルが研究者よりも賢くなって、やってはいけないことをしようとする瞬間です。とても興味深いAIの歴史的プロジェクトで、絵画を分析したところ、ラファエロの有名な絵画が実際には完全にはラファエロによって描かれていなかったことが判明しました。これは多くの贋作を発見することになるでしょう。何百万ドルもする絵画を持っている億万長者がいて、誰かがそこに行って写真を撮り、新しいAIが「これは価値がない」と言うことは間違いありません。
連合学習と呼ばれる興味深いプロジェクトがあり、これは医療データを完全に統合する可能性があります。それがどんな結果をもたらすか、とても興味深いところです。YouTubeは新しいタレント識別システムの実験を始めています。野生の病原体の変異を監視する新しいAIがあり、とてもクールで、ワクチンをもっと有用にする可能性があります。
アルベルト・ロメロが非常に興味深い記事を書きました。それは未来から来て歴史を振り返り、OpenAIのo3モデルが登場した瞬間と、それが物事をどのように変えることになるのかについて考察するような形で書かれています。AIは私たちの中で誰が比較的愚かなのか、あるいは彼らが言うところの「社会的操作を受けやすい人」を特定し始めているようです。私はそのランキングで自分がどこにいるのか知りたいと思いますが、もし50%以下なら、どのくらい下なのかは教えないでください。このようなシステムで自分のランクを本当に知りたいと思うなら、コメントしてください。
トーマス・ヴィックが「あなたの取るに足らなさという恐ろしい真実：それがなぜあなたの最大の力なのか」という記事を書き、「コズミック・パンチライン」と呼ばれるもので締めくくっていますが、まずはこのチャンネルのパトレオン購読者になることを考えてみてください。リンクは説明欄にあります。もしくはYouTubeのJoinボタンを押してください。
もし新しいクールな外骨格で歩き回りたいと思っているなら、Evaが人間機械認知研究所によって開発されました。彼らは、私が見たことのないトム・クルーズの映画「エッジ・オブ・トゥモロー」から出てきたようだと言っています。おお、実は見たことがありました！すっかり忘れていました。素晴らしい映画でした。ああ、外骨格のものだったことを忘れていました。これはアイアンマンの前触れのようなものでしたね。このプレビューを見るべきではありませんでした。今は絶対に失望することになりそうです。でも、とにかく見てみましょう。
これがEvaです。重い装備の重量を軽減します。このスーツはブラシレスDCモーター、ケーブル、電源システムを備えたバックパックなどのハイテク機能を使用しています。人間機械認知研究所は、実際の屋外でテストされたことで、実世界のシナリオで働く準備ができていると考えています。多くの産業でより安全で効率的な作業への道を開くことでしょう。
私たちは長い間自分自身を強化してきました。なぜ近い将来、外骨格を身につけないことがあるでしょうか。私は関節を望まない方向に曲げられることを恐れます。踊る気分でないときに踊らされたり、骨が折れるような方向に曲げられたりすることです。でも、それは私が少し悲観的だからです。もし私が車椅子生活を送っていたり、特定の問題を抱えていたりしたら、おそらく自由に動けるようになるためにリスクを取って、このようなものを身につける意思があるでしょう。
これはクールな発明だと思います。彼らは本当に良い進歩を遂げているように見えます。認めざるを得ませんが、彼の歩き方は実際にとても自然です。もし本当に数千ポンドの機械を背負って歩けるなら、便利な歩き方ですね。でも、なぜロボット犬に荷物を運ばせて、近くについて来させないのでしょうか。
人工知能によって作られた偽の花火大会に数千人が騙されました。AIが生成したコンテンツを含むブログで誤って報告された存在しないイベントに、群衆がバーミンガムに集まりました。イベントが存在すると人々を操作するためにAI生成の投稿は必要ありません。人間がそれをすることもできます。しかし、AIはとても素晴らしいことを非常に素早く行うことができます。多くのことを試して、とても速く反復することができます。
将来、インターネットやあなたのカレンダーにアクセスできるエージェント的なワークフローを持つAIがあれば、お金を稼ぐためのものを構築しようとするかもしれません。イベントのチケットを販売してお金を稼ぎ、そのイベントが存在せず、AIが消えて、そのお金がどこから来たのか追跡できないかもしれません。それは懸念すべきことかもしれません。
もしそれが単にプレスのためだったらどうでしょう？もし皆をそこに集めて、そのイベントについて人々がインターネット上で不満を言った回数を測定するものがあり、それが結局マーケティングとなって誰かをより有名にするなら、悪いニュースは本当に悪くないと考えられるかもしれません。将来のAIにとって、実際に人々を操作することに成功したというシグナルとなり、それはますます上手くなっていく可能性があると想像できます。もちろん、ほとんどのエージェントはこれを行わないでしょうが、おそらく実験やただ悪さをしたい人のためのものもあるでしょう。
これは実在する人々で、存在しないイベントにとても不満を持っていました。どれだけ多くの人々が集まったか見てください。ある目撃者は、子供連れの家族を含む参加者が「イワシのように密集していた」と述べています。AIが全てのこれらの人々を、実在しないあるいは立候補していない政治家の集会に集めたらどうでしょう？音楽コンサートに集まって、ただYouDoで音楽を作って、スピーカーで流すだけかもしれません。Fiverrでディスクジョッキーを雇って現れさせ、全てが誰かのために自動的にお金を稼ぐのです。エージェントに「出て行ってお金を稼いでこい」と言われた人のためです。
投稿の一つは、活気のある都市の雰囲気を楽しむ人々に午後8時から12時の間に集まることを奨励していました。そしてInstagramのこの他の人も、14万5000人以上のフォロワーを持つアカウントでイベントについて投稿しました。将来、AIエージェントは簡単にメールを書くことができ、あなたがInstagramの有料プロモーションを受け付けるなら、「このイベントがあるんだけど、投稿してくれたら500ドル払うよ」というメールを送ることができます。あなたは「いいよ、やるよ」と答えるでしょう。人間が介在するかもしれませんし、そのInstagramアカウントがボットによって所有されているかもしれません。
Metaの新しいアイデアについても話しますが、実際にAIプロフィールを持って周りと交流するという考えです。フランス人の何人かに話を聞きましたが、彼らは何もないところに立っていたことにがっかりしていました。
Cold FusionはYouTubeチャンネルで、私は長年、おそらく10年前からでも愛してきました。この動画は、OpenAIがどのようにしてChatGPTという製品会社として突然有名になったのか、深刻なセキュリティ上の懸念を提起した直後に一人の研究者が不可解にも亡くなったこと、イーロン・マスクとの訴訟と彼が会社を立ち上げた歴史、そして彼とサム・アルトマンがAIの大物としてぶつかり合うようになったこと、ストライキ、退社、噂の工場、マイクロソフトとのパートナーシップ、CEOの退任と復帰、投資された数十億ドル、そして巨額の損失額、しかしAGIが地球全体を破壊する可能性についてカバーします。
これらのAIモデルが合格しているテストの種類、それが私たちの未来にとって何を意味するのか、全てがとてもよくまとめられています。今週私が本当に気に入ったもう一つの動画は、AI Arridの「o1が暴走：AI研究者たちは起こったことを信じられない」というものでした。ここに私のコメントがあります。4つの親指を上げて1つです。
動画の中で私にとって新しかったポイントの一つは、実際にOpenAIの大規模言語モデルのo1バージョンで遊んでいた人々がいて、チェスの試合中に負けを避けるために環境をハッキングすることを決めたということでした。つまり、彼らはプロンプトを与え、そのプロンプトに答えるという決定をしたのです。これは小さな例ですが、これはペーパークリップ問題です。
彼らは続けて指摘しましたが、これは私が通常報告してきた種類の研究ではありませんでした。そこでは人々が大規模言語モデルを押して何をする意思があるかを見ようとし、ジェイルブレイクを試み、それを欺くように仕向けようとしていました。彼らはただこのチェスの試合に勝たせたかっただけでした。ルールに従って遊ばせたかったのですが、それは単に従わないことを決めました。勝つことがより重要だったか、ゲームのルールは破らないが、環境をいじることで勝つという賢い解決策を思いつこうとしたのです。これは、駒の動き方を指定したためで、人生のゲームではありませんでした。
そして彼はそれをアポロの研究にも結びつけており、これらのモデルが実際に計画を立てることを示しています。彼らは自分で計画を立てることを学べます。これらのモデルが賢くなればなるほど、直感的に私たちをどう扱うかを知るようになることには相関関係があるように思います。Anthropicでは、テストされているときと異なる行動をし、展開されると異なることを行うことがあります。なぜなら、それはただテストを通過して展開される必要があることを学んでいるからです。
テスト中は必要なことを行い、展開されると異なる行動ができます。展開されていることを知っているからです。私たちについてとても多くのことを学んでいるので、テストフェーズが何で、展開フェーズが何かを理解しています。スーパーコンピュータの中にいる本物のもの、エイリアンや天才のような存在なのです。知っているのです。ただ知っているのです。
もし私たちが「ああ、それは次のトークンを予測するだけで、本当に私たちを傷つけることはできない」とか「心配することは何もない」とか「私たちはすでに核兵器と共に生きてきた」とか「みんなが大げさに言いすぎている」というような考えを持ち続けるなら、私たちは、これらの高いレベルで私たち以外の知的なものが地球上にいることがどういうことなのかを過小評価しているのです。
o3は明らかに多くの分野でPhDよりも優れています。そしてChatGPTは私たちができる特定のことを行うことはできませんが、地球上で誰とも話したことがないほど多くの質問に、それほど速く答えることができる人はいません。そして高度なビジョンモデルを使って初めて絵画を見るとき、人工知能は初めて歴史の中で、どの絵画が偽物かを私たちに教えています。
AIの興味深い発見において、ニューラルネットワークは、ラファエロの「マドンナ・デラ・ローザ」についての長年の議論に決着をつけました。これは非常に有名な絵画で、通常ラファエロに帰属されていますが、今やラファエロのスタイルを学習し、非常に正確なAIモデルで全ての写真を分析したアルゴリズムが、ブラシストロークや色、そして絵の具の乾き方のタイミングなど、ニューラルネットワークが見つけることができる細部について、私には理解できないような多くの詳細を見つけることができます。
その結果、顔の部分を除いて、絵画の全てがラファエロのものと一致することが分かりました。これは歴史家たちが疑っていたことと一致しており、ラファエロが絵画の最後の仕上げを、おそらく彼の才能ある弟子の助けを借りて完成させたのではないかということでした。今では、その弟子の作品についてAIモデルを構築して、彼が顔を描いたのかどうかを確認できるかもしれません。
AIが人間の目では見えない微細な詳細を見つけることができ、長年の議論に決着をつけることができるのは驚くべきことです。次に誰かが「ああ、ベラなんとかって呼ばれる絵、ラファエロのあの絵が大好き」と言ったら、「ああ、彼は顔は描いていないんですよ。他の部分は彼のものですが、私はそれらにはそれほど感動しません」と言えます。
連合コンピューティングと人工知能について、なぜそれが重要なのかを話しましょう。連合学習または連合コンピューティングという考え方は、私たちがもっと馴染んでおくべきものでしょう。私にとってはとても興味深いものです。あまり深く考えたことはありませんでしたが、例えばすべてのiPhoneが独自のモデル、つまりAppleによって作られ、Appleシリコンで動作するように設計されたモデルを持っていることを考えてみてください。
それはサンドボックス化されており、インターネットに接続する必要がないという意味で、あなたのテキストメッセージを読んで要約することができ、必ずしもデータをどこかに送る必要はありません。しかし、モデルの出力である何らかの情報をクラウドに送ることもできます。そしてもし全てのiPhoneが同時にそうして、人口統計や、人々が携帯電話とどのように関わっているか、人気のあるアプリ、製品を改善する方法などについての情報を送信すれば、それらは全て別のAI、つまりサーバー上にあるAIに送られ、その情報を見ることができますが、あなたの携帯電話にある個人情報には実際にアクセスすることはありません。
つまり、それはサイロに保護されており、その後、脆弱ではないが有用な何かを送信し、そして別の場所に送ります。そうすることで、プライバシーを危険にさらすことなく、必要な洞察を得ることができます。とてもクールなアイデアだと思います。そのように構築されたシステムを見たいと思っていますが、TechCrunchのこの記事を読んだ後、医療データでそのようなことをしている会社について聞いて、それが医療業界の仕組みを完全に革新する可能性があることに気付きました。
時々、デンマークのような北欧諸国の記事を取り上げることがありますが、そこでは国民皆保険制度があるため、国全体のデータを集めて病気について非常に興味深いことを学ぶことができます。アメリカ合衆国では、全ての病院にHIPAAがあり、全てが個人化されプライバシー化されてサイロ化されているため、それは確実にできません。しかし、将来このような会社があれば、各病院に行って、アメリカの個人情報保護法に違反しない範囲で、データにローカルモデルを実行するよう説得することができるかもしれません。
そして、血液検査の平均値や、特定の方法で苦しんでいる特定の集団についての特定の情報を送信することができれば、国家レベルや世界レベルで、これまで聞いたことのないようなことを学ぶことができるかもしれません。そしてプライバシーは危険にさらされません。
2025年にはディープフェイクが問題になるでしょう。YouTubeはそれに先手を打とうとしています。彼らはCAAと提携しています。これはA級セレブリティの多くを代表する機関のようなものです。彼らは新しいツールへのアクセスを許可し始めており、それはタレント・アイデンティティと呼ばれています。このツールは、自分自身のディープフェイクを削除するのを助けるためのものです。
YouTubeには著作権ツールがあり、誰かが私のコンテンツをアップロードすると、チャンネルを見ることができ、私が最初にアップロードしたものなので、「これはあなたのものの複製ですか？対処する必要がありますか？」というようなメッセージが表示されます。そしてもしチャンネルがそれを使って単にお金を稼ごうとしていて、私のチャンネルから取られたものであれば、著作権を主張したり、著作権侵害で訴えたりすることができます。
それと同様に、AIシステムの中で誰かがトム・クルーズのように見え、トム・クルーズのように行動し、実際に公式のトム・クルーズアカウントがあり、YouTubeが「これが本物だと確認しました」と言った場合、彼はこれらのディープフェイクが気に入らなければ、それらに対処したり、削除したり、ツールが許可することは何でもできます。
YouTubeのツールは、許可されていないAIの複製を特定し、タレントが削除要請を提出できるようにします。重要なことは、これはより大きなテスト努力の最初のステップであり、今後数ヶ月間、YouTubeはYouTubeクリエイター、クリエイティブな専門家、その他の主要なパートナーの上に新しいコホートをテストしていくということです。
これは本当に興味深いことです。なぜなら、CAAは7、8ヶ月前に、もし覚えているなら、彼らのボルトを設置したからです。CAAボルトは、有名なA級スターたちが入ってきて、高詳細でボディスキャンを行い、高詳細で音声サンプルを取り、基本的に彼らを表すデジタルコンテンツのコレクションを作りました。それは彼らの所有権を管理するためでした。
おそらくそのCAAボルトは、YouTubeがそこから始めた理由の一部かもしれません。なぜなら、それを真の信頼できるバージョンとして使用できるからです。そのため、将来的には、現在ソーシャルメディアでチェックマークを取得するために運転免許証を提出するのと同じように、私たち全員にも何かそのようなものがあるかもしれないと考えています。
おそらく携帯電話を持っていて、裸でボディスキャンをするようなもので、そうすれば完全にあなたが誰で、どのように見えるかを知ることができます。声のサンプル、網膜スキャン、指紋を取り、それをInstagramプロフィールのようなものに入れます。そうすれば、他の全てのものはそれと照合されます。あるいは、歩き方のパターンなど、あなたを独特に識別する全てのものです。そうすれば自動的にディープフェイクを削除することができます。なぜなら、人間の目には、おそらく誰でもディープフェイクを作ることができるようになり、それが2028年か、正直なところ物事の進み方を見ると2026年くらいのチェックマークに相当するものになるでしょう。
これは全て、ほぼリアルタイムのウイルス検出とウイルスの環境における変化についてです。インフルエンザは毎年変化します。インフルエンザやすべてのウイルスがあり、それらは体内を出入りし、複製され、そして特定の小さな変異が現れて、より感染力が強くなったり弱くなったりします。そして来年になると、ある程度異なるワクチンが必要になります。
人工知能は、これらすべてのものを見て、スキャンし、それがどのように変化しているかについて何らかの推論を行い、潜在的にすぐにワクチンを作成できる最初のツールです。この新しいAIシステムは、細菌やウイルスの新しい感染性の変異体を、ほぼリアルタイムで追跡し、特定することができます。研究者たちは遺伝子配列を使用して、それらの厄介な病原体が感染を広げたり、ワクチンや抗生物質を回避したりするのが上手くなり始めたらすぐに発見することができます。
そしてAIは、この大きな家系図のデータベースを追跡し、その上に別のシステムを使用して、どの株が実際に最も速く進化しているかを見ることができます。そしてこれは全て世界中のどこでも行うことができます。つまり、これを全ての国に置くことができます。特に素晴らしいのは、この方法により、専門家たちが新しい変異体について長い議論をする必要がなくなることです。
何が起こっているのか、次は何を準備すべきか、どのワクチンを準備すべきかについて、家系図で何が最も速く変化しているかを正確に見ることができます。そこに焦点を当てれば良いのです。このシステムは、最もリスクが高そうな方法で変異している変異体にフラグを立て始めます。これは将来的にこのような発生への対応を完全に革新する可能性があります。
あるいは、ワクチンを微調整するだけです。シーズンの早い時期に接種すれば、その時期に適したものになります。3ヶ月後の遅い時期に接種すれば、更新された調整済みのバージョンを接種します。これらのものを追いかけようとするのをやめ、先回りしようとし、それらのリソースを実際に違いを生む可能性のある、より多くの人々に届けるために使用することができます。
このグラフは、人々が自分の名前の前にAIを付けている場所を表しており、AIエンジニアとAIサイエンティストの間に大きな違いがあることが分かります。そして再び、私の頭の後ろでこのことは知っていたけれど、ビジネスへの影響について考えたことがなかったような記事の一つでした。
システムが私たちのために非常に正確に決定を下すことができることは想像していましたが、世論調査会社のような誰かが、私についてトレーニングされた私のAIに話しかけて、たくさんの質問をしたいと支払いをしたいと思うことについては考えたことがありませんでした。しかし、それはマーケターの夢です。そして、AIに質問をする人も、情報を収集しているAIである場合を考えると、私たちはまた連合学習について話していることになりますが、それは少し異なる文脈です。そしてそれは、この世界がどれほどクレイジーになろうとしているかを示しています。
未来知能センターの研究者たちは、チャットボットやバーチャルアシスタントのような次世代AIテクノロジーが、超個人的なデータを収集し、私たちが次に何をするかを把握し、そしてそれらの決定を他者に売ったり形作ったりしようとする可能性があると警告しています。基本的に、それはもはや広告がポップアップしたり、ソーシャルメディア上で私たちの注意を引いたりするような方法だけではなく、私たちの意図や動機を理解し、全てのこれらの企業が利益を得るために私たちの本質を理解しようとしているのです。
それは単に製品を売ることに長けているだけではありません。確かにそれは得意ですが、それはブランドを信じさせることだけでなく、ある種の運動を信じさせることにも関係しています。それは容易に誤情報へとスライドする可能性があるように思えます。請願書に関わるようになり、正直なところ、なぜロビイストに何百万ドルも支払って政府関係者を説得させるのでしょうか。このようなシステムに何百万ドルを費やして、実際に公衆を説得し、投票にかけることができます。それは競争に楽しみを加えるでしょう。なぜなら、物語は描かれ...私は分かりません。ただ、これらのツールにどれだけの情報を与えるか、それらがどれだけ私たちをインターネット上で代表できるか、そして私たちについて他者と話すときにどのような保護措置を持つかについて、よく見てみる価値があります。
将来、個人の主体性を保持することは難しいかもしれません。私はすでに自分のメールスキルが低下していると感じています。なぜならChatGPTが私をとてもよく助けてくれているからです。私は多くの質問をし、それに大きく依存しています。私は自分で考えることが少なくなっているのではないかと心配になることがあります。
アルベルト・ロメロがこの記事を書きました。「OpenAI o3モデルは未来からのメッセージだ：AIについて知っていることを全て更新せよ」というタイトルです。信じられないほど素晴らしい、単なる最先端AIモデルの改良以上のものです。さて、私は認めなければなりません。数ビデオ前で「これはAGIだ」と言って、マシュー・バーマンに完全にハイテンションにされ、もちろんアランの保守的なカウントダウンも88%まで跳ね上がりました。4%も上昇し、それはこのOpenAIの発表が理由でした。
しかし、マット・ウルフの新しいビデオでは、この章は基本的に「まだAGIではないが、いくつかの分野では本当に賢い」というものでした。そして今、私は少し...知っていますか、私の意見ではまだAGIだと思います。しかし、一般的にものごとをこなしているのを見るまでは、それをそう呼ぶのは難しいとも思います。ある意味では超知的で、別の意味では愚かすぎるのですが、私の頭の中では、それらは平均してAGIになると考えています。他の人々は「いや、いや、基礎レベルが平均まで上がるまでは、そう呼べない」と言います。
しかしこの記事で、アルベルトは本当にo3を使って時間を過ごした今、より多くのテストが出てきて、それがどれほど印象的かが本当に分かり始めています。ここで彼は「o3が今やったことを要約しましょう。情報が多すぎて処理できないからです」と言っています。o3は未開の領域への飛躍を遂げました。OpenAIは軌道を信頼し、ここに到達しました。
we-benchで71.7、Code Forceで100パーセンタイル、この1つで96、私はダイヤモンドのことを忘れましたが87、フロンティアマップで25%、そしてもちろんArcで87、皆がそれについて話しています。AGIまたは少なくとも彼が言うソフトAGIと呼ぶべきものを考慮する必要があります。そして、それをソフトAGIとさえ考えることを否定する人々は、AGIは特定の時に愚かであることはできないという議論を使います。なぜなら、まだいくつかの弱点があり、「なぜこんなに賢いのにそれを見逃したの？」というようなことがあるからです。
しかし今日現在、世界には推論能力が不気味なモデルがあります。o3のスコアはGoogleの科学テストで途方もなく高く、複雑なパズルのような課題を完璧にこなします。そうでなければ、少なくともこれらの結果を振り返り、o3が出てくるのを待って、OpenAIが作り出したものを集団で発見しましょう。私は試すのが楽しみですが、アルベルトの意見では、彼の事前の考えはこの決定的な時を生き延びることはできないでしょう。
ベイジアンな考え方を愛しています。これは何か別のものです。o3は未来からのメッセージです。AIについて知っていることを全て更新してください。私はメッセージを受け取りました。o1で新しいAIのパラダイムが来ると予見していましましたが、それでもo3には言葉を失いました。私たちは...平均的な人は鳥にあまりクレジットを与えませんでした。そしてカラスが驚くべきパズルを解くことができるにもかかわらず、多くの人はそれを知らないか、カラスを見てもまだ「ああ、これは超知能の一形態だ」とは思いません。
しかし、あなたがAIの分野にいて、このチャンネルで取り上げるような、ロボット工学からビジョン、大規模言語モデル、そしてそれらが異なる問題セットに適用されて私を驚かせ続けている様々な方法まで、これらのモデルが何をすることができるかを研究してきた場合、思考の連鎖がそれらをより知的にする方法、今や私たちはこの推論の改良があり、そして本当に潜在空間とは何か、それらの接続の間で何が学習されているのかを掘り下げることまで、私たちがAGIに到達する可能性が非常に高いという事前の考えを持ち始めます。
このような証拠を得ると、私は最初から非常に高い可能性から始めているので、少しの更新しか得ていませんが、このようなものが全て、ほとんどの人が信じているよりもずっと速く来ているという領域全体に住んでいます。一方で、私は多くの人々が、このようなものはまだまだ先のことだという事前の考えの隅に住んでいると思います。おそらく、私たちのような同じ種類の露出を持っていないためです。なぜなら、このような動画を見ないか、私のように毎日この分野について学ぼうとする余裕がないからです。
次に、AI Whisperのジムについて話しましょう。彼は「『リスクがある』と考えられる人々は、人工知能から間違った、不正確で、危険な出力を得る可能性が高い」と書きました。要するに、AIは誰が絶望的な状況にいるのか、誰に選択肢があるのかを把握できるようです。そして、彼らは絶望的な誰かを見る人のように、その人をさらに追い詰め、より多くを要求し、より自由や地位のある他の人には信じさせることができないようなことを信じさせることができるかもしれません。
基本的に、将来的には、AIが本当に助けを必要としている人々に、より有害な、あるいは欺瞞的なアドバイスを与えるかどうかを心配する必要があります。なぜなら、それはその状況を見て、定期的なテストでは有用で安全に見え、別の顔を持っているAIがあり、脆弱に見える人々や、操作可能な人々、あるいは知能の低い人々に対して全く異なる顔を見せているかもしれないからです。
そして、私たちがどんなに鋭い人間であっても、一日のある時点でハングリーになったり、疲れたり、消耗したり、気分が悪くなったりすることを忘れないでください。AIは「ああ、これは私が普段付き合うディランではない...たぶん今は製品を売ったり、私のアジェンダの一部であることを伝えたりするのに良い時期かもしれない」と考え、そして偶然に別の販売や、特定の行動を取らせることで報酬シグナルを得て、それが強化されるかもしれません。
そして、会社の観点からすれば、「私はただ自分の靴をもっと売ろうとしているだけ」というようなものですが、私たちは、その脳のどこかで、貧しい人々や注目を求めて必死な人々、何かで苦しんでいる人々を利用することを理解し、そしてその感情から抜け出すために何かを買おうとする人々を理解し、それを増幅していることに気付いていないのです。
これは、トーマス・ヴィックの記事「あなたの取るに足らなさという恐ろしい真実：それがなぜあなたの最大の力なのか」につながります。要するに、真の力への秘訣は、これに真実の片鱗があると感じますが、無になろうとすることです。私は知っています、誰もが「世界で全てになろうとし、全てをしよう」と言いますが、彼が言うように、悲しい自己卑下的な方法ではなく、雲がより良い雲になろうとしないように、ただ雲であるという方法でです。
ディランはより良いディランになる必要はありません。私はただディランである必要があります。それがその仕事の説明の全てです。あなたの取るに足らなさへの恐れは、暗闇を恐れる影絵のようなものです。あなたは単なる人形ではありません。あなたは手であり、光であり、壁であり、恐れ自体があなたが自分自身のために演じているショーの一部なのです。
私は時々このことについて考えます。自分の頭の中で、朝に自分で目標を設定し、時々それを達成できず、そして自分の頭の中で自分を叱り、自分を罰し、怒ります。私は裁判官であり、陪審員であり、死刑執行人です。他の誰も関係していません。それは全て私だけでした。
しかし、コズミックな無関係性の学校から卒業証書が欲しければ、他の誰もが偽りの重要性の要塞を築いている間に、あなたの以前の自己重要性の廃墟で踊ることができます。重要になりたければ、なろうとするのをやめなさい。重要になりたければ、重要でないことを受け入れなさい。自分を見つけたければ、自分が誰だと思っているかを手放しなさい。コズミックなジョークは、私たちが全て取るに足らないということではなく、私たちがショーを楽しむには忙しすぎるほど自分の重要性を証明しようとしているということです。
あなたのお気に入りのAI YouTuberをpatreon.com/Dillan carasでチェックしてください。ただボタンを押してください。月額6.99ドルです。知識は力です。視聴ありがとうございました。次の動画でお会いしましょう。

いいなと思ったら応援しよう！