A.I. - 人類最後の発明？

人類は競争相手なしで地球を支配しています。しかし、私たちはそれを変えるかもしれない何かを作ろうとしています。それは私たちの最後の発明であり、最も強力な道具、武器、あるいは存在そのものかもしれません。人工超知能です。これは SF のように聞こえますので、最初から始めましょう。
知能とは、学習し、推論し、知識とスキルを獲得し、それらを問題解決に使用する能力です。知能は力であり、私たちはそれを最も活用した種です。人類は自然のゲームを破り、コントロールを手に入れたのです。
しかし、その道のりは単純ではありませんでした。ほとんどの動物にとって、知能はエネルギーを要するため、価値がありませんでした。それでも、種の系統樹において知能を追跡すると、多様な形態の知能が出現したことがわかります。
最初の脳は 5 億年前のプラナリアに見られました。基本的な体の機能を処理するためのニューロンの小さな集まりにすぎませんでした。種が多様化し、より複雑になるまでに何億年もかかりました。生命は新しい環境を征服し、新しい感覚を獲得し、資源をめぐる激しい競争に直面しました。
しかし、自然界では生存が全てであり、脳は高価なものです。そのため、ほとんどすべての動物にとって、狭い範囲の作業に適した狭い知能で十分でした。いくつかの環境では、鳥やタコ、哺乳類などの動物がより複雑な神経構造を進化させました。彼らにとっては、高度なナビゲーションやコミュニケーションなど、よりエネルギーを消費するスキルを持つことが有利だったのです。
700 万年前、ヒト族が出現するまで、彼らの脳は親類よりも急速に成長しました。彼らの知能には何か違うものがありました。非常にゆっくりと、狭いものから一般的なものへと変化していったのです。ドライバーからマルチツールへ。多様な問題について考えることができるようになりました。
200 万年前、ホモ・エレクトゥスは誰よりも先に世界を異なる視点で見ました。理解され、変容されるべきものとしてです。彼らは火を制御し、道具を発明し、最初の文化を作り出しました。私たちは約 25 万年前に彼らから進化し、さらに大きく複雑な脳を持つようになりました。それによって、大規模なグループで協力し、複雑な思考を伝達することができるようになりました。
私たちは知能を使って生活を改善し、物事がどのように機能するのか、なぜそうなのかを問い始めました。発見を重ねるごとに、より多くの疑問を投げかけ、前進し、学んだことを保存し、遺伝子による進化の速度を上回りました。
知識は知識の上に積み重なります。最初は進歩が遅かったのですが、その後指数関数的に加速しました。農業、文字、医学、天文学、哲学が世界に爆発的に広まりました。200 年前に科学が飛躍的に発展し、世界について学び、進歩を加速させる能力がさらに向上しました。35 年前にインターネット時代が始まりました。今日、私たちは私たちのために、私たちによって作られた世界に住んでいます。
これは非常に新しいことです。私たちはここまで来るのがどれほど大変だったか忘れがちです。知能のはしごを上る一段一段がどれほど巨大で、それを登るのにどれほど時間がかかったかを。しかし、一度登ってしまえば、私たちは瞬く間に世界で最も強力な動物になりました。
しかし、私たちはこれを変えようとしているのかもしれません。私たちは、この惑星を征服する力を与えてくれたまさにその能力において、私たちよりも優れた機械を作ろうとしています。人類最後の発明です。
人工知能
人工知能、つまり AI は、コンピューターで精神的な作業を行うソフトウェアです。ニューロンの代わりにシリコンを使って問題を解決するコードです。
最初、AI は非常に単純でした。紙の上のコード行、機械が精神的な作業を行う方法を示すための単なる概念実証にすぎませんでした。1960 年代になってようやく、私たちが AI として認識するものの最初の例が見られるようになりました。1964 年のチャットボット、1965 年の分子を選別するプログラムなどです。遅く、専門化されたシステムで、専門家が使用する必要がありました。その知能は極めて狭く、制御された環境内の単一のタスク用に構築されていました。
これは、10 億年前のプラナリアが最小限の精神的作業を行っていたのと同じようなものです。AI 研究の進歩は、研究者たちがこの技術に希望を失った時期に何度か中断しました。しかし、環境の変化が生命の新しい生態的地位を作り出すのと同じように、AI を取り巻く世界も変化しました。1950 年から 2000 年の間に、コンピューターは 10 億倍速くなり、プログラミングはより簡単で広く普及しました。
1972 年、AI は部屋内を移動できるようになりました。1989 年には手書きの数字を読むことができるようになりました。しかし、それはまだ人間に匹敵しない華麗な道具にすぎませんでした。1997 年、AI が世界チャンピオンをチェスで破り、世界を驚かせるまでは。これは、私たちが人間を超える機械を作れることを証明しましたが、チェスボットはかなり愚かなので、私たちは自分たちを落ち着かせました。プラナリアではなく、おそらくミツバチのようなもので、専門化された狭い作業しかできません。しかし、この狭い作業においては非常に優れており、もはや人間が AI をチェスで打ち負かすことはないでしょう。
コンピューターが改良され続けるにつれ、AI はますます多くの作業において強力なツールとなりました。2004 年には火星でロボットを運転し、2011 年には YouTube の動画をあなたに推奨し始めました。しかし、これは人間が問題を簡単に消化できる断片に分解し、コンピューターが素早く解決できるようにしたからこそ可能だったのです。
私たちは AI に自己学習を教えるまでになりました。
自己学習機械の台頭
これは技術的な動画ではないので、ここでは大幅に単純化しています。要するに、スーパーコンピューターの純粋な力が、情報時代に収集されたほぼ無限のデータと組み合わされ、新世代の AI が誕生しました。
AI の専門家たちは、ニューラルネットワークと呼ばれる AI ソフトウェアの形態を劇的に改善し始めました。これは、最初は与えられたタスクが苦手な、非常に巨大な人工ニューロンのネットワークです。そして、機械学習を使用しました。これは、アルゴリズムが自身のコードを書き、自己改善することを可能にする多くの異なるトレーニング技術と環境の総称です。
怖いのは、彼らがどのようにしてそれを行い、その内部で何が起こっているのかを私たちが正確に知らないことです。ただ、それが機能し、その結果として新しいタイプの AI が生まれるということだけです。能力のある、コードのブラックボックスです。
これらの新しい AI は、人間の助けをほとんど借りずに、非常に迅速に複雑なスキルを習得することができました。それらはまだ狭い知能でしたが、大きな一歩前進でした。
2014 年、Facebook の AI は 97% の精度で顔を識別できるようになりました。2016 年には、AI が非常に複雑な囲碁ゲームで最高の人間プレイヤーを打ち負かしました。2018 年には、自己学習 AI が 4 時間で自己対戦だけでチェスを学習し、その後、最高の専門チェスボットを打ち負かしました。
それ以来、機械学習は読解、画像処理、テスト解決など、多くの分野に適用されてきました。これらの AI の多くは、訓練された狭い任務においてすでに人間よりも優れていますが、依然として単純なツールにすぎません。AI はほとんどの人にとってまだそれほど大したものではないように見えました。
そして、チャットボットの ChatGPT が登場しました。そこに注ぎ込まれた作業量は膨大です。インターネット上に書かれたほぼすべてのものを学習し、言語を扱う方法を学びました。現在では、ほとんどの人よりも優れた言語処理能力を持っています。要約、翻訳、いくつかの数学の問題の解決を支援することができます。数年前のどのシステムよりもはるかに広範囲にわたっています。単一のベンチマークを圧倒するのではなく、すべてを一度に行うのです。多くの大手テクノロジー企業が強力な競合製品を構築するために何十億ドルも費やしています。
AI はすでに顧客サービス、銀行業務、医療、マーケティング、コピーライティング、クリエイティブな分野などを変革しています。AI が生成したコンテンツはすでにソーシャルメディア、YouTube、ニュースウェブサイトを席巻しています。選挙はプロパガンダと誤情報に満ちあふれると予想されています。AI を至る所に採用することでどれだけの善悪がもたらされるかは誰にもわかりません。
変化は怖いものです。勝者と敗者が出るでしょう。政府と企業が現在直面している最大の問題の1つは、AI を活用した経済への移行をどのように管理するかということです。
これらの潜在的な利益やリスクはすべて、今日の AI の結果にすぎません。ChatGPT の知能は大きな一歩前進ですが、依然として狭いものです。数秒で素晴らしいエッセイを書くことができますが、自分が何を書いているのか理解していません。
しかし、AI が狭い範囲にとどまらなくなったらどうでしょうか？
汎用 AI
現在の AI と人間を区別するのは、私たちの汎用知能です。人間は技術的にはどんな知識でも吸収し、どんな問題にも取り組み始めることができます。私たちは、チェスをするからエッセイを書く、科学のパズルを解くまで、多くの非常に異なるスキルや作業を得意としています。もちろん、全て平等というわけではありません。私たちの中には、ある分野の専門家もいれば、他の分野では初心者もいます。しかし、技術的にはそれらすべてを行うことができます。
過去の AI は狭く、1つのスキルに長けることはできましたが、他のすべてのスキルではかなり劣っていました。単に高速のコンピューターを構築し、AI のトレーニングにより多くの資金を投入すれば、新しい、より強力な世代の AI が生まれるでしょう。
しかし、AI の次のステップが私たちのような汎用知能になったらどうでしょうか？ AGI（汎用人工知能）はどうでしょうか？ AI の改善プロセスがこれまでのように続けば、AGI が人間よりもほとんどの、あるいはすべてのスキルにおいて優れているということは十分にありえます。
私たちは AGI をどのように構築し、どのように機能し、何ができるのかわかりません。今日の狭い AI は 1 つの精神的タスクを迅速に習得できるので、AGI はすべての精神的タスクで同じことができるかもしれません。したがって、たとえ愚かな状態から始まったとしても、AGI は人間と同じくらい賢く有能になれるかもしれません。
これは SF のように聞こえますが、ほとんどの AI 研究者は、これが今世紀中に、おそらく数年以内に起こると考えています。
人類は、次に起こることに備えができていません。社会的にも、経済的にも、道徳的にも。
先ほど、知能を学習し、推論し、知識とスキルを獲得し、それらを問題解決に使用する能力と定義しました。これらはすべて、人間が優れている能力です。平均的な人間と同じくらい知的な AGI でさえ、すでに現代文明を混乱させるでしょう。なぜなら、AGI は私たちと同じ制限に縛られていないからです。
今日の ChatGPT のような AI は、すでに非常に熟練した人間よりも少なくとも 10 倍速く考え、作られた目的のタスクを解決します。AGI はより遅いかもしれませんが、もしかするとずっと速いかもしれません。そして、AGI はソフトウェアなので、十分なストレージがあれば無限にコピーし、並行して実行することができます。
世界には 800 万人の科学者がいます。AGI を 100 万回コピーして仕事に就かせることを想像してみてください。100 万人の科学者が 24 時間 365 日、人間の 10 倍の速さで考え、気が散ることなく、与えられたタスクにのみ集中して働いているのを想像してみてください。
突然、AGI が法律の解釈からコーディング、アニメーション YouTube 動画の作成まで、世界中のすべての知的作業を人間よりも優れた、より速く、はるかに安価に行えるようになったらどうでしょうか？この AGI を制御する者が突然経済を所有することになるのでしょうか？
さらに大きく考えてみましょう：人類の進歩は問題に適用された私たちの知能ですから、100 万の AGI は何を達成できるでしょうか？暗黄エネルギーのような科学の根本的な問題を解決できるでしょうか？無限のエネルギーを与える新技術を発明し、気候変動を修正し、老化とがんを治療できるでしょうか？
しかし、残念ながら人間は自分たちの知能をすべての人の利益のためだけに適用するわけではありません。AGI が戦争でドローンを操縦したり引き金を引いたりするように命じられたらどうでしょうか？または、緑色の目の人だけを殺すウイルスを設計するように？あるいは、人々が画面の前で飢え死にするほど中毒性の高い、最も収益性の高いソーシャルメディアを作成するように？
AGI の創造は、火の制御や電気の発明と同じくらい大きな出来事であり、それを発明した者に同じくらいの力を与える可能性があります。
しかし、ここでさらに一歩進んでみましょう。AGI の可能性がここで止まらなかったらどうでしょうか？
知能爆発
知能と知識は互いに構築し、加速し合いますが、人間は生物学と進化によって制限されています。私たちが適切なハードウェアを進化させると、私たちのソフトウェアは進化を桁違いに上回り、瞬く間にこの惑星を支配しました。しかし、私たちのソフトウェアは基本的にそれ以来あまり変化していません。そのため、肥満になったり、短期的な利益のために気候を破壊したりしているのです。
AGI はコンピューター上のソフトウェアなので、AI 研究を行うのに十分賢くなれば、AI の進歩の速度は大幅に加速するはずです。そして、それは人間の関与をあまり必要とせずに、より優れた AI を生み出し、AI 研究をさらに進めることができます。AI が直接自己改善する方法を学ぶことさえ可能かもしれません。その場合、一部の専門家はこのフィードバックループが信じられないほど速い可能性を恐れています。最初の自己改善 AGI がスイッチオンされてから、おそらくわずか数ヶ月か数年後かもしれません。実際には数十年かかるかもしれません。私たちにはわからないのです。これはすべて推測にすぎません。
しかし、このような知能爆発は真の超知能体につながる可能性があります。そのような存在がどのようなものか、その動機や目標が何であるか、その内なる世界で何が起こるのか、私たちにはわかりません。私たちは超知能にとって、リスに対する私たちのように笑えるほど愚かかもしれません。その思考方法を理解することさえできないかもしれません。
この仮説的なシナリオは多くの人々を眠れなくさせています。人類は、他のすべての動物より賢くなった唯一の例です。そして、私たちは知的に劣ると認識したものに対して親切ではありませんでした。
AGI は人類最後の発明かもしれません。地球上で最も知的で、したがって最も強力な存在になる可能性があります。人間に想像もつかない富と幸福をもたらし、私たちの未来を保証するためにその力を行使する「箱の中の神」かもしれません。あるいは、文明を転覆させ、人類が止める方法を思いつくことができないまま、私たちの終焉をもたらすかもしれません。
私たちはこれらの潜在的な未来のいくつかを別の動画で見ていきますが、ここでまとめましょう。私たちが確実に知っているのは、今日、まさに今、世界最大かつ最も豊かな企業の多くが、ますます強力な AI を作り出すためにレースを繰り広げているということです。私たちの未来が何であれ、私たちはそれに向かって走っているのです。
AI の未来に直面しなければならないまでどれくらいの時間があるかわかりません。幸いなことに、Brilliant.org で学んでいれば、まだ十分な準備の時間があります。Brilliant は、1日わずか数分で、あなたをより優れた思考家や問題解決者にします。AI を含む、あなたが好奇心を持つほぼすべてのことについて、何千もの手軽な実践的レッスンを提供しています。
彼らの最新コース「How LLMs Work」では、実際の言語モデルの内部を見ることができます。ChatGPT のような技術を、モデルが語彙を構築する方法から次の単語を選択する方法まで、インタラクティブなレッスンで解明します。LLM を調整して、詩であれカバーレターであれ、まさにあなたが望む調子の出力を生成する方法を学びます。そして、Taylor Swift の歌詞とビッグテックの利用規約の法的文言で訓練されたモデルを比較することで、トレーニングが本当にすべてであることを理解するでしょう。これは没入型の AI ワークショップで、今日最も進んだツールのメカニズムを体験し、活用することができます。
また、私たちは Brilliant と提携して、あなたの科学的知識を次のレベルに引き上げるための一連のレッスンを作成しました。これらのレッスンでは、狂犬病や哺乳類の代謝から気候科学や超新星まで、私たちの最も人気のある動画のトピックをさらに探求することができます。Brilliant の各レッスンは、Kurzgesagt 動画の 1 対 1 版のようにインタラクティブです。そして、いつでも、どこでも、好きなデバイスからすぐに始めることができます。
Kurzgesagt のレッスンを実践的に体験し、AI やプログラミングから数学、科学、その他まで、Brilliant が提供するすべてを探索するには、Brilliant.org/nutshell/ で 30 日間の無料トライアルを始めてください。Kurzgesagt の視聴者には特典もあります：このリンクから登録した人は、トライアル終了後に年間メンバーシップを 20% オフで購入できます。
AI に乗っ取られることを恐れていますか？私たちにはあなたに必要なものがあります - 未来のためのサバイバルキットです。そしてそれは今まさに発売されています！近づいてください、恥ずかしがらないで、あなたがすべきことをお見せしましょう：
まず：靴下の問題です。聞いたことがあるでしょう。あなたの靴下の 1 つは常に別の次元にすり抜けて、二度と見つからなくなります。そこで、私たちはこれを一度に解決しました：3 つの異なる靴下の「ペア」です！ 1 つ失っても大丈夫です！
さて、未来に備えた服装を完成させ、この素晴らしいシャツを着て、デジタル革命を受け入れていることを皆に示しましょう。
次に、あなたの最高のアイデアのアナログバックアップを作成する必要があります。この小さなノートは 100% AI 耐性で、あなたの考えをどんなデジタル超存在からも安全に保ちます。
そしてもちろん、タオルを忘れてはいけません！その上に横たわったり、その下で眠ったり、緊急時に遭難信号として振ることができます。また、宇宙全体の正確な地図が含まれているので、迷子にならないでしょう。あるいは、ご存知の通り、それで体を拭くこともできます。
未来に起こることを垣間見たい場合は、このポータル...えーと...ポスターを手に入れてください。しかし、気をつけてください。すべてが見たままではありません。
私たちのショップを訪れて、準備を整えてください。サバイバルキット全体を手に入れることをお勧めします - 安全のため（そしてお金を節約するため）です。私たちのすべての製品は、ここ kurzgesagt で愛情と注意を込めて設計・製造されています。
前回の限定ドロップと同様に、これらのアイテムは現在入手可能ですが、売り切れ次第、二度と販売されません。
しかし、これらの製品はあなたの生存を確保するだけでなく、kurzgesagt の未来も守ります。あなたが購入する製品の1つ1つが、このチャンネルで私たちが行うすべてのことをサポートし、私たちの動画を誰もが無料で視聴できるようにしています。
ご支援、本当にありがとうございます！あなたなしでは、kurzgesagt の未来はないのです。