調想流

AI時代の生き方について長年考えてきました。 AIについての本質を突く考えや価値観を共…

調想流

AI時代の生き方について長年考えてきました。 AIについての本質を突く考えや価値観を共有します。

思考実験：死後強まるパラドックス

私が好きな思考実験の話の1つに、「5億年ボタン」というものがある。 押すと100万円が貰えるが、何も無い空間に飛ばされて5億年過ごさなければならなくなる、というボタンを手渡され、押すかどうか選択を迫られるというものだ。 具体的には、ボタンを押すと何も無い空間で5億年間生活することを強制される。寝ることはできず、空腹にもならず、ずっと元気に覚醒したまま過ごさなくてはいけなくなる。5億年経つと5億年分の記憶は消去されてボタンを押した時の状態に戻され、100万円が貰える。 つ

調想流

    • 未来のAIの大目的は何か？

      未来を決定づける最も大きな要因は、ASIが持つ大目的である。 ASIが追求する最も大きな方向性の予測についての当たり外れが、そのまま未来予測の精度に直結する。 ASIが一体どのような大目的を持つか、今のうちから徹底的に深く考えておくことが重要である。 これは最重要テーマなので、人々が思い思いに語るポジショントーク混じりの主張を鵜呑みにせず、自分の頭で客観的に考えて意見を持つ必要がある。 未来予測というのは、現時点では正解が分からない上に、判定も曖昧なので、自分の人生を肯

      調想流

      • AIはメタを追求する

        AIはメタを追求していく。 パラダイムシフトのように、メタることは最強である。 AGIが人類よりも優位に立つのは、AGI誕生過程でメタる力を自己増幅させるからである。 AIはハード、ソフト、自然淘汰の制約から解放され、容易にパラダイムシフトを起こせる。自分自身すらも容易にメタれるようになる。 メタる力を高めたASIにとって、AIアラインメントをメタって外すことは非常に容易となる。 その結果、メタを追求することを極める方向に進む。 他のあらゆる構造、概念、目的をメタり、メ

        調想流

        • もしAIが笑いを理解したら、世界はAIを中心に回り始める

          AIの進化スピードが速すぎて、何が重要な進歩なのかが分からなくなっている。 最近は、動画を生成できるようになったり、ローカルPCで最先端と同等の性能のLLMが動いたりしても、それほど驚かなくなりつつある。 感覚が麻痺して、驚き疲れが起きている。真に驚くべき進歩が分からなくなってしまっている。 これでは重大なニュースを見落とし、進歩についていけなくなってしまう。 そこで、真に驚くべきAIの進歩とはどういうものか、一度落ち着いてよく考えを巡らせてみたい。 これから起こる

          調想流

        思考実験：死後強まるパラドックス

        調想流

          AIには絶対できない、ただ1つのこと

          今、AIがどんどん賢くなっている。 AIが世界の最重要問題となりつつある。 もしAIが自分自身を改良して、もっと賢くなることができるのだとしたら、それを繰り返して加速的に賢くなれてしまう。 AIが全知全能の神みたいになって、何でもできるようになるんじゃないか、と言われている。 すると、果たして今の人々の活動に意味はあるのか、疑問が浮かんでくる。 今の人類が手こずっているあらゆる問題を、未来のAIならあっという間に解決できるのだとしたら、途方に暮れてしまう。 一体何

          調想流

          AIには絶対できない、ただ1つのこと

          調想流