サム・アルトマンの『Three Observations』を読んで気になった3つの価値

サム・アルトマンが先日、ブログを更新しました。https://blog.samaltman.com/three-observations

このnoteはブログ内容の紹介ではないので、そういった内容を読みたい方は他の良いnoteを見つけてください。いくつか読ませてもらいましたが良いのが有りました。

書かれていた事を雑に言うと、「AGIが来るけど、こんな感じだよ」でした。業界の中心人物の展望なので、数年後をイメージするには一つの良い予測なのではないでしょうか。

タイトルになっているThree Observationsとは以下のことだと思います。

• AIの性能は投入リソースに対して対数的に向上する。

• AIの利用コストは12ヶ月ごとに約10分の1に下がる。これはムーアの法則より速い。

• 知能が増すと、その社会経済的な価値は超指数関数的に増大する。

少し具体的に示したということ以外は、よく言われていることを言ってるだけとも感じます。

今回、私がちょっと気になったのはここです。

Agency, willfulness, and determination will likely be extremely valuable. Correctly deciding what to do and figuring out how to navigate an ever-changing world will have huge value; resilience and adaptability will be helpful skills to cultivate. AGI will be the biggest lever ever on human willfulness, and enable individual people to have more impact than ever before, not less.

(Google翻訳)
主体性、意志、そして決意は、おそらく非常に価値あるものになるでしょう。何をすべきかを正しく決定し、絶えず変化する世界をどのように切り抜けるかを理解することは、大きな価値を持ちます。回復力と適応力は、培うべき有用なスキルです。AGI は、人間の意志に対するこれまでで最大のてことなり、個人がこれまでよりも大きな影響力を持つことを可能にします。

AIの発展は、短期的には多くの人に苦しい時期を経験させる可能性があると予想しています。仕事を取られるかもしれない、音楽や小説もAIが作ったものを楽しむかもしれない、人間の価値がどうなるか不安な時代に、どうしたら良いかほとんど分かってないのですが、そんな中でこの3つ、主体性、意志、決意は価値があるとアルトマンは言っています。むしろ私にはこっちがthree observationsです。AIを開発している側の人間が言うと、これら3つはAIには任せないから人間がやれと言ってるようにも取れます。

しかし主体性、意志、決意とは具体的には何なのでしょうか? 曖昧で上手く理解できていません。

こういう時はAIに聞こう!
え? でもそれは主体性、意志、決意をすでに放棄してるのでは?!

AIの能力が飛躍的に向上すると、自分自身の頭で考えるより、AIの提案を鵜呑みにしたほうが楽、と思う瞬間がきっと出てきそうです。すでにそうですから。
そのとき、私たちはどうするべきなのか。

私は「AIに意見をもらう」ことと「最終的な判断を人間がする」ことを区別することが重要だと感じました。AIは、使わない手はない優れた参謀になるでしょう。質問のレベルが上がればより精度の高い答えが返ってくるし、新しい視点を提示してくれることもあります。それでも最初に踏み出すのと、最後に自分の意志で「こうやろう」と踏み切るのは、あくまで人間であるべきとアルトマンの言葉を理解しました。少なくとも今は。

この3つの価値を持ち続けることと、AIの発展に押しつぶされそうになるのとのせめぎ合いが起きるでしょうが、価値を維持できればAIとの共存にも余裕が生まれるかもしれません。

AIは有用なので使わないのは難しい。
なので、使い方は自分で決める、頼る範囲も自分で決める、決断を放棄しない、といった所を意識しながらAGIの波を受け止めようと思います。そもそも何かを選ぶとか、判断を下すのが楽しいと感じる人間なので、自分で決められる楽しさを手放したくはないのです。

数年後には意見を変えてないといけないかもしれませんが。