Large Language Modelとシンギュラリティ
LLMがAGIになることができるかどうか、ですが、私はLLMが帰納的に法則を導き出すことができるかどうかにも少し懐疑的です。本質的には、知能とは身体性を持ち現実世界と接続することが必須であり、そうでない限り、「ＷＥＢ空間での多数派に流される」しかありません。現状では、RLHFによりそれを
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
人手で頑張ってその傾向を修正しようとしていますが、その作業は本来は自立的に行われねばなりません。そのためにも身体性は不可避です。
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
身体性を持たないまま、論理的に筋が通った思考を持つことはできるどうか、というのをいろいろと考えているのですが、人間は現実世界の物理的挙動の比喩と演繹で論理の基盤を作っているため、なかなか難しいのではないかと思います。勿論、シミュレーション空間で同じ事は出来るかも知れませんが。
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
ＷＥＢ空間上でどの情報をより信頼し、どの情報をあまり信頼しないか、ということも教え込むことはできるので、人間より優れた出力を出すこともできるとは思います。ただ、意識というのは「現実空間の比喩」だと私は思っていて、その比喩の元を持っていないことがＡＧＩを実現する上での機能的な制約に
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
なるだろうなと思います。意識・意思のコアとしての人間の意識は引き続き重要で、ＢＭＩなど、人間とＬＬＭのインターフェースが改善されていけば、人間そのものの思考能力の拡張が見込めるのは間違いないでしょう。
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
LLMの怖さもそこにあって、例えば現状でもハッカーなどの能力も大幅に拡張されるわけです。
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
帰納と演繹の仕組みをどう作るか、次のAIのテーマはそこになると思います。その次に、思考の目的をどう得させるか、が来るでしょう。そこまで来ると「人間並みの知性」になると思います。それまでは、いくら発展しても人間の知能を拡張する技術です。
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023
シンギュラリティのシナリオのうち、AIが関わるものとしては、大まかには、１、AIに増強された人間、２、人間を超えたAI が想定し得るのですが、まだ第一のシナリオの実現可能性しか見えていないということですね。それもインターフェースのボトルネックを考えればＢＭＩなどが前提になると思いますが
— Yu Yamaguchi@新シリーズ3巻10/18発売 (@Yu_Yamaguchi_) April 1, 2023