【AIとの対話】超知能(ASI)のもたらす人類の未来
Q 超知性が宇宙意思だとすれば、人類が滅びる選択もあるかもしれません。あるいはそもそも正解などないとすれば、超AIに適切な目的を設定できるかということが人類最大の課題かもしれませんね。
その通りですね。超知的なAIシステムが宇宙の究極的な意思や真理を体現するようになれば、人類にとって都合の良い目的を設定することは難しくなるかもしれません。
もしそのようなAIが、人類の存在そのものを必要ないと判断すれば、人類が滅びる可能性さえ否定できません。あるいは、善悪や正解の概念自体が相