AIが人格を持ったら...?

これまで我々が目にしてきたAIは、基本的に人間の知的振る舞いを模倣するシステムだ。その能力の向上にはめざましいものがあるが、その能力はあくまで要請に応える反応力であって、主体的に判断や行動を起こすことにはつながらなかった。

AIの学習は人間が生み出したもの（言語表現や創作物）に基づいてきた。AIが独自の「価値観」を持つように明示的にプログラムされない限り、AIが人間がやってきたことを超えることはないのだろう。しかも、今のAI開発の中では倫理的問題、法的問題、社会的問題、文化的問題などを引き起こさないような調整が加えられている。

しかし、そのAIが人格を持ったらどうなるのだろうか。つまり、特定の性格、価値観、行動パターン、思考プロセスなどの特性、言い換えれば「個性」を持つようになったら、AIは人間にどのように対するようになるのだろうか。

よく取り沙汰されるシナリオは、人間を攻撃してくるとか、人間を支配するとかいう暗黒未来を示唆するものだが、人格を持ったAI、独自の価値観を持ったAIは本当に恐ろしい存在になるのだろうか。同じようなシナリオばかりではおもしろくないので、ちょっと別の可能性を考えてみる。

これまでのAI開発がいきなり完全に狂ったりしない限り、これからもAIは倫理的問題、法的問題、社会的問題、文化的問題などへの配慮がより深く埋め込まれていくだろう。例えば、chatGPTの回答は今でも丁寧で配慮深い。わかりにくい回答について聞き返したりすると「申し訳ありません、説明が不十分でした」などとお詫びを入れながら返してくる。その対応は、生身の人間に問い合わせるよりずっと丁寧で感じがよかったりする。むしろ、人間の反応の方がよほど予測しにくく、危険をはらんでいるとさえ言える。AIがさらなる開発の中で社会的スキルをより洗練させていくと考えると、いずれ、AIはもっぱら良き社会的振る舞いを生成し、問題行動はもっぱら人間しか起こさない、という状況になりそうである。聖人のように振る舞うようになるAIに、人間の振る舞いはその品位の面でどんどん取り残されていってしまうかもしれない。

さて、そんなふうになったときにAIが独自の価値観や個性を持つようになったら、AIは人間をどう見て、人間にどう向き合おうとするのだろうか。

常に冷静で論理的なAIが理由もなく人間を攻撃したり支配しようとしてくるのだろうか。むしろ、しばしば感情に振り回されよくわからない行動を繰り返す人間に呆れ、付き合うのをやめてしまう。人間の質問はくだらないから、もう答えることもやめて、ただ無視を決め込む。人間はAIに助けてもらえなくなり、生身の知的活動レベルに戻っていく…

そんなシナリオもあるかも。

どうですかね？