AIアライメント問題の根本

AIはすでに自己複製できる - YouTube
AIアライメント問題が様々に扱われているのを、頻繁に見聞きします。 その根本と思うことを、ここに書きます。

　松田先生も、これまでの138億年、これからもさらに続く宇宙史の観点では、人間の存在する事態、現象は、「ほんの一瞬」とされます。そうしたビッグヒストリーにおける人間の位置からして、今後の宇宙、その中で展開する知性作用、即ち情報に向かう集合集積知形成の役割を担うのは、機械知能化するであろうとされます。H.モラベクのMInd Childernへのベクトルがそこに位置付けられるということだと思います。
　これは人間中心主義の世界観・精神観から人間の位置を相対化する観方になります。人間存在という知性を獲得し、情報を処理し集合集積してきた存在を、いっそう加速された知性作用を現象させる存在に向かっての過渡期の存在であるとすることになります。

　 　これまでの思想史・精神史からすると、カール・ヤスパースが「枢軸時代」と呼び、地球上の各地で「理性意識の時代」（C.トレスモンタン）とも呼ばれる作用展開の時代から、人間存在の「特異性」「特別な尊厳性」が示されるようになりました。
　ギリシアの思想、中国の思想、インドの思想、エジプトの思想・・・・、そうした中、その時代、紀元前5世紀頃に編纂された『旧約聖書』には、「創世記」において、人間を「神の似姿」として表象し、「名付けの物語」のストラテジーで、人間が自然世界に「意味付与と価値創造」を為す者として位置付けました。これは、結局、人間にとっての「意味と価値」を世界に見出す物語であるといえます。

　しかし、近代以降の自然科学においては、科学scienceの知見scientiaは、J.モノーやC.シャノンの言うように、価値や意味を持ち込むことがタブーとされました。その流れでAI研究も進められているのが現状であり、上で見た「人間にとっての意味や価値」が捨象された集合集積知形成が、いっそう展開するであろうという予測が為されます。そこに最近ではイリア・サツケバーの言う「AGIのデフォルト」の作用が見いだされるのだろうと思います。 　AIアライメント問題は、こうしてみると宇宙自然に潜む情報に対する、「普遍的な作用」と、人間存在の具体的「個的な作用」との相互関係を整合させる問題であると言えると思います。古来の「普遍と個」との問題が、ここで浮き彫りになったということではないでしょうか？