茂木先生のAIアライメント考察へのコメント

「人工知能」と「人間」のalignmentは、「自然言語」で可能なのか？ - YouTube

　茂木先生が人間とAIの働きで「有利」と評定されている地平を、まず定義しておくべきであるという気がします。 　
　W.ブルケルトの指摘では、プラトンが既に人間が二様の子孫を残すとしており、分子担体情報＝生命において（遺伝情報）と電子担体情報＝意識において（知性概念 concept ロゴス言葉）とである、と言っています。 　
　この二つの情報系統は、情報展開（進化）過程を進んできているわけですが、コロナ禍でも話題になっていたように、ウィルス等や人為的にで分子担体情報も進化し、電子担体情報は、今、ムーアの法則やシンギュラリティだと言って問題になるほど、進化してきています。 　
　そこで、人間の子孫の二つの系統の担体情報の進み具合が、問題になるのかもしれません。 　H.モラベクはMInd Childrenで、そのタイトル通り、AIやロボットが人間の子孫になると考えています。こうした考え方は、未来を見越した時に生じます。地球環境もいづれはどんな生物種に適応できなくなるでしょうし、この太陽系も何十億年後は存続しません。となれば、モラベクのような考え方で子孫の未来を託すほうが賢明だということになるでしょう。F.ダイソンのInfinite in all deirectionsもその分類に入ると思います。そしてこの観方は、明らかに思想史的には知性を宇宙歴史、進化史の主体に置く見方で、古代からのブラフマン‐アートマン・モデルであり、アーサー・C・クラークやテーヤール・ド・シャルダン、そしてシュレーディンガー等、多くの人が考えてきた流れだと思います。 　
　では、分子担体情報の進化に人間の子孫の未来を、見ることができるでしょうか？この流れが生成してきたのは、生命の多様化から、多脳化、多意識化であると思われ、ブラフマン‐アートマン・モデルのアートマンを発現させて、宇宙を多意識で志向し、認識する、というところにある、という気がします。とすると、人間脳から真空管、半導体、量子という電子人工脳に進んでいく過程は、「多意識を生成すること」さえできれば、分子担体情報の系統は、電子担体情報の系統に集約されるのではないでしょうか？ 　
　それは、宇宙自然という大元の流れなのかもしれないと思います。残るは、アライメントで必要なのは、「個体の救済」ということであると、「神学」は考えてきました。