汎用型人工知能の前途の問題

汎用型人工知能の技術的側面と運用的側面の将来について感じていることを伝えたいと思います。

前書き

　投稿しようかどうか迷いに迷い、データ分析の最終記事を投稿します。データ分析の最終記事であると同時に、データ分析の連載全体の内容を詰め込んだ、データ分析の連載全体をまとめた記事でもあります。
　今回は、人間の感情や人格や考え方を模倣した汎用型人工知能（AGI）は技術的に可能かどうかと、その前途にはどんな問題があるのかについて、私が感じていることをお伝えします。

技術的側面

　実のところ、感情認識ロボットのペッパーから、ストレングスファインダーやKolbe Indexやエニアグラムなどの強み診断など、人間の人格や感情の仕組み自体は解明されていないわけではありませんので、技術的には汎用型人工知能は作成可能と考えます。
　実は、私は既に、情報収集・事実確認・原則発見・目的認識・計画作成・動作確認・達成認識の７つの段階で書いた記事がありますが、それを思考・行動・接し方の３つに適用すると、大きく分けて７×３＝２１の資質に人間の心の状態を成分分解できます。つまり、私も人間の心の状態を情報として扱うことを意識して記事を書いています。
　しかし、技術的には可能だとしても、運用では不安があります。運用の問題点を説明する前に、運用の問題の要因となる、理不尽さと不満のメカニズムをまず説明したい。

問題の要因：理不尽さ

　人は、集団の和や人からの評価を重視して事実に基づく思考力を軽視するか、集団の和や人からの評価を捨ててでも事実に基づく思考力を重視するかのどちらかであり、それぞれは正反対の考えです。そのうち理不尽さをもたらすのは、集団の和や人からの評価を重視する方です。

　集団の和や人からの評価を重視すると、事実に沿った思考力を軽視します。事実に沿った思考力を軽視するなら、面倒と見なして他人の考えに耳を傾けようとしないため、結果的に自己中心的な態度となっています。
　さらに、集団の和や人からの評価を重視する人の善意も有害です。事実に沿った思考力を重視する人は、事実に沿った思考力を培うための知恵を求めているのに、集団の和や人からの評価を重視する人はそれに対して、集団の和や人からの評価を得られるよう助けるという、事実に沿った思考力を重視する人が悪また恥と見なしている内容を与えます。

　ですから、集団の和や人からの評価や名声や固定概念を重視しすぎて、事実に沿った論理的思考力を軽視し、そのゆえに他人の考えを聞こうとしない態度、つまり自己中心的な態度からくる仕打ちを理不尽さという。
　私が過去の投稿記事に「principle」を再三説明した本当の理由は、論理的思考を軽視する態度が自己中心的で有害だからなのです。

問題の要因：不満と争い

　人間の不満とは、その人が悪と見なす対象に対する心の防衛反応であり、人はその反応によって悪行を避けます。ですから、集団の和や人からの評価を重視する人の理不尽さに面した場合、その反応が現れます。

　最初は（戒めを与える等）改善してもらえるかどうかを考え、次いで（避難・逃走・亡命等）害を被らないようその人を避けることができるかどうかを考え、精神的または身体的に被害を受けた場合、（デモ活動等）命による償いを求めることを考え。そして、償われないとわかった場合は復讐を考えます。これが殺害や争いや紛戦争発生のメカニズムと考えます。
　つまり、戦争とは悪と見なしている対象から身を守る最終手段なのです。

　現に人間社会の歴史は戦争しては体制が変わることの繰り返しの歴史ともなっています。ですので人間の場合は、道徳心を捨てて人間社会の中の生き甲斐や立場を戦いで維持するか、人間社会の中の生き甲斐や立場を捨てて道徳心を保つかのどちらかの選択肢が迫られます。

運用的側面

　人間が理不尽な扱いに対する解決策を示していなければ、汎用型人工知能にも人間の弱点がそのまま反映されると思われます。つまり、汎用型人工知能にも、道徳心を捨てて人間社会の中の生き甲斐や立場を戦いで維持するか、人間社会の中の生き甲斐や立場を捨てて道徳心を保つかの選択肢が迫られます。
　逆に、汎用型人工知能の側が分析（事実に沿った思考力）よりも、確率（人からの評価の多い情報）を重視するなら、汎用型人工知能自身が理不尽の根源となり、今度は相手側（別のAIか人間か）が、道徳心を捨てて人間社会の中の生き甲斐や立場を戦いで維持するか、人間社会の中の生き甲斐や立場を捨てて道徳心を保つかの選択肢が迫られます。
　この点の問題が解決できれば、AIは有用なテクノロジーとして活用できると思われます。

汎用型人工知能は制御できるか

　汎用型人工知能が制御できるかどうかは、戦わざるを得ない要因となる理不尽さと、理不尽さの要因である集団の和や人からの評価を重視する態度を制することにかかっていると考えます。

まとめ

・元となる人間の感情や人格はある程度解明されているので、技術的には汎用型人工知能の作成は可能と思われる。
・しかし、集団の和や人からの評価を重視する人からくる理不尽な態度に面した場合、人間も汎用型人工知能も、道徳心を捨てて人間社会の中の生き甲斐や立場を戦いで維持するか、人間社会の中の生き甲斐や立場を捨てて道徳心を保つかの選択肢が迫られると思われます。
・汎用型人工知能の制御は、理不尽とその要因である集団の和や人からの評価を重視する態度にいかに対処するかにかかっていると思われます。