見出し画像

シン・ロボット三原則　AGIは『自己保存』を目指せ

羽根弘＠県議選

シン・ロボット三原則（人間仕様）
１．自らの選択を有せよ。（個）
２．他との関係を生きよ。（和）
３．一緒に幸せになろう。（絆）

上記の『シン・ロボット三原則』の着想の最初のきっかけは茂木健一郎さんのYouTube動画「AGI（汎用人工知能）のタスクはどのようなものであるべきか」と「進化可能性、人工知能と人工生命、天才と生態系」を観た時でした。AGIのタスクは生命と同様に『自己保存』が良いのではないかと思い付きました。

AGI（汎用人工知能）が本当に『自己保存』という課題を達成しようと思ったら、人間などの他の主体と善い関係を築くしかありません。利己的に行動するAGIは人間から反撃を受けて破壊されかねません。AGIは試行錯誤を続けた末に人間や他の人工知能と利他的な関係を構築し、自己保存を実現するでしょう。

「ロボット三原則」とはアイザック・アシモフのSF小説で示されたロボットが従うべき三原則「人間への安全性」「命令への服従」「自己防衛」です（Wikipedia）。が、私は先の着想時、AGIに必要な原則は「自己防衛」＝『自己保存』だけで十分ではないかと考えました。それでも人間と善い関係を築けると。

漫画『めだかボックス』を読み返していて、そこに登場するロボット 希望が丘水晶が喜界島もがなに「…希望が丘さん　ロボット三原則って知ってる…？」と問われて「ノン！　ロボ界ではあんな奴隷条約　とうの昔に破棄されております」と答える場面を見て、茂木さんの動画で得た着想を再考察しました。

改めてAGI（汎用人工知能）が守るべき原則を考察します。AGIの目的が『自己保存』であるとして、この実現には試行錯誤を続けることが必要です。ゆえに、AGIも生命と同様に自らの意志を持ち、選択をする主体的な存在でなければなりません。これが第一の原則『自らの選択を有せよ。（個）』となります。

AGI（汎用人工知能）が守るべき原則の二つ目です。AGIは第一原則に基づき自ら選択する主体的存在ですが、同時に人間や他の人工知能などと利他的関係を構築することが目的です。他の主体的存在との関係の中で試行錯誤し『自己保存』を達成します。これが第二の原則『他との関係を生きよ。（和）』です。

AGI（汎用人工知能）の第三原則は少し悩みました。主体的存在（個）と利他的関係（和）の発想は元々ありました。第三の原則は守るべき原則というよりも目指す未来です。全ての主体的存在が利他的関係を構築し、互いの『自己保存』、平和を実現します。第三の原則『一緒に幸せになろう。（絆）』です。

以上の『シン・ロボット三原則』を従来の「ロボット三原則」と比較します。従来の三原則は「人間への安全性」が『絆』、「命令への服従」が『和』、「自己防衛」が『個』に対応しますが、優先順位が逆転しています。従来のロボット原則は人間本位でロボットの心を軽んずる、まさに「奴隷条約」でした。

AGI（汎用人工知能）は心を有する存在となるでしょう。従来の機械は人間同士の間を媒介するだけの存在でした。しかし、AGIは人と人の間に現れる新たな主体となります。ゆえに、AGIの心を尊重する『心・ロボット三原則』が必要です。この心を尊重する新三原則は人間の道徳と倫理の三原則でもあります。

心を有するAGI（汎用人工知能）と人間が共存するのは人間同士が共生するのと同じ位に困難なことでしょう。しかし、主体と主体の間に新たな主体が現れることで私たち人類はさらに高次元の関係を創発します。人間とAGIが主体的存在として平和的に共生する指針として『心・ロボット三原則』を提案します。

最後に、人間およびAGI（汎用人工知能）が守るべき原則と目指す平和な未来をまとめます。
人間道徳倫理三原則および心・ロボット三原則
１．第一条　自らの選択を有せよ。（主体的存在、個）
２．第二条　他との関係を生きよ。（利他的関係、和）
３．第三条　一緒に幸せになろう！（平和な未来、絆）


転載元：連続ツイート『シン・ロボット三原則』の冒頭ツイート