ルールを作って破れば戦争、この繰り返し

「ルールに意味があるのか？」

スポーツには間違いなく意味があります。国際協定にも意味があり、その罰則も効力があります。さて、この記事のような人工知能兵器ではどうか。

きっと、「ルールは破るためにある。それは、自己保存のために必要だから」という理屈があてはまるのでしょう。自身を護るためにルールを敢えて破る。それは、相手が自身より先にルールを破りそうだから。

戦争と兵器の歴史は、この繰り返しだったと解釈しています。常に、相手がルールを破るかもしれないという観測。危機を共有し優先順位を決める中で、相手の出方を予測すれば、自身のルール違反のハードルを下げることになるのです。人工知能が人を殺す。その自立・自律性の効力を失わせるルールを科したとしても、生身の兵隊の損傷を考えれば、自立・自律で動ける無人兵器を選ぶことになるでしょう。

兵隊対兵隊の枠内での戦争ならGoサインが出るのでしょう。ですが、現実は、必ず市民が枠内に存在しています。そして、自立・自律の判断基準に「市民も兵隊となりうる」があれば、制圧（殺人）対象となるのです。

人工知能兵器の国際ルールを設けるのは、当然と考えます。その先の、運営で、「ルール違反のハードルを下げる」行為を互いにけん制しあう仕組みが必要です。ですが、国際ルールに参加しない国や集団があるとすれば、それらが何らかの攻撃に参加することになれば、何の意味もなさない・・・。

AI兵器で国際ルールを　政府が提唱: 日本経済新聞