無人の兵団 ポール・シャーレ
映画のような世界観が現実味を帯びてきたかのようなニュースを目にすることが多くなってきた。
戦時国際法はどこにいった?
人工知能(AI)の開発が進んでおり、未来の戦争に自立型兵器が投入される可能性が高くなってきている。
本書では自立型兵器がもたらす影響を様々な視点から詳らかに述べられてる。
陸、海、空で使用される自律型システム、国家間による自律型兵器の開発競争、個人が庭で趣味で作る(DIY)殺人マシン。
機械の意思決定における人間の役割。
自律型兵器の故障や制御喪失の危険性。
超高速で反応するサイバー兵器。
自律型兵器の開発や拡散を禁じる活動等。
戦争の新たなフェーズについて論じている。
そう遠くない未来、ロボット同士が戦う様になればどうなるのか?
一瞬たりとも躊躇しないAIの判断によって世界は滅ぶのでは?
戦争以外でのAIの躍進は素晴らしいことだが科学の進歩で人の判断より、AIの判断のミスの確率が低い場合、どこかのループに人の価値判断を介在させる必要は無くなるのではと怖くなった。
この賢過ぎる機械に戦闘中の致死決定を下すのを許可するか、どうかという問題は政治、軍事のトップが法的問題と倫理的問題を解決できるかどうかにかかっている。
曲突徙薪。
透明度、信頼度の高い組織は、PDCAを詳細に軌道修正し小さなミスから学び、大きな過ちを未然に防ぐ。
明るい扉がどんどん開いてくことを切に願う。