SFと倫理の関係(サーキット・スイッチャー/安野貴博)
第9回ハヤカワSFコンテスト優秀賞受賞作。
舞台は ”完全自動運転車” が普及した2029年の日本。主人公の坂本は自動運転アルゴリズムの開発者で、大手自動車会社と提携するスタートアップ企業の代表でもある。車中でコードを書く生活をしていた坂本は、ある日突然、首都高を走る車内に監禁され、動画配信をされながら脅される。犯人の要求は「坂本が開発したアルゴリズムに人種差別が組み込まれている、それを配信しながら検証しろ」というものだったー
SF小説にジャンル分けするにはあまりにもリアルなテーマで、考えさせられる作品だった。自動運転がどんなに普及しても、機械である以上必ずバグは発生する。「AかBのどちらかの道を通らなきゃいけない、そのどちらにも人間がいる」という状況で、どちらの人間を轢くかを判断するアルゴリズムを、誰かが組まなきゃいけない。
坂本が組んだアルゴリズムは、被害者の数がより少ない道を選択させるもの(人数が同じならばランダム)だったが、賠償金を減らすべく、外見で判断して外国籍の人を積極的に殺すことが最良と考える者もいる。後者の人間は主張する。
こんな主張を突きつけられた坂本は、最後、財産であるはずの自社のアルゴリズムをオープンソース化するという選択をする。
私はこのタイミングで作者について調べてしまったのだけど、やはり現役エンジニアのようだった。(おまけに東大卒、私と同い年)
アルゴリズムの開示は莫大な経済損失なので、現実世界でそんなことをする会社はないだろう。それでも現役エンジニアの著者は、誰かがその痛みを引き受ける必要があると考えるらしい。
私はこの思考回路が、文系より文系だと思った。
ビッグデータを集めて、どんな解釈を付与して学習させるか、を決める役割は、今のところ人間が担っている。その人間がある意図をもつことで、人種差別を正しいとするアルゴリズムは簡単に完成し、私たちの知らぬ間に普及し得る…という話は、AI関係の他の本で読んだことがある。
それを超リアルな世界に落とし込んだのが本作だった。
令和4年にもなると、SFと倫理は切っても切り離せない関係になり、「こんな未来が来るかもよ。おー怖!」という昔のSFは成立しなくなっているのだなぁ、としんみりした。
自動運転とか、人工子宮とか、AIによる創作物の著作権云々とか。法の整備と人々の倫理観のアップデートは、技術の進化スピードには到底追いつきそうもない。
この記事が参加している募集
この記事が気に入ったらサポートをしてみませんか?