4・最後のスイッチ

A：さあ無事脱出して、これでスマートカーの内部設計図が手に入りました。で、そのアルゴリズムに面白いものが入ってたと言います。ライスフコアというものです。人の信用度を測るシステム。

伊東：中国だとアリババが同じことしていますね。もう実現されています。イギリスの『ブラック・ミラー』というSFドラマがあって、その中でも信用スコアが低いとお金も借りられず、公共交通機関も乗れない社会という描写がありました。このゲームも非常に現実的だと思いますよ。
　それと少し話しは逸れますが、これはすでに議論になっている話でもあるんです。トロッコ問題というのがありますね？

A：一人か五人かという有名な問題ですね。

伊東：そのスイッチをどちらに切ればいいかという決断を、コンピュータが一瞬で人間のスコアで計算して、後で来る賠償請求が安い方に切り替えるようにするとか、それが正しいことなのか、人間と機械の決断がずれたらどうするのか、という議論の真っ最中です。答えはまだ出ていません。当たり前ですけどね。

A：先日ボーイングの墜落事故がありましたね？

伊東：正にあれがそうです。あれは酷いですが、昔からありました。エアバスの墜落でも同じことがありました。ただエアバス社はじめフランス人はこう考えたんです。人間は危機に際してパニックを起こす恐れがあるので信用できない。最後はパニックを起こさない機械を優先すべきだ。って。
　で実際機械に任せたら、機体を加速させて揚力を得るため、機械が機首を下に向けて急降下させるというプログラムがされているのに、操縦士が怖がって操縦桿を思いっきり引き上げてしまい、結果墜落したという事故もありました。

A：……。

伊東：同じことがまた起こったのかと思いました。ただ今回悪いのは、パイロットにそうした仕組みを教えていなかったらしいですね。そこは問題があると思います。
　で、アメリカ人は機械と人間でどっちを優先するかというと、人間を優先するという決心をした「はず」なんです。その理由は、人間はパニックを起こすかもしれないが、パイロットはその時のために何百時間と訓練を積み、人命と財産を預かる使命を持って臨んでいるのだから、最後の決断は機長に委ねるのが正しい。と。

A：なるほど

伊東：と、いうのが表向きの理由ですが、実際は機械のせいにされると賠償問題が降りかかるからです。誤解がないように言いますと、それはお金の話ではなく、責任の所在がプログラマーなのか監督責任者なのか、作った企業なのか買った企業なのかと、わからなくなっちゃうからでしょう。と、「わたし」はかんがえております！！

A：公式見解は上記参照ということでお願いしますw

(5へ続く）

トロッコ問題（上図）
　イギリスの哲学者、フィリッパ・ルース・フットが提起した思考実験。
　あなたは線路の切り替え機の前にいる。線路を走っていたトロッコ（貨車）が制御不能になり、このままでは線路の先にいる5人が轢き殺されてしまう。
　あなたがトロッコの進路を切り替えれば5人は確実に助かる。しかし切り替えた先には別の人が1人おり、切り替えれば彼が確実に死ぬ。
　あなたはトロッコを別路線に引き込むべきか？
（他の手段で助けることはできないものとする。また法的な責任は問われず、道徳的な見解だけの問題である）
参考リンク
米ボーイング、自動制御システムの問題認め謝罪　操縦士が最後まで格闘 https://www.cnn.co.jp/world/35135305.html

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
お気に召しましたら投げ銭願います。