ブラックボックであるAIとその責任論
ロボティクスについて「つぶやいている」ツィッターアカウントで、こういう指摘がなされていた。
「AIの社会的応用で懸念される問題の一つが、AIのブラックボックス化である。例えば独自に学習し判断するAIに病気の診断を任せ、誤診が起こった場合や、自動運転をAIに任せ事故が起きた場合など、その判断の筋立てを知ることができないために、再発防止のための対処が非常に難しくなってしまう」
https://twitter.com/RoboethicsBot/status/1386150262193065988
「AIのブラックボックス化」とは言っても、そもそも人の思考プロセスも、その内部過程が解明されている訳ではない。ディープ・ラーニングと人の判断の結果は、その過程が「ブラックボックス化」しているという点では、同じこと。
だから、技術開発のために何とか機序を解明し、計算ロジックのチューニングのための情報を作り出すという価値はあるものの、AIの計算ロジックを明るみに出して、再発防止や責任追及をするという論じ方は、あまり意味がなく、100％起きるAIの「判断ミス」の責任をだれに押しつけて、「野放し」状態を極小化するかという、責任の配分論を展開することの方に意味があるのではないかと思っている。
では、責任の観点から、人の判断とAIの判断では、違いはどこにあるのか。
人の判断とAIの判断の違いは、責任を取らせる主体がいるかどうかだと考える。人の判断においては、責任主体を特定し、そこに罰を与えることで、人の判断をある程度「信用できる」と仮構しているだけに過ぎないのではないかと思う。
こう考えると、ブラックボックスであるAIの判断ミスにどう対処するのかという問題が「自由意志の存在根拠の有無と刑罰の根拠」と同型の議論だということが分かるだろう。
この自由意志に基づく「責任」の問題は、刑法総論で散々議論されてきている課題であるが、功利主義、つまり実利から、刑罰の論拠を導き出せず、カント的に超越論的な論拠を持ち出すことにならざるを得なかった。結局、「悪いことをした奴が野放し」は許せないという人の処罰感情しか、究極的に事後刑罰の論拠が残らないということ。
AIの計算ロジックを人が理解できないという意味での「ブラックボックス化」を回避する手段に悲観的になっているとすると、とりあえずの「見通し」としては、AIの判断ミスに対して、民法の土地工作物責任と類似の無過失責任を、その管理者・所有者に負わせるということになるのではないかと思っている。
これは、大規模ネット通販サイトやSNS等の運営事業者に関する「門番責任論」（あるシステムを事業者や消費者に使わせる場合には、その消費者への不利益を減じるために、システム提供側に、システム利用者の選別と行動のコントロールの責任がある）と同じ構造の議論ではないかと思っている。
その所有者、管理者は、実質的にAIのアルゴリズムに関与している必要はない。それは、特にディープ・ラーニングの場合、実体としての人の能力の限界を超えているのであり不可能だ。よって、過失責任は存立できず、AIの出した判断を採用した者が、そのAIの不始末について無過失責任を負うと言う法制度になり、製造物責任のような「欠陥」回避の困難性を抗弁化することはできない。
その帰責の根拠は、「AIの判断」を採用するという判断をしたこと自体にある。つまり、利益の帰する者に対する責任、応益負担の一種で、「それでも、そのAIの便利さのために使いますか？」ということになる。
こういう判断過程の理解不可能性と応益負担論から、僕自身は、AI＝統計解析結果について、人が無条件に従うというサービスはあり得ないと思っている。あくまで、人の思考を助けるためのサポート役としての機能しか持たせるべきではないし、所詮、人はそこまでAIを信用することはできないと思っている。
これは、AIの「性能」なるものが、人を凌駕するとかしないとかいう問題ではなく、「責任」をなすりつける「主体」がないと、社会メカニズムを人は維持できないからであって、効率性以前の問題。
逆に言えば、責任主体性を持たない存在に意志決定を任せることで社会を維持できるのかどうか、あるいは責任主体性を持たない存在の判断、決定に人を従わせることができるかという、壮大な社会実験を経て、「自由意志」に根拠づけられたはずの責任の意味するところを再定義することができれば、責任主体としてのAIを法的に位置づける（法人格を認める？）こともできるのかもしれない。
ここのところ、責任と対応関係にある自由（意志）についての哲学的発展は、認知科学、神経科学、計算理論＝機械学習の進歩を取り込んで劇的に進んでいる。
例えば、
①スピノザを中心とする過去からの議論の蓄積を整理し、現代の議論
につなげているのが、木島「自由意志の向こう側」
②古典的な過去の哲学の蓄積を一旦わきにおいて 現代の議論の状況
を整理するのが、戸田山「哲学入門」
この２つを再読しつつ、内部過程が解明できないブラックボックスであるAIの社会実装のための責任配分について検討していくことができればと思っている。