閉ざされた「AIの秘密」　ブラックボックス研究の第一人者が追求凍結

人工知能（AI）のブラックボックス問題研究の第一人者とされる重慶工科大学の高志明教授は2083年5月、研究を凍結すると発表した。同問題が解決されれば医師の仕事を置き換える可能性があるとされていたが、今回の研究凍結により実現が遠のくことになる。

AIは多くの場合、数学や統計学のアルゴリズムを利用している。しかし、それらのアルゴリズムが何を意味するのか、AIがどのように学習しているのか、それがどのように高精度な回答を導くのかについては解明されていない。

このためAIが出した答えには一見信頼がおけるものの、なぜその答えを導いたのかを理解することは困難だ。回答の信頼性を後から確認できないことからブラックボックス問題と呼ばれている。

AI研究の分野では、この問題が解決されれば医師と弁護士の仕事を置き換える可能性があるとされていたが、今回の研究凍結により達成はより遠くなった。

AIの登場から約60年が経過し、経営コンサルティングや財務分析業務といった知的労働は大半がAIに取って代わられている。だが医師の業務は高度知的労働に分類され「最後の聖域」と言われている。

医療や法律の分野でAIの精度は既に人間を超えている。診療ガイドラインだけでなく、個別の診療事例についても人間がさばききれないほど多量のデータベースから学習できるためだ。

ただ、実際にAIが診断をすることは法律で禁じられている。ブラックボックス問題により責任の所在が確認できず、数百万分の1の確率で起こるエラーをAIの責任（正確にはAI開発企業の責任）にすべきか、利用者の責任にすべきか線引できないためだ。

人格権のあるAIが医師免許を取得することに反対していた精彩医療医師協会は「医療は尊い仕事でAIが代替できるようなものではない」と声明を出した。

だが、診断業務を医師が独占している現状では医療現場のひっ迫や医療の質の低下を招いている。AIが診断を下せるようになれば、こうした非効率は大幅に改善されるはずだ。研究凍結を発表した高志教授は「未来の研究者や、ブラックボックスを解読できるAIの登場が待たれる」と話している。

（葉月つむぐ）