医療の新時代へ：放射線科におけるAIの臨床導入に向けた戦略
記事執筆者：稲森 瑠星（医療AIコミュニティ運営者）
レビュアー：大塚（バックエンドエンジニア）
3つの要点
放射線科にAIを臨床導入するための第一歩はデータ
AIの臨床導入を成功させるための第一歩は、適切なデータの収集と加工である。AIモデルは、公開データセットだけでなく、臨床現場で撮影された患者データでも検証する必要がある。AIを医療現場に導入するための段階的な手順
まずは、放射線科業務において解決すべき問題を特定する。次に、その問題解決に向けて医師や管理者など関係者全員の協力と合意を得る。最後に、AIを試験導入して結果を見つつ、システムを調整していく。AIが医療現場にもたらす効果
AIを有効活用すれば、診断の速度と精度が向上するうえに、放射線科医の作業負担も軽減できる。作業負担げ減る分、患者への迅速かつ丁寧な対応も可能になるので、全体的な医療の質が向上する。
Strategies for Implementing Machine Learning Algorithms in the Clinical Practice of Radiology
written by Allison Chae, Michael S. Yao, Hersh Sagreiya, Ari D. Goldberg, Neil Chatterjee, Matthew T. MacLean, Jeffrey Duda, Ameena Elahi, Arijitt Borthakur, Marylyn D. Ritchie, Daniel Rader, Charles E. Kahn, Walter R. Witschey, and James C. Gee
Journal：Radiology
Published Online：Jan 23 2024
この記事に含まれる画像は、論文や紹介スライド、またはそれらを参考に作成されたものです。
概要
AIは、今や医療分野でも広く活用が期待されているが、臨床現場での導入はあまり進んでいない。特に放射線科領域では、すでに多数のAIアルゴリズムが承認を受けているものの、実際の診療現場でのAI活用は限定的な状況にある。この課題を受け、放射線科でのAI臨床導入に向けた具体的な戦略をまとめた論文が発表された。この論文では、放射線科でのAI技術の効果的な臨床導入のための段階的なフレームワークを提案している。具体的には、まず、現場の医師が直面している具体的な問題を明らかにする。次に、病院の管理者や医師など、関連するすべての人々がAI導入に賛成するよう説明する。最後に、AI技術を実際の臨床現場に組み込み、その過程を詳しく評価し、必要に応じて調整を加えることで、最終的には患者に質の高い医療を提供することを目指す。
はじめに
近年、放射線レポート解析、医用画像取得と再構成、病変検出、疾患分類など、医療におけるAI・機械学習（ML）の研究が盛んに行われている。2022年11月現在、FDAが臨床使用を承認したMLアルゴリズムは521種類あり、そのうち392種類（75.2％）が放射線領域における使用を想定し、提案されている。
しかし、金融や自動運転など、他の領域におけるAIの発展と比較すると、医療におけるAIの実用化は遅れている。広範な先行研究がこうした傾向を分析し、臨床現場におけるAIの実装が遅々として進んでいないことを示している。これらの先行研究は、臨床現場におけるAIの導入が直面している課題も明らかにしているが、臨床導入に何が必要とされているかについての議論は不十分である。
データセットの重要性と選定
公開データセットの重要性
UK Biobank、ISARIC-COVID-19、fastMRI+など、一般に公開されているデータセットがいくつも存在する。これらの公開データセットにより、大規模で多様な集団から抽出された大量のデータに基づいてトレーニングされた AI アルゴリズムである基盤モデルの開発が可能となった。また、公開データセットは、誰もが使用できるため、研究の再現性を高める重要な役割を担っている。これにより、AIの開発が促進され、臨床導入に向けた開発が促進されている。
しかし、公開データセットは臨床にそのまま導入するには限界もある。AIモデルが学習したデータと実際に使用される患者群のデータが異なる場合には、同様の性能を発揮しない可能性がある。人種や撮影装置の種類、データの分布などの違いによる影響があるため、開発されたAIモデルを臨床導入する際は、実際の使用が想定される患者群に対して、検証を行う必要がある。
独自のデータセットの重要性
臨床導入するにあたって、公開データセットのみの検証では不十分であり、実臨床で用いる患者データでAIモデルを検証する必要がある。そのために、自施設の患者データを系統的に収集・管理することが不可欠とされている。しかし、自施設でデータを収集・管理・選定を行う体制が整っていない場合もある。そこで、大学病院等が運営するAcademic Biobanksのデータ（Table1、Figure1）も、有効活用する事で、検証を行う事も可能である。
データの収集や選定は、AIの臨床導入において重要な役割を果たす。公開データセットと独自のデータを適切に選定し、活用することで、より精度の高い予測モデルを構築し、臨床導入に繋がると考えられる。
臨床導入のためのフレームワーク
ステップ1：問題の設定
まずは放射線科業務における解決すべき問題を特定する。解決したい具体的な問題を明確にすることが重要である。単に「AIで診断の自動化を図る」のではなく、現場の医師から、「診断の精度が低い」「読影に時間がかかりすぎる」など、具体的な課題を拾い上げる必要がある。これにより、現場のニーズと開発されたAIモデルのギャップを無くすことに繋がり、医師にとって真に必要なAIの開発が可能となる。
ステップ2：関係者全員の協力と合意を得る
AIの導入には多職種が関わるため、病院経営陣、医師、エンジニアなど、関係者全員の理解と協力が不可欠である。経営陣に対してはコスト面でのメリットを示し、医師には作業効率の改善といった実務的な観点から説明を行うなど、職種ごとに異なるアプローチが求められる。
関わる全ての人の意見の相違をなくし、説明を行うことで、AIの臨床導入に近づくことが可能となる。
ステップ3：パイプラインへの統合と検証
Figure1A：撮影装置にAIモデルを直接搭載するフレームワーク。Figure1B：PACS（画像サーバー）に送る前に、グラウド上でアクセス可能なフレームワーク。Figure1C：PACSに保存された画像に対してAIモデルを使用するフレームワーク。
最後に、具体的なAIシステムの導入を行うにあたって、パイプラインへの統合と検証が重要である。導入の形態として、AIモデルを搭載した撮影装置の活用（Figure1A）、クラウド環境でのデータ処理（Figure1B）、画像サーバとの連携（Figure1C）などのパターンが考えられる。そして実際の臨床現場に導入して、モデルの感度、特異性、予測精度の間のトレードオフを臨床医の優先事項とエラー許容度に合わせて微調整する必要がある。これらの検証により、ユーザーに適した運用を実現する必要がある。
医療におけるAIの役割
現在、AIが発展するとともに、将来的に医療従事者を置き換えるのではないかという憶測もある。しかし、AIは医療を向上させるために医師や患者と協力して設計されるべきである。
一方で、AIにはいくつか課題もある。①AIに対する不信感である。これは、AIには人間的な共感や理解が不足しているためである。基本的に、患者は何らかの疾患を患っているため、精神的に不安定な面から人間的な、医療のケアを求めている。②倫理的な問題である。AIの判断における責任など倫理的な問題が法的に議論されている。現状は、AIが人間の監視がない状態で、独立して運用されることは推奨されていない。
しかし、特に、放射線領域の臨床におけるAI実装は、放射線医が少ない地域などのリソースが限られた場所で高い価値を持つ可能性がある。
AIの医療における役割は、医療従事者と協力して医療の質を向上させたり、効率化させるような運用が求められている。資源が限られた環境では、AIが特に重要な役割を担うことが期待されている。
今後の研究の方向性
医療におけるAIの臨床導入には多くの課題があるが、それを乗り越えるためのいくつかの方法が提案されている。
①MLモデルが学習データとは異なる、実際に使用されるデータに対してどのような性能を発揮するかを検証することが重要である。Allenらの研究によれば、FDA承認のAIアルゴリズムでも、90%以上のAIアルゴリズムが、実際の使用データでは予測性能が低下することが多いことが分かっている。これは、学習に使用したデータと実際に使用されるデータの分布が異なるためである。例えば、人種や撮影装置の種類、疾患の分布などの違いが影響する。したがって、まずは学習に使用したデータと実際に使用するデータの分布の違いを検出する事が重要となる。
②MLモデルの解釈可能性も大きな課題である。モデルがどのように結論を導いたのかを理解することは、医師がAIの出した結果を信頼し、適切に使用するためには不可欠である。現在のAI技術では、医師と同様な精度の画像診断は困難である。そこで、MLモデルの解釈可能性が重要であり、MLモデルが出した結果に対する不確実性を評価する手法も必要である。
③MLモデルの標準化されたフレームワークが求められている。現在、多くのMLモデルは「ブラックボックス」として扱われており、その内部の仕組みや動作が明確に説明されていない。これは、モデルの継続的な改良やバイアスの軽減にとって問題である。現在、多くの企業が内部での基準を設けており、最近では「モデルカード」という形式が普及している。モデルカードは、MLモデルやその学習データに関する重要な情報を詳細に説明するものでである。どのようにモデルが作成され、学習され、評価されたのかを他の研究者や医療従事者が理解しやすくするために、MLモデルに関する情報を一貫して詳細に報告するためのルールやガイドラインとしての、標準化されたフレームワークが重要である。
標準化されたフレームワークは、MLモデルの透明性と信頼性を向上させるために必要である。これにより、モデルの作成から評価、適用までのプロセスが明確になり、医療分野でのAIの応用がより効果的かつ安全になる。
結論
本研究では、放射線領域におけるAIの臨床導入の課題をあげ、臨床導入に向けて何が必要かを提案した。
AIアルゴリズムを実装するうえでは、①医療のどんな問題をAIで解決し得るか特定する、②AI開発者と医療従事者が連携し、特定した問題において、実臨床におけるAI検証を行う、の2点が特に重要である。
非常に困難ではあるが、これらの重要なステップはAIの臨床導入における標準的な指針となり、結果として放射線診療における患者への質の高い医療を提供する事に役立つ。
記事執筆者 稲森 瑠星（医療AIコミュニティ運営者）の感想
本論文は、医療AIの研究を臨床導入するために必要なプロセスをまとめている。日本は特に、海外と比べて医療におけるAIの導入が遅れているのが現状である。データの問題だけではなく、現場との連携など、整備していかなければならない課題が浮き彫りとなった論文である。
今後、日本でも、国全体でこうした課題に取り組むことが重要であると考えられる。
レビュアー 大塚（バックエンドエンジニア）の感想
アカデミックの世界では、特定のデータセット群に対するモデルの性能にフォーカスされることが多い。しかし、そこで開発したモデルを社会実装するにあたっては、いかにデータを集め、継続的な運用を行うかということが重要になってくる。この場合、ステークホルダーとの調整、データパイプラインの整備、モデルやデータの監視といった、いわゆるMLOpsといった部分も重要となってくる。本論文の内容は、社会実装を行うにあたって、個別具体的な詳細に踏み込まないまでも、現実的な内容となっている。
Callistoについて
東大発スタートアップCallistoは、医療AI／創薬AIの研究開発にすぐ使える医用画像データプラットフォームを手掛けています。医療施設が提供した放射線画像や病理画像（と臨床情報・分子診断結果）に取捨選択～アノテーション～標準化を施し、匿名加工情報の形で医療AI企業・医療機器メーカー・製薬企業などに販売します。また、これらのデータセットも活かしつつ、創薬AI／医療AIの受託開発やコンサル、マーケティングも行っています。データ提供施設には、データセット利用による売上の一部を還元することで、持続可能なエコシステムを実現します。
https://callisto-ai.com/