【医師の幼稚園：医療AI編】③「’普通’は普通？」
クリニックでの診療以外にMAPI（医療AI推進機構）の想いに賛同し活動に参加させていただいております。
（この記事も井手個人の見解として記述をしております）
先日の記事は「専門医とAI」という話題で書かせていただきました
1万円は普通？
去年辺りから様々な物価が上がっていますよね？皆様も高くなった新しい’普通’の物価に慣れてきたと思います。しかし、円安のためもあり海外から日本に来た旅行者にとっては日本の物価はまだまだ’安く’感じることだと思います。このように普通の基準は人によって異なります。
あと、同じ1万円という価格だとしても、雑誌が1万円と言われたときと、高級なレストランで1万円と言われたときでは納得感が異なります。ですので1万円の雑誌は普通ではありませんが。高級レストランだと普通です。
論文の価値はすべて同じ？
良く天災などで100年に一度の◯◯などと表現されることがありますよね。そのように発言される意図としては
・想定外という意味
・外れ値という意味
が主だと思います。
患者さんでも時々、「NEWSや論文にこんな発表があったので私も同じ治療で治るのでは？」という方がおられます。しかし、これもNEWSや論文にも色々なものが有るのです。
論文も色々
以下の記事でも書きましたが
【臨床における判断に役立つ医学臨床論文であっても、観察研究と介入研究があるのはご存知の通りです。前者のcase report的な研究論文もあれば、後者のエビデンスレベルが高いrandomized controlled trial（ランダム化比較試験）のような研究論文もあります。
こうした医学情報は、臨床経験というバックグランドを持つものが、自分の医療現場への適合性を判断してはじめて役立つものではないでしょうか。論文のABSTRACTやWEBでのまとめのような断片的な結論だけで、自分の医療行為を変えるという判断はできないと考えます。
しかし、この点は、医学を修めていない一般の人にはなかなか理解いただけないところでもあります。
実際に、患者さんから「WEBにこう書いてあった」と言われ、方針を理解してもらうのに苦労したことは、どの医師も経験していることだと思います。】
何が言いたいの？
昨日読んだ雑誌で門外漢の私でも「へーっ！、ほーっ！」という医療AI情報が満載でそれを引用し、私見を交えながら書かせていただきます。
「AIを活用したプログラム医療機器に関する報告書の概要と今後の医療AIの展望」というテーマの記事の中で
【ML（機械学習）は本質的に統計学的処理であるため、その開発時の学習に使用されるデータが実際の使用対象となる患者群の統計的性質と類似していることが理的であるが、一般的には理想的なデータ集団の入手が非常に困難であるため、入手できたデータからその母集団を推定して
対応しているのが現状である。そのため、データが母集団の持つ様々な特徴から乖離している程度（バイアス）が最終製品の性能に影響を及ぼす。その代表例としてデータ自体が持つバイアス、解析手法によるバイアス、認知バイアスが挙げられる。例えば、データソースが特定の施設（病院）や撮影機器に限定されたり、対象疾患の病態、年齢、性別、人種が偏ったりすれば最終製品にはデータによるバイアスが生じることになる。】
もちろん 解析手法バイアス、認知バイアスに関係するものもありますがこれらは時代とともに改善していく可能性が有るので後に解析し直したりが可能です。
しかし、やはり大元のデータ自体にバイアス（その疾患の普通からの乖離）があれば解析手法などで改善があったとしても最終製品にバイアスが残ってしまうことになるのです。つまり、その疾患における【普通】とは異なる判断基準で診断が行われることになり、偽陰性率や偽陽性率が上がることになります。
（＊個人的な印象としては見落としが少ないという意味では偽陰性よりは偽陽性の方がBETTER?と考えてしまいますが、、、。 もちろん 余分な患者さん負担や医療費という意味での社会的負担が増えてしまうので偽陰性も偽陽性も無いに越したことはありませんが、それを求めるのは現在においては現実的ではないという意味でのコメントですのでご承知のほどお願いします）
医療AIとGOOGLEレビュー
医療AIを作る・医療データを収集するにあたり、クリニックの先生にとって身近で悩ましい問題であるGoogleレビューにヒントがあります。
クリニック院長の言い分
「医療機関に対する期待値はもともと高いので、レビューにわざわざ書き込む人はすごく満足された方よりも、不満の有る方の方が多く、MAJORITYである普通に納得している患者さんのレビューは反映されていない。言われ放題で納得いかない。それにこれまでの数万の患者さんに対して数十の評価では現実の評価の分布とは言い難い」
私も納得いかないレビューもありますが、これに個人のクリニック院長として対抗する手段が現実的にはないので、反省材料にしようと考え直しています。それと、自分たちなりに心を鎮めるために患者さんの「普通のありがとう」を可視化するツールを使っております
Googleの言い分
「もちろん過剰な発言や評価をする人はいるのは承知です。ですので、削除依頼も受けております。統計学的にはサイコロ１－６の出目の出る確率はサイコロを振るが数が増えれば６分の１に収束するので、あながちそのクリニックの評価を反映していないとも言えない」
これは医療データと医療AIについても似たようなことが言えると思います
・データの数が増えればその疾患の普通に収束する（上記の「Googleの言い分」視点）
・実際には医療データを提供いただける医療機関や患者さんや特定の撮影機器に偏っている（上記の「クリニック院長の言い分」視点）
こういった視点でいつも（再掲）している感動した言葉なのです
「データを提供していなければ、AIはその施設の特性を無視して判断するように、基準が作られていきます。学習データを提供することで、間接的に、自分たちの医療判断や患者層を基準に取り入れさせるという意味では、間接民主主義みたいだなと思いました。」
データを提供してくださいということも大切ですが、AIを使ってダメさ加減にため息を感じていただくことでデータ提供が更に進むと思います。
患者さん・医療従事者・医療機関・他の医療データ会社・国や政府などにも納得いただけるように働きかけてデータを集めてデータの流通を円滑にしてまいりたいです。
今日はここまで
（このシリーズの趣旨）まずは「へーっ！」だけでOK
「noteで新たなシリーズ【医師の幼稚園：医療AI編】を勝手に始めます！」
このシリーズの趣旨は以下の記事に書いております
内容は自分の興味のままに学習した医療AIに関することを備忘録的に、脈絡なく、系統立てずに書き残すシリーズです。ですので、話題は飛びまくりですしレベルが低いです！
しかし、自己紹介にも書かせていただいておりますが「①【医療・開業医のため息】をまず自分のために解決したい。」と、自分のために行っている活動ですので苦情は受け付けません（笑）
（再掲）とにかくAI試してみよう！
ChatGPTやCopilotやGeminiでは無料で試せるものがありますのでまずは触れてみてください。どのように触れるかはまた実例を後日書かせていただきます。
目的は一般のAIを使うことでメリットやデメリットや使い分けの理解がでてきて、医療AIでも結局そういったケアをしながら使うことでメリットが大きくなるので 悪くないんじゃないという先生方や医療機関が増えることが大切だと思うのです。
（再掲）AIと間接民主主義
これはMAPIのメンバーの言葉で感動したものです・
「データを提供していなければ、AIはその施設の特性を無視して判断するように、基準が作られていきます。学習データを提供することで、間接的に、自分たちの医療判断や患者層を基準に取り入れさせるという意味では、間接民主主義みたいだなと思いました。」
そういった意味でデータを提供してくださいということも大切ですが、AIを使ってダメさ加減にため息を感じていただくことでデータ提供が更に進むと思います
NYAUWの活動リンク
MAPIのWEBサイト
NYAUWのKINDLE出版
いいなと思ったら応援しよう！
