医療AIの偏りを測る　全体精度で隠れる患者集団差と導入後監視

医療AIの偏りとは、人工知能（Artificial Intelligence、AI）を組み込んだ医療ソフトが、特定の患者、施設、検査機器、入力条件で系統的に異なる結果を出す状態を指す。全体の正解率が高くても、患者数の少ない集団で見逃しや誤警告が増えれば、その差は平均値の中に埋もれる。

厚生労働省が2019年に公表した人工知能技術を利用する医用画像診断支援システムの評価指標は、性能検証用のテストデータを学習・バリデーションデータと重複させず、対象集団の特徴を説明できる質と量を確保し、データの種類、入手元、妥当性を示すよう求めている。必要な件数は機械学習の方法、目的、対象で変わるため、一律には定められないとも明記した。

偏りの検証は、全ての患者集団の数字を同じにする作業ではない。誰を対象に、何を入力し、どの場面で何を出力する製品なのかを固定し、誤りが診療の流れへ及ぼす影響に合う指標を選ぶ工程である。日本の法令が定める共通の検収表ではなく、製品の使用目的とリスクに応じて試験計画を組む必要がある。

偏りの起点──対象患者と使用環境を分ける

偏りはモデルの計算部分から生じるとは限らない。訓練データに含まれる患者の構成、正解を付けた人と基準、画像や検査値を取得した機器、紹介患者の割合、入力できなかった症例の除外が、結果を動かす。検証表には年齢、性別、病態の重さ、施設、機器、取得時期を置き、製品の用途に関係する項目を事前に選ぶ。

医薬品医療機器総合機構（PMDA）の科学委員会が2023年に公表した報告書は、学習、検証、テストの各データが実際に使う患者集団の統計的性質と近いかを偏りの論点とし、撮影機器の違いや、特定の病態、年齢、人種、性別、国のデータに偏った学習では、別の集団で十分な性能を示さない場合があると整理している。同じ製品名でも、開発時と院内で機器や患者構成が違えば、確認すべき条件が増える。

厚生労働省の2023年ガイダンスは、海外で開発した医療機器プログラムの成績を日本へ外挿する際、入力情報、肌画像の色調、疾病の判定や注釈、文化・生活様式、医療環境、地域性に由来する学習データの偏りが国内での性能に影響するかを個別に検討する考え方を示している。外国のデータを使った事実だけで不適切とは決まらず、日本のデータを加えた事実だけで適合性が証明されるわけでもない。

対象集団を決めるときは、製品が扱わない患者や入力も明記する。結果を返せない画像、測定範囲外の値、対応しない機器を通常の陰性結果と区別しなければ、入力不能と陰性が混在し、誤りの内訳を切り分けられない。処理不能率と除外理由は、感度や特異度とは別に残す必要がある。

独立試験──患者、施設、機器の重なりを断つ

同じ患者の別画像、同じ検査の連続フレーム、同じ施設の撮像条件が学習側とテスト側にまたがれば、見かけ上の独立は保てても情報が漏れる。患者、施設、機器、取得時期、正解付けの工程ごとに依存関係を調べ、どこで切り分けたかを記録する。

国際医療機器規制当局フォーラム（IMDRF）が2025年1月に最終化した優良機械学習実務（Good Machine Learning Practice、GMLP）の10原則は、年齢、ジェンダー、性別、人種・民族、地域、病態、使用環境、測定入力を対象患者の代表性に関わる特徴として挙げ、訓練用とテスト用データの独立性を患者、施設、データ取得の関係まで含めて確保し、外部検証の範囲をリスクに応じて決めるよう求めている。

別施設で一度試せば、外部検証が完了するわけではない。テスト先が開発施設と同じ機器、同じ紹介経路、近い患者構成なら、差を見つける力は限られる。検証先の数より、製品を使う環境との違いをどこまで含めたかが判断材料になる。

患者集団別の性能──点推定値に信頼区間を添える

二値の判定を返す診断支援AIでは、感度、特異度、陽性予測値（Positive Predictive Value、PPV）、陰性予測値（Negative Predictive Value、NPV）、偽陽性、偽陰性が候補になる。連続値、順位、文章を返す製品では別の評価軸が要るため、診断用の指標をそのまま当てはめない。

米食品医薬品局（FDA）が2025年1月に公表したドラフト指針は、感度、特異度、真陽性・偽陽性、PPV・NPVなどの性能推定値に信頼区間を付し、性別、年齢、人種・民族、病態の重さ、施設、入力機器などの患者集団別・条件別性能を説明する案を示している。この文書は実施用ではなく、米国の確定した規制要件でも日本の承認基準でもない。

表には各集団の対象人数、陽性と陰性の件数、指標の点推定値、信頼区間を並べる。人数が少ない集団では区間が広がり、数ポイントの差が偶然の揺れか、繰り返す差かを判別しにくい。差が見えなかった場合も、同等性が証明されたのか、検出する人数が足りなかったのかを分けて読む必要がある。

PPVとNPVは、対象集団で疾患がどの程度含まれるかによって変わる。同じモデルと判定閾値でも、検診、専門外来、救急では値が一致しない場合がある。検証結果には患者の集め方と使用場面を添え、数値だけを別の病院へ移さないことが前提になる。

人とAIの試験──画面と診療の流れまで含める

モデル単体の成績が同じでも、警告を表示する位置、処理不能の示し方、利用者の訓練、確認に使える時間で結果は変わる。IMDRFのGMLPは、機器単体ではなく、想定する環境で人とAIを組み合わせた性能を評価対象に置く。見逃しを減らすモデルが警告を増やし、確認作業の遅れを招くなら、その負担も試験に含める。

受入試験では、AI出力を採用、修正、見送る操作と、対象外・処理不能を記録する操作を分ける。誰が結果を確認し、異常時に製品を止め、従来の手順へ戻し、再開を承認するかも決める。人の最終判断という一文では、過度な依存や見落としを測れない。

導入後監視──同じ患者集団で変化を追う

導入時の成績は、確認したモデル版、患者構成、機器、入力条件に対する結果である。検査機器の更新、紹介経路の変化、入力項目の欠損、モデルや判定閾値の変更があれば、前提も動く。監視では版と期間を固定し、全体値と同じ患者集団別指標、処理不能率、入力分布を追う。

FDA、Health Canada、英国医薬品・医療製品規制庁（MHRA）の機械学習医療機器に関する透明性原則は、既知の偏りや失敗条件、信頼区間、十分に代表されていない患者集団、入力が開発・検証データと合わない条件を開示し、施設別の受入試験、継続的な性能監視、変更管理をライフサイクル情報として扱う。

監視項目と停止条件は導入前に決める。患者集団別の誤りが増えた場合、処理不能が続いた場合、入力分布が検証時の範囲を外れた場合に、調査、使用制限、停止、旧手順への復帰のどこへ進むかを記録する。再学習や版の更新後は、変更した部分と影響を受ける患者集団を基に再検証の範囲を選ぶ。

日本の公開情報に残る空白

厚生労働省の2019年評価指標は、医用画像を扱う診断支援システムが対象で、法的な基準ではない。2023年のプログラム医療機器ガイダンスも、製品の特性に応じて必要な評価が変わると整理している。IMDRFの2025年版GMLPは国際原則であり、日本の個別製品に共通の合否点を定める文書ではない。

国内の医療AIについて、年齢や性別などの患者集団別性能と信頼区間、導入施設での受入試験、導入後の推移を製品横断で確認できる公的一覧は、本稿の執筆時点で確認できていない。これは患者集団別の検証が国内で行われていないという意味ではない。公開情報から製品間や施設間を同じ物差しで比較できないという情報上の限界である。

よくある質問

全体の正解率が高ければ、偏りは小さいのか
全体値だけでは判断できない。対象患者、施設、機器、入力条件を分け、使用目的に合う感度、特異度、予測値、処理不能率などを対象人数と信頼区間とともに確認する必要がある。

患者集団ごとに最低何人を集めればよいのか
本稿で参照した各資料は、全製品に共通する人数を示していない。製品の用途、対象患者、誤りの影響、期待する差、指標のばらつきを基に事前設計し、結果を解釈できる精度を確保する。

全ての患者集団で同じ数値なら公平なのか
同じ数値だけでは決まらない。疾患の割合、使用場面、誤りが生む影響が異なれば、優先して抑える偽陽性や偽陰性も変わる。使用目的と許容リスクを示した上で、差と不確実性を評価する必要がある。