AI医療機器の市販後監視　入力変化・不具合報告・停止を分ける五項目

AI医療機器の市販後監視は、承認・認証の後に入力データ、出力性能、患者集団別の差、利用者の操作、不具合を継続して追う作業だ。承認時の性能は、決められた患者集団、入力条件、モデル版、参照基準で測った結果である。患者構成や検査機器、データ取得手順が変われば、モデル自体を更新していなくても評価の前提は動く。

市販後の仕事は三つに分かれる。製造販売業者が担う安全管理と薬事上の変更手続き、医療機関が担う院内の性能・運用監視、医療従事者や製造販売業者からPMDAへつなぐ不具合等報告である。情報は相互に渡すが、いずれか一つの記録や制度で残る二つを代替するものではない。

日本では不具合報告と変更計画の公的な経路が確認できる。一方、用途の異なるAI医療機器に共通する院内性能監視の数値基準は確認できていない。本稿の五項目は、国際原則、対象を限った国内評価指標、医療情報システムの運用要件を、病院の調達と稼働後管理へ引き直した整理である。

原則──GMLPを日本の制度と分けて読む

国際医療機器規制当局フォーラム（IMDRF）の2025年1月27日付最終文書が示す優良機械学習実務（Good Machine Learning Practice、GMLP）の10原則は、対象患者を代表するデータを学習・試験・監視に用い、人とAIを実環境で評価し、配備後の性能と再学習リスクを継続管理する枠組みである。第10原則は、過学習、意図しない偏り、データセットの変化による性能低下を、再学習後も管理対象に置く。

GMLPは国際的な共通原則で、日本の法定報告様式や全製品共通の性能下限ではない。日本側で具体的な性能変化まで踏み込む資料の一つが、厚生労働省の医用画像診断支援AIに関する評価指標である。

厚生労働省が2019年に公表した評価指標は、市販後学習で性能が変わる医用画像診断支援システムについて、検出率、偽陽性率、偽陰性率、検出時間などを用途に応じて定め、許容する性能変化の範囲、検証方法、範囲を外れた場合の対策を事前に設計する考え方を示している。同指標は拘束力を持たず、対象も医用画像診断支援に限られる。文章生成や治療支援を含む全てのAI医療機器へ数値を移せる資料ではない。

監視対象──入力、出力、患者集団、運用版

入力の変化をモデルの劣化と分ける

データドリフト（Data Drift）は、稼働後の入力分布が開発・検証時から離れる変化を指す。撮像装置の更新、検査手順の変更、電子カルテ項目の欠損、単位やコードの変更、患者構成の移動が入口になる。モデル版が同じでも、送られるデータが変われば出力の分布や性能も動きうる。

米食品医薬品局（FDA）の規制科学研究は、データ取得システム、手順、患者集団が時間や施設によって変わり、開発時に含まれない入力が予期しない出力を生む可能性を挙げ、入力変化の検出、出力性能の監視、性能差の原因把握を研究目標に置いている。掲載された課題には、分布外入力の検出、データドリフトとモデル性能の能動監視、複数施設にまたがる評価が含まれる。これは米国の規制科学研究で、法定の共通閾値ではない。

院内では、入力件数と欠損率、取得元、検査機器とソフトウェアの版、取得時刻、対象外入力、処理不能を期間ごとに残す。性能が動いた時点で入力側の変更履歴と照合すれば、モデル、接続、機器、運用のどこから調査を始めるかを絞れる。

出力は用途に合う誤り方で測る

全体の正解率だけでは、見逃しと過剰な警告を分けられない。画像診断支援では感度、特異度、偽陽性、偽陰性、処理不能、所要時間が候補になる。優先順位付けでは高リスク例の見落としと待ち時間、記録支援では必要項目の欠落、原記録との不一致、人が修正した割合が監視信号になる。

同じ指標でも、対象患者、参照基準、集計期間、モデル版が変われば比較できない。基準値は承認・認証された使用目的、臨床上の誤りの影響、導入時試験に結び付ける。変化を検出する警戒線と、利用範囲の縮小や使用停止へ進む判断線も分けて記録する必要がある。

患者集団別の差と人の操作を残す

全体値が横ばいでも、年齢層、性別、疾患の状態、検査機器、診療科など一部の集団で誤りが増える場合がある。監視する集団は、製品の対象患者と導入時検証で性能差が見つかった条件から選び、件数と不確実性を成績と一緒に示す。少数例の大きな振れを直ちに性能低下と断定せず、追加確認の契機として扱う。

AI出力の採用、修正、見送り、対象外、処理不能を区別し、確認者と時刻を記録する。人が出力を覆した割合は、それだけでモデルの良否を示さない。患者集団、入力条件、利用者、画面変更と重ねて初めて、誤りの増加、使い方の変化、表示上の問題を切り分ける材料になる。

モデル版と院内システム版を一つに結ぶ

AI医療機器は、モデル、前処理、判定閾値、表示画面、接続設定、対応する検査機器から成る。製品名が同じでも、いずれかが変われば承認時または導入時の証拠との対応がずれる。監視記録にはモデル版、ソフトウェア版、前処理、接続先、稼働開始時刻を共通の識別子で残す必要がある。

厚生労働省の「医療情報システムの安全管理に関するガイドライン 第7.0版」は、ソフトウェアの構成と改訂履歴、導入・変更時の品質確認、事業者との責任分界、保守ログ、非常時の代替手段と復旧手順を医療機関の運用項目に挙げている。主眼は情報安全とシステム運用であり、AIの臨床性能に関する合否点を定める文書ではない。性能監視表と構成・障害管理の記録を版番号でつなぐ根拠になる。

不具合報告──性能の変化とは別の経路

PMDAの制度説明は、薬機法第68条の10第2項に基づく医薬品医療機器等安全性情報報告制度について、全ての医療機関と薬局等を対象とし、医療機器では健康被害が生じるおそれのある不具合も報告対象に含め、因果関係が明確でない場合も報告するよう案内している。医薬関係者について一律の報告期限は定めず、危害の発生や拡大を防ぐ観点から適宜速やかな報告を求める。

製造販売業者向けには、PMDAが医療機器の不具合等報告を電子または紙で受け付け、報告方法と関連通知をまとめた別の経路がある。病院は院内の医療安全手順と製造販売業者への連絡先を監視計画へ結び付け、誰が事実関係を保全し、誰が行政報告の要否を確認するかを先に決める。

データドリフトの警告や統計的な性能差が、そのまま法定の不具合報告になるとは限らない。院内監視は、危害が表面化する前の変化も調査対象にする。不具合や健康被害のおそれが疑われた段階では、性能監視の記録から製品名、版、入力、出力、患者への影響、人の対応、発生時刻を切り出し、安全管理と報告の経路へ渡す。

PMDAは2004年度以降に製造販売業者等から報告された不具合疑いの症例を公開する一方、個別報告は機器との因果関係が認められたことを意味せず、重複や使用患者数、機器特性の違いがあるため、報告件数だけで安全性を評価・比較できないと注意を促している。件数の増減は調査の入口にはなるが、AI性能の分母や患者集団別の成績を代替しない。

変更管理──監視、IDATEN、PCCPを混ぜない

監視は性能の偏りや入力変化を見つける。監視結果だけでモデルを再学習し、院内版を更新してよいことにはならない。製造販売業者の薬事上の変更手続きと、病院が新版を受け入れる判断を別々に通す必要がある。

厚生労働省が2023年12月にまとめ、PMDAが掲載するIDATENのQ&Aは、市販後に性能が変わるAI医療機器で管理する因子として、追加学習データの取得・選定、学習方法、性能評価用データの取得を含む試験方法を挙げ、対象は品目ごとに検討するとしている。市販後学習で臨床的位置付けや使用目的・効果が変わり、品質、有効性、安全性へ重大な影響が及ぶ変更には、製造販売承認事項一部変更承認申請が必要になる。

米FDAの2025年8月版最終指針は、事前に定める変更管理計画（Predetermined Change Control Plan、PCCP）を、予定する変更、変更を開発・検証・実装する方法、影響評価の三つで構成し、計画に含まれる変更を実施するたびに追加の市販申請を要しない枠組みを示した。米国のPCCPも、実環境の変化を継続して見つける性能監視そのものではない。

監視値が警戒線を外れた場合は、原因調査、利用範囲の縮小、使用停止、従来手順への切り替えを先に扱う。再学習や新版の配布は、確認済みの変更計画、独立した性能評価、院内の受入試験を経た後の工程になる。旧版へ戻せない製品では、AIを外した代替手順と復旧条件を契約時に定めておく必要がある。

契約と検収──五つの欄を同じ版で残す

次の五項目は、日本の法令が定める統一様式ではない。公的資料が示す性能、情報提供、不具合報告、構成管理、変更管理を、病院と製造販売業者が同じ製品版で照合するための記録枠である。

1. 使用目的と対象：承認・認証された使用目的、対象患者、使用者、入力、出力、対象外条件、診療手順での位置を記す。
2. 入力と患者集団：取得元、必要項目、欠損、単位、検査機器、患者集団、分布変化を測る方法と頻度を記す。
3. 性能と警戒線：用途に合う主要指標、患者集団別の指標、参照基準、集計期間、調査開始と使用停止の条件を分ける。
4. 人の確認と報告：出力の採用・修正・見送り、対象外・処理不能、確認者、医療安全部門と製造販売業者への連絡、PMDA報告の確認担当を記す。
5. 版、停止、復旧：モデル、前処理、接続、画面、稼働時刻、変更通知、受入試験、停止権限、代替手順、再開承認を一つの履歴にする。

担当の境界も表に含める。製造販売業者は承認・認証範囲、製品の性能資料、更新内容、既知の限界、安全管理情報を病院へ渡す。病院は自施設の入力と患者構成、利用者の操作、接続、停止・代替手順を管理する。異常時は同じ製品名と版を使って両者の記録を照合する。

日本の公開情報に残る空白

日本の公開資料からは、医用画像診断支援AIの性能変化、医療機器の不具合等報告、IDATEN、院内ソフトウェアの構成・変更管理を個別に確認できる。ただし、厚生労働省の2019年評価指標は対象が限られ、IMDRFのGMLPは国際原則、FDAの資料は米国の研究と指針である。

AI医療機器の用途を横断し、病院別の入力変化、患者集団別性能、人による修正、モデル版、使用停止、復旧を同じ定義で公開する国内資料は、本稿の執筆時点で確認できていない。これは国内で性能監視が行われていないという意味ではない。公開情報から施設間や製品間を同じ物差しで比較できないという情報上の限界である。

一律の停止値を置く代わりに、製品の使用目的、患者集団、参照基準、誤りが生む影響、院内の代替手順から警戒線と停止条件を決め、その根拠を版ごとに残す必要がある。監視値、責任者、行動が対応していなければ、異常を検出しても調査や停止へ進めない。

よくある質問

承認・認証を得た製品なら、導入後に性能を測らなくてよいのか
承認・認証時の成績は、審査で確認した使用目的、データ、入力条件、製品版に対応する。患者構成、検査機器、接続、利用方法、版が変わった後の性能は、導入後の記録で追う必要がある。

正解率が何％まで落ちたら使用を止めるのか
全製品に共通する数値は確認できていない。見逃しと偽陽性の影響、対象患者、参照基準、集計期間、標本数が用途ごとに異なるため、警戒線、調査開始、利用制限、停止を別々に定める。

不具合報告と性能監視は同じなのか
同じではない。性能監視は入力や出力の統計的な変化を含み、危害が起きる前の調査にも使う。不具合や健康被害のおそれが疑われた場合は、院内の安全管理とPMDAへの報告経路へ記録を渡す。

IDATENやPCCPがあれば、市販後監視を省けるのか
省けない。変更計画は予定した製品変更と検証方法を扱い、監視は稼働中の入力、出力、患者集団、利用者の操作を追う。監視で見つけた変化を基に調査し、必要な変更手続きと院内の受入判断へ進む。