医療AIを現場へつなぐ四段階　用途定義から人の確認、導入後監視まで

医療AIは、画像、検査値、診療録、会話などを入力に、分類、予測、要約、文章を返す人工知能（Artificial Intelligence、AI）の医療利用を指す。出力が診療や事務のどこへ入り、誰が確定し、異常時にどう止めるかまで定めて初めて、モデルは現場の業務につながる。

米食品医薬品局（FDA）はデジタルヘルスを、モバイルヘルス、健康情報技術、ウェアラブル機器、遠隔医療、個別化医療までを含む広い領域として整理している。医療AIはその全体を置き換える名称ではなく、データから情報を作る技術として各製品や業務へ組み込まれる。

医療AIの範囲──四つの仕事で分ける

FDAはAIを、人が定めた目的に沿い、機械と人からの入力をモデルへ抽象化し、推論によって情報や行動の選択肢となる予測、推奨、判断を生み出す機械ベースのシステムと定義する。医療現場で返す結果は、画像上の位置、発生確率、優先順位、診療録の下書き、患者向け文章など、使う仕事によって異なる。

仕事	主な入力	主な出力	業務で確定する事項
臨床判読の支援	画像、心電図、検査値	候補位置、分類、確率	対象患者、見落とし時の確認、最終判断者
リスク予測	診療録、薬剤、経時データ	リスク値、順位、警告	予測期間、対象集団、警告後の対応
記録・事務の支援	診察会話、診療録、予約情報	要約、下書き、分類	原文との照合、修正者、記録の確定者
患者対応の支援	質問、健康情報、案内文書	回答、説明文、案内先	回答範囲、回答しない条件、人へ引き継ぐ条件

同じ基盤モデルを使っても、診療録の下書きを医師へ返す仕事と、検査結果を基に患者へ判断を示す仕事では、誤りが届く相手と起こりうる影響が違う。製品名やAIの方式から入ると、この差が見えにくい。最初に入力、出力、利用者、出力後の行動を一続きで定義する理由はここにある。

規制の入口──AIかどうかではなく用途

厚生労働省は、医療機器としての目的があり、意図どおりに機能しない場合に患者や使用者の生命・健康へ影響するおそれがあるソフトを、薬機法上の医療機器プログラムとして扱う。生命・健康への影響がほとんどない一般医療機器相当の単体プログラムは、この範囲から外れる。

したがって「医療AI」と「AI医療機器」は同義ではない。疾病の診断や治療を支援する用途なら医療機器への該当性が論点になり、記録作成や予約整理では業務ソフトとしての契約、情報管理、記録の確定が中心になる。患者向けの会話AIは、回答内容、利用者、医療上の用途、危害の可能性を個別に見なければ位置づけが決まらない。

四段階──入力から人の行動まで

第一段階：用途と禁止範囲を固定する

用途定義には、対象とする患者や業務、利用者、入力、出力、使う場所、結果を受けた人の行動を入れる。「診断を支援する」「業務を効率化する」だけでは、試験条件も責任の境界も定まらない。対象外の入力、処理不能、通信停止、判断をAIへ任せない場面も、禁止範囲と代替手順へ書き込む。

第二段階：データの意味と流れをそろえる

画像なら撮像機器と条件、検査値なら単位と測定時点、会話なら話者と文字起こし誤りを記録する。欠損をゼロとして読むのか、入力不足として止めるのかでも出力は変わる。訓練、調整、テストに同じ患者や施設の特徴が重なれば、開発時の成績が高く見える場合がある。

国際医療機器規制当局フォーラム（IMDRF）が2025年に最終化した優良機械学習実務（Good Machine Learning Practice、GMLP）は、対象患者と利用環境を反映したデータ、訓練用とテスト用データの独立、リスクに応じた外部検証を10原則に含めた。これはAI医療機器の原則であり、一般的な業務支援ソフトの承認基準ではない。それでも、開発データと評価データを分け、誰を測った成績かを明記する考え方は、製品説明を読む土台になる。

個人情報保護委員会と厚生労働省の2026年4月改正ガイダンスは、診療録の形に整理されていない医療・介護関係の情報も個人情報に該当し、委託先の選定と取扱状況の定期確認を医療機関側へ求めている。AIへ渡す前後では、取得元、利用目的、送信先、保存場所、アクセス権、二次利用、返却・削除までをデータの流れとして追う必要がある。

第三段階：出力と限界を同じ画面に置く

出力欄には結果だけを置かず、対象外の入力、欠損、処理不能、使用したモデル版、既知の限界を区別して示す。確率を出す製品では、その値が何を対象に、どの期間を予測したものかを表示する。要約や文章を作る生成AIでは、参照した原文、修正箇所、確定前の状態を追える設計が要る。

AIセーフティ・インスティテュート（AISI）が2026年4月に公表したヘルスケア向けガイドは、製品設計、モデル選定、実装、検証、導入・運用の5段階に、有害情報、偽誤情報、公平性、プライバシー、セキュリティ、検証可能性など10の観点を割り当てた。生成AIについては、架空の根拠を含む誤情報の発生率と出典の実在性・正確性を検証し、導入後も発生率と参照データの更新を監視する評価例を示す。

第四段階：人の確認、監視、停止を結ぶ

人の確認は、画面に承認ボタンを置くだけでは成立しない。確認者が原データとAI出力を比べ、採用、修正、差し戻し、不適用を選び、その理由と時刻を記録できる必要がある。確認に必要な時間や専門性を無視すれば、人は形式的に押すだけになり、誤りを見つける工程が空洞化する。

厚生労働省は2018年の通知で、AIを用いた診断・治療支援プログラムを使う場合も、診断や治療の主体は医師であり、最終判断の責任は医師が負うと整理した。通知の対象は診断・治療支援であり、全ての記録支援や事務処理を医師が確認するとの意味ではない。仕事ごとに、医師、看護師、技師、事務担当者のうち誰が何を確定するかを定める必要がある。

厚生労働省の「医療情報システムの安全管理に関するガイドライン」第7.0版は、機能仕様と運用手順の文書化、定期監査、委託先の監督、契約での責任分界、障害時の医療継続と原因究明を医療機関へ求める。AIを外部サービスへ委託しても、院内の管理、監査、停止、患者への説明を誰が担うかは残る。

導入前に一枚で結ぶ八項目

項目	記録する内容	照合する証拠
用途	対象、利用者、場所、入力、出力、禁止場面	製品仕様、承認範囲、院内手順
規制上の位置	医療機器への該当、製造販売業者または提供事業者	承認・認証情報、契約、利用規約
データ	取得元、項目、単位、欠損、対象集団、正解の作り方	データ辞書、試験報告、項目対応表
情報の流れ	送信先、保存、権限、再委託、二次利用、削除	構成図、契約、アクセス記録
人の確認	確認者、採否、修正、差し戻し、確定操作	画面仕様、操作履歴、業務規程
版と更新	モデル、閾値、参照資料、前処理、更新通知	版番号、変更履歴、再試験結果
監視と停止	性能、処理不能、人工修正、警告、停止基準	監視表、アラート、停止記録
事故と復旧	連絡先、証拠保全、代替手順、原因究明、再開権限	事故対応計画、訓練記録、復旧試験

八項目は、日本の法令が定める一つの申請書ではない。医療機器、個人情報、医療情報システム、AIセーフティの各資料から、同じ製品版と同じ用途を照合するために再構成した記録枠である。項目が別の部署に分かれていても、製品名、版、対象業務を共通の識別子で結ばなければ、事故時に同じ出力を再現できない。

導入後監視──精度表の外で起きる変化

導入後に見る値は、開発時の精度だけではない。入力の欠損と処理不能、AI出力を人が採用・修正・差し戻した割合、対象外利用、応答時間、障害、苦情、製品版の変更を用途別に追う。正解ラベルが後から得られる仕事では、全体の成績と主要な患者集団の差も同じ版で測る。

変化が見つかった後の権限も先に決める。誰が利用範囲を狭め、停止し、従来手順へ戻し、事業者へ連絡し、再試験後の再開を承認するかが曖昧なら、監視値が悪化しても行動へ結び付かない。モデル更新、接続機器の変更、入力項目の定義変更、利用者の交代は、再評価を始めるきっかけになる。

日本の制度と公開情報の限界

日本では、薬機法上の医療機器への該当性、医療・介護情報の個人情報保護、医療情報システムの安全管理、診断・治療支援での医師の最終判断が別の資料に分かれている。AISIの2026年ガイドは生成AIを含むヘルスケアAIの評価範囲を広げたが、薬事承認や病院の採用を一括して決める文書ではない。導入側には、製品の用途に応じて資料の適用範囲をつなぐ作業が残る。

国内の医療機器、院内業務支援、患者向け生成AIを同じ定義で横断し、製品版ごとの導入施設数、誤出力、人工修正、停止、業務負担を結び付けた公的資料は、本稿の執筆時点で確認できていない。これは国内に導入例や評価結果が存在しないという意味ではない。公開情報だけでは、用途の異なる医療AIが実運用でどう使われ、更新後に何が変わったかを同じ物差しで比較できないという情報上の限界である。

よくある質問

医療AIとAI医療機器は同じか
同じではない。医療AIは技術の利用範囲を指す。日本で医療機器に当たるかは、医療上の目的と、不具合時に生命・健康へ及ぶ影響から判断する。記録支援や事務処理は、薬機法上の医療機器に当たらなくても、個人情報、情報安全、契約、記録確定の管理が残る。

高い精度があれば人の確認を省けるか
精度の数字だけでは決まらない。診断・治療支援では医師が最終判断を担う。記録支援や事務処理でも、誰が原文と出力を照合し、何を正式記録として確定するかを用途ごとに定める必要がある。

導入後は何を測るのか
用途に対応する性能に加え、入力不足、処理不能、人工修正、差し戻し、警告、対象外利用、障害、版の変更を追う。監視値には、停止、利用範囲の縮小、再試験、復旧を決める責任者と基準を対応させる。