医療AIの責任は医師だけで終わらない　導入前に分ける四つの境界

人工知能（Artificial Intelligence、AI）を使った医療システムが誤っても、「AI」が診療録へ署名し、製品を改修し、事故を調べるわけではない。日本の公的資料をたどると、診療判断は医師、製品の品質は製造販売業者、院内の安全管理は医療機関、データと版の追跡は情報管理部門という複数の線が見える。

この分け方は、事故が起きた後の法的責任を自動で決める表ではない。実際の責任は、製品の承認内容、契約、利用時の操作、医療機関の管理、損害との因果関係を個別に見て判断される。導入前に必要なのは、その判断に使う記録を関係者ごとに残す設計である。

四つの境界──臨床、製品、組織、データ

位置	導入前に決めること	残す記録
医師・医療従事者	使用場面、確認項目、採用しない条件、最終判断者	AIの出力、修正、採否、診療録への署名、実際の処置
医療機関	導入目的、院内承認、教育、監視、停止と再開の権限	検収結果、権限設定、利用履歴、事故対応、再開の判断
製造販売業者・提供事業者	規制上の位置づけ、使用目的、性能限界、版、更新方法	仕様、検証結果、変更履歴、不具合、修正と通知の内容
情報・データ管理部門	データの流れ、アクセス権、保存期間、再委託、削除方法	入力と出力、モデルの版、アクセス、送信先、削除の履歴

同じ組織が二つ以上の位置を担う場合もある。それでも記録は役割ごとに分ける。病院が独自モデルを開発すれば製品側の仕事が院内へ移り、外部クラウドを使えば情報管理に委託先の監督が加わる。組織名より、誰が何を判断し、どの証拠を保存するかが責任分界の土台になる。

医師の最終判断──全責任を一人へ集める意味ではない

厚生労働省は2018年の通知で、AIを用いた診断・治療支援でも診断や治療を行う主体は医師であり、最終的な判断の責任は医師が負うと整理した。AIの出力を採用するか退けるかを臨床判断から切り離さない、という線である。

この通知だけを根拠に、製品の故障や病院の管理不備まで医師一人へ集約するのは資料の射程を超える。厚生労働省の2019年評価指標は、AI画像診断支援システムの保守、設計・仕様上の不具合、故障への対応では通常の医療機器と同じく製造販売業者が責任を負う一方、医師が最終診断をシステムへ委ねないよう使用目的の明示と利用者教育が要るとした。

2019年の指標が対象とするのは、病変候補の検出や疾患名候補の提示を行う画像診断支援システムである。生成AI、記録支援、医療機器に該当しない業務ソフトへ同じ分担をそのまま広げる根拠にはならない。ただし、臨床判断と製品管理を別の証拠で検証する考え方は、導入時の責任表にも使える。

医療機器か業務支援かで供給側の位置が変わる

厚生労働省は、医療機器としての目的があり、意図どおりに機能しない場合に生命や健康へ影響するおそれがある単体プログラムを医薬品医療機器等法の規制対象としている。人の生命や健康への影響がほとんどないものは、この範囲から除かれる。名称にAIが付くかではなく、使用目的と不具合時のリスクで線が引かれる。

医療機器プログラム（Software as a Medical Device、SaMD）なら、承認された使用目的、製品名、製造販売業者、版、添付文書と不具合対応を確認する。医療機器に該当しない記録支援や院内業務支援では「製造販売業者」という薬事上の位置は使えず、提供事業者との契約が中心になる。規制対象外でも、病院の情報安全管理、診療録の確定、個人情報の取扱いが消えるわけではない。

委託しても病院の管理責任は残る

厚生労働省の「医療情報システムの安全管理に関するガイドライン」第7.0版は、医療機関が委託先を監督し、委託先に起因する情報セキュリティ事故でも患者に対する管理責任を免れないとする。契約には業務内容、役割、法的・運用上の責任分界、事故原因の究明に関する分担を明記するよう求めている。

契約では、データの保存場所、アクセスできる者、再委託先、ログの保存期間、更新通知、停止時の代替手順、事故調査への協力、契約終了時の返却と削除を分けて書く。クラウド事業者へ処理を預けても、病院側には委託先の選定、監督、院内権限の管理、患者への対応が残る。

第7.0版の中心は医療情報システムの安全管理である。AIの臨床性能を認証する文書でも、診療行為の民事責任を配分する文書でもない。情報漏えい、停止、改ざん、ログ欠落に関する分界と、誤診や処置の妥当性に関する判断は分けて扱う必要がある。

更新と事故──一つの記録を複数の経路へ

優良機械学習実務（Good Machine Learning Practice、GMLP）は、製品の設計から導入後までを一続きで管理する原則である。IMDRFが2025年1月に確定したGMLPは、実際の利用環境で人とAIのチームを評価し、利用者へ使用目的、限界、性能、変更点を伝え、導入後の性能を監視して再学習のリスクを管理するよう求めた。

日本の医療機器では、変更計画確認手続制度（IDATEN）が、あらかじめ確認された変更計画に沿う製品更新を扱う。PMDAが掲載する厚生労働省の質疑応答集は、変更計画に関する社内の責任と権限、変更後の検証、計画から外れる変更の取扱いを示している。これは製造販売業者側の薬事手続であり、病院側の検収を省く制度ではない。院内ではAI医療機器の更新範囲と導入後に病院が確認する項目を別に定める必要がある。

事故時の経路も一つではない。PMDAは、医療機器の製造販売業者に、不具合によるものと疑われる症例などを把握した際の報告義務があると説明している。医療機関や医師などの医薬関係者にも、医療機器の不具合を含め、保健衛生上の危害の発生や拡大を防ぐため報告が必要と判断した情報をPMDAへ届ける制度がある。

全ての誤出力が薬事上の報告対象になるわけではない。医療機器に該当しないAIには医療機器の不具合報告制度をそのまま当てられず、医療事故や情報セキュリティ事故には別の院内・外部経路がある。病院は最初の段階で、患者安全、製品不具合、情報安全、苦情のどこへ送るかを決め、同じ入力、出力、版、確認者、処置の記録を経路ごとに再利用できる形で保存する。

契約・検収で残す六つの記録

1. 使用目的と禁止場面：対象患者、診療科、入力、出力、利用者、AIへ任せない判断、停止条件を一枚にまとめる。
2. 規制上の位置と製品識別：医療機器への該当、承認された使用目的、製品名、製造販売業者または提供事業者、モデルとソフトウェアの版を記録する。
3. データの流れ：取得元、送信先、アクセス権、保存期間、再委託先、学習への二次利用、返却と削除の方法を図にする。
4. 人の確認：誰が出力を見て、どこを直し、採用または不採用を決め、診療録や処置を確定したかを追えるようにする。
5. 更新と復旧：更新前の試験、通知期限、版の固定、性能監視、停止権限、旧版または従来手順へ戻す条件を定める。
6. 事故対応：院内窓口、事業者への通知、PMDA報告の判定、原因調査、証拠保全、再開を承認する者を決める。

検収ではモデル単体の精度表に加え、実際の端末、接続機器、院内データ、利用者を使った結果を残す。誤りが見つかった場合は、入力の不足、モデルの限界、画面設計、利用者の操作、接続障害、版の変更を分けて記録する。後から責任を検討する際、原因を「AIのミス」の一語で終わらせないためである。

日本の公開情報に残る空白

経済産業省は2026年4月、「AI利活用における民事責任の解釈適用に関する手引き〔第1.0版〕」を公表し、既存の民法と製造物責任法をAIの利用へどう当てはめるかを整理した。AIを人の判断材料にする「補助／支援型」と、出力へ強く依存する「依拠／代替型」を分けて検討するが、掲載された事例に医療AIは含まれない。

医師、医療機関、製造販売業者、医療機器に該当しないサービスの提供事業者を横断し、事故類型ごとに責任を配分する日本の包括的な公的資料は、本稿の執筆時点で確認できていない。これは責任が存在しないという意味ではない。診療行為、製品、情報管理、契約に適用される既存の規律が分かれており、公開資料だけで個別事故の結論を先に決められないという情報上の限界である。

よくある質問

医療AIが誤れば、医師が全ての責任を負うのか
一律には決まらない。厚生労働省の通知は診断・治療の主体と最終判断を医師に置く。一方、画像診断支援の評価指標は製品の保守、設計・仕様の不備、故障に製造販売業者の責任を残す。病院の管理や契約、実際の操作を含め、個別の事実に沿った判断が要る。

契約で事業者へ責任を移せるのか
契約は更新、障害対応、証拠保全、原因調査、費用負担、求償の分担を明確にする。医療機関が患者に対して負う管理責任や、医師の臨床判断、製造販売業者の法定義務を契約だけで消すものではない。

医療機器に該当しないAIなら責任問題はなくなるのか
なくならない。医療機器特有の承認や不具合報告の制度から外れる場合でも、医療機関の情報安全管理、個人情報の取扱い、診療録の確定、提供事業者との契約、院内の事故対応は残る。