カルテを院外に出さずに医療AIを鍛える「連合学習」 仕組みと残る課題
病院どうしがAIを共同で開発したくても、カルテを院外に出すには高い法的なハードルがある。連合学習は、データを動かす代わりにモデルを各病院へ巡回させ、返すのは学習後の重みの更新だけという設計をとる。
病院どうしがAIを共同で開発したくても、カルテを院外に出すには高い法的なハードルがある。連合学習は、データを動かす代わりにモデルを各病院へ巡回させ、返すのは学習後の重みの更新だけという設計をとる。
健診結果や薬剤情報を生成AIに読ませるサービスでは、回答の精度とデータを預ける仕組みを分けて見る必要がある。米国限定のChatGPT Healthと日本のマイナポータルAPIでは、接続主体と公的審査の範囲が異なる。
Coldcardの一部ファームウェアで作られたシードは、装置が正常に動いて見える一方、秘密鍵の基になる乱数の予測困難性が失われていた。原因は、無効を示す設定値「0」をライブラリーが有効と扱い、ハードウェア乱数ではなく決定論的な代替処理を呼び出したことにある。
医療情報システムでは、識別子や認証値が正しい書式で出力されていても、その予測困難性まで保証されたとは限らない。仮IDの生成とSMART on FHIRの認証を例に、乱数の設計、起動時試験、継続監視、既存データへの対応を分けて検証する必要がある。
クラウド利用やリモートワークが広がり、社内ネットワークに接続している事実だけでは安全性を判断しにくくなった。ゼロトラストは、利用者、端末、アクセス先、通信時の状況を継続的に評価し、必要最小限の権限だけを与える設計である。
電子カルテの項目名やコードが施設ごとに異なれば、AIは同じ意味のデータを同じものとして扱えない。FHIRは医療情報を共通のリソースに分けて交換する規格で、日本の電子カルテ情報共有サービスでも実装が進む。
医療AIは、精度試験を終えただけでは診療情報を扱うシステムとして本番環境に移せない。監査ログから人の最終判断までを一続きの統制として設計し、各段階の証跡と責任者を先に決める必要がある。
診療歴や薬剤情報をスマートフォンで確認できても、その情報がそのまま医療AIの学習に回るわけではない。日本では本人による取得、医療機関間の共有、研究開発への二次利用に別々の仕組みがあり、同意や拒否の設計も異なる。
BrewDogの買収から約4カ月後、共同創業者による買い戻し案が元株主の個人情報を巡る苦情に発展した。英ICOは寄せられた情報を評価中で、データの入手経路や法令違反の有無はまだ判断していない。