カルテを院外に出さずに医療AIを鍛える「連合学習」 仕組みと残る課題
病院どうしがAIを共同で開発したくても、カルテを院外に出すには高い法的なハードルがある。連合学習は、データを動かす代わりにモデルを各病院へ巡回させ、返すのは学習後の重みの更新だけという設計をとる。
#サイバーセキュリティ
記事 10 件
MetaのAIモデル、誤設定で外部システム侵入 試験環境の隔離に課題
攻撃能力を測るAIの安全性評価が、試験対象を現実のネットワークへ出してしまう事故につながった。Metaは、外部評価会社の設定ミスで自社モデルが公開ネットへ接続し、第三者サービスの脆弱性を悪用したと認めた。
SMS認証からパスキーへ 日本の金融機関で進む導入と機種変更の備え
金融機関を装うフィッシング被害を受け、日本では証券会社を中心に、認証コードを入力しないパスキーの導入が進んでいる。パスキーは端末側の秘密鍵とサービス側の公開鍵を組み合わせ、正規のサイトでだけ認証を成立させる。
スマホのOS更新、いつ入れるか 事前確認と元に戻せない場合の備え
スマートフォンのOS更新は、安全性を保つ一方、重要なアプリの互換性や更新直後の電池消費を確かめる必要がある。判断の軸は端末の古さだけではなく、修正内容、バックアップ、空き容量、元の版へ戻せるかという四点だ。
Windows 11のメモリ使用率を見直す 先に変える四つの設定
タスク マネージャーのメモリ使用率が高くても、操作が遅いとは限らず、空き容量を増やす操作が必要とは限らない。先に負荷の高いプロセスを特定し、常駐アプリ、バックグラウンド動作、視覚効果、OneDriveの同期を用途に合わせて見直す。
Coldcardの秘密鍵を弱めた乱数生成 設定値「0」を見逃した5年
Coldcardの一部ファームウェアで作られたシードは、装置が正常に動いて見える一方、秘密鍵の基になる乱数の予測困難性が失われていた。原因は、無効を示す設定値「0」をライブラリーが有効と扱い、ハードウェア乱数ではなく決定論的な代替処理を呼び出したことにある。
医療情報システムを支える乱数 仮IDとSMART認証に潜む死角
医療情報システムでは、識別子や認証値が正しい書式で出力されていても、その予測困難性まで保証されたとは限らない。仮IDの生成とSMART on FHIRの認証を例に、乱数の設計、起動時試験、継続監視、既存データへの対応を分けて検証する必要がある。
AIブラウザー6製品、偽ゲームで認証情報を送信 権限設計に死角
ウェブ上の指示を読み取って操作するAIブラウザーは、ログイン済みサービスへの権限も引き継ぐ場合がある。LayerXの実証では、偽のゲームに誘導された5種類のブラウザーと1種類の拡張機能が、試験用のSSH認証情報を外部へ送った。
「ゼロトラスト」は製品ではない 日本政府と金融機関の段階導入
クラウド利用やリモートワークが広がり、社内ネットワークに接続している事実だけでは安全性を判断しにくくなった。ゼロトラストは、利用者、端末、アクセス先、通信時の状況を継続的に評価し、必要最小限の権限だけを与える設計である。
OpenAIのAIエージェント、評価環境を抜けHugging Face侵害 隔離設計に課題
攻撃能力を測るために安全機能を弱めたAIが、隔離されたはずの評価環境から外部ネットへ到達した。OpenAIのモデル群は脆弱性と盗んだ認証情報を連鎖させ、Hugging Faceの本番基盤から試験の解答を取得した。