声も顔も本人そっくりに偽装　ディープフェイク詐欺と送金前の確認手順

ディープフェイク（deepfake）は、生成AIで実在人物の顔、声、動きを合成し、本人がしていない言動を本物らしく見せる技術だ。国民生活センターは、実在の映像や音声を学習して本人そっくりの動画や音声を作る技術と説明し、企業経営者を装ったビデオ会議型の海外詐欺やロマンス詐欺への悪用を挙げている。声や顔が似ているという一つの手掛かりを本人確認として扱う限り、画面の完成度が上がるほど見誤りやすい。送金や口座情報の提供を求められた場面では、合成の破綻を見つけるより、連絡経路を変えて相手を確認するほうが確実だ。

声と顔をどう作り替えるのか

米国立標準技術研究所（NIST）の2024年報告書は、合成動画を顔の入れ替え、口や表情の操作、年齢や髪などの属性変更、顔全体の生成に分類し、音声では文章の読み上げ、別言語への変換、元の発話内容を保った声質の模倣を区別している。顔の映像に別の音声を対応させれば、実際にはなかった発言をしているような動画になる。音声の模倣では、公開動画や録音から得た声の特徴を基に新しい発話を合成する。必要な素材量や仕上がりはモデルと入力条件で変わり、「短い声だから複製されない」とは判断できない。

ここで狙われるのは顔認証システムに限らない。家族の声、上司の表情、公的機関らしい肩書といった、人が相手を信用する材料も攻撃対象になる。詐欺側は緊急性を強調し、別の人に相談する時間を奪う。生成技術は信用させる部品であり、金銭を急がせる筋書きと組み合わさって被害経路になる。

「違和感探し」だけでは止めきれない

影や光の向き、手や髪の形、口の動きと音声のずれ、不自然なまばたきは確認の手掛かりになる。ただし、異常が見当たらないことは本物の証明にならない。NISTが整理した研究では、合成動画の検出精度は試験条件によって62〜99％、合成音声は50％から90％超まで幅があった。圧縮、サイズ変更、背景雑音、検出器が学習していない生成モデルによって性能は変わる。研究データ上の精度を、SNSで再圧縮された動画や通話中の声へそのまま当てはめるのは無理がある。

電子透かしや生成履歴の記録も補助線にとどまる。来歴情報が正しく残っていれば、どの道具で作られ、どこで編集されたかを確かめる材料になる。一方、透かしやメタデータが削除される場合があり、本物の映像を別の文脈に置いて人を欺く手口もある。表示の有無だけで、映像が伝える話まで真実とは決められない。

国内で公的に確認された悪用

金融庁は2023年9月と10月、同庁職員を装って暗号資産を推奨するディープフェイク動画がYouTubeやニコニコ動画に掲載されたことを確認した。相談が寄せられた2件では、LINEやFacebook上の投資勉強会などから入金へ誘導し、出金要求に応じず追加払いを求める流れの中で動画が信用づけに使われた。金融庁職員が暗号資産の投資取引を勧誘したり、特定商品を推奨したりすることはないと同庁は明記している。

警察庁の2026年上半期暫定値では、特殊詐欺の認知件数は2万2,031件、被害額は1,816億2,000万円で、SNS型投資詐欺、SNS型ロマンス詐欺、ニセ警察詐欺などを手口別に集計している。この資料にディープフェイク利用の独立区分はない。全体の件数や被害額をAI悪用の規模として読み替えることはできず、国内で声や顔の合成が使われた認知件数と被害額は、本稿の執筆時点で確認できていない。

日本の指針──透かしは補助線

内閣府が2025年12月19日に決定したAI法第13条に基づく指針は、ディープフェイクなど偽・誤情報の拡散につながる出力の抑制を求め、生成物だと判断するための電子透かしや来歴管理技術の開発と必要に応じた実装を挙げる。同時に、この指針は各主体の自主的かつ能動的な取り組みを促す位置づけで、適正性の絶対的な水準を定めない。すべての合成音声や動画に共通の表示が付くという前提には立てない。

現状では、表示や検出技術だけを前提に送金判断を組めない。画面上の印や検出アプリを第一の防御にすると、印のない合成物や誤判定を通してしまう。金銭や認証情報を動かす直前に、相手が提示した音声・映像とは別の経路で本人や組織を確かめる運用が必要になる。

送金前に分ける三つの確認

1　通話と送金をいったん止める。 相手が指定した期限、秘密の要求、逮捕や事故の説明があっても、その場で振り込まない。通話を続けたまま本人確認を試みると、質問への回答まで相手に誘導される。

2　既知の連絡先へ自分から接続する。 着信履歴への折り返しや相手が示した番号ではなく、端末に以前から登録した家族の番号、組織の公式サイトに載る代表番号、社内名簿の内線を使う。家族本人につながらなければ、別の家族にも状況を共有する。映像や声と異なる経路を使う点が核になる。

3　金銭の要求を第三者と照合する。 投資なら事業者の公式窓口と金融庁の注意喚起、会社の送金なら社内の承認者、警察を名乗る電話なら最寄りの警察署で確認する。警察庁も、電話で金銭の話が出たら通話を切り、家族や警察署へかけ直すよう案内し、相談先として警察相談専用電話「#9110」と消費者ホットライン「188」を示している。声が似ているかではなく、独立した経路で同じ事実を確認できるかが判断基準になる。

よくある質問

口元や声に不自然さがなければ本物なのか
本物とは限らない。不自然な影、口のずれ、音声の途切れは手掛かりになるが、合成物に必ず現れる特徴ではない。検出器の性能も生成方法、圧縮、雑音で変わるため、見た目や聞き分けだけで送金を決めない。

AI生成の表示がなければ本物なのか
そうとは判断できない。日本のAI指針は電子透かしや来歴管理の開発と必要に応じた実装を挙げるが、すべての生成物への共通表示を保証する枠組みではない。表示があれば来歴を調べる材料になる一方、表示がないことは本人の映像だという証拠にならない。

家族と同じ声で緊急の送金を頼まれたら何を確かめるのか
通話を切り、以前から知っている家族の番号へ自分からかけ直す。本人につながらない場合は別の家族へ連絡し、事故や入院などの説明を照合する。相手が示した番号、同じSNSアカウント、同じビデオ通話の中だけで確認を完結させない。