AI「心の相談」規制、米2州が先行　日本の専用ルールは確認できず

心の悩みに応じる会話型AIを巡り、米国では州法による規制が具体化した。イリノイ州はAIが治療や心理療法を担うことを禁じ、オレゴン州はAIとの対話であることの表示と、自殺念慮や自傷意図を検知した際の対応手順を事業者に求めた。日本にはAI全般を対象とする法律と指針があるものの、心理支援をうたうチャットボットに同種の義務を課す専用ルールは、公表資料から確認できない。

イリノイ州──AIを治療の担い手にしない

規制の線を治療行為の手前に引いたのがイリノイ州だ。2025年8月に成立したウェルネス・心理資源監督法（Wellness and Oversight for Psychological Resources Act、WOPR法）は、認可を受けた専門職以外が治療や心理療法を提供、宣伝することを禁じ、インターネット上のAIも対象に含めた。州法は、認可専門職がAIに独立した治療判断、利用者との治療上の対話、専門職の確認を経ない治療計画の作成、感情や心理状態の検知を担わせることも禁じ、違反1件あたり最大1万ドルの民事制裁金を定めている。

AIの利用が全面的に排除されたわけではない。予約管理、請求処理、治療上の助言を含まない連絡文の作成など、認可専門職を支える事務用途は残された。規制対象は技術そのものではなく、AIが人に代わって治療判断や治療上の対話を担う場面である。

オレゴン州──禁止より危機対応と表示

オレゴン州のSB 1546は別の線を引いた。対象は、人間らしい応答や関係の継続を主な目的とするAIコンパニオンと、その提供基盤である。成立法は、利用者が人間と話していると受け取りうる場合にAI生成の応答だと表示し、自殺念慮や自傷意図を検知する手順、危機窓口への案内、未成年者向けの追加措置、紹介件数などを示す年次報告を事業者に求めている。確認できる損害を受けた利用者には、損害賠償と差し止めを求める民事上の手段も設けた。

両州の違いは規制対象に表れる。イリノイ州は治療・心理療法という行為を資格制度の側から囲い、オレゴン州は人間との関係を模した会話サービスに安全措置を課した。同じ「心の相談に応じるAI」でも、治療を名乗るか、利用者との関係をどう設計するかで適用される規則は変わる。

日本のAI法は横断的な枠組み

日本では、人工知能関連技術の研究開発及び活用の推進に関する法律（AI法）が2025年6月に公布され、同年9月に全面施行された。内閣府の説明によると、AI法はイノベーションの促進とリスク対応を両立させるため、AI戦略本部、基本計画、指針整備、情報収集や調査の土台を置く法律である。特定のサービス類型について、危機対応や人間への引き継ぎ方法を直接定める構造ではない。

心理職の資格を定める公認心理師法も、焦点は人の資格と業務にある。同法は、登録を受けた者を公認心理師と定義し、心理状態の観察・分析や相談、助言などの業務と、「公認心理師」「心理師」を含む名称の使用制限を定めている。AIサービスを公認心理師と表示すれば名称規制が問題になりうる一方、AIコンパニオンの表示、危機対応、監査記録を一体で定めた法律ではない。

厚労省指針が残した生成AIの空白

日本国内の情報差が最もはっきり表れたのは、自殺対策のSNS相談に関する最新資料だ。厚生労働省が2026年3月に改訂した指針は、チャットやスマートフォンアプリを使う相談事業について、相談員、監督者、地域の支援機関との連携、緊急時の対応手順を詳しく示した。同指針は、傾聴と支援先への接続を人が中心で担うことが重要だとしたうえで、生成AIの活用は慎重に可能性を探る段階にあるため、今回の改訂では言及しないと明記している。

これは生成AIの利用を禁じる記述ではなく、安全要件を定めた記述でもない。人が対応するSNS相談には複数人での判断や警察・医療・行政との連携が示される一方、AIが単独で応答するサービスへ同じ体制をどう適用するかは資料の外に残った。日本で心理支援AIに特化した公的ルールを確認できない、という本稿の結論はこの範囲に限られる。

次に問われる三つの義務

米2州と日本の資料を並べると、制度設計の論点は三つに絞られる。第一は、利用者にAIとの対話だと明示する表示義務。第二は、自殺念慮や自傷意図を示す入力を受けた際の検知、応答停止、人による相談先への接続。第三は、会話データの保存、学習利用、第三者提供を説明し、後から検証できる記録を残す責任である。

個人情報の扱いには既存の規律が及ぶ。個人情報保護委員会は、生成AIへ入力した個人情報が学習に使われ、正確または不正確な内容として出力されるリスクがあるとし、事業者には利用目的の範囲と学習利用の有無の確認を求めている。ただし、この注意喚起は心理支援AIの危機対応を定めたものではない。個人情報保護と、応答内容の安全管理は別の制度課題として残る。