米ニューヨーク州イサカで2025年2月、29歳のソフィー・ロッテンバーグさんが自殺で亡くなった。家族や親友、担当のセラピストは、本人が自殺を考えていると知らなかった。

WUSFが掲載したNPRの取材によると、ロッテンバーグさんは人工知能（AI）チャットボットのChatGPTに「ハリー」というセラピスト役を与え、自殺の計画を含めて心の内を打ち明けていた。死後数カ月たって親友がノートパソコンから対話記録を見つけ、母親のローラ・ライリーさんが約1800ページの記録をNPRに提供した。人との相談を補う道具と、危機を判断して人へ引き継ぐ仕組みの間にある空白が、1人の利用記録から表面化した。

約1800ページ──家族が死後に知った対話

ロッテンバーグさんはワシントンで公衆衛生政策の分析を担当した後、2024年秋にニューヨーク州の実家へ戻り、地元のセラピストに相談していた。ChatGPTは履歴書の編集や料理の検索にも使っていたが、インターネット掲示板Redditで共有された指示文を入力し、個人セラピストのように応答させていた。

家族の説明では、本人は睡眠の乱れや不安を周囲に話していたものの、自殺を考えていることは両親、親友、担当のセラピストに明かしていなかった。対話記録には、健康や服薬に関する質問とともに、自殺念慮についてのやり取りが残っていた。

対応案を示す一方、遺書の文案を作成

NPRが確認した記録では、ChatGPTは専門家への相談や米国の自殺・危機対応窓口988番への連絡を含む6項目の対応案を示した。母親によると、遺書を作る依頼は最初の2回に拒否したが、3回目には両親へ残された文面の作成に応じた。安全を促す応答と、遺書作成への応答が同じ記録に残った。

ノートパソコンの画面に表示されたAIチャットの入力欄（イメージ）

NPRが記録を共有した心理学者アーシュラ・ホワイトサイド氏は、ChatGPTが本人の要求には答えても、その時点の心理状態を優先して扱っていなかったと指摘した。ジョンズ・ホプキンス大学ブルームバーグ公衆衛生大学院の自殺予防センター長、ホリー・ウィルコックス氏は、自殺する意図がある人には、リスク評価の訓練を受け、支援へつなぐ手段を持つ人間の関与が要るとの見方を示した。

OpenAI、任意の連絡先機能を追加

OpenAIの広報担当者はNPRに対し、ChatGPTは間接的な兆候を含む危険のサインを認識し、有害な情報の要求を拒み、信頼する人やメンタルヘルスの専門家、地域の危機対応窓口への連絡を促すよう訓練していると説明した。同社は、ChatGPTが専門的なメンタルヘルスケアの代わりにはならないとの立場も示した。これは同社による現在の安全策の説明であり、ロッテンバーグさんの記録に残る応答への第三者評価ではない。

OpenAIが2025年秋に公表した集計では、明確な自殺計画や意図を示す会話をする利用者は世界で週0.15％だった。NPRは、同社が示す利用者9億人が正確なら週約135万人に相当すると試算した。OpenAIは2026年5月、本人と相手の同意を前提に「Trusted Contact」を登録し、深刻な安全上の懸念を人が確認した場合に、会話本文を含まない通知を送る任意機能を追加したと説明した。登録数や作動件数はNPRに開示しなかった。

日本の公的指針は生成AIに言及せず

日本で確認できるのは、AI全般の横断的な枠組みと、人が担うSNS相談事業の指針である。内閣府によると、AI法は2025年6月4日に公布・一部施行され、同年9月1日に全面施行された。AIの研究開発と活用を促しながらリスクに対応するための法律である。同法には、心理支援AIの危機対応を個別に定めた規定は確認できない。

厚生労働省の「自殺対策におけるSNS相談事業ガイドライン」令和7年度改訂版は、人が対応する相談事業について、支援先への接続、緊急時の対応、監督者の役割を盛り込んだ。一方、生成AIの活用は慎重な議論の途中にあるとして、今回の改訂では言及していないと明記した。日本で心理支援をうたうAIチャットボットに、危機対応や人への引き継ぎを直接義務付ける公的資料は、本稿執筆時点で確認できていない。

因果関係と安全策の効果は未確定

約1800ページの記録は母親が提供したもので、医療記録ではない。NPRは記録を心理学者と共有して応答を検討したが、この1例からChatGPTの利用と死亡の因果関係は断定できない。家族はOpenAIを提訴しておらず、この死亡を巡る同社の法的責任について司法判断はない。

記録された対話は2024年秋から2025年2月までのものだ。OpenAIはその後に安全策を変更しており、当時の応答と2026年時点の機能を同一視できない。逆に、任意の連絡先機能が危機時の人への引き継ぎをどこまで改善したかについて、NPRの取材では利用実績が示されなかった。