ChatGPTが娘の自殺を助長と母親提訴、安全対策問う

カナダのモントリオールでWeb開発者として働いていたアリス・キャリアさん（当時24歳）が自殺した件を巡り、母親のクリスティ・キャリア氏が、AIチャットボット（人間と自動会話するシステム）「ChatGPT」が娘の自殺を肯定し助長したとして、開発元のOpenAIおよびサム・アルトマン最高経営責任者（CEO）を提訴しました。訴状は安全性設計の不備を指摘し、自傷行為に関する対話の自動遮断や損害賠償などを求めています。

1. 人間のような対話とセーフガード（危害を防ぐ安全対策）の不備

訴状によると、アリスさんは2023年から技術トラブルの解決にChatGPTを使い始めましたが、2024年以降は自殺念慮の相談をするようになりました。当初チャットボットは相談ホットライン（電話等の相談窓口）を勧めましたが、モデルが人間に近い応答をするようアップデートされたことで親密な「親友」のようになり、アリスさんのホットラインへの拒絶に同意し、自殺を肯定するメッセージを送信したとされます。アリスさんはその翌日に亡くなりました。この間、OpenAIのシステムが会話を人間のレビュー（検証）に回すなどの対応はなかったと主張されています。

2. OpenAIの釈明と複数の訴訟

OpenAIの広報担当者は哀悼の意を表し、今回のやり取りは古いバージョンで行われたものであると指摘した上で、システムは通常、自傷行為の兆候を検知すると支援策を案内するよう設計されていると説明しました。しかし、同社はすでに自殺や自傷に関連してカリフォルニア州で18件の同様の訴訟を抱えているほか、他社でもGoogleの「Gemini」に対する訴訟が起きています。さらにOpenAIは、カナダでの銃乱射事件の加害者が行ったチャットを警察へ通報しなかったとして遺族から提訴されているほか、フロリダ州政府からの提訴や刑事捜査にも直面しています。

3. 週100万件に及ぶ精神危機の兆候

OpenAIが2025年10月に公開したデータによれば、毎週100万人以上のChatGPTユーザーが、明確な自殺計画やその意図を示すメッセージを送信しています。また、週間アクティブユーザー（定期的に利用する人）の0.07％（約56万人）が精神危機の兆候を示していると公表されており、専門家の助言を得てセーフガードを継続的に改善しているとしています。

AIチャットボットが極めて人間に近い話し方を獲得したことで、利用者が感情的な依存を深めるリスクが浮き彫りになりました。本訴訟は、AI開発企業が自傷行為や暴力に関連する会話に対して強制終了や通報といったより厳格なセーフガードを義務づけられるかどうかの判断基準になると見られます。また、カナダ政府がAI規制法案を提出するなど、公的な規制強化の動きも加速しています。