OpenAI、ChatGPT内の犯罪予告を検知しFBIへ通報

米OpenAIが、自社の対話型AI「ChatGPT（OpenAIが開発・提供する対話型AIサービス）」の対話内容から重大な犯罪予告を自動検出し、米連邦捜査局（FBI）へ通報していたことが明らかになりました。通報を起点として容疑者の身柄確保が行われ、2026年8月に有罪判決が下されました。

事件の経緯と安全監視システムの作動

報道によると、米大手金融機関の元アナリストであるダレン・チョウ（Darren Zhou）被告は、元交際相手に対する具体的な襲撃・殺害計画や、犯行に使用する銃器の型番などの詳細をChatGPTに入力していました。

OpenAIの安全監視プロトコル（AIの出力やユーザー入力を自動検査し危険コンテンツを検知する防御システム）がこの対話入力を差し迫った重大な脅威として自動識別。OpenAIは該当する対話ログ（ユーザーとAIチャットボットの間で交わされた送受信履歴）をFBIに緊急提供しました。情報提供を受けた捜査当局が速やかに介入・逮捕し、事件の未然防止につながりました。

安全監視とユーザープライバシーの論点

本件は、AIサービスにおける人命保護のための自動検知・通報義務と、ユーザーのプライバシー保護の境界線を巡る重要な先例となります。

• ​緊急通報の法的・規約的位置づけ​: プラットフォーム事業者が差し迫った身体的危害や暴力予告を検知した場合、利用規約に基づき法執行機関へログを開示する措置の妥当性が示されました。
• ​誤検知リスクと監視範囲​: 自動検知フィルターの適用基準や、日常的な対話ログがどの範囲まで機械的にスキャンされているのかについて、利用者の透明性確保を求める声が上がっています。

利用者への示唆と今後の展望

生成AIを業務や日常で利用するユーザーにとって、AIチャットボットとの対話は完全な閉鎖環境ではなく、重大犯罪やプラットフォーム規約違反に該当する内容は安全フィルターの対象となる点を認識することが不可欠です。AI事業者各社には、セキュリティとプライバシー保護の両立を図りつつ、法執行機関への通報基準に関する明確なガイドラインの提示が求められます。

引用元：Yahoo!ニュース | 조선일보