OpenAI、容疑者の非通報を謝罪

OpenAIのCEOであるサム・アルトマン氏は、カナダのタンブラー・リッジ町（Tumbler Ridge）に対し、今年2月に発生した銃撃事件（8名死亡）の容疑者に関する情報を早期に警察に通報しなかったことについて公に謝罪しました。容疑者は事件前にChatGPTで暴力的シナリオを記述しており、OpenAIはアカウントを停止していたものの、法執行機関への通報は見送っていました。

1. アカウント停止と通報見送りの経緯

昨年6月、OpenAIの自動モデレーションシステムは、容疑者が送信した暴力描写を含むメッセージを検知し、彼のアカウントを停止しました。一部の従業員は警察へ直ちに通報するよう求めましたが、OpenAIのリーダーシップ層は最終的に警察への通報を行わないことを決定しました。容疑者は逮捕後、別のアカウントを使用しChatGPTを利用し続けていたことも判明しました。

2. 安全プロトコルの刷新とカナダ国内の規制

OpenAIは事件後、法執行機関への紹介（通報）ガイドラインを刷新しました。今後は同様の暴力リスクが疑われるケースが検知された場合、直ちに法執行機関へ情報が提供されるよう安全基準を強化しました。一方、カナダの公共安全省は調査を進めており、与党メンバーは16歳未満の個人に対するAIチャットボットの利用禁止を求める決議を承認しました。

今回の謝罪は、AIプラットフォームを運営するテック企業が、ユーザーの入力内容から犯罪を予見した際の社会的・法的な責任範囲について重い課題を投げかけています。ユーザーデータを警察に開示することはプライバシーの侵害につながる懸念がありますが、明確な暴力行為や犯罪予告に対しては、プラットフォーマーが迅速に司法当局と連携するプロトコルが必須になりつつあります。