AI関連の最新ニュースをピックアップ

カナダのブリティッシュコロンビア州政府は、2026年2月に同州タムラー・リッジで発生した痛ましい銃乱射事件を巡り、米OpenAI(オープンAI)を提訴する準備を進めていることを発表しました。州政府は、OpenAIの安全管理チームが事件の数か月前に容疑者による暴力的なプロンプト(指示文)を検知し、アカウントを停止していたにもかかわらず、警察や地元当局に通報を怠った責任を追及する方針です。
2026年2月10日、タムラー・リッジの学校で18歳の容疑者が発砲し、子供5人と教育者1人が死亡、27人が負傷する凄惨な事件が発生しました。その後の調査により、容疑者は事件の約8か月前である2025年6月時点で、ChatGPTを用いて具体的な暴力シナリオや計画を議論・立案していたことが判明しました。OpenAIのシステムはこのアカウントを「不適切なコンテンツ」として検知し、使用を禁止(バン)していました。
被害者遺族らが米国で起こした先行訴訟の資料によると、当時OpenAIの安全チームの従業員12名が、容疑者のアカウントの異常性を重く見て警察へ通報するよう会社幹部に強く求めていました。しかし、同社は「差し迫った、かつ信頼性の高い身体的危害のリスク」には当たらないと独断で判断し、通報を見送っていました。のちにCEO(最高経営責任者)のサム・アルトマン氏は、地元紙に謝罪文を掲載し、警察に通報しなかったことを深く後悔していると表明しています。
今回のブリティッシュコロンビア州政府による提訴は、AIサービスを提供する企業が、ユーザーの犯罪予告や危険な対話内容を検知した際に負うべき「通報義務」や「社会的責任」の境界線を法的に問う極めて重要な裁判となります。AI開発企業に対し、ユーザーのプライバシー保護と、犯罪防止のための警察連携のバランスをどう取るべきか、より厳格な法的・倫理的基準が課される契機になると見られます。