OpenAI、中国の世論誘導アカ排除

OpenAIは、ChatGPTを利用して米国の政治的議論や関税政策に関する世論を操作しようと企てていた、中国を拠点とする複数のアカウントネットワークを検出し、これをプラットフォームから永久に排除したと発表しました。これらのアカウントは、一見すると無害な一般ユーザーを装いながら、特定の政治的言説を拡散させるためのコンテンツを大量生成していたことが判明しています。

1. 「Data Center Bandwagon」などのキャンペーン分析

調査によると、排除されたアカウントは「Data Center Bandwagon」や「Tech and Tariffs」といった名称のキャンペーンを展開していました。彼らはChatGPTを利用して、米国の対中関税政策を批判する投稿や、大統領選挙に関する偽情報を自動的に執筆・推敲させ、ソーシャルメディア上で組織的に共有していました。

2. OpenAIによる脅威インテリジェンスの強化

OpenAIは、大統領選挙を控える重要な時期において、自社のAIモデルが政治的介入や認知戦に悪用されることを防ぐため、不正利用の検知システムをアップグレードしました。今回の対策は、民間企業が高度な言語モデルを利用した世論誘導活動を抑止する上での重要な実例となります。

生成AIの普及に伴い、人間と見分けがつかない文章を高頻度かつ安価に生成できるようになったため、ネット工作の敷居が大幅に下がっています。今回のOpenAIによる迅速な排除措置は歓迎されるべきものですが、一方で悪意ある主体によるツールの利用は今後も多様化するとみられます。AIベンダーによる継続的なプラットフォーム監視と、各セキュリティ機関とのタイムリーな情報共有が不可欠になっています。