OpenAI、中国系ChatGPT悪用をBAN

OpenAIは、米国のAIおよび技術政策に関する世論操作を目的として、ChatGPT（対話型AIサービス）を悪用していた中国由来とみられる2つのアカウント群（同様の特徴を持つアカウントの集まり）を特定し、これらを完全にバン（アカウントの利用停止）したとする調査報告書を公開しました。これらのグループは、米国内で議論されているAIインフラ（データセンターや電力網などの社会基盤）や通商政策に関する議論に介入し、世論の分断を狙っていたとみられます。現時点で世論への大きな影響は確認されていませんが、外国のアクター（活動主体）がAIシステムを用いて民主主義社会の政策議論を歪めようとした事例として注目されています。

1. 特定された2つの世論操作キャンペーン

OpenAIは、悪用が確認されたアカウント群をテーマに基づき、以下の2つのキャンペーンに分類して詳細を明らかにしました。

• ​「Data Center Bandwagon」キャンペーン​ このアカウント群は、AIの稼働に必要なデータセンターの建設が一般家庭の電気料金を引き上げていると主張するソーシャルメディア向けのコメントや画像を生成していました。住民のコスト負担に対する懸念に便乗し、インフラ開発への反対世論を形成しようとしたとみられます。
• ​「Tech and Tariffs」キャンペーン​ このアカウント群は、米国の対中関税政策について批判するコンテンツを生成していました。プロンプト（AIへの指示テキスト）には、中国の指導者の言及を避け、米大統領のみを出力に含めるよう指示する具体的な記述も含まれていました。さらに、同キャンペーンは「ChatGPTのユーザーデータが漏洩した」という偽情報をソーシャルメディアに流布し、直接OpenAIの信用を失墜させる工作も行っていました。

2. インフラ議論を狙う外国勢力の脅威

OpenAIは、これらの工作が単に一般市民の政治的意見に影響を与えるだけでなく、米国の技術的リーダーシップや経済成長の基盤となるAIインフラを明確な標的としている点に警鐘を鳴らしています。外国の影響力工作アクターは、地域社会の切実な懸念（電力価格など）に便乗し、その対立を誇張することで、米国内のインフラ開発を遅延させようと試みているとOpenAIの報告書は指摘しています。

今回の報告は、AIが世論操作のコンテンツ生成ツールとして悪用されるリスクを示すと同時に、脅威を早期に検知して排除するためのプラットフォーム運営企業の監視体制の重要性を浮き彫りにしました。OpenAIは、こうした活動データを公開することで、業界、政府、市民社会が共同で民主的な議論の場を外国の介入から守り、監視や検閲を伴う「AIの全体主義的利用」に対抗していく姿勢を強調しています。

編集部注：AI技術の発展に伴い、コンテンツ生成のコストが大幅に低下したことで、今後はより巧妙かつ大規模な世論操作が仕掛けられる可能性があり、プラットフォーム各社やファクトチェック機関による警戒がさらに求められると考えられます。