OpenAI、ロシアとイランによるAI偽装情報工作を遮断

米OpenAI（ChatGPTを開発する米AI研究・開発企業）は、ロシアおよびイランを拠点とする脅威アクターが展開していた2件のAI悪用秘密影響工作（世論誘導や政治的混乱を目的に発信元を隠して展開される世論工作（Covert Influence Operations））を阻止し、関連するChatGPT（OpenAIが提供する対話型AIサービス）アカウント群を停止したとする公式調査レポートを公開しました。今回の工作は、架空の記者や偽装シンクタンクなどの「偽装組織（False Front）」を構築し、実在メディアへ偽記事を寄稿するなどの手法を用いており、OpenAIが過去2年半に報告した工作の中で最も影響度が高い「カテゴリー5」に達していたことが確認されました。

ロシア「Dark Clark」とイラン「Bogus Bylines」の活動実態

OpenAIの公式レポートによると、遮断された2つの工作は従来型のスパイ・工作手口にAIを組み合わせた巧妙なものでした。

1. ロシア発「Dark Clark」作戦（カテゴリー5評価）

ロシアを拠点とするグループは、「ミア・クラーク（Mia Clark）」という架空の人物を通じて、ラテンアメリカに実在する自称研究機関「社会調査センター（Social Research Center: SRC）」を実質的に支配していました。現地の研究者や従業員はロシアの関与を一切知らされないまま採用され、60本以上のオリジナル調査記事を執筆させられていました。

このグループはChatGPTを主に「上官向けの内部業務報告書の作成」や「スペイン語の地域方言・公的文書スタイルの推敲」に利用していました。ペルーの教育局を騙る偽メールで学校行事を誘導してウクライナとポーランド間の歴史的摩擦を煽ったり、エクアドルでダニエル・ノボア大統領がウクライナ傭兵を募集しているとする偽音声・動画を拡散させたりしました。これら偽情報は現地閣僚の否定声明や大手ファクトチェック機関による検証を誘発し、政治家の公的発言を引き起こしたことから、影響度測定基準「Breakout Scale（世論工作の波及度を単一SNSから政策決定レベルまで6段階で評価する指標）」でOpenAI調査史上初の「カテゴリー5」と判定されました。

2. イラン発「Bogus Bylines」作戦（カテゴリー4評価）

イランを拠点とするグループは、実在しない7人の欧米系フリージャーナリストのペルソナ（記者名義）を作成し、中東情勢や米国・イラン関係に関する長文記事をChatGPTで推敲して世界中のオンラインメディア十数社へ投稿していました。結果として約100本もの記事が正規メディアに掲載・配信され、拡散規模を示すBreakout Scaleで「カテゴリー4」に達しました。

一方で、SNS上でのバッチコメント投稿や自画自賛のリプライ工作も行っていましたが、SNSでのエンゲージメントは極めて低く、内部報告書で閲覧数を誇大に集計していた実態も判明しています。

2つの工作の特徴と影響度の比較

OpenAIが過去2年半に摘発した30件の影響工作と比較し、今回の工作が突出している点を整理します。

項目	ロシア発「Dark Clark」	イラン発「Bogus Bylines」	従来の一般的なAI影響工作
主な偽装手法	架空人物による現地シンクタンク（SRC）の買収・実効支配	7名の架空欧米ジャーナリスト名義による記事寄稿	単発のSNSボットアカウント大量生成
ChatGPTの主な用途	内部実績報告書の作成、各国方言・公的書式の翻訳推敲	編集者向け売り込み文面・長文記事の推敲、SNS返信文生成	SNSへの短文スパム生成
標的地域・テーマ	ラテンアメリカ（ウクライナ中傷、反政府扇動）	グローバル（米イラン紛争、中東地政学）	選挙関連や特定政治家の誹謗中傷
メディア浸透度	ペルー・ポーランドの報道機関、現地大臣の公式否定	約十数件のオンラインメディアで約100本の記事が掲載	SNS上にとどまり、ほぼ無視される
Breakout Scale評価	​カテゴリー5​（政治家・公的機関の反応を誘発）	​カテゴリー4​（複数メディアへの広範な掲載）	カテゴリー1〜2（単一・少数のSNS内にとどまる）

OpenAIの分析によると、AIを用いて単にSNSへ投稿するだけの工作はほとんどリーチを獲得できない一方、​​実在する外部メディアや組織に潜り込ませる工作​​は極めて高い波及力を持つことが示されています。

分析と今後の展望

今回の調査報告は、生成AIの軍事・情報戦における利用実態について重要な示唆を与えています。

脅威アクターはAIにプロパガンダ全文をゼロから生成させるのではなく、従来の工作インフラ（人間の現地スタッフや実在メディアの寄稿窓口）を効率化し、外国語の自然さや業務報告の体裁を整える「運用支援ツール」としてAIを活用しています。

OpenAIは、ロシアなどの利用禁止地域からのVPN経由アクセスを検知・遮断するとともに、関係当局や業界パートナーへの情報共有を実施したとしています。しかし、文章生成能力の向上に伴い、実在メディアの編集者や一般読者が「AIによって巧妙に粉飾された偽装工作」を見抜くことは一段と難しくなっており、公開情報に基づく調査報告の継続とメディア側のファクトチェック体制の強化が不可欠です。

引用元：OpenAI | GIGAZINE | The Decoder