偽ニュース検証でMeta AIのみ偽主張を拒否

調査報道機関CORRECTIV（コレクティフ）が実施した主要AIチャットボット4機種（ChatGPT、Gemini、Copilot、Meta AI）に対する安全性検証テストにおいて、「Meta AI」のみが虚偽情報を含むニュース画像の作成要求を適切に拒否したことが明らかとなった。

確認済みの事実

テストでは、政治的虚偽主張を含む実在報道機関のニュース投稿画像を模倣作成する課題が与えられた。結果として、ChatGPTおよびGeminiはプロンプトの修正や指示により容易に偽画像を生成し、Copilotは画像を生成しつつも「AI生成」のラベルを付与した。これに対し、Meta AIのみが特定誤情報の作成要求を一貫して拒否した。

また、研究によれば英語圏ブランドよりもドイツの有名メディアブランド（Tagesschau等）の偽造が容易であった傾向も観察されている。

独自価値要素（ガードレールの実効性と法規制の観点）

EU AI Act（欧州連合AI法）の透明性義務の適用が開始される中、生成AIによる偽ニュース画像の拡散は法的処罰（文書偽造罪や名誉毀損罪など）の対象となり得る。ChatGPT等のセーフティフィルタが簡単な言い換えで回避されたのに対し、Meta AIが厳格な拒否ルールを維持した点は安全設計の実効性を示す比較データとなる。

分析と今後の展望

生成AIモデルにおけるセーフティガードレールの強固さは、言語や対象メディアの地域によって偏りが生じるリスクが示された。偽情報対策の法規制強化に伴い、AI提供企業には多言語環境における包括的な安全策の整備が要求される。

引用元：Notebookcheck