Google、Gemini悪用の詐欺提訴

Googleは、同社のAI「Gemini」を悪用してフィッシングページ用のコードを生成し、大規模なSMSフィッシング（スミッシング）攻撃を行っていた中国のサイバー犯罪グループに対して法的措置を開始したと発表しました。このグループは、Telegramを通じて「Outsider」と呼ばれるフィッシング・アズ・ア・サービス（PhaaS）を提供し、多大な被害をもたらしたとされています。

1. PhaaSツール「Outsider」とGeminiの悪用手法

Outsiderは、プログラミング知識の乏しい攻撃者でも簡単にフィッシングキャンペーンを開始できる仕組みを提供していました。Googleの訴状によると、攻撃者はGeminiなどのAIプラットフォームに対し、害のないプログラミング支援を装うプロンプト（例：「ギフト交換用ページのHTMLを生成して」など）を入力していました。これにより生成されたソースコードを「Outsider」にコピー＆ペーストし、正規のブランドや金融機関を偽装した偽ウェブサイトを容易に構築していました。

2. 捜査当局によるテイクダウン作戦

このサイバー犯罪ネットワークに対抗するため、Googleの法的措置に並行して、米連邦捜査局（FBI）のサイバー部門主導による国際共同作戦「Operation Ghost Hook」が展開されました。この作戦により、Outsiderの支払い用暗号資産ウォレットからUSDTが押収されたほか、フィッシングキャンペーンに利用されていた多数のドメインがFBIの警告ページへリダイレクトされるよう設定されました。

AI技術の発展は開発やビジネスの効率化に貢献する一方で、サイバー犯罪の参入障壁を劇的に低下させるという影の側面も浮き彫りにしています。「Outsider」のようなツールは、高度な開発技術を持たない犯罪者でもAIの生成コードを組み合わせることで、短時間で大量の説得力ある詐欺サイトを作り出すことを可能にしました。AIサービスを提供するプラットフォーム側における不正利用対策の強化が急務となっています。