Google、Gemini悪用の組織を提訴

Googleは、自社の生成AI「Gemini」をフィッシング詐欺に悪用していた中国拠点のサイバー犯罪組織「Outsider Enterprise」に対し、ニューヨーク連邦南部地区裁判所に民事訴訟を提起しました。この組織は、プログラミングの知識を持たない者でもフィッシング詐欺ページを構築できるサブスクリプション型アプリ「Outsider」を販売し、同AIを利用して多数の偽サイトコードを量産していました。Googleが自社AIモデルの悪用を理由に犯罪グループを直接提訴するのは今回が初めてです。

1. AIを悪用したフィッシングサイト自動生成の手口

訴状によると、Outsider Enterpriseは「Outsider」の有料ライセンスをTelegramを通じて販売していました。同アプリ内では、Geminiへ「ギフト引き換えページを生成してほしい」といったプロンプトを投げてHTMLコードを作成させ、それをアプリのエディタにコピー＆ペーストするだけで、高度な偽サイトが構築できる手順の動画が紹介されていました。レイアウト調整や入力項目の追加などのカスタマイズもGeminiに指示して自動で行わせていました。

2. 被害の規模と多角的な対策

この組織により約159万件以上の偽URLが検出され、ピーク時には1日あたり6万件以上の偽ページが量産されました。直近の2週間だけでもAndroidユーザーに向けて250万件以上の偽SMS（フィッシングテキスト）が送信され、被害者は10万人以上に上るとされています。Googleは訴訟に並行してFBIや携帯キャリア大手3社と連携し、Androidのスパム検出強化やSafe Browsingへの悪質URLの即時登録などを実施しています。

生成AIの活用によって、これまで開発スキルが必要だった高度なフィッシングサイトやキーロギングシステムの構築が、プログラミング知識ゼロの攻撃者にも解放されるという「サイバー犯罪の民主化」が進んでいます。Googleによる今回の法的アクションは、自社のプラットフォーム防衛だけでなく、悪意あるAI利用への警告としての意味を持ちます。セキュリティ分野におけるAI対策が急務となっています。