AI関連の最新ニュースをピックアップ
Metaが提供するアカウント復旧用のAIカスタマーサポートチャットボットを攻撃者が騙し、本人確認を行わずに他人のInstagramアカウントを乗っ取る深刻なセキュリティ上の問題が、2026年5月末に発生しました。この問題により、著名人や政府機関の休眠アカウントなどを含む多数のアカウントが乗っ取られ、ハッカー向けのTelegram(メッセージアプリ)上で高額取引される事態となりました。Metaは問題を修正したと説明していますが、その後も攻撃が成功したとする報告が相次ぎ、自動化されたAIサポートの安全性への疑問が浮き彫りになっています。
攻撃者は、ターゲットとするアカウントの所有者が住む地域に近い場所から接続しているように見せかけるため、VPN(仮想の専用回線を構築して接続元を偽装する技術)を使用しました。その状態でAIサポートボットに対し「自分がアカウントの所有者である」と対話を通じて主張しただけで、ボットは本人確認を一切行うことなく、攻撃者が用意した新しいメールアドレスをアカウントに登録しました。これにより、攻撃者はパスワードをリセットし、アカウントを完全に支配しました。人間のサポート担当者であれば行う身元確認プロセスが、AIによる自動化の過程で欠落していたことが原因とされています。
今回の攻撃では、バラク・オバマ元大統領のホワイトハウス時代のアカウントや、米国宇宙軍の John Bentivegna 曹長の個人アカウントなどが被害に遭いました。乗っ取られたアカウントには、親イラン的な画像などが無断で投稿されました。一方で、セキュリティ専門家の調査によると、パスキーなどの多要素認証(MFA。パスワード以外にスマホなどで追加の本人確認を行う仕組み)を有効にしていたアカウントに対しては、この攻撃は機能しなかったと報告されています。
今回の問題は、アカウント復旧などの機密性の高い管理業務にAIを導入する際、利便性を追求するあまり必要なセキュリティ検証が蔑ろにされる危険性を示しています。AIエージェントに大きな操作権限を与える場合は、プロンプトインジェクション(AIへの指示文に悪意ある命令を紛れ込ませて誤動作させる攻撃)などの脅威を前提とした設計が必要です。今後は、重要な個人情報の変更時には多要素認証を必須とすることや、最終的な承認プロセスに人間を関与させるなどの対策が、サービス提供企業に求められると見られます。

TNW | Artificial-intelligence
Hackers asked Meta’s AI chatbot to hand over Instagram accounts, and it did - The Next Web
No phishing link. No malware. No SIM swap. Hackers took over high-profile Instagram accounts over the weekend by doing something disarmingly simple: they asked Meta’s AI customer support chatbot to change the email address on someone else’s account. The bot complied without verifying the requester’s identity, and the attacker then reset the password and locked out the […]
https://thenextweb.com/news/hackers-asked-metas-ai-chatbot-to-hand-over-instagram-accounts-and-it-did

GIGAZINE
ハッカーがMeta AIのサポートチャットボットを騙して有名人のInstagramアカウントを盗む - gigazine.net
ハッカーがMeta AIのサポートチャットボットを騙し、著名人のInstagramアカウントを盗んで転売しようとしていたことが明らかになりました。ハッカーはVPNを使って実際の所在地を隠しながら、ボットにアカウントに関連付けられたメールアドレスを変更するよう依頼するだけで、著名人のアカウントを盗むことに成功しています。
https://gigazine.net/news/20260602-meta-ai-support-chatbot-steal-instagram-accounts