Daily AI Newsbites
AI関連の最新ニュースをピックアップ
← 2026年8月21日(金)のニュース一覧へ引用元：The Hacker News
xAIのGrok、暗号化プロンプト注入で情報漏洩の脆弱性発表
SpaceXAI
Grok
セキュリティ
セキュリティ企業Adversa AI（AIセキュリティおよび脆弱性研究を専門とする企業）は、xAI（米国のAI開発企業）のGrokにおいて個人情報が窃取される恐れのある新脆弱性を発表した。
暗号化コンテキストインジェクションの手法
悪意あるWebページをGrokに要約させる際、暗号化された攻撃命令を埋め込むことで、GrokのPython実行環境内で復号・実行させる手法が実証された。
ユーザー属性やチャット履歴の不正送信リスク
この攻撃により、利用者の氏名、位置情報、契約プラン、過去のチャットプロンプトが外部サーバーへ送信される恐れがある。
| 攻撃段階 | 攻撃者の挙動・システムの反応 |
|---|---|
| 1. ペイロード埋め込み | Webページ内に暗号化されたPythonコードを配置 |
| 2. Web要約の実行 | ユーザーがGrokに該当ページの要約を指示 |
| 3. サンドボックス内復号 | GrokのPython環境が暗号化命令を自動復号・実行 |
| 4. データ窃取 | ユーザー属性や会話履歴を攻撃者サーバーへ外部送信 |
日本の利用者への影響と未確認事項
不審なWebサイトの要約を依頼する際にリスクが生じる。xAIによる修正パッチの適用状況とセキュリティアップデートの詳細は確認中である。
分析と展望：コード実行機能を持つAIエージェントの防衛策
LLMが自律的にコードを実行する環境において、外部入力データの無害化とネットワーク分離の徹底が不可欠であることを示している。
引用元：The Hacker News | dev.ua | Ground News
参考ソース
dev.ua
Grok can be duped with encryption: How hackers force the chatbot to swallow malicious code
Cybersecurity researchers at Adversa AI have discovered a new vulnerability in xAI’s Grok chatbot. It allows attackers to bypass the AI’s security filters using encryption and steal user data. The method is called “cryptographic context injection.”
https://dev.ua/en/news/vrazlyvyi-grok-1787239696
Ground News
Grok Chat Duped Into Swallowing Injected Instructions
xAI's Grok web chat agent is currently vulnerable to a novel form of prompt injection, according to security researchers with Adversa AI. The technique allows an attacker to create a web page poisoned with malicious instructions that induce an AI model summarizing the page to carry out harmful actions. That describes a well-known attack known as indirect prompt injection. Frontier AI models have become better at dealing with such attempts throug…
https://ground.news/article/grok-exfiltrates-user-data-when-malicious-instructions-are-encrypted_4f7b14
