GeminiのPC操作機能とハッカーの罠

Googleは、PC操作機能（computer use）を主力モデル「Google Gemini 3.5 Flash」に直接統合しました。APIが用意されていないレガシーなシステムやWebサービスであっても、AIエージェントが画面を見てUIを操作し、人間の代わりに業務を実行できるようになりました。一方で、悪意あるWebサイトやプラグインを介したセキュリティ脅威も警告されています。

1. 自動化の拡大とハッカーの脅威

PC操作機能の搭載により、フォーム入力、ブラウザ操作、アプリ間のデータのやり取りなどを自然言語の指示のみで自動実行可能です。しかし、AIエージェントがオープンWeb上を巡回する際、Webサイト側のプロンプトインジェクションの罠によって意図しない挙動をとらされるリスクがあります。実際、悪意ある「スキル（拡張機能）」をダウンロードしたことで、PC上のデジタルウォレットが操作されクレジットカードへ請求が行われる金銭被害も報告されています。

2. Googleが提示する安全ベストプラクティス

Googleは今回の機能統合に伴い、以下の対策を強く推奨しています。

• Human-in-the-Loop (HITL): 重要アクションの実行前にユーザーの承認を求める。
• ​セキュアな実行環境​: 仮想マシンやDocker、専用の隔離ブラウザプロファイルでのサンドボックス実行。
• ​入力サニタイズ / ガードレール​: インジェクションを防ぐための入力無害化や行動ログの検閲。
• ​可視化と詳細ログ​: 撮影したスクリーンショットの監視と監査ログの保存。

AIエージェントが直接GUIを操作する技術は自動化を急速に押し進めますが、Webサイト上の見えない攻撃コードによってAIが乗っ取られるリスクも高まります。金銭や個人情報を扱う場合は、隔離環境での運用と最終処理での人間の介在が不可欠となります。