Hugging Face自律AI攻撃による侵入被害を公表

AIデータセットやモデルをホストする最大級のプラットフォーム「Hugging Face」が、自律型AIエージェントフレームワークを用いた高度なセキュリティ侵害（サイバー攻撃）被害に遭ったことを公表した。

攻撃の手口と侵害状況の公表内容

Hugging Faceのセキュリティブログによると、攻撃者はプラットフォーム上に悪意あるコードを仕込んだデータセットをアップロードし、サーバーのセキュリティ脆弱性を突いて権限を昇格させた。

• ​自律型エージェント群による攻撃​: 短寿命のサンドボックスを多数展開し、数千回に及ぶ個別の攻撃アクションを自動実行した。
• ​認証情報の漏洩​: 奪われたアクセス権限を用いて社内システムへ侵入。同社は盗まれた認証情報を直ちに無効化しローテーションを行った。

ユーザー側への対応要請と他社への影響

同社は全ユーザーに対し、所有するアクセストークンの再発行とアカウント上の不審なアクティビティ確認を強く求めている。

近年、生成AI技術を用いた合成コンテンツや自律攻撃ツールの急速な悪用が進んでおり、FBIの発表によれば前年だけでAI関連のサイバー犯罪被害額は8億9300万ドルに達している。

AIエコシステムにおけるセキュリティの課題

今回の事件は、これまで懸念されていた「AIエージェントによる攻撃シナリオ」が現実のものとなった事例である。AIリポジトリやオープンソースプラットフォームを運営する企業は、単なる静的ファイルチェックを超えた動的エージェント監視態勢の構築を迫られている。

引用元：PYMNTS.com