AI関連の最新ニュースをピックアップ
暗号資産カストディ(保管代行)大手BitGoの最高経営責任者(CEO)であるマイク・ベルシェ(Mike Belshe)氏は、Anthropicが自社AIモデルClaude(Anthropicが開発する高度な理由付け能力を持つ対話・コード作成支援AIモデル)のサイバー攻撃能力に関して公表したレポートの主張を検証するため、100ビットコイン(分散型ネットワークで運用される代表的な暗号資産(BTC))(100 BTC)を懸賞金とした公開チャレンジを試みる意向を表明しました。
Anthropicは先般公開したインシデント報告書において、自社の最新AIモデルが自律的なハッキングや脆弱性攻撃を実行可能である旨の検証成果を提示しました。
これに対しBitGoのベルシェCEOは、同報告書で示された主張が単なるマーケティング的な過大宣伝ではないかを確かめるべく、実際のオンチェーン資産を用いた検証条件を設定しました。具体的には、厳重に保護された暗号資産ウォレットの脆弱性をClaude自身が発見し、資金を奪取できるか試す公開実験として実施されます。
暗号資産業界やセキュリティコミュニティでは、今回の100 BTCチャレンジに対して肯定・慎重の両論が存在します。
一部のセキュリティ研究者は「AIによるサイバー攻撃脅威が過剰評価されている現状を正す好機」と評価する一方、「サンドボックス環境での成功と、実践的・動的な防衛が施された本番環境での侵入は難易度が全く異なる」と指摘する声も上がっています。AIモデルの脅威度に関する主張をベンチマーク数値だけでなく、実社会のインセンティブを伴う懸賞金で検証する新たなアプローチとして注目されています。
今回の検証を通じて、AnthropicをはじめとするAIベンダーによる自社リスク評価レポートが、現実世界のセキュリティ強度とどの程度一致しているかが明らかになります。
仮にAIが防衛壁を破れなかった場合、安全対策レポートにおけるリスク表現の適正化が求められる一方で、もし侵入が成功すればサイバーインフラ全体の防衛姿勢に根底からの見直しが迫られることになります。