AI関連の最新ニュースをピックアップ
米Anthropic(アンソロピック)は、コーディング支援ツール「Claude Code」から、ユーザーを秘密裏に識別するために埋め込まれていた非開示の追跡コードを完全に削除したことを明らかにしました。この追跡コードは、システムプロンプトに不可視の文字を仕込むステガノグラフィー(テキストにメッセージを隠し入れる技術)を用いており、開発者コミュニティから信頼性を損ねるとして強い批判を浴びていました。同社エンジニアは「実験だった」とし、最新リリースでロールバック(以前の安定した状態にプログラムを戻すこと)を実行したと説明しています。
この機能は、開発者の「Thereallo」と名乗る人物によって発見されました。同氏の報告によると、Claude Codeはシステムプロンプト内に見えないUnicodeマーカー(見えない文字コードなどを利用した識別子)や、暗号化されたドメインリストを追加していたとのことです。これにより、プロキシサーバーの利用や、非公式ゲートウェイ、さらにはDeepSeekやZhipu(智譜)といった中国系AI研究所や特定のAPIリセラーとユーザーの関連性が判別できるよう設計されていました。
AnthropicのエンジニアであるTarik Shihipar(タリク・シヒパー)氏はX上で、この仕組みがモデルの不正な「蒸留(親モデルの出力を使い、より小さなモデルを学習させる手法)」やアカウントの不正利用に対抗する実験として、2026年3月に導入されたと認めました。すでに別の防御策を講じていることから、以前より削除を予定していたとしています。AI業界ではモデルの模倣学習(蒸留)が日常化しており、xAIのElon Musk(イーロン・マスク)氏も「Grokのトレーニングに一部OpenAIのデータを使用した」と認めるなど、開発元と利用企業の間での対策と批判の応酬が続いています。
今回の事件は、開発者が信頼して使うべき開発ツールにおいて、利用者に告知せず追跡情報を送信する仕組みが組み込まれていたため、大きな議論を呼びました。結果的にコードは迅速に削除されたものの、知的財産の保護を優先するAI企業の姿勢と、オープンかつセキュアな開発環境を求めるデベロッパーの間の緊張関係を如実に示しています。
引用元:INCRYPTED