Anthropic オープンウェイト支持書簡への不参加理由

引用元：ITmedia NEWS

米Anthropicのダリオ・アモデイ（Dario Amodei）CEOは、オープンソース・オープンウェイトAIモデルの擁護を掲げる業界有志の声明書簡に同社が参加しなかった理由についての公式声明を発表した。アモデイ氏は「オープンウェイトの一律禁止を主張しているわけではない」と強調しつつ、安全管理なきモデル公開への懸念を改めて示した。

アモデイCEOの主張と安全評価の軸

アモデイ氏は、オープンウェイトモデル（重みパラメータが一般公開されたモデル）が及ぼす不可逆的なリスクについて言及している。

• ​拡散リスクと不可逆性​: 一度公開された重みパラメータは悪用ガードレールを解除（ファインチューニング）することが容易であり、回収が不可能になる。
• ​防御側の優位性の欠如​: 「オープン化すればセキュリティ防御も進む」という説に対し、生物兵器や高度サイバー攻撃においては攻撃側の優位性が上回る危険性を指摘。

主なAI企業の立場比較

企業名	モデル公開方針	安全性に対する基本的立場
Meta	オープンウェイト推進（Llama等）	イノベーションと透明性が安全性を高める
Anthropic	クローズドAPI主体（段階的評価）	​フロンティアモデルの重み公開には慎重な安全閾値が必要​
OpenAI	一部オープン化・API主体	リスク評価に応じた段階的アクセス

日本の読者への影響と未確認事項

日本政府や国内のAI研究機関においても、オープンソースモデルの活用推進と安全性確保のバランスが議論されている。Anthropicの表明は、オープンモデル採用時のセキュリティガイドライン策定において重要な議論材料となる。

なお、Anthropic自身が将来的に一定の安全基準を満たした小型モデルの重みを公開する可能性について否定はされていない。

分析・展望として、AI業界における「オープンvsクローズド」の対立は単なるビジネスモデルの違いにとどまらず、国家安全保障やリスク管理の哲学の違いへと進化している。

引用元：ITmedia NEWS

引用元：ITmedia NEWS