AI関連の最新ニュースをピックアップ
米名門スタートアップアクセラレーターY Combinator(数多くの有力テック企業を輩出してきた米国の代表的シードアクセラレーター)(YC)のギャリー・タン(Garry Tan)CEOは、米国の小規模なオープンウェイトAI企業がフロンティアモデルから知識を抽出する「知識蒸留(大規模な先行モデルにプロンプトを送り、その出力を教師データとして小型モデルを学習させる手法)(ディスティレーション)」を行う権利を擁護し、政府当局による蒸留規制に反対する意向を表明した。米メディアCNBCおよびTechCrunchの取材で語った。
先端AIモデルを開発するAnthropic(安全性重視の先端AIモデル「Claude」を開発する米AI研究企業)は今週、中国のAI研究所が認証情報の窃取や身元偽装を行って不正な蒸留攻撃を仕掛けているとする脅威レポートを公開した。Anthropicのダリオ・アモデイ(Dario Amodei)CEOは、蒸留技術の不正利用を取り締まるよう米規制当局に求めていた。
これに対し、YCのギャリー・タン氏は「規制当局は何もしないべきだ(I would do nothing)」と反論。米国のオープンウェイトAI企業が正面から蒸留を行える「米国型蒸留レジーム(American distillation regime)」を提唱した。
タン氏が主張する根拠は主に以下の2点である。
今回の議論は、巨額の計算資源を握るフロンティア企業と、オープンソースエコシステムを支えるスタートアップ陣営の構造的な利害対立を浮き彫りにしている。
| 陣営・立場 | 主な主張 | 懸念点 |
|---|---|---|
| 大手フロンティア企業(Anthropic等) | 巨額投資で獲得したモデル知能の無断蒸留は知的財産のフリーライドであり、法規制が必要 | 中国勢による先端技術の不正奪取、事業採算性の悪化 |
| スタートアップ・YC(ギャリー・タン氏) | 米国の中小企業も蒸留を活用し、中国製に対抗できる強力なオープンモデルを育てるべき | 単一の巨大企業によるAI知能と資本の独占(ドゥーマーシナリオ) |
タン氏は「最悪のシナリオ(ドゥーマーシナリオ)は、最高の資本と研究者を独占する単一の巨大企業が唯一の存在となり、AI全体を支配することだ」と警鐘を鳴らしている。なお、タン氏は認証情報の窃盗や不正アクセスによる蒸留を肯定しているわけではなく、正規のAPI利用において出力をモデル学習に再利用することを認めるべきだと訴えている。
知識蒸留は、オープンモデルが短期間でフロンティアモデルの推論能力にキャッチアップするための不可欠な技術である。米国の規制当局が大手AI企業の要請に応じて蒸留を制限すれば、スタートアップによるオープンモデル開発は大きな足かせを負うことになる。知能の「囲い込み」と「オープンな普及」のどちらが米国のAI競争力を保つかという議論は、今後のAI法制や著作権・規約解釈における中心的な争点となる。
引用元:TechCrunch