AI関連の最新ニュースをピックアップ
中国のAI企業DeepSeekは、自社の最新フラグシップモデル「DeepSeek-V4.1-Flash」向けに社内運用してきた推論フレームワーク「DeepInfer(DeepSeekが自社運用スタックを公開したオープンソース推論エンジン)」をGitHubで無償公開した。本番スタックを広くコミュニティに開放することで、AIモデル実行に伴う計算コストと消費電力の大幅な削減を後押しする。
DeepSeekは公開に際し、「コミュニティの計算コスト低減、エネルギー消費削減、AIの低価格化を支援するため本番スタックを共有する」と表明した。
DeepInferは、複数のトークンを並列予測して高速化する投機的デコーディング(小型モデルで候補を先読み生成し大型モデルで検証することで生成を高速化する技術)をはじめとする推論最適化手法を統合している。現時点では高速・低コストモデルである「DeepSeek-V4.1-Flash」に特化して構築されているが、今後公開される同社の後続モデルにも順次対応を広げていく計画である。
AIエージェントの多段階推論タスクが増加する中、データセンターの処理需要は学習から推論へと急激にシフトしている。
コスト面において、DeepSeek-V4.1-Flashは入力100万トークンあたり0.035ドル、出力100万トークンあたり0.12ドルという極めて安価な水準に設定されている。これに対し、米OpenAIのフロンティアモデル「GPT-6 Astra」は入力10ドル/出力50ドルとなっており、百倍以上の開きが存在する。米Accentureが社員のClaude利用費に月29ドルの上限を設けるなど、各企業がAI予算の引き締めに動く中で、推論基盤そのもののOSS化は自前ホスティングを推進する事業者にとって魅力的な選択肢となる。
一方で、DeepInferは現状DeepSeek自社モデル向けに高度最適化されているため、Llamaなど他社オープンソースモデルへの汎用的な適用範囲や柔軟性については詳しく示されていない。
さらに、米国政府による連邦機関でのDeepSeek利用排除措置など、中国製AIに対するセキュリティ・コンプライアンス上の懸念が高まっており、欧米のエンタープライズ企業が本番システムにどこまで組み込めるかには課題が残る。
DeepSeekによる推論スタックの無償開放は、プロプライエタリなクラウドAPIを展開する大手AIベンダーに対する強力な牽制となる。
単なるモデルの知能指数だけでなく、「いかに安く、効率的に推論を実行できるか」というインフラ層の効率化競争が一段と激化していくとみられる。
引用元:Gizmodo