AI関連の最新ニュースをピックアップ
OpenAI(ChatGPTやGPTシリーズを手掛けるAI研究開発企業)は、フラグシップモデル「GPT-5.6 Sol API」向けに高速化オプション「Fast Mode」を導入したと発表しました。同時に、GPT-5.6 Sol(高い推論能力と自律開発能力を備えたOpenAIの最新LLM)自身がOpenAI内部のプロダクションコードを自律的に書き換え、インフラの推論コストを20%削減した自己最適化の成果を明らかにしました。
今回新たに追加された Fast Mode(リクエスト時に service_tier: "fast" を指定)は、リアルタイムでのコード補完、インタラクティブなデバッグ、および自律型AIエージェントのループ処理など、低応答速度(低レイテンシ)が強く求められる用途向けに設計されたAPIティアです。
標準モードとの比較スペックおよび料金は以下の通りです。
今回の発表における技術的進展として、GPT-5.6 Solが自社の本番サービングインフラのコードベースを自律的に検査・改善した実績が公開されました。
モデルはGPUメモリアクセスのボトルネックを自力で発見し、CUDA(NVIDIA GPU向けの並行計算プラットフォームおよび開発環境)カーネルや投機的デコーディング(speculative decoding)のパイプラインコードを自律再構築しました。
この自己最適化により、以下の実績が達成されました。
日本のWebサービス企業やAIエージェント開発者にとって、対話応答や自律エージェントのレイテンシ短縮はユーザー体験に直結する重要課題です。料金は2倍となるものの、生成速度が2.5倍向上するFast Modeの登場により、速度重視のプロダクトにおける選択肢が広がります。
また、AIモデル自身が推論用CUDAコードを書き換えてコスト削減と精度向上を同時に達成した実証事例は、今後のAIインフラ運用コスト削減モデルとして大きな関心を集めています。
Fast Mode の提供地域やAPIのレート制限に関する一部の詳細仕様は、APIドキュメントの更新待ちとなっています。
AI自身によるコード最適化が生産環境の安全性と整合性をどのように保証しているかについて、技術コミュニティからの検証とさらなる技術報告が期待されます。
引用元:OpenAI