AI関連の最新ニュースをピックアップ
米Anthropicは、フラッグシップモデル「Claude Opus」（バージョン4.6および4.7）向けに、出力トークンの生成速度を最大2.5倍に引き上げるオプション機能「Fast mode（ファストモード）」のリサーチプレビュー提供を開始しました。この機能は、モデルのアルゴリズムや賢さ（重み）自体はそのままに、インフラ上の優先ルーティング（急行レーン）を通すことで処理速度を最適化する仕組みです。
一方で、Fast modeの利用料金は標準料金の6倍（入力100万トークンあたり30ドル、出力150ドル）と高額に設定されています。最初のトークンが出力されるまでの遅延（TTFT）は短縮されないため、この機能はバックグラウンドでの一括自動処理には推奨されず、デバッグ作業や対話型コーディングなど、開発者の作業スピードを最優先するシーンに向いています。また、通常モードとFast modeを頻繁に切り替えるとプロンプトキャッシュが無効化されてしまい、結果的により多くのコストが発生する可能性があるため、運用の際には切り替え設定に注意が必要です。