AI関連の最新ニュースをピックアップ
Alibaba Cloud(アリババクラウド)は、同社の最上位AIモデル「Qwen 3.8-Max(キューウェン 3.8 マックス)」の正式リリースに伴い、タスクの性質に応じて推論処理の深さとコストを細かく制御できる「推論深度調整機能」を搭載したことを発表した。
本モデルでは、推論処理の深度をユーザーが選択できる仕様が導入されている。高度な分析や複雑な課題解決を行うデフォルト設定の「xhigh」、精度と処理速度の均等なバランスをとる「medium」、レスポンス速度とコスト削減を最優先する「low」の3段階が用意されている。
また、思考過程の保持を全ワークロードの初期状態として有効化する「preserve_thinking」機能が標準で設定されており、思考ステップの透明性が高められている。

大規模言語モデルの運用において、過剰な推論思考ステップはAPIトークン消費量を著しく増加させる課題があった。本機能により、定型的な問い合わせには「low」、高度なコード作成や論文解析には「xhigh」と切り替えることで、利用企業はコストパフォーマンスを最適化できる。
AIモデルの進化に伴い単なる出力精度だけでなく、APIコストや制御性の柔軟性が企業の選定基準となっている。アリババが提供するこのような柔軟な推論レベル設定は、エンタープライズでの導入コスト管理における重要な選択肢となる。
引用元:AI Watch