AI関連の最新ニュースをピックアップ
Googleは生成AIモデル「Gemini」のAPI向けに、新たな推論処理サービスティア「Flex」と「Priority」を追加しました。 自律的に動作するAIエージェントの普及に伴い、即時応答が不要なバックグラウンド処理と、安定性が必要なインタラクティブ処理を賢く切り替えるニーズに応えたものです。 「Flex」は、即時の完了を急がないデータ分析やバックグラウンド処理向けで、リクエストの優先順位を下げることで標準の「Standard」ティアの半額(50%オフ)で利用可能です。 非同期の「Batch API」と異なり同期APIとして動作するため、入出力ファイルの管理や完了ポーリングの手間がかかりません。 一方の「Priority」は、応答の安定性と即時性を最優先するリアルタイムチャットボットやモデレーションなどに適しています。 Priorityは通常よりも料金が高くなりますが、高負荷時でも優先して処理されるため、安定したレイテンシを確保できます。 仮にPriorityの契約枠の上限を超えてもリクエストは失敗せず、超過分が自動的に標準ティアで処理されるためアプリケーション停止リスクを抑えます。 開発者は、用途に応じてコスト効率の高いFlexと、ミッションクリティカルなPriorityを使い分けることで、最適なAPI運用が可能になります。