GPT-5.6 APIキャッシュバグで誤課金、返金へ

OpenAIの提供する最新モデル「GPT-5.6 API」において、プロンプトキャッシュ（過去に入力したプロンプトを再利用する機能）の読み書きに関する使用トークン数が、実際に入力されたトークン数を上回って算出されるバグが発生していたことがわかりました。開発者コミュニティでのユーザーの報告を受け、OpenAIのスタッフがこの集計バグを認め、システムを修正したことを明らかにしました。同社は今後、ローンチ後に発生した該当リクエストを調査し、影響を受けたユーザーに対して返金対応（refund）を行う方針です。

1. ユーザーによる「トークン超過」の指摘

開発者コミュニティにおいて、GPT-5.6 APIを使用した際の使用量オブジェクト（usage）内のトークン数に異常があることが報告されました。具体的には、リクエスト全体の入力トークン数（prompt_tokens）が4,583であるのに対し、プロンプトキャッシュ詳細のキャッシュ読み取り（cached_tokens）が3,945トークン、キャッシュ書き込み（cache_write_tokens）が4,580トークンと報告され、これらキャッシュ関連の合計が8,525トークンに達していました。

2. 「二重課金」による高額な請求懸念

GPT-5.6 APIでは、新規のキャッシュ書き込みに対して通常の入力トークン料金の1.25倍が課金され、キャッシュからの読み取り時には90%の割引（0.1倍）が適用される料金モデルが採用されています。しかし、今回のバグのように同一のリクエストで大部分のトークンが読み取りと書き込みの両方としてカウントされた場合、開発者は「同じトークンに対して読み書き両方の課金が重複して行われる」ことになり、キャッシュ割引を受けるどころか通常より高い料金が請求される状態になっていました。

3. OpenAIによるバグの承認と返金対応の発表

この報告に対し、OpenAIの公式スタッフは「特定のタイプのリクエストで正しく集計されていなかったバグ」であることを認め、現在は修正が完了したと回答しました。また、同モデルのローンチ以降に実行されたリクエスト履歴を精査し、過剰に請求された分の返金処理を進める予定であることを伝えています。

プロンプトキャッシュは大規模なコンテキストを扱うAPI開発者にとってコスト削減の鍵となる機能ですが、今回のバグはシステム側の不備によって一時的に開発者側へ余分なコスト負荷を強いる形となりました。OpenAIが速やかにバグを認めて修正および返金対応を約束したことでコミュニティの懸念は収まりつつありますが、新機能ローンチ初期における価格計算やトークン集計の透明性を確保することの重要性が改めて浮き彫りになりました。

引用元：OpenAI Developer Community