Microsoft、社内AIの過剰利用抑制へトークン上限を設定

Microsoftは、自社従業員によるAIツール利用に伴うコンピュートコストの膨張に対処するため、新たな社内ガバナンスポリシーを導入しました。無制限なAIトークン消費行為（通称「Token Maxing」）を規制し、社内業務ワークロードをコスト効率の高いモデルへとシフトさせる方針を社内通知しました。

確認済みの事実と導入ポリシー

Microsoftの上級副社長（EVP）であるJay Parrikar氏が全社向けの社内メモを発行し、明確なトークン制限方針を指示しました。実施される主なポリシー変更は以下の通りです。

導入された主なガバナンス措置

• ​部門別トークン予算の導入​: 社内の研究開発（R&D）チームや管理部門に対し、厳格なAIトークンの利用クォータ（上限割り当て）が設定されます。
• ​モデルルーティングの強制​: 業務上の緊急性や正当性が明確に証明されない限り、社内の自動化タスクやバックグラウンド処理はフロンティアモデルではなく、MAIモデルやmini変種などの軽量・低コストモデルに自動ルーティングされます。

AI活用企業への示唆と未確認事項の整理

AIプロバイダー自身が社内でのフロンティアモデル無制限利用によるコスト増加課題に直面し、実質的なコスト管理（AI FinOps）を開始した点は、生成AIを全社導入する企業IT部門にとって重要な参照事例となります。

一方で、本ポリシーが社内プロダクト開発のスピードに与える影響や、各部門に割り当てられるトークン上限の具体的な数値基準については社外に公表されていません。

分析と展望

フロンティアAIモデルの推論コストは高く、AIを活用する企業全般において「AI FinOps（コスト最適化）」の重要性が増しています。業界をリードするMicrosoftが自らトークン予算制やモデルの自動ルーティングを導入したことは、他企業における社内AI利用ガイドラインやコスト管理策の策定にも大きな影響を与えるとみられます。

引用元：GIGAZINE