マイクロソフト、AIエージェントのコンテキスト最適化手法公開

米Microsoft（米国のIT大手企業）は、企業向けAIプラットフォーム「Microsoft Foundry（Microsoftが提供する企業向けAIアプリ・エージェント開発・運用プラットフォーム）」におけるAIエージェントの運用最適化手法として、「コンテキストエンジニアリング（各ターンでモデルのコンテキストウィンドウに投入する情報・ツール・指示・メモリを動的に最適化する技術）」の体系を公開した。マルチターンの自律エージェント運用で最大のコスト要因となるコンテキストウィンドウの消費を動的に制御し、推論コストを大幅に削減しながら回答精度と業務再現性を高める設計指針を示している。

コンテキストウィンドウがエージェントのコストと品質を決める背景

LLMは状態を保持しないため、各ターンで指示、利用可能なツール定義、検索文書、会話履歴のすべてをコンテキストウィンドウに含めて再送する必要がある。単発の質疑応答では軽微なコストも、数十ターンに及ぶ自律エージェントでは累積トークン数が膨らみ、最大の運用費用となる。

さらに、プロンプトに不要な情報や大量のツール一覧を詰め込むと、検索ノイズによる誤答やツールの誤選択を招き、リカバリのための追加ターンが発生してコストがさらに増大する悪循環が生じる。

Microsoft Foundryが提供する4つの最適化アプローチ

マイクロソフトは、不要なコンテキストを削ぎ落としつつ必要な情報をピンポイントで供給する4つの機能を提示した。

• ​ナレッジ検索層（Foundry IQ）​: 文書全体の丸ごと投入を防ぎ、クエリの自動分解、並列検索、意味論的リランキングを実施。BrowseComp-Plusベンチマークで証拠再現率を最大54％向上させつつ、検索トークンコストを34％削減した。Microsoft Entra IDやPurviewの権限ラベルとも連動する。
• ​ツール検索（Toolboxes in Foundry）​: MCP（Model Context Protocol）を活用し、全ツールの長大な説明を毎ターン送る代わりに、自然言語による「ツール検索機能」を提供。大規模ツールライブラリにおいて平均入力トークン消費を約97％削減した。
• ​共通手順のスキル化（Skills）​: 各エージェントに手順書をベタ書きせず、中央管理されたスキルとして定義。エージェントは必要な場面でのみ詳細指示を読み込む。
• 3層メモリ管理（Memory in Foundry Agent Service）​: 「セッション」「ユーザー」「手続き（Procedural）」の3層メモリを分離。手続きメモリによりSTATE-BenchおよびTau-Benchで約5％の精度向上を達成した。

モデル変更を伴わないコスト最適化の優位性

安価な小型モデルへの変更や指示の極端な短縮といった従来のコスト削減策は品質低下のリスクを伴うが、コンテキストエンジニアリングは「不要な入力の排除」によって品質向上とコスト低減を両立できる点に大きな価値がある。

「Agent optimizer」による自動改善ループと組み合わせることで、エージェントを再構築することなく稼働実績に応じた継続的な運用効率化が可能になる。

引用元：Microsoft Azure Blog