AI関連の最新ニュースをピックアップ
AIエージェントの社内導入を進める企業の間で、AIモデルの呼び出しにかかる「トークン」の利用料金が想定外に高騰し、予算を圧迫する問題が顕在化しています。米ソフトウェア企業のWorkato(ウォカート)や配車サービス大手のUber(ウーバー)をはじめ、国内外の企業が社内のAI利用量に上限を設けるなど、限られた予算内で効率よくAIを運用する「トークンダイエット(トークンコスト削減)」へと方針を転換し始めています。
AIのトークン(テキストを細かく分解した基本単位)の単価自体は、2020年と比較して99.7%低下しています。しかし、自律的に判断してタスクを反復実行するAIエージェント(特定の指示に対して自律的に行動するシステム)が主流になったことで、検索や推論、自己修正、外部ツールの呼び出しといったプロセスが自動で繰り返され、1回の業務処理におけるトークン消費量が従来の単純なチャットボットと比べて50倍から500倍に急増しました。これにより、企業の従量課金システムへの移行初日の請求額が従来の7倍に達するケースも発生しています。
コスト爆発を防ぐため、Uberは開発者向けAI利用枠に月額1,500ドルの制限を課したほか、韓国のセキュリティ大手AhnLab(アンラボ)も「GitHub Copilot(ギットハブ・コパイロット)」の利用を月間3,000クレジットに制限しました。また、単純な要約や翻訳タスクには、高額な米国製フロンティアモデルではなく、安価な中国製モデル「DeepSeek(ディープシーク)」や小規模言語モデル(SLM)を組み合わせて処理させる「モデル多様化」を取り入れる企業も増えています。
AIエージェントの普及は生産性を飛躍的に高める一方で、財務面での「モンスター(制御不能なコスト要因)」を生み出す結果となりました。今後はAIの単なる導入ではなく、AI支出を体系的に管理・最適化する「AI FinOps(エーアイ・フィンオプス)」や、処理の成否に応じて課金する「成果報酬型」の提供モデルが、企業のIT戦略における重要な位置を占めると見られます。