GoogleとMeta、TPUで動く「TorchTPU」を公開

米Googleと米Metaは2026年10月21日、年次イベント「PyTorch Conference 2026」において、機械学習フレームワーク「PyTorch（Metaが開発を主導するオープンソースの機械学習ライブラリ）」のコードをGoogleのAI専用アクセラレータ「TPU（Tensor Processing Unit、Googleが開発した機械学習特化型プロセッサ）」上で最小限の変更でネイティブ実行可能にするソフトウェア「TorchTPU」をオープンソース化したと発表した。開発者は標準的なPyTorch APIのまま、Google Cloud上のTPUインフラを活用して大規模言語モデル（LLM）や推薦システムの学習・推論を実行できるようになる。

イーガー実行とtorch.compileを両立する新スタック

TorchTPUは、MetaのPyTorchエンジニアリングチームとGoogleが2025年半ばから共同開発を進めてきた基盤ソフトウェアである。従来のPyTorch/XLAが抱えていたデバッグの難しさや互換性の制約を解消するため、通常のPython実行のように直感的なデバッグが可能なイーガーモード（コードの各行を逐次的に即時実行してデバッグしやすくする処理方式）と、本番稼働時にグラフ最適化を行う「torch.compile」の双方に完全対応した。

MetaのPyTorchエンジニアリング担当ディレクターは、同社の大規模言語モデルや広告配信、レコメンデーションといった中核ワークロードをTPU上で実行可能にすることが共同開発の狙いであると説明している。

広範なオープンソースエコシステムとの即時連携

発表と同時に、主要な機械学習ライブラリや推論基盤との統合が公開された。

• Hugging Face連携​: Transformers v5では引数に device_map="tpu" を指定するだけでTPUクラスターへのモデル展開が可能となり、画像生成ライブラリDiffusersもTPUに対応した。
• ​オープン推論エンジン​: 高速推論エンジンvLLMを開発するInferact、SGLangを手がけるRadixArkと協業し、TPU向けバックエンドを提供。分散推論基盤「llm-d」はバージョン1.0を公開し、Red HatやIBMが参画している。
• ​分散学習TorchTitan: Llama 3（70B / 405B）やQwen 3（235B）、画像生成モデルFLUX.1などの分散学習レシピが提供された。Qwen 3 8Bモデルの検証では最大52%のモデルFLOPs利用率（MFU）を記録し、第7世代TPU「Ironwood（TPU v7x）」最大8,192基のクラスタにおいてほぼ線形なスケーリングを達成した。
• ​エッジ向け推論​: Googleの端末向けAI推論ランタイム「LiteRT」がPyTorchエコシステムに統合された。

クラウドAIチップを巡るPyTorch獲得競争と未確認事項

今回の発表は、クラウド大手による「独自AIチップ向けPyTorchネイティブ対応」の競争激化を象徴している。Amazon Web Services（AWS）も10月19日に自社チップ「Trainium」上でPyTorchコードをほぼ書き換えずに実行する「TorchNeuron」を発表したばかりであり、GoogleとMetaによるTorchTPUのオープンソース化はこれに対抗する動きといえる。

日本の開発者やスタートアップにとっても、高価なNVIDIA GPUの確保がボトルネックとなる中で、慣れ親しんだPyTorchコードの資産を活かしたままGoogle CloudのTPUインスタンスを選択肢に組み込める利点は極めて大きい。

一方で、現状の実装における未確認事項や制約も存在する。公開されたREADMEにおいて動作が正式保証されているTPU世代は最新世代（Ironwood / TPU v7xなど）に偏っており、旧世代TPU（v4やv5eなど）での機能網羅性や性能特性は明記されていない。また、独自のカスタムCUDAカーネルを多用している複雑なモデルアーキテクチャでは、TPU向けカーネルへの再コンパイル時に追加の書き換え工数が必要となる可能性がある。

ハードウェア抽象化が進むAI基盤の展望

長年NVIDIAのCUDAエコシステムが市場を支配してきたAIコンピューティング基盤において、PyTorchという共通言語を介してハードウェアの差異を吸収する抽象化の進展は、開発者にとって特定の半導体ベンダーへのロックインを回避する大きな転換点となる。クラウド各社の独自プロセッサが実用的な互換性を獲得したことで、性能・電力・コストの多角的な比較に基づいたインフラ選定が本格化するとみられる。

引用元：ビジネス+IT