HF、AWS Trainium向けTorchNeuronを発表

AIプラットフォームを提供するHugging Face（ハギングフェイス）とAmazon Web Services（AWS）は、AWSのAI推論・学習専用チップ「AWS Trainium」向けの新しいPyTorch（深層学習モデルの開発・学習に広く使われるオープンソースのAIフレームワーク）ネイティブバックエンド「TorchNeuron」を発表した。2026年10月20日よりパブリックベータとして提供が開始される。これにより開発者は、従来の専用ライブラリを介さず、数行のコード変更だけでTrainiumハードウェア上でモデルを実行できるようになる。

独自ライブラリ依存からPyTorch標準のネイティブ実行へ

これまでAWSのAI専用チップ「Trainium（AWSが機械学習の学習・推論向けに自社開発した専用アクセラレータ）」および「Inferentia」上でHugging Faceのモデルを動かすには、専用の仲介ライブラリ「optimum-neuron」を利用する必要があった。しかし、この方式はPyTorch XLAをベースにしていたため、遅延評価（lazy tensors）や静的シェイプの強制、グラフ中断ごとの再コンパイルといった特有の複雑さを意識した開発を強いられていた。

今回発表されたTorchNeuronは、PyTorchの内部に直接統合され、neuronをネイティブデバイスとして認識させる。これにより、GPUと同様にeager実行（コードの記述順に1行ずつ直ちに計算を実行する方式）やtorch.compile、分散処理プリミティブ（DTensorやFSDP2）が標準のまま利用可能となった。

項目	従来の方式（Optimum Neuron）	新方式（TorchNeuron）
実行基盤	PyTorch XLA依存のラッパー	PyTorchネイティブデバイス（neuron）
実行モード	遅延評価（lazy tensors）・静的シェイプ中心	eager実行・torch.compile対応
主要LLM対応率	上位100モデル中46%	上位100モデル中89%（Transformers標準）
必要コード	Optimum Neuron固有の独自クラス	標準のTransformers / Diffusers（数行の指定）
分散学習	独自トレーナーが必要	TRL・SFTTrainer等の標準ツールがそのまま動作

TransformersとDiffusersのネイティブ統合

TorchNeuronの導入により、Hugging Faceの主要ライブラリにおけるTrainium対応が大幅に刷新される。

テキスト生成ライブラリ「Transformers」では、利用頻度の高い上位100の生成モデルアーキテクチャのうち、標準状態で動作する割合が従来の46%から89%へと大幅に拡大した。コード上でdevice_map="neuron"を指定するだけで、自動的にTrainiumデバイスへとモデルが割り当てられる。

また、画像生成ライブラリ「Diffusers（Hugging Faceが提供する画像・音声生成等の拡散モデル向けライブラリ）」においても、FLUX.1-devやQwen-Image 2.1などのモデルでテンソル並列処理に対応した。さらに、Neuron Kernel Interface（NKI）を通じて最適化されたカスタムカーネルを利用することで、Vision Transformerなどの処理で最大2.4倍の高速化が確認されている。

クラウドコスト削減と今後の展望

今回のネイティブ統合は、生成AIの学習・推論インフラにおいてNVIDIA製GPUへの依存度を下げたい開発者や事業者にとって、極めて実効性の高い選択肢となる。これまでは専用チップへの移植コストやモデル非対応の壁が導入の障壁となっていたが、標準コードのままTrainiumインスタンス（trn2など）へ移行できるようになることで、インフラ費用の削減と計算リソース確保の迅速化が期待される。

日本の開発現場においても、AWSクラウド上で稼働する大規模言語モデルや画像生成サービスの運用において、GPUインスタンスの逼迫を回避しつつコストパフォーマンスを改善する有力な手段となる。

編集部注: TorchNeuronはパブリックベータの段階であり、自動動的シェイプの制約など現時点では一部の機能制限が残されている。実運用への本格投入にあたっては、自社のワークロードでのベンチマーク検証が推奨される。

引用元：Hugging Face