Google、TPU向けネイティブPyTorchバックエンド「TorchTPU」をオープンソース化

Googleは、TPUデバイス上でPyTorchモデルや演算を実行可能にするネイティブPyTorchバックエンド「TorchTPU」をオープンソース化した。TPU向けカスタムATenカーネルの実装、XLA計算を最適化するコンパイルキャッシュ、データ並列およびテンソル並列による分散学習サポート、torch.compile()との統合機能などを備えている。LlamaやQwenなどのモデル例が含まれており、Python 3.11以上に対応し、Apache 2.0ライセンスで提供される。