Google Cloud宣布,与Meta的PyTorch团队共同开发的TorchTPU已在GitHub开源。TPU由此成为与GPU、CPU并列的PyTorch原生选项,现有代码几乎无需改动即可运行。
vLLM、SGLang、llm-d和TorchTitan等框架已接入TorchTPU;Hugging Face Transformers v5可直接将模型部署到TPU。

Google Cloud宣布,与Meta的PyTorch团队共同开发的TorchTPU已在GitHub开源。TPU由此成为与GPU、CPU并列的PyTorch原生选项,现有代码几乎无需改动即可运行。
vLLM、SGLang、llm-d和TorchTitan等框架已接入TorchTPU;Hugging Face Transformers v5可直接将模型部署到TPU。
