vLLM 发布 TorchTPU 后端支持 Google Cloud TPU

2026年10月20日，vLLM 官方博客发布消息称，vLLM 推出名为 vllm-torchtpu 的后端，基于 Google 的 TorchTPU 栈，可在 Google Cloud TPU 上运行 vLLM，多数现有 vLLM 模型无需改动模型代码即可部署到 TPU 环境。次日（10月21日），TechCrunch 报道 Google 宣布开源 TorchTPU，称其为 Google 的 PyTorch 版本，开发者只需修改配置、无需重写代码，即可把现有 PyTorch 应用迁移到 Google 的 TPU 和 Google Cloud 上。两篇报道分别从 vLLM 后端与 Google 开源两个角度描述同一技术栈，目前尚无相互矛盾的说法。

AI 根据报道生成 · 3 分钟前更新

1. 10月21日 02:38 · 1 篇报道
   Google开源TorchTPU，支持PyTorch应用迁移至TPU
   TechCrunch · AI：Google 开源 TorchTPU，让 PyTorch 应用无需重写即可运行在 TPU 上
2. 10月20日 08:00 · 1 篇报道
   vLLM发布TorchTPU后端，支持在Google Cloud TPU上运行
   vLLM Blog：vLLM 发布 TorchTPU 后端，可在 Google Cloud TPU 上运行 vLLM 模型

还没有足够的连续观测数据，暂不绘制趋势。