vLLM Blog· vLLM Team, Red Hat PyTorch Team, and Meta PyTorch Team·· 5 天前AI 评分50
vLLM 迁移至 LibTorch Stable ABI
Migrating vLLM to the LibTorch Stable ABI
AI 导读
vLLM 从 v0.33.0 起发布 LibTorch ABI Stable CUDA wheel，更新 PyTorch 时无需重新编译 vLLM，可直接替换 torch wheel 导入。
来源：vLLM Blog · vllm.ai