Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

Google 推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎，分别与 Inferact 和 RadixArk 合作开发，支持智能体、多模态及长上下文等生产级工作负载。