跳到正文
热点事件观察中

Google发布vLLM与SGLang的TorchTPU原生推理引擎

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

2026年10月20日,Google正式推出基于TorchTPU的vLLM和SGLang原生PyTorch推理引擎。该举措旨在优化大模型在TPU硬件上的运行效率。其中,vLLM版本由Google与Inferact合作开发,而SGLang版本则与RadixArk共同完成。新引擎重点支持智能体(Agents)、多模态处理以及长上下文等生产级工作负载,标志着Google在AI基础设施软件栈上进一步整合其自研芯片能力,为开发者提供更具竞争力的推理解决方案。目前报道未提及具体性能提升数据或发布时间表细节,仅确认了合作关系及核心功能支持范围。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. AIHOT · AI 精选精选
    Google 发布 vLLM 与 SGLang 的 TorchTPU 原生推理引擎

    Google 推出基于 TorchTPU 的 vLLM 和 SGLang 原生 PyTorch 推理引擎,分别与 Inferact 和 RadixArk 合作开发,支持智能体、多模态及长上下文等生产级工作负载。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。