热点事件持续更新
蚂蚁集团与vLLM开源量化推理内核库Humming
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
2026年10月21日，蚂蚁集团联合vLLM社区正式开源通用高性能量化推理内核库Humming。该库支持从NVIDIA Turing架构起的GPU以及平头哥镇岳810E等设备，旨在通过统一量化表示与JIT编译技术，优化稠密及MoE工作负载的执行效率。在DeepSeek-V4.1-Flash模型的端到端测试中，Humming表现出显著的性能提升：吞吐量提高约14%至43%，首token时延降低约25%至32%。这一开源举措为AI模型的高效部署提供了新的底层技术支持，进一步推动了量化推理技术的普及与应用。
AI 根据报道生成 · 4 小时前更新
最新进展10月21日 08:00
蚂蚁集团与vLLM开源Humming，实测吞吐提升最高43%，首token时延降低最高32%。报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- AIHOT · AI 精选精选蚂蚁集团与 vLLM 社区开源量化推理内核库 Humming
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming，支持从 Turing 起的 NVIDIA GPU 及平头哥镇岳 810E 等设备。该库通过统一量化表示与 JIT 编译实现稠密与 MoE 工作负载的高效执行，在 DeepSeek-V4.1-Flash 端到端测试中使吞吐提升约 14%–43%，首 token 时延降低约 25%–32%。
本事件热度走势
当前热度 8·可比范围峰值 9（10月21日 12:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。