vLLM推出无需置信头的在线拟合接受度估计器

2026年10月14日，vLLM官方博客宣布推出一项新技术：一种无需置信头的在线拟合接受度估计器。该功能旨在解决部分草稿模型因缺少置信头而无法使用Adaptive Verification（AV）的问题。通过引入这一估计器，EAGLE、MTP等原本不支持AV的草稿模型现在也能启用自适应验证机制。此举扩展了vLLM对多种推测解码架构的兼容性，提升了推理优化的适用范围。目前报道仅确认该功能已发布并支持上述模型，未提及具体的性能提升数据或后续迭代计划。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。