SGLang 发布 Low-Latency Mode，通过插件框架在 NVIDIA 和 AMD GPU 上降低推理延迟

SGLang 推出低延迟模式，通过插件框架在 NVIDIA GB300 和 AMD MI355X GPU 上显著降低推理延迟，提供了具体的内核优化路径与实测性能数据。