SGLang原生支持Reflection的Beam模型并驱动其生产API

SGLang团队宣布原生支持Reflection的501B参数混合专家模型Beam，并为Reflection的生产API提供支持。该集成通过BF16、NVFP4和动态FP8检查点支持以及DFlash2投机解码等特性优化推理效率。在4块NVIDIA GB300 GPU上运行OpenHands多轮智能体编码回放时，SGLang在并发32下达到每GPU 127.6K总token/秒的性能。