跳到正文
原文
AIHOT · AI 精选· noreply@aihot.news (LMSYS Blog)·· 23 小时前精选AI 评分84

SGLang 为 816B 开源多模态 MoE 模型 Muse Spark Open 提供 Day-0 支持

AI 导读

SGLang 团队宣布对 Meta 开源多模态 MoE 模型 Muse Spark Open(816B 参数、约 42B 激活、1M token 上下文)提供 Day-0 推理支持,权重提供 NVFP4 和 BF16 两种格式。

推荐理由

原文提供了多平台推理与RL训练的完整细节及实测吞吐数据,有助于评估大规模部署该模型的可行路径。

来源:AIHOT · AI 精选 · aihot.news