跳到正文
原文
36氪 · 文章· AI唱反调·· 2 小时前精选AI 评分82

Meta开源8160亿参数Muse Spark Open模型,苹果演示Mac Studio本地运行

扎克伯格感谢库克接班人:8160亿参数的Muse Spark Open开源,两台Mac Studio就能跑

AI 导读

Meta发布并开源拥有8160亿参数的MoE架构模型Muse Spark Open,支持文本、图像、音频和视频多模态输入,上下文窗口达100万token。苹果机器学习团队同日通过MLX框架演示了在两台至四台M5 Ultra Mac Studio上本地运行该模型,利用雷雳5 RDMA技术实现张量并行,四机模式下达到36.7 token/秒的生成速度。

推荐理由

原文梳理了Meta开源模型与苹果本地推理技术的结合,展示了前沿大模型在消费级硬件上运行的可行性及性能数据。

来源:36氪 · 文章 · 36kr.com