AIHOT · AI 精选· noreply@aihot.news (Apple Machine Learning Research)·· 20 小时前精选AI 评分82
Apple演示用MLX与RDMA在Mac Studio集群本地运行816B大模型
Apple 演示用 MLX 与 RDMA 在 Mac Studio 集群本地运行 816B 大模型
AI 导读
Apple机器学习研究团队发布新版MLX（v0.30.1起）及macOS 26.2的RDMA over Thunderbolt驱动，演示了在由四台Mac Studio组成的集群上本地运行816B参数的Muse Spark Open模型。
推荐理由
原文给出了在Mac Studio集群上运行816B大模型的具体并行方案与基准数据，为本地部署超大参数模型提供了可参考的技术路径。
来源：AIHOT · AI 精选 · aihot.news