跳到正文
原文
AIHOT · AI 精选· noreply@aihot.news (NVIDIA Blog)·· 3 小时前精选AI 评分78

NVIDIA 发布开源 Nemotron 3.5 Super VL 及 Bolt 两款端侧模型

AI 导读

NVIDIA 发布开源 1200 亿参数的 Nemotron 3.5 Super VL 多模态模型,称在其类别中任务完成最快、比同类次优快 5x,并推出两款端侧模型 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB,后者 10 月 23 日上线。模型采用 2-bit 原生量化可在 RTX/DGX Spark 上本地运行,权重、数据集和训练配方开放,已有数十家机构基于自有数据后训练。

推荐理由

官方公布三个开源模型的定位、参数规模与量化方案,覆盖数据中心到桌面端侧,企业可按部署层级选择并自行后训练。

来源:AIHOT · AI 精选 · aihot.news