NVIDIA扩大Nemotron家族：1200亿参数的Super VL与能塞进24 GB的Bolt

NVIDIA 在 10 月 15 日发布 Nemotron 3.5 Super VL，这是一个 1200 亿参数、每个 token 激活 120 亿参数的开放 多模态 混合专家（MoE）模型，面向长时间在线的专用 智能体 。同批发布的还有两款端侧模型：Nemotron 3.5 Bolt 74B-A9B 24GB 与 Bolt E4B 4GB。Super VL 与 Bolt 74B-A9B 已开放，Bolt E4B 计划 10 月 23 日提供。

Nemotron 3.5 Super VL 面向专用 智能体 的 多模态 能力示意    图片来源： NVIDIA

Super VL 把推理、指令跟随、工具调用与文本、图像、文档、视频理解放进同一个模型，团队不必再分别部署语言模型与视觉语言模型，也省去了在两者之间传递任务上下文的环节。 NVIDIA 称，其在 多模态 智能体 任务上的准确率可与自家最大的推理模型相比，而参数量约为后者的五分之一；在单张 GPU 上，智能体任务的吞吐最高可达同尺寸开放模型的 5 倍。模型从 Nemotron 3 Ultra 蒸馏而来，配合 LiLiCorr 投机解码、NVFP4 量化与量化感知蒸馏，以及多 token 预测和上下文复用。

Bolt 74B-A9B 的做法更直接：用原生 2 比特量化把 74B 总参数、9B 激活参数的模型压进 24GB 显存，以便在 RTX 与 DGX Spark 上与其它应用同时运行。NVIDIA 称其在同内存占用的开放模型中，PinchBench 排名第一、BrowseComp 排名第二，并已支持 llama.cpp、Ollama、LM Studio、Unsloth 与 vLLM。4GB 的 Bolt E4B 面向 GeForce RTX、Jetson 与 RTX/DGX Spark 上的物理智能体与对话智能体，把自然对话与多轮工具调用能力放在一起。

公告同时列出多家企业的后训练与集成情况，场景覆盖供应商信用审核、并购尽职调查、信用协议分析、网络安全与编码代理，以及 Atlassian、CrowdStrike、Dassault Systèmes 等平台方的集成。

这批模型的取舍都指向同一件事：把可用性做上去。Super VL 用蒸馏与量化在参数量上做减法，换取单卡吞吐；Bolt 用更激进的低比特量化换显存占用，代价是模型能力的上限。

对企业来说，评估的重点不在榜单名次，而在量化后的精度能否支撑具体流程、本地推理的吞吐能否覆盖并发，以及开放权重下后训练与部署的成本是否落在预算内。模型能装进 24GB 是一项内存指标，2 比特量化的输出稳定性仍需要在自有数据上验证。

主题：Bolt74B-A9B