1200 亿参数塞进 24GB 显存：英伟达把「全年无休的 AI 员工」搬上了你的办公桌

英伟达给 Super VL 的官方定位是一个不太起眼、却极为精准的词：always-on agents——始终在线的智能体。这个定位背后是一笔大多数企业还没算清楚的账：一个长跑型智能体，一天要执行成百上千个步骤，其中绝大部分不是「想难题」，而是读文档、填字段、核对结果、调用工具、分发子任务这类高频定型动作。如果每一步都动用最贵的前沿模型，成本和延迟都会失控——就像让首席会计师去核对每一张快递单。

英伟达在 8 月发布 Lightning 时就把这套逻辑摊开了：旗舰模型（Ultra 或闭源旗舰）负责规划与关键决策，小激活模型（Lightning、Super VL）负责跑量执行，路由层按轮次自动分活，官方数据称整体可省下约三分之二的成本。Super VL 补的正是「执行层」这个位置：120B 总参数、每 token 只激活 12B，读得懂文档、截图、表格和短视频，跑得足够快，还足够便宜。

对企业读者，这个分层结构值得直接抄走：不要问「要不要上大模型」，而要问「我的业务里哪些步骤需要判断力、哪些只是搬运」。需要判断力的少数步骤用强模型，纯执行的多数步骤交给便宜的小模型——同一个预算下，这条分层路线能扛起的业务量，往往是「全用旗舰模型」的数倍。这不是技术选型，是成本结构设计。

「5 倍于同级开源模型」是官方口径，需要打折看，但打折之前值得先拆开看它的刀法——Super VL 没有在单一环节硬卷，而是把推理链路的每一层都削了一遍。首先是前缀缓存：智能体每一轮都要重发系统提示、工具定义和历史记录，Super VL 连 Mamba 的循环状态都一起缓存，共享前缀零重算——这一条精准命中智能体场景最大的隐性开销。其次是 NVFP4 量化：用量化感知蒸馏训练 4-bit 模型去对齐 BF16 原版的输出，精度损失在训练期补回来，推理零额外开销。

架构本身也有讲究：混合 Mamba-2 + Transformer 的设计，让长序列处理不必承受标准注意力机制的平方级开销；外挂的 C-RADIO 视觉编码器负责把图像、文档、GUI 截图转成模型能消化的表征。训练侧，Super VL 从 550B 的 Nemotron 3.5 Ultra 蒸馏而来，用多教师在线蒸馏让不同专长的教师模型给学生的回答打分——「用大模型教小模型」这件事，英伟达自己做得毫不掩饰，与上一篇里微软高调宣布的「不蒸馏」形成有趣的对照：两条路线都成立，区别只是商业策略不同。

独立数据也给了参照：Artificial Analysis 在 4 张 B200 上实测输出约 625 token/秒，同时指出综合智能指数上有若干开源模型排名更高。把官方数字与第三方数字放在一起读，结论比较清晰：Super VL 是同级里「跑得最快」的那一档，但不是「最聪明」的那一档——而对执行层来说，速度和成本恰恰是更重要的指标。

这次发布难得的地方在于，短板不用等第三方挖——英伟达自己的模型卡里就写着。亮眼的一面：GPQA-Diamond 89.90 分、SWE-bench Verified 71.07 分、BrowseComp 77.5 分，在部分智能体基准上反超了参数量 4.6 倍的自家 Ultra。难看的一面：按其模型卡，Super VL 在多数智能体测试上赢了 Qwen3.5-122B，但编码和浏览任务落后于 GLM-5.3-Flash 和 DeepSeek V4 Flash；tau3-bench 银行业务长程任务只拿到 17.78 分——这种多轮、带状态、容错率低的任务，正是它明显的软肋。

这个短板分布其实非常有信息量。它再次验证了从 2025 年延续至今的格局：纯执行、高频次、可校验的任务，小激活模型已经完全够用且有成本优势；而长链条、带资金或合规风险的复杂任务，任何单一模型都还谈不上可靠——无论它发布会上跑了多漂亮的分。tau3-bench 那个 17.78 分像一面镜子：如果你的智能体要替客户动钱、动合同，现在就把「人工审核节点」设计进流程，不要指望模型升级自动解决这个问题。

给读者的读法建议照旧：官方成绩当能力上限参考，自己的业务样本当决策依据。尤其这次英伟达把训练配方、数据集与权重一起公开，第三方复测的技术门槛已经降到很低——接下来几周值得留意独立评测的跟进情况，那会比任何发布会都诚实。

对多数企业来说，这次发布里最实用的不是 120B 的 Super VL，而是那个配角：Bolt 74B-A9B。74B 总参、9B 激活，用原生 2-bit 量化把整个模型压进 24GB 显存——这正好是一张高端消费级显卡的容量，也是一台普通工作站能承受的配置。英伟达的描述很具体：用户可以把项目「委托」给本地智能体框架——从网页调研到写作再到代码调试——全程不把工作负载送到云端。它还有个容易被忽略的工程细节：量化后可以与其他应用共享显存共存运行，不必独占整台机器。

「租算力还是买设备」的临界点，可以用一笔简单的账来判断：云 API 的成本随用量线性增长，本地设备的成本是一次性的。一个每天要处理几千次文档理解、字段抽取、内容核对动作的团队，一年 API 账单很可能已经超过一台 24GB 工作站的价格；再加上数据不出域的合规价值，临界点来得比多数人预想的早。10 月 16 日起 RTX Spark 笔记本陆续到货，「一台笔记本就是一个智能体工位」从概念变成了可以下单的配置单。

当然要冷静：24GB 装下的是 74B 级模型，能力上限低于旗舰，复杂任务仍需回退到云端强模型。合理的架构是混合的——日常高频任务本地跑，难任务按需上云，敏感数据永远不出域。这与上一篇文章里微软讲的「模型供给多元化」殊途同归：未来的企业 AI 基础设施，大概率是「本地小模型打底 + 云端大模型按需 + 路由层调度」的三层结构。

模型能力几天就会被更新的发布盖过，但许可条款的影响会持续几年。Nemotron 3.5 系列采用 OpenMDW 许可：允许商用、允许微调、允许再分发——对比近期若干「开放权重但按公司规模设限」的发布，这一条宽松得多。它直接解开了两类企业的死结：一类是给银行、保险、政府做项目的软件服务商，数据不能离开客户网络，一个可本地部署、可商用的开源多模态模型是真实的刚需；另一类是预算有限的中小团队，可以放心把模型集成进产品再销售，不必逐条研究许可里的营收红线。

英伟达同时公开了训练配方和数据集，并把一批机构的定制案例摆到了台面上：Scale AI 用它后训练出厂商信贷金融智能体、EY 的并购尽调智能体，AfterQuery 为信用协议分析定制，Ramp 用于财务文档理解，Atlassian 把它接进 Jira 与 Confluence 的跨应用检索，CrowdStrike 用它做企业安全的蓝队自动化。这份名单的价值不在名气，而在样本多样性——金融、安全、工程、医疗，每个案例都是「开源基座 + 私有数据微调 = 垂直智能体」这个公式的重复验证。

把这件事翻译成中小企业能执行的动作：先别急着微调。正确的顺序是——用你的真实业务样本测原版模型（很多场景零微调就够用），不够再考虑用几百条样本做轻量微调，最后才是全量训练。微调是流程的最后一步，不是第一步；见过太多团队把预算烧在微调上，结果发现瓶颈其实是业务数据本身没有整理好。

看英伟达发开源模型，要记住一个前提：它不靠模型赚钱，靠的是模型所依赖的硬件。这套 Nemotron 家族的发布节奏——服务器级的 Ultra 与 Lightning、执行层的 Super VL、桌面级的 Bolt、嵌入式级的 Bolt E4B——恰好覆盖了英伟达硬件产品线的每一档：数据中心 GPU、RTX 工作站、DGX Spark、Jetson。每一个开源模型跑得最好的场景，都是英伟达硬件的舒适区。

配套生态的协同速度也像排练过：vLLM 零日支持、Red Hat 当天给出 FP8 权重、Perplexity 即刻接入、Hugging Face 联创亲自站台。英伟达在做的不是「参与开源」，而是用开源模型给自家硬件生态修护城河——开发者基于 Nemotron 调好的智能体，天然在英伟达的卡上跑得最顺。这与上一篇里微软的「不蒸馏 + Foundry 授权」形成了鲜明的战略对照：一家靠数据纪律卖授权，一家靠硬件绑定卖铲子。

对企业用户的启示是保持清醒的受益者姿态：免费的开源模型、顺手的工具链，都是真实可用的资源，大大方方用；但要意识到这种便利自带倾向性——选型时把「换硬件后性能如何」纳入评估，避免核心能力与单一硬件栈深度绑定。就像上一篇说的供应商解耦，硬件栈同样值得保留一层可迁移性。

判断标准可以概括为一句话：输入是文档或屏幕、输出是结构化结果、错误能被规则校验的活，先交。具体场景包括：发票、合同、报关单等票据的字段抽取与归档；客服工单的自动分类与初步处理；电商商品信息的整理与审核；门店巡检照片的合规检查；代码仓库的日常维护任务。这些活的共同点是量大、重复、规则清晰——正是「执行层」模型的舒适区，也是 24GB 本地部署性价比最高的区间。

边界同样清楚：需要多轮资金操作的流程（比如银行业的端到端业务办理）、需要承担签字责任的决策、需要跨部门协调的判断，仍然归人和强模型。Super VL 在 tau3-bench 上 17.78 分的表现再次提醒：长程、带状态、高容错成本的任务，现阶段任何模型都不能单独托付。设计系统时把「模型做初稿、人做终审、规则做兜底」写进流程，比纠结模型选型重要得多。

最后是落地节奏的建议：先用云端 API 验证业务价值（两到四周，成本极低），验证通过后再评估本地部署（一台 24GB 工作站的预算），跑量稳定后再考虑用自有数据微调。把「上 AI」拆成三个可退出的阶段，每一步都有明确的验收标准——这是把技术潮流转化为业务结果最稳妥的路径。

五件事，按顺序做：