NVIDIA 推出 Nemotron 3.5 Lightning，加速本地智能体任务

核心亮点

NVIDIA 正式发布 Nemotron 3.5 Lightning，这是一款可定制的开源 30B 混合专家（MoE）模型，专为常驻式智能体（agent）场景设计。官方称，相比同类开源模型，它的 token 生成速度最高提升 4 倍，任务完成时间缩短约 30%，让本地智能体在响应速度和稳定性上更接近云端大模型的表现。

具体能力或事件经过

Nemotron 3.5 Lightning 采用开放权重策略，用户可以针对自身任务做定制化训练与优化，让模型更贴合具体业务需求。它能在 RTX PC、DGX Spark 以及 Jetson 等设备上运行，覆盖从桌面级到边缘计算的多种硬件形态。换句话说，开发者不必依赖数据中心，就能在普通电脑甚至嵌入式设备上跑起一个能持续工作的智能体。

技术细节

该模型延续混合专家架构，总参数量 30B，每次推理只激活部分专家，从而在有限算力下保持较高输出质量。开放权重意味着用户既能直接调用，也能在自有数据上继续微调。结合 NVIDIA 的软硬件生态，模型在自家 GPU 上的推理效率有明显优势，这也是其生成速度提升 4 倍的关键来源，配合专用解码内核可进一步压低时延。

与竞品对比

在同尺寸开源模型中，Nemotron 3.5 Lightning 主打“常驻智能体”这一细分定位，而非通用对话。它把优化重点放在任务吞吐和完成时延上，和偏向一次性问答的模型形成差异。相比闭源方案，开放权重让用户拥有更多控制权，适合对数据不出域有要求的场景，也能避免被单一供应商锁定。

行业影响或适用场景

对需要本地化、低延迟智能体的团队来说，这款模型降低了部署门槛。无论是桌面助手、工业边缘巡检，还是离线环境下的自动化流程，Nemotron 3.5 Lightning 都提供了一个可定制、可私有化运行的选项。说白了，它把“能一直在线干活”的 AI 助手变得更便宜也更落地了，让本地智能体真正具备实用价值。