AI资讯ai-products
NVIDIA DGX Spark 推出 64GB 版本,10 月 23 日起以 $4,999 开售
核心亮点
NVIDIA 给 DGX Spark 加了一个 64GB 统一内存的新配置,10 月 23 日起由 Acer、ASUS、Dell、Gigabyte、HP、MSI 发售,起步价 4,999 美元。官方说法是它能让最高 1000 亿参数的模型在端侧跑起来,把"本地大模型工作站"的门槛又往下拉了一截。
具体能力或事件经过
DGX Spark 的定位是个人级 AI 超级计算机——巴掌大、插电即用,让开发者在自己桌上就能跑大模型推理甚至微调。64GB 统一内存的意义在于:更大的模型、更长的上下文不必被显存卡死,也不用频繁在内存和显存之间倒腾,体验上更接近"无感"地跑大模型。
技术细节
统一内存(unified memory)让 CPU 和 GPU 共享同一块地址空间,减少拷贝开销。100B 参数模型以 4 位量化估算约 50GB 权重,加上激活和开销,64GB 正好卡在一个"勉强够用又不太贵"的甜点区间。这个容量也意味着开发者可以本地调试过去只能在云上跑的模型。
与竞品对比
Apple 的 M 系列 Mac 也有高带宽统一内存,但走的是消费/创作路线;DGX Spark 直接打开发者与本地 AI 工作站市场,配的是 NVIDIA 的 CUDA 生态和软件栈,对 PyTorch 等工作流更友好,也更被深度学习社区接受。
行业影响或适用场景
端侧大模型正在从"玩具"走向"工具"。对不想把数据送上云、又需要跑中等规模模型的团队,64GB 版 DGX Spark 提供了一个相对省心的本地方案,也会刺激更多本地推理与隐私计算的尝试。它把"在自己机器上拥有模型"这件事变得触手可及。