StepFun 展示 Step 5 Preview 在 NVIDIA GB300 上的推理性能
核心亮点
本期值得关注的是:StepFun 展示 Step 5 Preview 在 NVIDIA GB300 上的推理性能。StepFun 表示 Step 5 Preview 在 NVIDIA GB300 上推理表现出色,并期待看到开发者用它构建的应用。其转发的 NVIDIA 内容称该模型是 StepFun 最大的代码公开可免费使用权重发布,600B 混合专家(MoE) 架构,可处理最长 24 小时的 智能体 任务,在 GB300 上用 NVFP4 达到近 8K tokens/sec/GPU,提供 NVFP4 checkpoint(https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4),并支持 SGLang、vAI 模型、NeMo Automodel 后训练和 NVIDIA NIM 一键部署
具体事件经过
具体而言,StepFun 表示 Step 5 Preview 在 NVIDIA GB300 上推理表现出色,并期待看到开发者用它构建的应用。其转发的 NVIDIA 内容称该模型是 StepFun 最大的代码公开可免费使用权重发布,600B 混合专家(MoE) 架构,可处理最长 24 小时的 智能体 任务,在 GB300 上用 NVFP4 达到近 8K tokens/sec/GPU,提供 NVFP4 checkpoint(https://huggingface.co/stepfun-ai/Step-5-Preview-NVFP4),并支持 SGLang、vAI 模型、NeMo Automodel 后训练和 NVIDIA NIM 一键部署该进展体现了相关团队在模型能力上的最新动作,值得持续跟踪其后续落地与生态反馈。
技术细节
从技术规格看,该模型延续了当前前沿的大参数总量加稀疏激活(MoE)路线,配合长上下文与多模态输入,强调在单卡或少量硬件上也能运行或微调,降低部署门槛。
与竞品对比
与同代闭源与开源模型相比,开放权重的关键价值在于可拥有性与成本可预测:团队可以自托管、按自身数据微调,并摆脱按调用计费的不确定性。代价是更大的运维责任与显存占用。
行业影响或适用场景
对构建者而言,这类模型的增量价值在于把前沿能力下沉到可控环境。建议在自有任务上做对照评测,再决定是否替换现有方案;若数据敏感或成本敏感,开放权重往往是更优解。
公允的结论是,开放权重并非赢得每一场比赛,但它赢得那些对控制力有要求的比赛;正确做法是先在你的领域基准上评测,再决定是否相信任何头条分数。