生活分享

NVIDIA Vera Rubin 首次参加 MLPerf:自称横扫 Training v6.1,Kimi K3 每瓦吞吐量超 10 倍(暂定结果)

NVIDIA 宣布 Vera Rubin 平台在 MLPerf Training v6.1 与首次参加的 MLPerf Endpoints 中取得领先成绩,其中 Endpoints 的 Vera Rubin 结果仍待 MLCommons 验证。

新闻日期: 阅读时间约 4 分钟

LINE 分享
目录
  1. 1. 这次 NVIDIA 公布了哪些成绩?
  2. 2. MLPerf Endpoints 的代理式推理结果可信度如何?
  3. 3. 哪些合作伙伴参与,对普通用户有何影响?

NVIDIA 于 2026 年 11 月 16 日发布了 Vera Rubin 平台的首次 MLPerf 成绩。MLPerf 是由 MLCommons 协会公布结果的 AI 系统性能基准测试。此次成绩涵盖训练、后训练(模型初步训练完成后的进一步调整,例如强化学习)与代理式(agentic)推理。代理式推理指 AI 代理为完成一项任务,反复推理、调用工具并检查成果。Training v6.1 结果已公布,Endpoints 中的 Vera Rubin 结果则为暂定,待 MLCommons 验证。

这次 NVIDIA 公布了哪些成绩?

NVIDIA 表示,它是本轮唯一在每项基准都有成绩的平台,涵盖大语言模型、图像生成、推荐系统与强化学习后训练。MLPerf Training 衡量系统将各类 AI 模型训练到目标准确度所需的速度。

NVIDIA 称 Vera Rubin NVL72 首次亮相,单 GPU 性能最高即达自家上一代 GB300 NVL72 系统的 2 倍。NVIDIA 强调这只是早期结果,后续会通过 CUDA 软件栈持续优化。在 DeepSeek-V3 基准上,NVIDIA 指 Vera Rubin NVL72 从 256 颗扩展到 1,024 颗 GPU 时效率约 97%,训练时间从 16 分钟缩短至约 4 分钟。

MLPerf Endpoints 的代理式推理结果可信度如何?

据 NVIDIA 介绍,MLPerf Endpoints 以真实的代理式编程与企业工作流测试系统,并检查代理是否仍正确完成任务。AI 每一步运算都会产生 tokens(AI 处理和生成内容的基本单位)。“每瓦吞吐量”衡量的是系统每消耗一瓦电力能完成多少代理工作。在 Kimi K3 的暂定结果中,NVIDIA 称 Vera Rubin NVL72 在相同响应速度下,每瓦吞吐量超过 GB300 NVL72 的 10 倍。

NVIDIA 的脚注指出,GB300 成绩已由 MLCommons 验证,但 Vera Rubin 的暂定结果尚待验证,并可能随同行评审而变动。因此这个 10 倍数字应视为厂商公布的初步数据。

NVIDIA 脚注列出的 MLPerf Endpoints Kimi K3 运行数据(比较基准为每位用户至少 50 tokens/sec)
项目Vera Rubin NVL72GB300 NVL72
Kimi K3 加速器数量3248
并发查询量1,02448
系统吞吐量(tokens/sec)41,414.22,210.4
运行功耗100.89 kW60 kW
验证状态暂定,待 MLCommons 验证MLCommons 已验证

哪些合作伙伴参与,对普通用户有何影响?

NVIDIA 表示 MLPerf Training 有 20 家机构提交成绩,包括 ASUS、Azure、Cisco、CoreWeave、Dell Technologies、Google Cloud、HPE、Oracle、Supermicro 与佛罗里达大学。NVIDIA 另称,它用 GB300 系统运行了本轮最大规模的 10,240 颗 GPU 测试,Microsoft Azure 则以 GB200 系统、同样 10,240 颗 GPU 达到相同规模。

NVIDIA 的论点是,训练更快能让更聪明的代理更早到达用户手中;推理每瓦产出更多 tokens,则意味着受电力限制的数据中心能服务更多代理。NVIDIA 还称 Vera Rubin 在 SemiAnalysis AgentX 与 Artificial Analysis AgentPerf 等独立基准上同样领先。

常见问题

Vera Rubin 已经可以买到或使用了吗?

NVIDIA 这篇文章只公布了基准成绩,并未说明供货时间、价格或地区供应,因此无法从该来源判断。

“横扫”是什么意思?

NVIDIA 表示其平台是本轮唯一在每项 MLPerf Training v6.1 基准都有成绩的平台,并称横扫所有基准。这是 NVIDIA 的表述。

10 倍每瓦吞吐量是最终结果吗?

不是。NVIDIA 注明 Kimi K3 的 Vera Rubin 结果为暂定,待 MLCommons 验证,可能因同行评审而变动。

成绩之后还会改变吗?

NVIDIA 表示 Vera Rubin 的性能会通过 CUDA 软件栈持续优化而提升,并称目前的结果只是开始。

查看同分类最新消息

觉得这篇整理实用吗?分享给需要的朋友

LINE 分享

资料来源

本文依据上方所列参考来源与标示之核实日期整理;票价、时刻、功能规格或服务条款可能变动,出发、预订或购买前请至相关官方网站确认最新信息。

生活分享