生活分享

NVIDIA Vera Rubin 首度參加 MLPerf:自稱橫掃 Training v6.1,Kimi K3 每瓦吞吐量逾 10 倍(暫定結果)

NVIDIA 宣布 Vera Rubin 平台在 MLPerf Training v6.1 與首次參加的 MLPerf Endpoints 取得領先成績,其中 Endpoints 的 Vera Rubin 結果仍待 MLCommons 驗證。

新聞日期: 閱讀時間約 4 分鐘

LINE 分享
目錄
  1. 1. 這次 NVIDIA 公布了哪些成績?
  2. 2. MLPerf Endpoints 的代理式推論結果可信度如何?
  3. 3. 哪些合作夥伴參與,對一般使用者有何影響?

NVIDIA 於 2026 年 11 月 16 日發布 Vera Rubin 平台的首次 MLPerf 成績。MLPerf 是由 MLCommons 協會公布結果的 AI 系統效能基準測試。這次成績涵蓋訓練、後訓練(模型初步訓練完成後的進一步調整,例如強化學習)與代理式(agentic)推論。代理式推論指 AI 代理為完成一項任務,反覆推理、呼叫工具並檢查成果。Training v6.1 結果已公布,Endpoints 中的 Vera Rubin 結果則為暫定、待 MLCommons 驗證。

這次 NVIDIA 公布了哪些成績?

NVIDIA 表示,它是本輪唯一在每項基準都有成績的平台,涵蓋大型語言模型、影像生成、推薦系統與強化學習後訓練。MLPerf Training 衡量系統將各類 AI 模型訓練到目標準確度所需的速度。

NVIDIA 稱 Vera Rubin NVL72 首次亮相,每 GPU 效能最高即達自家上一代 GB300 NVL72 系統的 2 倍。NVIDIA 強調這只是早期結果,後續會透過 CUDA 軟體堆疊持續優化。在 DeepSeek-V3 基準上,NVIDIA 指 Vera Rubin NVL72 從 256 顆擴展到 1,024 顆 GPU 時效率約 97%,訓練時間從 16 分鐘縮短至約 4 分鐘。

MLPerf Endpoints 的代理式推論結果可信度如何?

據 NVIDIA 說明,MLPerf Endpoints 以真實的代理式程式設計與企業工作流程測試系統,並檢查代理是否仍正確完成任務。AI 每一步運算都會產生 tokens(AI 處理與生成內容的基本單位)。「每瓦吞吐量」衡量的是系統每消耗一瓦電力,能完成多少代理工作。在 Kimi K3 的暫定結果中,NVIDIA 稱 Vera Rubin NVL72 在相同回應速度下,每瓦吞吐量超過 GB300 NVL72 的 10 倍。

NVIDIA 的註腳指出,GB300 成績已由 MLCommons 驗證,但 Vera Rubin 的暫定結果尚待驗證,且可能隨同儕審查而變動。因此這個 10 倍數字應視為廠商公布的初步數據。

NVIDIA 註腳列出的 MLPerf Endpoints Kimi K3 執行資料(比較基準為每位使用者至少 50 tokens/sec)
項目Vera Rubin NVL72GB300 NVL72
Kimi K3 加速器數量3248
並行查詢量1,02448
系統吞吐量(tokens/sec)41,414.22,210.4
運作功耗100.89 kW60 kW
驗證狀態暫定,待 MLCommons 驗證MLCommons 已驗證

哪些合作夥伴參與,對一般使用者有何影響?

NVIDIA 表示 MLPerf Training 有 20 個機構提交成績,包括 ASUS、Azure、Cisco、CoreWeave、Dell Technologies、Google Cloud、HPE、Oracle、Supermicro 與佛羅里達大學。NVIDIA 另稱,它以 GB300 系統執行了本輪最大規模的 10,240 顆 GPU 測試,Microsoft Azure 則以 GB200 系統、同樣 10,240 顆 GPU 達到相同規模。

NVIDIA 的論點是,訓練更快能讓更聰明的代理更早到使用者手上;推論每瓦產出更多 tokens,則代表受電力限制的資料中心能服務更多代理。NVIDIA 也稱 Vera Rubin 在 SemiAnalysis AgentX 與 Artificial Analysis AgentPerf 等獨立基準上同樣領先。

常見問題

Vera Rubin 已經可以買到或使用了嗎?

NVIDIA 這篇文章只公布基準成績,並未說明供貨時程、價格或地區供應,因此無法從此來源判斷。

「橫掃」是什麼意思?

NVIDIA 表示其平台是本輪唯一在每項 MLPerf Training v6.1 基準都有成績的平台,並稱橫掃所有基準。這是 NVIDIA 的表述。

10 倍每瓦吞吐量是最終結果嗎?

不是。NVIDIA 註明 Kimi K3 的 Vera Rubin 結果為暫定,待 MLCommons 驗證,可能因同儕審查而變動。

成績之後還會改變嗎?

NVIDIA 表示 Vera Rubin 的效能會透過 CUDA 軟體堆疊持續優化而提升,並稱目前結果只是開始。

查看同分類最新消息

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享