生活分享

NVIDIA 在 OCP 開放 Vera Rubin 機櫃設計,並與夥伴發布 AI 工廠開放標準

NVIDIA 在 OCP 全球高峰會宣布,把新一代 Vera Rubin 伺服器機櫃的設計開放給業界,並與 Meta、Google、Cisco 等夥伴公布網路、電力與軟體進展。這是資料中心層級的消息,主要影響設備製造商與資料中心營運商;內容來自 NVIDIA 官方部落格。

閱讀時間約 5 分鐘

NVIDIA 在 OCP 開放 Vera Rubin 機櫃設計,並與夥伴發布 AI 工廠開放標準
圖片:Mokaair (Original editorial artwork)

事件重點:NVIDIA 在 OCP 宣布了什麼

NVIDIA 宣布,在聖荷西麥克內里會議中心舉行的 Open Compute Project(OCP,推動資料中心硬體開放規格的產業社群)全球高峰會上,推出新的合作與貢獻,目標是為下一代 AI 基礎設施建立共同基礎。NVIDIA 把執行 AI 運算的大型資料中心稱為「AI 工廠」。

據 NVIDIA 表示,公司透過開放的 NVIDIA MGX 架構,將 Vera Rubin 機櫃(放置伺服器的機架)與運算托盤(機櫃內的運算模組)設計貢獻給 OCP,讓系統製造商有共同基礎來開發下一代 AI 工廠基礎設施。NVIDIA 並稱,這些成果展現其「極致協同設計」結合開放標準,可加快部署、提升能源效率,並提高每瓦 token 產出(每單位電力能產生的 AI 輸出量)。

機櫃、軟體與標準的細節

NVIDIA 指出,MGX 1.2 規格加入機櫃級盲插液冷(設備推入機櫃即可接上液冷管路)、可互通的機櫃級互連基礎設施、液冷 5,000A 匯流排(機櫃內輸送大電流的導電排),以及原生 19 吋設備支援,且架構支援最高 250kW 的機櫃部署。

NVIDIA 另表示,Vera CPU 機櫃設計規格把 MGX 延伸到加速運算之外,設計用於支援工具呼叫、協調調度與沙箱執行,讓 AI 代理(能自行呼叫工具完成任務的 AI 程式)即時與應用程式、資料和服務互動。

在軟體方面,NVIDIA 稱已為 DSX OS(其 AI 工廠平台的開放作業層)擴充開源元件,涵蓋網路設定(Config Manager)、叢集驗證(Cluster Readiness Engine)、機櫃管理(Rack Management Service)與裸機佈建(Cluster API Provider,也就是在尚未安裝系統的實體伺服器上完成安裝設定)。NVIDIA 說明,Cluster API Provider 可把原始 AI 硬體在數小時而非數天內變成可投入生產的叢集,這些元件源自其營運 NVIDIA DGX Cloud 的經驗。

在標準方面,NVIDIA 表示與 AMD、Google、Meta 共同發布 Open Data Center Specification v0.7,涵蓋電力架構、冷卻與實體配置。另有由 Google、Meta、Microsoft 與 NVIDIA 發布的 OCP 電網韌性規格,NVIDIA 稱其規範大型 AI 設施在電網擾動時應保持連線、自動回應,並在不到兩秒內恢復至接近滿載。

夥伴進展一覽

各項合作內容與數字皆為 NVIDIA 官方部落格的說法
夥伴NVIDIA 描述的內容重點數字(NVIDIA 說法)
Visionbay公布 K-1 AI 工廠平台計畫,採 800 VDC(800 伏特直流供電)架構,結合 Vertiv 電力與散熱技術可分階段導入 800 VDC
Meta採用 Spectrum-6 乙太網交換器;自家 N-IceCube 交換器執行 FBOSS(Meta 的開源網路作業系統),裝入液冷 IcePack 機櫃102.4Tb/s;交換容量為 Spectrum-4 的兩倍;Multiplane 最多八個網路平面,可擴展至 10 萬以上 GPU
Cisco(另有 TE Connectivity、Amphenol 合作)宣布 USFP 計畫,這是一種新的可插拔光模組(連接網路設備與光纖的收發模組)規格封裝大小約同 OSFP;16 條雙工通道,計畫擴至 32;頻寬密度為 4 倍;能源效率約 1.3 倍
GoogleFalcon Transport 將支援未來的 ConnectX-10 SuperNIC 與 BlueField DPU應用程式保留標準 RDMA(遠端直接記憶體存取)程式介面

NVIDIA 說明,Visionbay 的 K-1 設計為在效益最大之處逐步導入 800 VDC,而非第一天就全面轉換。針對 Meta 採用的 Multiplane 技術(把 GPU 流量分散到多個獨立網路平面),NVIDIA 稱元件故障時流量會轉移到其餘平面,即使頻寬降低也能維持運作。NVIDIA 並稱 Falcon 是在乙太網上可靠傳輸資料的協定,具備多路徑負載平衡、可程式壅塞控制、硬體遺失恢復與每連線安全機制。

對一般讀者的實際意義

這是資料中心層級的基礎設施消息,不是消費性產品發表。依 NVIDIA 的說法,開放標準讓設備製造商、託管業者與資料中心營運商能依共同規格設計與製造,而不必等待個別客戶的專有規格。若如其所言,長期可能讓 AI 設施建置更有效率,但實際成效仍待各業者落地後觀察。

常見問題

OCP 是什麼?NVIDIA 貢獻了什麼?

OCP 是 Open Compute Project,一個推動資料中心硬體開放規格的產業社群。NVIDIA 表示,它透過開放的 MGX 架構,把 Vera Rubin 機櫃與運算托盤的關鍵設計貢獻給 OCP,供系統製造商作為共同基礎。

這些數字與效益是誰的說法?

本文內容只來自 NVIDIA 官方部落格,所有描述與數字都應視為 NVIDIA 與其夥伴的說法。

USFP 和 Falcon 支援已經上市了嗎?

依 NVIDIA 的表述,USFP 是「宣布計畫」的規格,Falcon 支援則針對「未來」的 ConnectX-10 與 BlueField DPU,NVIDIA 並未提供上市時程。

這會直接影響一般消費者嗎?

NVIDIA 這次公布的內容聚焦資料中心與 AI 基礎設施,並未談及消費者產品。

查看同分類最新消息

資料來源

生活分享