生活分享

Lambda 採用 NVIDIA Photonics CPO 交換器串連逾 1 萬顆 GB300 GPU,NVIDIA 稱功耗效率最高提升 5 倍

NVIDIA 宣布雲端業者 Lambda 以 NVIDIA Photonics 共封裝光學交換器連接 GB300 NVL72 機櫃,規模逾 1 萬顆 GPU。延遲、溫度等數據為 NVIDIA 部落格引述的公司自家測試結果。

新聞日期: 閱讀時間約 4 分鐘

LINE 分享
目錄
  1. 1. 這次部署改變了什麼?CPO 與傳統可插拔光學差在哪
  2. 2. 對 AI 訓練與推論的實際影響是什麼?
  3. 3. Lambda 的配置規格與限制有哪些?

NVIDIA 在 2026 年 11 月 16 日的部落格中表示,雲端業者 Lambda 已在逾 1 萬顆 GPU 規模的 GB300 NVL72 部署中,使用 NVIDIA Photonics 共封裝光學(CPO)交換器。GB300 NVL72 是 NVIDIA 的整櫃式 GPU 系統;CPO 指把負責光訊號轉換的元件直接和交換器晶片封裝在一起。文中未說明明確的上線階段或供應範圍,內容屬 NVIDIA 與公司的自述與自家測試結果。

這次部署改變了什麼?CPO 與傳統可插拔光學差在哪

傳統做法是在交換器連接埠插上獨立的光學收發模組,也就是「可插拔光學」。根據 NVIDIA,NVIDIA Photonics 改以交換器封裝上的共封裝光學引擎取代這些可插拔收發模組。光學引擎與晶片位於同一封裝,負責把電訊號轉為光訊號,經光纖在叢集各部分間傳輸。NVIDIA 說,共封裝使電氣路徑由英寸縮短至毫米,降低訊號損耗,也不再需要 retimer 晶片(用來重整長距離電訊號的中繼晶片),從而減少耗電與訊號路徑上的零件數。

依 NVIDIA 部落格整理的比較,數據為廠商與公司自述
面向NVIDIA Photonics CPO傳統可插拔光學
功耗效率最高 5 倍(NVIDIA 稱)基準
可靠度最高 15 倍(NVIDIA 稱)基準
雷射數量減少為 1/4(NVIDIA 稱)基準
光學元件中位溫度(公司回報)36°C51°C
雷射故障時可現場更換光源模組需更換整個模組
吞吐量與可插拔相同基準

對 AI 訓練與推論的實際影響是什麼?

NVIDIA 指出,大型訓練工作中一條連結中斷就可能讓數千顆 GPU 停擺;在代理式(agentic)推論中,一次網路中斷也可能對許多代理造成連鎖延遲。NVIDIA 表示網路位居 AI 工廠生產力的核心,每一瓦用在網路上的電力,也就無法用於運算。

在公司測試中,網路延遲在機櫃規模下降約 4%,在 Pod 規模最多降約 10%。機櫃是單一機架的 GPU 系統,可擴展單元與 Pod 則是由多個機櫃組成、規模逐級變大的群組。跨機櫃、可擴展單元與 Pod 配置,吞吐量與傳統可插拔光學相同。Lambda 雲端服務總裁 Dave Ward 表示,網路必須跟上日益龐大的 AI 叢集需求。

Lambda 的配置規格與限制有哪些?

據 NVIDIA,Lambda 使用的交換器各有 144 個埠、每埠 800Gb/s,並以液冷帶走交換器晶片與光學引擎的熱量。每台交換器有 18 個可拆卸外接光源供應光學引擎;技術人員可在現場更換光源模組。文中另提到公司測試發現訊號完整性更穩定。

常見問題

這項技術已經全面上市了嗎?

NVIDIA 的部落格只描述 Lambda 的部署,未說明一般供貨、方案或地區範圍,因此無法由此判斷全面上市狀態。

CPO 交換器會讓網路變快嗎?

依 NVIDIA 說法,吞吐量與可插拔光學相同,但在公司測試中延遲在機櫃規模降約 4%、Pod 規模最多降約 10%。

雷射壞了怎麼辦?

NVIDIA 表示,技術人員可在現場更換光源模組,不必像傳統可插拔光學那樣更換整個模組。

查看同分類最新消息

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享