生活分享

Google Cloud 推出 Z4M 儲存最佳化機型:大容量本機 SSD 加 400 Gbps 高速網路,鎖定 AI 訓練與大型資料處理

Google Cloud 宣布 Z4M 儲存最佳化機器系列正式推出(GA),可租用虛擬機或整台實體伺服器(裸機)。Z4M 主打大容量本機 SSD 與 400 Gbps Cloud RDMA 網路,主要影響在 Google Cloud 上進行 AI 訓練、執行大型檔案系統或資料庫的企業與開發者。效能數字為 Google Cloud 與合作夥伴自述。

閱讀時間約 6 分鐘

Google Cloud 推出 Z4M 儲存最佳化機型:大容量本機 SSD 加 400 Gbps 高速網路,鎖定 AI 訓練與大型資料處理
圖片:Mokaair (Original editorial artwork)

發生了什麼事

Google Cloud 宣布,新一代儲存最佳化 Z4M 機器系列已在 Google Compute Engine 正式推出(GA)。客戶可以選擇虛擬機(VM),也就是從實體伺服器切分出來的虛擬電腦;也可以選擇裸機(bare-metal)執行個體,也就是直接使用實體硬體、沒有虛擬化層的伺服器。

據 Google Cloud 說明,Z4M 是為三類 AI/ML 訓練與推論工作負載而設計。第一類是檢查點(checkpointing),也就是在訓練過程中定期儲存進度。第二類是分散式鍵值(KV)快取,也就是把常用資料分散暫存在多台機器上,以便快速取用。第三類是平行檔案系統,也就是讓許多伺服器同時讀寫同一批資料的儲存系統。Google Cloud 表示,Z4M 採用第五代 Intel Xeon Scalable 處理器與最新的 Titanium 強化功能,最高提供 168,000 GiB 本機 SSD(LSSD)與最高 400 Gbps 的 Cloud RDMA 網路。

RDMA(遠端直接記憶體存取)是一種讓伺服器之間更直接交換資料的網路技術。TCP 則是一般網路常用的傳輸方式。Google Cloud 指出,與 TCP 網路相比,RDMA 可將資料存取延遲最多降低 60%。

規格與效能重點

Google Cloud 表示,Z4M VM 與裸機執行個體最多提供 192 個 vCPU(虛擬處理器核心)與 1,536 GiB 記憶體。VM 每個 vCPU 對應 875 GiB 的 LSSD 容量。IOPS 指每秒可完成的讀寫次數。該公司稱 Z4M 最高達 1,560 萬次隨機讀取 IOPS(15.6M),循序讀取吞吐量最高達每秒 75,600 MiB。與上一代 Z3 相比,LSSD 效能與吞吐量最多分別提升 70% 與 110%。

在網路方面,Google Cloud 說明 Z4M 透過 NVIDIA GPUDirect Storage 與 TPUDirect Storage 以線速傳輸資料。線速指以網路頻寬上限的速度傳輸,目的是協助讓 GPU 與 TPU 保持高使用率。Google Cloud 也表示,Z4M 的 LSSD 對網路吞吐量比例為 1.4:1,可以一邊在本機處理資料,一邊以全速把資料傳出去。

Google Cloud 的文章也引述合作夥伴自行測試的結果。Silk 的 Adik Sokolovski 表示,與 TCP 相比,Cloud RDMA 在 Z4M 上延遲最多低 3.7 倍,CPU 使用量最多低 6 倍。WEKA 的 Ajay Singh 表示,Z4M 的讀取吞吐量約為 Z3 系列的兩倍,IOPS 最多多 79%。這些是廠商自述的測試,並非獨立驗證。

Z4M VM 與裸機執行個體比較(資料來源:Google Cloud)
項目Z4M VMZ4M 裸機執行個體
Google Cloud 描述的特色LSSD 總容量大,每 vCPU 875 GiB LSSD直接存取實體硬體、無虛擬化層,適合自訂 hypervisor(管理虛擬機的軟體)與特定授權需求
規格上限最高 192 vCPU、1,536 GiB 記憶體、168,000 GiB LSSD同樣最高 192 vCPU、1,536 GiB 記憶體、168,000 GiB LSSD
維護時行為LSSD 在 42,000 GiB 以下可即時遷移;84,000 GiB 以上須終止並重啟(資料保留)須終止並重啟(資料於計畫性維護中保留)
Google Cloud 提到的適用情境AI/ML、平行檔案系統、企業資料庫代理式 AI 的隔離沙盒(包括 Agent Substrate)、自訂 hypervisor

誰會受影響、為什麼重要

訓練 AI 模型時,昂貴的 GPU 與 TPU 如果等不到資料,就會閒置。Google Cloud 推出 Z4M 的訴求,是讓資料更快送到這些加速器,讓它們保持高使用率。

Google Cloud 列出的目標情境有三類。第一類是 AI/ML 訓練與推論。第二類是平行檔案系統與企業級儲存,Google Cloud 點名了 Weka、Sycomp、Silk 與 VDURA。第三類是 SQL、NoSQL 與向量資料庫等關鍵企業資料庫。Hyperdisk 是 Google Cloud 透過網路連接的區塊儲存。Google Cloud 表示,Z4M 也支援 Hyperdisk Balanced、Hyperdisk Throughput 與 Hyperdisk Extreme,每個執行個體最高 512 TiB。Google Cloud 稱 Hyperdisk Balanced 最高 320K IOPS,Hyperdisk Extreme 最高 500K IOPS 與 12,500 MiB/s。

在管理上,Google Cloud 表示可以使用 Cluster Director 與 Cluster Toolkit 設定、部署與管理大型 Z4M 叢集。Z4M 也能與 GPU、TPU 叢集放在一起(共置)。Google Cloud 也表示,系統會在需要維護的數天前通知用戶。

如何開始

據 Google Cloud 說明,在 Google Cloud 主控台建立新的 VM 或 GKE 節點集區時,到「儲存最佳化(Storage-Optimized)」機器系列下選擇 Z4M 即可。GKE 節點集區是 Google 容器服務中的一組伺服器。供應區域請向 Google Cloud 業務代表確認。

常見問題

Z4M 是什麼?

據 Google Cloud 說明,Z4M 是 Compute Engine 新一代的儲存最佳化機器系列,可以租用虛擬機或裸機。Z4M 主打大容量本機 SSD 與 400 Gbps Cloud RDMA 網路,適用 AI/ML 與平行檔案系統等需要大量讀寫資料的工作。

效能數字可靠嗎?

這些數字來自 Google Cloud 的公告,其中也引述了合作夥伴 Silk 與 WEKA 自行測試的結果。目前沒有獨立第三方確認,應視為廠商自述。

Z4M 哪裡可以使用?

Google Cloud 表示 Z4M 已在全球部分區域提供,實際供應區域須洽詢其業務代表。

維護時我的執行個體會怎樣?

Google Cloud 說明,LSSD 在 42,000 GiB 以下的 VM 可以在維護時即時遷移,不必關機。LSSD 在 84,000 GiB 以上的 VM 與裸機執行個體則須終止並重啟,資料會在計畫性維護中保留。系統會提前數天通知。

查看同分類最新消息

資料來源

生活分享