生活分享

AWS:SageMaker Studio 可直接管理 HyperPod Spaces,日常操作免用命令列

AWS 於 2026 年 10 月 6 日發文表示,資料科學家可直接在 SageMaker Studio 網頁介面建立、啟動與停止 HyperPod 叢集上的 Spaces(互動式開發環境),不必再輸入指令。本文整理 AWS 說明的功能、管理員須先完成的設定、啟動時間與費用。

閱讀時間約 7 分鐘

AWS:SageMaker Studio 可直接管理 HyperPod Spaces,日常操作免用命令列
圖片:Mokaair (Original editorial artwork)

AWS 宣布了什麼

根據 AWS 於 2026 年 10 月 6 日刊出的部落格文章,該公司近期推出一項新功能:使用者可以直接從 Amazon SageMaker Studio 的介面,在 SageMaker HyperPod EKS 叢集上建立與管理 SageMaker Spaces。Spaces 指的是直接在叢集上執行的互動式開發環境,例如 JupyterLab 筆記本或 Code Editor 程式編輯器。AWS 表示,資料科學家現在可以在 Studio 中建立、設定、啟動、停止與開啟 Spaces,而 HyperPod 叢集詳細頁面新增的「IDE and Notebooks」分頁提供完整的管理介面。

AWS 說明,SageMaker HyperPod 是為基礎模型大規模訓練與推論打造的基礎設施,搭配 Amazon EKS(Amazon Elastic Kubernetes Service)調度後,可在數百個加速器上執行分散式訓練,並內建韌性與自動故障復原。AWS 也提到,今年稍早已推出 SageMaker Spaces for HyperPod 附加元件,讓互動式開發工作可以和訓練工作、模型部署共用同一套基礎設施,並支援部分 GPU 配置,也就是只分配一部分 GPU 給某個環境使用。

  • 依 AWS 說明,可透過引導式表單設定運算、命名空間、儲存、映像,以及用來管理運算配額的 HyperPod Task Governance。
  • 可用可搜尋的表格檢視所有 Spaces 的名稱、應用程式類型、狀態、存取類型、儲存、GPU 與 vCPU 配置。
  • 可啟動與停止 Spaces,在不使用時釋出運算資源。
  • 可在瀏覽器開啟 JupyterLab 或 Code Editor,或透過 VS Code 等遠端 IDE(安裝在自己電腦上的開發工具)連線。

對使用者的實際影響

AWS 表示,過去建立與管理 Spaces 主要依賴 HyperPod CLI 或 kubectl 這類命令列指令,這種方式提供基礎設施管理員細部控制。偏好視覺化介面的資料科學家,依 AWS 說法現在可以使用這項 Studio 功能略過命令列工具,專注於模型開發。AWS 在文章結論中稱,團隊現在可以在數分鐘內從取得叢集存取權進展到執行中的 JupyterLab 或 Code Editor 環境,不需要學習 CLI 工具或 Kubernetes 概念。

對共用 HyperPod 叢集的團隊來說,日常開啟開發環境的步驟可能變得較接近一般網頁操作。AWS 也說明,工作內容保存在掛載的 Amazon EBS 磁碟區,因此停止再重新啟動 Space 不會遺失進度。至於遠端連線,AWS 表示「Open in VS Code」在內部使用 SSH-over-SSM 通道,不需要管理 SSH 金鑰或開放 22 連接埠。

管理員需要先完成的設定

這項功能並非開箱即用。依 AWS 說明,設定分為兩個角色:管理員準備叢集,資料科學家建立並開啟 Spaces。管理員需要完成的一次性設定如下。

  1. 安裝 SageMaker Spaces 附加元件:AWS 表示可選 Quick install 或 Custom install,其中 Custom install 是啟用網頁瀏覽器存取的必要選項。
  2. 設定 EKS access entries(叢集的存取權限):AWS 表示需將 AmazonSagemakerHyperpodSpacePolicy、AmazonSagemakerHyperpodUserClusterPolicy 與 AmazonSagemakerHyperpodSpaceTemplatePolicy 三項受管政策,附加到資料科學家使用的 IAM(AWS Identity and Access Management)角色。
  3. 啟用逐使用者身分傳遞:AWS 表示,若 Studio 網域建立於此整合推出之前,必須啟用這項設定,讓每位使用者在叢集上的操作歸屬到其在 EKS access entries 與 AWS CloudTrail 中的使用者設定檔,並落實 Space 擁有權,也就是記錄每個 Space 由誰建立、屬於私人或共用。

AWS 表示,更新網域設定後,既有執行中的應用程式不受影響,使用者下次登入時才會套用新設定。此外,AWS 列出多項選用功能,包括由管理員預先定義設定的 Space 範本、透過 Kueue 的 Task Governance 配額與佇列、依 Space 需求動態增減節點的 Karpenter 自動擴縮、閒置自動關閉、適用 A100/H100 硬體的 NVIDIA MIG 部分 GPU 配置、EFS/FSx 持久性磁碟區,以及託管於 Amazon ECR 的自訂映像。

啟動時間與費用

AWS 表示,在使用 Karpenter 自動擴縮且縮到零(沒有任何待命節點)的叢集上,首次建立 Space 預設會有 5–7 分鐘的冷啟動延遲,主要來自 Amazon EC2 執行個體啟動、Kubernetes 節點註冊與 SageMaker Distribution 映像拉取。AWS 介紹的超額佈建做法,是預先讓一批節點保持開機並下載好映像:以低優先權的佔位 Deployment 在每個預熱節點上放一個「佔位 Pod」,使用者建立 Space 時再由排程器讓 Space 取代(搶占)佔位 Pod,據稱可把啟動時間降到約 30–40 秒。

AWS 公布的啟動延遲,測試條件為 ml.m5.12xlarge 搭配約 3.5 GB 的 CPU 版 SageMaker Distribution 映像
啟動路徑AWS 公布的延遲
Space 與佔位 Pod 並存於同一節點約 14 秒
Space 搶占佔位 Pod約 35 秒
冷啟動(無預熱池)5–7 分鐘

費用方面,AWS 表示設定 SageMaker Spaces 附加元件不會產生額外費用,但使用者需支付 Spaces 消耗的 HyperPod 叢集運算,以及用於 SSH-over-SSM 遠端連線的 AWS Systems Manager Advanced On-Premises Instance 每小時費用。

常見問題

這項功能和以前有什麼不同?

AWS 表示,先前建立與管理 Spaces 主要依賴 HyperPod CLI 或 kubectl 指令;現在資料科學家可直接在 SageMaker Studio 的「IDE and Notebooks」分頁建立、設定、啟動、停止與開啟 Spaces。

資料科學家可以馬上使用嗎?

不一定。依 AWS 說明,管理員必須先在 HyperPod EKS 叢集安裝 SageMaker Spaces 附加元件、把三項受管政策附加到相關 IAM 角色;若 Studio 網域建立於此整合推出之前,還須啟用逐使用者身分傳遞。

啟動一個 Space 要等多久?

AWS 表示,在縮到零的叢集上冷啟動約需 5–7 分鐘;採用超額佈建並預熱節點後約 30–40 秒。AWS 註明這些數字僅適用 CPU,GPU Spaces 需要另外設定。

使用這項功能會多收費嗎?

AWS 表示設定附加元件本身不另收費,但需支付 Spaces 消耗的 HyperPod 叢集運算,以及 SSH-over-SSM 遠端連線所用的 AWS Systems Manager Advanced On-Premises Instance 每小時費用。若採用超額佈建,預熱節點也會產生額外成本。

這些資訊經過獨立驗證嗎?

沒有。本文所有內容均來自 AWS 官方部落格單一來源,包括啟動延遲數字在內,皆為 AWS 自行公布。

查看同分類最新消息

資料來源

生活分享