PolyAI Dialog-RSN-1 上架 AWS Marketplace 與 SageMaker JumpStart:一鍵部署即時語音對話模型,目前僅限英文
AWS 宣布 PolyAI 的即時對話推理模型 Dialog-RSN-1 現可在 AWS Marketplace 與 SageMaker JumpStart 取得,可部署於客戶自己的 AWS 帳戶。目前僅支援英文,連線最長 30 分鐘。
新聞日期: 閱讀時間約 5 分鐘
AWS 在機器學習部落格宣布,PolyAI 的 Dialog-RSN-1 現已可在 AWS Marketplace 與 Amazon SageMaker JumpStart(SageMaker AI 內的機器學習模型中心)取得,AWS 稱其為 PolyAI 首個上架 AWS Marketplace 的模型。AWS 表示今天起即可使用,未提及預覽版或候補名單,但也未說明開放的地區範圍。對需要建置電話客服語音代理的團隊而言,這代表可用既有 AWS 的帳務、網路與權限機制部署即時對話模型。
Dialog-RSN-1 是什麼?和傳統語音代理有何不同?
根據 AWS 說明,Dialog-RSN-1 是專為即時複雜對話打造的推理模型,可聽取通話、推理並即時行動。AWS 指出,它在單一流程中直接感知來電者音訊、推理需求並回應,沒有獨立的語音轉文字步驟,也沒有另一個決定何時開口的模型,因此減少多次交接。
AWS 稱,由於模型直接處理音訊,能捕捉語氣、遲疑與時機等純逐字稿會遺失的訊號,並自行判斷回應時機。AWS 也表示,通話量高峰時 barge-in(來電者在系統說話時插話打斷)仍可運作,且逐字稿來自音訊本身。這些屬 AWS 與 PolyAI 的產品描述,文中未提供可供比較的效能數字。
如何取得?支援哪些部署方式與規格?
AWS 說明有兩條路徑:透過 AWS Marketplace 訂閱並部署為 SageMaker 端點(endpoint,讓應用程式可連線呼叫模型的線上服務),或直接從 SageMaker JumpStart 部署。JumpStart 的步驟為:在 SageMaker AI 主控台開啟 Model Hub,從 JumpStart 目錄選擇 Dialog-RSN-1,然後選擇 Deploy。自動化流程也可用 SageMaker Python SDK,AWS 並提供 GitHub 儲存庫說明程式路徑。
| 項目 | AWS 所述內容 |
|---|---|
| 取得管道 | AWS Marketplace 訂閱;SageMaker JumpStart / Studio 部署 |
| 通訊協定 | OpenAI Realtime 協定,透過 PolyAI 的 bridge 並更換 base URL |
| 音訊輸入 | 16 位元 PCM(未壓縮的數位音訊)單聲道,16 或 24 kHz;G.711 或 Opus 須先轉碼 |
| 連線時長 | 最長 30 分鐘 |
| 語言 | 目前僅英文 |
| 最佳化設定檔 | 延遲最佳化、吞吐量最佳化、成本最佳化、平衡 |
| 治理與監控 | 使用者自己的 VPC、IAM 角色與 CloudWatch |
對現有工作流程有什麼影響?
AWS 表示,使用者仍保有協調流程、電話整合與商業邏輯,模型負責理解即時通話並回應。端點部署於客戶的 VPC(虛擬私有雲,即客戶在 AWS 上隔離的私有網路),以 IAM(身分與存取管理)角色控管存取,並沿用 CloudWatch 日誌與指標;費用透過客戶的 AWS 帳戶計費。AWS 稱推論在客戶帳戶內進行,來電音訊與逐字稿留在可控邊界內,有助於支持資料駐留與稽核需求。
在評估方面,AWS 稱 JumpStart 目錄提供概覽與範例筆記本,可部署端點後執行 PolyAI 的範例筆記本,串流錄製的來電音訊並輸出模型的輪替決策、回覆與逐字稿。部署前還會顯示 P50 延遲(一半請求能在此時間內完成)、首個 token 時間(模型開始產生第一段輸出所需時間)與吞吐量,協助選擇 ml.* 執行個體規格。
常見問題
Dialog-RSN-1 需要自己準備語音轉文字服務嗎?
依 AWS 描述,模型直接接收來電者音訊,沒有獨立的語音轉文字步驟,逐字稿由音訊本身產生。電話整合與商業邏輯則仍由使用者負責。
既有的 Realtime 用戶端能直接使用嗎?
AWS 表示端點支援 OpenAI Realtime 協定,既有 Realtime 用戶端可透過 PolyAI 的 bridge,更換 base URL 後連線。
JumpStart 的四種最佳化設定檔有何差別?
延遲最佳化針對互動式即時通話,降低首個 token 時間;吞吐量最佳化提高每秒 token,適合高通話量;成本最佳化降低每次請求成本;平衡則是一般用途的折衷。
支援中文或其他語言嗎?
AWS 指出模型目前僅支援英文,未提及其他語言的時程。
價格是多少?
AWS 部落格未提供價格,僅說明費用透過客戶的 AWS 帳戶計費。
覺得這篇整理實用嗎?分享給需要的朋友
同主題延伸閱讀
Signal 在 Android 與 iOS 27 預設封鎖截圖,阻止 Siri、Gemini 等 AI 代理讀取畫面
據 The Verge 報導,Signal 在 Android 與 iOS 27 上限制截圖,以防作業系統層級的 AI 代理讀取訊息內容;使用者可在設定中恢復截圖,但 Signal 警告會削弱隱私保障。
Claude Code 2.1.329:Code Mode 可搭配遙測、/tasks 整合排程任務、macOS computer use 安全規則收緊
Kimi Code CLI v2.7.0 新增原生 Bedrock provider:改用 AWS 憑證鏈連接 Kimi K3.1 Pro Highspeed
AWS 彙整 SageMaker 推論 13 項新功能:HyperPod 託管 NVIDIA Dynamo、MIG GPU 分割、跨區路由
資料來源
本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。