PolyAI Dialog-RSN-1 上架 AWS Marketplace 與 SageMaker JumpStart:一鍵部署即時語音對話模型,目前僅限英文

AWS 宣布 PolyAI 的即時對話推理模型 Dialog-RSN-1 現可在 AWS Marketplace 與 SageMaker JumpStart 取得,可部署於客戶自己的 AWS 帳戶。目前僅支援英文,連線最長 30 分鐘。

新聞日期: 閱讀時間約 5 分鐘

LINE 分享
目錄
  1. 1. Dialog-RSN-1 是什麼?和傳統語音代理有何不同?
  2. 2. 如何取得?支援哪些部署方式與規格?
  3. 3. 對現有工作流程有什麼影響?
  4. 4. 常見問題

AWS 在機器學習部落格宣布,PolyAI 的 Dialog-RSN-1 現已可在 AWS Marketplace 與 Amazon SageMaker JumpStart(SageMaker AI 內的機器學習模型中心)取得,AWS 稱其為 PolyAI 首個上架 AWS Marketplace 的模型。AWS 表示今天起即可使用,未提及預覽版或候補名單,但也未說明開放的地區範圍。對需要建置電話客服語音代理的團隊而言,這代表可用既有 AWS 的帳務、網路與權限機制部署即時對話模型。

Dialog-RSN-1 是什麼?和傳統語音代理有何不同?

根據 AWS 說明,Dialog-RSN-1 是專為即時複雜對話打造的推理模型,可聽取通話、推理並即時行動。AWS 指出,它在單一流程中直接感知來電者音訊、推理需求並回應,沒有獨立的語音轉文字步驟,也沒有另一個決定何時開口的模型,因此減少多次交接。

AWS 稱,由於模型直接處理音訊,能捕捉語氣、遲疑與時機等純逐字稿會遺失的訊號,並自行判斷回應時機。AWS 也表示,通話量高峰時 barge-in(來電者在系統說話時插話打斷)仍可運作,且逐字稿來自音訊本身。這些屬 AWS 與 PolyAI 的產品描述,文中未提供可供比較的效能數字。

如何取得?支援哪些部署方式與規格?

AWS 說明有兩條路徑:透過 AWS Marketplace 訂閱並部署為 SageMaker 端點(endpoint,讓應用程式可連線呼叫模型的線上服務),或直接從 SageMaker JumpStart 部署。JumpStart 的步驟為:在 SageMaker AI 主控台開啟 Model Hub,從 JumpStart 目錄選擇 Dialog-RSN-1,然後選擇 Deploy。自動化流程也可用 SageMaker Python SDK,AWS 並提供 GitHub 儲存庫說明程式路徑。

Dialog-RSN-1 在 SageMaker 上的主要規格(依 AWS 部落格整理)
項目AWS 所述內容
取得管道AWS Marketplace 訂閱;SageMaker JumpStart / Studio 部署
通訊協定OpenAI Realtime 協定,透過 PolyAI 的 bridge 並更換 base URL
音訊輸入16 位元 PCM(未壓縮的數位音訊)單聲道,16 或 24 kHz;G.711 或 Opus 須先轉碼
連線時長最長 30 分鐘
語言目前僅英文
最佳化設定檔延遲最佳化、吞吐量最佳化、成本最佳化、平衡
治理與監控使用者自己的 VPC、IAM 角色與 CloudWatch

對現有工作流程有什麼影響?

AWS 表示,使用者仍保有協調流程、電話整合與商業邏輯,模型負責理解即時通話並回應。端點部署於客戶的 VPC(虛擬私有雲,即客戶在 AWS 上隔離的私有網路),以 IAM(身分與存取管理)角色控管存取,並沿用 CloudWatch 日誌與指標;費用透過客戶的 AWS 帳戶計費。AWS 稱推論在客戶帳戶內進行,來電音訊與逐字稿留在可控邊界內,有助於支持資料駐留與稽核需求。

在評估方面,AWS 稱 JumpStart 目錄提供概覽與範例筆記本,可部署端點後執行 PolyAI 的範例筆記本,串流錄製的來電音訊並輸出模型的輪替決策、回覆與逐字稿。部署前還會顯示 P50 延遲(一半請求能在此時間內完成)、首個 token 時間(模型開始產生第一段輸出所需時間)與吞吐量,協助選擇 ml.* 執行個體規格。

常見問題

Dialog-RSN-1 需要自己準備語音轉文字服務嗎?

依 AWS 描述,模型直接接收來電者音訊,沒有獨立的語音轉文字步驟,逐字稿由音訊本身產生。電話整合與商業邏輯則仍由使用者負責。

既有的 Realtime 用戶端能直接使用嗎?

AWS 表示端點支援 OpenAI Realtime 協定,既有 Realtime 用戶端可透過 PolyAI 的 bridge,更換 base URL 後連線。

JumpStart 的四種最佳化設定檔有何差別?

延遲最佳化針對互動式即時通話,降低首個 token 時間;吞吐量最佳化提高每秒 token,適合高通話量;成本最佳化降低每次請求成本;平衡則是一般用途的折衷。

支援中文或其他語言嗎?

AWS 指出模型目前僅支援英文,未提及其他語言的時程。

價格是多少?

AWS 部落格未提供價格,僅說明費用透過客戶的 AWS 帳戶計費。

查看同分類最新消息

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享