PolyAI Dialog-RSN-1がAWS MarketplaceとSageMaker JumpStartに登場:リアルタイム音声対話モデルをワンクリックでデプロイ、現時点では英語のみ

AWSは、PolyAIのリアルタイム対話推論モデルDialog-RSN-1がAWS MarketplaceとSageMaker JumpStartで利用可能になり、顧客自身のAWSアカウントにデプロイできると発表した。現在は英語のみ対応で、接続は最長30分。

ニュース日: 読了目安 7 分

LINEで送る
目次
  1. 1. Dialog-RSN-1とは?従来の音声エージェントとどう違うのか
  2. 2. 入手方法は?対応するデプロイ方法と仕様
  3. 3. 既存のワークフローへの影響は?
  4. 4. よくある質問

AWSは機械学習ブログで、PolyAIのDialog-RSN-1がAWS MarketplaceおよびAmazon SageMaker JumpStart(SageMaker AI内の機械学習モデルハブ)で利用可能になったと発表した。AWSはこれをPolyAIにとってAWS Marketplace初のモデルとしている。AWSは本日から利用できるとしており、プレビュー版やウェイトリストには触れていないが、提供リージョンの範囲も説明していない。電話対応の音声エージェントを構築するチームにとっては、既存のAWSの課金、ネットワーク、権限の仕組みでリアルタイム対話モデルをデプロイできることを意味する。

Dialog-RSN-1とは?従来の音声エージェントとどう違うのか

AWSの説明によると、Dialog-RSN-1はリアルタイムの複雑な対話のために作られた推論モデルで、通話を聞き、推論し、リアルタイムに行動できる。AWSは、単一の流れの中で発信者の音声を直接認識し、ニーズを推論して応答するため、独立した音声テキスト変換ステップも、話すタイミングを決める別のモデルも存在せず、複数の受け渡しが減ると述べている。

AWSは、モデルが音声を直接処理するため、文字起こしだけでは失われてしまう口調、ためらい、タイミングなどの信号を捉え、応答のタイミングも自ら判断できるとしている。また、通話量のピーク時でもbarge-in(システムが話している最中に発信者が割り込むこと)が機能し、文字起こしは音声そのものから得られるという。これらはAWSとPolyAIによる製品説明であり、記事内には比較可能な性能数値は示されていない。

入手方法は?対応するデプロイ方法と仕様

AWSは2つの経路を説明している。AWS Marketplaceでサブスクライブし、SageMakerエンドポイント(アプリケーションがモデルを呼び出すために接続するオンラインサービス)としてデプロイする方法と、SageMaker JumpStartから直接デプロイする方法だ。JumpStartの手順は、SageMaker AIコンソールでModel Hubを開き、JumpStartカタログからDialog-RSN-1を選んでDeployを選択する。自動化にはSageMaker Python SDKも使え、AWSはコードの流れを説明するGitHubリポジトリも提供している。

SageMaker上のDialog-RSN-1の主な仕様(AWSブログに基づく整理)
項目AWSの説明内容
入手経路AWS Marketplaceでのサブスクリプション、SageMaker JumpStart / Studioでのデプロイ
通信プロトコルOpenAI Realtimeプロトコル。PolyAIのbridge経由でbase URLを差し替える
音声入力16ビットPCM(非圧縮デジタル音声)モノラル、16または24 kHz。G.711やOpusは事前にトランスコードが必要
接続時間最長30分
言語現時点では英語のみ
最適化プロファイルレイテンシ最適化、スループット最適化、コスト最適化、バランス
ガバナンスと監視ユーザー自身のVPC、IAMロール、CloudWatch

既存のワークフローへの影響は?

AWSによると、オーケストレーション、電話連携、ビジネスロジックは引き続きユーザー側が保持し、モデルはリアルタイム通話の理解と応答を担う。エンドポイントは顧客のVPC(仮想プライベートクラウド、AWS上で顧客が分離して持つプライベートネットワーク)にデプロイされ、IAM(ID・アクセス管理)ロールでアクセスを制御し、CloudWatchのログとメトリクスをそのまま利用する。料金は顧客のAWSアカウント経由で請求される。AWSは、推論が顧客アカウント内で行われるため、通話音声と文字起こしを管理可能な境界内に留められ、データレジデンシーや監査の要件への対応に役立つとしている。

評価面では、AWSによればJumpStartカタログに概要とサンプルノートブックが用意されており、エンドポイントをデプロイしたあとPolyAIのサンプルノートブックを実行して、録音済みの通話音声をストリーミングし、モデルのターン判断、応答、文字起こしを出力できる。デプロイ前にはP50レイテンシ(リクエストの半数がこの時間内に完了する指標)、最初のトークンまでの時間(モデルが最初の出力を生成し始めるまでの時間)、スループットも表示され、ml.*インスタンスのサイズ選定に役立つ。

よくある質問

Dialog-RSN-1を使うのに音声テキスト変換サービスを別途用意する必要はありますか?

AWSの説明では、モデルは発信者の音声を直接受け取り、独立した音声テキスト変換ステップはなく、文字起こしは音声そのものから生成される。電話連携とビジネスロジックは引き続きユーザーの担当となる。

既存のRealtimeクライアントをそのまま使えますか?

AWSによると、エンドポイントはOpenAI Realtimeプロトコルに対応しており、既存のRealtimeクライアントはPolyAIのbridgeを介して、base URLを差し替えるだけで接続できる。

JumpStartの4つの最適化プロファイルの違いは?

レイテンシ最適化はインタラクティブなリアルタイム通話向けで、最初のトークンまでの時間を短縮する。スループット最適化は毎秒のトークン数を高め、高通話量に適する。コスト最適化はリクエストあたりのコストを下げる。バランスは汎用的な折衷案である。

日本語やほかの言語に対応していますか?

AWSは、モデルは現在英語のみ対応としており、ほかの言語の対応時期には触れていない。

価格はいくらですか?

AWSのブログには価格の記載がなく、料金が顧客のAWSアカウント経由で請求されると説明しているだけである。

このトピックの最新ニュースを見る

この記事が役に立ったら、必要な方にシェアしてください

LINEで送る

出典

上記の参考資料および記載の確認日時点の情報をもとに整理しています。料金・時刻・機能・利用規約は変更される場合があるため、ご旅行や予約・購入の前には該当する公式サイトで最新情報をご確認ください。

ライフスタイル