ライフスタイル

Amazon Bedrock ナレッジベースのAgentic RetrieveにAgentCoreメモリが追加:1回の呼び出しで会話を復元し、ユーザーのACLで文書を絞り込み

AWSによると、AgenticRetrieveStreamにmemoryConfigurationを加えると、Bedrock Managed Knowledge BaseがAgentCoreメモリと連携し、userContextで文書ACLも適用できる。オプトイン方式で、メモリリソースはナレッジベースと同一アカウントが必要。

ニュース日: 読了目安 10 分

LINEで送る
目次
  1. 1. 何が変わったのか?従来は何を自分で行う必要があったのか
  2. 2. 対応範囲と前提条件は?
  3. 3. 複数ユーザーで共用する場合、IDと分離はどう設計するか?
  4. 4. 実際の挙動、コスト、レイテンシで注意すべき点は?

AWSは機械学習ブログで、Amazon Bedrock Managed Knowledge Base(AWSが管理する企業文書向けナレッジベース)のAgentic RetrieveにAgentCoreメモリを組み合わせる方法を解説するチュートリアルを公開した。Agentic Retrieveは複数のサブクエリを自動的に計画して質問に答える機能で、AgentCoreメモリはユーザーの会話や個人的な事実を保持するメモリサービスである。AWSによると、この統合はオプトイン方式で後方互換である。記事にはプレビューやベータの表記はなく、例示されたリージョン以外の提供状況についての情報もない。ナレッジ検索型アプリを開発するチームにとっては、これまで自前で運用していた会話テーブル、履歴の再生、事実抽出の処理をサービス側に任せられる。

何が変わったのか?従来は何を自分で行う必要があったのか

AWSは、ユーザーはナレッジ系アプリが自分のことを覚えていると期待していると指摘する。後続の質問は前のターンの文脈に依存し、回答は数週間前に話した場所、役割、プランを反映すべきであり、それでいてユーザーが閲覧権限を持つ文書だけに基づき、引用を付ける必要がある。AWSによると、Managed Knowledge BaseとAgentCoreメモリは、会話の保存、会話からの事実の抽出、関連する事実の検索への反映という3つを引き受けるようになった。

方法は、AgenticRetrieveStreamのリクエストにmemoryConfigurationを加えることである。AWSによると、同じ呼び出しの中でサービスが会話を復元し、プランナー(何を検索するかを決めるコンポーネント)がユーザーの事実が必要なタイミングを自ら判断して長期メモリから取得し、ナレッジベースへ送るサブクエリの組み立てに使う。回答の生成後、サービスはそのターンのやり取りをメモリに書き戻す。AWSは、導入後はアプリケーション側に会話テーブル、履歴の再生、抽出パイプラインが不要になる一方、ユーザーの認証とユーザーIDの受け渡しは引き続きアプリケーションの責任だと説明している。

AWSの記事にある主な設定と動作
項目AWSが説明する方法
会話履歴sessionBindingでサービスが復元・書き込み。messagesには現在の質問のみを入れる
文書の権限userContext.userIdに認証済みのメールアドレスを渡し、ナレッジベースがACLで絞り込む
メモリの識別actorIdにCognitoのsubを使い、名前空間はactorIdをルートにする
書き込みモードpersistenceModeの既定はDEFAULT(generateResponseがtrueである必要あり)。NONEは復元のみで書き込まない
メモリ失敗時リクエストは失敗せず、トレースにFAILEDイベントが出て、回答はナレッジベースのみで生成される

対応範囲と前提条件は?

AWSによると、この統合で使うメモリリソースはナレッジベースと同じAWSアカウントにあり、ACTIVE状態である必要がある。記事の例では米国西部(オレゴン)のus-west-2リージョンを使い、Python 3.10以上とBoto3 1.43.72以上が必要である。そのほか、S3バケット、Cognitoユーザープール、IAMロール、ナレッジベース、メモリリソースを作成する権限も必要となる。他のリージョンでの提供状況は記事に記載がない。

ACL(アクセス制御リスト)は、誰がどの文書を読めるかを列挙した一覧である。AWSはさらに、aclEnabledはデータソース作成後に変更できないと述べている。ACLエントリでカバーされていない文書は取り込まれず、メールアドレスがどのエントリにも一致しないユーザーは、そのデータソースから結果を得られない。1つのリクエストで指定できるナレッジベースは最大5つである。

複数ユーザーで共用する場合、IDと分離はどう設計するか?

AWSの例では、従業員がAmazon Cognito(AWSのサインインサービス)でログインする。ログイン後に得られるIDトークンのうち、sub(不変のユーザー番号)をメモリのactorId(メモリの所有者識別子)と名前空間に使い、認証済みのメールアドレスをuserContext.userIdに使う。これらの値はいずれも、アプリケーションが検証済みトークンから取得したものであり、リクエスト本文由来ではない。AWSは、メールアドレスは変更されたり、従業員の退職後に別の人へ再割り当てされたりする可能性があり、その場合は新しいユーザーが古いメモリを引き継いでしまうため、actorIdには決して変わらず再利用もされないIDを使うべきだと説明している。

メモリ戦略についてAWSは、要約戦略はユーザーが何気なく触れた事実を捉え、ユーザー嗜好戦略はユーザーが明示した好みを抽出するため、両方の併用を勧めている。retrievalConfigsは1件しか受け付けないため、単一のnamespacePathでそのユーザーのすべてのレコードを網羅する必要があり、例では{actorId}をルート直下に置いている。

多層防御(保護をもう一層加えること)として、AWSはユーザーごとにuserIdタグ付きのIAMロールセッションを作成し、bedrock-agentcore:actorIdとnamespacePathの条件キーを組み合わせることを推奨している。デモでは、他人のactorIdを指定したリクエストではメモリ操作がAccessDeniedExceptionを返し、回答はナレッジベースが生成した。

実際の挙動、コスト、レイテンシで注意すべき点は?

AWSの実行例では、エンジニアのMayaがオンコール手当を尋ねて回答を得た。営業のSofiaが同じ質問をしたところ、エンジニアリング文書を読む権限がないため、アクセス可能なソースにはオンコール手当の記載がないという回答になった。この絞り込みはナレッジベースが行っている。別の例では、MayaがVPNに関する会話の中でフランクフルトのオフィス勤務だと述べ、その後の新しい会話でPTO(有給休暇)について質問した。長期メモリで1件のレコードがヒットし、回答にはフランクフルトの規定が反映された。同じ質問をしたLiamではメモリレコードが0件で、3つのオフィスを並べた一般的な表が返され、どのオフィスに所属しているか教えてほしいと尋ねられた。

AWSによると、長期メモリの抽出は非同期で行われる。実行例では最初のレコードが第2ターンの81秒後に現れたが、この時間は保証ではなく、レコードが利用可能になるまで時間がかかる前提で設計すべきである。レイテンシについては、セッション復元で約200ミリ秒増え、ナレッジベース1つ、ACL、メモリを含む1ターン全体は4〜10秒で、主にプランニングの反復回数で決まる。これらは観測値でありサービスの約束ではない。課金については、agentic retrievalは呼び出しごとの料金に基盤となる検索の料金が加わり、メモリ操作はAgentCoreメモリの利用量に計上される。

よくある質問

この機能への移行は必須ですか?

いいえ。AWSはこの統合をオプトインかつ後方互換としている。リクエストごとに渡す履歴を厳密に制御したい場合(たとえば履歴を自分で編集する場合)は、引き続きmessagesを送ることをAWSは勧めている。ただしmessagesとsessionBindingは同一リクエストで併用できない。

メモリサービスが故障すると、回答は失敗しますか?

失敗しない。AWSによると、メモリ操作はベストエフォートで行われる。メモリ呼び出しが失敗または拒否されてもリクエストは失敗せず、トレースにFAILEDイベントが出て、回答はナレッジベースのみで生成される。

sessionIdはどう管理すればよいですか?

新しい会話のsessionIdはアプリケーションが生成してクライアントに返し、クライアントは後続のターンでそれを送り返して会話を継続する。AWSは、短期メモリがactorIdで区別され、actorIdがトークン由来であるため、この方法は安全だと説明している。AWSは会話の間ずっと安定したsessionIdを使うよう勧めている。リクエストごとに新しいIDを使っても受け付けられるが、連続性が失われ、ターンごとに要約レコードが1件作られる。

どの会話イベントが復元されますか?

AWSによると、復元されるのはUSERとASSISTANTの会話イベントのみで、他のシステムが書き込んだTOOLやOTHERロールのイベントはスキップされる。

このトピックの最新ニュースを見る

この記事が役に立ったら、必要な方にシェアしてください

LINEで送る

出典

上記の参考資料および記載の確認日時点の情報をもとに整理しています。料金・時刻・機能・利用規約は変更される場合があるため、ご旅行や予約・購入の前には該当する公式サイトで最新情報をご確認ください。

ライフスタイル