生活分享

Amazon Bedrock 知識庫 Agentic Retrieve 新增 AgentCore 記憶:單次呼叫還原對話、依使用者 ACL 過濾文件

AWS 說明,在 AgenticRetrieveStream 加入 memoryConfiguration,即可讓 Bedrock Managed Knowledge Base 結合 AgentCore memory,並以 userContext 套用文件 ACL。此整合為選擇加入,記憶資源須與知識庫同帳戶。

新聞日期: 閱讀時間約 7 分鐘

LINE 分享
目錄
  1. 1. 這次改了什麼?相較過去需要自己做哪些事
  2. 2. 支援範圍與前置條件是什麼?
  3. 3. 多使用者共用時,身分與隔離如何設計?
  4. 4. 實際表現與成本、延遲要注意什麼?

AWS 在機器學習部落格發布教學,說明如何讓 Amazon Bedrock Managed Knowledge Base(AWS 代管的企業文件知識庫)的 Agentic Retrieve 功能結合 AgentCore memory。Agentic Retrieve 會自動規劃多個子查詢來回答問題;AgentCore memory 則是可保存使用者對話與個人事實的記憶服務。根據 AWS,這項整合為選擇加入、向後相容。文中未標示預覽或測試階段,也沒有提供範例區域以外的可用性資訊。對開發知識問答應用的團隊來說,原本要自行維護的對話資料表、歷史重播與事實擷取流程,可以改由服務處理。

這次改了什麼?相較過去需要自己做哪些事

AWS 指出,使用者期待知識型應用記得自己。後續提問會依賴上一輪的脈絡,答案也應反映數週前提過的地點、角色或方案,同時仍只能根據使用者有權閱讀的文件回答,並附上引用。AWS 稱,Managed Knowledge Base 與 AgentCore memory 現在接手三件事:儲存對話、從對話擷取事實,以及把相關事實帶入搜尋。

做法是在 AgenticRetrieveStream 請求中加入 memoryConfiguration。AWS 表示,在同一次呼叫中,服務會還原對話;規劃器(決定要查什麼的元件)會自行判斷何時需要使用者事實,從長期記憶取回後,用來組成送往知識庫的子查詢;產生答案後,服務再把這一輪問答存回記憶。AWS 說明,採用後應用程式不再需要對話資料表、歷史重播與擷取管線,但仍須負責驗證使用者並傳遞使用者身分。

AWS 文章中的主要設定與行為
項目AWS 說明的做法
對話歷史sessionBinding 讓服務還原並寫入;messages 只帶當前問題
文件權限userContext.userId 帶入經驗證的 email,由知識庫依 ACL 過濾
記憶識別actorId 使用 Cognito sub,命名空間以 actorId 為根
寫入模式persistenceMode 預設 DEFAULT(需 generateResponse 為 true);NONE 只還原不寫入
記憶失敗時請求不失敗,追蹤出現 FAILED 事件,答案僅由知識庫產生

支援範圍與前置條件是什麼?

AWS 表示,與此整合搭配的記憶資源必須和知識庫位於同一個 AWS 帳戶,且處於 ACTIVE 狀態。文中範例使用美國西部(奧勒岡)us-west-2 區域,需要 Python 3.10 以上與 Boto3 1.43.72 以上。此外還需要建立以下資源的權限:S3 儲存貯體、Cognito 使用者集區、IAM 角色、知識庫與記憶資源。文章未說明其他區域或台灣的可用性。

ACL(存取控制清單)是列出誰可以讀哪些文件的名單。AWS 另指出,aclEnabled 在資料來源建立後無法更改。沒有任何 ACL 項目涵蓋的文件不會被擷取;email 不符合任何項目的使用者,也不會從該資料來源得到結果。一個請求最多可帶五個知識庫。

多使用者共用時,身分與隔離如何設計?

在 AWS 的範例中,員工透過 Amazon Cognito(AWS 的登入服務)登入。登入後取得的 ID token 中,sub(固定的使用者編號)用作記憶的 actorId(記憶擁有者識別碼)與命名空間,經驗證的 email 則用作 userContext.userId。這些值都由應用程式從已驗證的 token 取得,不來自請求本文。AWS 解釋,email 可能被變更,或在員工離職後重新分配給他人,新使用者就會因此繼承舊記憶;所以 actorId 應使用永不變動、也不會重複使用的 ID。

記憶策略方面,AWS 說摘要策略會捕捉使用者順帶提到的事實,使用者偏好策略則擷取使用者明確表達的偏好,建議兩者並用。retrievalConfigs 只接受一個項目,因此單一 namespacePath 必須涵蓋該使用者的所有記錄;範例把 {actorId} 直接放在根目錄下。

作為縱深防禦(多一層保護),AWS 建議為每位使用者建立帶 userId 標籤的 IAM 角色工作階段,並搭配 bedrock-agentcore:actorId 與 namespacePath 條件鍵。在其示範中,若請求綁定了他人的 actorId,記憶操作會回傳 AccessDeniedException,回答仍由知識庫產生。

實際表現與成本、延遲要注意什麼?

在 AWS 的範例執行中,工程師 Maya 詢問待命津貼並得到答案;業務 Sofia 問同樣問題,因為無權讀取工程文件,答案表示在她可存取的來源中沒有記載待命津貼。這項過濾由知識庫完成。另一個例子中,Maya 先在 VPN 對話提到自己在法蘭克福辦公室,之後在新對話詢問 PTO(特休)。長期記憶命中一筆記錄,答案反映了法蘭克福的規定。Liam 問同樣問題時取得 0 筆記憶記錄,得到列出三個辦公室的通用表格,並被請他說明自己在哪個辦公室。

AWS 稱長期記憶擷取是非同步進行的。在其執行中,首筆記錄在第 2 回合後 81 秒出現,但這個時間並非承諾,設計時應假設記錄要過一段時間才會可用。延遲方面,工作階段還原約增加 200 毫秒;含一個知識庫、ACL 與記憶的完整回合耗時 4–10 秒,主要由規劃迭代決定。這些都是觀察值,不是服務承諾。計費方面,agentic retrieval 依每次呼叫加上底層檢索計費,記憶操作則計入 AgentCore memory 使用量。

常見問題

必須改用這項功能嗎?

不必。AWS 稱此整合為選擇加入且向後相容。若需要精確控制每次請求帶入的歷史(例如自行編修歷史),AWS 建議繼續傳送 messages;但 messages 不能與 sessionBinding 在同一請求中並用。

記憶服務故障時,回答會失敗嗎?

不會。根據 AWS,記憶操作採盡力而為。記憶呼叫失敗或被拒時,請求不會失敗,追蹤中會出現 FAILED 事件,答案僅由知識庫產生。

sessionId 該怎麼管理?

新對話的 sessionId 由應用程式產生並回傳給用戶端,用戶端在後續回合送回以延續對話。AWS 說明這樣做是安全的,因為短期記憶以 actorId 區分,而 actorId 取自 token。AWS 建議整個對話期間使用穩定的 sessionId;每次請求都換新 ID 雖然會被接受,但會破壞連續性,並且每回合產生一筆摘要記錄。

哪些對話事件會被還原?

AWS 說明只有 USER 與 ASSISTANT 的對話事件會被還原;其他系統寫入的 TOOL 或 OTHER 角色事件會被略過。

查看同分類最新消息

覺得這篇整理實用嗎?分享給需要的朋友

LINE 分享

資料來源

本文依據上方所列參考來源與標示之核對日期整理;票價、時刻、功能規格或服務條款可能變動,出發、預訂或購買前請至相關官方網站確認最新資訊。

生活分享