生活分享

Amazon Bedrock 知识库新增单次 RAG 与纯检索模式,开发者可按问题难易选择检索方式

AWS 宣布,Amazon Bedrock Managed Knowledge Base 通过 AgenticRetrieveStream 支持单次 RAG 与纯检索,并保留已有的代理式检索。打造企业内部 AI 问答助手的开发者,可以用同一个 API 处理简单查询与复杂比较。AWS 表示,简单问题的响应可因此更快、模型用量更少。

阅读时间约 5 分钟

Amazon Bedrock 知识库新增单次 RAG 与纯检索模式,开发者可按问题难易选择检索方式
图片:Mokaair (Original editorial artwork)

发生了什么

AWS 在官方博客宣布,Amazon Bedrock Managed Knowledge Base 现在通过 AgenticRetrieveStream 支持单次检索增强生成(RAG)与纯检索请求。RAG 是先从企业的文档资料中找出相关段落,再让 AI 模型根据这些段落写出答案的做法。知识库则是存放这些文档、供 AI 查询的数据库。

根据 AWS,单次 RAG 只搜索知识库一次,再由基础模型(负责理解问题并生成文本的大型 AI 模型)根据找到的段落生成答案。纯检索则只返回匹配段落、不生成答案,让应用程序或用户直接处理原文。这两种模式加入了已有的代理式检索,也就是由服务自行规划并执行多次搜索后再回答。

AWS 说明,代理式检索会由基础模型把问题拆成子查询、搜索相关知识库,并评估结果是否足够。必要时,它会在设定的迭代上限内调整搜索;段落上下文不足时,也可以获取完整文档。启用生成回答时,服务会整合检索到的信息并附上引用,追踪事件则会显示规划与检索的步骤。

三种模式如何选择

AWS 表示,maxAgentIteration 的范围现为 0 至 5,仅靠这一个参数就能决定每个请求采用哪种模式。一次迭代等于一次基础模型调用。数值 n 最多允许 n 减 1 轮代理式规划,最后一次迭代保留给生成回答。AWS 另指出,第一次规划前执行的初始推测式检索不计入迭代次数。

AWS 所述三种检索模式对比
maxAgentIteration行为(依 AWS 说明)适用场景
0一次检索,不调用基础模型,等同直接调用 Retrieve API获取段落、查看原文
1一次检索加一次回答,无规划与查询改写范围明确的直接问题
2 至 5最多 n 减 1 轮规划后再回答多部分、比较型、跨知识库问题

对普通用户与开发者的实际影响

对企业内部问答助手而言,简单查询与复杂比较现在可以共用同一个 API。AWS 指出,单次 RAG 只用一次基础模型调用,与代理式检索相比可降低延迟与模型用量;纯检索则完全不调用基础模型。

AWS 举例说明三种用法。询问“个体经营者开立商业账户需要哪些文件”时,可用 maxAgentIteration=1 并开启生成回答。比较个体经营者与有限责任公司开户要求的问题,可用 maxAgentIteration=4。需要阅读政策原文时,则用 0 并关闭生成回答。

限制与注意事项

  • AWS 表示,模式的选择属于应用程序逻辑,该参数并不会自动路由请求。
  • 在 maxAgentIteration=0 时,把 generateResponse 设为 true 属无效配置,会返回 4xx 错误。
  • 纯检索的段落出现在流的 result 事件中,且不含 score 或 location 字段,与直接调用 Retrieve 的响应格式不同。
  • AWS 表示,其示例助手不批准账户,也不取代银行的审查与授权流程。
  • AWS 提醒,更高的迭代上限不一定总能产生更好的答案,应以有代表性的问题进行评估。

如何开始(依 AWS 说明)

  1. 准备一组来自自家文档的代表性问题与预期答案,包含需要跨多份文档才能回答的问题,以及文档无法回答的问题。
  2. 依 AgenticRetrieveStream API 参考,在请求中设置 maxAgentIteration 与 generateResponse。
  3. 在同一个知识库上对比单次 RAG 与现有的代理式配置,衡量响应延迟与请求成本,并检查答案是否正确、是否有检索段落支持。
  4. 依结果为每个工作流选择满足质量要求的最低迭代上限。

常见问题

单次 RAG 是否只能使用单个知识库?

不是。AWS 表示,三种模式(包括 maxAgentIteration 为 0 与 1)都支持多个知识库。代理式模式多出的是查询拆解、证据评估与迭代搜索。

已有的代理式请求会受影响吗?

依 AWS 说明,使用 2 至 5 的已有请求会保持当前行为。因此开发者可以选择性地引入新模式,不必重新设计整个应用程序。

纯检索模式会调用语言模型吗?

不会。AWS 表示,maxAgentIteration=0 不调用任何基础模型,行为等同直接调用 Retrieve API,但响应格式不同。

数值该设高还是设低?

AWS 表示,数值越低,调用越快、越可预测;数值越高,规划器越能拆解并调整搜索,处理真正困难的问题。AWS 建议简单查询先从低数值开始,当复杂问题的准确度比延迟更重要时再调高。

查看同分类最新消息

资料来源

生活分享