共享知识库如何实现租户级回答定制
文章介绍在 Bedrock 托管知识库中按租户配置回答风格、格式、检索指导和回答策略。结合元数据过滤、IAM 标签与逐租户发布,实现数据隔离和配置更新。
AI 深度解读
同一套产品文档,面向客户要用当地语言,面向客服要生成工单摘要,面向法务又需要另一套措辞。Amazon Bedrock Managed Knowledge Base 的 retrieval instructions,试图把这些差异从应用里的提示词,变成可管理、可固定版本的资源。
这篇 AWS 文章最有用的地方,是把回答规则、数据权限和版本发布分开讲清楚。它能减少各应用重复维护提示词的工作,但租户隔离、输出校验和灰度发布,仍然需要后端负责。
一套文档,怎样给不同租户不同的回答
原文用虚构的 AnyCompany Smart Home 演示:3 个销售区域和客服、销售、法务 3 个内部团队,共 6 个租户,共享 32 份产品与政策文档,涉及 AnySmartProduct-5 和 AnySmartProduct-6。这里的租户既可以是客户组织,也可以是区域或内部团队。
每个租户有一份 retrieval instruction,包含四个字段:
persona定义助手身份、语气和语言。answerFormat定义回答结构与引用格式。retrievalGuidance指导如何理解问题、搜索什么、优先采用哪些材料。answerPolicy规定回答范围、政策适用方式和信息不足时的处理。
例如,Sales Region Central 要求用西班牙语、以 usted 称呼客户,日期写成 31/12/2026,金额写成 5,00 USD,结尾保留英文 Source: 标签。搜索仍用英文,因为原始文档是英文;区域补充条款优先于全球基础政策。
同一个退货问题,示例输出分别引用 North 的 40 天与 $15.00 补货费、Central 的 45 天与 12,00 USD 补货费;客服则生成工单摘要,并在购买区域不明确时要求先确认。全球基础政策是 30 天、拆封收取 $10,South 则是 14 天且仅限未拆封。
这些数字是虚构业务样例,展示的是规则差异,不是效果评测。
默认 generateResponse=true 时四个字段都参与工作;关闭生成后,只有 retrievalGuidance 继续生效。此前需要固定风格时,开发者得关闭响应生成、自行调用模型,并在各应用维护提示词。现在可以集中管理这些规则,但文章也明确承认:工单格式不能保证每次都符合要求,下游代码仍要校验。
回答规则为什么不能承担租户隔离
指令决定怎样回答,过滤器决定允许读取哪些文档。
在提示词里写「不要搜索内部文档」,不能代替权限控制。原文提醒,即使策略禁止透露工程细节,只要相关材料被检索进来,回答仍可能暴露机制名称或记录 ID。
示例文档存放在 Amazon S3,附有 region、audience_team、sensitivity 元数据。后端必须根据已认证租户选择指令、版本和过滤器,不能接受用户自行提交的租户身份或过滤条件。
下面这段原样代码,展示了区域客户与内部团队不同的文档可见范围:
def eq(key: str, value: str) -> dict:
return {"equals": {"key": key, "value": value}}
def filter_for(region: str | None = None, team: str | None = None) -> dict:
# Region tenant: global plus own region, audience "all".
# Team tenant: any region, audience "all" plus own team.
region_f = {"orAll": [eq("region", "global"), eq("region", region)]} if region else None
audience_f = (
{"orAll": [eq("audience_team", "all"), eq("audience_team", team)]} if team else eq("audience_team", "all")
)
return {"andAll": [audience_f, region_f]} if region_f else audience_f
重点看 audience_f:区域客户只能读取 all,团队可以读取 all 加自身团队;没有区域参数时,团队可以跨区域读取。它使用 equals、andAll、orAll,并不是通过 userContext 实现逐用户授权。这段函数也没有直接检查 sensitivity,因此必须结合实际元数据验证那两份不属于任何租户的受限工程笔记确实无法命中。
隔离还有一个边界:过滤器按文档筛选。如果客户有权读取的全球政策同时列出了所有区域的数据,过滤器无法只删除其中某个数值。需要严格隐藏的信息,应从文档组织上拆开。
共享知识库只需维护一套同步流程,但依赖元数据准确、每次过滤正确;每租户独立知识库更容易划清数据范围,也增加创建、同步和费用负担。两者可以混用,一次 agentic retrieval 最多查询 5 个知识库,各自携带过滤器,同一份指令作用于全部检索。
规则有版本了,发布责任仍在应用里
指令属于 AWS 账户和 AWS Region,不绑定某个知识库。CreateRetrievalInstruction 返回 HTTP 202 后,服务异步审核字段;应用需要轮询 GetRetrievalInstruction,失败时查看 lastTransitionStatusReasons。通过后资源进入 ACTIVE,DRAFT 指向当前内容,再调用 CreateRetrievalInstructionVersion 创建不可变编号版本。
运行时用 AgenticRetrieveStream,SDK 中对应 agentic_retrieve_stream。请求通过 retrievalInstructionConfiguration 指定 retrievalInstructionId 和 version,通过 retrievalOverrides.filter 传入过滤器;省略版本会使用 DRAFT。问题前还应附上类似 Customer sales region: Sales Region Central. 的租户说明,让模型知道该采用哪组事实。
一个请求只能引用一份指令。用户同时属于区域和团队时,作者建议先用团队指令配区域说明,把数量控制在 N + M,仅对格式确实不同的组合增加专用指令。若把所有组合都建出来,3 区域、3 团队需 15 份,10 区域、5 团队需 65 份。原文写作时默认配额是每账户每 Region 50 份,可申请提高。
发布也要自己做。Bedrock 不负责在版本间分流,应用通过每租户配置选择版本,完成灰度、切换或回滚。首个 Planning trace 的 appliedInstruction 会返回实际使用的 ID 和版本,可与租户 ID 一起记录。CloudTrail 也能记录 AgenticRetrieveStream 数据事件,但需要先启用。
更新会替换整份指令,包括描述,必须重传要保留的字段。审核期间 DRAFT 继续提供旧内容;此时创建版本或再次更新会返回 HTTP 409。固定版本只能固定规则,不能固定每次生成的措辞。
权限方面,共享调用角色无法让 IAM 区分租户;独立角色或带租户 session tag 的凭证,才能增加标签检查。应用指令需要 bedrock:GetRetrievalInstruction,应在该资源权限上限制 aws:ResourceTag/tenant。TagResource 必须同时检查请求标签与资源标签,避免租户把别人的指令重新标成自己的;知识库读取范围另用 bedrock:Retrieve 限制。ListRetrievalInstructions 不能按标签限制,名称也别放敏感信息。
我的判断
这套设计的价值,在于把提示词当作可发布配置管理:多个入口共享规则,某个租户单独升级,出问题还能查到实际版本。对于已经使用 Bedrock 托管检索的团队,比各应用各写一份提示词更容易维护。
但文章没有给出格式合规率、跨租户泄露率、延迟、成本或对照测试。文中的回答片段只能证明示例如何工作,不能证明它比「检索后自行调用模型」更稳定。把 answerFormat 写成严格 JSON,也不能据此推定输出获得了结构保证。
自行生成的方案仍有理由保留:当下游强依赖结构校验、业务计算或更细的生成流程时,应用直接控制会更明确。原文也要求退货截止日期这类精确值在应用中计算。
环境信息同样要看清:示例标注使用 Boto3 1.43.118 检查,要求 Python 3.10 及以上、当前版本 Boto3 和 AWS CLI,默认 Region 是 us-east-1,可通过 AWS_REGION 修改;AgenticRetrieveStream 没有 CLI 命令,需要 SDK。可选的 customerEncryptionKeyArn 只能创建时设置,之后不能添加或更换。这些都是接入条件,不应从示例推断所有 Region 均可用。
能拿来做什么
- 在 Node 或其他后端建立租户配置映射,把已认证身份对应到指令 ID、固定版本和过滤器;前端只提交业务问题。
- 为客服、客户等入口分别整理回答规则,并用同一组问题检查语言、引用、越权检索和信息不足时的行为。
- 对需要程序消费的 JSON、工单字段做格式校验,把截止日期和金额计算留在业务代码中。
- 每次只升级一个租户,记录
appliedInstruction,结合回答质量检查决定是否推广,并保留上一版本用于回滚。