越狱鲁棒性评测与常规准确率评测应放在同一个离线分数里吗？
越狱鲁棒性评测与常规准确率评测应放在同一个离线分数里吗？ 本文先给出可直接复述的结论，再用最小代码说明越狱鲁棒性 对抗评测 准确率 离线边界的工作方式、判断依据、项目边界和常见误区。
核心关键词越狱鲁棒性 对抗评测 准确率 离线边界
面试知识索引 · 分类、标签与搜索
AI 开发 · 安全面试题，11 道完整答案
AI 开发 · 安全面试题第 1 页，显示第 1–11 题，共找到 11 道完整解析，可继续按分类、标签与关键词缩小范围。
11筛选结果
52技术分类
178检索标签
1索引分页
快速定位
清除全部筛选分类、标签与关键词搜索
第 1 页
本页面试问题
按稳定语义路径排序
- 0001
- 0002
把全部资料塞进上下文和按需检索注入，面对大知识库应如何取舍？
把全部资料塞进上下文和按需检索注入，面对大知识库应如何取舍？ 本文先给出可直接复述的结论，再用最小代码说明长上下文 塞入资料 与 检索增强 取舍的工作方式、判断依据、项目边界和常见误区。
核心关键词长上下文 塞入资料 与 检索增强 取舍 - 0003
当系统提示词与用户指令冲突时，模型应遵循哪一层级？
当系统提示词与用户指令冲突时，模型应遵循哪一层级？ 本文先给出可直接复述的结论，再用最小代码说明系统提示 用户指令 冲突 优先级的工作方式、判断依据、项目边界和常见误区。
核心关键词系统提示 用户指令 冲突 优先级 - 0004
如何把不可信的用户输入与可信指令隔离以缓解提示注入？
如何把不可信的用户输入与可信指令隔离以缓解提示注入？ 本文先给出可直接复述的结论，再用最小代码说明提示注入 防御 不可信输入 隔离的工作方式、判断依据、项目边界和常见误区。
核心关键词提示注入 防御 不可信输入 隔离 - 0005
提示词模板中直接拼接用户变量有什么风险，应如何安全插值？
提示词模板中直接拼接用户变量有什么风险，应如何安全插值？ 本文先给出可直接复述的结论，再用最小代码说明提示词模板 变量注入 安全插值的工作方式、判断依据、项目边界和常见误区。
核心关键词提示词模板 变量注入 安全插值 - 0006
针对仅有 1000 条语料的低资源语言，如何通过数据增强提升微调鲁棒性？
针对仅有 1000 条语料的低资源语言，如何通过数据增强提升微调鲁棒性？ 本文先给出可直接复述的结论，再用最小代码说明低资源语言 数据增强 微调 鲁棒性提升的工作方式、判断依据、项目边界和常见误区。
核心关键词低资源语言 数据增强 微调 鲁棒性提升 - 0007
为支撑去重、增量更新、版本、引用、权限五类能力，分块入库时的元数据最小集合应包含哪些字段？
为支撑去重、增量更新、版本、引用、权限五类能力，分块入库时的元数据最小集合应包含哪些字段？ 本文先给出可直接复述的结论，再用最小代码说明分块元数据 字段设计 去重 权限 引用的工作方式、判断依据、项目边界和常见误区。
核心关键词分块元数据 字段设计 去重 权限 引用 - 0008
员工离职或调岗后，其在知识库中可见文档的权限变更多快必须生效，技术上如何保证？
员工离职或调岗后，其在知识库中可见文档的权限变更多快必须生效，技术上如何保证？ 本文先给出可直接复述的结论，再用最小代码说明权限变更 生效延迟 离职 访问回收的工作方式、判断依据、项目边界和常见误区。
核心关键词权限变更 生效延迟 离职 访问回收 - 0009
多租户知识库中，权限过滤应该放在向量检索之前、之中还是之后？
多租户知识库中，权限过滤应该放在向量检索之前、之中还是之后？ 本文先给出可直接复述的结论，再用最小代码说明权限过滤 向量检索 前置过滤 后置过滤的工作方式、判断依据、项目边界和常见误区。
核心关键词权限过滤 向量检索 前置过滤 后置过滤 - 0010
文件夹授权给用户后，其中新增文档和已有文档的权限如何继承，知识库侧要避免什么坑？
文件夹授权给用户后，其中新增文档和已有文档的权限如何继承，知识库侧要避免什么坑？ 本文先给出可直接复述的结论，再用最小代码说明权限继承 目录层级 新增文档 授权陷阱的工作方式、判断依据、项目边界和常见误区。
核心关键词权限继承 目录层级 新增文档 授权陷阱 - 0011
RAG 如何让生成答案带引用来源，上下文组装阶段需要给每个文档块附加什么信息？
RAG 如何让生成答案带引用来源，上下文组装阶段需要给每个文档块附加什么信息？ 本文先给出可直接复述的结论，再用最小代码说明RAG 引用来源 上下文标注的工作方式、判断依据、项目边界和常见误区。
核心关键词RAG 引用来源 上下文标注