越狱鲁棒性评测与常规准确率评测应放在同一个离线分数里吗？
围绕“越狱鲁棒性评测与常规准确率评测应放在同一个离线分数里吗”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖必须主张分开报告攻击成功率、误伤率和功能保持率，避免安全加固被平均指标抵消。
核心关键词越狱鲁棒性 对抗评测 准确率 离线边界
面试知识索引 · 分类、标签与搜索
AI 开发 · 安全面试题，11 道完整答案
AI 开发 · 安全面试题第 1 页，显示第 1–11 题，共找到 11 道完整解析，可继续按分类、标签与关键词缩小范围。
11筛选结果
52技术分类
178检索标签
1索引分页
快速定位
清除全部筛选分类、标签与关键词搜索
第 1 页
本页面试问题
按稳定语义路径排序
- 0001
- 0002
把全部资料塞进上下文和按需检索注入，面对大知识库应如何取舍？
围绕“把全部资料塞进上下文和按需检索注入，面对大知识库应如何取舍”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖从成本、延迟、召回准确率对比两种信息供给策略的适用规模。
核心关键词长上下文 塞入资料 与 检索增强 取舍 - 0003
当系统提示词与用户指令冲突时，模型应遵循哪一层级？
这道题考察系统提示词与用户指令冲突时的优先级。正确结论是系统提示词通常优先，因为它是开发者设定的安全边界，但并非绝对安全。答案解释机制、一个客服场景的决策过程，以及容易失效的边界情况，并给出设计系统提示的建议。
核心关键词系统提示 用户指令 冲突 优先级 - 0004
如何把不可信的用户输入与可信指令隔离以缓解提示注入？
围绕“如何把不可信的用户输入与可信指令隔离以缓解提示注入”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖需要明确数据/指令分离与标记不可信内容的提示层手段。
核心关键词提示注入 防御 不可信输入 隔离 - 0005
提示词模板中直接拼接用户变量有什么风险，应如何安全插值？
围绕“提示词模板中直接拼接用户变量有什么风险，应如何安全插值”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖需要明确模板注入与转义/定界策略。
核心关键词提示词模板 变量注入 安全插值 - 0006
针对仅有 1000 条语料的低资源语言，如何通过数据增强提升微调鲁棒性？
围绕“针对仅有 1000 条语料的低资源语言，如何通过数据增强提升微调鲁棒性”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖需要明确回译、同义替换、噪声注入等策略的应用逻辑。
核心关键词低资源语言 数据增强 微调 鲁棒性提升 - 0007
为支撑去重、增量更新、版本、引用、权限五类能力，分块入库时的元数据最小集合应包含哪些字段？
围绕“为支撑去重、增量更新、版本、引用、权限五类能力，分块入库时的元数据最小集合应包含哪些字段”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖回答需要围绕必须汇总文档 ID、内容哈希、版本、偏移位置、ACL 五类字段并说明各支撑哪项能力。
核心关键词分块元数据 字段设计 去重 权限 引用 - 0008
员工离职或调岗后，其在知识库中可见文档的权限变更多快必须生效，技术上如何保证？
围绕“员工离职或调岗后，其在知识库中可见文档的权限变更多快必须生效，技术上如何保证”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖需要说明元数据即时过滤优于重建索引的原因及缓存失效处理。
核心关键词权限变更 生效延迟 离职 访问回收 - 0009
多租户知识库中，权限过滤应该放在向量检索之前、之中还是之后？
围绕“多租户知识库中，权限过滤应该放在向量检索之前、之中还是之后”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖必须对比预过滤、索引内过滤、后过滤三方案在召回数量正确性与性能上的差异。
核心关键词权限过滤 向量检索 前置过滤 后置过滤 - 0010
文件夹授权给用户后，其中新增文档和已有文档的权限如何继承，知识库侧要避免什么坑？
围绕“文件夹授权给用户后，其中新增文档和已有文档的权限如何继承，知识库侧要避免什么坑”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖需要说明检索期动态解析继承优于入库期静态展开（避免授权变更漏更新）。
核心关键词权限继承 目录层级 新增文档 授权陷阱 - 0011
RAG 如何让生成答案带引用来源，上下文组装阶段需要给每个文档块附加什么信息？
围绕“RAG 如何让生成答案带引用来源，上下文组装阶段需要给每个文档块附加什么信息”给出直接结论、机制拆解、可复现验证、常见误区与追问，重点覆盖回答块级来源标识注入与提示模型引用编号的机制。
核心关键词RAG 引用来源 上下文标注