为什么“不要输出 X”式的负面指令常常失效,应如何改写?
为什么“不要输出 X”式的负面指令常常失效,应如何改写? 本文先给出可直接复述的结论,再用最小代码说明负面指令 失效 改写建议的工作方式、判断依据、项目边界和常见误区。
AI 开发面试题第 4 页,显示第 151–200 题,共找到 262 道完整解析,可继续按分类、标签与关键词缩小范围。
按稳定语义路径排序
为什么“不要输出 X”式的负面指令常常失效,应如何改写? 本文先给出可直接复述的结论,再用最小代码说明负面指令 失效 改写建议的工作方式、判断依据、项目边界和常见误区。
如何可靠地控制模型输出的长度? 本文先给出可直接复述的结论,再用最小代码说明提示词 输出长度控制 max_tokens的工作方式、判断依据、项目边界和常见误区。
如何用 system prompt 稳定地控制模型的语气与角色设定? 本文先给出可直接复述的结论,再用最小代码说明system prompt 角色设定 语气控制 Claude的工作方式、判断依据、项目边界和常见误区。
预填充 assistant 回复的开头能解决哪些输出控制问题? 本文先给出可直接复述的结论,再用最小代码说明Claude prefill assistant 预填充 输出控制的工作方式、判断依据、项目边界和常见误区。
Anthropic 的 prompt caching 适合缓存提示词的哪些部分? 本文先给出可直接复述的结论,再用最小代码说明prompt caching 缓存设计 前缀一致性的工作方式、判断依据、项目边界和常见误区。
如何把不可信的用户输入与可信指令隔离以缓解提示注入? 本文先给出可直接复述的结论,再用最小代码说明提示注入 防御 不可信输入 隔离的工作方式、判断依据、项目边界和常见误区。
如何设计提示词让模型先引用证据再作答以降低幻觉? 本文先给出可直接复述的结论,再用最小代码说明引用证据 降低幻觉 提示词设计的工作方式、判断依据、项目边界和常见误区。
什么情况下应把复杂任务拆成多次提示调用(prompt chaining)而非单次长提示? 本文先给出可直接复述的结论,再用最小代码说明提示链 任务拆分 多次调用的工作方式、判断依据、项目边界和常见误区。
提示词模板中直接拼接用户变量有什么风险,应如何安全插值? 本文先给出可直接复述的结论,再用最小代码说明提示词模板 变量注入 安全插值的工作方式、判断依据、项目边界和常见误区。
如何在发送请求前估算提示词 token 数以避免超出上下文窗口? 本文先给出可直接复述的结论,再用最小代码说明token 估算 上下文窗口 计数 Claude的工作方式、判断依据、项目边界和常见误区。
为什么提示词需要像代码一样做版本管理,应记录哪些元信息? 本文先给出可直接复述的结论,再用最小代码说明提示词 版本管理 元信息记录的工作方式、判断依据、项目边界和常见误区。
为什么在提示词中使用 XML 标签组织输入能提升 Claude 输出质量? 本文先给出可直接复述的结论,再用最小代码说明Claude 提示词 XML 标签 结构化输入的工作方式、判断依据、项目边界和常见误区。
什么场景下应该从零样本提示切换到少样本提示? 本文先给出可直接复述的结论,再用最小代码说明zero-shot few-shot 提示 选择 场景的工作方式、判断依据、项目边界和常见误区。
在持续学习多个任务时,为何模型会遗忘旧任务知识?请从参数更新机制解释根本原因。 本文先给出可直接复述的结论,再用最小代码说明灾难性遗忘 持续学习 参数更新 旧任务遗忘的工作方式、判断依据、项目边界和常见误区。
在持续接收新数据的情况下,如何设计微调策略以避免灾难性遗忘? 本文先给出可直接复述的结论,再用最小代码说明持续微调 新数据 灾难性遗忘 防止策略的工作方式、判断依据、项目边界和常见误区。
针对仅有 1000 条语料的低资源语言,如何通过数据增强提升微调鲁棒性? 本文先给出可直接复述的结论,再用最小代码说明低资源语言 数据增强 微调 鲁棒性提升的工作方式、判断依据、项目边界和常见误区。
在标签严重不平衡的数据集中,如何通过采样策略改进微调效果?请说明具体实现方式。 本文先给出可直接复述的结论,再用最小代码说明训练数据 标签不平衡 采样策略 改进方法的工作方式、判断依据、项目边界和常见误区。
在微调过程中,若验证损失不再下降但训练损失继续降低,应如何做出停止决策? 本文先给出可直接复述的结论,再用最小代码说明早停 验证损失不降 训练损失下降 决策逻辑的工作方式、判断依据、项目边界和常见误区。
在边缘设备部署前,如何通过模拟真实硬件环境评估微调模型的性能? 本文先给出可直接复述的结论,再用最小代码说明边缘设备 部署前 模拟硬件 评估性能的工作方式、判断依据、项目边界和常见误区。
为何评估集需包含多样化的输入分布?请举例说明其对模型泛化能力评估的影响。 本文先给出可直接复述的结论,再用最小代码说明评估集 多样性 输入分布 泛化能力 评估有效性的工作方式、判断依据、项目边界和常见误区。
针对长文本生成任务,如何构建有效的评估集以衡量模型的上下文保持能力? 本文先给出可直接复述的结论,再用最小代码说明长文本生成 评估集 上下文保持能力 构建方法的工作方式、判断依据、项目边界和常见误区。
在低延迟场景下,为何选择微调而非检索增强生成?请从推理开销和上下文长度约束角度分析。 本文先给出可直接复述的结论,再用最小代码说明微调与检索取舍 推理延迟 上下文长度 低延迟系统的工作方式、判断依据、项目边界和常见误区。
将通用大模型用于医疗文本生成时,为何仅用少量领域数据微调仍可能导致输出不专业? 本文先给出可直接复述的结论,再用最小代码说明微调 领域偏移 医疗文本 专业性 输出偏差的工作方式、判断依据、项目边界和常见误区。
在微调中如何通过数据筛选和损失函数设计减少模型输出中的性别偏见? 本文先给出可直接复述的结论,再用最小代码说明微调 减少性别偏见 数据筛选 损失函数设计的工作方式、判断依据、项目边界和常见误区。
在单张 24GB 显存卡上微调 Llama-3-8B 模型时,应采用哪些内存优化技术? 本文先给出可直接复述的结论,再用最小代码说明微调 显存限制 24GB GPU Llama-3-8B 内存优化的工作方式、判断依据、项目边界和常见误区。
微调后模型的推理延迟是否一定增加?请从模型大小和结构变化角度分析。 本文先给出可直接复述的结论,再用最小代码说明微调 推理延迟 模型大小 结构变化的工作方式、判断依据、项目边界和常见误区。
微调后模型输出的一致性为何可能下降?请从参数扰动角度解释。 本文先给出可直接复述的结论,再用最小代码说明微调 输出一致性 下降 参数扰动 原因分析的工作方式、判断依据、项目边界和常见误区。
微调后模型对温度参数的敏感度是否发生变化?请从概率分布调整角度解释。 本文先给出可直接复述的结论,再用最小代码说明微调 温度敏感度 概率分布变化的工作方式、判断依据、项目边界和常见误区。
微调后模型对未见过的词(OOV)的处理能力是否会下降?请从嵌入层更新角度解释。 本文先给出可直接复述的结论,再用最小代码说明微调 OOV 处理能力 嵌入层更新的工作方式、判断依据、项目边界和常见误区。
当训练数据中存在 10% 的错误标签时,会对微调结果产生何种影响?请从收敛路径角度分析。 本文先给出可直接复述的结论,再用最小代码说明噪声标签 微调 影响 收敛路径 错误标签比例的工作方式、判断依据、项目边界和常见误区。
为何在微调实验中设置随机种子至关重要?请说明其对结果可复现性的具体影响。 本文先给出可直接复述的结论,再用最小代码说明随机种子 微调 可复现性 结果一致性的工作方式、判断依据、项目边界和常见误区。
当部署多个不同任务的 LoRA 适配器时,如何确保它们能正确组合而不冲突? 本文先给出可直接复述的结论,再用最小代码说明LoRA 适配器 组合 冲突 任务切换的工作方式、判断依据、项目边界和常见误区。
LoRA 微调中,若显存受限,应如何根据模型规模选择适配器秩(rank)?请说明权衡依据。 本文先给出可直接复述的结论,再用最小代码说明LoRA 秩选择 显存限制 模型规模 适配器维度的工作方式、判断依据、项目边界和常见误区。
在多卡环境下使用 LoRA 微调时,如何正确配置分布式训练以避免梯度同步异常? 本文先给出可直接复述的结论,再用最小代码说明LoRA 微调 多卡 分布式训练 梯度同步的工作方式、判断依据、项目边界和常见误区。
在使用外部知识库微调模型时,为何不能简单地将知识拼接进训练数据? 本文先给出可直接复述的结论,再用最小代码说明LoRA 微调 外部知识库 拼接数据 问题原因的工作方式、判断依据、项目边界和常见误区。
在使用混合精度训练时,为何 LoRA 微调对数值稳定性要求更高?请解释其影响机制。 本文先给出可直接复述的结论,再用最小代码说明LoRA 微调 混合精度 数值稳定性 影响机制的工作方式、判断依据、项目边界和常见误区。
在仅有 500 条标注数据的微调任务中,如何通过监控损失曲线和验证集表现识别过拟合? 本文先给出可直接复述的结论,再用最小代码说明过拟合 500条数据 小样本 监控损失 验证集表现的工作方式、判断依据、项目边界和常见误区。
在量化后的模型上进行微调时,为何需要调整学习率并启用梯度冻结? 本文先给出可直接复述的结论,再用最小代码说明量化模型 微调 学习率调整 梯度冻结的工作方式、判断依据、项目边界和常见误区。
当训练数据量有限时,如何通过数据质量提升(如去重、过滤噪声)来弥补数量不足?请给出具体策略。 本文先给出可直接复述的结论,再用最小代码说明训练数据 质量数量权衡 去重 过滤噪声 补偿策略的工作方式、判断依据、项目边界和常见误区。
在某些应用中为何要同时使用微调和检索?请从知识覆盖与灵活性角度说明。 本文先给出可直接复述的结论,再用最小代码说明微调与检索 同时使用 知识覆盖 灵活性的工作方式、判断依据、项目边界和常见误区。
为何应在量化之前先完成微调?请从参数稳定性和量化误差角度解释。 本文先给出可直接复述的结论,再用最小代码说明微调 量化顺序 参数稳定性 量化误差影响的工作方式、判断依据、项目边界和常见误区。
LoRA 为何在小样本微调中表现优于全量微调?请从参数更新效率角度解释。 本文先给出可直接复述的结论,再用最小代码说明LoRA 小样本 微调 效率 参数更新 优势原因的工作方式、判断依据、项目边界和常见误区。
为何对小型模型(如 DistilBERT)进行全量微调通常不推荐?请从计算成本与收益角度分析。 本文先给出可直接复述的结论,再用最小代码说明全量微调 小型模型 代价 不推荐 算力收益比的工作方式、判断依据、项目边界和常见误区。
为何在微调时保留原始模型权重作为基础,而不是从头训练?请从迁移学习角度解释。 本文先给出可直接复述的结论,再用最小代码说明微调 保留原始权重 迁移学习 优势的工作方式、判断依据、项目边界和常见误区。
知识库重建期间如何保证线上检索不中断且不会查到新旧混合的数据? 本文先给出可直接复述的结论,再用最小代码说明原子切换 蓝绿部署 零停机重建的工作方式、判断依据、项目边界和常见误区。
多个文档共用的章节(如统一的安装说明)被去重删掉后,检索上下文反而缺失怎么办? 本文先给出可直接复述的结论,再用最小代码说明共享章节 去重误删 上下文保护的工作方式、判断依据、项目边界和常见误区。
多个文档引用同一段共享内容,删除其中一个文档时如何避免误删仍被其他文档引用的分块? 本文先给出可直接复述的结论,再用最小代码说明级联删除 共享分块 引用计数的工作方式、判断依据、项目边界和常见误区。
分块后级别做去重与文档级去重各自的适用场景和副作用是什么? 本文先给出可直接复述的结论,再用最小代码说明分块去重 文档级去重 粒度权衡的工作方式、判断依据、项目边界和常见误区。
为支撑去重、增量更新、版本、引用、权限五类能力,分块入库时的元数据最小集合应包含哪些字段? 本文先给出可直接复述的结论,再用最小代码说明分块元数据 字段设计 去重 权限 引用的工作方式、判断依据、项目边界和常见误区。
引用标注到文档级、段落级还是句子级,粒度选择对可信度和系统复杂度各有什么影响? 本文先给出可直接复述的结论,再用最小代码说明引用粒度 段落级 句子级 可信度的工作方式、判断依据、项目边界和常见误区。