LLM 裁判偏好更长回答的偏差如何影响 Agent 评估并如何校正
LLM 裁判偏好更长回答的偏差如何影响 Agent 评估并如何校正 本文先给出可直接复述的结论,再用最小代码说明LLM 裁判 冗长偏差 verbosity bias的工作方式、判断依据、项目边界和常见误区。
AI Agent面试题第 3 页,显示第 101–150 题,共找到 511 道完整解析,可继续按分类、标签与关键词缩小范围。
按稳定语义路径排序
LLM 裁判偏好更长回答的偏差如何影响 Agent 评估并如何校正 本文先给出可直接复述的结论,再用最小代码说明LLM 裁判 冗长偏差 verbosity bias的工作方式、判断依据、项目边界和常见误区。
LangSmith 中 dataset、experiment、evaluator 三个概念如何配合完成一次评估 本文先给出可直接复述的结论,再用最小代码说明LangSmith dataset experiment evaluator 评估流程的工作方式、判断依据、项目边界和常见误区。
用 LLM 作为裁判评估 Agent 输出的基本做法与前提条件 本文先给出可直接复述的结论,再用最小代码说明LLM as judge Agent 评估 前提的工作方式、判断依据、项目边界和常见误区。
升级 Agent 底层模型版本时如何设计回归对照 本文先给出可直接复述的结论,再用最小代码说明Agent 模型升级 回归对照 评估的工作方式、判断依据、项目边界和常见误区。
当任务存在多条合法解决路径时,如何避免轨迹评估误杀 本文先给出可直接复述的结论,再用最小代码说明Agent 多路径 轨迹评估 合法路径的工作方式、判断依据、项目边界和常见误区。
多轮对话型 Agent 的评估与单轮任务评估有何不同 本文先给出可直接复述的结论,再用最小代码说明Agent 多轮对话 评估 上下文记忆的工作方式、判断依据、项目边界和常见误区。
对同一任务多次运行 Agent 时,pass@k 与 pass^k 各度量什么 本文先给出可直接复述的结论,再用最小代码说明Agent pass@k pass^k 多次运行 成功率的工作方式、判断依据、项目边界和常见误区。
Agent 输出的非确定性来自哪些环节,如何提升评估可复现性 本文先给出可直接复述的结论,再用最小代码说明Agent 非确定性 可复现 评估的工作方式、判断依据、项目边界和常见误区。
Agent 的离线评估与在线评估各自的结论边界是什么 本文先给出可直接复述的结论,再用最小代码说明Agent 离线评估 在线评估 区别的工作方式、判断依据、项目边界和常见误区。
AI Agent 评估中结果评估与过程评估各适合什么场景 本文先给出可直接复述的结论,再用最小代码说明Agent 结果评估 过程评估 区别的工作方式、判断依据、项目边界和常见误区。
Agent 输出评估中成对比较与单点打分各适合什么决策 本文先给出可直接复述的结论,再用最小代码说明Agent 评估 成对比较 单点打分的工作方式、判断依据、项目边界和常见误区。
Agent 部分完成任务时应给部分分还是二元成败 本文先给出可直接复述的结论,再用最小代码说明Agent 部分完成 部分给分 评分设计的工作方式、判断依据、项目边界和常见误区。
评估 RAG 型 Agent 时如何分别度量检索质量与回答的接地性 本文先给出可直接复述的结论,再用最小代码说明RAG Agent 检索质量 接地性 groundedness 评估的工作方式、判断依据、项目边界和常见误区。
修改 Agent 的系统提示词后应跑哪些回归评估 本文先给出可直接复述的结论,再用最小代码说明Agent 提示词修改 回归评估 范围的工作方式、判断依据、项目边界和常见误区。
如何防止 Agent 评估集被训练数据或过拟合迭代污染 本文先给出可直接复述的结论,再用最小代码说明Agent 评估集 数据污染 过拟合的工作方式、判断依据、项目边界和常见误区。
为什么 Agent 回归集应以线上真实失败案例为最高优先级 本文先给出可直接复述的结论,再用最小代码说明Agent 回归集 失败案例 优先级的工作方式、判断依据、项目边界和常见误区。
如何为 AI Agent 构建回归测试集 本文先给出可直接复述的结论,再用最小代码说明Agent 回归测试集 构建 来源的工作方式、判断依据、项目边界和常见误区。
如何给 AI Agent 的开放式任务设计可操作的评分量规? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 开放式任务评分量规 rubric 设计的工作方式、判断依据、项目边界和常见误区。
用 LLM 合成 Agent 评估数据有哪些陷阱 本文先给出可直接复述的结论,再用最小代码说明Agent 合成评估数据 陷阱的工作方式、判断依据、项目边界和常见误区。
评估 AI Agent 时,任务成功率应该怎样定义和统计? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 任务成功率定义与统计口径的工作方式、判断依据、项目边界和常见误区。
如何评估 AI Agent 工具调用的正确性 本文先给出可直接复述的结论,再用最小代码说明Agent 工具调用正确性 评估 tool call correctness的工作方式、判断依据、项目边界和常见误区。
如何评估 Agent 在工具超时、报错、返回脏数据时的鲁棒性 本文先给出可直接复述的结论,再用最小代码说明Agent 工具故障 鲁棒性 故障注入评估的工作方式、判断依据、项目边界和常见误区。
如何区分 Agent 选错工具和工具选对但参数错误? 本文先给出可直接复述的结论,再用最小代码说明Agent 工具选择错误与参数错误评估的工作方式、判断依据、项目边界和常见误区。
什么是 AI Agent 的轨迹评估,轨迹中应记录哪些关键字段 本文先给出可直接复述的结论,再用最小代码说明Agent 轨迹评估 trajectory 记录字段的工作方式、判断依据、项目边界和常见误区。
没有参考答案时如何评估 Agent 轨迹是否合理 本文先给出可直接复述的结论,再用最小代码说明Agent 轨迹评估 无参考 reference-free的工作方式、判断依据、项目边界和常见误区。
如何识别和衡量 AI Agent 的多余工具调用? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 冗余工具调用检测与评估的工作方式、判断依据、项目边界和常见误区。
为什么 AI Agent 评估比单轮 LLM 回答评估更难? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 评估与单轮 LLM 评估的区别的工作方式、判断依据、项目边界和常见误区。
限制 Agent 可行动作空间为什么通常提升可靠性? 本文先给出可直接复述的结论,再用最小代码说明agent action space 动作空间 约束 可靠性的工作方式、判断依据、项目边界和常见误区。
评估一个自主 Agent 的效果为什么不能只看最终答案正确率? 本文先给出可直接复述的结论,再用最小代码说明agent evaluation 评估 轨迹 过程指标的工作方式、判断依据、项目边界和常见误区。
Agent 的「观察—思考—行动」循环每一轮具体交换哪些信息? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 观察思考行动循环的工作方式、判断依据、项目边界和常见误区。
给 Agent 授予文件、网络等系统权限时应遵循什么最小化原则? 本文先给出可直接复述的结论,再用最小代码说明agent 权限最小化 沙箱 sandbox 安全的工作方式、判断依据、项目边界和常见误区。
自主 Agent 的终止条件应该如何设计才不会提前退出或死循环? 本文先给出可直接复述的结论,再用最小代码说明agent 终止条件 max iterations 死循环的工作方式、判断依据、项目边界和常见误区。
如何判定一个 AI 任务该用固定工作流还是自主 Agent? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 与工作流的区别和选型的工作方式、判断依据、项目边界和常见误区。
Augmented LLM 是什么,检索、工具和记忆分别增强什么能力? 本文先给出可直接复述的结论,再用最小代码说明Augmented LLM 检索工具记忆三种增强能力的工作方式、判断依据、项目边界和常见误区。
Agent 自主性越高为什么越需要监督机制? 本文先给出可直接复述的结论,再用最小代码说明AI Agent 自主性与安全护栏的工作方式、判断依据、项目边界和常见误区。
如何让 Agent 在 token 或成本预算内自适应地决定探索深度? 本文先给出可直接复述的结论,再用最小代码说明agent 成本预算 token budget 自适应 深度的工作方式、判断依据、项目边界和常见误区。
用 LLM 输出驱动条件边跳转时如何保证路由结果可靠? 本文先给出可直接复述的结论,再用最小代码说明conditional edge LLM 路由 结构化输出 可靠性的工作方式、判断依据、项目边界和常见误区。
长程自主循环中错误为什么会累积放大? 本文先给出可直接复述的结论,再用最小代码说明agent 错误累积 compounding error 长任务的工作方式、判断依据、项目边界和常见误区。
Evaluator-Optimizer 循环在什么条件下值得引入额外成本? 本文先给出可直接复述的结论,再用最小代码说明evaluator optimizer 迭代优化 适用条件的工作方式、判断依据、项目边界和常见误区。
Agent 编排图为什么需要支持环(cycle)而不只是 DAG? 本文先给出可直接复述的结论,再用最小代码说明agent graph cycle 循环 DAG 反思迭代的工作方式、判断依据、项目边界和常见误区。
为什么 Agent 需要从环境获取真实反馈而不是只靠模型自我判断? 本文先给出可直接复述的结论,再用最小代码说明agent grounding 环境反馈 自我评估 局限的工作方式、判断依据、项目边界和常见误区。
在 Agent 工作流中哪些决策点适合设置人工检查点? 本文先给出可直接复述的结论,再用最小代码说明human in the loop 检查点 高风险操作 审批的工作方式、判断依据、项目边界和常见误区。
为什么 Agent 的可重试工具应当设计成幂等的? 本文先给出可直接复述的结论,再用最小代码说明agent 工具幂等 idempotent 重试 副作用的工作方式、判断依据、项目边界和常见误区。
如何用 LangSmith 诊断一个 LangGraph Agent 的异常行为? 本文先给出可直接复述的结论,再用最小代码说明LangGraph LangSmith 调试 trace 诊断的工作方式、判断依据、项目边界和常见误区。
LangGraph 的 durable execution 如何在 Agent 崩溃后恢复执行? 本文先给出可直接复述的结论,再用最小代码说明LangGraph durable execution 持久化 恢复的工作方式、判断依据、项目边界和常见误区。
LangGraph 的 streaming 在 Agent 应用中用于暴露哪些中间过程? 本文先给出可直接复述的结论,再用最小代码说明LangGraph streaming 中间状态 流式输出的工作方式、判断依据、项目边界和常见误区。
LangGraph 为什么定位为底层编排框架而不是高抽象 Agent 封装? 本文先给出可直接复述的结论,再用最小代码说明LangGraph low-level orchestration 设计动机的工作方式、判断依据、项目边界和常见误区。
给 Agent 设置最大迭代次数时如何权衡任务完成率与成本? 本文先给出可直接复述的结论,再用最小代码说明agent 最大迭代次数 成本 完成率 权衡的工作方式、判断依据、项目边界和常见误区。
划分 Agent 图中节点的粒度时遵循什么原则? 本文先给出可直接复述的结论,再用最小代码说明agent graph 节点粒度 划分原则的工作方式、判断依据、项目边界和常见误区。
设计 Agent 的「观察」时如何决定给模型看多少环境信息? 本文先给出可直接复述的结论,再用最小代码说明agent observation 设计 信息量 噪声 取舍的工作方式、判断依据、项目边界和常见误区。