为什么大语言模型做多步算术和长数字运算容易出错?
为什么大语言模型做多步算术和长数字运算容易出错? 本文先给出可直接复述的结论,再用最小代码说明LLM 算术能力弱 原因 为何出错的工作方式、判断依据、项目边界和常见误区。
AI 开发 · 大模型基础面试题第 1 页,显示第 1–29 题,共找到 29 道完整解析,可继续按分类、标签与关键词缩小范围。
按稳定语义路径排序
为什么大语言模型做多步算术和长数字运算容易出错? 本文先给出可直接复述的结论,再用最小代码说明LLM 算术能力弱 原因 为何出错的工作方式、判断依据、项目边界和常见误区。
束搜索(beam search)和随机采样在文本生成上各适合什么场景? 本文先给出可直接复述的结论,再用最小代码说明束搜索 与 随机采样 文本生成区别的工作方式、判断依据、项目边界和常见误区。
让大模型先推理再作答(思维链)为什么能提升复杂题准确率,代价是什么? 本文先给出可直接复述的结论,再用最小代码说明思维链 权衡 生成质量与成本的工作方式、判断依据、项目边界和常见误区。
为什么大模型用自信的语气陈述错误内容,语气能否作为可信度信号? 本文先给出可直接复述的结论,再用最小代码说明LLM 自信但错误 语气可信度的工作方式、判断依据、项目边界和常见误区。
把全部资料塞进上下文和按需检索注入,面对大知识库应如何取舍? 本文先给出可直接复述的结论,再用最小代码说明长上下文 塞入资料 与 检索增强 取舍的工作方式、判断依据、项目边界和常见误区。
回答重点:上下文窗口同时约束输入与输出 token 总额,超过会产生 400 错误或停止生成;通过具体多轮对话场景说明历史、提示词和输出如何竞争有限空间,并解释溢出与精度衰减的边界。
用大模型做文本分类时,如何保证输出只落在预定义标签集合内? 本文先给出可直接复述的结论,再用最小代码说明文本分类 枚举输出 约束解码的工作方式、判断依据、项目边界和常见误区。
少样本提示(few-shot)为什么能在不更新权重的情况下改变模型行为? 本文先给出可直接复述的结论,再用最小代码说明少样本学习 上下文学习 无需更新权重的工作方式、判断依据、项目边界和常见误区。
什么是大模型幻觉,事实性幻觉和指令遵循失败是一回事吗? 本文先给出可直接复述的结论,再用最小代码说明LLM hallucination 幻觉 类型的工作方式、判断依据、项目边界和常见误区。
如何通过多次采样或自我一致性检查来发现大模型的幻觉输出? 本文先给出可直接复述的结论,再用最小代码说明幻觉检测 self-consistency 多次采样的工作方式、判断依据、项目边界和常见误区。
大模型输出的 JSON 解析失败时,工程上有哪些修复与容错策略? 本文先给出可直接复述的结论,再用最小代码说明JSON 解析失败 工程修复 重试策略的工作方式、判断依据、项目边界和常见误区。
大模型的知识截止日期对回答时效性问题意味着什么? 本文先给出可直接复述的结论,再用最小代码说明知识截止 时效性 问答边界的工作方式、判断依据、项目边界和常见误区。
大模型输出的 logits 是什么,如何从中解读模型对每个 token 的置信程度? 本文先给出可直接复述的结论,再用最小代码说明LLM logits logprobs 置信度的工作方式、判断依据、项目边界和常见误区。
为什么大模型在长上下文中间位置的信息容易被忽略(lost in the middle)? 本文先给出可直接复述的结论,再用最小代码说明长上下文 中间信息丢失 lost in the middle的工作方式、判断依据、项目边界和常见误区。
max_tokens 参数控制的是什么,设置过小会导致什么问题? 本文先给出可直接复述的结论,再用最小代码说明max_tokens 最大输出长度 截断的工作方式、判断依据、项目边界和常见误区。
为什么默认的大模型 API 调用不能访问实时网页、文件或执行动作? 本文先给出可直接复述的结论,再用最小代码说明LLM 能力边界 无法联网 无状态的工作方式、判断依据、项目边界和常见误区。
为什么说大语言模型的本质是下一个 token 预测,概率是如何计算的? 本文先给出可直接复述的结论,再用最小代码说明next token prediction 生成概率 softmax的工作方式、判断依据、项目边界和常见误区。
提示词越长效果越好吗,长提示的成本与收益如何权衡? 本文先给出可直接复述的结论,再用最小代码说明提示词长度 成本与收益 权衡的工作方式、判断依据、项目边界和常见误区。
在提示词层面有哪些被验证有效的降低幻觉的手段? 本文先给出可直接复述的结论,再用最小代码说明减少幻觉 提示词 引用资料 允许拒答的工作方式、判断依据、项目边界和常见误区。
为什么大模型有时会拒绝完全合理的请求,如何在应用中处理误拒? 本文先给出可直接复述的结论,再用最小代码说明LLM 误拒 over-refusal 处理的工作方式、判断依据、项目边界和常见误区。
大模型生成时出现重复循环(重复同一句子)是什么原因,如何缓解? 本文先给出可直接复述的结论,再用最小代码说明LLM 生成重复 repetition penalty的工作方式、判断依据、项目边界和常见误区。
大模型 API 中的 stop sequences 有什么作用,使用不当会引发什么问题? 本文先给出可直接复述的结论,再用最小代码说明stop sequences 停止序列 用法与陷阱的工作方式、判断依据、项目边界和常见误区。
如何让大模型稳定输出合法 JSON,JSON 模式与约束解码有何区别? 本文先给出可直接复述的结论,再用最小代码说明LLM JSON 模式 输出约束 解码的工作方式、判断依据、项目边界和常见误区。
什么是大模型的谄媚(sycophancy)倾向,为什么在提示中暗示答案会扭曲输出? 本文先给出可直接复述的结论,再用最小代码说明LLM 谄媚倾向 提示暗示 影响的工作方式、判断依据、项目边界和常见误区。
大模型采样参数 temperature 如何影响生成文本的分布? 本文先给出可直接复述的结论,再用最小代码说明LLM temperature 采样 参数的工作方式、判断依据、项目边界和常见误区。
为什么用字符数估算大模型的 token 消耗会不准确? 本文先给出可直接复述的结论,再用最小代码说明token 数量 估算 字符数 中英文的工作方式、判断依据、项目边界和常见误区。
大语言模型中的 token 化(如 BPE 分词)是如何把文本转成模型输入的? 本文先给出可直接复述的结论,再用最小代码说明LLM tokenization BPE 分词的工作方式、判断依据、项目边界和常见误区。
大模型的工具调用(function calling)为什么比普通文本输出更可靠地产生结构化结果? 本文先给出可直接复述的结论,再用最小代码说明工具调用 结构化输出 可靠性的工作方式、判断依据、项目边界和常见误区。
什么是 top-p(核采样),它和 top-k 采样有什么区别? 本文先给出可直接复述的结论,再用最小代码说明top-p 核采样 与 top-k 区别的工作方式、判断依据、项目边界和常见误区。