用大模型做文本分类时,如何保证输出只落在预定义标签集合内?
用大模型做文本分类时,如何保证输出只落在预定义标签集合内? 本文先给出可直接复述的结论,再用最小代码说明文本分类 枚举输出 约束解码的工作方式、判断依据、项目边界和常见误区。
程序员面试题库第 13 页,收录第 601–650 题,共 5000 道完整解析,覆盖前端、JavaScript、React、Vue、Node.js、AI Agent、网络、数据库与系统设计。
按稳定语义路径排序
用大模型做文本分类时,如何保证输出只落在预定义标签集合内? 本文先给出可直接复述的结论,再用最小代码说明文本分类 枚举输出 约束解码的工作方式、判断依据、项目边界和常见误区。
少样本提示(few-shot)为什么能在不更新权重的情况下改变模型行为? 本文先给出可直接复述的结论,再用最小代码说明少样本学习 上下文学习 无需更新权重的工作方式、判断依据、项目边界和常见误区。
什么是大模型幻觉,事实性幻觉和指令遵循失败是一回事吗? 本文先给出可直接复述的结论,再用最小代码说明LLM hallucination 幻觉 类型的工作方式、判断依据、项目边界和常见误区。
如何通过多次采样或自我一致性检查来发现大模型的幻觉输出? 本文先给出可直接复述的结论,再用最小代码说明幻觉检测 self-consistency 多次采样的工作方式、判断依据、项目边界和常见误区。
大模型输出的 JSON 解析失败时,工程上有哪些修复与容错策略? 本文先给出可直接复述的结论,再用最小代码说明JSON 解析失败 工程修复 重试策略的工作方式、判断依据、项目边界和常见误区。
大模型的知识截止日期对回答时效性问题意味着什么? 本文先给出可直接复述的结论,再用最小代码说明知识截止 时效性 问答边界的工作方式、判断依据、项目边界和常见误区。
大模型输出的 logits 是什么,如何从中解读模型对每个 token 的置信程度? 本文先给出可直接复述的结论,再用最小代码说明LLM logits logprobs 置信度的工作方式、判断依据、项目边界和常见误区。
为什么大模型在长上下文中间位置的信息容易被忽略(lost in the middle)? 本文先给出可直接复述的结论,再用最小代码说明长上下文 中间信息丢失 lost in the middle的工作方式、判断依据、项目边界和常见误区。
max_tokens 参数控制的是什么,设置过小会导致什么问题? 本文先给出可直接复述的结论,再用最小代码说明max_tokens 最大输出长度 截断的工作方式、判断依据、项目边界和常见误区。
为什么默认的大模型 API 调用不能访问实时网页、文件或执行动作? 本文先给出可直接复述的结论,再用最小代码说明LLM 能力边界 无法联网 无状态的工作方式、判断依据、项目边界和常见误区。
为什么说大语言模型的本质是下一个 token 预测,概率是如何计算的? 本文先给出可直接复述的结论,再用最小代码说明next token prediction 生成概率 softmax的工作方式、判断依据、项目边界和常见误区。
提示词越长效果越好吗,长提示的成本与收益如何权衡? 本文先给出可直接复述的结论,再用最小代码说明提示词长度 成本与收益 权衡的工作方式、判断依据、项目边界和常见误区。
在提示词层面有哪些被验证有效的降低幻觉的手段? 本文先给出可直接复述的结论,再用最小代码说明减少幻觉 提示词 引用资料 允许拒答的工作方式、判断依据、项目边界和常见误区。
为什么大模型有时会拒绝完全合理的请求,如何在应用中处理误拒? 本文先给出可直接复述的结论,再用最小代码说明LLM 误拒 over-refusal 处理的工作方式、判断依据、项目边界和常见误区。
大模型生成时出现重复循环(重复同一句子)是什么原因,如何缓解? 本文先给出可直接复述的结论,再用最小代码说明LLM 生成重复 repetition penalty的工作方式、判断依据、项目边界和常见误区。
大模型 API 中的 stop sequences 有什么作用,使用不当会引发什么问题? 本文先给出可直接复述的结论,再用最小代码说明stop sequences 停止序列 用法与陷阱的工作方式、判断依据、项目边界和常见误区。
如何让大模型稳定输出合法 JSON,JSON 模式与约束解码有何区别? 本文先给出可直接复述的结论,再用最小代码说明LLM JSON 模式 输出约束 解码的工作方式、判断依据、项目边界和常见误区。
什么是大模型的谄媚(sycophancy)倾向,为什么在提示中暗示答案会扭曲输出? 本文先给出可直接复述的结论,再用最小代码说明LLM 谄媚倾向 提示暗示 影响的工作方式、判断依据、项目边界和常见误区。
大模型采样参数 temperature 如何影响生成文本的分布? 本文先给出可直接复述的结论,再用最小代码说明LLM temperature 采样 参数的工作方式、判断依据、项目边界和常见误区。
为什么用字符数估算大模型的 token 消耗会不准确? 本文先给出可直接复述的结论,再用最小代码说明token 数量 估算 字符数 中英文的工作方式、判断依据、项目边界和常见误区。
大语言模型中的 token 化(如 BPE 分词)是如何把文本转成模型输入的? 本文先给出可直接复述的结论,再用最小代码说明LLM tokenization BPE 分词的工作方式、判断依据、项目边界和常见误区。
大模型的工具调用(function calling)为什么比普通文本输出更可靠地产生结构化结果? 本文先给出可直接复述的结论,再用最小代码说明工具调用 结构化输出 可靠性的工作方式、判断依据、项目边界和常见误区。
什么是 top-p(核采样),它和 top-k 采样有什么区别? 本文先给出可直接复述的结论,再用最小代码说明top-p 核采样 与 top-k 区别的工作方式、判断依据、项目边界和常见误区。
如何在回声环境中有效抑制音频信号中的重复回响? 本文先给出可直接复述的结论,再用最小代码说明音频回声抑制 回响消除 信号处理的工作方式、判断依据、项目边界和常见误区。
音频嵌入在长时间段上如何保持上下文连贯性? 本文先给出可直接复述的结论,再用最小代码说明音频嵌入 时间连贯性 长序列建模的工作方式、判断依据、项目边界和常见误区。
如何从音频中判断情绪状态并将其用于多模态情感分析? 本文先给出可直接复述的结论,再用最小代码说明音频情绪分类 情感分析 多模态融合的工作方式、判断依据、项目边界和常见误区。
如何在连续语音中准确定位句子或短语的边界? 本文先给出可直接复述的结论,再用最小代码说明语音边界检测 语句分隔 语音切分的工作方式、判断依据、项目边界和常见误区。
在混合语音环境中,如何准确分割出说话人对应的音频片段? 本文先给出可直接复述的结论,再用最小代码说明音频分割 说话人分离 语音增强的工作方式、判断依据、项目边界和常见误区。
如何自动检测一段音视频内容是否存在唇语与声音不同步的问题? 本文先给出可直接复述的结论,再用最小代码说明音视频同步检测 唇语对齐 同步验证的工作方式、判断依据、项目边界和常见误区。
如何检测一段音频是否为语音克隆伪造? 本文先给出可直接复述的结论,再用最小代码说明语音克隆检测 音频伪造 语音真实性的工作方式、判断依据、项目边界和常见误区。
如何在多模态模型中实现图像与音频的跨模态特征融合? 本文先给出可直接复述的结论,再用最小代码说明多模态融合 图像 音频 特征对齐的工作方式、判断依据、项目边界和常见误区。
如何在多模态系统中准确去除图像背景以聚焦主体? 本文先给出可直接复述的结论,再用最小代码说明图像背景移除 主体分割 实例分割的工作方式、判断依据、项目边界和常见误区。
当图像存在多重合理描述时,如何设计生成策略以避免单一输出偏差? 本文先给出可直接复述的结论,再用最小代码说明图像描述 多样性生成 模型采样策略的工作方式、判断依据、项目边界和常见误区。
如何在多帧图像中保持颜色一致性以避免视觉跳跃? 本文先给出可直接复述的结论,再用最小代码说明图像颜色一致性 色温校正 视觉稳定的工作方式、判断依据、项目边界和常见误区。
图像嵌入表示在高分辨率输入下的表现为何可能退化?如何缓解? 本文先给出可直接复述的结论,再用最小代码说明图像嵌入 高分辨率 表示退化的工作方式、判断依据、项目边界和常见误区。
当图像与文本描述矛盾时,如何让模型识别并拒绝错误陈述? 本文先给出可直接复述的结论,再用最小代码说明图像文本矛盾 一致性检测 模型纠错的工作方式、判断依据、项目边界和常见误区。
如何高效处理大量文档的批量OCR请求? 本文先给出可直接复述的结论,再用最小代码说明OCR 批量处理 并行优化 任务调度的工作方式、判断依据、项目边界和常见误区。
如何使OCR系统理解文档的版式结构(如表格、标题、段落)? 本文先给出可直接复述的结论,再用最小代码说明OCR 版式理解 表格识别 段落结构的工作方式、判断依据、项目边界和常见误区。
如何保证在旋转或倾斜图像中,OCR输出仍保持原始文本几何关系? 本文先给出可直接复述的结论,再用最小代码说明OCR 几何保持 旋转校正 文本布局的工作方式、判断依据、项目边界和常见误区。
在图像中检测非结构化文本区域时,应采用何种技术方案以应对复杂背景干扰? 本文先给出可直接复述的结论,再用最小代码说明OCR 文本检测 复杂背景 不规则文本的工作方式、判断依据、项目边界和常见误区。
如何处理包含多种编码格式的文本输入以确保一致性? 本文先给出可直接复述的结论,再用最小代码说明OCR Unicode 正常化 编码统一的工作方式、判断依据、项目边界和常见误区。
面对输入尺寸限制,如何优化图像或视频的预处理流程以最小化信息损失? 本文先给出可直接复述的结论,再用最小代码说明输入大小限制 图像压缩 视频降维的工作方式、判断依据、项目边界和常见误区。
当音频与视频流的时间戳不同步时,如何通过语义内容实现精准对齐? 本文先给出可直接复述的结论,再用最小代码说明时间对齐 语义对齐 音视频同步的工作方式、判断依据、项目边界和常见误区。
在视频编码阶段如何选择压缩参数以维持多模态任务的判别能力? 本文先给出可直接复述的结论,再用最小代码说明视频编码 压缩参数 判别力保持的工作方式、判断依据、项目边界和常见误区。
处理长视频输入时,如何设计合理的帧采样策略以平衡性能与信息保留? 本文先给出可直接复述的结论,再用最小代码说明视频输入 帧采样 策略 时间分辨率的工作方式、判断依据、项目边界和常见误区。
如何利用前几帧预测视频后续动作趋势,且避免过度拟合短期运动? 本文先给出可直接复述的结论,再用最小代码说明视频动作预测 运动建模 长期依赖的工作方式、判断依据、项目边界和常见误区。
如何在低光照或热成像条件下提升视频理解能力? 本文先给出可直接复述的结论,再用最小代码说明热成像 视频理解 低光条件的工作方式、判断依据、项目边界和常见误区。
按月调用量增长时,API 计费与自建 GPU 推理的成本交叉点如何计算,需要考虑哪些隐性成本? 本文先给出可直接复述的结论,再用最小代码说明API vs self-hosted LLM break-even cost analysis的工作方式、判断依据、项目边界和常见误区。
LLM 推理服务中动态批处理(continuous batching)如何同时改善吞吐与延迟,什么时候反而会伤害尾延迟? 本文先给出可直接复述的结论,再用最小代码说明连续批处理优化吞吐与延迟的边界条件的工作方式、判断依据、项目边界和常见误区。
上线 prompt caching 后应监控哪些指标来确认缓存真的在省钱,命中率下降如何归因? 本文先给出可直接复述的结论,再用最小代码说明prompt cache hit rate monitoring attribution的工作方式、判断依据、项目边界和常见误区。