# AI 大模型与 Agent 面试题汇总
这份题库写给正在做或准备转 AI 方向的前端、全栈工程师,收的是 AI 应用岗面试里反复出现的题。每道题顶部的速记卡是面试时要说出口的要点,下面是能直接参考的回答;想弄懂原理就展开详细解析,最后的追问是面试官顺着往下挖时最常问的几个方向。
左侧分组按学习顺序从基础排到进阶:先把模型和 Prompt 用明白,再把 AI 接进前端页面,然后是工具调用、RAG、Agent、记忆这些应用核心,接着是让系统能上线的工程化,最后才是模型原理、微调部署和综合场景题。刚入门的话从头往下看,有基础的可以直接跳到自己岗位相关的分组。
复习时建议先只看题目自己讲一遍,讲得顺的跳过,卡壳的再看答案。
# 大模型核心概念
这一组是 AI 面试的开场题,问得最多的就是 LLM、token、上下文窗口和采样参数。答的时候别背定义,多讲讲这些概念在项目里怎么影响成本、效果和稳定性。
# 什么是大语言模型(LLM)?它和过去的 NLP 模型本质区别是什么?
30 秒速记
- 本质:一个预测下一个
token的概率模型,生成就是「猜一个 → 拼回上文 → 再猜下一个」的循环 - 区别一:以前一个任务训一个模型,分类、翻译各一套;现在同一个模型靠
prompt切换任务 - 区别二:规模上去之后,出现了推理、写代码、跨语言这些小模型上看不到的能力
- 边界:它保证的是「说得像」,不保证「说得对」,算钱、改状态这类事要交给代码
LLM 说到底是一个预测下一个 token 的概率模型:读上文、猜下一个词,再把猜出来的词拼回去接着猜。 和以前的 NLP 模型比,最大的变化是不用再一个任务训一个模型了,分类、翻译、摘要都能在同一个模型里靠 prompt 切换;参数规模上去以后,推理和写代码的能力也跟着出来了。不过它本质上在算概率,说得流畅不代表说得对,所以项目里涉及金额、权限这类必须准确的环节,我还是会交给确定性代码处理。
考察点:能不能用大白话讲清楚,知道它做的是「概率预测」而不是「理解」。
LLM 做的事其实很单一:给一段上文,算出下一个 token 的概率分布,挑一个拼到上文后面,然后重复。聊天、写代码、翻译,底层都是这一个动作在循环。
拆开看一次生成:文本先被 tokenizer 切成一串编号,经过 Transformer 的注意力层,模型判断当前位置该参考前文的哪些内容,最后输出词表里每个候选 token 的概率。它之所以什么都能聊,是因为预训练阶段把海量文本和代码里的规律压进了参数,运行时并没有去查数据库,也没有在核对事实。
「输出概率」这一步是 Softmax 做的。模型最后一层给词表里每个 token 打一个原始分数(logits),能正能负、加起来也不是 1;Softmax 先取指数再归一化,把它们变成加起来为 1 的概率,temperature 就是在这之前把 logits 除以一个数,调分布的尖锐程度。训练时的损失是交叉熵,也就是 -log(真实下一个 token 的概率):模型给正确答案 0.9 的概率,损失约 0.1;只给 0.01,损失约 4.6,越是自信地猜错罚得越重。所以说大模型就是在整个词表上反复做多分类,并不夸张。
和过去的 NLP 模型相比,差别主要在两点。
第一是不再一个任务一个模型。以前做情感分类要训一个分类器,做翻译要训一个翻译模型,每个模型的输入输出都是定死的。现在把任务说明、几个示例和待处理的内容一起写进 prompt,同一个模型就能干不同的活。
第二是规模带来了新能力。参数量和训练数据上去之后,模型开始表现出推理、写代码、跨语言迁移这些能力,小模型上基本看不到。这个现象常被叫作「涌现」,至于它是不是真的突变,学界还有争论,后面讲涌现能力的那题会细说。
省掉「一个任务训一个模型」的成本,代价是稳定性不再由训练保证,而要靠 prompt、评测和外部校验来兜。所以工程上常见的分工是:模型负责理解用户意图和组织语言,金额计算、权限判断、订单状态变更这些必须百分百正确的事,交给后端代码。
下面这段代码没有实现神经网络,只是把「上一轮的输出变成下一轮的输入」这个过程写了出来:
type NextToken = { token: string; probability: number }
function greedyDecode(step: (context: string[]) => NextToken[], prompt: string[], max = 4) {
const context = [...prompt]
for (let index = 0; index < max; index += 1) {
const candidates = step(context).sort((a, b) => b.probability - a.probability)
const next = candidates[0]
if (!next || next.token === '<eos>') break
context.push(next.token)
}
return context
}
循环有两个出口:模型吐出结束标记 <eos>,或者达到最大长度 max。真实的推理服务还要处理采样策略、上下文长度上限和 KV Cache,但骨架就是这样。两个出口如果都没守住,生成就会一直跑下去,线上偶尔看到模型「停不下来、反复输出同一段」,很多时候就是这个原因。
面试官追问
追问 1你说它只是在算概率,那它为什么能把我们的退款规则讲得头头是道?能不能干脆让它直接算退款金额、改订单状态?
讲得好是因为它见过大量类似的规则文本,说得通顺不代表算得对。金额和状态变更我会放在后端代码里做,模型只负责理解用户想干什么、再把结果讲清楚,它算错一次就是一次资损。
追问 2我们原来有情感分类、翻译、摘要三个模型,现在想合成一个 LLM 服务,是不是换个接口就完事了?
接口能合,验收合不了。三类任务的 prompt 和输出格式要分别设计,测试集也要按任务各准备一份。以前稳定性是训练出来的,现在要靠 prompt 和评测来保证,这部分工作是省不掉的。
追问 3线上有个代码助手,输出到一半开始反复写同一段,一直不结束,你先查什么?
先看有没有设 max_tokens 和停止条件。自回归生成本来就是一直往后接,模型没吐出结束标记、服务端又没设上限,就会一直跑。上限能止损,但设得太小会把正常的长代码也截断,所以还要回头看是不是 prompt 或采样参数让模型陷进了重复。
追问 4既然模型越大越聪明,知识库问答换个更大的模型,引用校验是不是就可以省了?
省不了。模型再大也不知道你们公司文档里写了什么,更不会自己去核对。检索到的资料还是要放进上下文,回答里的引用和关键字段还是要校验。大模型改善的是表达和推理,给不了事实保证。
# 调一次大模型对话接口,请求体和返回体里有哪些关键字段?
30 秒速记
- 请求四件:
model选谁、messages说什么、采样参数怎么说、stream要不要流式 role分system、user、assistant、tool,历史对话靠前端或服务端每次重新带上max_tokens只管输出上限,输入超长是另一个错误- 返回看三样:
content是答案,finish_reason看停没停对,usage用来算钱 - 流式时内容在
delta里分段到,usage要单独开开关或看最后一个事件
一次对话请求说白了就四件事:用哪个模型(model)、给它看什么(messages)、让它怎么说(temperature、max_tokens 这类参数)、要不要边生成边返回(stream)。 返回体里我最关心三个字段:content 是回答本身,finish_reason 告诉我它是正常说完还是被截断了,usage 记录输入输出各用了多少 token,计费和限额都靠它。面试官问「你们怎么对接大模型的」,我会先把这几个字段讲清楚,再讲流式和 BFF 那一层。
考察点:有没有真的调过模型接口,能不能说清每个字段在产品里对应什么功能。
很多前端第一次接 AI,是从一个 OpenAI 兼容格式的 /chat/completions 接口开始的。国内大多数厂商也兼容这套格式,所以把它吃透,换模型时基本只改 baseURL 和 model。下面用代码演示一次非流式调用,这段放在 Node.js 服务端跑,密钥从环境变量读:
const res = await fetch('https://api.example.com/v1/chat/completions', {
method: 'POST',
headers: { 'Content-Type': 'application/json', Authorization: `Bearer ${process.env.LLM_API_KEY}` },
body: JSON.stringify({
model: 'your-model-id',
messages: [
{ role: 'system', content: '你是前端面试助手,回答控制在 200 字以内' },
{ role: 'user', content: '解释一下 BFC' },
],
temperature: 0.3,
max_tokens: 800, // 只限制输出长度,不影响输入
stream: false,
}),
})
const data = await res.json()
const choice = data.choices[0]
console.log(choice.