Gemini 返回空文本,可能是推理耗尽额度
作者用分档输出上限复现了 Gemini 返回 HTTP 200、结束原因为 MAX_TOKENS、正文却为空的情况。一次实验记录了 57 个推理 token 和零回答 token,说明输出预算可能在生成正文前耗尽。
AI 深度解读
Gemini API 返回 HTTP 200,读取到的文本却是空字符串,未必是请求出了问题。作者的一次实验发现:启用思考的模型会先把推理 token 计入 max_output_tokens,留给最终答案的额度可能已经耗尽。
对接 AI 接口时,只判断请求成功、文本非空还不够。更隐蔽的情况是,模型返回了一小段被截断的文字,下游照样继续处理。这篇实验的价值,就在于指出该检查哪些字段,以及输出预算为什么不能只按答案长度来估。
答案只要十几个 token,为什么额度还是不够
作者在 2026 年 11 月 10 日,用一个免费层级 key 测试了一道火车算术题。已知正确答案是 11:49,要求用一句话回答,正确回复大约只需 15 个 token。
但 max_output_tokens 并不是只给用户可见答案设上限。对会思考的 Gemini 模型,推理过程也会消耗这笔预算,而且发生在答案输出之前。
在 high 思考级别、额度为 60 时,三个模型表现不同:
gemini-3.6-flash消耗了 57 个思考 token,答案 token 为 0,文本长度为 0。gemini-3-flash-preview消耗了 56 个思考 token,返回空字符串。gemini-3.5-flash-lite消耗了 53 个思考 token,输出了 3 个答案 token,内容是「They will meet」。
三次都以 MAX_TOKENS 结束。区别只是,有的预算耗尽时还没开始回答,有的已经挤出了几个词。
输出预算要覆盖思考和答案,不能只按预期答案长度设置。
为什么文本非空也不能算成功
作者继续提高 gemini-3.6-flash 在 high 级别下的额度,结果没有简单地变成「多给一点就能答完」:
| 输出额度 | 思考 token | 返回情况 |
|---|---|---|
| 60 | 57 | 0 个答案 token,文本为空 |
| 150 | 145 | 仅 1 个答案 token |
| 400 | 383 | 返回「The two trains will meet at 11:50 a」 |
| 1,500 | 1,438 | 返回推导过程的中间部分,而非答案 |
额度为 400 时,回复既在单词中间截断,时间也答错了。对流水线而言,这比空字符串更容易漏检:if text: 会放行,但它既不完整,也不正确。
作者用下面这段探针,同时记录结束原因、文本长度和两类 token 消耗:
from google import genai
from google.genai import types
client = genai.Client()
def run(model, level, max_tokens=None):
cfg = types.GenerateContentConfig(
thinking_config=types.ThinkingConfig(thinking_level=level),
max_output_tokens=max_tokens,
)
r = client.models.generate_content(model=model, contents=PROMPT, config=cfg)
u = r.usage_metadata
return {
"finish": r.candidates[0].finish_reason,
"text_chars": len(r.text or ""),
"thoughts": u.thoughts_token_count,
"answer_tokens": u.candidates_token_count,
}
重点看最后两个用量字段:thoughts_token_count 和 candidates_token_count 放在一起,才能看出额度去了哪里。代码中的 PROMPT 需要另行定义,原文没有给出完整题面。
读取结果时,应先检查 candidates[0].finish_reason。出现 MAX_TOKENS,就应按截断结果处理;不能因为 HTTP 200 或文本非空,就当作正常完成。
不设上限、降低思考级别,能解决吗
作者没有显式设置输出额度时,同一道题在 gemini-3-flash-preview 上,high 使用了 21,607 个思考 token,low 使用了 1,325 个。
这组差距说明,思考开销不能从「最终只要一句话」直接推算。在该模型的 high 级别下,即使设置 4,000 的额度,答案仍在输出 160 个 token 后被截断。
降低思考级别也有取舍。gemini-3.5-flash-lite 在 low 下使用了 0 个思考 token,却回答 12:00 PM,而正确答案是 11:49。
这里需要分开看两个目标:让接口返回完整内容,以及让内容答对。调整额度和思考级别,都要同时观察这两件事。
我的判断
这次实验最有用的结论,是把接口成功、生成完成、答案正确拆开检查。它也给出了可操作的诊断方式:先看结束原因,再结合两类 token 用量解释结果。
但它不能证明某个固定额度适合所有 Gemini 请求,也不能证明 high 普遍比 low 更可靠。作者只测试了一道题、一个免费层级 key、一天;部分模型在测试中触及每日免费配额,因此结果混用了不同模型。原文也没有提供完整题面、重复次数或系统性的正确率对照。
相比直接取消显式上限,按自己的提示词测量更便于控制开销;相比一律降低思考级别,也更容易保留任务需要的推理能力。这是基于实验现象的工程取舍,原文没有给出足以确定最佳配置的对照数据。
能拿来做什么
- 在 Node 服务的 Gemini 调用封装中,把结束原因纳入成功判定;遇到
MAX_TOKENS时进入截断处理分支,避免直接把残片交给后续步骤。 - 日志同时记录模型、思考级别、输出额度,以及
thoughts_token_count、candidates_token_count,排查空响应时先确认预算消耗。 - 为实际使用的提示词测试多档额度,既检查能否完整返回,也检查答案是否正确,再决定是否调整思考级别。