基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-22 22:10

Gemini 返回空文本,可能是推理耗尽额度

dev.to · AI#Gemini#接口排障#推理预算
Editor brief · 编辑速览

作者用分档输出上限复现了 Gemini 返回 HTTP 200、结束原因为 MAX_TOKENS、正文却为空的情况。一次实验记录了 57 个推理 token 和零回答 token,说明输出预算可能在生成正文前耗尽。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

Gemini API 返回 HTTP 200,读取到的文本却是空字符串,未必是请求出了问题。作者的一次实验发现:启用思考的模型会先把推理 token 计入 max_output_tokens,留给最终答案的额度可能已经耗尽。

对接 AI 接口时,只判断请求成功、文本非空还不够。更隐蔽的情况是,模型返回了一小段被截断的文字,下游照样继续处理。这篇实验的价值,就在于指出该检查哪些字段,以及输出预算为什么不能只按答案长度来估。

答案只要十几个 token,为什么额度还是不够

作者在 2026 年 11 月 10 日,用一个免费层级 key 测试了一道火车算术题。已知正确答案是 11:49,要求用一句话回答,正确回复大约只需 15 个 token。

但 max_output_tokens 并不是只给用户可见答案设上限。对会思考的 Gemini 模型,推理过程也会消耗这笔预算,而且发生在答案输出之前。

在 high 思考级别、额度为 60 时,三个模型表现不同:

  • gemini-3.6-flash 消耗了 57 个思考 token,答案 token 为 0,文本长度为 0。
  • gemini-3-flash-preview 消耗了 56 个思考 token,返回空字符串。
  • gemini-3.5-flash-lite 消耗了 53 个思考 token,输出了 3 个答案 token,内容是「They will meet」。

三次都以 MAX_TOKENS 结束。区别只是,有的预算耗尽时还没开始回答,有的已经挤出了几个词。

输出预算要覆盖思考和答案,不能只按预期答案长度设置。

为什么文本非空也不能算成功

作者继续提高 gemini-3.6-flash 在 high 级别下的额度,结果没有简单地变成「多给一点就能答完」:

输出额度 思考 token 返回情况
60 57 0 个答案 token,文本为空
150 145 仅 1 个答案 token
400 383 返回「The two trains will meet at 11:50 a」
1,500 1,438 返回推导过程的中间部分,而非答案

额度为 400 时,回复既在单词中间截断,时间也答错了。对流水线而言,这比空字符串更容易漏检:if text: 会放行,但它既不完整,也不正确。

作者用下面这段探针,同时记录结束原因、文本长度和两类 token 消耗:

from google import genai
from google.genai import types

client = genai.Client()

def run(model, level, max_tokens=None):
    cfg = types.GenerateContentConfig(
        thinking_config=types.ThinkingConfig(thinking_level=level),
        max_output_tokens=max_tokens,
    )
    r = client.models.generate_content(model=model, contents=PROMPT, config=cfg)
    u = r.usage_metadata
    return {
        "finish": r.candidates[0].finish_reason,
        "text_chars": len(r.text or ""),
        "thoughts": u.thoughts_token_count,
        "answer_tokens": u.candidates_token_count,
    }

重点看最后两个用量字段:thoughts_token_count 和 candidates_token_count 放在一起,才能看出额度去了哪里。代码中的 PROMPT 需要另行定义,原文没有给出完整题面。

读取结果时,应先检查 candidates[0].finish_reason。出现 MAX_TOKENS,就应按截断结果处理;不能因为 HTTP 200 或文本非空,就当作正常完成。

不设上限、降低思考级别,能解决吗

作者没有显式设置输出额度时,同一道题在 gemini-3-flash-preview 上,high 使用了 21,607 个思考 token,low 使用了 1,325 个。

这组差距说明,思考开销不能从「最终只要一句话」直接推算。在该模型的 high 级别下,即使设置 4,000 的额度,答案仍在输出 160 个 token 后被截断。

降低思考级别也有取舍。gemini-3.5-flash-lite 在 low 下使用了 0 个思考 token,却回答 12:00 PM,而正确答案是 11:49。

这里需要分开看两个目标:让接口返回完整内容,以及让内容答对。调整额度和思考级别,都要同时观察这两件事。

我的判断

这次实验最有用的结论,是把接口成功、生成完成、答案正确拆开检查。它也给出了可操作的诊断方式:先看结束原因,再结合两类 token 用量解释结果。

但它不能证明某个固定额度适合所有 Gemini 请求,也不能证明 high 普遍比 low 更可靠。作者只测试了一道题、一个免费层级 key、一天;部分模型在测试中触及每日免费配额,因此结果混用了不同模型。原文也没有提供完整题面、重复次数或系统性的正确率对照。

相比直接取消显式上限,按自己的提示词测量更便于控制开销;相比一律降低思考级别,也更容易保留任务需要的推理能力。这是基于实验现象的工程取舍,原文没有给出足以确定最佳配置的对照数据。

能拿来做什么

  • 在 Node 服务的 Gemini 调用封装中,把结束原因纳入成功判定;遇到 MAX_TOKENS 时进入截断处理分支,避免直接把残片交给后续步骤。
  • 日志同时记录模型、思考级别、输出额度,以及 thoughts_token_count、candidates_token_count,排查空响应时先确认预算消耗。
  • 为实际使用的提示词测试多档额度,既检查能否完整返回,也检查答案是否正确,再决定是否调整思考级别。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
提示词泄露事件暴露零留存承诺边界
下一篇
用浏览器内置 AI 构建可审阅翻译编辑器

资讯速览

dev.to · AI · 2026-11-22 22:10

AI 评分 8.0 / 10

相关标签

#Gemini#接口排障#推理预算

继续阅读

  • 让 Claude Code 连跑八小时的任务护栏
  • 提示词泄露事件暴露零留存承诺边界
  • 用浏览器内置 AI 构建可审阅翻译编辑器
  • 诱饵凭据测试揭示推理服务数据泄露风险
  • 上万测试全绿,模型升级仍让任务失效