实测200次AI输出：18%存在幻觉，验证层工具免费开源

上周我做了一组实验。每当我的 AI agent 生成一段输出，我都会手动验证并记录它是否正确。

结果令人尴尬。

在 Claude、GPT 和 DeepSeek 的 200 次输出中：

• 36 次自信地错了（18%）
• 12 次捏造了引用或参考资料
• 8 次尝试使用带有 hallucinated 参数的函数调用
• 4 次泄露了系统提示词内容

这相当于近五分之一的 token 预算花在了我必须手动发现并重做的输出上。

LLM 的优化目标是听起来有说服力，而不是保证正确。当它们遇到不确定性时，会用看起来合理的内容填充空白。问题是，"看起来合理"不等于"真实"，而在代码中，"看起来合理但错误"的东西会浪费数小时来调试。

一个验证层，置于模型和你的工作区之间。它在生成之后、输出到达代码库之前运行：

• Citation checker — 验证引用是否与实际来源相符
• Code validator — 检查语法和逻辑一致性
• Safety leak detector — 捕获泄露的系统提示词
• Argument verifier — 检查函数调用参数是否符合 schema
• Coherence scorer — 将输出与原始 prompt 进行对比

所有检查在 CPU 上 100ms 内完成。与模型无关。免费。

Download: https://agent-download-site.vercel.app

试着审核一天你自己的 agent 输出。你可能会对发现的结果感到惊讶。

We're a place where coders share, stay up-to-date and grow their careers.