Neon开源4B智能体检索模型

IT之家 8 月 7 日消息，Neon 昨日（8 月 6 日）发布博文，宣布与 Castform 合作，披露了一套面向检索模型的训练方案。

IT之家注：Neon 是一款完全托管的无服务器（Serverless）PostgreSQL 数据库。它将计算与存储分离，支持自动扩展、按需缩容至零，以及类似 Git 的数据库分支功能，非常适合现代云原生应用和 AI Agent。

Castform 则主要面向企业和开发者提供 AI 语音 Agent 与模型训练平台。它通过高度拟真的语音交互和自动化工作流，帮助企业处理日常通话、销售跟进和客户支持。

博文指出，一个优秀的 AI Agent 需要具备以下两种能力：

• 通过工具找到正确的上下文数据；
• 通过路由判断搜索任务应该使用什么模型。

为此，Neon 团队与 Castform 使用强化学习，对一个拥有 4B 参数的开源模型进行了后训练。在搜索任务中，该模型的准确率与 OpenAI 的 GPT-5.6 Sol 相当，甚至更高，而成本仅约为后者的 1/100。

Neon 团队指出，在文档搜索方面，目前的主流方案是嵌入式搜索（embedded search），通常会先将文档转换为数值化数据，再从中查找相似内容。

随着 AI Agent 日益普及，搜索流程开始转向 Agent 式搜索。在这类系统中，AI 模型会将大型问题拆分成多个小问题，自主决定搜索查询、查看搜索结果，并根据结果发起下一次搜索，直至收集到所需信息。

Neon 表示，Agent 式搜索更适合处理复杂问题，但每次搜索都需要调用高性能模型，因此会增加耗时和成本。按照 Neon 给出的典型请求口径，使用 GPT-5.6 Sol 完成一次搜索请求需要超过 10 秒，成本约为 0.03 美元。

Castform 选择训练一个相对较小的开源模型，让模型学习如何从特定数据中找到所需信息。Neon 负责提供文档存储位置和搜索功能，Castform 则负责训练模型判断“应该搜索什么”。

在训练过程中，模型会尝试完成任务，系统随后为结果评分，并将评分结果纳入后续试验。评估维度包括：

• 是否找到了正确的文档；
• 是否引用了合适的段落；
• 最终答案是否正确。

在 Neon 的验证中，经过 Castform 后训练的模型平均评估得分为 1.447，超过 GPT-5.6 Sol 的 1.369，也高于作为对照组的 GPT-5.4 所取得的 1.377，刷新了该验证的最高纪录。

成本方面，后训练模型的单次推理成本为 0.000929 美元（按当前汇率约合人民币 0.0063 元）；GPT-5.6 Sol 的单次推理成本为 0.087338 美元（按当前汇率约合人民币 0.59 元）。

软媒旗下网站：IT之家、最会买——返利返现优惠券、iPhone之家、Win7之家、Win10之家、Win11之家。

软媒旗下软件：软媒手机 APP 应用、魔方、最会买、要知。