Cursor/Replit/Perplexity为何自训练模型而非套壳

Cursor、Intercom、Replit 和 Perplexity 都在用自己的生产数据训练专用模型。每家公司都只选了一个狭窄但高流量的任务，基于竞争对手无法获取的流量数据进行训练，最终交付的模型在该任务上可以媲美甚至超越前沿 API，且延迟更低、成本更优。他们没有一家试图在通用能力上超越 OpenAI。

原文首发于 overmindlab.ai。

应用层公司常被贴上「ChatGPT 套壳」的标签，但现在开始训练自己的模型了——用竞争对手无法触及的数据集对自己的生产流量做后训练或微调。

四个最近的案例：

Cursor 用在线强化学习在生产环境的 agent 轨迹数据上训练了 Composer，即其代码 agent 内部的模型。以极低的延迟和成本实现了前沿水平的编程能力。

Intercom 用数十亿条支持对话数据训练了 Fin Apex，一款客户服务的后训练模型。它让 Intercom 能够大规模掌控 resolution-rate（问题解决率）这一核心指标。

Replit 训练了一个 7B 代码修复模型，基于 DeepSeek-Coder-Instruct-v1.5 微调。获得了一个快速的、基于 IDE 数据的窄领域专家模型——这些数据其他任何人都没有。

Perplexity 训练了 Sonar，一款搜索问答模型，基于 Llama 3.3 70B 微调，部署在 Cerebras 硬件上。以搜索级别的规模提供亚秒级、高引用的答案。

哪些公司在训练自己的模型？

同样是这四家公司，以下是它们使用的基座模型、方法和可量化的结果。

先说明我们自己的位置。Overmind 是面向 AI 团队的平台，贯穿这四个案例的模式正是 Overmind 为之构建的模式。这些案例研究本身是其他人的工作，文中已注明来源。

Cursor：基于真实 agent 轨迹的强化学习

Cursor 不是做一次微调就上线了事。Composer 模型系列运行在实时 RL 上：模型检查点进入生产环境，真实用户交互成为奖励信号，每天多次推送改进后的检查点。该模型是 MoE（混合专家）架构，在一套模拟 Cursor 实际工具空间的训练框架内训练，包括文件编辑、语义搜索和终端命令。奖励信号反映的是开发者实际使用产品的方式，而非合成基准测试——这是 Cursor 在 Composer 技术文章中披露的信息。

Cursor 报告 Composer 生成 token 的速度比同类前沿模型快数倍，同时在内部编程基准测试中接近顶级水平。Composer 2 技术报告深入探讨了这种权衡。没有任何其他公司拥有 Cursor 的轨迹数据，这意味着即使有完全相同的基座检查点和完全相同的训练配方，也没有人能训练出 Cursor 的模型。

它带来了什么： 编程性能与更大的模型竞争，同时享有更优的延迟和成本，外加一条由自有专有数据构筑的护城河。

Intercom：围绕产品核心指标做后训练

Fin 于 2023 年基于 GPT-4 推出。Fin 2 于 2024 年底切换到 Claude。随后 Intercom 约 60 人的 AI 研究团队（在 Fergal Reid 领导下）构建了 Fin Apex 1.0，一款基于该公司自有支持交互数据做后训练的模型，如 Fin Apex 发布文章中所述。

一家大型企业客户在切换到 Apex 后，resolution rate（问题解决率）从 68% 跃升至 75%，未解决对话减少了 22%，数据来自 Intercom 官方报告。VentureBeat 的独立报道指出，Apex 的基准解决率为 73.1%，而 GPT-5.4 和 Claude Opus 4.5 均为 71.1%。

Intercom 官方模型文档将 pipeline 拆分为独立的检索、重排和生成模型，而非一个单体系统，详见 Fin CX models 页面。

值得注意：Intercom 并未放弃租用的模型。Apex 建立在检索和路由组件之上，公司在其他场景仍使用第三方模型。这种架构很常见——公司在性能、延迟和成本之间寻求平衡。

Replit：一个基于 IDE 遥测数据训练的窄领域 7B 专家

Replit 的赌注与「越大越好」相反。团队微调了一个 7B 开源模型 DeepSeek-Coder-Instruct-v1.5，这是经过测试多款代码导向基座模型后选中的，详见其代码修复技术文章。

该模型针对一个具体使用场景：约 20 个导致日常编码错误的主要诊断类别，微调后的 7B 检查点在其目标诊断类别中的真实修复任务上达到了或超越了 GPT-4 和 Claude 3 的水平。小型开源模型在许多任务上可以打败体量大得多的通用模型。

Perplexity：搜索优化的推理，1200 tokens/秒

Perplexity 将 Meta 的 Llama 3.3 70B 微调为 Sonar，专门针对其默认搜索模式中的事实基础、引用质量和可读性做了调优，如公司在 Sonar 发布文章中所述。Sonar 运行在 Cerebras 晶圆级推理硬件上，Perplexity 与 Cerebras 联合宣布该硬件将吞吐量提升至约 1200 tokens/秒，比传统 GPU 推理上同类模型快一个数量级。

在 Perplexity 自己的 A/B 测试中，Sonar 在搜索内用户满意度上达到或超越了更大的前沿模型，同时运行成本和速度都远低于直接调用那些模型。

为什么要构建专用模型而不是在前沿模型上做提示？

对每个请求都调用前沿模型，有时候相当于为了烤面包而建一整个数据中心。它能用，但不是处理狭窄、高流量、定义明确的任务的正确工具。贯穿这四家公司，有三个条件反复出现：

一个狭窄的任务，而非通用任务。 小型专业化模型擅长完成一个狭窄任务。别要求它们具有广泛智能。

竞争对手无法获取的专有生产数据。 Cursor 有 Cursor 的轨迹，Intercom 有 Intercom 的支持对话。你的生产流量是唯一买不到的数据集。

足够大的流量规模，使每 token 延迟和成本的降低能够真正影响损益表。 微调模型可能很贵。只有当推理量足够高，摊薄每次调用成本才能产生回报。

这四家公司没有一家想在通用智能上超越 OpenAI 或 Anthropic。每家都只训练了一个能在特定任务上胜出的模型，使用的是它们唯一拥有的数据集。

从轨迹到训练闭环是什么样的？

采集生产轨迹 → 转化为标注数据集 → 在其上训练模型 → 将模型部署回生产环境。这就是应用层正在走向的方向。我们在「如何将轨迹转化为训练数据集」和「如何训练你的 agent」两篇文章中详细拆解了中间两个阶段。

训练自己模型的公司还会使用前沿 API 吗？

通常会，而且是一起用。Intercom 并未放弃租用的模型。Fin Apex 建立在检索和路由组件之上，公司在其他场景仍使用第三方模型。自有模型和租用模型混合使用是常见架构，用于平衡性能、延迟和成本。

需要大模型才能打败前沿模型吗？

在狭窄任务上不需要。Replit 的 7B DeepSeek-Coder-Instruct-v1.5 微调模型在其目标诊断类别中的真实修复任务上达到了或超越了 GPT-4 和 Claude 3。Perplexity 的 Sonar（70B 微调）在搜索内用户满意度上达到了或超越了更大的前沿模型。

训练专用模型需要什么数据？

你自己的生产流量。Cursor 使用了实时 agent 轨迹，Intercom 使用了其支持交互数据，Replit 使用了 IDE 遥测数据，Perplexity 基于自己的搜索行为做了调优。共同要素是产品自己生成的数据集——这是竞争对手唯一买不到的东西。

什么时候训练自己的模型不划算？

当三个条件中缺少任何一个时。任务面太宽而非狭窄、背后没有专有数据支撑、或者流量规模太低导致每次调用节省的成本无法累积。微调有成本，只有推理量足够高才能回本。

Overmind 是面向 AI 团队的平台。帮你把生产轨迹转化为自有专用模型。立即开始。