选择合适的模型比盲目追新更关键

AI 工程师世界集会报道

今年的 AI 工程师世界集会的工作坊明显远离了 RAG 和 prompt 工程，转向了 evals 和开源模型。这种转变反映了我们行业更广泛的变化——更加关注如何衡量和信任 AI 输出。这是一个重要的问题。

更直接的问题是，大多数工程师在日常任务中坚决拒绝考虑任何模型，除了最新和最强大的前沿模型。我花费了大量时间试图说服人们前沿模型并不总是必要的。工程师们即使对天气查询这样的琐碎任务也倾向于使用它们。在快速模型能够成功之前，开发者的行为和信念需要发生改变。

我们似乎还没有做好集体信任 AI 的准备。倾向于选择最强大的选项是一种安全的对冲。但今天的快速模型相当于前沿模型六个月前的水平。Sonnet 4.6 的表现与 Opus 4.1 相当，Gemini Flash 3.5 与 Gemini Pro 3.1 不相上下，GPT-5.4 Mini 与 GPT-5.1 的性能相匹配。快速模型的成本只是其零头，而且速度远快于等待 max-thinking 响应。

随着模型的不断改进，我们在可能不需要的时候仍在评估和优化正确性。这可能只是我的一家之言，但开发者拒绝使用任何除了前沿模型之外的东西，这让我感到恼火。

如果你六个月前对 Opus 的天气结果感到满意，今天的 Sonnet 可能可以完成这项工作。下次检查天气时，也许可以考虑一个快速模型。你可能不会错过前沿模型。

如需进一步操作，你可以考虑屏蔽此人和/或报告滥用。