LLM 实战中的常见失败模式总结

看起来这篇文章最后被登上了 HN 首页。

去年底我开始写数学博客，决定用 LLM 来修饰和增强我的写作。LLM 生成的文字明显比我自己的写作好得多。它有更好的词汇、有趣的句式结构等等。我发誓当时它对我来说根本不像 AI 生成的废话。然后大约 3 个月后，我看到完全相同的句式结构出现在整个互联网上。令我着迷的是，ai-smell 似乎是一种工件，在各种 AI 辅助任务中出现，现在你可以轻易识别它。以下是我到目前为止收集的一些例子，展示跨越两个领域的"ai-smell"：

来自我的数学博客（已删除）和伴随的草稿的一些选段

"人类之所以信任对称性，是因为它看起来像是可见化的智慧。"

"老虎符合故事。金庸符合物理。"

"对称性变成了陷阱。"

"然而倾斜并非偶然。它是最优值的形状。"

"然后 AlphaEvolve 到来了。它对对称性没有偏好。没有审美先验。没有保持和谐的本能。"

"这些例子不是装饰性的。它们形成了一个分布式论证。"

"尴尬是沿着你选择的梯度移动的可见标志。"

"不仅满足约束条件，而且满足审美直觉的解决方案"

我并不反对在创意任务中使用 LLM/AI。这只是我注意到的现象。