Bryan Cantrill(BSD/DTrace作者)深入剖析LLM代笔时的智力诚信问题,指出AI生成内容让作者跳过独立思考的"拉链",并探讨这对技术写作和知识工作意味着什么,HN评分639。
Note:本文最初于 2025 年 11 月 11 日发布在 LinkedIn 上。
我需要做一个痛苦的坦白:不知怎的,LinkedIn 竟然成了我重要的社交网络。这倒不是因为 LinkedIn 有什么出众的能力,恰恰相反,LinkedIn 是社交网络中的杰拉尔德·福特:在那些尼克松们、斯派罗·阿格纽们等社交媒体纷纷崩塌之际,它是唯一幸存的"正常"选择。和杰拉尔德·福特一样,LinkedIn 确实有点笨拙乏味,但(就像水门事件后的美国!)它至少没有完全崩坏——这其实反而让人松了口气。
但因为我发现自己花在这上面的时间越来越多,所以我们需要认真谈一谈:你们中有太多人在用 LLM 生成内容了。当然,这并不完全是你们的错:LLM 本身就够诱人了,LinkedIn 本身还在热情地(一再坚持地!)帮你"用 AI 重写"。它看起来那么热心想帮你,让它帮一把、减轻你的负担又有何妨?
问题是——天哪——这东西写出来的东西实在太烂了。问题不在于平庸(尽管确实平庸!),而是在于风格上令人不适:满是 emoji、一句话一段落、"不仅仅是……而且还……"的句式,以及(没错!)破折号——我们中有些人是自然地使用破折号,但大多数人不这样做(或者不该这样做)。
当你用 LLM 来写帖子时,你可能以为自己生成的是可信的文字,但实际上不是:任何一个看过哪怕一点点 LLM 生成内容的人(这个群体正在迅速扩大!),都无法忽视 LLM 的痕迹。直说吧,你的 intellectual fly is open:很多人都注意到了——但没人指出来。而问题不仅仅是尴尬:当我想听你这个人发出的声音时,你明显在用 LLM 替你写帖子,我不知道哪些是真的、哪些实际上是生成的 fanfic。你的文字完全不像你写的……那么实际内容是真实的么?也许吧?但也可能不是。不管怎样,我停止阅读了——很多人都这样做了。
我要说清楚,我认为 LLM 非常有用:它们对头脑风暴很有帮助,对理解文本不可或缺,对编辑工作也出色得惊人。(而且,与大多数好编辑不同,你可以随意无视他们善意的建议,而不用担心因为牛津逗号或其他什么引发一场内战。)但 LLM 也是糟糕的写作者,而且(最重要的是!)它们不是你。它们最多把你原本真实的内容包裹在让人略读或停止阅读的结构中;最坏的情况下,它们会让看出真相的人完全质疑你的真实性。
所以求你了,不为我们所有人的理智着想、就为了给你自己的信息应得的认可:对自己的声音有点信心——自己写内容吧。