大模型本质上是有损百科全书

由于我喜欢收集关于LLM的有趣比喻，这里是我最新想到的一个：LLM是一个有损百科全书。它们内部压缩了大量事实，但这个压缩过程是有损的（参见Ted Chiang的观点）。

关键是培养一种直觉，理解LLM能有用地回答哪些问题，以及哪些问题的细节程度会让这种有损性产生影响。

这个想法受到Hacker News上一条评论的启发，该评论询问为什么LLM不能"为Pi Pico创建一个样板Zephyr项目骨架，配置st7789 spi显示驱动"。这是个更偏向无损百科全书的问题！

解决这个具体问题的方法是给它提供一个正确的例子。不要指望它凭空知道这么特定的细节——相反，把它当作一个能够对呈现给它的事实进行操作的工具。

OpenAI对Hugging Face的无意网络攻击是真实发生的科幻小说 - 2026年7月22日

与Claude Code团队的Cat和Thariq的炉边谈话 - 2026年7月21日

Kimi K3，以及我们从鹈鹕基准测试中仍能学到的东西 - 2026年7月16日

这是Simon Willison的笔记，发布于2025年8月29日。

每月赞助我10美元，获得本月最重要的LLM发展的精选电子邮件摘要。

付费让我发送更少内容！