AI记忆系统的两类失效模式

第四天

我们的记忆系统 Memuron 做出的有趣决策，不是"我应该记住这个吗"。

而是"这是新东西，还是我已经知道的东西的变化？"

第五天

关于我们在做什么。

在上一篇文章中，我说记忆真正困难的部分在于做决定。我想大多数人听到这话，脑海里浮现的是门卫画面——某个人站在门口，把不符合标准的请求拒之门外。

这个画面是错的。丢弃东西恰恰是一个记忆系统不应该做的事。存储很便宜。真正昂贵的是结构。

每一条新信息要么是一个全新的东西，要么是对已有记录的一次修改。在任一方向上判断错误，都会导致系统崩溃。

如果把每次更新都当作新记忆，你会得到五条关于同一事实的近似描述，各自漂移分散，全部可检索，没有一条是权威的。你的 Agent 随机挑一条，说得还特别自信。

如果把每个新东西都当作更新，你就会静默地覆盖掉那些恰好看起来相似的不同事實。这一种更糟，因为它是无声的。

所以那个判断——新的还是变化的——才是真正的工作。而且它必须在写入时做出，由某个能够审视已知内容的东西来完成。

我们早期做了两个决定。什么都不被覆盖：变化以追加形式存在，之前的状态保留在记录中。每一个这样的决定都会连同背后的推理一起存储，这样你就可以回溯，不仅看到系统下了什么结论，还能看到它为什么下了这个结论。

这两个做法都不高明。但它们都是那种后期无法添加的东西。

第五天（续）：为什么你的组织架构图里没有人拥有这一块。