原型设计对 AI 长期记忆系统的支撑作用
讨论通过迭代设计和原型实验为 AI 系统构建可持续长期记忆的架构思想和方法论。
讨论通过迭代设计和原型实验为 AI 系统构建可持续长期记忆的架构思想和方法论。
这并不是什么新概念。为 Google Photos 等系统提供技术支撑的机器学习方法——原型网络(Prototypical Networks)——采用的就是同样的工作方式:将同一个人的一组图像转换为 embedding,再对它们取平均值,就能得到一个原型向量。即使原始输入不断变化,这个原型依然能作为稳定的表征。
这个想法很简单,却有着极其深远的影响:
多模态能够强化身份识别。同时存储文本、图像和声音,就能得到一个韧性强得多的锚点。
原型具备可扩展性。随着底层模型不断改进,原型也会变得更强。
确凿事实至关重要。将记忆锚定在原型上,可以为系统建立生成内容时所依赖的“ground truth”。
我们在 Pieces 也一直在探索类似的模式。在一些 OCR 清理实验中,我们将内容提取与叙事生成循环结合起来,让推理更加稳健。这里的相似之处显而易见:如果想获得可靠的长期上下文,仅靠轻量级 embedding 是不够的。你需要原型。
把视角拉远一些,就会明白为什么人是最重要的实体类别。项目、目标和阻碍固然重要,但它们都是暂时的。真正能够长久存在,并塑造任何一家公司或产品发展故事的,是人。
如果一个系统知道你在和谁一起工作,其他一切都会变得清晰:
创始人和建设者凭直觉就明白这一点。规模化并不只是通过抽象系统实现的,它最终要通过人来完成。一个将“谁”作为首要锚点的记忆系统,才符合组织的实际运作方式。
那么,这在实践中意味着什么?对于所有研究长期记忆的人——无论是在开发消费级应用、生产力工具,还是 AI Copilot——都不要只存储文本和时间线,还要持久化保存原型,并从人开始。
具体可以这样做:
在此基础上,再构建语义图谱,将所有内容关联起来。让原型承担消除歧义的重任。
具有讽刺意味的是,实现记忆的规模化,并不意味着进一步远离具体事物、走向抽象,而是要更深入地扎根于那些能够持续存在的具体细节之中——而没有什么比“谁”更持久。
ByteDance 的论文对一些实现细节着墨不多,但它指向的方向似乎是正确的。如果我们希望长期记忆真正做到稳健、实用且有人情味,就需要停止用通用 token 的方式思考,转而以实体为中心进行思考。
而最重要、也最应该优先处理的实体,恰恰是最简单的一个:那些每天与你一起工作的人。
因为在“谁、什么、哪里、何时、为什么”之中,答案永远始于“谁”。