文章提出研究助手的事实性输出应关联到具体文档、页码或章节及支撑段落。证据来源需要贯穿检索与生成流程,才能支持核验、引用和后续追溯。
如果你为研究人员开发工具,很快就会发现,“总结这篇论文”其实是最容易的部分。真正难的是研究人员读完总结之后要做的所有事情:核实总结是否正确,找到支撑结论的原文句子,准确引用,以及在六个月后审稿人提出尖锐问题时,重新找到这些内容。本文整理了一组关于证据可追溯的研究 Agent 的设计笔记,关注的是架构,而不是营销。我会以 Yila AI 为贯穿全文的例子,因为它正是围绕这个问题构建的,不过这些模式也适用于你在这个领域开发的其他工具。
普通聊天机器人的输出是一串没有内部结构的文本。而在研究工具中,输出里的每个事实性陈述都需要一个出处坐标:来自哪份文档、哪一页或哪一节、哪段原文。没有这个坐标,用户就只有两种选择:相信输出,但这在研究中不可接受;或者重新做一遍工作来核实,这又会抵消工具的大部分价值。
从架构上看,这意味着系统必须在处理流程的每个阶段保留来源追踪信息。如果你把 PDF 切分成片段用于检索,每个片段都需要稳定的标识符,能够映射回原文的页码和段落。如果你总结了多个片段,总结就需要携带所依据片段的标识符。如果随后又把总结改写成草稿段落,引用信息也必须在改写后保留下来。在任何阶段丢失来源追踪信息都是 bug,而不是外观上的小问题。
学术 PDF 很难处理:双栏排版、脚注、内嵌文字的图片、跨页表格、以图片呈现的公式,以及放在独立文件中的补充材料。如果检索系统把论文当成一整条没有结构的字符串,就会经常把脚注中的句子归到正文,或者把两栏内容拼接成不知所云的文字。
通用网络搜索有助于发现资料,但当用户开始撰写综述时,答案应来自他们已经选定的论文。混入未经核查的来源,正是虚构引用或低质量引用进入草稿的途径。研究工作空间应该明确说明范围:这个答案基于你项目中的这十二篇论文,并指出其中哪些论文为答案提供了依据。
在 Yila 中,一个项目保存一项研究工作的论文和数据集,问题也基于这个项目来回答。这样,用户就可以提出比较性问题,例如“这些研究中,哪些采用了随机化设计?”,并得到既完整覆盖文献库、又能追溯出处的答案。
语言模型默认擅长流畅表达,只有受到约束时才会谨慎。对于研究写作,生成步骤应该受到限制:每个提出事实性论断的句子,都要有检索到的原文段落作为依据;找不到依据的句子,则应被标记或省略。一个实用的模式是同时生成论断和引用,然后执行一轮验证,逐条检查论断是否与其引用的原文相符,并标记不匹配之处。
与已提交论文中一条错误引用带来的代价相比,这轮验证的成本很低。它也为向用户展示哪些内容经过了检查提供了一个自然的位置。
即使来源追踪做得再好,如果界面把它藏起来,也毫无用处。输出中的每个论断都应该可以点击,点击后打开来源段落,并高亮相关句子。悬停预览有助于快速核查。对于表格和图片,用户应该能够跳转到具体的表格单元格或图片。
这个设计选择会改变用户行为。当核查只需点一下时,用户就会核查。当核查需要打开 PDF 再搜索时,他们就不会去做。
许多研究问题最终需要的是数据集,而不是论文。同样的原则也适用:每张图表都应附带生成它的代码,每个数字都应该能够追溯到具体计算,数据清洗步骤应该被记录下来,而不是在用户看不见的地方悄悄执行。Yila 通过用户可以阅读并重新运行的代码来执行分析,这让图表能够复现,也让审稿人提出的稳健性检验要求可以在几分钟内得到回应。
对开发者来说,这里的启示是:把生成的代码视为一等产物。将它与输出一起存储,纳入版本管理,并让用户能够方便地编辑和重新运行。
研究人员的工作不会止于得到答案。他们还要制作文献矩阵、撰写章节草稿、准备实验室组会的演示文稿,以及学术会议的海报。每一种输出格式都需要保留引用。基于论文生成的演示文稿,应该把每个数字链接回它所来自的表格。文献矩阵应该把每个单元格链接到为其提供依据的原文段落。如果输出格式丢掉了来源追踪信息,用户就只能手动重建。
评估研究 Agent 时,人们很容易把注意力放在令人惊艳的能力上。但真正伤害用户的错误往往更普通:
围绕这些错误构建测试集。选取一组论文,编写答案已知的问题,不仅检查答案是否正确,还要检查引用是否精确。将引用精确度与答案准确率一起作为主要指标来跟踪。
研究人员经常处理尚未发表的稿件、保密数据和尚未解禁的研究结果。研究工具需要明确保证:文档存储在哪里,谁可以查看,以及是否会被用于训练。这些保证应该在产品中清楚可见,而不是埋在政策页面里。
如果你正在这个领域开发工具,简而言之:在每个阶段保留来源追踪信息,将检索范围限定在用户的文献库内,用证据约束生成,在界面中展示证据,并测试那些不起眼的错误。把这些做好,工具就能逐渐赢得信任,并持续守住这份信任。跳过这些环节的工具,只会做出令人惊艳的演示和无法使用的草稿。
你可以在 Yila AI 看到这些理念的一种实现:文献综述、数据分析和写作共用一个与证据关联的工作空间。
如需采取进一步行动,你可以考虑屏蔽此人和/或举报滥用行为。