领域AI产品常犯两个错误:让语言模型计算不该算的事实,或隐藏用户无法审计的规则引擎。更好的架构是将计算层与解释层分离,AI只负责在结构化快照上生成语言。
基于确定性领域规则构建 AI 产品
领域专属 AI 产品通常会以两种方式之一失败。一种是用语言模型去计算它根本不具备计算能力的事实,另一种是把确定性规则引擎藏在用户无法审计的答案背后。
更好的架构是将计算层与解释层分离。
第一层从显式输入中产生事实。第二层用自然语言解释这些事实。
对于日历、财务计算器、医学评分规则或传统图表系统,只要领域允许,第一层就应该是确定性的。同样的输入应该产生同样的结构化输出。中间值应该是可见的、可测试的、可版本化的。
AI 层不应该静默地重新计算这些事实。它应该接收一个结构化的快照,然后在此基础上回答问题。
一个简单的数据流如下:
验证输入并标准化时间、地点、单位和地区。
运行确定性领域引擎。
同时存储结果和计算设置。
从选中的事实中构建解释上下文。
要求模型在清晰的边界内进行解释、比较或总结。
在生成的文本旁边展示底层事实。
为什么这对手工计算器很重要
以八字命盘为例。节气边界、出生时间、地点、时区处理以及显示的四柱都是基于规则的事实。如果语言模型直接猜测它们,即使回答流畅,内部也可能不一致。
在传统中国八字计算器系统中,计算过程应该保持可复现性,而 AI 解释应该是可选的。用户可以先检查命盘,然后决定是否需要叙述性解释。
奇门遁甲有同样的架构要求。奇门遁甲命盘计算器必须在 AI 层讨论格局或决策因素之前,先确定时间和九宫结构。模型应该解释所提供的命盘,而不是在回答中途凭空编造一个不同的命盘。
将溯源当作产品数据来对待
结构化输出应该包含的不仅仅是最终结果,还应该包括:
标准化的输入值;
时区和地点假设;
规则或算法版本;
相关的边界条件;
置信度或不确定性标志;
暴露给语言模型的事实列表。
这种溯源数据使得调试成为可能。当用户报告答案错误时,团队可以确定问题是出在输入标准化、规则引擎、上下文组装,还是模型回答上。
测试边界,而不仅仅是每一层
单元测试可以证明规则引擎处理已知案例的能力,而 prompt 评估可以给解释质量打分。最昂贵的失败往往出现在层与层之间的边界上。
例如,一个正确的结构化结果可能被映射到错误的 prompt 字段。地区转换可能改变一个日期。汇总步骤可能丢失一个边界标志。AI 回答可能引用一个从未出现在提供上下文中的值。
因此,集成测试应该捕获传递给模型的精确结构化载荷,并验证生成的声明是基于该载荷的。
围绕可验证性设计接口
UI 应该让用户能够区分三件事:
由确定性引擎产生的计算事实;
由用户或系统选择的假设和设置;
关于这些事实的解释,由模型生成或人工撰写。
这种区分比通用的 AI 免责声明更有用。它向用户展示了什么可以被复现,什么仍然是解释性的。
同样的架构不仅适用于玄学计算器。税务估算器、资格工具、工程计算器、评分系统和合规检查器都受益于稳定的规则层加上可选的语言层。
用代码处理必须保持一致的部分。用 AI 处理能够从解释中受益的部分。让边界保持可见。