EU AI 法案对人脸识别系统的工程改造要求

应对欧盟《AI 法案》对生物识别身份系统提出的新要求

对于构建计算机视觉和生物识别验证流水线的开发者来说，“成功部署”的定义即将发生变化：重点将从模型准确率转向架构的可审计性。欧洲监管机构正准备对违反 AI 治理规定的行为处以最高 3500 万欧元罚款，这不只是一个“法律”问题，更是一个重大的工程瓶颈，将改变我们处理推理日志、Human-in-the-loop（HITL，人在回路）触发机制和数据血缘的方式。

如果你正在使用人脸识别或比对 API，那么只返回“是/否”的“黑盒”时代实际上已经结束。到 2026 年，任何高风险 AI 系统——其中包括几乎所有金融领域的生物识别验证系统——都必须能够证明：不仅找到了匹配结果，还要准确说明该决策是如何得出的、如何记录的，以及如何经过审核。

从置信度分数到审计轨迹

在典型的计算机视觉工作流中，我们可能会计算两个人脸 embedding 之间的欧氏距离。如果距离低于某个特定阈值（例如 0.6），系统就会返回匹配为真。在即将实施的法规下，这种原始的布尔值已经不够了。

开发者现在需要围绕“推理归因”（Inference Attribution）设计架构。这意味着每一次 API 调用都需要保留持久、可防篡改的日志，并记录以下信息：

• 所使用模型的具体版本。
• 会话期间提取的参考关键点。
• 生成的具体欧氏距离或余弦相似度分数。
• 对边界案例进行验证的人工审核人员身份。

这将带来规模巨大的基础设施改造。目前，大多数身份验证系统都将日志视为临时数据，或仅用于调试。今后，这些日志将成为实现合规的核心机制。如果银行的人脸比对工具标记出不匹配，开发团队必须能够提供触发该标记的确切元数据，否则就可能面临巨额罚款。

“归因缺口”问题

近期 AI 审计发现的一项主要技术障碍，是“共享服务账号”问题。许多企业应用通过一个通用 API key 访问生物识别数据或 AI 模型。然而，欧盟《AI 法案》要求明确落实到具体个人的责任归属。

对开发者而言，这意味着我们不能再躲在服务级权限背后。我们需要实现细粒度日志，将每一项由 AI 辅助作出的决策，与调查团队或银行团队中的具体 user ID 关联起来。我们正在从“AI 给出了 X”转向“AI 建议采用 X，开发者/工作人员 Y 于 UTC 时间 14:02 对其进行了确认”。

比对与监控：技术层面的区别

在 CaraComp，我们一直专注于人脸比对——对指定图像进行并排分析——而不是大规模监控。这种区别正在成为一种技术保障。与用于扫描人群的系统相比，为图像比对设计的系统本质上更具“可解释性”。

当调查人员使用欧氏距离分析，将目标人物的照片与案件档案进行比对时，生成的是 1:1 或 1:N 的结果。与不透明的自动化人群监控算法相比，这种结果更容易记录，也更容易在法庭上为其合理性进行辩护。对开发者来说，这意味着构建工具时，应优先考虑批处理和专业报告功能，而不是自主运行的后台处理。

2026 年真正的技术挑战，不会是实现 99.9% 的准确率；而是构建一套处理剩余 0.1% 错误的流水线，让人类能够介入、推翻 AI 的判断，并以满足监管审计人员要求的格式记录这次干预。

随着这些新的透明度法律开始生效，你的团队计划如何处理 AI 推理日志的存储与不可篡改性？

如需采取进一步措施，你可以考虑屏蔽此人和/或举报滥用行为。