EU AI Act 第 50 条于 8 月 2 日生效,要求向 EU 用户披露 AI 系统使用情况,违规罚款最高 1500 万欧元或全球营收 3%。开发者需立即检查产品透明度标识。
一条容易被忽视直到踩坑的规则:欧盟 AI 法案第 50 条的透明义务已于 8 月 2 日生效。如果你的应用与欧盟用户有交互——如果它部署在开放互联网上,很可能确实有——现在有几项要求已经适用于你,不管你是不是个人独立项目。违反该条款的罚款最高可达 1500 万欧元或全球年营业额的 3%,取两者较高者——数字很吓人,但现实地说,并不是冲着你的周末项目来的。不过,这些义务是真实存在的,修复成本也很低,所以没有理由站到违规那一边。
我是一个开发者,不是律师,这也不是法律建议——请把它当作一个契机,去读一下原文或者咨询专业人士。但以下是我的中文版解读:什么变了,以及我在做什么。
影响大多数开发者的两项义务
第 50 条范围很广,但有两条几乎覆盖了所有上线 AI 功能的开发者。
第一:如果用户在与 AI 系统交互,你必须告知他们——除非交互本身是显而易见的。一个明显是聊天机器人的 chatbot 可能没问题;但一个悄悄转交给 AI 的客服组件,或者应用中一个实际上是模型的"人",正是这条规则要打击的。标准是:普通用户应该知道自己在和机器对话。
第二:AI 生成的内容必须以机器可读的方式标记。不能只是给人看的"AI 生成"标签——而是要有其他软件能够检测到的标记,这样内容在互联网上传播时仍能保持可识别。这条是开发者最容易低估的,因为它是一个技术要求,而不是改改文案那么简单。想一下 metadata、水印、出处信号——机器可读这部分是在做实际工作的。
关于第二条有一点喘息空间:有一个过渡期。对于已上市的重生成系统,标记和检测义务要到 2026 年 12 月 2 日才会生效——所以你有一段时间来建立出处标记。但交互披露义务从 8 月 2 日起就已生效,没有宽限期。别让 12 月的日期让你在已经生效的那部分上掉以轻心。
通俗版清单
以下是我实际会为一个使用 AI 的项目走一遍的内容:
用户是否会在不完全知情的情况下与模型交互?如果是,添加披露——一行文案、一个徽章,任何能让它明确无误的东西。修复成本很低,但在 AI 藏在某些东西后面的流程中很容易忘掉。
你是否生成了用户可能误认为是人类创作或真实的内容——图片、文字、音频、视频?如果是,你就进入了机器可读标记的领域。看看你的生成提供商已经输出了什么(现在很多默认附带 C2PA 等出处 metadata),不要在你的 pipeline 里把它剥离。这方面合规的一半可能是"别把已经存在的标记去掉"。
你是否在深度伪造或合成任何类似真实人物或真实事件的内容?这是规则最尖锐的部分,在这一点上你应该停止看博客,去咨询律师。
为什么我认为这值得花十分钟,而不是零分钟
把监管当作大公司的作业是很诱人的。但有两件事让第 50 条对小开发者不同。披露义务不像某些规则那样有初创公司豁免——它附着于行为本身,而不是公司规模。而且修复成本确实很小:一句披露文案加上不剥离出处 metadata 就能覆盖大多数日常场景。
这件事也有一个正面的角度。"告诉人们他们什么时候在和 AI 说话"和"保持 AI 生成媒体的传播可识别性",无论法律如何,作为一个用户我都想要。监管正在强制推行一个生态圈本应自行采用的诚实底线。我宁愿默认在合规的一侧构建,而不是等到规则在我在意的市场长出牙齿之后再来补救。
在依赖以上任何内容之前去读真正的文本——但不要归类为"以后再说"。义务今天已经生效。
如果你已经为一个产品添加了 AI 披露,你实际改变了什么?我想要一个实践与纸面合规的运行清单。