Google Earth AI 编辑工具一天内被下线
Google 发布的文本驱动卫星图像编辑工具因容易生成虚假地理信息而被迅速下线,反映 AI 工具的伦理与法律风险。
完整中文译文
让用户能轻易通过 AI prompt 修改图像,是个糟糕的主意。
让用户能轻易通过 AI prompt 修改图像,是个糟糕的主意。
Google 已关闭周四上线的一项 Google Earth 功能。该功能允许用户使用文本 prompt,通过 AI 编辑卫星图像。实际上,这款工具能让用户通过文本 prompt,制作现实世界的 AI deepfake。例如,Digital Digging 的 Henk van Ess 曾故意生成图像,在墨西哥边境附近添加难民,以及在加沙一家医院旁添加炸弹坑。周四,Google 最初回应 van Ess 时指出,Google Earth 中使用 Nano Banana 2 生成的图像包含数字水印,而且公司会阻止“涉及有害主题的图像生成”。
一天后,Google 在最新声明中表示:“我们知道,人们对 Google Earth 有着独特的信任,认为它能可靠地呈现这个世界。我们看到地理空间领域的专业人士将这项功能用于各种有价值的用途,但也看到有人分享生成图像的截图,而这些内容似乎违反了我们的政策。因此,我们将在 Google Earth 中撤回这项功能,同时着手实施更严格的安全防护措施。需要特别说明的是,生成的图像不会出现在 Google Earth 的主体验中供其他人查看,而且都带有 AI 生成内容的水印。”
van Ess 指出,他成功用 Google Earth 生成的视频骗过了 Hive 的 AI 检测工具,这说明生成的媒体内容即使带有水印,也依然可能传播。他还表示,在自己的测试中,“没有任何内容被拒绝,没有任何内容被弱化,也没有任何提示建议我换一个 prompt。”
这款纹身是永久性的、无痛的,而且可能很快就能邮寄到家
Xbox CEO 在重大“重置”后通过备忘录明确工作重点
美国政府刚刚封禁了 Roomba 扫地机器人
Situational Awareness 的缺失
Google 发布会前,Pixel 11 Pro Fold 设计曝光