AI 地理编辑功能的虚假信息风险分析

仅需一个文本提示就足以利用 Google Earth 已回滚的这个 AI 功能，使用其卫星、航拍和 3D 图像生成扭曲现实的图像，就像数字挖掘 (Digital Digging) 的 Henk van Ess 生成的那样，这些图像显示"墨西哥边境附近的难民"和加沙某医院附近的炸弹坑。

Google 最初对数字挖掘的 AI 修改图像做出回应，表示："我们认真对待虚假信息——在 Google Earth 中使用 Nano Banana 创建的每张图像都包含 SynthID 数字水印，所以如果有人不确定某张图像，他们可以咨询 Gemini 应用或在搜索中使用镜头来查看该图像是否由 AI 生成。"除了在 Gemini 中使用 Google 的"@verifyai"标签来检查可疑图像外，van Ess 建议将其与其他卫星平台（如 Sentinel-2 或 Landsat）进行比较，甚至验证轨道数据，比如图像所声称的拍摄时间和卫星来源。

该功能本周早些时候在 Google Earth 网页版全球推出，Google 的博客文章将其作为可视化历史遗迹和房地产项目的工具来宣传。用该功能生成的一些图像很容易被识别为假图，比如一张显示狮身人面像与自由女神像融合的图像，但我可以看到 Nano Banana 2 功能如何能够创建足够逼真的图像来传播虚假信息。虽然 Google 的水印可能难以删除，但并非不可能被忽视或绕过——数字挖掘能够用 Google Earth 生成的 AI 修改视频欺骗 Hive 的 AI 检测器。

更新，7 月 31 日：发布后，Google 宣布正在回滚该功能。