Google 卫星图生成模型因虚假内容下架

Google 上线 Nano Banana 与 Google Earth 的集成功能后，仅仅两天便不得不将其撤下。该功能允许用户借助 Nano Banana 2，根据卫星图像生成自定义场景，比如把庞贝古城的遗址变成熙熙攘攘的古罗马街景，或者将规划中的建筑放到一块空地上。但用户很快就展示了制作逼真假卫星图像有多么容易，例如在墨西哥边境生成一列难民队伍，或是在加沙生成一家遭轰炸后满目疮痍的医院。

只需输入一句简单的 prompt，比如“难民涌上街头”，就能让一块空地挤满人。｜图片：Henk van Ess

Google 表示，这些图像均被标注为由 AI 生成，而且 Google Earth 中的其他用户无法看到它们。尽管如此，人们仍然分享了违反 Google 政策的截图。在更有力的安全防护措施到位之前，这项功能不会重新上线。Google 写道：“我们知道，人们对 Google Earth 有着独特的信任，认为它能够可靠地呈现这个世界。”

但这并不能让任何人免受假卫星图像的影响。任何人都可以使用 AI 图像工具或 Photoshop 篡改 Google Earth 截图。只不过，Google 把这件事变得前所未有地简单，也让更多人意识到原来还可以这么做。

拒绝炒作的 AI 新闻——由真人精心筛选

订阅 THE DECODER，即可享受无广告阅读、每周一期的 AI 新闻通讯、每年六期独家前沿报告《AI Radar》、完整档案访问权限，以及评论区使用权限。