谷歌快速撤回可能生成虚假卫星图像的AI功能

本周，谷歌推出了一项新的人工智能功能，允许用户使用Nano Banana 2 AI模型基于Google Earth的卫星、航拍和3D图像生成图片。该工具可以创建定制的信息图或重新构想过去的景象，并且能够想象未来的场景。然而，在记者和研究人员指出这一工具可能被用于制造误导性信息后，谷歌仅一天之后就撤回了这项功能。研究者Henk van Ess展示了如何轻易地使用该工具生成看似真实的虚假图像，例如在伊朗创建一个核设施的假图。尽管谷歌表示新功能旨在创造基于现实世界的概念，并且生成的图片带有AI生成的水印，但该公司仍决定移除这一功能并加强监管措施以防止此类问题的发生。