谷歌新推出的, 具备AI地图生成功能的, 该功能上线还不到48小时, 就被紧急叫停了, 其原因在于, 它能够生成高度逼真的虚假地理图像, 而这种能力本身就存在严重的误导性风险。

事件经过

2026年7月, 谷歌推出Earth AI图像生成功能，此功能可让用户借文字指令于真实卫星影像上生成虚构场景, 该功能刚一上线, 便引发了众多争议。

英国广播公司等媒体, 快速着手开展测试, 经测试发觉, 该功能能够于真实地图的基础之上, 去生成各式各样的虚假场景, 其中涵盖埃菲尔铁塔出现倒塌的情况, 以及埃及金字塔被天坑给吞没这种情况。

测试发现

BBC的记者, 运用这个功能, 生成了俄军坦克现身基辅的画面, 创造出埃菲尔铁塔倒塌的场景, 这些图像跟真实卫星影像相结合之后, 看上去相当逼真, 一般人很难辨别真假。

让人愈发担忧的是, 所生成的虚假图像可是能够直接进行下载以及分享的, 这就代表着虚假信息能够快速地传播至社交媒体以及新闻平台当中。

风险隐患

安全专家表明, 这类极度逼真的合成地图, 于战争、自然灾害等敏感事件里, 或许会被用以传播虚假信息, 干扰公众、媒体乃至调查人员, 给信息核验造成新的难题。

在真实地理坐标以及Earth底图的助力之下, AI所生成的虚假图像具备极高的可信度, 如被恶意运用此技术, 极有可能造成相当严重的社会影响。

谷歌回应

谷歌宣称, 所有由AI生成的图像, 均被嵌入了隐形数字水印, 借助Google Lens, 用户能够开展真实性验证，官方表明, 暂停服务之举措, 乃是为了强化安全防护措施。

然而, BBC进行测试之时发现, 部分验证机制依旧存在着能够被绕过的可能性。一些第三方检测工具同样没办法稳定地识别AI生成的内容, 如此这般使得谷歌的承诺打了折扣。

行业挑战

此次事件有所反映, 随着生成式AI渐渐进入地图、遥感等具备高可信度信息情境, 怎样在提高创作能力之际防范深度伪造以及虚假信息传播, 这正变成AI产品落地进程里需要重点去解决的安全问题。

可信度极高的地图以及遥感信息, 一旦跟AI生成技术相结合, 就或许会被运用来制造愈发难以辨识的虚假信息, 这得靠技术平台以及监管部门一块儿使劲。

此次的暂停, 尽管仅仅是临时性的, 然而却给整个人工智能行业敲响了警钟。技术能力倘若越强, 那么责任也就越大。怎样在创新以及安全之间寻觅到平衡, 这是所有人工智能公司都必须要面对的课题。

当用户运用这类AI生成工具之际, 同样得持有警惕之心, 要学会分辨信息的真实状况, 切莫轻易相信以及传播未经过核实的图像内容。

你认为, 经由AI生成的地图图像, 是应当予以禁止使用, 还是应该在加强监管之后, 再允许其被使用? 欢迎于评论区留言展开讨论, 要是觉得这篇文章对你存在帮助, 记得进行点赞以及分享！