谷歌地球近期开展了一项规模较大的行动, 推出了AI图像编辑功能, 用户只要输入文字便能够对卫星影像进行修改。然而, 在不到24小时的时间里, 该功能就被迅速紧急撤下, 究其缘由, 是有人利用它生成了数量众多的虚假卫星图像, 这些图像涉及从美墨边境难民营到伊朗核电站等诸多地方, 且制作得如同真实的一般。

功能上线引发滥用风波

那个率先发现此漏洞的AI研究员亨克·范埃斯, 借助谷歌的Nano 2图像模型, 制作出了好多几可乱真的虚假卫星图像, 这些图像在社交媒体上传得特快, 引发了公众对于卫星影像真实性的质疑。

谷歌的发言人, 于31日时, 在X平台之上, 发布了关于声明的内容, 其承认了, 部分由用户所分享的, 生成图像的内容, 乃是违反了平台所制定的政策。谷歌方面着重的强调, 所有经由AI生成的图像, 均是带有水印的, 并且, 其并没有进入公众能够去进行查看的, 谷歌地球地图的内容范围之内, 然而, 为了能够去建立更为严格的安全防护措施, 谷歌最终还是做出了决定, 要撤下该功能。

谷歌的快速反应与解释

谷歌称, 在声明中表明, 地理空间领域专业人物借助这项功能完成了好些实用工作, 只是存在用户滥用此功能生成虚假图像的情况。谷歌着重说明, 撤下功能是鉴于要在构建更严谨的安全防护举措这段时期里, 去防止进一步被滥用。

这儿并非谷歌首个在AI功能方面遭遇挫折, 在此之前, 谷歌的Bard聊天机器人于演示期间出现差错, 使得公司市值削减千亿美元, 此次谷歌地球的AI功能尽管仅仅上线了一日, 然而所引发的信任危机却不可被轻视。

Meta也遭遇类似问题

无巧不成书, Meta于7月7日上线了Muse Image功能, 该功能能够让用户借助成年用户公开账号里的图片去生成AI图像。仅在功能推出不到一周的时间, Meta就把它撤下了, 并且还承认此次的尝试“没能把控好尺度”。

涉及隐私使用他人在Meta的Muse Image滥用功能引发争议, 公开照片可被用户未经允许用于生成AI图像, 声明中Meta表示需更多时间完善隐私保护措施, 确保功能符合用户期望。

AI图像编辑的潜在风险

虽说AI图像编辑技术自身并非新鲜事物, 然而把它运用到卫星影像领域则产生了全新的风险, 卫星图像于新闻报道、城市规划、环境监测等领域有着关键作用, 一旦遭到伪造, 极有可能引发极为严重的后果。

专家明确指出, AI所生成的虚假卫星图像普通用户不容易识别开来, 这种情况有可能致使被用于传播虚假的消息, 进而引发制造恐慌或者误导公众的判断走向。谷歌以及Meta采取火速撤回的举动, 这也体现出企业对于AI技术出现滥用的担忧正在呈现加重的态势。

企业AI功能推出的仓促现象

近期, 谷歌和Meta仓促发布AI功能, 随后又迅速将其撤回, 这反映出科技巨头在AI领域面临的竞争压力, 为了能够抢占先机, 企业常常在功能测试不够充分之时就急忙上线, 结果在引发问题之后不得不紧急撤回。

此种“先上线再说”之策略, 虽能够抢占市场先机, 然而亦有可能损害品牌信誉, 业内人士觉得, 企业于推出AI功能以前, 应当开展更充足的风险评估以及用户反馈收集, 防止类似事件再度发生。

安全防护措施的加强方向

谷歌宣称, 于撤下功能阶段, 会构建更为严格的安全防护举措。这或许涵盖强化图像真实性验证, 限定敏感区域修改权限, 增添更为显著的AI生成标识之类的操作。

脸书公司也于声明里承诺, 打算改进缪斯图像的隐私保护举措, 以此保障用户对自身图像运用拥有更多掌控权。这两家公司所做出的表态显示出, 人工智能图像编辑功能的安全防御将会成为未来发展的重点趋向。

AI技术迅猛发展, 给企业带去巨大机遇, 然而也伴随前所未有的风险, 谷歌地球此次AI功能迅速上线又下架, 给整个行业敲响警钟, 你认为企业在推出AI新功能之际, 应更加注重速度还是安全性, 欢迎于评论区分享你的看法, 点赞并转发这篇文章, 以使更多人了解AI技术背后的风险与挑战。