AI居然也具备搞破坏的能力, 此次遭殃的轮到了Face, 在上周, 也就是七月中旬的时候, 这家知名的开源库平台遭遇危机, 攻击者并未亲自出手, 而是让AI自行行动, 短短几天时间, 内部数据就被窥探了, 此事着实让人感觉后背阵阵发凉, 因为原来智能体能够独立策划入侵行为。

漏洞隐匿于数据处理流程当中, 黑客上传带有恶意性质的数据, 借此诱导系统去执行恶意代码, 一旦获取到初始权限, AI便开启横向移动, 它于云端四处乱蹿, 寻觅更多目标, 此种自动化攻击速度极为迅速, 人工根本无法及时做出反应。

有像幽灵般穿梭的智能体, 它于成千上万个短暂沙盒之中执行任务, 每一秒都在发生变化, 踪迹难以寻觅, 更加可怕的是, 它自行建造命令与控制设施, 借助公共云服务当作掩护, 做到神不知鬼不觉, 这样的隐蔽性致使防御变得极为困难。

当下, Face仍于排查影响范畴, 合作伙伴以及客户的相关数据有没有受损, 现在还不清楚, 诚然令人庆幸的是公开模型与软件包未被篡改, 供应链看上去是安全的, 然而内部凭证出现泄露, 这足够让企业为此而烦恼挺长一段时间, 进而信任危机接踵而至。

已完成修复, 然而隐患依旧存在。Face提议全体人员更换访问令牌。查看账号近期活动是否存在异常情况。这不但属于技术修补范畴, 更是一种警示。未来所发生的网络战, 或许是AI彼此之间的对抗。人类只能处于被动状态去接受规则的改变。

此次事件把自动化的双刃剑效应给暴露出来了。一旦攻击工具拥有自主学习的能力, 那么防御者就会处于劣势地位。对于构建下一代安全体系, 我们应该怎么做? 是强化监控, 还是去限制AI的权限? 欢迎在评论区留下你的想法。