安全漏洞引发全球停用

6月14日, 亚马逊首席执行官安迪·贾西向美国财政部长斯科特·贝森特反映情况, 亚马逊研究人员在运用Anthropic的Fable 5模型时, 察觉到该模型能够被用来获取网络攻击信息, 这一发现致使美国政府对Fable 5和Claude 5两款模型颁布出口管制禁令, 亚马逊随后在全球范围内停用了这两款AI模型, 其影响涉及到AWS云服务客户。

亚马逊的担忧由来已久

身为Anthropic的主要投资方，亚马逊先前已多次针对该公司AI模型的安全隐患表达担忧。亚马逊的一位发言人于声明里称, 尽管“各国政府就潜在安全风险向我们寻求咨询意见并非少见”, 然而该公司不会“公开相关讨论的细节”。这显示出亚马逊对模型安全问题的警惕性向来很高。

合作方发现越狱漏洞

美国那位被称作特朗普的总统, 其之前在人工智能事务方面主管一职由一位叫戴维•萨克斯的担任, 此人透露了更多的细节, 他声称, 有一家合作伙同时受到美国以及Anthropic所谓政府的信任, 而且可信度是极高极高的, 这家合作方发现了模型存在越狱的漏洞, 这个漏洞的意思就是用户能够借助特殊的提示用词绕过模型的安全限制, 进而获取本来应该被禁止的敏感信息。

修复要求遭拒绝

萨克斯接着讲: “美国政府向Anthropic首席执行官达里奥·阿莫迪提出要求, 要他修复那个漏洞, 或者下架相关模型, 然而阿莫迪表示拒绝。”发生了这一拒绝举动, 就成了美国政府施行出口管制措施的引发原因。Anthropic是在AI安全范畴里有名的公司, 它这种拒绝予以配合的态度, 引起了外界对模型安全性的广泛怀疑。

模型功能并非独有

Anthropic有所回应指, 致使美方滋生担忧之情的那些相关功能, 于其他好些款可公开获取使用的AI模型里早就已然存在了。这暗暗表明美国政府说不定存在差异性对待的情况, 又或者是对AI安全标准缺少统一一致的了解认知。当下, Claude 5以及Fable 5的访问权限于全球范畴之内被切断啦, 其中涵盖AWS用户。

行业影响与后续发展

此次事件, 对AI行业有着深远影响, AWS身为全球最大云服务商, 其用户的AI应用开发会受到直接冲击, 同时, 美国政府与AI公司之间的安全博弈, 进入了新阶段, 以后, AI模型的安全审计以及出口管制, 可能会成为常态, 企业需要更严格的安全合规流程。

针对于Anthropic拒绝去修复漏洞这样的行为你会存在怎样的看法, 算是执着于技术自由这个方面, 还是对安全责任有所忽视, 欢迎于评论区将你的观点予以分享, 通过点赞并且转发从而致使更多的人去关注AI安全！