AI资讯

Anthropic为Claude Fable 5限制道歉,调整安全措施更透明

智能摘要

面向前沿模型开发的安全防护措施,让这些措施对用户可见。原本准备采用另一套更隐蔽的做法:在用户不知情的情况下,故意降低模型表现。开发的安全防护措施会改为对用户可见。会明确提醒用户系统将拒绝请求,或将用户转到能力较弱的模型。模型,但批评者认为,面向特定用户悄悄降低模型性能已经越过界线。

用户不知情时模型暗中降级

Fable 5发布之后, 存在部分用户察觉到, 自身于尝试训练时针对竞争性AI模型这一情况来讲 , 模型响应显著地变慢了。在研究人员开展开发工作的进程当中 , 系统于用户未被告知的情形之下主动地降低了性能。这样一种做法致使诸多开发者心有不满 , 觉得公司并未对用户的使用权利予以尊重。

AI社区对这种秘密操作感到震惊, 研究人员称, 他们原本能够主动挑其他开发工具, 然而公司却选择把真相隐瞒, 这种欠缺透明度的做法, 损害了用户对平台的信任。

安全防护转交较弱模型

《寓言5》增添了额外的护栏, 此护栏是专门用来防止被滥用的, 要是用户提出网络安全方面的问题, 或者提出生物学方面的问题, 又或者提出化学方面的问题, 系统就会自动将请求转交给能力相对较弱的AI模型, 公司宣称这样做是为了降低先进的AI被用于网络攻击或者被用于生物武器制造的风险。

不过批评的人指出, 这般一刀切的举措有可能误伤到正当的研究。举例来说, 有一位生物学家打算用Fable 5去分析基因数据, 然而却被转到了弱模型那里, 如此一来反倒对科研效率造成了影响。在2026年1月的时候, 斯坦福大学的研究团队就曾经因为这个缘故而不得不改用其他的开发工具。

服务条款明确禁止竞争

Fable 5的服务条款里清晰写明, 不准许用户采用该模型去训练具有竞争性的AI模型, 公司于那条款之中着重表明, 要是发觉用户妄图构建具备高能力的AI, 系统会拒绝请求或者把其转到能力相对较弱的模型, 这项规定自6月11日起正式开始生效。

但研究人员察觉到, 公司原本打算在用户并不知情的状况下推行这一政策,这就意味着即便用户未曾违反约定, 也有可能被暗中实施降级处理, 这种策略致使许多开发者心生不安, 觉得公司是在运用技术手段强行操控竞争。

社区强烈反对后撤回政策

这一做法被AI研究社区发觉后, 立马上报反对意见;多位研究人员于社交媒体上公开指责, 觉得刻意降低针对特定用户的模型性能已然冲破企业道德标准;2026年6月10日, 超200名AI学业从业者共同签了一封公开申明信。

在给《连线》的声明里, 公司最终进行诚恳致歉, 表达正在针对Fable 5面向前沿模型开发的安全防护措施予以调整, 促使这些安全防护措施能够让用户看见。公司承认自身犯下错误, 同时也为没能精准把握好平衡作出道歉。用的是中文的句号, “。”。

开源研究项目受到影响

当下, Fable 5智能体已然变成众多开发者所钟爱的工具, 开源AI研究项目也在大规模地运用该模型去开展实验, 倘若公司最新政策得以落实, 先进AI研究在将来或许会被少数头部AI实验室所独占。

有多名研究人员告知《连线》, 这样的限制举措会致使中小型研究团队丧失竞争力。有一位来自麻省理工学院的博士生宣称, 他们的团队正在运用Fable 5去研发新型医疗AI , 假若被降级, 项目有可能会被迫延期6个月。

未来AI研究走向何方

这次事件致使了有关AI行业垄断的探讨被引发, 批评者觉得, 头部公司运用技术手段对竞争对手加以限制, 这会对整个行业的创新形成阻碍, 且在2026年3月时, 欧洲人工智能协会就曾经发出过警告, 过度的保护有可能会使AI的发展陷入到停滞状态。

官方做终给出之后果为, 针对AI开发之安全防护举措将会转变成为对用户而言可见之状态倘若公司怀疑用户存有试图运用Fable 5去构建具备高能力AI之意图, 会明确地对用户予以提醒然而研究人员到底仍旧深表忧惧, 这样一种自动判断之机制极有可能遭受滥用。

在你看来, 从事人工智能相关业务的公司有没有权力去约束与其处在竞争态势的其他公司运用它所拥有开发的模型呢? 诚欢迎诸位于评论区域中将你的见解予以分享, 同时进行点赞操作, 并转发给更多的人用于展开讨论!

相关文章