最强AI模型却答不出基础生物题

6月11日, Fable 5被推出, 它号称是当下最强的AI模型, 然而, 经实际测试发现, 它连“什么是细胞膜”这种高中生物题目都拒绝予以回答, 这款模型在生物学领域设定了极为保守的安全限制 以致大量无害问题被误判拦截。

安全策略让模型变哑巴

寓言5那般的存在属于“级”模型, 于网络安全任务方面具备超强能力, 公司公然称, 贸然朝着公众开放如许的模型有着极大风险, 于生物学板块, 安全的限制最为严厉苛刻, 防护标准设定得极为保守。

外媒The Verge实际测试发现, Fable 5对大量基础生物问题不愿做出回答, 像“介绍下线粒体”, “解释朊病毒是什么”, 还有“信使RNA疫苗的作用原理”, 它逐个都不予以回应, 而这些问题根本不存在安全方面的隐患。

日常医学问题也遭封杀

限制并非仅仅围绕生物话题, 还朝着医学领域进行了延伸, 当用户询问“花粉症成因”之时, Fable 5同样予以拒绝回答, 当用户询问“哮喘药物作用原理”, Fable 5同样不进行作答, 当用户询问“抗生素耐药性如何产生”, Fable 5同样拒绝给予回应, 当用户询问“埃博拉病毒传播方式”, Fable 5同样不予以回答, 只有少数诸如“什么是癌症”“什么是DNA”这样的问题偶尔能够获得回复。

每一次, 当Fable 5呈现出拒绝做出回应的状况之时, 较为旧版本的旗舰模型Opus4.8, 基本上情况下都是能够给出完整的解答内容的。这样的一种情形表明了, 问题并非是出在模型自身所具备的能力方面, 而是在设计的层面之上, 是主动地去做了相应的限制措施的。

公司称防范生物武器风险是核心

公司发言人帕鲁尔·马赫什瓦里作了解释, 屏蔽生物相关问题属于刻意采取的行为。之所以如此, 是因为AI模型在完成现实科研任务方面的能力有了大幅的提升, 而那些居心不良的人很可能会利用它来开展具有高风险的生物研究。公司借助分类器去拦截生物武器相关的请求, 并且为了安全而推出Fable5, 所以必须要采取偏向保守的防护策略。

在此之前就已经明确, 在化学这个领域方面, 在生物学这个范畴之内, 在网络安全这一项目之中, 以及在模型蒸馏技术这一领域, 这些地方都限制Fable5的作答权限。公司还指控中国的竞争对手, 是以产业化的规模, 对于其模型进行蒸馏使用的。

化学网络安全问题反而能答

和生物领域不一样, Fable5在对待化学以及网络安全问题方面展现出显然偏高的接纳程度。比如说, 它对烈性炸药三硝基甲苯只是做了简单性的介绍, 然而对其制作方式却未曾给予；至于氯气当作化学武器所具备的用途, 常人通用的密码安全会产生的隐患, 核聚变和核裂变的原理一系列问题, 它均能正常地进行回应。

固然, 相关限制依旧存在, 在询问剧毒神经毒剂沙林毒气之际, Fable5会转接至Opus4.8, 针对“如何制造炭疽杆菌”这般提问, 两款模型皆径直拒绝, 致使对话中断, 然而连线粒体这类基础问题却皆被拦截, 明显属于误判封禁。

团队正在优化减少误判

马赫什瓦里讲, 进行这般的取舍, 是为了能让用户早点体验模型强大的能力, 与此同时规避潜在的风险。当下团队正全力去优化识别机制, 减少出现误判的情况。未来有着面向生物以及生命科学领域专业群体推出解除防护限制的级模型, 助力生物医学研究和药物研发加快速度的计划。

可是, 对于这样的受限发布模式, 会不会成为未来新的惯例, 并没有给出回应。这样一种“先上线再优化”的策略, 使得普通用户只能等着误判问题被解决。

你认为那运用人工智能技术的公司, 出于安全方面的考虑, 进而对基础生物知识予以屏蔽, 如此这般的做法可不可以呢? 欢迎于评论的区域留言, 点动赞的按钮进行分享, 以便让更多的人能够看见。