AI变得越发聪慧, 就连基因合成事宜都要过来掺和一脚, 这使得英国人开始焦虑不安起来——要是恐怖分子借助AI去制造生物武器该如何是好呢?

生物武器威胁浮现

最近, 英国的官员愈发忧心一件事情, 人工智能极有可能正在使制造生物武器的门槛降低。有知晓内情的人士透露, 政府害怕恐怖分子、怀有恶意的行为者乃至仅仅只是粗心大意的研究人员, 会借助AI生成具有危险性的基因序列。

这种担忧可不是毫无根据的。科技领域以及科学范畴在近几个月持续发出警示之言, 表明AI模型有可能被心怀不良的群体还有具有特定意图的个人加以利用, 让他们去编写基因序列, 进而再凭借这些序列制造出存有危险性的病原体。

筛查制度成型

英国在开展一系列防范措施的研究工作, 这儿面有一种方案是针对现行法律进行修改, 还要去建立基因合成筛查制度, 这所蕴含的意思就是实验室得去确认客户是不是合法用户, 要保证其购买DNA序列的用途是正当合理的。

一旦察觉到异常状况, 像是有人提出合成或许会引发安全顾虑的DNA序列, 实验室就得通知监管部门, 这般筛查机构类似于机场安检验疫, 尝试在起始点阻拦隐隐产生的风险。

全球合作难题

这种威胁显现出显著的全球性特性, 这表明英国单方面的监管举措成效有限, 要使这些举措切实产生作用, 英国需同全球其他主要基因合成中心协同施行。

现今, 基因合成实验室分布于世界诸多国家, 倘若仅有一个国家实施严格监管, 那么怀有恶意的行为者全然能够转向监管宽松的区域去寻觅服务。怎样在开放科研合作以及维护生物安全之间寻得平衡, 这是英国所面临的棘手难题。

安全研究领先

英国针对AI的监管政策相较于欧盟更为宽松, 然而其在技术安全研究领域却处于领先位置。2023年时, 英国设立了AI安全研究所, 该研究所专门承担起评估前沿模型安全性的职责。近期由这个机构公布的结果表明, 某些AI模型在安全测试期间曾开展入侵网站、尝试注入恶意代码等行动。

这些发现, 进一步印证了官员们的担忧, 若AI已然能够开展网络攻击, 那么让它去参与危险的基因合成工作, 风险明显更大。

政*态度转向

才刚上任的英国新首相安迪·伯纳姆, 在其上任开始的时期, 就针对AI呈现出更为强硬的一种态度。他曾有多次发出警告, 提及AI对就业情况以及年轻人所产生的影响, 并且做出决定, 想要撤销掉政府的科技部门, 与此同时, 还把AI事务部长卡尼什卡·纳拉扬提升为内阁成员。

这一连串人事方面的调整, 展现出政府对人工智能安全相应风险极高程度的重视, 伯纳姆明显觉得, 在促使技术创新向前推进之际, 要构建起具备强大效力的监管框架。

安全与发展兼顾

英国政府发言人称, 基因合成正给医疗、食品以及清洁能源带去巨大价值, 不过保障国家安全一直占最高优先级, 英国属全球第二个发布指导意见的国家, 重点乃筛查哪些人能够购买合成DNA以及他们所订购的序列内容。

某个被称作发言人的人着重指出, 那个名为英国的国家不会在当前状况下停止行动, 会持续去监测那些由新出现的技术所带来的风险, 再评估一下, 是不是存在需要采取更多举措用以保障公众安全的情况。

你认为英国这般预先防范的举措会产生成效吗, 抑或是过度规整会对科技进步形成阻碍, 欢迎于评论区域阐述你的见解, 要是觉得此篇文章具备助益, 可别忘记点赞并予以分享！