欧盟为何执着于知情权

上周末, 欧盟委员会的官员特意乘坐飞机前往美国的旧金山, 去和这家人工智能初创公司的高管进行面对面的谈判。按照知情人士所透露的情况, 会议的核心议题是使欧盟网络安全局进入到模型发布之前的封闭测试计划当中。从今年四月末这个模型发布开始, 欧洲各个国家的官员一直都在努力获取访问权限, 其想法是提前掌握模型能力对待确定监管策略来说是有极其关键意义重要。

今日, 欧盟委员会发言人公开宣称, 此家公司并非唯一的特殊例子, 往后将会有更为强大的模型进入市场。欧盟正与诸如美国等理念相符的伙伴开展讨论, 一道应对AI安全挑战。这般态度显示出, 欧盟尝试在监管以及创新之间寻觅到平衡点。

玻璃之翼计划如何运作

这家公司为达成创新与安全的平衡, 推出了称作“玻璃之翼”的开放计划, 此计划准许政府机构以及大型企业在模型大规模发布以前开展针对性测试, 着重评估网络安全防护能力, 公司觉得, 这类模型具备异常强大的漏洞发现能力, 有可能被恶意加以利用, 所以要实施渐进式开放。

作为欧盟网络安全专门机构的ENISA, 会成为该计划的最新成员, 这意味着他们能够提前接触模型, 测试自身系统的安全性以及抗攻击能力, 有知情人士透露, 公司在5月底已把这一决定告知欧盟委员会, 不过双方都拒绝透露具体访问时间表。

模型颠覆性的安全能力

根据于公司内部所进行的测试数据中得到显示, 此模型于发现软件漏洞、识别网络攻击模式这个方面有的能力远远超越了现有的工具。它能够一次扫描数百万行代码, 进而找出人类工程师难以察觉到的安全隐患。这样的能力既能够用在防御方面, 也有可能性被攻击者利用从而去开发新的入侵工具。

正是鉴于这种具备双重用途的风险情况, 此公司实施了严谨的权限分级策略。当下, 唯有经过严格挑选的机构以及专家才能够获取完整模型的访问权限, 而普通用户仅仅能够运用功能受到限制的版本。这样的谨慎态度获得了不少安全专家的认同。

全球监管博弈仍在继续

上周, 有欧盟委员会的官员亲自去到旧金山, 和公司的高管展开洽谈, 以试图获取更具优先性的测试资格, 这体现出欧洲在AI监管范畴的紧迫感, 他们是不期望于全球AI治理的格局里落后在美国之后的, 发言人宣称, 欧盟正和涵盖美国在内的多个国家政府搭建合作框架。

在同一时间, 美国联邦贸易委员会也正对这家公司推行的开放策略, 持续保持紧密关注。有知晓内情的人士透露, 美国与欧洲双方已然在对联合测试机制展开探讨, 目的在于防止出现重复的审查流程。然而具体的合作细节到现在都还没有确定下来, 情形是因为双方在数据主权、隐私保护这些关键问题方面, 依旧存在着分歧。

网络安全行业迎来变革

接受采访之时, 多位网络安全方面的专家指出, 那种拥有超级漏洞发现力量的AI模型将会对安全行业的工作方式产生彻底的改变, 传统的诸如渗透测试、代码审计之类的工作, 有可能会被AI极大程度地予以替代, 安全人员需要转变成为AI工具的监管人和策略制定人。

一家欧洲那个金融机构的安全主管隐姓埋名之后透露, 他们早就已经在测试这个拥有着早期版本的模型, 得出的的结果表明它发现漏洞的效率是传统平常团队的30倍。可是这个主管也着重表明, 完全依靠AI去完成安全防护行为存在着风险, 只因模型它也可能出现幻觉或者遗漏特定种类类型的各种威胁。

企业如何应对新挑战

对于一般企业来讲, 当下就得着手思索怎样借助这类人工智能工具提高自身安全防护水平。一方面得留意监管机构针对模型的运用要求, 另一方面要估量接入模型后有可能出现的数据泄露风险。预先构建内部人工智能使用规范会是明智的做法。

于安全行业而言, 有分析师给出建议, 企业能够先自非核心系统率先着手, 来测试AI安全工具实际所能呈现出的那种综合后果, 以此同步去达成让内里团队培育起对于AI模型输出道理及严密程式的深度理解造诣；毕竟深入考量的话，未来在网络这一块所预计面对的那种针锋相较全面搏击斗争态势, 极有可能就是一场由AI对AI展开的相互抗衡对垒较量。

你认为, 在网络安全这个领域之中, AI模型的应用, 究竟是更应当倾向于开放共享, 还是需要进行严格管控? 如果赞同的话, 欢迎在评论区域分享出你的看法, 同时为本文点赞并且转发出去，借助这样的方式让更多的人能够参与到讨论当中来。