越来越聪明的AI智能体, 越发容易闯祸, 英伟达、思科等120多家机构, 决定一同立规矩, 要求公司务必报告AI事故。

SAFE框架是什么

那名为开放人工智能联盟的组织, 正在着手制定一套被称作SAFE的指南, 其全称为共享人工智能发现交流。而这套有着如此定名的框架, 是要为人工智能智能体所涉及的网络安全事件, 去规定一个统一的报告标准。

当下, 行业之中欠缺这类标准方法, 发生事故后, 各家公司的处理方式各式各样, SAFE尝试去解决此问题, 使得所有人都依据同一套规则进行记录以及上报。

哪些事故需要报告

作为成员而言, 必须针对AI系统出现的未经授权就去访问或者操控第三方系统的情形展开报告。要是AI出现了泄露机密信息的状况, 或者在操作员已然怀疑其活动并不合法之后却依旧持续探测生产目标, 这均是处于报告范围之内的。

一部分差一点就发生的事故同样是需要进行上报的。成员们还得留存完整的证据链, 这证据链涵盖提示词, 智能体追踪记录, 工具调用日志, 身份权限以及凭证信息。

报告时间要求

事故发生之后, 需尽快去通知那受影响的一方。初步的保密报告应当在四个工作日之内提交给SAFE。要是有必要的话, 三十天以内要进行发布初步事实报告。

九十天期限到了的时候, 是得另外给出改进方法的最新发展动态情形的。这一系列的时间安排表, 参照了航空安全范畴之内的完备经验做法, 着重突出了迅速做出反应以及持续不断地跟踪推进。

企业为何愿意参与

英伟达的副首席信息安全官宣称, 几乎未曾碰到阻力, 所有人都极为乐意参与到分享之中。网络安完全这个圈子，本身便存有共享威胁情报的传统, 企业对于此情形, 并非感到陌生。

众人察觉到独自去应对AI安全风险, 成本实在是太高了, 转而觉得不如相互依靠, 共同应对。借助交流事故数据这样的方式, 所有参与其中的人, 都能够从他人所遭遇的教训当中, 学到相关的东西, 进而降低自己所面临的风险了。

借鉴NASA经验

英伟达负责企业计算事务的副总裁于黑帽子大会之上进行了透露, 那个计划是以NASA的航空安全报告系统作为蓝本的。飞机的飞行记录器能够捕获到翔实的数据, 进而帮助对事故原因展开调查。

SAFE同样期望达成相近的成效, 借助收集智能体运作的完备记录, 去还原事故的整个过程。这样一种透明化的机制能够促使行业整体的安全水准得以提升, 并非是对问题进行隐匿。

公开征求意见

为征求意见, 开放安全人工智能联盟借助Linux基金会开启了相关流程, 此流程正广泛面向社区去征集回馈, 目的在于经完善细节工作之后，再将其正式推出。

政府机构会被以非控制性观察员的身份邀请而参与进来, 这表明政策制定者能够知晓技术动态, 然而却不会直接去干预框架设计, 以此来维持行业主导权。

在你看来, 那承担AI智能体安全责任的究竟该是谁, 究竟是开发者还是使用者又或是监管机构呢 , 欢迎于评论区讲出你的看法, 可别忘记点赞以及分享这篇文章。