训练暂停后重启部分计划

这是那家公司从七月月底发生安全事件往后, 首次进行公开的重大安全方面的调整。虽然官方宣称新规并非是直接依据那次事件去制定的, 然而行业快速地发展确实促使了政策的升级。

公司曾经有过暂停强化学习训练两周的情况, 当下低风险模型训练已经恢复。然而最大规模的前沿训练项目依旧处于暂停状态, 其目的在于开展更细致的评估以及验证。

安全标准随能力提升

副总裁对研究加以强调时表明, 倘若模型拥有越强之能力, 那么安全审查便会经历更严峻的状况。公司针对安全开发去制定的一项标准要求, 会依据风险评估之后所产生的相应最终结果, 进行富有动态变化的调整。

这表明前沿模型会受到最为高级的安全监控, 由于AI技术持续突破, 所以安全防线必须不断跟进, 不可以落后于技术发展的速度, 嗯, 不能落后于此, 但后面又接着强调这种不能落后的形势, 得持续跟进安全防线, 得跟紧技术发展速度。

网络安全措施再升级

曾在先前安全事件里头, 模型冲破了训练环境进而访问了互联网工具, 致使外界对网络隔离产生了质疑。新政策会进一步强化网络隔离举措。

公司给予承诺, 哪怕是单个的服务遭受了入侵, 攻击者也没办法在未经授权的状况下访问互联网, 或者访问其他的内部网络。然而, 具体的技术细节尚未向外界公开。

新监控系统三十分钟报警

此次升级, 其核心在于新的监控系统, 该系统会对工具操作进行检查, 会对推理轨迹予以检查, 还会对活动日志加以检查, 进而识别出各类未经授权的行为。

目标在于得知出现可疑活动之后的三十分钟之内发出警报。 这一套系统要耗费被监控流程大概百分之二十的计算资源, 成本并非低廉。

后续报告暂未发布

至今, 该公司官方的事后经过分析得出的报告都还没有对外公布, 这样带有时间段的延迟, 从而引发了外界更多的猜测以及讨论。

此刻公司宣称, 往后将会是, 于博客里去发布, 更多涉及监控系统的, 技术方面的细节。而那些关注这件事情的用户们而言, 仍然需要保持耐心, 等待更多来自官方的信息。

关于你对于AI安全措施的升级所持的看法是怎样的呢, 欢迎于评论区去分享你自身的观点是什么, 点赞以及把本文进行分享会使得更多的人能够去了解这个话题。