他为何主动要求被管

全球顶尖的AI实验室掌门人, 极为罕见地低下了头, 还主动向政府要求, 针对自己以及同行展开严厉监管措施, 这并非是作秀啊, 而是源自真实存在的恐惧, 他觉得, AI以指数级的速度进化, 其速度已然超过了人类的控制能力, 就此温和自律的时代宣告终结, 他给出了硬性的门槛, 就是算力超过10²⁵ FLOPs或者营收超过5亿美元的企业, 必须得接受强制监管, 一旦模型存在生物、网络安全或者自主失控的风险, 政府能够直接进行封杀, 同时发布了两份正式的政策提案, 还自己掏出3.5亿美元来支持相关研究。发生的这一行为, 完全地打破了硅谷一直以来抗拒监管所形成的那种默契, 朝着全球方面释放出了一种信号, 即: 在灾难出现之前, 一定要给大模型套上具有限定作用的紧箍咒。

硅谷默契被彻底打破

过去好些年, 硅谷那些大型企业一直在促使所谓的“透明度立法”, 那是当时所能达成的全部了。然而没办法精准描述还没有出现的风险, 所以也就没办法针对其特性来制定法律。如今网络安全方面的风险不再是设想中的情况, 已然成为了实际存在的状况, 生物武器方面的风险以及AI失控方面的风险同样也在迅速地靠近。他觉得, AI正以极快的速度演变发展, 可是各个国家的政府作出反应的速度却慢得好像是树一样。国会要通过一部重要的法律平均都得花费好几年时间才行, 像树一般缓慢推进的速度根本就没办法拦住已然化身为“天才国家”的呈指数级增长的AI。他作出这般主动站出来之举, 是拿如真金白银般实在之物以及具切实之意的提案来, 迫使同行以及政界去正视那残酷的现行状况。

FAA模式给AI上锁

美国联邦航空管理局是他所给出的监管模板, 要飞行上天的飞机, 得经由严格第三方测验拿到适航证书。前沿AI模型他觉得应获同等看待, 具体门槛是, 模型须接受强制性第三方测试, 覆盖四个核心风险领域, 其一, AI能不能被用来发现漏洞、对基础设施进行进攻、使金融系统陷入瘫痪；其二, 会不会降低开发危险病原体的门槛；其三, 有没有可能在开发者控制不了的情况下自主行动；其四, 是不是在加速提升自身能力从而放大上述风险。完成测试的主体必须是合格的、独立的第三方, 它可以涵盖像FAA这样的政府机构, 还能够是经过授权实施监管的私人评估机构。倘若模型检测出不可接受的风险, 那么政府便拥有一票否决的权力, 致使模型不被准许上线。

模型权重比核弹更敏感

他指出前沿的AI模型, 其中的“模型权重”属于极具战略价值的资产 , 这种资产极其容易成为黑客窃取的目标。一旦权重出现泄露 , 那么所有安全对齐限制就有可能在几个小时之内被完全剥离。对于开发商而言 , 必须要建立起极高的安全标准 , 以此来保护开发环境以及模型权重 , 还要定期接受红队测试 , 并且建立把模型蒸馏攻击向政府通报的通道。一旦出现安全事故 , 开发商必须向监管机构主动进行报告 , 绝不能瞒报。这一要求直接击中了行业痛点 , 即很多公司对于安全漏洞遮遮掩掩 , 担心会影响股价以及声誉。他明确表示，现在不是遮羞的时候，AI出事就是全球性灾难。

防AI失业要给钱

他探讨了一个全球存在的痛点, 即AI驱动之下的失业情况, 其有可能比历史上的任何一次技术革命产生的影响更为深远且持久, 工业革命、互联网革命都曾造成过阶段性的失业, 然而最终都创造出了更多的新工作, 背后有着杰文斯悖论以及比较优势原理这两个缓冲机制, 但是他作出判断, AI有可能同时突破这两个缓冲机制, 是因为AI并非仅仅替代某一个具体的任务, 而是替代人类的通用认知能力, 一旦AI能够在几乎所有的认知领域超越人类, 比较优势就会消失不见。若是政府大幅扩展对AI就业影响的数据收集以及追踪, 他建议这么做, 要是此仍不够, 或许需要全民基本收入, 借助对AI公司征税或者提高资本利得税来筹措资金。为此他宣告, 2亿美元用于政策研究, 1.5亿美元用于技能培训奖学金。

科学加速别被旧体制绊倒

他发出呼吁, 不要让旧有的体制变成科学加速进程时期的阻碍物块, 对于借助AI进行加速的处于下游应用阶段的科学领域比如生物医药领域、能源领域、材料学领域，其监管的思路准则应当放宽束缚带子, 自靶点的找寻发现直抵最终被批准认可得以上市, 一般而言是需要大概7年到8年的时间周期的, AI不但能够以几何的倍数来提升增加作为候选考虑的药物数量, 而且还可以极大程度地拔高提高新药物药品所具备的功效作用以及安全性能, 如果不进行制度方面的变更革新改过, 体量无比巨大繁多的AI科学产出会将现在实际一直在运行的药物监管审批处理系统完全地陷入瘫痪状态, 再难平稳正常运转。他发出呼吁, 要求监管机构去开发全新的AI辅助评估标准, 即要接受AI生成的药效学与药代动力学模拟模型, 而且在临床试验里引入合成控制组, 进而大幅减少人类受试者招募时间, 同时允许针对癌症、阿尔茨海默病等病症去开发创新快速通道。如今全球存在着珍贵然而又稍纵即逝的窗口期。

对于AI, 你觉得是需如同飞机那般, 经过强制认证才可以上线, 还是应当任由市场自行去摸索边界? 大家可在评论区留言, 点赞分享以使更多的人能够参与到讨论里。