九月十六日发狠话的扎克伯格, 反对业内关于放缓AI开发的呼吁, 他直接点破一层矛盾: 没有谁敢愿意用不听话的AI, 科技实验室的市场必须靠对齐动作来抢夺?

用户不买账就死

扎克伯格认为, 现实的残酷。用户只会选择那些能听懂人话、与自身对齐的智能体质。

所以, 各大AI实验室心里确实全都门儿清。他们死拼命提升模型对位水平, 纯粹就是为了率先抢走客户。

对齐技术定生死

时下业内吵吵乱糟糟, 到底要不要暂停升级这些安全环节都跟紧? 扎克伯格不这么认为。

他觉得信任还有对齐这两样是核心竞争力。那个实验室若是忽视这块, 最后的肯定会被淘汰出局, 一定会被淘汰出局。

出了事要赔钱

被扎克伯格提到的是如果模型搞出大祸的事态之下那实验室就得担法律责任。

这压力大到爆炸。为了少赔钱、少坐牢, 他们自然会费尽心机防患于未然。

Meta 的隐忍操作

Meta其实确实干过一件很大事儿, 他们竟把Muse的发布硬是推迟了整整好长几个月。

目的只在一点: 把功能安全稳稳筑牢。马克•扎克伯格称称过, 他们几乎没有大肆宣扬过什么, 就仅把安全融进日常研发环节里去当中去了。

找外人挑刺最有效

引入能独立的第三方评估, 是现在顶顶管用的法子。Meta这家的MSL已经在很多业务线这么去做。

效相相当果好。克扎克伯格呼吁全行建业个更大的评估生态圈套圈, 家大互相挑毛病挑错。

算力得用来干活

与那些在实验室里疯没了一样搞递归自我改进的那些东西不同, 扎克伯格就主张把算力耗用在用于服务大众上头。

他觉得这才是安全开发技术的正道。Meta已经承诺这么去做, 其他公司也都该跟得上这一节奏。

你认为AI的开发进程到底要踩油门前进还是要踩刹车止步? 在评论区中讨论讨论并顺带轻点个赞支持一下！