新闻资讯
OpenAI前CTO当庭指控奥特曼:在安全审批上误导我,制造内部混乱
Murati作证称奥特曼曾在模型安全审批上误导她,还长期制造高管间的「混乱与不信任」。她当庭指控,曾在模型安全审批上误导她,还长期制造高管间的「混乱与不信任」。在高管团队中,奥特曼长期制造「混乱与不信任」——这是Murati在法庭上的原话。
一场涉及内部权斗的官司,将那最不愿被外界瞧见的裂痕通通给翻了出来。OpenAI之前的CTO米拉·穆拉蒂于法庭之上径直指控奥特曼,讲他在模型安全审批这件事上误导了她,并且还长久地在高管们之间制造出混乱以及不信任。这可不是八卦那般简单,这是关乎到AI安全最终究竟由谁来作主的问题。
安全审批流程被架空
穆拉蒂于证词里透露了具体的操作手法,在2022年准备发布一个新模型之际,奥特曼告知她,法务负责人杰森·孔称不需要让安全委员会进行审查,穆拉蒂随后自行核实发觉,杰森所说的话与奥特曼转述的内容压根不是同一个情况。
采用这种选择性地去披露信息的方式,于OpenAI高管团队当中是颇为常见的。不同的对象收到的是不同版本的事实情况,安全审批的关键节点被蓄意地进行模糊化处理。其结果便是没有任何人能够拼凑出完整的画面,而最终的决定权始终是握在奥特曼手中的。
前董事会成员证实撒谎成风
穆拉蒂所提出的指控并非是唯一性的例子,之前董事会成员海伦·托纳在庭外所提供的证词给出了相应的呼应,她声称奥特曼每隔几个月就会制造一回“危机事件”,内部存在着撒谎风气盛行、欺骗行为泛滥的状况,而且这种风气还逐步渗透到了其他领导层成员身上。
托纳也说到,她收过前董事会成员伊利亚·苏茨克维尔发出的一封邮件,邮件有着数十页之长,详尽罗列了奥特曼的诸多行为以及谎言所引发的那些混乱事件,这说明了内部问题存在的时间已经很久了,并不是短时间的摩擦。
微软投资带来的商业压力
未到2022年GPT发布之际,微软的CEO萨提亚·纳德拉以及CTO凯文·斯科特告知奥特曼,只有达成1亿美元营收这一条件,方可获取下一笔100亿美元投资。奥特曼将此事当作公司的核心目标来设定,且在公司内部朝着团队施加压力,要求达成这一目标。
穆拉蒂于作证之际表明,她并非是对追求营收持有反对态度,然而却是反对那种欠缺与使命达成契合一致的战略。法庭所呈现的询问记录表明,奥特曼确切地将这个目标归源于微软所提出以要求。这进而引发了这样一个疑问:究竟驱动目标设置的是慈善使命呢,还是微软的商业压力而有如此情况呢?
部署安全委员会形同虚设
OpenAI的部署安全委员会,原本是个正式审查机构,其职责是判定新AI模型能不能发布。然而,计算一下委员会成员构成便会发觉:成员总共6名,批准部署需4票。就算负责安全的两人都投反对票,微软与奥特曼那一方也能够形成天然多数。
比这更为严重的是,奥特曼选取直接说谎的方式来避开这个流程。管理OpenAI的非营利组织董事会借助推特截图方知晓模型已然发布。穆拉蒂在宣誓情形下证实,奥特曼所称的法务意见压根不是实情。这个委员会从结构设计层面就是为了使商业部署能够顺利获批通过。
总裁格雷格不知为何被起诉
OpenAI总裁,名为格雷格·布罗克曼的,在法庭之上展示出了让人觉得困惑的态度,其态度令人费解。当有人询问他知不知道为何被起诉之际,他表达说自己不太清楚,知晓这件事情以及缘由的程度比较模糊。诉讼律师亲口告诉他,作为被告,你是因为违背了OpenAI的慈善使命,那慈善使命就是动用开源方法来开发安全AI从而造福全人类,并且明确规定任何的个人都不可以从其中谋取利益。
布罗克曼被问及诉讼是不是对发布新章程造成妨碍了,他认可确实是这样。然而他对诉讼缘由全然不知这件事,反倒证实了原告方的关键指控。当律师把违反慈善使命这点直接点明时,这便是他所要面对的回答。
安全团队被解散人才流失
罗西·索库尔,这位曾经的AI安全研究员,在2021年到2024年任职那段时间,亲眼目睹了OpenAI摒弃对安全的承诺,她刚进去那家公司的时候是有两支专门搞长久AI安全的团队的,然而,最终这两支团队都被解散掉了,她所带领的那个安全团队里大概一半的人选择是离开而非是内部转岗。
索库尔作出了阐释,说明了自身支持奥特曼回归的缘由。她怀揣担忧,忧虑一旦奥特曼离去,OpenAI的员工最终将会流向微软,而微软在AI安全方面的投入恐怕更难以让人信赖。她得出这样的判断,即要想让OpenAI不至于走向分崩离析,最佳的办法便是让奥特曼回归。
非营利组织已成空壳
顶尖人才、研究成果、AI 模型以及有价值的东西,全都被转移至营利性公司。原本的非营利组织如今基本成了空壳,几乎没实权、缺资产,仅持有营利性公司 26%股权。那场董事会政变出现后,奥特曼被解雇时多次连续恳请回到办公室对话都被拒绝。
原董事会本是对最初开源慈善使命起到维护作用的,当领导层在未获批准的状况下擅自开展推进商业化行径时,这事实上等同于劫持来非营利组织的工作,这便是诉讼将目标指向奥特曼以及现任领导层,而非原董事会的缘由所在,那么问题出现了:要是AI公司能够随意绕开自身的安全审查机制,你还会去相信他们所宣称的“负责任的AI”吗?欢迎于评论区留言,点赞分享从而让更多人能看到真相。