李飞飞表示, 人工智能的安全评估这件事, 绝对不能仅仅依靠那些负责开发的公司自己给自己进行打分评价, 可是特朗普却在联合国上面直接批评这是一个骗局行为, 一方面人们正在拼命地想要去加强管理, 另一方面却有人在拼命地不去管, 这场战争才刚刚开始了而已。

李飞飞喊话独立监督

斯坦福大学的教授, 还有World Labs的这个联合创始人是李飞飞。在周二的时候, 她接受了彭博电视的一个采访。她在采访中很明确地表示了意见。她觉得有关人工智能安全性的那些基准测试规则。

必须得由那些独立的机构、学术界的人, 还有政府部门的这些人一起来制定才行。至于那些开发人工智能软件或者产品的公司所做的内部审查检查。是不能够被用来替代掉外部的这种标准的。

她原话是「独立机构和公共部门制定基准非常重要, 行业和政府也应该共同承担责任」。用现在的话来说就是裁判不能兼任运动员自己打分自己说了算这事是不行的。

硅谷大佬集体喊慢

在最近这段时间, 也就是过去的几个星期里, 由奥特曼所领导的那个叫做OpenAI的组织, 还有那个叫xAI的组织里的核心人物阿莫代伊, 这两个人是接连不断地进行了公开声明。

他们在声明中都呼吁大家要注意放慢那种非常前沿的模型开发的速度和节奏。这两位重要人物已经定好了计划, 说是在星期三这一天要亲自出现在联合国安理会的那个场合之中。他们去的目的主要是专门就人工智能安全问题开展一场讨论。

硅谷最顶级的人物同时在踩刹车, 这说明他们自己心里头也没有底。这事情不是写论文那么简单, 那是真金白银押在里面的人员开始睡不着觉了。

特朗普一句骗局

在同一天的场合里面, 特朗普在纽约的联合国大会上进行了发言, 他对于人工智能会生存受到威胁的这种警告, 直接给出了驳斥, 他只使用了一个单词就是骗局这三个字所表达的这个词的意思, 他的这种态度是极其坚决的, 他要求的就是不要减速, 而是要保持着全速向前去进行推进。

总统表示说根本不需要去管, 科学家们却说坚决必须去管, 双方隔着会场就在对吵。李飞飞说的这番话, 等于就是把争论从技术圈子里硬生生地拉到了政治层面上来, 这下是谁也绕不开这个事儿了。

世界模型带来新考题

李飞飞她不是只会喊口号的那一种人物, 由她出来创办的这个叫做World Labs的一个公司, 它正在那里搞开发一些东西, 这些东西是用来生成和重建三维环境的所谓的世界模型, 这一套技术呢它能够用来训练机器人操作的那些方面, 同时也能在设计行业还有医疗行业这两个方面给予支持和赋能作用。

这些系统一旦走出实验室, 扎进现实场景, 怎么判断它有没有跑偏、有没有按预期运行, 就成了一门全新的监管手艺, 眼下没有标准答案。

技术越猛越要踩刹车

李飞飞用电力、蒸汽机以及现代交通工具这些事物来作为比方。她指出, 当每一种新的技术应用落地的时候，人类社会都必须在收益和人身安全之间去寻找一种平衡的状态。而人工智能带来的这把火变得异常猛烈。因此, 对应的刹车踏板也就需要踩得更加结实一些。

她特别强调, 由人工智能可能带来关于生存方面的那些风险, 最终究竟会是怎么样一个状况, 这完全取决于在人类这里, 到底会采取什么样的方式去进行开发, 同时又是如何去进行治理以及最终使用它的一个总体的选择。所谓像“我们必须掌握控制权”这种话, 被讲出来时是非常重的分量, 这绝对不是在进行吓唬人的操作。

控制权在谁手里

李飞飞把话说到了最透彻的地方, 她指出人工智能所涉及的, 并不是人工智能这个技术本体, 而是人的尊严、人的自主权利以及集体的责任。这是一个公共层面的话题, 不是某一家公司能够在关上房门之后独自做出决定就能解决的事情。

眼下, 联合国安理会、各国政府、科技巨头以及学术界全都汇聚在一起, 共同坐在同一张桌子旁。到底是由谁来制定规则, 又究竟要制定什么样的规则, 这一情况会直接决定接下来的十年时间里, 这条道路将朝着哪个方向去发展。

你现在来想一想, 人工智能安全这件事, 最后头还是应该放在谁的手里? 是交给政府去管, 是让一个独立的机构看着点, 还是让行业自己管着自点自家的事呢?

你可以在评论区那里聊一下你脑子里的想法。你要是觉得我说得有道理, 心里有话想说, 那就在点赞按钮上面点一下。接着你再转发给你身边的人, 看看他们身边有没有朋友也是挺在意人工智能这层事的。