吴恩达直接向顶尖人工智能实验室的研究人员泼了一盆冷水, 他说关于人工智能会致使人类走向灭绝的观点, 本质上更像是科幻小说里的剧情安排, 而不是经过严谨证实的科学结论, 这番话一说出来之后, 负责确保人工智能安全性的群体和推动人工智能发展的阵营, 立即就陷入了激烈的争辩之中。

吴恩达为什么发难

在二零二五年下半年, 吴恩达在彭博电视节目里清楚说了这么一件事, 就在过去那两星期里, 他一直在盯着行业里搞出的那一新一轮的所谓人工智能生存风险的叫嚣, 他心里头是觉得挺沮丧的。

他觉得, 有些那个顶级的模型开发公司里的研究人员, 老是反反复复在那儿强调说, 十年之内这个人工智能可能会对人类造成那种要命的威胁, 他就认为这套说法和之前人工智能刚火起来的时候那些人为去渲染灾难性危害的宣传套路简直就是一模一样了。

吴恩达是Brandable和DeepLearning.AI这两个机构的联合创始人。在很早的时候, 他就跟阿莫代伊以及奥尔特曼一起共过事, 那时候他们所在的机构包括OpenAI和Anthropic。

他明确承认了人工智能确实存在比如网络安全等实际层面的隐患问题。可是, 他却总是把灭绝这个词挂在嘴边。在吴恩达看来, 这种做法已经超出了正常的科学讨论范畴范围了这种行为变成了一种情绪化的标签贴法。

考克森辞职搅了多大水

之前的那个工作人员叫雅各布·考克森的人, 他非常高调地从公司离职了。他在公开场合猛烈地指责了他以前的两个雇主。他说这两家公司竟然拿人类的生命在做赌注。原因是它们都在争相去开发超级人工智能技术, 而且这种行为毫无底线和限制可言。

此外, 他还向大家透露了一个消息。他发现有些开发者私下里认为, 这项技术的危险性很大。在他们看来, 这项技术可能在十年之内的时间里, 就会对人类社会构成致命的威胁。

这番话直接把人工智能安全的问题, 从实验室里面的小小圈子, 推到了广大的公共舆论场合。原本那些圈子里面的人, 关起门来谈论的技术分歧, 一下子就变成了媒体关注的头条消息, 也引发了大众的担心和焦虑。

考克森辞职的这个时间点, 正好踩在行业加速进行前沿模型竞争的这个节骨眼上, 所以放大的效应显得特别明显。

AI大佬们怎么站队

考克森事件发生之后, Anthropic公司的首席执行官达里奥·阿莫代伊, 还有OpenAi组织的负责人萨姆·奥尔特曼, 这两个人先后站出来发表意见。他们都呼吁整个行业要放缓开发前沿模型的节奏。

同时他们也要求增加更多的安全防范措施。需要特别指出的是, 达里奥·阿莫代伊和萨姆·奥尔特曼两个人, 过去都是吴恩达的前同事。正是由于这层关系, 他们之间原本微小的立场差异, 立刻就变成了公开化的矛盾冲突。

然而, 吴恩达并没有跟着去呼喊减速。他持有的核心看法是, 如果将刹车踩得太猛, 人工智能在医疗领域、教育领域以及科学研究等领域所产生的巨大社会价值, 就无法被实现。对于整个行业而言, 真正需要去做的事情, 应当是在持续前进的过程中去修理车辆, 而不是让车直接停在路边不走了。

吴恩达主张继续推进

吴恩达给出的建议非常具体, 主要内容是主张继续推进人工智能的研发工作, 不过, 这项工作必须配套受到控制的测试环节, 以及工程防护机制和快速迭代改进流程。他反对那种泛泛而谈生存风险的做法, 要求把相关的讨论拉回到能够被验证、能够被量化的工程问题上面来。

他的逻辑是说, 要是大家都把精力花在纠结人工智能会不会灭绝人类这种哲学辩论上面, 那么关于模型对齐、越狱防御以及数据污染这些实实在在的技术问题就没人去管了。他认为应该让人工智能尽快投入到能够产生社会价值的场景中去。

实际工程问题怎么解

吴恩达点名当前最该关注的方向, 是网络安全漏洞、对抗性攻击以及输出可控性问题。这些问题有明确的技术指标可以衡量, 也有成熟的测试框架可以跑。相比之下, AI会不会自我复制失控之类的假设, 缺乏可操作路径。

他建议建立行业共享的红队测试平台, 定期公开模型在安全维度上的表现数据。把透明度做在前面, 比事后喊我们很担心要管用得多。工程师解决问题靠的是复现和修复, 不是靠写声明。

监管风向会怎么走

关于吴恩达批评的所谓公关宣传干扰监管这一情况, 现在人看了就知道确实不是瞎编乱造的虚话, 而是有真实原因的, 因为在过去人工智能热潮刚开始的那段时期里, 有一部分企业为了推动能够让自己获得更宽松开发空间的监管体系出台, 他们当时确实在通过渲染相关风险的手段来制造话题, 倘若这种关于生存风险的叙事逻辑一直持续发酵下去, 监管机构那边可能就只能够被迫去制定那种不管三七二十一的一刀切式限制措施了。

他发出呼吁, 要求行业内部首先把技术语言进行统一, 需要把什么情况下才算作真正的风险等级这件事说个清清楚楚, 然后再去向立法者们展开对话。

要是没有这样做, 那么各个方面都会在自己喊出自己理解的那个版本, 最后出现的结果肯定是要么管束得过于严厉苛刻, 要么管理得太过宽松随意, 总之都没有能够准确触及到问题的核心要点。

大家怎么看待吴恩达所说的关于人工智能导致人类灭绝的这种担忧, 在他看来这更像是一种科幻电影里的情节? 他是保持着清醒的认识, 还是对于潜在的风险存在低评定的情况呢?

欢迎各位在下面的评论区之中, 畅聊一下个人的观点与看法, 如果觉得所言具有道理的话, 请帮忙点个赞, 同时转发给那些关注人工智能领域的伙伴们。