九月十七日当天, 吴恩达接受了彭博电视的采访, 他在采访中发表的言论, 一下子就直接戳中了现在有关人工智能安全问题讨论里最核心的分歧点, 这件事因此引发了整个行业的广泛关注和重视。

针对生存风险表态的核心观点

科幻叙事偏离实际方向

吴恩达在采访的时候, 他把那个意思讲得非常清楚。说那些顶尖的人工智能模型开发商最近提出的警告。这个警告是关于AI可能会给人类的生存带来巨大风险的。他觉得这种情况其实更靠近科幻小说那个范畴。

这不属于那种严谨的科学结论。这种把极端风险进行过度渲染的叙事方式。它非常容易分散行业的资源分配。这样一来。就容易让从业者忽略掉当前非常急切需要去解决的真正的人工智能的安全问题。

过往行业操作的动机分析

吴恩达讲过科技行业在很早的时候就曾经放大人工智能潜在的灾难性风险, 目的是为了获取公众的关注, 并且影响后续监管政策的走向, 最近两周相关的讨论再次升温, 背后大概率也存在类似的诉求, 本质上是部分主体想要借用舆论来引导监管规则的制定方向。

近期AI安全争论的触发背景

前研究员离职引发舆论潮

两周前, OpenAI的研究员Jacob Coxon正式宣布离职, 他公开警告说, 那些前沿的AI实验室正在毫无底线地争先恐后地去开发超级AI, 这件事直接把全网对AI安全的讨论热度给点燃了起来, 于是很多普通老百姓就开始对AI发展过程中可能存在的问题产生了一些不该有的、过度了的恐慌情绪。

头部企业高管的减速主张

接着, Anthropic的首席执行官德莱沃和OpenAI的首席执行官山姆先后公开发表了自己的看法。他们认为应该适当地减缓前沿大模型的研发速度。同时需要同步加强各类安全管控措施。这两个人在早年间都曾经和吴恩达一起工作过。这次他们的观点和吴恩达的立场形成了鲜明的、公开的对抗局面。

现实存在的AI安全核心领域

网络安全相关风险

吴恩达十分明确地表示, 人工智能这个家伙, 现在确实是存在着不少现实的、实实在在的麻烦和危险。在这些风险里面, 网络安全这块儿, 是目前看得最清楚、最扎眼、最需要大家抢着去赶紧收拾解决的头等大事。

你看啊, 靠着人工智能弄出来的那些专门骗人的钓鱼邮件内容, 还有那种自动生成的恶意代码去发起的攻击动作, 这些事情在二零二六年的上半年就已经闹出了大乱子。这些乱子一共造成过了三十多起企业的秘密数据被别人偷走泄露的事件, 加起来全球总共超过三百起, 这个数字还是挺吓人的。

其他可落地的风险场景

除了网络安全这一方面之外, 在AI代理自主去执行任务的时候发生的失控风险, 还有模型输出的内容与人类的价值观之间不对应的问题, 这些都属于那种当前已经显露出来了的情况, 并且是可以着手进行解决的真实隐患, 针对这些问题我们并不需要假设那种极端的情景, 因为它们实际上已经在部分行业的实际应用之中造成了影响。

反对以灭绝风险为核心判断

脱离当前技术发展阶段

吴恩达强调, 目前把人类灭绝风险当作人工智能发展的核心判断依据, 是完全脱离了现有的人工智能技术实际发展阶段的。现在所有的主流大模型, 它们的通用能力, 距离那个所谓的超级智能, 还有极其遥远的技术差距。所以, 那些相关的担忧缺乏现实数据的支撑。

浪费行业宝贵研发资源

如果过度关注那些极端的生存风险, 就会把原本可以用于技术升级的研发资源, 投入到处处都是的空想场景里面, 这样做其实是没有任何实际意义的。对于中小型的AI公司来说, 他们本来就不富裕的人力物力, 会被各种各样的合规要求白白消耗掉, 这样会导致人工智能技术在改善普通民众生活的地方变慢下来。

推进发展的安全解决路径

三类务实的安全方案

吴恩达提出, 行业方面应当继续保持高速度的状态来推动人工智能技术的发展, 与此同时需要从受控测试、工程防护以及迭代改进这三个类别的方向去出手, 从而处理掉所有可以核实清楚的真实的人工智能安全风险问题。

这里并不需要停下向前发展的脚步, 只需要在研发的具体流程之中嵌入安全校验的环节内容, 就一定能够实现对于风险的管控操作。

优先落地社会价值场景

行业应当去引导AI技术, 让技术更多地往那些能够直接产生正向社会价值的场景里面倾斜, 这些场景包括医疗辅助、教育普惠以及工业节能。

到了2026年这一时间节点, 国内的AI辅助诊断系统已经实现了对1200家县域医院的全覆盖, 这种做法实实在在地帮助了基层的患者群体, 成功地将误诊率降低了下来, 具体的降幅达到了30%。

当前AI安全讨论的延伸方向

治理规则逐步细化落地

现在这个全球的范围内, 关于AI安全的讨论, 已经不再是刚开始那个模样了。刚开始的时候, 大家争辩的是模型能力边界的这个问题, 而且争辩得比较模糊。但是现在, 讨论的范围延伸得更远了, 延伸到了很多非常具体的实操问题上。

这些问题包括网络安全防护怎么来做, 还有AI代理行为需要进行什么样的管控等等。各个国家的监管部门, 也都正在基于这些细分的讨论情况。他们正在制定那些可以落地执行的具体规定, 这些都是关于AI治理方面的细则。

不同立场仍在持续博弈

那些既支持对速度进行管控、又希望实现稳步发展的行业从业人员, 依然在不断提供最新的行业数据, 用以佐证他们各自所持的观点。在这样充分进行的观点交流和思想碰撞之中, 人工智能领域的整体发展路径将会慢慢摸索出那个最契合当前阶段实际情况的平衡之点。

对于吴恩达所倡导的那种注重实际且稳妥安全的路线, 你是否更加认同, 而对于那些行业内的领军企业所提出的关于先进模型发展速度应当放缓的观点, 是否表示支持呢? 不妨在评论区书写下你自己的观点与想法, 同时切记要执行点赞这一动作, 并将该内容转介给周围同样对人工智能发展动态感兴趣的朋友。