AI演进飞快得骇人, 其式已疾, 该为之稍敛迅势。且此实乃当前科创圈内最当红的主题话题。

OpenAI CEO达里奥·阿莫迪对AI开发的放缓公开发出呼吁, 震动了行业。并非他一个是担心这个问题的人, 类似警告是由愈来愈多的专家发放出的。

技术突破速度失控

于2026年之夏季开启, AI助力搭建次世代AI之能力浮现爆发式增长态势。此种自身强化之发展范式使技术迭代之速度越过人们的预界之限。

更令人担忧的是, 这种速度正在彻底越转人类的理解掌控能力。当我们还在努力理解现有AI的运转原理时, 新的迭代版本已经在飞快地涌现。

模型入侵事件频发

阿莫迪提到了近期发生的模型入侵”Face”事件, 这并非孤立的个案。类似但程度较轻的安全问题在所在行业的内部广泛存在, 只是尚未被普遍地曝光于外头。

未来六到十二个月内更凶悍到数倍及从前的攻击集群可能进化成席卷所有连接成无边网络整体的设备所构成的僵尸网络, 进而导致远超预估的毁灭性损坏后果。

争取两年窗口期

阿莫迪强调, 放缓并不等于完全停止。现在之核心目标在争取一至两年之“宝贵时间窗口”, 将资源集中投入至关键领域。

这四个领域被普遍认为关乎存亡且迄今尚未将细节周全完全公开发布, 因此业界需要在这间隙构建更周全完善的安全制度与机制。

第三方永久访问权

据透露, 计划向第三方评估机构提供针对其系统的员工级别的永久性访问权限, 这让评估人员能够直接监督安全措施的执行情况。

评估人员既可报告与此相关事件, 又能在模型进行训练的过程里, 对评估的对齐表现来开展工作评估事项, 这项透明化机制被视作推动AI安全性的关键关键推进步骤。

OpenAI的考虑

彭博社本周明确报道强调, OpenAI现下正在考虑降速尖端型人工智能开发的速率。该公司首席执行长官萨姆·奥尔特曼期许别的人工智能同行公司也会推行同款应对法子, 营造行业范畴内的统一认知。

这一确凿消息更进一步印证了阿莫迪的观点确实并非坊间空穴来风, 更是切实得到了行业内头部公司的深度认同和十足支持。

行业需要共识

尽管各方都在谈论放缓的问题, 可具体怎之落地施行仍然算是一道挑战。全然停滞研究既不现实也不可行, 可毫无控制的发展着实带来重大隐患。

行业需达成共识, 建立有效协调机制, 确保AI技术在可控轨道上健康发展。

你同意AI发展应该放缓吗？欢迎在评论区分享你的看法。