Claude主导26%研发任务,Anthropic披露AI自动化进展
对外披露了内部研发自动化统计数据。达到人机协作,但没有“完全自主”完成任务的绝大部分流程,人负责监督审核。生成,参与下一代模型自我改进操作执行前都会经过在线安全检查,少量异常决策会被直接拦截;后台还会定期抽取对话记录,高风险案例提交人工复核。生成,工程师的产出效率相比过去提升数倍。
那家属于行业领头羊的AI公司, 第一次向大众披露了他们内部用来研发自动化数据的状况, 数据显示AI这个技术已经主导了总共百分之二十六的研发工作, 可是哪怕做到这一步, 也找不到任何一项任务是能完全不需要人来参与的, 这些数字看起来非常激进, 但是底线其实也非常明确清楚, 如果把这两件事情放在一起来看的话, 才能看到一个完整的全貌。
半年从不足1%飙到26%
直到今年八月份, 这是一家科技公司里头的AI Agent主导的研发任务占比达到了26%。而在今年两月份的时候, 这个数值还不足百分之1呢。从两月到八月, 也就是过了短短半年多的时间, 这个数字硬生生翻起了二十多倍去。
这样子的快速增长速度, 在大型科技企业里头是非常罕见且少见的。这种情况说明了人工智能介入研发环节的速度非常快, 远远超出之前外界人士所预期的那个样子。
这说明, 在研发的整个流水线里, 快要有四分之一的那些步骤, 已经不再是由人自始至终去全部做完的了。人工智能智能体是照着上面的指令自己在前面推动着把大部分的过程给走完了, 人类所做的事情仅仅只是调整一下方向以及做最后的检查把关这一点儿事情。
六级框架九成协作但不越AL5
该公司使用六级自动化框架来衡量AI参与的深度。AL4被定义为AI主导, 这意味着人只需要给出目标方向, 而AI会运行完绝大部分流程, 人类则负责监督和审核。目前, 超过90的研发任务已经达到人机协作以及更高级别的程度, 这说明AI已经深深地嵌入了日常的研发环节里。
但是在等级体系里排在第五位的AL5, 它代表的是一种完全自主的状态, 这种情况目前并没有发生, 没有任何一个具体任务能够达到这样的级别。
人工智能的存在形态, 始终是被限制在人类监管的范围之下的。这一点是这家公司所设立的绝对不能动摇的硬性底线, 哪怕未来的工作效率有所提升, 也绝对不会因为这点原因就放开这种监管措施。
三万Agent并行月产十亿次决策
公司内部大约有3万个AI Agent同时在运行研究和工程任务, 这些Agent之间能够相互分配子任务、进行交叉纠错, 到了8月单月产生了超过10亿次决策, 其协作规模远远超过了传统研发团队。
这相当于在一个实验室里, 有数万名虚拟研究员在那里同时跑实验。他们互相汇报各自的进度, 还要去校验得到的结果。这样就形成了一个闭环式的协作网络。这个网络可以保持7×24小时不间断地运转。
八成入库代码由AI生成
在代码层面, 出现的变化是最为直观的。在目前已经合并并入库的代码里, 有超过百分之八十的部分是由人工智能生成的。工程师们不再需要从开始位置一行一行地敲击键盘来编写代码了。
他们现在主要是做的是需求拆解工作, 是进行代码审查工作, 是做最终的验收工作。与过去相比, 他们每个人产出成果的效率得到了大幅度的提升, 提升了不止一倍。
AI Agent正在承担起底层研发工作中的多个任务, 这些任务包含了进行模型实验、负责代码的编写工作、执行数据分析环节以及落实结果校验操作。
在此背景下, 从事相关工作的工程师的角色定位发生着一种改变, 他们不再是纯粹依靠撰写代码来体现价值的人员, 而是转变为负责确立工作方向并且把控工作质量的关键角色。
安全拦截加人工兜底
在所有的 AI 操作执行之前, 都要先经过在线的安全检查这一道程序。那些少数的、出现了异常情况的决策, 会被直接给拦下来, 根本不会进入生产环境里面去。然后呢, 后台会定期地从对话记录中间抽取一些内容。一旦发现那些高风险的案例, 就提交给人工来进行复核这种处理操作。
这套机制保证了, 在每月的决策数量级别达到十亿次的时候, 出错概率这一项被压在了可控的范围之内, 它同时兼顾了研发工作的速度还有安全的底线。
递归自我改进闭环已跑通
这一点是目前最值得关注的问题, 具体情况是那些人工智能智能体正在参与到下一代模型的迭代以及研发的环节里面去, 人工智能在训练能力更强的一个人工智能, 这个行业把它称之为递归式的自我改进, 研发的整体闭环已经初步完成并且开始运行。
百分之二十二的占比成为了主导力量, 百分之八十的代码生成率也达到了相当高的水平, 每月的决策次数甚至累计到了十亿次之多。当这些数字叠加在一起的时候, 它们明确地说明了现在自动化研发已经跨过了概念验证的那个阶段。但是, 关于完全自主的那一步, 依然还像是被锁在上面一样, 并没有实现真正的突破。
你觉得百分之二十六, 这数字算是多, 还是算少呢? 要是等到明年, 这个数涨到了百分之六十, 你手头的那个工作职位会是一个什么样的情形? 欢迎在评论区里去说一说, 如果你也认同这句话里有不少有用的信息, 那就顺手点个赞, 再把它分享出去。