AI资讯

GPT-5.6自己改代码,让OpenAI成本降20%,效率提升15%

智能摘要

Sol参与的内核优化,让OpenAI对外的服务成本降了20%;推测解码的改进,让模型生成token的效率提升超过15%。Sol去提升生产服务效率,正是它又强又便宜的原因之一。这些环节一个个抠下来,最后就换来了开头那两个数字:服务成本降20%,token生成效率涨15%+。

自己给自己打工的AI

GPT – 5.6上线承接的首个任务, 并非撰写文案, 亦非绘制图像, 而是对自身所在的机房展开大规模翻修。它亲自动手重新编写了生产环境中的GPU内核代码, 而这套代码每日承载着数量达十亿级别的用户请求。2026年7月, OpenAI内部公布的数据表明, 此次自我优化使得对外服务成本降低了20%, 模型生成token的效率提升幅度超过了15%。一个AI能够为自己打工进而省下费用, 此前确实未曾有人如此做过。

生产系统不是实验室玩具

修改的并非用于演示的、那个称做Demo的, 而是处于线上、实实在在运行着用于开展业务的, 那一套系统。生产环境之中倘若任凭任何一行代码上出现问题, 所造成影响关于全球数目的已达亿级的用户们, 他们实际的体验感受。OpenAI担任总裁一职的Greg, 于内部举行的一场会议上面表述称, 促使GPT – 5.6发挥作用去实现生产服务效率方面得以有效提升, 这刚好正是它具备强大功能另外价格又低廉的其中一项缘由。这一套系统每一天都会针对海量得如同汪洋数据般的请求进行处理, 哪怕仅仅只能实现1%程度的优化, 这对于成本而言都是一种堪称巨大的节约。

三步优化层层抠细节

GPT – 5.6借助Codex平台接入了生产推理栈, 于智能体框架层面开展优化, 于API编排层面进行优化, 于模型推理层面予以优化。于负载均衡方面, 它剖析真实流量, 找出了往昔被忽视的卡间负载不均问题, 对新的路由策略展开测试。KV缓存优化致使它将算过的中间结果留存下来以便重复运用, 避免做无用功。在推测解码环节, 它针对配套的draft模型设计架构实验且运行了数百次, 改变尺寸, 改变结构, 改变特性。

数百次实验人根本试不完

以往, 这些实验是依靠稀缺的GPU工程师, 凭借经验以及直觉, 以手工方式去尝试, 一个配置接着一个配置地来, 就算试上几个月, 也无法试完。配置空间实在太大, 大到人类根本没办法试完, 只能依靠粗糙的经验法则, 凭借主观判断去做。如今, 模型能够把测量、优化、验证的循环压缩到极短的时间, 团队能够探索更多的想法, 能够更快地跟上持续变化的负载。GPT – 5.6更是会自行启动, 并且盯着训练流程, 一旦遇到硬件故障以及训练不稳定的情况, 就会主动介入进行处理。

自优化飞轮已经开始转

GPT – 5.6处于内测阶段时, 每位活跃研究员的日均token输出, 比GPT – 5.5时代最高值的两倍还要多, 过去半年, 用于内部代码推理的研究算力占比增长了100倍, 内部智能体token用量增长了约22倍, 内部专门衡量自我改进能力的RSI Index方面, GPT – 5.6相较于GPT – 5.5高出16.2分, 三档配置全面超越前代, 同等得分可更省钱。OpenAI联合创始人Jack Clark甚至声称, 在2028年年底之前, 当中会出现完整递归自我改进的概率超出60%。

人类还在方向盘上坐着

并无证据显示GPT – 5.6在线变动了自身的主体权重, 亦不存在证据表明它能够脱离工程团队自行升级出下一代模型。模型完成后的生产内核需经过审核方可上线, OpenAI特意搬出FpSan开源工具来检查内核结构及数据流。目标由谁确定、接入哪一套生产系统、使用什么工具验证、怎样部署上线, 这些环节依旧紧紧掌握在工程体系手中。人类时下仅对个位数百分比的方向性决策承担责任, 然而真正的AI自己创造AI自己, 尚处于发展进程之中。

你认为, 那所谓AI自行实现自我优化这种事儿, 距离真实意义上的失控, 究竟还有着怎样一段距离呢? 欢迎于评论区域内, 交流交流你个人具有的看法, 点一下赞, 促使更多之人瞧见这场正在得以发生的效率革命。

相关文章