AI圈才刚出现轰动, GPT – 6就快要降临了, 这个有着高达10万亿参数的奇特存在, 使得所有人都中止了呼吸, 屏气凝神。

10万亿参数的GPT-6来了

原本计划近期将发布的GPT-6, 其代号为Astra, 然而却因为安全审查被紧急叫停。据内幕消息称, 它依旧会在8月与用户见面。这个时间点刚好和四年前GPT-4训练完成的日子惊人同步, 好像带有了某种特殊象征意义。

参数规模, 算得上是此次发布之中、最为炸裂的数据了。GPT – 4的参数数量大致约为1.8万亿, 然而GPT – 6却达到了10万亿, 这一数量足足是前者的五倍还要多。这一情况暗示着, 在预训练的阶段, OpenAI投入了前所未有的计算资源。

年底还有更猛的Doug

开胃菜是GPT-6, 重头戏在年底呀 , 被描述是“史诗级巨兽”；的模型叫做Doug号呢 , 它是预训练模型里规模最大的呀 , Doug号让Fable 5显得像原始产物 , 说法更夸张呢。

据说Doug那极其豪华的算力底座, 会采用由英伟达推出的、尚未在全面范围内铺开的下一代Vera, Rubin芯片来开展训练, 因为要先做预训练, 接着进行大量的网络安全测试, 所以能够预计得到, 它将会在最迟11月之前发布出来。

谷歌内部动荡，只剩两家对决

正要AI大战进入到白热化阶段之际, 谷歌里边传出震动。8月5日那天, 做了27年的首席科学家Jeff Dean跟三位核心研究员一起离开去创业。就在同一天, 诺奖获得者哈萨比斯辞去CEO职务, 退到董事长位置。就在当天, 谷歌的股价下降幅度超过4%。

那表明往昔的ASI三巨头, 当下已然仅余两家。谷歌正从前沿实验室转变为人才输出之地。此刻赛道之上只留下OpenAI和Anthropic两家在进行激烈对抗, 竞争态势全然改变。

预训练瓶颈被突破

为何Doug如此关键呢？因其揭示了一个行业所不敢正视的实际情形, 那就是, 自我在2024年5月发布GPT – 4o之后, 已然历经超过两个年头, 却始终未曾达成下一代前沿模型的全规模预训练。

O1, O3, GPT – 5直至GPT – 5.5, 从本质上来说, 皆是在GPT – 4o的基础架构之上, 去开展后续训练、强化 learning以及推理运算的。GPT的“核心动力装置”已然有两年未曾更替。鉴于存有十分严重的预训练方面的局限, 诸如Orion等相关项目, 皆因呈现出来的表现未能够达到预先期望, 进而被贬级的。

Fable的反击战术

面对GPT – 6发出的威胁, Anthropic做好了准备要进行反击。有消息爆料出来, 讲的是, 他们接下来在8月就要发布Fable 5.1的说。其定价方面跟Fable 5保持一样, 直接是要去对标Astra的。这个模型, 采用的是全新的预训练基础, 规模大概是10T这样子, 其上下文有可能会达到1.5M token。

更有意思的是, Anthropic说不定运用了“田忌赛马”的策略术, 之所以Opus 5在发布之际有意进行留力, 原因在于要将Fable 5.1作为伏兵, 等到GPT-6一经亮相, 马上紧跟上去实施截击, 给对手来一个措手不及。

谁将成为大模型之王

8月时节的AI大战呈现出前所未有的那般焦灼态势。OpenAI手中持有两张牌: 一张是8月的Astra, 另一张是年底的Doug。在过去的两年时间里, 他们证实了旧发动机依旧能够再压榨出诸多的马力。然而一旦发动机真正实现换代, 那么这套已然被调整到极限状态的体系, 究竟还能够把车推动到怎样的速度呢。

这个答案, Doug在年底即将揭晓。两家公司都在赌预训练这条核心主线, 两家公司都在赌Laws依旧有效。当算力跟数据真正跟上时, 谁能够率先突破那“预训练之墙”, 谁就能够摘得大模型之王的桂冠。

你觉得从GPT – 6以及Doug发布之后, AI应用将会出现什么样极其具有颠覆性般的改变呢, 欢迎于评论区域分享你所持有的看法, 点赞并进行转发从而让更多的人目睹这场AI层面上的大战。