神秘实验室的惊天爆料

近来, AI圈子里引发了轩然大波, 圈子内部的大佬们不停地疯狂暗示, 有一个名为SSI的新实验室筹备着要发布具有重磅影响力的模型。著名的投资人直接表明态度并坦言称, 这极有可能成为今年极具震撼效果的崭新突破性成果, 并且其主角并非像谷歌、微软这样的大型企业, 而是一家独立自主的机构。

更加夸张的是, 有观察者直接表明, 要是消息是真实的, 这就意味着Ilya真的缔造了超级智能, 游戏的规则已然被完全改写, 整个行业的视线刹那间都聚合到这个神秘的实验室之上。

资本疯狂涌入的背后

今年7月27日, 英伟达陡然宣布, 和这家毫无收入且无产品的神秘公司达成长期战略合作，这笔投资多达5G美元, 更为关键的要点在于, 开放了下一代Vera Rubin系统的独家接入权限。

在新闻稿里, 极为少见地提及, 他们是在达成了对「极为珍稀」的研究成果的访问权之获取后, 才做出了以高额资金去押注的决定。这样的一长串动作传达出, 顶级的资本已然察觉到了某种具有颠覆性的技术之光。

传统AI的致命局限

当前的AI模型, 不管其规模有多么庞大, 从本质上来说, 都是将知识固定于参数之中, 为了能够应对新出现的信息, 各大厂商不顾一切地比拼上下文窗口, 从十万层级一路攀升至百万级别, 这情形犹如进行开卷考试, 模型自身并未变得更为聪慧, 仅仅是所携带的小抄变得越来越厚罢了。

就算是着重于推理能力的模型, 也仅仅是在草稿纸上耗费更多时间去思索, 神经网络当中的连接依旧是静止不动的。这样的架构使得它们始终都没办法真正去适应新环境。

测试时训练的革命性突破

并非与SSI曝光的新架构一样, 当模型对文档进行阅读之际, 并非将内容填进上下文, 而是切实开始学习, 进而产生梯度更新, 致使自身大脑结构有所改变, 经过阅读行为结束之后, 已然演变成全新的进化版本。

这表明模型不再依靠海量上下文窗口, 并且也无需预训练时的算力垄断。一个小且精的模型能够在岗位方面不断进行适应进化, 完全有足够能力去吊打那些堆砌算力却不懂灵活变通的庞然大物。

Ilya的十年布局

往过去两年回顾一番, SSI呈现出零产品且零论文的状况, 曾有一度致使人们去猜想, 他们是不是陷入到困境之中了。然而, 若把时间先后顺序连贯起来瞧一瞧, 你便会发觉, Ilya一直在谋划着一局很大的棋。早在去年的时候, 他就清晰地表明, 预训练的时代马上就要终结了。

在他看来, 真正称得上超级智能的并非那种从出厂就已然背下全网数据的机器, 而是一个能够借助持续学习进而掌握技能的智能体。人类自身原本就不是在出厂时就具备全能的状态, 而是依靠不断去尝试犯错, 再从中有所学习, 如此这般, 才是正确的研究趋向所在。

颠覆行业的真正武器

合著论文的SSI投资人指出, 长上下文压根就不是架构方面的问题, 而是连续学习那般的问题, 研究方向是一致的, 资本亲自下场联名撰写了论文, 所有线索都指向相统一的那个事实。

倘使SSI的首个模型切实拥有实时更新权重的本事, 数据中心算力的护城河、Token计费方式都将会遭遇降维打击。AI的竞赛远远没有结束, 真正的技术跨越依旧源自敢于突破常识的头脑。

你认为那种能够在使用过程当中不断进行进化的人工智能, 会致使普通民众的工作机遇面临增多还是减少的情况呢?