AI资讯

面壁智能CTO:把大模型塞进手机和玩具,28岁天才的端侧AI之路

智能摘要

如今,在面壁智能,曾国洋带领团队将目光聚焦于“知识密度”。在曾国洋看来,端侧模型不仅要解决功耗、延迟与硬件适配的工程难题,更要具备真正的人格化记忆。曾国洋深信,计算本身就应该同时存在云端与端侧,而连接真实世界与数字世界的那个最贴近用户的“气球外皮”,正是端侧模型将要担负的使命。

别只盯着云端算力军备赛

当一众科技巨头都在不顾一切地堆砌云端算力, 尝试借由增加参数去换取智能提升之际, 面壁智能却选取了另外一条路径。他们并非去追求庞大的服务器集群, 反而专注于致力于把大模型进行压缩, 使得它能够顺畅地运行在手机之中, 能够顺畅地运行在汽车之中, 甚至能够顺畅地运行在普通的毛绒玩具之中。这种逆向思维, 恰恰精准地切中了当下AI发展的痛点之处。

年轻CTO的极客创业史

曾国洋是面壁智能的联合创始人兼CTO, 他才28岁就处在行业前沿了。早在他22岁时, 他就主导训练了中国首个大语言模型CPM-1。那个曾经被打趣叫做“打字机”的简易网页, 让早期的研究者见识到了生成式模型的潜力。在从BERT到GPT的架构发生变化的过程中, 他一直都坚信, 生成式AI才是通向更高智能的正确道路。

面壁智能CTO:把大模型塞进手机和玩具,28岁天才的端侧AI之路

知识密度决定模型上限

面壁智能持有这样的看法, 仅仅只是一味地堆积参数并非是那唯一的前行道路。他们所提出来的名为“模型风洞”的技术, 能够于小规模进行的实验当中, 以高效率去验证预测模型的实际效果。有数据给出显示, 知识的密集程度每过3.5个月就会实现一次翻倍, 相同等级智能所需要的参数规模呈现出指数级别的下降态势。举例来说, 其拥有2B参数的模型在性能方面超越了同一时期的具备8B参数的竞争产品,顺利地占据了端侧这个市场。

端侧AI重在深度理解

处于AI落地进程里, 核心逻辑存在着转变情况, 正从云端算力朝着深度理解方向转变。曾国洋作出了相关指出, 端侧模型需要去解决一些难题, 这些难题包含着功耗方面的、延迟方面的以及硬件适配方面的, 并且还更要拥有人格化记忆。他所构想出来的“默契系统”有着特别之处, 能让AI借助行为模式库, 在用户还没有开口讲话之前, 就对环境进行调整或者对路线作出规划。像这样一种没有给人感觉的智能体验, 才是端侧AI所具有的终极形态。

重构训练流程保质量

为达成上述目标, 团队深度重塑了训练流程, 研发了专用训练框架且构建了五级分层标准。曾国洋着重指出, 数据质量决定模型上限, 算法工程师务必深入数据底层, 确保输入知识准确无误。唯有确保数据纯净, 方可支撑起端侧模型的高效运转与精准回应, 防止常识性错误。

走进生活的真实场景

当下, 处于面壁状态的端侧方案, 已经在吉利以及上汽大众等汽车企业所生产的量产车型里, 被确定作为应用点。伴随芯片跟算力之间的适配达到成熟, 人工智能正从云端聊天室走出来, 融入到日常的数字设备当中。曾国洋有着坚定的信念, 计算应当在云端和端侧同时存在, 而端侧模型恰恰是连接真实世界与数字世界的关键纽带, 且贴近每一位用户。

你认为往后你家中的毛绒玩偶, 真的能够领会你的内心想法吗? 欢迎于评论区域留言去分享你的见解, 可别忘了点个赞给予支持哟!

相关文章