真的是传统CPU过时了吗, 英伟达推出全新Vera芯片, 它是专门用来解决AI代理运行慢的情况的, 而且还能解决易卡顿这个痛点, 对于这波操作能不能去重塑算力市场?

告别笔记本架构

笔记本时代所产出的芯片, 是英特尔与AMD的, 其设计初衷, 是要配合人类间歇性的操作习惯, 这种架构, 在处理偶尔的请求之际展现不错, 然而, 面对AI代理这类不知疲倦的工作负载状况时, 就明显显得力不从心了。

编写代码以及执行任务, AI代理是需要持续不间断进行的。传统的CPU, 当面对这般高强度的循环运算之际, 常常会出现响应变得迟缓的状况。这如同让一个惯于散步的人去跑马拉松, 其身体结构根本无法予以支持, 效率自然而然就会大幅降低。

突破性能瓶颈

英伟达于博客里毫不隐晦地指明了传统CPU的要命弱点。该弱点体现为执行速度迟缓 , 这会致使强化学习进程里的评估次数降低。这种情况不但拉长了训练所需的时长 ，还增添了单个用户的服务延迟。而对于追求极致效率的AI应用来讲 , 这是根本无法接受的缺陷。

更为糟糕的是, 速度欠缺会引发KV缓存遗失的状况, 缓存遗失意味着先前计算的部分成果或许会白费, 不得不重新进行计算, 这会直接致使算力成本升高, 构成一个越计算越昂贵、越昂贵则越 slowspeeds 的恶性循环，严重阻碍业务推进。

Vera实测提速

为了使僵局得以打破, 英伟达从无从零开始着手设计了Vera芯片, 这款CPU并非GPU的单纯 straightforward延伸, 而是面向AI代理场景依据特定要求专门量身定制的全新架构, 负责基础设施的副总裁Nate Kupp透露, 经过实际测试得出的数据显示, Vera在开展执行AI代理编码任务之际, 速度相较于普通CPU快了大约1.5倍。

这一提升看上去好像没多大, 然而在AI代理高频进行调用的场景当中, 意义是非同寻常的。执行速度变得更快意味着在单位时间之内能够处理更多数量的请求。对于那些需要实现实时响应的智能体而言, 这样1.5倍的差距, 极有可能就是区分用户体验优劣的分水岭, 同时也是判定技术是否领先的关键指标。

核心速度跃升

Vera芯片核心速度实现了提升, 提升幅度为1.8倍, 这属于质的飞跃, 在同样时间窗口里, 它能够完成比例高达85%的评估任务, 这意味着模型能够在更短时间内获得更多反馈, 进而可以更快地进行迭代以及优化。

这种速度所能具备的优势, 直接转变成为训练周期的缩短, 强化学习依靠大量的试错去寻觅最优解, 能拥有更快执行速度而提供了更丰富且更及时反馈信号之时, 生成的训练信号质量会更高, 模型在收敛速度方面会更快, 整体训练效率获得显著提升。

降低算力成本

训练周期被缩短, 直接致使的是算力成本降低。以往得耗费几天几夜方可完成的训练任务, 如今或许几个小时便能完成。这不但节省了电费, 还释放出宝贝珍贵的计算资源, 使得企业能够以更低成本运行更为复杂的AI应用。

使得KV缓存丢失概率降低的更快速度, 进一步稳定了算力支出。对于大规模部署AI代理的企业而言, 这种成本的优化极为关键。它让AI代理从“奢侈品”渐渐转变为“必需品”, 推动了技术的普及以及应用落地。

全栈转型信号

虽英伟达没透露确切的采购数量, 不过却已确认多家顶尖科技公司打算采用Vera芯片, 随着各大实验室纷纷开启自研芯片计划, 英伟达借由Vera展现其全栈算力供应能力, 正从单纯的GPU霸主朝着综合解决方案提供商转变。

正在成为下一代软件核心形态的是AI代理, 为它们专门打造的底层硬件, 会成为新的竞争高地, Vera的出现, 不只是一款新产品的发布, 更是英伟达对算力市场竞争格局重新进行定义的关键一步, 在未来, 能够更好地为AI代理提供服务的一方, 就能掌握主动权。

对于AI代理将全面替代人工辅助工作所需的时长, 你是怎么认为的, 欢迎于评论区留言展开讨论, 要是觉得有作用的话, 请进行点赞分享！