HBC架构让内存不再拖后腿

高通此次所拿出的HBC架构, 目的在于将传统HBM内存的瓶颈予以打通, 他们采取分开主芯片与内存堆栈的分离式设计, 二者中间借由标准的2D有机基板来连接，如此做的好处十分显著, 能效比HBM系统提升了好几倍, 有效带宽也成倍地往上涨, 对于从事AI训练以及推理的公司而言, 内存带宽就是命脉所在, 高通的这一举措等同于直接切中了痛点。

装有HBC Gen 1的AI250加速器单卡, 其内存读写速率能达到133TB/s, 此速度相较于标准AI200快出了整整18倍。高通作出承诺, 会在2027年中开启商业化样品测试, 该时间点恰好卡在数据中心升级换代的窗口期。对于正为内存墙问题而苦恼的云服务商而言, HBC架构相当于为他们提供了一条新的出路。

C1000 CPU专为数据中心定制

近年来, 高通推出的首款专为数据中心塑造的CPU, 预计在2028年的时候上市。此款CPU运用多芯片架构, 能够塞进超过250个的Oryon内核, 频率可达到5GHz以上。尤为关键的是, 它支持LP DRAM内存, 并且还能够选配HBC连接, 这表明内存带宽不再是阻碍。对于那些需要处理海量数据的企业级客户而言, 这种设计思路极具务实性。

高通在能效方面的宣传相当大胆, 声称是当下现有竞争产品的两倍有余。其针对不同的工作负载范畴, 推出了包括智能体、通用以及头节点这三种变体。在如今数据中心电费日益高昂的状况下, 能效比已然成为极具价值的关键所在。要是这款CPU能够真正实现落地, 那些每年电费高达上亿额度的超大规模数据中心必然会予以慎重考量。

AI300推理加速器针对分散式部署

它是AI 300 , 作为第三代AI推理平台, 专为分散式推理部署精心设计, 预计在2028年开始送样 ；其所采用的是更先进的HBC Gen 2架构 , 单卡每瓦内存带宽相较于现在的GPU提升了4到8倍的幅度。此数据作用于边缘计算以及分布式推理场景极具意义 , 是由于那些区域常常供电与散热条件受限, 能效比高便意味着能够塞进更多的算力。

AI300在有效内存带宽方面, 达成了AI250的3倍, 经换算可得是AI200的54倍, 此增长幅度着实惊人, 在纵向扩展时它有赖于高通自身互联技术, 横向扩展既支持铜缆又支持光纤, 对于从事AI推理服务的企业而言, 这样灵活的扩展方式可使其按需进行配置, 无需一蹴而就地投入过多资金。

芯片设计服务帮客户省心

高通确切表明, 其拥有从芯片、系统直至软件的端到端协同设计本事, 这不意味着客户无需自行于各处寻觅各异提供商去拼凑解决办法, 高通存有先进的封装技术、模块化架构以及成熟IP, 可助力客户从设计径直推进至量产。对于诸多欲制取定制芯片却无完备设计能力的公司而言, 这等同于找到了一个可靠的合作伙伴。

这种服务模式于数据中心市场愈发被看好, 原因在于大型互联网公司均在开展自研芯片工作。倘若高通能助力它们缩短研发周期、减小风险, 客户势必甘愿付款。并且高通在移动芯片范畴的底蕴久远深厚, 这些知识产权与经验能够直接平移至数据中心情景所处环境, 这对于客户而言亦是增添优势的项目。

互连方案覆盖全场景

数据中心互连属于一桩规模显著可观的大生意, 高通此次推出了一套无一缺失的完整方案, 他们手头具备各类高速互连技术, 借由铜缆与光纤两种不同介质, 能够达成自芯片内部直至园区级别的连接, 可支撑800G以及1.6T的高带宽, 这对于AI集群的训练与推理而言是非常关键重要的, 由于数据量越大, 互连带宽就越发不可以成为限制发展的瓶颈。

高通所具备的互连方案着重突出了轻量级以及低功耗特性, 这对于那些追求极致能效的数据中心而言极具吸引力, 在AI算力集群里, 互连功耗常常能够占据到总功耗比例位于20%至30%之间倘若高通能够在确保带宽的状况下降低功耗, 那么其在这个市场当中便具备很强的竞争力对于正在构建AI基础设施的客户来讲, 互连方案的能效以及成本确实都是必须予以思量的因素。

高通能否撼动现有格局

现阶段, 数据中心市场由几家巨头紧紧把控着, 高通若想闯入其中, 难度很大。然而, 他们所拥有的HBC架构以及CPU产品, 的确具备差异化优势, 特别是在能效与内存带宽这两方面。对于那些追求极致性价比的云服务商而言, 多一种选择终究算是一件好事。高通的Oryon内核在移动端证实了实力, 如今迁移至数据中心, 就瞧它能否经受住大规模的考验。

那个2027年直至2028年的时间节点, 也是蛮有意思的, 恰恰处于AI算力需求呈现爆发式增长的阶段。要是高通能够按时去交付产品, 而且产品性能可以达到所宣传的水平, 那么他们便具备分到一大块蛋糕的可能性嘞。仅是客户最为关注的依旧是实际的落地成效, 仅仅依靠PPT那是远远不足够的。

这个问题你怎么看, 你认为高通所推出的这一套针对数据中心的方案, 有没有这样的能力来对英伟达以及AMD所处市场构成一定的撼动呢? 欢迎各位在评论区域说一下你们自身存在的想法, 顺便点一下赞然后进行分享操作, 以此促成更多的人能够看到这一资讯?