英伟达7月21日推Spectrum-6交换系统,多家公司率先采用
附上相关截图如下:的基础设施,以扩展开发者、初创公司和企业对该平台的访问。基础设施将帮助其提供训练前沿模型和更快部署推理所需的带宽、韧性和效率。
再一次升级的AI算力竞赛, 英伟达最新发布的Vera Rubin平台配套交换系统实实在在令人惊叹。作为这款NVL72架构之下的网络核心, 它提供了高达102.4 Tbps的带宽, 相较于上一代直接提升了两倍的容量。
对于那些追求处于极致状态效率的超大规模数据中心来讲, 这所表示的是训练大模型之时那速度将会极大程度地被缩短, 在7月21日发布的官方公告证实了这一点, 首批采用者已然锁定了行业当中处于头部位置的玩家, , 技术壁垒正处在进一步被加固的进程之中, 且有标点。
天底下科技界的巨擘都分别进入了, 特斯拉也是在内的, 微软、Meta、Alphabet、亚马逊等六家公司呢首先安排依据维拉·鲁宾的基础设施, 这样的集体下狠注是透露出眼下那下一代的AI算力的竞争是切切实实进入了有形有质的硬件持续更新阶段了!
那些巨头期望借助新基建来延伸对开发者以及初创公司的服务支撑, 这不仅是源于自身训练的需求, 更是旨在打造生态闭环, 从而使得外部开发者能够更高效地运用顶级算力资源, 以此强化市场主导地位。
英伟达网络总监Min Jun着重指出, 与液冷技术相配合的NVLink Switch System具有至关重要的地位, 关键在于高带宽以及低延迟乃是训练前沿模型时不可缺少的因素, 并且韧性能够保障长时间在高负载运行形式下的稳定性维持, 效率提升是备受关注的核心突出卖点。
液冷方案被引入, 解决了高密度计算的热管理难题, 这让在有限空间内堆叠更多GPU变成了可能, 进而在不增添额外占地面积的状况下, 达成算力的指数级攀升, 从而回应未来更大参数模型的训练需求。
对着那么激进起来的硬件迭代情形, 你认为那些比较小的科技公司还能够跟得上这一波算力方面涌起的浪潮吗? 盼望着对于此在评论区域留下言探讨一番, 记起来要去点赞分享这篇文章, 给更多的人看到AI底层技术的最新的动态情况哦。