Cerebras公司于8月18日宣称推出新一代芯片WSE – 3 Turbo以及CS – 4系统, 其性能跟之前的产品相比较而达成了大幅提高情形。这一条消息赶紧在AI圈以内引发了关注, 毕竟30倍的推理极速差距究竟意味着什么样的情况呢?

新品发布基本信息

Cerebras是一家高新技术企业, 这家企业专注于那种晶圆级AI推理加速器, 其总部处于美国。近日, 该公司正式推出了其最新一代芯片产品WSE-3 Turbo, 还推出了基于该芯片构建的CS-4系统。

相较于上一代CS – 3系统, CS – 4具有的效果是, 带来了词元容量大了10倍的情况, 以及速度提升了2 倍这一状况。对于需要处理海量数据的AI应用来讲, 这意味着, 更大的模型成为可以实现的情形, 并且更快的响应速度也成为可能之事。

芯片核心参数

WSE – 3 Turbo芯片, 集成了数量达90万个的核心, 还拥有44GB的SRAM片上缓存, 这并非独属于它的特别配置，而是和其前代产品一样的情况。

且关键性能指标的每一项均达成了翻倍的情况, 其中涵盖了FP16稀疏AI算力, 内存带宽, 片上互联带宽, 还有I/O带宽, 各个参数都全面迎来了升级。

系统配置优势

在 CS – 4 系统当中, 运用的是不一样的集成方式, 能够在同一时间容纳 3 块 WSE – 3 Turbo 芯片。

这般多芯片结构极大地提高了算力密度, 致使单个系统可以肩负更繁重的计算任务, 于同等空间之中给予更强的处理性能。

实测性能数据

于GPT – OSS模型测试里, CS – 4的词元交付速度达4465 Token/s, 此一数字远远超过GPU方案的平均水准。

针对于超高参数规模的那种模型, CS – 4依凭其2微秒低延迟的晶圆间互连技术, 在万卡规模的情形下, 能够达成超过1000 Token/s的持续输出。

灵活的推理架构

CS – 4系统, 原生支持, 具备推理负载拆分功能, 该功能是一种设计特点, 且此具备该功能的设计特点相当实用。

它能够单独当作解码单元, 跟异构的预填充硬件一块运用, 进而完整展现出双方架构里的差异化优势。

机架平台改进

CS – 4是基于全新的Nexus机架式平台构建而成的, 其计算系统经过了重新设计, 电源系统也经过了重新设计, 互连系统同样经过了重新设计。

由全新设计而成的独立系统，致使整体组件数量降低了50%, 让制造自动化比例得到大幅提升, 与此同时, 差不多将板级供电功率损耗完全消除了。

这一改进使得WSE-3 Turbo可以获取双倍的电力供应, 进而为性能施展提供了更为坚实稳固的基础。

你认为这般大幅度提升推理速度的新的技术, 会怎样去影响 AI 应用的普及以及推进和拓展呢? 欢迎遗留话语展开讨论, 点选对号分享出去以使更多的人能够看到！