英伟达 Vera CPU 既可作为独立数据中心处理器,也可作为英伟达 Vera Rubin NVL72 服务器的主机处理器。由于每核心执行资源大幅高于前代 Grace,其性能表现出色。不过,英伟达在 2026 年超级计算大会(SC26)上承认,现有软件如果不针对该架构进行适配,未必能充分利用 Vera 的资源。
英伟达表示,针对架构的软件优化可使 Vera 在某些计算密集型负载中的性能提升近 39%。但尽管单线程性能非常突出,这款 CPU 并不定位于通用负载。
与采用 Arm 现成 Neoverse V2 CPU 核心的 Grace 不同,Vera 使用英伟达自研 Olympus 核心,专门用于最大化每核心性能并确保高总吞吐量。为此,英伟达为 Olympus 配备了宽前端,包括 10 宽解码器、神经分支预测器、深度乱序执行引擎、6 个向量执行单元、4 条加载流水线和 2 条存储流水线,并以大容量私有缓存和先进预取机制作为支撑。
事实上,英伟达刻意选择配备 88 个高性能通用核心,并支持其自研空间多线程技术(共 176 个线程),而不是最大化每个插槽的核心数量,因为尽可能高的单线程性能是 Vera 的关键设计目标之一。
负责英伟达 Vera CPU 市场营销的 Hannah Coutand 在接受海外媒体采访时表示:“CPU 设计实际上就是取舍的游戏。你可以追求更多核心,但当你真正把芯片面积用于最大化核心数量时,实际上就没有空间去最大化 IPC,也就是每时钟周期指令数。”
尽管英伟达主要将 Vera 定位为面向智能体 AI 及其他 AI 相关负载的 CPU,但该公司最初构思 Olympus 微架构时面向的是数据处理应用。Coutand 表示,事实证明,Vera 的关键属性——高每核心性能、高内存带宽和低内存访问延迟——也正是智能体 AI 负载所需要的。
Coutand 说:“在 Vera 的战略和定位上,我们非常清楚,它不是一款通用 CPU。如果你想为云数据中心配置 Web 服务器,可能有比 Vera 更适合的其他选择。Vera 面向那些需要高每核心速度、高内存带宽和低延迟的负载。只要这些负载看重 Vera 擅长的能力,它就能适配大量工作负载。”
软件优化让优势更进一步
为了评估英伟达定制 Olympus 微架构的计算能力及其相对 Neoverse V2 的优势,英伟达研究人员使用了基于开源线性代数库 OpenBLAS 汇编内核的双精度通用矩阵乘法(DGEMM)负载。OpenBLAS 提供了一颗为英伟达 Grace 处理器所采用 Arm Neoverse V2 核心定制的内核,但缺少专为 Olympus 设计的内核。
为了考察两种微架构的效率,研究人员使用了名为 miniKernelGEMM 的独立基准测试,其 128 × 128 矩阵乘法问题可以放入两款处理器的 L1 缓存。
使用 Neoverse V2 内核时,Grace CPU 实现了 4.51 每时钟周期指令数(IPC)和 13.03 每周期 FP64 运算,而 Vera 使用完全相同的代码执行了 5.43 每时钟周期指令数和 15.69 每周期 FP64 运算,提升约 20%。
然而,当研究人员使用专为 Olympus 优化的内核时,Vera 的性能提升至 7.53 每时钟周期指令数和 21.75 每周期 FP64 运算。因此,在这一特定负载中,Vera 在每核心、每时钟周期基础上比前代产品高出近 67%。
Grace 的 Neoverse V2 微架构拥有 4 条 128 位 SIMD 流水线,每时钟周期总共可执行 16 次 FP64 运算;而英伟达 Olympus 拥有 6 条此类流水线,每周期最多可执行 24 次 FP64 运算,提升 50%。
不过,为 Neoverse V2 优化的内核使用了 Grace 峰值 FP64 吞吐量的 81.4%,但仅利用了 Vera 计算能力约 66.5%。根据英伟达在 SC26 发布的教程,通过更适配 Olympus 微架构的矩阵分块组织、寄存器分配和指令调度改动,研究人员成功利用了其峰值 FP64 吞吐量的 90.6%。
虽然为现有 Arm 数据中心处理器开发和优化的软件即使没有专门优化,仍可受益于英伟达 Olympus 核心的能力,但英伟达在 SC26 的基准测试结果表明,至少部分应用需要针对新微架构进行微调,才能充分利用其执行资源。当然,在矩阵乘法以外的负载中,Olympus 专属优化能带来多少性能提升仍有待观察。
随着英伟达从主要作为数据中心 GPU 配套 CPU 的路线扩展并进军独立服务器 CPU 市场,该公司必须确保性能关键软件能够利用其处理器的架构特性,就像英特尔和 AMD 数十年来所做的那样。
不过,该公司在 CUDA 等平台的合作伙伴和生态建设方面已积累了丰富经验,因此随着 Vera 被更广泛采用,这些经验可能有助于推动这些 CPU 未来的优化。
来源: 海外媒体
登录后即可参与技术讨论与同行交流
免费注册