国际动态 沉浸阅读 · 约 4 分钟
全文 1,436 字

AMD高管反驳英伟达与Arm:Zen 6并非专为代理式AI设计

核心导读 AMD两位高管表示,代号Venice的Zen 6并非专为代理式AI设计,借此反驳英伟达和Arm将其数据中心CPU称为“代理式”的说法。AMD认为代理式工作负载多样,需要多种CPU。

AMD内部两位重要人士均表示,公司并未专门面向代理式AI设计新一代Zen 6系列(代号Venice),这番表态明显针对英伟达和Arm。这两家公司此前都将其最新数据中心CPU描述为具有“代理式”特性。在分别进行的讲话中,AMD首席Zen架构师迈克·克拉克和公司副总裁马杜·兰加拉詹表示,在Zen 6开发启动时,公司并未预见到代理式AI浪潮。

我们刚刚完成了对AMD Venice CPU的测试,更多细节可在Zen 6基准测试文章中查看。

CPU开发周期以年计算,而围绕CPU的代理式AI热潮大约在今年3月才兴起,因此很难想象有人专门为代理式AI开发芯片,更不用说通用数据中心CPU。尽管如此,英伟达仍称其Vera CPU是为代理式AI“量身打造”,Arm也表示其AGI CPU是“为代理式AI的需求而设计”。

兰加拉詹在一场媒体会上表示:“我们认为EPYC 9006 CPU是代理式时代的最佳CPU。提前剧透一下,我们并不会神奇地在四年前就知道代理式AI会成为趋势,并为此专门打造产品。现实情况是,代理式工作流包含多种任务……要良好执行这些任务,你需要能够借助完整产品组合处理多种工作负载的计算能力。”

在介绍Zen 6微架构时,迈克·克拉克对这一观点表示认同:“我不会误导大家,假装我或我们早知道代理式计算会到来,但我们确实坚信,CPU始终将在AI软件生态系统中占有一席之地……随着代理式AI迅速升温,我们现在能够将相关能力部署到代理式计算负载中。”

随着AMD通过Venice CPU推出下一代微架构,其矛头对准了Arm和英伟达的相关说法。凭借代理式工作负载,这两家公司对AMD在数据中心市场的持续上升构成了最直接的威胁。事实上,英伟达Vera在某些性能维度上确实对代理式工作负载表现强劲,这一点可以在我们的英伟达Vera测试中看到。不过,AMD的观点是,代理式AI与通用工作负载一样,需要多种CPU,这也反驳了英伟达和Arm单一SKU的策略。

我们对两款AMD Venice芯片的测试也支持了这一观点:其中核心密度较高的EPYC 9996拥有256核512线程,可提供峰值吞吐性能;而频率优化的EPYC 9686F在AI主机节点角色上与Vera正面交锋。AMD明年还将推出另外两个系列:Venice-X将通过3D堆叠缓存面向HPC;Verano则配备LPDDR5X内存系统,直接对标Vera,担任AI主机节点。

尽管代理式AI的工作负载特征仍在界定之中,但相比今年年初,我们如今对这些循环如何运作有了更好的理解。与所有复杂话题一样,对于代理式AI而言CPU最重要的是什么,答案仍是那个总令人略感失望的“视情况而定”。

正如我们在代理式AI早期测试流程中所拆解的那样,工作负载特征以及对CPU/内存的需求,取决于智能体正在执行的任务;在数据中心环境中,则取决于多个智能体在沙箱环境下高并发运行时执行的任务。例如,编码智能体通常会比网页浏览智能体调用更多对CPU要求较高的工具,而查询数据库的智能体可能需要较强的内存性能。

当然,有些性能维度无法通过不同SKU来解决(例如上述强内存性能)。然而,代理式工作负载的潜在多样性确实为CPU多样化提供了理由。在最基础的层面上,代理式循环使大语言模型能够理解用户定义的函数,随后向这些函数传递参数并执行它们。也就是说,这类工作负载的覆盖范围,可以像Python和Rust等语言中函数所能定义的内容一样广泛。

配图

来源: 海外媒体

相关推荐
评论区

登录后即可参与技术讨论与同行交流

免费注册