NVIDIA CEO 黄仁勋在戴尔科技全球峰会上表示:“需求正迎来抛物线式增长,完全是抛物线式的”

来源:NVIDIA英伟达 人工智能 63 次阅读
摘要:本周一,黄仁勋与戴尔 CEO Michael Dell 共同登台,发布了 Dell AI Factory with NVIDIA 的最新更新 —— 旨在为自主智能体提供从桌面工作站到数据中心机架的全栈平台。 借助 NVIDIA Vera Rubin 平台,代理式 AI 推理的每 Token 成本降低至原来的十分之一。运行在 NVIDIA Vera 的智能体沙盒,相比于在传统 CPU 上的运行速度

本周一,黄仁勋与戴尔 CEO Michael Dell 共同登台,发布了 Dell AI Factory with NVIDIA 的最新更新 —— 旨在为自主智能体提供从桌面工作站到数据中心机架的全栈平台。

借助 NVIDIA Vera Rubin 平台,代理式 AI 推理的每 Token 成本降低至原来的十分之一。运行在 NVIDIA Vera 的智能体沙盒,相比于在传统 CPU 上的运行速度提高了 50% —— 而采用 Vera CPU 后,企业数据查询速度提升了 3 倍。包括礼来、三星和霍尼韦尔在内的 5,000 家企业,正在使用 Dell AI Factory with NVIDIA 运行 AI 工作负载,将技术愿景转化为大规模生产。

这就是 Michael Dell 在周一上午的戴尔科技全球峰会 (Dell Technologies World) 上描绘的画面。Michael Dell 评估了这一规模:到 2030 年,全球 AI 基础设施支出可能达到 3 至 4 万亿美元,而同一时期 Token 消耗量预计将增长 3400%。

Michael Dell 表示:“一场大规模的 AI 投资热潮已经拉开序幕,生产力热潮也正在开启,包括我们公司在内的一些公司已经开始行动。变化的速度呈抛物线式增长,而且没有放缓的迹象。”

随后,戴尔董事长兼首席执行官邀请 NVIDIA 创始人兼首席执行官黄仁勋登上主题演讲的舞台 —— 并展示了他身后的 NVIDIA 产品组合,从配备 GB10 工作站的台式机 Dell Pro Max 到搭载 NVIDIA Vera Rubin 平台的 Dell PowerRack。

黄仁勋表示:“我们现在已经进入实用 AI 时代,这就是需求正呈抛物线式、甚至是完全抛物线式增长的原因。过去需要几个月的时间才能完成的工作,现在只需要数周时间就能完成;过去需要几周的,现在只需几天;而过去需要几天的,现在只需几个小时。这是生产力的巨大飞跃,但同时也对计算需求提出了极高的要求。”

其传递的信息是:企业级 AI 已从试点阶段发展到代理式 AI 和大规模推理部署阶段。而承载这一未来的平台就是 Dell AI Factory with NVIDIA —— 它能够在企业边界内,安全运行前沿模型和自主智能体。

相关推荐
评论区

登录后即可参与讨论

立即登录