数据中心 沉浸阅读 · 约 3 分钟
全文 1,013 字

英伟达NVLink Fusion助韩国AI芯片进入机架级系统

核心导读 英伟达、Rebellions与SK电讯合作,采用NVLink Fusion将R200 NPU接入MGX机架,并计划部署于SK电讯AI数据中心,以提升推理效率与自主AI基础设施能力。

英伟达、韩国AI芯片开发商Rebellions与SK电讯正合作开发自主AI基础设施,将本土设计的处理器与英伟达NVLink Fusion互连技术相结合。此次合作将把Rebellions下一代R200神经网络处理单元(NPU)集成到英伟达MGX机架架构中,并计划部署于SK电讯的AI数据中心。

该协议凸显出定制AI加速器在大规模推理系统中与英伟达GPU协同工作的机遇正在增加。对于欧洲半导体开发商和数据中心运营商而言,这为将本土AI芯片与成熟计算基础设施结合、以支持自主AI计划提供了一个潜在范本。

NVLink Fusion连接定制AI芯片

Rebellions计划使用英伟达NVLink Fusion,通过高带宽、低延迟网络连接其R200 NPU,目标是面向前沿AI模型实现高能效推理,包括多万亿参数混合专家架构。

英伟达MGX机架架构将提供标准化系统设计,其原始设计制造商和元器件供应商生态系统也可帮助Rebellions加快开发并降低部署复杂度。

“今天的宣布标志着一个转折点,通过将韩国AI芯片和模型与全球系统技术连接,为自主AI开启了新篇章,”Rebellions联合创始人兼首席执行官Sunghyun Park表示。

各公司还计划探索解耦式推理,在不同处理器架构之间拆分AI工作负载。按照所提出的方案,英伟达GPU将处理计算密集型的预填充阶段,而Rebellions NPU将在解码过程中管理token生成。

这种分工旨在提高推理吞吐量和能效,有望应对AI数据中心运营商面临的两大挑战。

SK电讯瞄准全栈自主AI

SK电讯计划在其AI数据中心基础设施内部署这些系统,将硬件与专有基础模型(包括A.X K2)以及面向公众的AI服务相连接。

该举措支持韩国政府支持的“AI for All”项目,旨在加强本国对AI基础设施、模型和服务的掌控。

通过英伟达MGX统一机架规格、供电和散热,也有望简化GPU与NPU系统在现有数据中心环境中的集成。

政府支持与2028年部署

韩国科学技术信息通信部正在支持此次合作,这是该国加强自主AI能力和半导体产业的更广泛努力的一部分。

该举措可为其他地区提供模式,使其在无需自行开发技术栈所有组件的情况下,获得更高的AI基础设施独立性。

Rebellions预计其基于R200的系统将在2028年具备部署条件,使合作伙伴有时间在商业推广前开发和验证机架级架构。

配图

来源: 海外媒体

相关推荐
评论区

登录后即可参与技术讨论与同行交流

免费注册