英伟达、韩国AI芯片开发商Rebellions与SK电讯正合作开发自主AI基础设施,将本土设计的处理器与英伟达NVLink Fusion互连技术相结合。此次合作将把Rebellions下一代R200神经网络处理单元(NPU)集成到英伟达MGX机架架构中,并计划部署于SK电讯的AI数据中心。
该协议凸显出定制AI加速器在大规模推理系统中与英伟达GPU协同工作的机遇正在增加。对于欧洲半导体开发商和数据中心运营商而言,这为将本土AI芯片与成熟计算基础设施结合、以支持自主AI计划提供了一个潜在范本。
Rebellions计划使用英伟达NVLink Fusion,通过高带宽、低延迟网络连接其R200 NPU,目标是面向前沿AI模型实现高能效推理,包括多万亿参数混合专家架构。
英伟达MGX机架架构将提供标准化系统设计,其原始设计制造商和元器件供应商生态系统也可帮助Rebellions加快开发并降低部署复杂度。
“今天的宣布标志着一个转折点,通过将韩国AI芯片和模型与全球系统技术连接,为自主AI开启了新篇章,”Rebellions联合创始人兼首席执行官Sunghyun Park表示。
各公司还计划探索解耦式推理,在不同处理器架构之间拆分AI工作负载。按照所提出的方案,英伟达GPU将处理计算密集型的预填充阶段,而Rebellions NPU将在解码过程中管理token生成。
这种分工旨在提高推理吞吐量和能效,有望应对AI数据中心运营商面临的两大挑战。
SK电讯瞄准全栈自主AI
SK电讯计划在其AI数据中心基础设施内部署这些系统,将硬件与专有基础模型(包括A.X K2)以及面向公众的AI服务相连接。
该举措支持韩国政府支持的“AI for All”项目,旨在加强本国对AI基础设施、模型和服务的掌控。
通过英伟达MGX统一机架规格、供电和散热,也有望简化GPU与NPU系统在现有数据中心环境中的集成。
政府支持与2028年部署
韩国科学技术信息通信部正在支持此次合作,这是该国加强自主AI能力和半导体产业的更广泛努力的一部分。
该举措可为其他地区提供模式,使其在无需自行开发技术栈所有组件的情况下,获得更高的AI基础设施独立性。
Rebellions预计其基于R200的系统将在2028年具备部署条件,使合作伙伴有时间在商业推广前开发和验证机架级架构。
来源: 海外媒体
登录后即可参与技术讨论与同行交流
免费注册