迈威尔科技与Penguin Solutions宣布战略合作,旨在应对AI数据中心日益严重的内存瓶颈。双方将结合基于CXL的内存扩展与光内存共享技术,提高内存容量、提升加速器利用率,并降低运行AI推理负载的成本。
此次合作尤其受到数据中心运营商和半导体开发商关注,这些客户希望在不更换现有基础设施的情况下突破内存容量和带宽限制。这也凸显出随着智能体AI应用规模扩大,CXL和光互连如何帮助应对不断增长的内存需求。
CXL内存扩展复用DDR4
合作的第一部分聚焦将迈威尔的Structera X内存扩展控制器集成到Penguin Solutions的SMART CXL插卡(AIC)中。
这些插卡采用PCIe 5.0和CXL 2.0连接,可让运营商复用从退役服务器中回收的高密度DDR4模组,在不完全依赖新内存采购的情况下扩展内存容量。
标准AIC外形规格还支持专用CXL内存设备,使回收的DDR4容量能够池化,并分配给多个主机使用。
随着内存密集型推理应用推动每个节点对数百GB甚至TB级内存的需求,这一做法可能具备吸引力。
Yole集团存储业务高级技术与市场分析师Jihoon Han表示:“AI内存需求正在快速增长,而新增内存产能需要时间和大量投资。居高不下的内存价格也在推高AI基础设施扩展成本。”
光互连架构瞄准PB级内存池化
第二项技术将迈威尔的Photonic Fabric光互连与Penguin Solutions的MemoryAI设备和ComputeAI系统相结合。
双方旨在实现跨多个机架的高带宽、低延迟内存共享,构建可扩展至PB级容量的解耦内存池。
此类架构有助于应对大语言模型不断扩展的键值(KV)缓存需求和更长上下文窗口,同时允许内存资源独立于计算能力扩展。
迈威尔Photonic Fabric事业部高级副总裁兼总经理Preet Virk表示:“AI推理要实现规模化,需要以更高的经济效率输出词元。”
双方设想了一条从服务器级CXL扩展到光内存共享的渐进升级路径,以减少对基础设施进行大规模重新设计的需求。
首批产品预计年底推出
集成迈威尔Structera X控制器的Penguin SMART CXL插卡,预计将于2026年底可供认证和企业部署。
集成Photonic Fabric技术的联合开发内存扩展服务器,计划于2027年下半年开始送样。
来源: 海外媒体
登录后即可参与技术讨论与同行交流
免费注册