芯片新品 沉浸阅读 · 约 3 分钟
全文 1,274 字

MemryX AI发布MX3+,峰值AI推理算力超1 POPS

核心导读 MemryX AI推出下一代AI加速器MX3+,在保持与MX3相同低功耗水平的同时,提供最高10倍峰值AI算力和近10倍片上内存。16芯片配置可提供超过1 POPS峰值AI算力,面向边缘设备、工业系统和高密度推理基础设施。

下一代加速器在与MX3相同的低功耗水平下,提供最高10倍峰值AI算力和近10倍片上内存。

MemryX AI是一家无晶圆厂半导体公司,致力于开发高效、可扩展的AI推理解决方案。该公司今日发布下一代AI加速器MX3+,旨在支持更大、更复杂的模型,覆盖边缘设备、工业系统和高密度推理基础设施。

基于量产验证的MX3数据流架构,MX3+设计目标是在保持与MX3相同低功耗水平的同时,提供最高10倍峰值AI算力和近10倍片上内存。这些进步将扩大MemryX AI可处理的AI负载范围和复杂性,包括更高分辨率视觉、基于Transformer的模型、小型语言模型、视觉-语言-动作模型(VLA)、混合架构,以及更复杂的多模型AI流水线。

MX3+将保留MX3确立的可扩展多芯片方式,使多个加速器能够作为统一逻辑设备运行。计划中的配置将从单个加速器扩展到16芯片系统,可提供超过每秒一千万亿次操作的峰值AI算力。

“MX3+代表MemryX AI的重要代际跃升——不仅仅是一颗更快的芯片,而是一个平台,旨在让更强大的AI进入真实世界系统,同时显著降低高密度边缘部署的总拥有成本。”MemryX AI总裁兼首席执行官Ross Jatou表示,“客户将能够在嵌入式设备、工业系统和高密度推理基础设施中使用相同的架构基础,从而获得一条无缝、高度可扩展的路径,将复杂负载从开发阶段直接推进到量产。”

面向超过1 POPS的扩展能力

MemryX AI的分布式数据流架构可使多个加速器协同工作,而无需主机处理器管理单个芯片。MemryX神经编译器可自动将神经网络映射到可用加速器上,使开发者无需手动分割模型即可扩展性能。

16芯片MX3+配置旨在提供超过1 POPS的峰值AI算力和2.16 GB分布式片上内存,支持从嵌入式系统到高密度推理基础设施的部署。

面向更先进的AI负载

扩展后的AI能力使MX3+能够应对工业自动化、机器人、智能交通、智能基础设施、视频管理系统、医疗设备、零售和消费电子等领域日益复杂的应用。

基于MemryX AI的近内存数据流架构,MX3+将大幅增加的片上内存与流水线方式相结合,使模型数据保持靠近计算,最大限度减少数据搬运。该架构旨在支持更大模型和更高分辨率输入,同时在批处理大小为1时保持高效、可预测、低延迟的推理。

MX3+还被设计为延续MX3建立的易用性,即使模型复杂性和系统规模不断提升,也能为开发者提供熟悉、直接的AI应用编译与部署体验。

除了性能和内存提升,MX3+也代表MemryX AI长期架构路线图的重要一步。它保留了MX3确立的模块化、可扩展和分布式数据流原则,同时引入将延续至MX4的新能力。MX4是该公司未来面向先进多模态和大语言模型推理的平台。

供货

MX3+工程样片计划于2027年末推出,量产目标为2028年中期。随着研发推进,公司将公布更多产品规格、系统配置和供货信息。

MemryX AI目前正接受部分战略合作伙伴和企业客户的早期访问申请,这些客户希望共同验证预量产硬件和软件平台。

配图

来源: 海外媒体

相关推荐
评论区

登录后即可参与技术讨论与同行交流

免费注册