贸泽开售恩智浦Ara240独立神经处理单元,算力达40 eTOPS

芯片新品 61 次阅读

贸泽电子即日起开售恩智浦的全新Ara240独立神经处理单元 (DNPU)。Ara240 DNPU可支持实时生成式AI、工业自动化系统、自主机器人、智能基础设施、机器界面 (HMI) 平台或边缘应用。

恩智浦Ara240独立神经处理单元芯片实物图

Ara240 DNPU结合了均衡的计算能力和高片外带宽,可执行大型语言模型 (LLM) 和视觉语言模型 (VLM),并具备低延迟、低运营成本以及增强数据隐私等特性。Ara240架构支持多模态和基于Transformer的工作负载,可实现高达40 eTOPS(等效每秒万亿次运算)的算力,并支持高达16GB的LPDDR4内存。此功能支持在边缘设备上直接运行大型复杂模型,而无需依赖云端计算资源。

凭借集成的安全启动和硬件信任根处理器,Ara240 DNPU为工业、企业和嵌入式部署环境提供了强化安全。其PCIe Gen4和USB 3.2主机接口可集成到边缘计算平台、PC/笔记本电脑和AI嵌入式系统中。

Ara240 DNPU配套Ara SDK,可加速AI应用开发,并简化各类AI工作负载在Ara240 DNPU及其模块上的部署。

Ara SDK具有可扩展的AI编译器,可支持多种模型架构,包括卷积神经网络 (CNN)、全连接神经网络、视觉Transformer(ViT)以及LLM和VLM。该SDK提供数据流优化、量化方法以及对多种数据类型的支持,以确保边缘AI应用实现高性能与低延迟。

此外,贸泽还提供ARA2-M2-16G-GT,这是一款基于Ara240 DNPU的AI加速器模块。此模块采用M.2 M-Key设计规范,在x4配置下最多支持四条PCI Express 4.0通道。其采用NGFF 2280外形尺寸设计,可作为具有M.2 M-Key PCI Express功能的FRDM i.MX 95和FRDM i.MX95 Pro开发板的辅助处理单元使用。

文章来源: 贸泽电子
相关推荐
评论区

登录后即可参与讨论

立即登录