CEVA发布其第二代NeuPro NPU产品线，旨在将AI处理吞吐量提升一倍，并提升从边缘设备到数据中心各类应用的能效。（图：CEVA）
11月2日，CEVA发布了其第二代NeuPro神经处理单元（NPU）产品线。
与第一代相比，第二代产品线每平方毫米AI处理吞吐量最高提升至两倍，同时能效提升50%。
CEVA计划利用这一新产品系列，将业务扩展至AI基础设施，包括AI推理半导体、智能存储器和连接芯片。该产品线目前已向部分客户开放早期体验，全面量产供应计划于2027年第二季度开始。
已有超过15家客户获得第一代NeuPro授权。通过与这些客户合作，CEVA根据目标AI应用确定了计算性能、存储带宽、功耗和成本的相对重要性。因此，新产品线提供多种计算引擎，面向从常开低功耗传感器和边缘设备到数据中心及其他AI基础设施的应用。
该产品线所有产品使用相同的指令集架构（ISA）和通用软件开发工具包（SDK）。这使客户在设计将多个NPU集成到单个片上系统（SoC）中的系统时，能够复用现有软件资产。
下一代NeuPro产品线支持从基础物体识别和分类，到基于Transformer的大语言模型（LLM）、可理解文本、语音和图像的多模态AI、可自主决策并采取行动的代理AI，以及物理AI等多种工作负载。它还支持FP4和FP8浮点格式以及混合精度计算，允许灵活降低AI处理精度以提升效率。
该架构可减少存储使用量以及芯片内部和芯片之间传输的数据量。它增加了分页键值（KV）缓存功能，可随着对话上下文增长以独立块管理内存；还增加了动态张量形状功能，可处理提示词等频繁变化的输入数据格式，而不会造成性能下降或内存浪费。张量重塑还可提升芯片乘累加（MAC）单元的利用率。
对于大型AI模型，该架构支持混合专家（MoE）结构，可选择性激活适合特定查询的专家计算模型；同时支持线性注意力结构，以更高效地分析长序列。
来源: 海外媒体
登录后即可参与技术讨论与同行交流
免费注册