标签专题 · 共 1 篇文章

# SambaNova

关于「SambaNova」的技术文章、设计资料与工程师讨论,持续更新。

1
篇文章
4
人关注
86
次浏览
拆解大模型推理:SambaNova × 英特尔异构计算架构详解

拆解大模型推理:SambaNova × 英特尔异构计算架构详解

SambaNova 与英特尔联合推出了一套大模型异构推理架构蓝图,标志着现代大语言模型(LLM)部署方式的重大转变。该架构不再依赖单一加速芯片,而是将推理的不同阶段分配给专用硬件: GPU 负责预填充(Prefill) SambaNova 可重构数据流处理器(RDU)负责解码(Decode) 英特尔至强 6 CPU 负责智能体工具调用与整体编排 这一设计专门应对智能体 AI 系统