标签专题 · 共 1 篇文章

# TensorRT Edge-LLM

关于「TensorRT Edge-LLM」的技术文章、设计资料与工程师讨论,持续更新。

1
篇文章
4
人关注
86
次浏览
NVIDIA TensorRT Edge-LLM:高性能边缘端LLM和VLM推理解决方案

NVIDIA TensorRT Edge-LLM:高性能边缘端LLM和VLM推理解决方案

大语言模型(LLM)与多模态推理系统正迅速突破数据中心的局限。越来越多的汽车与机器人领域的开发者希望将对话式 AI 智能体、多模态感知系统和高级规划功能直接部署在端侧,因为