IT之家·人工智能·· 12 天前AI 评分30
消息称 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM，放弃大 SRAM 方案
消息 NVIDIA 下代 Groq LPU 芯片转向 3D 堆叠 DRAM，放弃大 SRAM 方案
文章要点
- 1韩媒 ZDNET Korea 报道称，NVIDIA 下代 Groq LPU 推理加速芯片有望改用基于 TSV 工艺的 3D 堆叠 DRAM
- 2现款 Groq LPU 以大容量 SRAM 缓存换取快速解码输出，但 SRAM 容量较小、制程升级密度收益有限
- 3报道认为大 SRAM 设计在大型模型表现和芯片迭代上存在固有局限
- 4同样采用大 SRAM 路线的 Cerebras 已预告未来 CS-6 将 3D 垂直集成 DRAM
决策要点
大 SRAM 换推理速度的技术路线显现容量瓶颈，芯片厂商的下一代方案正向 3D 堆叠 DRAM 收敛。
- 影响：现款大 SRAM 推理芯片在大模型场景的能力上限被点名为固有短板，依赖此类芯片的推理算力规划需要重新评估；两家厂商同向 3D 堆叠 DRAM 演进，未来推理算力的性能与成本结构可能随之调整。
- 参考：可在推理算力采购或续约前，把大 SRAM 架构在大模型上的容量局限列入评估清单；值得先跟踪 3D 堆叠 DRAM 芯片的量产节奏，再决定是否签长周期合同。
- 依据：核心信息为韩媒 ZDNET Korea 报道、IT之家转述，属供应链消息且未见官方确认；Cerebras CS-6 预告为该公司公开信息。
正文
IT之家 10 月 21 日消息，韩媒 ZDNET Korea 当地时间昨日报道称，NVIDIA（英伟达）的下代 Groq LPU AI 推理加速器芯片有望采用基于 TSV（硅通孔）工艺的 3D 堆叠 DRAM 方案。
当前一代的 Groq LPU 采用了大容量 SRAM 的缓存设计，提供快速解码输出。但 SRAM 有着容量较小、制程升级密度收益有限的问题，在大型模型表现和芯片迭代上存在固有局限。
IT之家注意到，同样采用大 SRAM 技术路线的 Cerebras 此前已预告未来的 CS-6 将 3D 垂直集成 DRAM。
相关阅读：
来源：IT之家·人工智能 · ithome.com