HBM 高带宽内存详解：原理、代际与趋势

AI 算力提升离不开 HBM，其带宽与容量直接决定大模型训练效率。

发布于 2026-09-26 · 华芯购行业知识库

HBM 原理

HBM（高带宽内存）通过 TSV 硅通孔堆叠 DRAM 层，与 GPU 通过 2.5D 封装（中介层）连接，带宽远超传统 GDDR。

HBM2E（每栈 16GB 级）、HBM3（每栈 24GB）、HBM3E（36GB+/8Gbps+），代际推动 AI 训练速度跃升。

AI 训练卡（H100/H200 类）、超级计算机与推理加速；带宽决定大模型参数吞吐。

HBM 供应高度集中（SK 海力士、三星、美光），AI 热潮下产能紧张；建议关注原厂与整机方案。

把型号清单粘贴到下方，客服核对现货、批号与替代方案后回复报价；也可直接电话/微信联系。

HBM 和 GDDR 区别？

HBM 堆叠+中介层实现超宽位宽与带宽，功耗更低；GDDR 是传统独立显存，带宽与能效低于 HBM。

为什么 AI 训练需要 HBM？

大模型参数驻留显存，带宽越高训练吞吐越大，HBM 是 GPU 性能关键。

HBM 采购有什么注意？

供应集中于少数原厂，建议通过整机/模组方案间接采购，关注产能与价格。