HBM vs Standard DRAM Bandwidth
内存带宽：HBM vs 标准DRAM
为什么AI推理瓶颈是内存问题，而不是计算问题
峰值带宽（每模块GB/s）
DDR5
~80
标准笔记本/台式机 — 基准参考
LPDDR5X
~120
移动/边缘AI设备
HBM3
~1,200 GB/s
H100 GPU — 当前数据中心标准
HBM4
~2,000+ GB/s
下一代AI加速器 — SK hynix / 三星目标
堆叠架构比较
DDR5 / LPDDR5
单芯片，平面布局。数据横向通过PCB总线传输。信号路径长=延迟。总线宽度：64–128位。
HBM3 / HBM4
8–16个DRAM芯片垂直堆叠。硅通孔（TSVs）连接每一层。总线宽度：
1,024位
。直接放置在逻辑芯片旁边的中介层上。
16×
HBM4在同等功耗下比DDR5的带宽优势
<50%
当内存带宽是瓶颈时，GPU利用率 — 浪费的计算支出
5–8
每个H100加速卡上的HBM3堆叠 — 需求随AI集群规模而扩展
来源：IEEE固态电路杂志；SEMI HBM技术路线图2026；SK hynix HBM4产品简介（初步规格）。