H100 SXM — 814mm², 132 个 SM, 80GB HBM3, 3.35 TB/s 带宽 — 点击任意组件查看详细说明
HBM3
20GB
HBM3
20GB
HBM3
20GB
Memory Controller × 6 — 连接 HBM ↔ L2 — 总 BW: 3.35 TB/s
L2 Cache — 50MB — 所有 SM 共享 — 带宽 ~12 TB/s
Crossbar / NoC (片上网络) — SM ↔ L2 ↔ Memory Controller 互联
NVLink 4.0 × 18 — 总 900 GB/s — 连接其他 GPU (Tensor Parallelism)
HBM3
20GB
HBM3
10GB
点击上图任意组件查看详细说明