H100 SXM
训练 · 高吞吐量推理
H100 SXM vs H100 PCIe
在选择 NVIDIA H100 SXM 和 NVIDIA H100 PCIe 之前,比较显存、节点配置及固定的周度和月度费用。
H100 SXM 每张卡提供 相同数量 VRAM。H100 PCIe 每个 30 天期限的成本低 $160 。请根据内存余量还是较低的固定成本是约束条件来选择。
| 规格 | H100 SXM | H100 PCIe |
|---|---|---|
| 架构 | Hopper | Hopper |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| 主机资源/卡 | 24 vCPU · 192 GB 内存 | 20 vCPU · 160 GB 内存 |
| 本地 NVMe / 卡 | 3.84 TB | 2 TB |
| 7 天价格 / 卡 | $380 | $336 |
| 30 天价格 / 卡 | $1,352 | $1,192 |
| 4-GPU 节点 / 30 天 | $4,975 | $4,387 |
| 目录数量 | 690 张显卡 | 510 张显卡 |
工作负载决策 · 更新于 2026-09-04
两种型号都采用 Hopper 架构并提供 80 GB,但内存子系统和主机集成方式不同。关键问题在于您的工作负载是需要互联的多 GPU 平台,还是可以在单卡或独立副本上运行。
对于跨多个 GPU 拆分且对通信敏感的模型,请选择 H100 SXM,前提是分配确实暴露了预期的 HGX 互联结构。对显存带宽敏感的工作是测试 SXM 与 PCIe 的另一个原因。
当单个 GPU 足够、工作节点独立运行,或价格较低的 Hopper 配置能满足实测的延迟和吞吐量要求时,请选择 H100 PCIe。不要假设多张 PCIe 卡能构成全互联 GPU 结构。
| 制造商规格 | H100 SXM | H100 PCIe |
|---|---|---|
| 架构 | Hopper | Hopper |
| 显存 | 80 GB HBM3 | 80 GB HBM2e |
| 公布的内存带宽 | 3.35 TB/s | 2.0 TB/s |
| 外形规格 | SXM | 双插槽 PCIe Gen5 |
| 参考系统连接 | HGX NVLink/NVSwitch 平台 | PCIe;可选桥接到相邻的 H100 |
已发布的加速器规格,并非对 AnchorGPU 基础设施的测量。主机拓扑和实际提供的互联结构必须另行确认。
结论。 PCIe 是独立工作中成本较低的 Hopper 选择。仅当交付的拓扑支持预期策略时,SXM 才是紧密耦合工作负载的候选方案。
目录成本差异:每 7 天 $44,每 30 天 $160。价格读取自与配置器相同的目录。
制造商规格为比较提供参考。建议取决于工作负载;不声称任何 AnchorGPU 性能基准。
NVIDIA H100 规格 ↗NVIDIA H100 PCIe 产品简介 ↗