AGAnchorGPU

H100 SXM vs H100 PCIe

H100 SXM 对比 H100 PCIe:规格与租赁成本

在选择 NVIDIA H100 SXM 和 NVIDIA H100 PCIe 之前,比较显存、节点配置及固定的周度和月度费用。

决策摘要

H100 SXM 每张卡提供 相同数量 VRAM。H100 PCIe 每个 30 天期限的成本低 $160 。请根据内存余量还是较低的固定成本是约束条件来选择。

NVIDIA

H100 SXM

训练 · 高吞吐量推理

$1,352/ 30 天
查看 GPU
VS
NVIDIA

H100 PCIe

AI 模型微调 · 推理

$1,192/ 30 天
查看 GPU
规格H100 SXMH100 PCIe
架构HopperHopper
VRAM80 GB HBM380 GB HBM2e
主机资源/卡24 vCPU · 192 GB 内存20 vCPU · 160 GB 内存
本地 NVMe / 卡3.84 TB2 TB
7 天价格 / 卡$380$336
30 天价格 / 卡$1,352$1,192
4-GPU 节点 / 30 天$4,975$4,387
目录数量690 张显卡510 张显卡

工作负载决策 · 更新于 2026-09-04

H100 SXM 与 H100 PCIe:相同容量,不同系统设计

两种型号都采用 Hopper 架构并提供 80 GB,但内存子系统和主机集成方式不同。关键问题在于您的工作负载是需要互联的多 GPU 平台,还是可以在单卡或独立副本上运行。

01

何时选择 H100 SXM

对于跨多个 GPU 拆分且对通信敏感的模型,请选择 H100 SXM,前提是分配确实暴露了预期的 HGX 互联结构。对显存带宽敏感的工作是测试 SXM 与 PCIe 的另一个原因。

02

何时选择 H100 PCIe

当单个 GPU 足够、工作节点独立运行,或价格较低的 Hopper 配置能满足实测的延迟和吞吐量要求时,请选择 H100 PCIe。不要假设多张 PCIe 卡能构成全互联 GPU 结构。

制造商规格H100 SXMH100 PCIe
架构HopperHopper
显存80 GB HBM380 GB HBM2e
公布的内存带宽3.35 TB/s2.0 TB/s
外形规格SXM双插槽 PCIe Gen5
参考系统连接HGX NVLink/NVSwitch 平台PCIe;可选桥接到相邻的 H100

已发布的加速器规格,并非对 AnchorGPU 基础设施的测量。主机拓扑和实际提供的互联结构必须另行确认。

试点中需要验证的内容

  • 确认所请求的 GPU 是否共享同一 CPU 和 NUMA 域。
  • 询问哪些配对具有 NVLink,以及机器是否包含 NVSwitch、双卡桥接或仅 PCIe 通信。
  • 根据您的通信模式验证 GPU、网络适配器和本地存储的布局。
  • 将驱动程序、CUDA、框架和集合通信库版本作为一个环境进行检查。

结论。 PCIe 是独立工作中成本较低的 Hopper 选择。仅当交付的拓扑支持预期策略时,SXM 才是紧密耦合工作负载的候选方案。

目录成本差异:每 7 天 $44,每 30 天 $160。价格读取自与配置器相同的目录。

来源与方法

制造商规格为比较提供参考。建议取决于工作负载;不声称任何 AnchorGPU 性能基准。

NVIDIA H100 规格NVIDIA H100 PCIe 产品简介