H100 SXM 对比 A100 SXM：规格与租赁成本

在选择 NVIDIA H100 SXM 和 NVIDIA A100 SXM 之前，比较显存、节点配置及固定的周度和月度费用。

决策摘要

H100 SXM 每张卡提供相同数量 VRAM。A100 SXM 每个 30 天期限的成本低 $560 。请根据内存余量还是较低的固定成本是约束条件来选择。

NVIDIA

H100 SXM

训练 · 高吞吐量推理

$1,352/ 30 天

NVIDIA

训练 · 批量推理

$792/ 30 天

工作负载决策 · 更新于 2026-09-04

两款加速卡都提供 80 GB，因此这主要不是内存容量方面的决策。请比较经过 Hopper 优化的软件路径的价值与成熟 Ampere 配置较低的固定成本。

当您的应用具有经过验证的 Hopper 路径时（例如内核有意使用 Transformer Engine 或 FP8，或者性能分析表明内存移动是瓶颈），请选择 H100 SXM。在试点中保持相同的精度目标和软件版本。

当完整工作负载已可容纳于 80 GB 内、CUDA 环境已在 Ampere 上得到验证，且试点尚未证明 Hopper 带来的收益足以覆盖更高的租赁成本时，请选择 A100 SXM。

已发布的加速器规格，并非对 AnchorGPU 基础设施的测量。主机拓扑和实际提供的互联结构必须另行确认。

结论。 以 A100 作为成本较低的 80 GB 基线。当应用级试点显示出明显的 Hopper 优势时，再选择 H100。

目录成本差异：每 7 天 $156，每 30 天 $560。价格读取自与配置器相同的目录。

制造商规格为比较提供参考。建议取决于工作负载；不声称任何 AnchorGPU 性能基准。