H100 SXM
训练 · 高吞吐量推理
$1,352/ 30 天
查看 GPU H100 SXM vs A40
在选择 NVIDIA H100 SXM 和 NVIDIA A40 之前，比较显存、节点配置及固定的周度和月度费用。
H100 SXM 每张卡提供 32多 GB VRAM。A40 每个 30 天期限的成本低 $1,160 。请根据内存余量还是较低的固定成本是约束条件来选择。
| 规格 | H100 SXM | A40 |
|---|---|---|
| 架构 | Hopper | Ampere |
| VRAM | 80 GB HBM3 | 48 GB GDDR6 ECC |
| 主机资源/卡 | 24 vCPU · 192 GB 内存 | 12 vCPU · 96 GB 内存 |
| 本地 NVMe / 卡 | 3.84 TB | 1 TB |
| 7 天价格 / 卡 | $380 | $54 |
| 30 天价格 / 卡 | $1,352 | $192 |
| 4-GPU 节点 / 30 天 | $4,975 | $707 |
| 目录数量 | 690 张显卡 | 265 张显卡 |