H100 SXM
训练 · 高吞吐量推理
$1,352/ 30 天
查看 GPU H100 SXM vs RTX 4090
在选择 NVIDIA H100 SXM 和 NVIDIA RTX 4090 之前，比较显存、节点配置及固定的周度和月度费用。
H100 SXM 每张卡提供 56多 GB VRAM。RTX 4090 每个 30 天期限的成本低 $1,040 。请根据内存余量还是较低的固定成本是约束条件来选择。
| 规格 | H100 SXM | RTX 4090 |
|---|---|---|
| 架构 | Hopper | Ada |
| VRAM | 80 GB HBM3 | 24 GB GDDR6X |
| 主机资源/卡 | 24 vCPU · 192 GB 内存 | 16 vCPU · 128 GB 内存 |
| 本地 NVMe / 卡 | 3.84 TB | 2 TB |
| 7 天价格 / 卡 | $380 | $88 |
| 30 天价格 / 卡 | $1,352 | $312 |
| 4-GPU 节点 / 30 天 | $4,975 | $1,148 |
| 目录数量 | 690 张显卡 | 590 张显卡 |