AGAnchorGPU

MI300X vs A100 SXM

MI300X 对比 A100 SXM:规格与租赁成本

在选择 AMD Instinct MI300X 和 NVIDIA A100 SXM 之前,比较显存、节点配置及固定的周度和月度费用。

决策摘要

MI300X 每张卡提供 112多 GB VRAM。A100 SXM 每个 30 天期限的成本低 $480 。请根据内存余量还是较低的固定成本是约束条件来选择。

AMD

MI300X

大型模型 · ROCm 工作负载

$1,272/ 30 天
查看 GPU
VS
NVIDIA

A100 SXM

训练 · 批量推理

$792/ 30 天
查看 GPU
规格MI300XA100 SXM
架构CDNA 3Ampere
VRAM192 GB HBM380 GB HBM2e
主机资源/卡28 vCPU · 256 GB 内存20 vCPU · 160 GB 内存
本地 NVMe / 卡3.84 TB2 TB
7 天价格 / 卡$360$224
30 天价格 / 卡$1,272$792
4-GPU 节点 / 30 天$4,681$2,915
目录数量430 张显卡780 张显卡