AGAnchorGPU

MI300X vs L40S

MI300X 对比 L40S:规格与租赁成本

在选择 AMD Instinct MI300X 和 NVIDIA L40S 之前,比较显存、节点配置及固定的周度和月度费用。

决策摘要

MI300X 每张卡提供 144多 GB VRAM。L40S 每个 30 天期限的成本低 $856 。请根据内存余量还是较低的固定成本是约束条件来选择。

AMD

MI300X

大型模型 · ROCm 工作负载

$1,272/ 30 天
查看 GPU
VS
规格MI300XL40S
架构CDNA 3Ada
VRAM192 GB HBM348 GB GDDR6 ECC
主机资源/卡28 vCPU · 256 GB 内存16 vCPU · 128 GB 内存
本地 NVMe / 卡3.84 TB2 TB
7 天价格 / 卡$360$118
30 天价格 / 卡$1,272$416
4-GPU 节点 / 30 天$4,681$1,531
目录数量430 张显卡430 张显卡