H200 SXM
LLM 추론 · AI 모델 미세 조정
$1,832/ 30일
GPU 보기 H200 SXM vs MI300X
NVIDIA H200 SXM와 AMD Instinct MI300X의 메모리, 노드 구성, 고정 주간 및 월간 비용을 비교하세요.
MI300X은(는) 카드당 51GB 더 보기 VRAM을(를) 제공합니다. MI300X은(는) 30일 기간당 $560 더 저렴합니다 . 메모리 여유와 낮은 고정 비용 중 무엇이 제약 조건인지에 따라 선택하세요.
| 사양 | H200 SXM | MI300X |
|---|---|---|
| 아키텍처 | Hopper | CDNA 3 |
| VRAM | 141 GB HBM3e | 192 GB HBM3 |
| 호스트 리소스 / 카드 | 24 vCPU · 192 GB RAM | 28 vCPU · 256 GB RAM |
| 카드당 로컬 NVMe | 3.84 TB | 3.84 TB |
| 7일 가격 / 카드 | $512 | $360 |
| 30일 가격 / 카드 | $1,832 | $1,272 |
| 4-GPU 노드 / 30일 | $6,742 | $4,681 |
| 카탈로그 수량 | 265 카드 | 430 카드 |
워크로드 결정 · 업데이트됨 2026-09-04
H200은 Hopper CUDA 플랫폼에서 141 GB를 제공하며, MI300X는 AMD의 ROCm 플랫폼에서 192 GB를 제공합니다. 메모리가 많으면 모델 배치가 단순해질 수 있고, 이미 검증된 소프트웨어 스택을 유지하면 마이그레이션 작업을 줄일 수 있습니다.
애플리케이션이 CUDA 전용 확장, Hopper 검증 컨테이너 또는 ROCm에서 검증되지 않은 NVIDIA 라이브러리에 의존하는 경우 H200을 선택하세요. 80 GB 카드에 비해 더 큰 메모리 용량은 샤딩 필요성을 줄일 수 있습니다.
192GB 용량으로 다중 GPU 분할을 피할 수 있고 전체 워크로드가 ROCm에서 테스트를 통과했다면 MI300X을 선택하세요. 단순한 PyTorch 가져오기 성공만이 아니라 서빙 또는 학습 백엔드, 사용자 지정 연산, 어텐션 커널, 양자화 형식을 검증하세요.
| 제조업체 사양 | H200 SXM | MI300X |
|---|---|---|
| 아키텍처 | NVIDIA Hopper | AMD CDNA 3 |
| 메모리 | 141 GB HBM3e | 192 GB HBM3 |
| 공개된 메모리 대역폭 | 4.8 TB/s | 5.3 TB/s 피크 이론값 |
| 기본 소프트웨어 스택 | CUDA | ROCm |
| 참조 가속기 패브릭 | HGX 시스템의 NVLink | MI300X 플랫폼의 Infinity Fabric |
공개된 가속기 사양이며 AnchorGPU 인프라의 측정값이 아닙니다. 호스트 토폴로지와 제공된 패브릭은 별도로 확인해야 합니다.
결론. CUDA 의존적 연속성이 필요하다면 H200을 선호하세요. 검증된 ROCm 경로와 더 큰 단일 가속기 메모리가 애플리케이션의 복잡성을 줄여준다면 MI300X을 평가하세요.
카탈로그 비용 차이: 7일당 $152, 30일당 $560. 가격은 구성기와 동일한 카탈로그에서 읽습니다.
제조사 사양이 비교의 기준이 됩니다. 권장 사항은 워크로드에 따라 달라지며 AnchorGPU 성능 벤치마크는 주장하지 않습니다.
NVIDIA H200 사양 ↗AMD MI300X 사양 ↗ROCm에서의 PyTorch ↗