H100 SXM
학습 · 고처리량 추론
H100 SXM vs A100 SXM
NVIDIA H100 SXM와 NVIDIA A100 SXM의 메모리, 노드 구성, 고정 주간 및 월간 비용을 비교하세요.
H100 SXM은(는) 카드당 동일수량 VRAM을(를) 제공합니다. A100 SXM은(는) 30일 기간당 $560 더 저렴합니다 . 메모리 여유와 낮은 고정 비용 중 무엇이 제약 조건인지에 따라 선택하세요.
| 사양 | H100 SXM | A100 SXM |
|---|---|---|
| 아키텍처 | Hopper | 암페어 |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| 호스트 리소스 / 카드 | 24 vCPU · 192 GB RAM | 20 vCPU · 160 GB RAM |
| 카드당 로컬 NVMe | 3.84 TB | 2 TB |
| 7일 가격 / 카드 | $380 | $224 |
| 30일 가격 / 카드 | $1,352 | $792 |
| 4-GPU 노드 / 30일 | $4,975 | $2,915 |
| 카탈로그 수량 | 690 카드 | 780 카드 |
워크로드 결정 · 업데이트됨 2026-09-04
두 가속기 모두 80 GB을 제공하므로 이는 주로 메모리 용량 결정이 아닙니다. Hopper 최적화 소프트웨어 경로의 가치와 기존 Ampere 구성의 낮은 고정 비용을 비교하세요.
애플리케이션에 Transformer Engine 또는 FP8을 의도적으로 사용하는 커널과 같이 검증된 Hopper 경로가 있거나, 프로파일링에서 메모리 이동이 병목으로 확인된 경우 H100 SXM을 선택하십시오. 파일럿에서 정확도 목표와 소프트웨어 버전을 동일하게 유지하십시오.
전체 워크로드가 이미 80 GB에 맞고, CUDA 환경이 Ampere에서 검증되었으며, 파일럿에서 Hopper가 더 높은 임대 비용을 감당할 만한 이점을 입증하지 못한 경우 A100 SXM을(를) 선택하십시오.
| 제조업체 사양 | H100 SXM | A100 SXM |
|---|---|---|
| 아키텍처 | Hopper | 암페어 |
| 메모리 | 80 GB HBM3 | 80 GB HBM2e |
| 공개된 메모리 대역폭 | 3.35 TB/s | 2,039 GB/s |
| 공개된 SXM NVLink 대역폭 | 900 GB/s | 600 GB/s |
공개된 가속기 사양이며 AnchorGPU 인프라의 측정값이 아닙니다. 호스트 토폴로지와 제공된 패브릭은 별도로 확인해야 합니다.
결론. 저비용 80 GB 기준선으로 A100부터 시작하세요. 애플리케이션 수준 파일럿에서 유용한 Hopper 이점이 확인되면 H100을 선택하세요.
카탈로그 비용 차이: 7일당 $156, 30일당 $560. 가격은 구성기와 동일한 카탈로그에서 읽습니다.
제조사 사양이 비교의 기준이 됩니다. 권장 사항은 워크로드에 따라 달라지며 AnchorGPU 성능 벤치마크는 주장하지 않습니다.
NVIDIA H100 사양 ↗NVIDIA A100 사양 ↗