H100 SXM
entraînement · inférence à haut débit
H100 SXM vs H100 PCIe
Comparez la mémoire, les configurations de nœuds et les coûts fixes hebdomadaires et mensuels avant de choisir entre NVIDIA H100 SXM et NVIDIA H100 PCIe.
H100 SXM fournit le mêmequantité de VRAM par carte. H100 PCIe coûte $160 de moins par période de 30 jours . Choisissez selon que la marge de mémoire ou le coût fixe inférieur constitue la contrainte déterminante.
entraînement · inférence à haut débit
Ajustement fin de modèles d’IA · inférence
| Spécification | H100 SXM | H100 PCIe |
|---|---|---|
| Architecture | Hopper | Hopper |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| Ressources hôte / carte | 24 vCPU · 192 GB RAM | 20 vCPU · 160 GB RAM |
| NVMe local / carte | 3.84 TB | 2 TB |
| Prix sur 7 jours / carte | $380 | $336 |
| Prix 30 jours / carte | $1,352 | $1,192 |
| Nœud 4 GPU / 30 jours | $4,975 | $4,387 |
| Quantité au catalogue | 690 cartes | 510 cartes |
Décision relative à la charge de travail · mise à jour 2026-09-04
Les deux modèles utilisent Hopper et offrent 80 GB, mais le sous-système mémoire et l'intégration hôte diffèrent. La question utile est de savoir si votre charge de travail nécessite une plateforme multi-GPU connectée ou peut s'exécuter sur une seule carte ou des répliques indépendantes.
Choisissez H100 SXM pour un modèle sensible à la communication réparti sur plusieurs GPU, à condition que l'allocation expose réellement le tissu HGX attendu. Le travail sensible à la bande passante mémoire est une autre raison de tester SXM par rapport à PCIe.
Choisissez H100 PCIe lorsqu'un seul GPU suffit, que les workers fonctionnent de manière indépendante ou qu'une configuration Hopper moins coûteuse répond aux exigences mesurées de latence et de débit. Ne supposez pas que plusieurs cartes PCIe créent un tissu GPU all-to-all.
| Spécification du fabricant | H100 SXM | H100 PCIe |
|---|---|---|
| Architecture | Hopper | Hopper |
| Mémoire | 80 GB HBM3 | 80 GB HBM2e |
| Bande passante mémoire publiée | 3.35 TB/s | 2.0 TB/s |
| Format | SXM | PCIe Gen5 double emplacement |
| Connexion au système de référence | Plateformes HGX NVLink/NVSwitch | PCIe ; pont optionnel vers un H100 adjacent |
Spécifications publiées de l'accélérateur, pas une mesure de l'infrastructure AnchorGPU. La topologie de l'hôte et le tissu livré doivent être confirmés séparément.
En résumé. PCIe est le choix Hopper le plus économique pour le travail indépendant. SXM n'est envisageable pour des charges étroitement couplées que si la topologie livrée soutient la stratégie prévue.
Différence de coût du catalogue : $44 par 7 jours et $160 par 30 jours. Les prix sont lus dans le même catalogue que le configurateur.
Les spécifications du fabricant éclairent la comparaison. Les recommandations dépendent de la charge de travail ; aucun benchmark de performance AnchorGPU n'est revendiqué.
Spécifications du NVIDIA H100 ↗Fiche produit NVIDIA H100 PCIe ↗