H100 SXM
addestramento · inferenza ad alto throughput
$1,352/ 30 giorni
Visualizza GPU H100 SXM vs H100 PCIe
Confronta memoria, configurazioni del nodo e costo fisso settimanale e mensile prima di scegliere tra NVIDIA H100 SXM e NVIDIA H100 PCIe.
H100 SXM fornisce lo stessoquantità di VRAM per scheda. H100 PCIe costa $160 in meno per periodo di 30 giorni . Scegli in base al fatto che il vincolo determinante sia la disponibilità di memoria o il costo fisso inferiore.
addestramento · inferenza ad alto throughput
Ottimizzazione fine dei modelli di IA · inferenza
| Specifiche | H100 SXM | H100 PCIe |
|---|---|---|
| Architettura | Hopper | Hopper |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| Risorse host / scheda | 24 vCPU · 192 GB RAM | 20 vCPU · 160 GB RAM |
| NVMe locale / scheda | 3.84 TB | 2 TB |
| Prezzo 7 giorni / scheda | $380 | $336 |
| Prezzo per 30 giorni / scheda | $1,352 | $1,192 |
| Nodo 4-GPU / 30 giorni | $4,975 | $4,387 |
| Quantità a catalogo | 690 schede | 510 schede |
Decisione sul carico di lavoro · aggiornata 2026-09-04
Entrambi i modelli utilizzano Hopper e offrono 80 GB, ma il sottosistema di memoria e l'integrazione con l'host differiscono. La domanda utile è se il carico di lavoro richieda una piattaforma multi-GPU connessa o possa essere eseguito su una singola scheda o su repliche indipendenti.
Scegli H100 SXM per un modello sensibile alla comunicazione suddiviso su più GPU, a condizione che l'allocazione esponga effettivamente il fabric HGX previsto. Il lavoro sensibile alla larghezza di banda della memoria è un altro motivo per testare SXM rispetto a PCIe.
Scegli H100 PCIe quando una sola GPU è sufficiente, i worker operano in modo indipendente o una configurazione Hopper a prezzo inferiore soddisfa i requisiti misurati di latenza e throughput. Non dare per scontato che più schede PCIe creino un fabric GPU all-to-all.
| Specifiche del produttore | H100 SXM | H100 PCIe |
|---|---|---|
| Architettura | Hopper | Hopper |
| Memoria | 80 GB HBM3 | 80 GB HBM2e |
| Larghezza di banda di memoria pubblicata | 3.35 TB/s | 2.0 TB/s |
| Fattore di forma | SXM | PCIe Gen5 a doppio slot |
| Connessione al sistema di riferimento | Piattaforme HGX NVLink/NVSwitch | PCIe; bridge opzionale verso un H100 adiacente |
Specifiche pubblicate dell'acceleratore, non una misurazione dell'infrastruttura AnchorGPU. La topologia degli host e il fabric fornito devono essere confermati separatamente.
In conclusione. PCIe è la scelta Hopper a costo inferiore per il lavoro indipendente. SXM è un candidato per carichi strettamente accoppiati solo quando la topologia fornita supporta la strategia prevista.
Differenza di costo da catalogo: $44 per 7 giorni e $160 per 30 giorni. I prezzi sono letti dallo stesso catalogo del configuratore.
Le specifiche del produttore orientano il confronto. I consigli dipendono dal carico di lavoro; non viene dichiarato alcun benchmark prestazionale AnchorGPU.
Specifiche NVIDIA H100 ↗Scheda prodotto NVIDIA H100 PCIe ↗