H100 SXM
Training · Inferenz mit hohem Durchsatz
$1,352/ 30 Tage
GPU anzeigen H100 SXM vs H100 PCIe
Vergleichen Sie Speicher, Knotenkonfigurationen und feste Wochen- und Monatskosten, bevor Sie zwischen NVIDIA H100 SXM und NVIDIA H100 PCIe wählen.
H100 SXM bietet dasselbeMenge an VRAM pro Karte. H100 PCIe kostet $160 weniger pro 30-Tages-Laufzeit . Wählen Sie danach, ob Speicherreserve oder niedrigere Fixkosten die bindende Einschränkung ist.
Training · Inferenz mit hohem Durchsatz
Feinabstimmung von KI-Modellen · Inferenz
| Spezifikation | H100 SXM | H100 PCIe |
|---|---|---|
| Architektur | Hopper | Hopper |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| Host-Ressourcen / Karte | 24 vCPU · 192 GB RAM | 20 vCPU · 160 GB RAM |
| Lokaler NVMe / Karte | 3.84 TB | 2 TB |
| 7-Tages-Preis / Karte | $380 | $336 |
| 30-Tages-Preis / Karte | $1,352 | $1,192 |
| 4-GPU-Knoten / 30 Tage | $4,975 | $4,387 |
| Katalogmenge | 690 Karten | 510 Karten |
Workload-Entscheidung · aktualisiert 2026-09-04
Beide Modelle nutzen Hopper und bieten 80 GB, aber das Speichersubsystem und die Host-Integration unterscheiden sich. Die entscheidende Frage ist, ob Ihre Workload eine verbundene Multi-GPU-Plattform benötigt oder auf einer Karte bzw. unabhängigen Replikaten laufen kann.
Wählen Sie H100 SXM für ein kommunikationssensibles Modell, das auf mehrere GPUs verteilt ist, sofern die Zuweisung tatsächlich das erwartete HGX-Fabric bereitstellt. Speicherbandbreitenabhängige Arbeit ist ein weiterer Grund, SXM gegen PCIe zu testen.
Wählen Sie H100 PCIe, wenn eine GPU ausreicht, Worker unabhängig arbeiten oder eine günstigere Hopper-Konfiguration die gemessenen Latenz- und Durchsatzanforderungen erfüllt. Gehen Sie nicht davon aus, dass mehrere PCIe-Karten ein All-to-All-GPU-Fabric bilden.
| Herstellerspezifikation | H100 SXM | H100 PCIe |
|---|---|---|
| Architektur | Hopper | Hopper |
| GPU-Speicher | 80 GB HBM3 | 80 GB HBM2e |
| Veröffentlichte Speicherbandbreite | 3.35 TB/s | 2.0 TB/s |
| Formfaktor | SXM | Dual-Slot PCIe Gen5 |
| Referenzsystemverbindung | HGX-NVLink/NVSwitch-Plattformen | PCIe; optionale Brücke zu einer benachbarten H100 |
Veröffentlichte Beschleunigerspezifikationen, keine Messung der AnchorGPU-Infrastruktur. Host-Topologie und geliefertes Fabric müssen separat bestätigt werden.
Fazit. PCIe ist die kostengünstigere Hopper-Wahl für unabhängige Workloads. SXM ist nur dann ein Kandidat für eng gekoppelte Arbeitslasten, wenn die gelieferte Topologie die beabsichtigte Strategie unterstützt.
Katalogkostendifferenz: $44 pro 7 Tage und $160 pro 30 Tage. Die Preise stammen aus demselben Katalog wie der Konfigurator.
Herstellerangaben dienen als Grundlage für den Vergleich. Empfehlungen sind arbeitslastabhängig; es wird kein AnchorGPU-Leistungsbenchmark beansprucht.
NVIDIA H100-Spezifikationen ↗NVIDIA H100 PCIe-Produktübersicht ↗