H100 SXM
trenowanie · inferencja o wysokiej przepustowości
$1,352/ 30 dni
Wyświetl GPU H100 SXM vs H100 PCIe
Przed wyborem między NVIDIA H100 SXM a NVIDIA H100 PCIe porównaj pamięć, konfiguracje węzłów oraz stały koszt tygodniowy i miesięczny.
H100 SXM zapewnia ten samilość VRAM na kartę. H100 PCIe kosztuje $160 mniej za 30-dniowy okres . Wybierz w zależności od tego, czy wiążącym ograniczeniem jest zapas pamięci, czy niższy koszt stały.
trenowanie · inferencja o wysokiej przepustowości
Dostrajanie modeli AI · wnioskowanie
| Specyfikacja | H100 SXM | H100 PCIe |
|---|---|---|
| Architektura | Hopper | Hopper |
| VRAM | 80 GB HBM3 | 80 GB HBM2e |
| Zasoby hosta / karta | 24 vCPU · 192 GB RAM | 20 vCPU · 160 GB RAM |
| Lokalny NVMe / karta | 3.84 TB | 2 TB |
| Cena 7-dniowa / karta | $380 | $336 |
| Cena za 30 dni / kartę | $1,352 | $1,192 |
| Węzeł 4-GPU / 30 dni | $4,975 | $4,387 |
| Ilość w katalogu | 690 karty | 510 karty |
Decyzja dotycząca obciążenia · zaktualizowano 2026-09-04
Oba modele wykorzystują architekturę Hopper i oferują 80 GB, ale różnią się podsystemem pamięci i integracją z hostem. Kluczowe pytanie brzmi, czy Twoje obciążenie wymaga połączonej platformy wielo-GPU, czy może działać na jednej karcie lub niezależnych replikach.
Wybierz H100 SXM dla modelu wrażliwego na komunikację podzielonego na kilka GPU, pod warunkiem że alokacja faktycznie udostępnia oczekiwaną strukturę HGX. Praca wrażliwa na przepustowość pamięci to kolejny powód, aby przetestować SXM w porównaniu z PCIe.
Wybierz H100 PCIe, gdy wystarczy jeden GPU, pracownicy działają niezależnie lub tańsza konfiguracja Hopper spełnia zmierzone wymagania dotyczące opóźnień i przepustowości. Nie zakładaj, że wiele kart PCIe tworzy pełną siatkę GPU all-to-all.
| Specyfikacja producenta | H100 SXM | H100 PCIe |
|---|---|---|
| Architektura | Hopper | Hopper |
| Pamięć | 80 GB HBM3 | 80 GB HBM2e |
| Opublikowana przepustowość pamięci | 3.35 TB/s | 2.0 TB/s |
| Format | SXM | Dwuslotowy PCIe Gen5 |
| Połączenie systemu referencyjnego | Platformy HGX NVLink/NVSwitch | PCIe; opcjonalny most do sąsiedniego H100 |
Opublikowane specyfikacje akceleratora, a nie pomiar infrastruktury AnchorGPU. Topologię hosta i dostarczoną strukturę należy potwierdzić osobno.
Konkluzja. PCIe to tańszy wybór Hopper do pracy niezależnej. SXM jest kandydatem do ściśle sprzężonych obciążeń tylko wtedy, gdy dostarczona topologia wspiera zamierzoną strategię.
Różnica kosztów w katalogu: $44 za 7 dni i $160 za 30 dni. Ceny są odczytywane z tego samego katalogu co konfigurator.
Specyfikacje producenta stanowią podstawę porównania. Rekomendacje zależą od obciążenia; nie deklarujemy żadnego testu wydajności AnchorGPU.
Specyfikacje NVIDIA H100 ↗Karta produktu NVIDIA H100 PCIe ↗