Dedizierter Knoten mit 8 GPUs
192 GB gesamter GPU-Speicher mit 10 % Rabatt auf jede Karte. Ein Mandant, ein fester Zeitraum von 7 oder 30 Tagen, eine vorhersehbare Gesamtsumme.
Ressourcen aggregieren
Ressourcen skalieren mit jeder dedizierten Karte. Netzwerk und Topologie müssen vor einer echten Reservierung überprüft werden.
8× 24 GB ergibt 192 GB über die Karten hinweg. Die Anwendung muss ihr Modell oder ihre Arbeit explizit verteilen. Unabhängige Replikate, Tensor-Parallelität und verteiltes Training haben unterschiedliche Kommunikationsanforderungen.
Bevor Sie diese Katalogkonfiguration als verbundene Maschine behandeln, bestätigen Sie sichtbare GPUs, PCIe/NUMA-Platzierung, Interconnect, Treiber- und Collective-Library-Versionen. Die Kartenanzahl allein begründet kein NVLink- oder NVSwitch-Fabric.