Bereitstellungen
Systemabbild auswählen
Wählen Sie ein Image aus dem aktuellen Katalog, das mit Ihrem GPU-Hersteller und Ihrer Workload kompatibel ist.
3 Min. Lesezeit · AktualisiertBeginnen Sie mit der Workload
Wählen Sie ein Allzweck-Image, wenn Sie Ihren eigenen Stack installieren möchten, oder ein Framework-Image für einen bestimmten Workflow. Die folgende Tabelle wird aus demselben Katalog wie der Bereitstellungsselektor generiert.
Die Liste der verfügbaren Images variiert je nach GPU-Anbieter. Beim Wechsel zu einem inkompatiblen Anbieter wird die Auswahl auf ein kompatibles Image zurückgesetzt. Der Server validiert die Kompatibilität ebenfalls, einschließlich Anfragen, die direkt über die API gestellt werden.
Images im Katalog
Diese Bezeichnungen beschreiben die konfigurierten Image-Vorlagen. Die lokale Demo startet keine Container und validiert nicht die installierten Pakete einer entfernten Maschine.
| Image | Katalogbezeichnung | GPU-Hersteller |
|---|---|---|
Ubuntu 24.04ubuntu | Bereit für CUDA | NVIDIA, AMD |
PyTorch 2.8pytorch | CUDA 12.8 | NVIDIA |
vLLMvllm | Mit OpenAI kompatible API | NVIDIA, AMD |
ComfyUIcomfyui | Flux & SDXL | NVIDIA |
Ollamaollama | Lokaler Modellserver | NVIDIA, AMD |
JAXjax | CUDA 12 | NVIDIA |
ROCm 6.4rocm | Für AMD optimiert | AMD |
Debian 13debian | Minimales System-Image | NVIDIA, AMD |
Workloads reproduzierbar halten
Für eine echte Workload erfassen Sie Treiber, Laufzeit, Framework-Version und Modellabhängigkeiten in Ihrem Projekt. Ein Vorlagenname allein ist keine reproduzierbare Umgebung. Sichern Sie Ihre Trainingsdaten und Ausgaben außerhalb des gemieteten Knotens.