Wdrożenia
Wybierz obraz maszyny
Wybierz obraz zgodny z producentem Twojego GPU i obciążeniem z bieżącego katalogu.
3 min czytania · ZaktualizowanoZacznij od obciążenia
Wybierz obraz ogólnego przeznaczenia, jeśli zamierzasz zainstalować własny stos, lub obraz frameworka dla konkretnego przepływu pracy. Poniższa tabela jest generowana z tego samego katalogu co selektor wdrożeń.
Lista dostępnych obrazów zmienia się w zależności od producenta GPU. Przełączenie na niekompatybilnego producenta resetuje wybór do zgodnego obrazu. Serwer również weryfikuje zgodność, w tym żądania wysyłane bezpośrednio przez API.
Obrazy w katalogu
Te etykiety opisują skonfigurowane szablony obrazów. Demo lokalne nie uruchamia kontenerów ani nie weryfikuje zainstalowanych pakietów na zdalnej maszynie.
| Obraz | Etykieta katalogowa | Producenci procesorów GPU |
|---|---|---|
Ubuntu 24.04ubuntu | Gotowy do pracy z CUDA | NVIDIA, AMD |
PyTorch 2.8pytorch | CUDA 12.8 | NVIDIA |
vLLMvllm | API zgodne z OpenAI | NVIDIA, AMD |
ComfyUIcomfyui | Flux & SDXL | NVIDIA |
Ollamaollama | Lokalny serwer modeli | NVIDIA, AMD |
JAXjax | CUDA 12 | NVIDIA |
ROCm 6.4rocm | Zoptymalizowany dla AMD | AMD |
Debian 13debian | Minimalny obraz systemu | NVIDIA, AMD |
Zapewnij powtarzalność obciążeń
W przypadku rzeczywistego obciążenia zapisz w projekcie sterownik, środowisko uruchomieniowe, wersję frameworka i zależności modelu. Sama nazwa szablonu nie jest odtwarzalnym środowiskiem. Przechowuj kopie zapasowe danych treningowych i wyników poza wynajętym węzłem.