Déploiements
Choisir une image système
Choisissez une image compatible avec votre fournisseur de GPU et votre charge de travail dans le catalogue actuel.
3 min de lecture · Mis à jour leCommencez par la charge de travail
Choisissez une image généraliste si vous prévoyez d'installer votre propre pile, ou une image de framework pour un flux de travail spécifique. Le tableau ci-dessous est généré à partir du même catalogue que le sélecteur de déploiement.
La liste des images disponibles varie selon le fournisseur de GPU. Passer à un fournisseur incompatible réinitialise la sélection sur une image compatible. Le serveur valide également la compatibilité, y compris pour les requêtes effectuées directement via l'API.
Images du catalogue
Ces libellés décrivent les modèles d'image système configurés. La démo locale ne démarre pas de conteneurs et ne valide pas les paquets installés d'une machine distante.
| Image | Libellé du catalogue | Fournisseurs de GPU |
|---|---|---|
Ubuntu 24.04ubuntu | Prêt pour CUDA | NVIDIA, AMD |
PyTorch 2.8pytorch | CUDA 12.8 | NVIDIA |
vLLMvllm | API compatible avec OpenAI | NVIDIA, AMD |
ComfyUIcomfyui | Flux & SDXL | NVIDIA |
Ollamaollama | Serveur de modèles local | NVIDIA, AMD |
JAXjax | CUDA 12 | NVIDIA |
ROCm 6.4rocm | Optimisé pour AMD | AMD |
Debian 13debian | Image système minimale | NVIDIA, AMD |
Garder les charges de travail reproductibles
Pour une charge de travail réelle, consignez le pilote, le runtime, la version du framework et les dépendances du modèle dans votre projet. Un nom de modèle seul ne constitue pas un environnement reproductible. Conservez vos données d'entraînement et vos sorties sauvegardées en dehors du nœud loué.