Розгортання
Виберіть образ машини
Оберіть образ, сумісний із вашим виробником GPU і робочим навантаженням, із поточного каталогу.
3 хв читання · ОновленоПочніть із робочого навантаження
Виберіть образ загального призначення, якщо ви збираєтеся встановити власний стек, або образ фреймворку для конкретного робочого процесу. Таблиця нижче створена з того самого каталогу, що й селектор розгортання.
Доступний список образів змінюється залежно від виробника GPU. Перемикання на несумісного виробника скидає вибір до сумісного образу. Сервер також перевіряє сумісність, зокрема для запитів, надісланих безпосередньо через API.
Образи в каталозі
Ці позначки описують налаштовані шаблони образів. Локальне демо не запускає контейнери та не перевіряє встановлені пакети віддаленої машини.
| Образ | Позначка каталогу | Виробники GPU |
|---|---|---|
Ubuntu 24.04ubuntu | Готово до роботи з CUDA | NVIDIA, AMD |
PyTorch 2.8pytorch | CUDA 12.8 | NVIDIA |
vLLMvllm | API, сумісний з OpenAI | NVIDIA, AMD |
ComfyUIcomfyui | Flux & SDXL | NVIDIA |
Ollamaollama | Локальний сервер моделей | NVIDIA, AMD |
JAXjax | CUDA 12 | NVIDIA |
ROCm 6.4rocm | Оптимізовано для AMD | AMD |
Debian 13debian | Мінімальний системний образ | NVIDIA, AMD |
Зберігайте робочі навантаження відтворюваними
Для реального робочого навантаження зафіксуйте драйвер, середовище виконання, версію фреймворку та залежності моделі у своєму проєкті. Сама назва шаблону не є відтворюваним середовищем. Зберігайте резервні копії навчальних даних і результатів поза орендованим вузлом.