部署
选择机器镜像
从当前目录中选择与您的 GPU 厂商和工作负载兼容的镜像。
3 分钟阅读 · 更新于从工作负载开始
如果你打算安装自己的技术栈,请选择通用镜像;如果用于特定工作流,请选择框架镜像。下表与部署选择器由同一目录生成。
可用镜像列表会随 GPU 厂商而变化。切换到不兼容的厂商会将选择重置为兼容的镜像。服务器也会验证兼容性,包括直接通过 API 发出的请求。
目录中的镜像
这些标签描述已配置的镜像模板。本地演示不会启动容器,也不会验证远程机器已安装的软件包。
| 镜像 | 目录标签 | GPU 厂商 |
|---|---|---|
Ubuntu 24.04ubuntu | 支持 CUDA | NVIDIA, AMD |
PyTorch 2.8pytorch | CUDA 12.8 | NVIDIA |
vLLMvllm | 兼容 OpenAI 的 API | NVIDIA, AMD |
ComfyUIcomfyui | Flux & SDXL | NVIDIA |
Ollamaollama | 本地模型服务器 | NVIDIA, AMD |
JAXjax | CUDA 12 | NVIDIA |
ROCm 6.4rocm | 针对 AMD 优化 | AMD |
Debian 13debian | 最小系统镜像 | NVIDIA, AMD |
保持工作负载可复现
对于真实工作负载,请在项目中记录驱动程序、运行时、框架版本和模型依赖项。仅凭模板名称并不能构成可复现的环境。请将训练数据和输出备份在租用节点之外。