AGAnchorGPU

部署

选择机器镜像

从当前目录中选择与您的 GPU 厂商和工作负载兼容的镜像。

3 分钟阅读 · 更新于

从工作负载开始

如果你打算安装自己的技术栈,请选择通用镜像;如果用于特定工作流,请选择框架镜像。下表与部署选择器由同一目录生成。

可用镜像列表会随 GPU 厂商而变化。切换到不兼容的厂商会将选择重置为兼容的镜像。服务器也会验证兼容性,包括直接通过 API 发出的请求。

目录中的镜像

这些标签描述已配置的镜像模板。本地演示不会启动容器,也不会验证远程机器已安装的软件包。

镜像目录标签GPU 厂商
Ubuntu 24.04ubuntu支持 CUDANVIDIA, AMD
PyTorch 2.8pytorchCUDA 12.8NVIDIA
vLLMvllm兼容 OpenAI 的 APINVIDIA, AMD
ComfyUIcomfyuiFlux & SDXLNVIDIA
Ollamaollama本地模型服务器NVIDIA, AMD
JAXjaxCUDA 12NVIDIA
ROCm 6.4rocm针对 AMD 优化AMD
Debian 13debian最小系统镜像NVIDIA, AMD

保持工作负载可复现

对于真实工作负载,请在项目中记录驱动程序、运行时、框架版本和模型依赖项。仅凭模板名称并不能构成可复现的环境。请将训练数据和输出备份在租用节点之外。

配置镜像