2-GPU 专用节点
96 GB 总 GPU 显存,每张卡优惠 5%。单一租户,一个固定的 7 天或 30 天期限,一个可预测的总价。
聚合资源
资源随每张专用卡扩展。实际预订前必须验证网络和拓扑。
2× 48 GB 在显卡之间提供 96 GB。应用程序必须显式分配其模型或工作负载。独立副本、张量并行和分片训练具有不同的通信要求。
在将此目录配置视为已连接的机器之前,请确认可见的 GPU、PCIe/NUMA 布局、互连、驱动程序和集合通信库版本。仅凭卡的数量并不能确立 NVLink 或 NVSwitch 结构。
A40,配备 48 GB GDDR6 ECC。目录价格:$54 / 7 天或 $192 / 30 天。比较镜像、节点规模和用途。
规划内存和并发,配置 vLLM 端点,并验证具有代表性的推理工作负载。
测量内存、选择并行策略、测试检查点恢复,并规划固定期限的 PyTorch 训练运行。
比较 15 种 GPU 型号、7 天和 30 天目录价格、节点折扣及可选资源。可计算参考配置成本;可用性和最终订单条款仍需确认。