依据显存、算力、CPU、内存、区域、库存和价格选择适合训练或推理的实例规格。
GPU 算力市场展示当前可用区域、卡型、显存、配套 CPU 内存、库存和价格。选型应从模型能否装入显存开始,再验证吞吐、稳定性和总成本。
本文面向使用 Linux GPU 环境进行开发、训练、微调、推理或图形工作负载的工程师和管理员。完成本文后,你应当能够独立完成配置、验证结果,并知道出现异常时应该保留哪些信息。
云资源和模型能力会随区域、库存、模型版本及账号权限变化。页面显示的可用规格、价格、配额和状态是本次操作的直接依据;文档用于解释操作逻辑和风险边界。
先完成以下准备,再进入控制台操作。对生产环境而言,准备阶段还应明确资源负责人、费用归属、数据级别和回滚方式。
按照下面的顺序执行。每完成一步都应检查页面反馈,不要在状态仍为“处理中”时连续提交相同操作。涉及删除、重装、退款、密钥禁用等不可逆动作时,应再次核对资源名称和影响范围。
计算模型权重、优化器状态、激活、KV Cache 和框架开销。训练、推理和图形任务的显存构成不同,应留出安全余量。
根据精度、吞吐、批量大小和多卡通信选择 GPU。不要只凭型号新旧判断真实任务性能。
数据预处理、编译、解压和加载可能成为瓶颈。确认 CPU、内存、磁盘容量和读写性能与 GPU 匹配。
选择靠近数据或用户的区域,记录替代区域和替代规格。库存不能视为长期预留承诺。
用真实模型和数据测量单步时间、吞吐、显存峰值、加载时间和单位任务成本,再决定扩容。
功能能够使用并不等于已经具备生产条件。正式承载业务前,请把可观测性、权限、费用和数据恢复纳入同一套运行基线。
建议为关键资源建立变更记录,至少包含操作者、时间、原因、预期结果、实际结果和回退步骤。团队协作时,不要通过聊天工具传递密码或完整 API Key。
排查时先确认影响对象、开始时间和最近一次变更,再区分是浏览器、账号权限、平台资源、网络还是应用自身问题。提交工单时,请附上资源 ID、请求 ID、发生时间、错误信息和已经执行过的排查步骤;不要提交密码、完整密钥或身份证件原图。
不要连续重复提交。记录实例或资源 ID、开始时间和当前状态,检查是否存在并行变更;超过合理时间后提交工单。
先确认实例状态与购买规格,再运行 nvidia-smi 检查驱动。若系统重装或修改过驱动,请提供命令输出和最近变更。
依次检查实例运行状态、登录凭证、外网防火墙、端口监听和来源地址。不要为了排障把所有端口开放给全网。
离开页面前,逐项确认:
如结果与本文不一致,应停止继续扩大变更范围,通过页面右上角“工单支持”提交问题。