通过替换基础地址、密钥和模型名迁移应用,并处理能力与参数差异。
天工智算云接口与 OpenAI SDK 兼容,常见迁移只需替换基础地址、API Key 和模型名称;但模型能力、参数、错误、用量和输出风格仍需要逐项验证。
本文面向负责人工智能应用设计、开发、上线、成本、安全和持续运营的工程与治理团队。完成本文后,你应当能够独立完成配置、验证结果,并知道出现异常时应该保留哪些信息。
云资源和模型能力会随区域、库存、模型版本及账号权限变化。页面显示的可用规格、价格、配额和状态是本次操作的直接依据;文档用于解释操作逻辑和风险边界。
先完成以下准备,再进入控制台操作。对生产环境而言,准备阶段还应明确资源负责人、费用归属、数据级别和回滚方式。
按照下面的顺序执行。每完成一步都应检查页面反馈,不要在状态仍为“处理中”时连续提交相同操作。涉及删除、重装、退款、密钥禁用等不可逆动作时,应再次核对资源名称和影响范围。
列出使用的端点、模型、参数、流式处理、工具调用、文件与多模态能力。
将 base_url、密钥和模型名改为环境配置,不在业务逻辑中硬编码供应商。
OpenAI SDK 示例:
from openai import OpenAI
client = OpenAI(api_key="YOUR_KEY", base_url="https://YOUR_HOST/v1")
使用固定输入比较字段、流式事件、结束原因、用量和错误对象,处理不支持参数。
在真实评测集比较回答质量、结构遵循、延迟和成本,不假设同名参数产生相同结果。
按用户或流量比例切换,监控错误和预算,保留快速回退到原配置的能力。
确认全部流量迁移后禁用旧密钥,并从 CI、密钥库和运行环境删除。
功能能够使用并不等于已经具备生产条件。正式承载业务前,请把可观测性、权限、费用和数据恢复纳入同一套运行基线。
建议为关键资源建立变更记录,至少包含操作者、时间、原因、预期结果、实际结果和回退步骤。团队协作时,不要通过聊天工具传递密码或完整 API Key。
排查时先确认影响对象、开始时间和最近一次变更,再区分是浏览器、账号权限、平台资源、网络还是应用自身问题。提交工单时,请附上资源 ID、请求 ID、发生时间、错误信息和已经执行过的排查步骤;不要提交密码、完整密钥或身份证件原图。
比较线上输入分布、上下文长度、并发、超时和模型版本,建立可复现样本再调整。
按资源、模型、密钥和请求拆解,检查闲置 GPU、长上下文、大输出、重复任务和重试风暴。
停止继续修改,保留现场。使用上一个环境、模型、提示和数据版本恢复,并补齐变更审批和自动验证。
离开页面前,逐项确认:
如结果与本文不一致,应停止继续扩大变更范围,通过页面右上角“工单支持”提交问题。