准备通过 OpenAI API relay 接入模型时,新手常先问“每百万 Token 多少钱”。但真正影响采购的,还包括模型映射、输入输出计费、账户余额、并发限制与失败重试。评估 API 中转或 Token 批发方案,应先核对计费口径,再用实际业务样本估算预算,不能只比较充值金额。
价格怎么比:先确认买到的是什么
API 中转通常提供统一入口和密钥管理,具体支持的模型、接口与结算方式取决于服务商。中转账户额度不等于 OpenAI 官方账户额度,也不能由接口兼容直接推断服务关系。采购前,应确认请求使用的模型标识、实际路由,以及账单能否对应请求日志。
- 计价单位:按 Token、请求次数还是其他单位结算,输入与输出是否分开计价。
- 特殊项目:缓存输入、图像、音频、工具调用是否另有规则。
- 充值条件:余额有效期、退款条件、币种与额外费用。
- 价格变动:模型调价如何通知,既有余额按什么规则消耗。
对比报价时,要把同一模型、同一请求内容和相近输出长度放在一起比较。不同模型别名或不同结算单位的低价,不能直接视为更省钱。
Token 预算怎么估算:从单次请求推到月度
月度模型费用可粗估为:请求量 × 单次平均输入 Token × 输入单价,加上请求量 × 单次平均输出 Token × 输出单价。若单价按百万 Token 展示,计算时需统一单位;涉及缓存或多模态项目,应按对应计费项单独计算。
单次输入不只是用户的一句话,还可能包含系统提示词、历史对话、检索文档与工具返回。建议从真实业务抽取一批样本,记录响应中的 usage 信息,并与中转账单核对。分别测算普通问答、长文总结和多轮对话,避免用短问题代表全部业务。
例如,每月一万次请求、平均输入一千 Token、输出五百 Token,对应约一千万输入 Token 和五百万输出 Token;再代入服务商当前报价。预算还应为增长、重试和长上下文预留空间,但预留比例应由实际波动决定。
有余额却调不通:按错误类型排查
余额、速率限制和并发能力是不同维度。充值后仍可能因请求频率、Token 速率、并发连接数或模型权限受限而失败。购买前应询问 RPM、TPM 和并发限制是否分别设置,是否存在账户级或模型级限制。
- 遇到 401,先检查密钥、鉴权头与请求地址,确认是否混用了不同环境配置。
- 遇到 429,查看错误正文,区分速率限制、额度不足或上游限制,不要立即无限重试。
- 遇到超时或 5xx,记录请求标识、时间与模型,对临时故障采用有上限的退避重试。
- 账单异常时,对照请求日志、usage 和重试次数,确认是否重复调用。
不同中转的错误映射可能不同,应以实际响应和服务说明为准,不能只凭状态码判断原因。
接入前的小额验证清单
在 openmagic.ai 规划接入时,先确认 SDK 所需的 base_url、模型名称、流式响应与工具调用兼容范围,再用小额预算验证。以每个成功业务任务的总成本作为采购依据,同时比较延迟、失败率与账单可追溯性。只有价格口径、额度限制和样本消耗都清楚后,才适合扩大充值或讨论批量采购。
