遇到 OpenAI API rate limit，先别急着购买更多额度。报错可能来自请求频率、Token 吞吐、账户预算，也可能是 API 中转网关的独立限制。余额、速率额度与并发是不同指标：余额充足，不代表短时间内可以无限调用。排查时应先确认错误来源，再决定调整程序还是升级接入方案。
先看错误信息：429 不一定只是请求太多
保留 HTTP 状态码、错误正文、请求时间和请求 ID，但不要记录 API Key。遇到 429，应结合响应中的错误类型判断：速率限制通常需要降速；额度不足或预算相关错误，则应检查账户计费状态、项目预算及网关余额。不同接入方可能转换错误格式，不能只凭状态码认定原因。
- RPM：每分钟请求数。大量短请求也可能触发限制。
- TPM：每分钟 Token 吞吐。长上下文或较高输出上限可能更容易触发限制，具体按接口计量规则确认。
- 并发：同时在途的请求数，与每分钟总请求量不同。
- 账户与网关额度：检查模型、项目及中转渠道是否分别设置了限制。
若返回速率相关响应头，可读取剩余额度与重置时间；若没有，应以控制台、接口文档或服务方说明为准，不要假设所有模型共用同一额度池。
新手解决顺序：先控流，再重试
优先采用队列与有上限的退避重试。将突发请求放入队列，限制工作线程数量，并分别控制请求频率和预计 Token 消耗。对可重试的限流错误使用指数退避与随机抖动；若返回 Retry-After，可将其作为等待依据，同时设置最大重试次数与总超时。
不要立即循环重发，失败请求也可能消耗速率预算。对额度不足、鉴权失败或参数错误，应先修正配置，而不是持续重试。生成、写入或扣费相关流程还要防止重复执行；流式响应中断后重新发起，也可能产生额外 Token 成本。
价格、额度和 Token 预算怎么估算
先抽样统计真实业务的平均输入、平均输出和高峰请求量。基础估算为：总输入 Token＝请求量×平均输入 Token；总输出 Token＝请求量×平均输出 Token。费用按两部分分别乘以对应单价，并统一单价单位；缓存、工具调用等项目如单独计费，应另外核算。不要用字符数直接代替精确 Token 数。
成本预算与吞吐预算要分开计算。日均用量决定大致支出，高峰分钟用量更影响是否限流。可用“高峰分钟请求量×每次预计 Token”初估吞吐需求，再通过压测校正；同时为重试和长回答预留预算。具体价格、速率额度及调整条件，以实际账户和接入渠道说明为准。
什么时候需要 API 中转或更高额度
若限流来自本地突发流量，先优化排队、上下文长度和输出上限；若持续需求确实超过现有额度，再评估额度调整或中转接入。中转并不等于绕过上游限制，还可能有独立的并发、余额和模型路由规则。
在 openmagic.ai 评估接入方案时，应核对模型标识、SDK 兼容性、计费单位、错误透传及用量记录，并询问限流发生在哪一层。先小流量验证，再逐步放量，比单纯比较 Token 单价更有助于控制实际成本。