OpenAI 于 2026 年 4 月 22 日发布技术文章,围绕 Codex 的智能体执行循环,介绍 Responses API 中 WebSockets 与连接级缓存如何减少 API 开销、改善模型响应延迟。来源重点不是新模型能力或价格调整,而是智能体连续运行时的通信与状态复用机制。对于通过官方接口或中转服务接入模型的开发者,这意味着优化体验不能只看模型本身,也应关注请求之间如何衔接。
从单次问答转向连续执行,连接效率更重要
智能体工作流通常不是一次请求结束:模型需要结合任务状态继续推理,并在工具执行后进入下一轮。来源以 Codex 的执行循环为切入点,展示 WebSockets 和连接级缓存对这一过程的优化作用。关键变化在于减少连续调用中的 API 开销,让工作流中非模型计算部分的负担得到压缩。
从技术机制理解,WebSockets 允许客户端与服务端维持持续通信;连接级缓存则把可复用状态的作用范围与连接关联起来。来源摘要明确提到,两者降低了 API 开销并改善延迟,但没有给出具体提升比例、缓存命中条件或完整接入限制,因此不能据此推算所有应用都能获得相同收益。
对开发者的影响:优化目标应覆盖完整任务链路
对代码助手和其他多轮智能体应用而言,用户感知的是任务从开始到完成的总耗时,而不仅是某一次生成的速度。此次技术解读提示,连接管理与状态复用也是延迟优化的一部分。如果应用需要频繁往返调用,评估接口时就应同时观察模型生成、工具执行以及通信衔接,而不是只比较单次响应表现。
- 评估性能时,用真实的多轮任务测试完整耗时,避免只凭单次请求判断优化效果。
- 设计接入层时,关注连接建立、维持、断开与恢复的处理方式,并核实相关机制的官方说明。
- 使用中转服务时,确认其是否支持对应的 WebSockets 通信路径,以及是否会改变连接的连续性。
- 将延迟收益与费用分别核算,不把缓存带来的性能改善直接等同于 Token 账单下降。
对 API 中转与成本选择意味着什么
对于 Token 中转站和 API 批发服务,接口可用只是基础要求。当上游优化依赖持续连接及连接范围内的状态时,中间层能否保持相关通信特性,就成为值得验证的接入指标。兼容请求格式,不等于完整保留上游的性能特征。开发者选择服务时,应结合实际工作流检查连接稳定性和端到端延迟,而非仅看模型名单与单价。
需要明确的是,本次提供的来源摘要没有披露价格、额度、并发上限或量化性能数据,也不足以确认其他接口是否具有相同机制。因此,这篇文章更适合作为架构优化信号,而不是降价或扩容公告。对已有智能体应用,务实做法是先定位连续调用中的开销,再根据正式文档与实测结果决定是否调整接入方案。
