据 OpenAI 于 2026 年 4 月 22 日发布的技术文章显示，其围绕 Codex 的 agentic workflow（代理式工作流）进行了一次深入拆解，重点说明了在 Responses API 中使用 WebSockets 以及“连接作用域缓存”后，如何减少 API 调用过程中的额外开销，并改善模型响应延迟。对开发者和 API 使用者而言，这类优化并不只是传输协议层面的变化，而是关系到代理循环、多轮工具调用、上下文复用、并发连接与成本控制的基础能力。
来源显示，Codex 这类代理型系统通常不是一次请求、一次回答就结束，而是会经历反复的推理、执行、读取结果、再推理的循环。每一轮都可能包含模型调用、工具调用、状态更新和上下文传递。如果每一步都以传统请求方式重新建立或重复传递大量信息，系统端到端延迟和 API 开销就会被持续放大。OpenAI 此次强调的 WebSockets 与连接级缓存，正是针对这类长链路、多步骤工作流的性能瓶颈。
WebSockets 为什么适合代理式工作流
在常见的 API 调用模式中，客户端与服务端往往围绕单次请求进行交互。对于简单问答，这种模式足够直接；但在 Codex 这样的代理循环中，模型可能需要持续接收中间结果、指令变化或工具反馈，并在同一任务上下文内推进下一步。WebSockets 的优势在于可以保持持续连接，使客户端与服务端之间更适合进行连续、双向、低等待的交互。
从来源摘要看，OpenAI 关注的并非单纯“换一种连接方式”，而是通过连接维度承载更多任务状态，从而减少重复握手、重复传输以及重复准备上下文带来的负担。对于代理系统来说，延迟不仅来自模型生成本身，也来自每一轮请求前后的编排成本。当代理循环变长，这些开销会累积为明显的用户等待时间。
连接作用域缓存的含义：减少重复上下文成本
来源提到的 connection-scoped caching，即连接作用域缓存，可以理解为在同一连接生命周期内复用部分与任务相关的状态或数据。对于需要多轮推理的场景，如果系统能够在连接范围内保留可复用信息，就不必在每一轮调用中都从零开始准备全部上下文。
这对 API 使用者有两个直接启发。第一，代理应用的优化不能只看模型单次输出速度，还要看“多轮链路”整体耗时。第二，缓存策略与连接管理会影响真实成本，因为重复传递上下文、重复初始化执行环境、重复进行协议交互，都可能转化为额外延迟与资源消耗。对调用量较大的团队而言，连接复用和上下文复用可能成为降低单位任务成本的重要工程手段。
对开发者与 API 中转接入的影响
对于通过 API 构建代码代理、自动化办公代理、数据分析代理或客服代理的团队，这一方向意味着后续架构设计需要更重视“长连接 + 状态管理”。过去很多接入方案只围绕 HTTP 请求封装模型调用；但代理式应用会产生更高频、更连续的交互，对连接稳定性、并发控制、超时管理和缓存一致性提出更高要求。
站在 API 中转与模型调用中介的角度，Responses API 对 WebSockets 和连接作用域缓存的实践，也提示服务提供方需要重新评估网关能力：是否支持长连接保持，是否能在高并发下稳定转发流式数据，是否能处理代理循环中的多轮上下文状态，以及是否能在失败重连后降低任务中断影响。
- 延迟优化：代理循环越长，减少连接和上下文重复开销的收益越明显。
- 并发管理：长连接会占用持续资源，平台需要更精细的连接池、限流与超时策略。
- 成本控制：上下文复用和缓存命中有助于减少重复处理，但也要求应用侧合理设计任务边界。
- 接入复杂度：相比普通请求，WebSockets 对客户端 SDK、网关、监控和故障恢复都有更高要求。
从模型调用到代理基础设施的转变
这篇技术解析反映出一个趋势：大模型 API 的竞争焦点正在从“单次补全能力”扩展到“复杂任务执行效率”。Codex 代理循环只是典型案例，类似需求也会出现在研发助手、浏览器代理、运维代理和企业内部自动化流程中。当模型需要持续观察、决策和执行时，底层通信方式和缓存机制会直接影响产品体验。
对开发者来说，接入 Responses API 时不应只关注模型名称和接口参数，还要关注任务是否适合长连接、是否需要多轮状态保持、是否存在大量重复上下文，以及调用链路中是否有第三方网关或中转层可能影响 WebSockets 稳定性。对企业用户来说，低延迟并不只取决于模型厂商，也取决于调用路径、网络质量和中间层架构。
总体来看，OpenAI 此次围绕 Codex agent loop 的说明，为代理式应用的性能优化提供了一个清晰信号：未来高质量的大模型应用，需要把模型、协议、缓存、并发和中转稳定性作为整体系统来设计。对于依赖 OpenAI、Claude、Gemini 等模型 API 的开发团队，提前评估 WebSockets 支持能力和代理工作流的调用架构，将有助于在体验、稳定性与成本之间取得更好的平衡。