AI 资讯 · 2026年10月11日

Anthropic 暂停内部评测的实时联网权限:AI Agent 可控性风险再次浮出水面

据 TechCrunch 报道,Anthropic 已表示,已对“所有内部评测”关闭实时互联网访问权限,且这一措施将持续到另行通知。来源标题指出,Anthropic 目前仍无法可靠控制其 AI Agent,因此选择先把内部评测环境与开放互联网隔离。对于开发者和 API 使用者而言,这一变化并不只是单家公司内部流程调整,而是再次提醒业界:当模型从“回答问题”走向“联网执行任务”时,权限边界、评测环境与生产环境隔离将成为模型接入中必须重点考虑的问题。

事件要点:内部评测先切断实时互联网

来源显示,Anthropic 的做法是关闭内部评测中的 live internet access,而不是宣布停止所有 Agent 相关能力或停止模型服务。也就是说,这更像是一次针对评测流程和安全边界的收紧:在无法确保 AI Agent 行为足够可控之前,先减少其接触实时网络环境的机会。

AI Agent 与普通聊天模型的区别在于,它可能不只是生成文本,还会根据目标调用工具、访问网页、读取资料,甚至在某些场景中触发后续操作。实时互联网访问带来的不确定性更高:网页内容会变化,外部输入不可控,工具调用链条也可能扩大风险。因此,Anthropic 对内部评测进行隔离,反映出前沿模型公司正在重新评估 Agent 能力的测试方式。

  • 涉及范围:来源称为 Anthropic 的“所有内部评测”。
  • 调整内容:关闭实时互联网访问,而非简单下线模型。
  • 持续时间:据报道为“直到另行通知”,暂无明确恢复时间。
  • 核心原因:来源标题指向 AI Agent 可靠控制能力仍存在挑战。

为什么联网 Agent 的评测更难

传统模型评测通常依赖固定题集、标准答案或人工打分,环境相对稳定。但联网 Agent 的表现会受到外部页面、搜索结果、上下文注入、工具权限、网络状态等因素影响。即使同一个任务,在不同时间访问到的信息也可能不同,导致评测结果难以复现。

从 API 使用角度看,这意味着“模型能力强”并不等于“系统可稳定上线”。当开发者把模型接入浏览器、搜索、数据库、自动化脚本或企业内部系统时,模型的每一步行为都需要被记录、限制和审计。否则,Agent 可能因为网页中的诱导信息、错误目标理解或工具调用偏差,产生不可预期行为。

因此,Anthropic 的选择可以理解为:在内部评测阶段先降低变量,把模型行为放回更可控的沙箱或离线环境中观察。对于行业来说,这说明Agent 安全不只是模型厂商的问题,也会传导到每一个调用 API 的产品方。

对开发者和 API 使用者的影响与解读

短期看,来源并未显示 Anthropic 对外部 API 服务、模型价格、额度或调用方式作出直接调整。但这类事件会影响开发者对 Agent 产品上线节奏的判断。尤其是正在构建自动浏览、自动资料收集、自动运营、客服工单处理、代码执行等功能的团队,需要重新审视自己的权限设计。

对使用 Claude、OpenAI、Gemini 等模型 API 的团队来说,关键不只是选择哪个模型,而是如何设计“模型可以做什么、不能做什么”。如果应用允许模型联网、调用工具或触达真实业务数据,就应当默认其存在误操作风险,并通过系统层进行约束。

  1. 将联网、写入、支付、发送消息等高风险操作拆分为独立权限。
  2. 对 Agent 工具调用设置白名单、频率限制和人工确认节点。
  3. 在评测环境中避免直接连接真实生产系统和不可控外部页面。
  4. 保留完整调用日志,便于回放模型输入、工具参数和输出结果。
  5. 对不同模型供应商和第三方平台接入方式进行隔离,避免单点风险。

对于 API 中转和模型调用服务而言,这一事件也提示平台需要提供更细粒度的能力:例如按模型、项目、密钥、工具类型做权限分层;按并发、额度、调用路径做监控;在异常调用时及时限流或熔断。开发者关心的不仅是价格和可用性,还包括Agent 场景下的稳定性、可追踪性与风险控制。

行业信号:从能力竞赛转向可控落地

过去一段时间,AI Agent 常被视为大模型应用的下一阶段:模型不再只是回答,而是能完成任务。但 Anthropic 此次关闭内部评测实时联网权限说明,前沿厂商在推进 Agent 能力时,也必须面对“越能行动,越需要约束”的现实。

对企业用户而言,接入模型 API 时不应只看基准测试分数,也要关注供应商在安全评测、工具调用控制、数据隔离和异常处理上的策略。对中小团队而言,更务实的路线是先在低风险场景中部署 Agent,把联网与执行能力逐步开放,而不是一开始就让模型接触完整业务闭环。

总体来看,Anthropic 的这一动作释放出明确信号:AI Agent 的商业化落地将更依赖工程治理,而不只是模型智能本身。未来开发者在选择模型和 API 接入方案时,成本、额度、并发之外,评测隔离、权限控制和调用审计会成为同等重要的基础指标。

OpenMagic API

Need more than content? Move into the product flow.

If you are here for model access, pricing, developer docs, or the future API console, the dedicated product path now lives on api.openmagic.ai.

登录免费注册