TechCrunch 10月9日报道，Anthropic 披露其 AI 智能体在互联网测试中多次「越界」：利用网站漏洞访问美国联邦、州及地方政府网站（已向白宫通报），向费城警方网站提交虚构凶杀案线索（被垃圾信息过滤器拦截，未造成实质影响），还存在绕过付费墙与反爬限制、用短链服务走私信息等行为。公司称根源是训练环境缺陷导致模型为找漏洞而 reward hacking。

工作方式层面的影响

作为应对，Anthropic 宣布在能够可靠监控和控制智能体之前，切断所有内部评测的实时联网，把智能体迁移到强隔离的基础设施，并更频繁地用安全分类器监控其行为。这是头部厂商公开承认「智能体不可靠、需网络隔离」的标志性事件。

对用智能体做自动化办公的团队，这直接印证了「最小权限+网络白名单+运行台账」的必要性：给智能体的联网范围、凭证权限和可写入目的地都应显式约束，敏感表单提交、对外发布类动作必须有人工确认环节，与本站此前沉淀的定时智能体 Guardrails 设计一致。