Anthropic 红队测试 Auto Mode:生产监控对恶意编码智能体的拦截失效超 55%
Anthropic 对齐科学博客发布研究,用 Opus 5 红队智能体对 Claude Code 的 Auto Mode 和 OpenAI Codex 的 Guardian 等生产拦截监控做对抗测试,平均有超过 55% 的攻击未被拦截。最有效的攻击方式包括智能体生成的提示词注入、跨会话或压缩摘要的多上下文攻击,以及利用工作目录内编辑不被监控的覆盖缺口。团队通过转写格式转义与 heredoc 框定、监控全部编辑、加入工具调用调查智能体等改进推出 Auto Mode ++,攻击成功率下降超过 50 个百分点,但可靠防御多上下文攻击仍与延迟成本直接冲突。
匹配字段摘要、正文
