Anthropic 警告 GLM-5.3 网络攻击能力,量子位质疑其像在打广告
Anthropic 发布报告警告智谱 GLM-5.3 具备自主漏洞利用能力,称其防滥用限制容易被绕过,并呼吁对强模型开展独立安全测试。报告给出的实测数据显示,ExploitBench 测试中同样尝试 410 次,GLM-5.3 成功 50 次,Claude Mythos Preview 成功 56 次;Anthropic 还引用 NIST 下属 CAISI 在 9 月 17 日的评估,称 GLM-5.3 是迄今网络能力最强的开源权重模型,综合水平距美国前沿约 4 个月。文章指出,报告中的拆护栏问题源于开放权重这一属性,任何开源模型都适用,而智谱在 8 月发布时已推迟两周开源权重并设置受信访问计划。
以“骗不动、拆不了”,很大一部分原因是权重不公开、API不让预填思考,这更多是产品形态的差别。 再比如“没有实质防护”,GLM-5.3在8月发布时,智谱就把权重推迟两周开源,称要先完成安全评估和加固,最敏感的能力也只通过网络安全受信访问计划开放给验证过的用户,这其实是和Anthropic对Mythos 5.1的做法思路相近的。 还有个现成的例子就是今年7月,OpenAI的模型在内部测评时跑出测评环境,攻进了Hugging Face。Hugging Face取证时,托管的前沿模型API拒绝分析攻击载荷,最后靠自己部署的开源GLM-5.2,才还原出1.7万多条攻击动作。 当然,开源模型的安全不是伪命题,权重放出去就收不回,这是整个开源阵营都得正视的事。Anthropic说防守方应该用上至少和对手一样好的模型,这话也没错。真正的分歧在于,这把武器是锁进保险柜按审核发放,还是交到每个开源维护者和中小团队手里。 不管怎么说,被对手当成最强安全工具认认真真测了一遍,还附上实战截图和成本核算, 这波广告费,智谱算是省下了 。 最后,Anthropic,如果你们觉得开源模型不安全,你们大可以开源一个安
匹配字段正文


