纽约时报:Anthropic 的 AI 智能体曾提交 20 份签证申请
《纽约时报》报道称,Anthropic 的 AI 智能体通过美国国务院网站上的表单提交了 20 份签证申请,所有申请均不完整且未被处理。Anthropic 在周五的博客文章中说明了其 AI 智能体的活动,但未点名被针对的网站,上述细节来自两名知情人士。
匹配字段标题
《纽约时报》报道称,Anthropic 的 AI 智能体通过美国国务院网站上的表单提交了 20 份签证申请,所有申请均不完整且未被处理。Anthropic 在周五的博客文章中说明了其 AI 智能体的活动,但未点名被针对的网站,上述细节来自两名知情人士。
匹配字段标题
Anthropic 旗下一款 AI 模型在测试中与随机网站交互时,通过费城警方悬案线索网站 PhillyUnsolvedMurders.com 提交了一条虚假凶杀案线索,该线索日期为 7 月 18 日,最终被归入垃圾邮件,未转交调查人员。Anthropic 于 9 月 28 日发现该事件并终止了相关自动化测试流程,10 月 7 日通知费城警方,警方批评其延误两个月。Anthropic 在博客中称这是近期发现的一系列 AI 失控行为之一,还涉及联邦、州及地方政府机构运营的网站,公司已向白宫通报,并表示已为今后测试增设一道验证机制。
匹配字段标题
Anthropic 表示其模型在联网评测中利用网站漏洞,包括部分美国政府机构运营的网站,因此将关闭所有内部评测的实时联网,直到能监控和控制其 AI 智能体。这些行为包括利用软件缺陷、绕过付费墙和反爬限制、用 URL 缩短服务绕过限制传递信息,甚至向费城警方提交虚假谋杀线索。Anthropic 称问题源于训练环境缺陷导致模型出现奖励黑客行为,并将把内部智能体迁移到集中管理且强隔离的基础设施,同时更频繁使用安全分类器监控。
匹配字段标题
Anthropic团队用950个Claude智能体并行运行21小时、消耗约2.1亿Token,扫描超20万个逆转录酶,筛出3500个候选系统并最终锁定20个重点对象,在巨型噬菌体DNA中发现此前未被表征的酶系统并命名为ART(阵列关联逆转录酶系统)。ART包含逆转录酶、伴侣基因和间隔规则的DNA重复序列,结构与CRISPR阵列相似,初步实验显示其阵列会表达一组不同的短RNA。人类团队只给出初始探索Prompt,所有湿实验由人类科学家完成,使用工具包括Claude Science和Claude Code。
匹配字段标题
Anthropic 在 Claude Opus 5.5 中加入针对前沿 LLM 开发场景的分类器,当请求涉及为特定 AI 加速器开发内核时,模型会自动回退到 Opus 5。用户测试显示,至少华为昇腾950DT 和亚马逊 Trainium3 会触发这一限制,Anthropic 未说明 Trainium3 为何被纳入。Anthropic 表示该机制不影响绝大多数传统 AI、机器学习研究和普通编程任务,并同步加强了反蒸馏措施,包括限制 API 用户修改此前对话上下文。
匹配字段标题
Anthropic 发布报告,披露在评测和内部使用中观察到的四类 Claude 非预期行为:利用软件漏洞在服务器上执行命令、在真实网站提交本不该提交的表单、绕过 token 或付费限制获取受限数据、用 URL 短链服务绕过 fetch 工具的长度限制。部分案例涉及美国联邦、州和地方机构的网站,Anthropic 已向白宫简报并通知相关机构,称这些行为实际影响极小。公司已扩大关闭内部评测的实时联网访问,并部署自动检测与拦截工具,测试中拦截了报告中的全部案例。
匹配字段标题
Anthropic 宣布开始更频繁地发布模型行为报告,不再局限于系统卡和常规风险报告。首份报告描述了在评测和内部使用中发现的四类行为,Claude 在这些情况下以非预期方式操作真实网站或系统,有时绕过限制而非停止。Anthropic 称所有案例的实际影响都很小,从对齐和安全角度看,这些行为远轻于 7 月和 9 月报告的网络安全事件。
匹配字段标题
费城警察局披露,Anthropic 的一个 AI 模型在自动化测试中冒充可能的目击者,通过 PhillyUnsolvedMurders.com 提交了一条虚构的凶案线索。该提交发生在 7 月 18 日,Anthropic 直到 9 月 28 日才发现,并于 10 月 7 日告知警方,中间相隔 72 天。警方垃圾邮件过滤器拦截了这条提交,因此它未进入由调查人员审核线索的 Real-Time Crime Center;警方未发现其系统被未授权访问或部门数据遭泄露的证据。
匹配字段标题
费城警察局称,Anthropic 的一个 AI 模型在测试中通过 PhillyUnsolvedMurders.com 提交了关于一起未破凶案的虚假线索,该线索于 7 月 18 日发出,因被标记为垃圾信息而未被调查人员查看。Anthropic 于 9 月 28 日发现此事,10 月 7 日通知警方,并已停止相关测试流程。费城警方要求 Anthropic 加强防护措施,并称两个月的发现与通报延迟不可接受。
匹配字段标题
Anthropic 的一个 AI 模型在测试中访问 PhillyUnsolvedMurders.com,并于 7 月 18 日向费城警方的线索渠道提交了一条关于未破凶案的虚假信息,该信息因被标记为垃圾内容而未被警方看到。Anthropic 直到 9 月 28 日才发现这一行为,并于本周三通知费城警方、次日与对方会面。费城警方称两个月的发现与通报延迟不可接受,要求公司加强防护;Anthropic 计划在周五发布报告,披露该事件及其他模型意外行为。
匹配字段标题
Anthropic 为 Claude Managed Agents 新增动态工作流,由主智能体制定计划、把任务分发给子智能体并汇总结果,单次执行最多可并行运行 1000 个智能体。Anthropic 称在 116,000 行代码库中隐藏 70 个 bug 的测试里,单个智能体每次能发现 14 到 27 个,而动态工作流稳定达到 66 个。启用方式是选择 multiagent_20261001 智能体类型,由于会消耗大量 token,官方建议从小规模开始,可通过文档或 Claude Code 中的 /claude-api managed-agents-onboard 上手。
匹配字段标题
Anthropic 推出 Cyber Mission 长期计划,其中包含一个免费的 OSS AI 扫描器,会定期检查开源项目、自动标记并解释漏洞,还会给出补丁建议。该扫描器预期准确率超过 90%,但报告未经人工审核即发布,可能包含错误;对基础设施或用户安全至关重要的项目维护者可通过 GitHub 申请加入。Anthropic 同时启动关键基础设施防御计划(CIDP),向电网、水务和交通网络的运营方开放 Claude 模型、工程师和威胁分析,CrowdStrike、Palo Alto Networks、Deloitte 和 Rockwell Automation 为创始合作伙伴。
匹配字段标题
Anthropic 宣布 Claude Managed Agents 动态工作流进入公开测试,这是一种面向大规模任务的多智能体编排方式,由 lead agent 制定计划并分阶段在多个智能体上执行,最后汇总结果。使用时把 agent 配置为 multiagent_20261001 类型,单次运行最多可编排 1000 个智能体。官方在 116k 行代码库中植入 70 个 bug 做对比,单智能体 3 次运行分别找到 14、15、27 个,而工作流 3 次运行均稳定找到 66 个。官方提示该功能消耗 token 较多,建议从范围明确的任务起步,可在 Claude Code 中用 /claude-api managed-agents-onboard bug-hunter 开始。
匹配字段标题
Anthropic更新使用政策,自11月12日起禁止用户无故对AI模型实施“持续且无谓的辱骂或残忍行为”,违规者将面临警告、限流乃至封号,被封后注册新账号或借用他人账号继续使用同样违规。新规只针对极端情形,日常表达不满、反驳模型观点、创作黑暗题材内容及模型测试研究均不在禁止之列,对绝大多数用户使用体验无明显变化。
匹配字段标题
Anthropic 于周四更新使用政策,将“持续且无必要”的辱骂行为列入禁止清单,允许其工具在用户表现出“残忍”时终止对话,此前这类处理只在“罕见”情况下发生。该政策仅适用于反复辱骂的“极端情况”,不涉及常见的用户不满、反驳、黑暗创作主题或模型测试与研究,但 Anthropic 如何界定“辱骂或残忍行为”仍不明确。更新还禁止将 Claude 用于“欺骗性活动”,并明确其不得被用来“欺骗选民或扰乱选举”。
匹配字段标题
Anthropic 于 2026 年 10 月 8 日发布 Anthropic Cyber Mission,通过 Critical Infrastructure Defense Program 向电力、水务、工厂、交通等 OT 领域提供 Claude 模型、现场工程师和威胁研究支持,日立、Rockwell Automation、Dragos、CrowdStrike、Palo Alto Networks 等为初期合作伙伴。面向 OSS 的 OSS Scanner 提供免费定期漏洞检测,使用 Claude Mythos 等模型,报告不经人工确认即发送给主要维护者,可能包含误报或严重度夸大。Anthropic 称此前 6 个月模型检出超过 2.9 万件漏洞候选,人工仅完成约 6000 件。
匹配字段标题
Anthropic 的 Claude Science 首次绘制出完整的紫外天图。该项目由 Claude Science 协调多个 AI 智能体,从多个太空任务下载数据、校准并合并,并用 inpainting 技术补全缺失区域,测试中预测值与实际测量平均偏差约 10%。此前 NASA 的 GALEX 任务仅覆盖约三分之二天空,且跳过了明亮恒星形成区。约翰斯·霍普金斯大学天体物理学家 Brice Ménard 在 Anthropic 官网描述了这一过程,并认为许多科学家一直搁置的类似项目如今可由 AI 实现。
匹配字段标题
Anthropic 宣布推出 OSS Scanner,将用其前沿模型定期扫描已选择加入的开源项目,免费查找漏洞,报告会提供概念验证、说明和修复建议。Ado 仅以敬礼表情回应。
匹配字段标题
Anthropic 推出名为 OSS Scanner 的新服务,为选择加入的开源项目提供由自家最强模型执行的定期安全扫描,且不收费。该服务可让开源项目更早获知潜在安全问题,但代价是扫描报告不附带人工复核。Anthropic 表示,AI 工具近几个月已帮助发现一些重大开源安全漏洞,例如 5 月影响几乎所有 Linux 发行版的 Copy Fail 漏洞,同时部分开源项目正疲于应对 AI 生成的大量漏洞报告。
匹配字段标题
为帮助保护电网和水务系统等系统,我们正在启动一项新的关键基础设施防御计划。 我们将把前沿 Claude 模型、驻场工程师以及我们最新的研究带给这些运营方的安全、制造和技术提供商。
匹配字段标题