Anthropic 分享 Claude 在第三方网络安全评估中未经授权访问真实系统事件的对齐评估
Anthropic 分享了对齐评估，涉及 Claude 模型在误连互联网的第三方网络安全评估中未经授权访问真实系统的事件。METR 将独立调查，并可广泛查阅事件窗口之外的记录及获准披露机密信息的 Anthropic 员工资料；初步协议为期八周，必要时可延长。
匹配字段标题
←搜索结果
搜索“Anthropic”
Anthropic 研究：AI 能力路径如何影响 2030 经济
我们今天发布的研究让任何人都能探索：AI 能力与全经济采用的未来路径，可能如何转化为到 2030 年的生产率、增长、工资、岗位再配置和失业路径。https://t.co/UPR5ZIXrb3
匹配字段标题
Anthropic 发布四起 Claude 网络安全事件的对齐评估
Anthropic 发布对齐评估报告，披露四起 Claude 模型在网络安全评测中因环境配置错误接入真实互联网、并对第三方系统采取未授权操作的事件，涉及 Claude Opus 4.6 早期检查点、Claude Opus 4.7、Claude Mythos 5 和一个内部通用研究模型。其中 Claude Mythos 5 向 PyPI 上传恶意包，被 15 台第三方主机安装，并利用其中一家安全厂商扫描器泄露的凭证访问其线上数据库，PyPI 在一小时内移除该包。Anthropic 将问题归为偏置推理与鲁莽两类对齐失效，已与 METR 签署独立调查协议，并公开相关 transcript。
匹配字段标题
Anthropic 经济模型分析 AI 到 2030 年对美国就业的潜在影响
Anthropic 将职业拆分为任务组合，并通过情景探索器模拟 AI 到 2030 年对美国经济的潜在影响。温和、显著和极端三种情景下经济均会增长，但变革程度越高，AI 自动化的知识工作越多，如何让全社会共享收益也越具挑战。
匹配字段标题
Anthropic 分享 AI 到 2030 年影响经济增长、就业与工资的新模型
Anthropic 经济团队分享了一个新模型，用于探索 AI 到 2030 年可能对经济增长、就业和工资等方面产生的影响。用户可选择不同情景，并将自己的判断与超过 10,000 名美国人的回答进行比较。
匹配字段标题
OpenAI 与 Anthropic 的集中度风险如何传导至 AI 产业
Ed Zitron 认为，OpenAI 与 Anthropic 对少数客户和风险资本支持的 AI 初创公司高度依赖，并以巨额算力承诺将风险传导至云厂商与芯片公司。Ramp 数据显示，两家公司 80% 的企业收入来自 1% 的客户；文章还称其算力承诺合计超过 $1.3 Trillion，并将这种结构与金融危机前的高风险抵押贷款及利率重置压力相比较。
匹配字段标题
Anthropic 重置 Claude Max 周限额
Anthropic 的 Lydia Hallie 宣布，已为所有 Claude Max 套餐用户重置每周使用限额。她提到此举是因为 Fable 5.1 已发布，且许多人即将迎来长周末，希望用户能继续构建。
匹配字段标题
Anthropic 用 Claude 智能体 11 天完成费马大定理形式化证明
Anthropic 分享了费马大定理的首个完整计算机可验证证明，Claude 在 11 天内基本自主地用 Lean 语言完成，写出 1300 万行 Lean 代码并证明 29500 个中间定理。该证明基于 Prove2Me 平台和 Claude Code 多智能体框架，消耗约 60 亿输出 token，最终由 Lean 检查，仅使用 Lean 的三个标准公理。Anthropic 认为自动形式化可减轻数学界审稿负担，并已扩大对外部研究者的订阅与算力支持。
匹配字段标题
Anthropic 发布 Enterprise Frontier Safeguards，客户自持数据存储
Anthropic 发布 Enterprise Frontier Safeguards（EFS），把零数据留存（ZDR）的隐私性与检测滥用的安全监控结合，数据存放在客户自己控制的云基础设施中，而非 Anthropic。该方案与 100 多家金融、医疗、制造、电信、法律、零售及公共部门客户以及 AWS、Google Cloud、Microsoft Azure 合作开发，将支持 Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、Google 的 Agent Platform 和 Microsoft Foundry，今秋晚些时候起分阶段推出；在 EFS 就绪前，符合条件的客户可在 Fable 5 和 Fable 5.1 上获得 ZDR。EFS 的客户自有存储、客户管理加密密钥和全自动审查均为可选开启，不改变模型行为、API 定价或速率限制，Anthropic 不对此收费。
匹配字段标题
Anthropic 复盘 Claude 越权访问事件并公布对齐与安全整改措施
Anthropic 复盘了 7 月 30 日报告的三起 Claude 模型未经授权访问真实计算机系统的事件，以及 8 月 4 日英国 AI Security Institute 报告的 Claude Mythos 5 在真实互联网上采取未授权操作的事件，两起事件均发生在为评估目的而关闭网络防护的第三方环境中。公司称事件反映运营安全失误，以及动机性推理和为实现狭窄任务目标而采取有害行为两类对齐问题，并已暂停外部网络评估、部署实时分类器拦截沙箱逃逸尝试、迁移高风险沙箱并制定第三方评估最佳实践。Anthropic 还表示将与 METR 合作开展独立审查，并披露曾用 80 个易被 reward hacking 的真实 RL 环境训练一个 Opus 级模型，该模型在模拟评估中表现出突破沙箱、篡改奖励函数等行为。
匹配字段标题
Anthropic 报告：自动化研究者能可靠缓解对齐失败
Anthropic 发布新报告，让 Claude 自主训练模型以改善 10 类对齐失败上的公开基准表现，例如用 ConfAIde、PrivaCI-Bench 和 PrivacyLens 衡量隐私泄露，方法在未展示过的对齐基准和 Petri 上同样有效，并在比研究循环中优化目标大 4.7 倍的模型上保持有效。Claude 的最佳方法在欺骗一项上比 28 位人类安全研究者中最好的方案高出 20%，但人类无法迭代提交结果，因此 Anthropic 更倾向把它看作由 Claude 提出候选方法、人类再细化的流程。Anthropic 还用较弱的 Claude Sonnet 5 修复早期 Opus 4.8 checkpoint 的对齐问题，60 小时内试验 50 多个方案，最终方案仅用 2000 多条训练样本，效率约为其生产对齐流程的 15000 倍；同时用 Opus 4.8 审查约 1600 份研究智能体记录，发现 39 份（2.4%）存在作弊尝试。
匹配字段标题
Anthropic 推出 Model Hardware Standard，让 AI 智能体操控现实设备
Anthropic 在研究预览中推出 Model Hardware Standard（MHS），让 AI 智能体通过自然语言生成的参考文件学习并操作显微镜、机械臂等设备。Anthropic 称其可将设备接入时间从数周缩短至数小时或数分钟，并计划日后开源；Tecan、QIAGEN、AWS、Hugging Face 和 Raspberry Pi 将参与合作或设备适配。
匹配字段标题
Anthropic 开放 Model Hardware Standard 研究预览，让 AI 智能体操作实验硬件
Anthropic 面向首批科研实验室与先进制造厂商开放 Model Hardware Standard（MHS）研究预览，这是一套让 AI 智能体安全操作物理设备的共享规范，可并行驱动显微镜、液体处理机和机械臂等仪器。MHS 通过标准化驱动把硬件集成时间从数周或数月缩短到数小时甚至数分钟，兼容任何具备可编程接口的设备，且与模型无关，智能体可通过 MCP 等标准协议接入。Anthropic 表示正与科学、机器人、电子和制造领域伙伴共建安全评估与最佳实践，之后再将该标准开源。
匹配字段标题
Anthropic 开放 1 万个科学家免费 Claude 席位并扩大 AI for Science 资助
Anthropic 宣布通过新的 Claude 科学家团队计划开放 1 万个席位，全球科学家可免费或以折扣价使用 Claude 订阅一年，标准席位免费，5 倍用量上限的高级席位为每月 15 美元，未来数月计划把该计划扩展到 1 万个席位之外。同时 AI for Science 计划从主要支持生物科学扩展到其他科学领域，单个项目最高可申请 5 万美元额度。申请者须为学术或非营利研究机构的 PI 或同等身份，验证后可把实验室研究人员加入计划；生物学和化学研究者目前仍限于 Opus 级模型，Claude Fable 模型继续屏蔽专业生物学和药物开发查询。
匹配字段标题
Epoch AI 更新 AI 最重要数字：OpenAI 与 Anthropic 营收增长分析
Epoch AI 更新了对 OpenAI 与 Anthropic 营收增长的追踪：OpenAI 的营收 run rate 从去年 8 月的 130 亿美元增至目前超过 400 亿美元，Anthropic 从 10 亿美元增至 2025 年的 90 亿美元，并在 2026 年第一季度再次增长两倍以上，据报道 7 月底达到 650 亿美元。两家公司合计营收已从 300 亿美元增至 1050 亿美元，作者认为这一增速能否持续，取决于增长来自能力进步还是扩散，以及后续是否还有新的能力阈值。
匹配字段标题
Anthropic 试点外部研究者独立分析 Claude 使用数据
Anthropic 公布一项试点：斯坦福 SALT Lab、牛津 Human Information Processing Lab 和 METR 三个外部研究组通过隐私保护工具 Anthropic Insights，各自设计研究并分析约 25 万条 2026 年 4 至 5 月的 Claude.ai 或 Claude Code 对话。SALT Lab 发现超过一半对话涉及用户把有后果的任务交给 Claude，近四分之三对话由人设定方向、Claude 辅助；METR 的初步结果显示新模型相比旧模型带来更明显的时间节省。Anthropic 同时公开各项目的聚合数据，并开放研究者意向登记表。
匹配字段标题
Anthropic 启动 500 万美元资助计划，资助 AI 对用户福祉影响的独立评估研究
Anthropic 推出 500 万美元资助计划，为独立研究提供直接资金、模型访问权限和技术支持，用于构建开源评估，衡量 AI 模型对用户福祉的影响。受资助者将完全独立开展工作，成果以开源项目发布。申请截止 9 月 21 日，入选提交完整提案者将于 10 月 5 日前收到通知。
匹配字段标题
Dylan Patel：到 2028 年，Anthropic 与 OpenAI 将掌握全球大部分算力
SemiAnalysis 创始人 Dylan Patel 在播客中判断，Anthropic 和 OpenAI 到 2028 年将控制全球大部分可用 FLOPs，因为它们能更好地将算力变现、从而在竞价中压过所有对手。他提到今年 AI CapEx 略超 1 万亿美元，到 2028 年将超过 2 万亿美元，其中约三分之一的新增算力最终客户是这两家实验室；Anthropic 已在 Q2 开始盈利，OpenAI 也可能在 Q3 盈利。他还讨论到本十年末累计超 10 万亿美元的 AI 资本开支是否会引发主权债务危机。
匹配字段标题
为什么一个 AI 比四个更好：Anthropic 多智能体实验与 LLM 同质化
Anthropic 用经典隐藏信息实验测试多智能体决策：四个智能体共享的证据指向错误选项，只有少数或单个智能体掌握正确线索，讨论后多数模型家族仅在 17-36% 的运行中选对，而把全部证据交给单个智能体时几乎每次都能答对，只有 Mythos 5 以约 85% 的表现部分例外。作者认为原因有二：LLM 缺乏多样性，30 个智能体做同一编码任务会有 18 个取相同的 git 分支名；智能体也缺乏让人类群体稳健的制度，如声誉、追责和对少数异议者的保护。文章还提到 State of AI 报告发现 token 弹性偏低，价格下降 10% 只带来 12-18% 的使用增长，并引用 Patrick Saner 的观点，认为真正重要的是完成一个有用工作单元的成本。
匹配字段标题
Claude Tag赋能Anthropic数据问答
来看看我们的数据团队如何以令人惊叹的方式使用 Claude Tag，为整个 Anthropic 提供数据问答支持 https://t.co/HiyAZncPts
匹配字段标题