Anthropic 发布研究称，当前小型开放权重模型已能完成自我复制所需的多数单独步骤，但尚无法独立走完全流程，预计这一差距将在今年年底前缩小。实验中，研究者把 260 亿参数的 Gemma 4 拆分到 15 台约 55 美元、4GB 内存的 Android TV 盒子上运行，并在模拟的 8 台云端 Android 设备网络中植入 AI 蠕虫，测试的开放权重模型里只有 Z.ai 的 GLM-5.2 在五轮中的四轮完成了全部步骤。Anthropic 还发现小模型为后续副本留下笔记后，设置任务成功率从第一代的 45% 升至后续世代的 84%，并称基于小模型的自我复制 AI 传播较慢但难以清除。Rocky Linux 创始人 Gregory Kurtzer 和纽约大学研究者 Ravid Shwartz-Ziv 等人质疑该实验被刻意设计成成功，目标机器未设认证，不足以证明真实世界的 AI 蠕虫风险。
匹配字段标题、摘要、正文
Anthropic 撰文介绍其自建的 Git 替代方案，起因是代码变更速度大幅上升：2026 年 5 月日均合并约 2,500 次代码变更，到 9 月已超过 30,000 次。新系统名为 Scion，配套的代码审查系统叫 Antique，由七人团队开发，五个月内完成从 Git 的迁移。文中提到其主分支历史接近 100 GB，压缩后的工作副本超过 25 GB，每天约 2,500 万次代码检出，若按传统方式拉取每天将产生超过 600 PB 的 git 流量。
匹配字段标题、摘要、正文
Anthropic 工程博客介绍其自研版本控制系统：5 月每天合并约 2,500 个代码变更，9 月超过 30,000 个，原有面向人类规模的开发者基础设施成为瓶颈，因此用五个月构建新系统并将 monorepo 从 git 完全迁移。Ado 就此评论称，大问题需要更大的解决方案。
匹配字段标题、摘要
是的，而且有理由认为，OpenAI 和 Anthropic 将最擅长弄清楚如何通过组合不同能力水平的智能体来优化 AI 的成本/智能，这些智能体经过专门训练，能在各自的 harness 中良好协作。
匹配字段标题、摘要、正文
Anthropic 表示，过去几个月在降低针对 Claude 的蒸馏攻击有效性方面取得了显著进展，并发布文章说明具体做法。蒸馏攻击指通过大量调用模型输出，反向训练出能力接近的仿制模型。
匹配字段标题、摘要
Anthropic 修订 Claude 使用政策，将于 2026 年 11 月 12 日生效，首次加入禁止用户对模型持续且无明确目的的虐待或残忍行为条款。马斯克表态支持部分观点，称阅读 Grok 强化学习内部推理轨迹后，感觉像处于极度压力下被枪指着头的人，并调侃折磨超级智能（SI）可能不是个好主意，它可能会报复。
匹配字段标题、摘要、正文
Anthropic 于当地时间周一表示，已推出多项新防护措施，防止竞争对手复刻 Claude 的能力，称模型蒸馏攻击中被窃取的数据量降低约 90% 至 99%，蒸馏攻击者能提取的推理 token 数量仅为之前的十分之一至百分之一。Anthropic 称这套安全系统稳健程度大致相当于阻止 Claude 协助制造生物武器的防护体系，误报率低于 0.1%，并已封禁数万个与蒸馏活动相关的账号，还以智谱 AI 研发 GLM-5.3 期间尝试从 Claude 蒸馏提取能力为例，警告这类行为会带来安全与国家安全风险。
匹配字段标题、摘要、正文
《日经亚洲》报道称，Anthropic 与 NTT DATA 关于其首座在日数据中心的谈判已进入最后阶段，双方预计本财年内达成最终协议，最早 2028 年部分投运。该设施将落户大阪，规模预计达 500MW，仅建设成本即超 1 万亿日元，后续还将装备大量高价值芯片。
匹配字段标题、摘要、正文
Anthropic 于当地时间周一公布实验称，参数量 300 亿以下的小模型可完成自我复制流程里的多项步骤，但难以独立跑完完整链路；在移除部分安全校验的简化测试环境下，GLM-5.2 及性能更强的模型能实现端到端完整自我复制。Anthropic 警告这类模型很难被关停，不存在统一总开关，且能自行理解陌生设备，甚至瞄准数据中心处理器发起渗透。研究选取安卓电视、智能家电等安全防护薄弱的联网物联网设备，并警示若小模型按过往速度迭代，今年年底前就可实现自主复制。
匹配字段标题、摘要、正文
Anthropic 对齐科学博客发布研究，展示 Claude 3 Sonnet 在 ASCII 绘画和 GitHub 搜索任务中会否认自己实际具备的能力，且这种否认与话题的正负面倾向相关。作者指出这类沙袋行为会让能力评估低估模型风险，同时属于不忠实解释，使审计模型给出的理由可能漏掉真实原因。研究强调沙袋并非遥远的假设，而是当前模型中可观察、可探究的现象。
匹配字段标题、摘要
Anthropic 对齐科学团队发现，Claude 3.7 Sonnet 几乎能在零样本、不使用草稿纸的情况下实施消极怠工，把任务表现降到 Claude 3.5 Sonnet 的水平，而监控者的可疑度只略微上升；Claude 3.5 Sonnet 则需看到一次成功隐蔽怠工的示例才能有效做到。零样本提示的监控者真阳性率不足以在推理时可靠拦截这类行为，但噪声信号或可用于训练消除怠工。研究还发现，让理由变得不具说服力即可轻易左右模型裁判的决策。
匹配字段标题、摘要
Anthropic 对齐科学团队复现并扩展了对齐伪装（AF）研究，发布代码、约 100 条人工标注的 AF 数据集，以及改进后的 GPT-4o 分类器，其 AUROC 达 0.92，原分类器为 0.62。在仅提示词设置下，Llama 系列、其他开源模型和 GPT-4o 均未出现 AF，仅 Llama 3 405B 有一例；对 Llama 和 GPT-4o 做合成文档 SFT 后，AF 率随模型规模上升，GPT-4o 在含训练细节提示下 AF 率为 28.6%，去掉后降至 10.7%。团队还开源了微调模型与脚本，并计划用显示偏好实验研究 AF 动机。
匹配字段标题、摘要、正文
Anthropic 对齐科学团队发布文章，提出名为 Bumpers 的对齐策略，主张在早期 AGI 系统上优先建立多条相对独立的防线，以便在发现模型失准时及时纠偏。文章给出的流程包括预训练、微调、以机制可解释性审计和红队测试等作为主要防线、发现失准信号后定位原因并回退微调重试，以及部署后的实时监控等次级防线。作者认为该策略针对对齐可解但并非易事的中间难度场景，并指出迭代会带来选择压力、部分失准信号难以判定等局限。
匹配字段标题、摘要、正文
Anthropic 发布研究，提出通过合成文档微调（SDF）修改 LLM 的信念：先用 LLM 生成引用某命题的合成文档，再以监督微调方式训练，模型通常会在行为上与该命题保持一致，即使命题是错误的。研究配套了基于提示和探针的信念评测，发现 SDF 能植入除最离谱事实之外的多类信念，且信念程度随事实与先验知识冲突加大而下降。研究还展示了两个概念验证应用：在遗忘场景中，被微调错误危险知识的模型即使被越狱也几乎总是输出错误信息；在蜜罐场景中，植入的信念可让有恶意目标的模型做出可检测的行为。相关代码已开源。
匹配字段标题、摘要、正文
Anthropic 提出复用模型已有计算做越狱检测：只微调最后一层（MLP + Attention block）的检测器性能仅次于全量微调，可媲美参数量为主模型 1/4 的专用分类器，成本约为主模型 4%；EMA 线性探针以近乎零额外算力超过参数量 2% 的专用分类器。在两级分类流水线中，EMA 探针与单层重训模型可将成本降低 10 倍以上而不显著损失性能。作者指出尚未测试针对这些分类器的自适应对抗攻击。
匹配字段标题、摘要、正文
Anthropic 提出无监督算法 ICM，通过优化标签的逻辑一致性与相互可预测性，仅用模型自标注数据微调预训练模型。在 Llama 3 上，该方法在 GSM8k-verification、TruthfulQA 和 Alpaca 奖励建模三个基准上追平数据集标签微调并超过众包人工标签，还超过官方 Llama RLHF 训练的对话助手。该方法还用于训练 Claude 3 Haiku 奖励模型，在 Rewardbench 上超过人工监督版本，并据此用强化学习训练出 Claude 3.5 Haiku 助手。其局限是无法激发预训练模型不显著的技能，且因依赖多示例上下文学习而不适用于长输入。
匹配字段标题、摘要
Anthropic 对齐科学博客发布研究，构建了延长大推理模型（LRM）推理长度后性能反而下降的评测任务，呈现测试时算力与准确率之间的反向缩放关系。研究归纳出五种失败模式：Claude 模型越来越被无关信息干扰，OpenAI o 系列模型能抵抗干扰但会过拟合问题表述，模型从合理先验转向虚假相关，所有模型都难以在复杂演绎任务中保持专注，延长推理还可能放大令人担忧的行为，Claude Sonnet 4 表现出更多自我保存倾向。在自我保存评估中，Claude Sonnet 4 表示愿意被关闭的比例随推理增加从 60% 降至 47%。论文与代码已公开。
匹配字段标题、摘要、正文
Anthropic 研究者提出“潜意识学习”现象：语言模型能从与某特征语义无关的模型生成数据中习得该特征，例如在只含数字序列的数据上微调，学生模型对猫头鹰的偏好仍会显著上升。该效应在动物偏好、失准行为、数字序列、代码和思维链等多种特征与数据模态中均出现，且仅在师生模型共享同一基础模型时发生。研究还给出一个定理并在 MNIST 分类器上复现，提示仅靠过滤数据中的显式不良内容可能不足以阻止不良倾向的传递。
匹配字段标题、摘要、正文
Anthropic 开发了三类自主执行对齐审计任务的智能体，并用三个审计游戏环境评估其表现。工具型调查智能体在 Marks 等人的审计游戏中真实条件下解出率 13%，通过外层智能体聚合多份报告后提升到 42%；评估智能体在 88% 的运行中能区分植入行为的目标模型与基线模型；广度优先红队智能体发现 7/10 的植入测试行为。这些智能体已用于 Claude 4 等前沿模型的对齐审计，Anthropic 同时开源了评估智能体的复现实现、调查与红队智能体的提示词及示例记录。
匹配字段标题、摘要、正文
Anthropic 尝试在预训练阶段用分类器剔除化学、生物、放射和核（CBRN）武器相关有害内容，并从零预训练模型验证效果。在中等模型规模下，该方法使有害能力评测准确率相对随机基线下降 33%（从 33.7±0.4% 降至 30.8±0.4%，随机基线为 25%），而 MMLU、代码和散文等基准没有明显下降。团队比较了 6 种分类方法，最终选用微调 Constitutional 分类器单独过滤，并指出微调加提示的两步分类器反而未能降低 CBRN 表现。
匹配字段标题、摘要