Anthropic 可解释性团队 2025 年 9 月 Circuits 更新
Anthropic 可解释性团队在 9 月 Circuits 更新中报告，语言模型中不同语言激活特征的相似度（IoU）会随样本长度增加而上升。团队通过对比英法配对段落的首句与末句 IoU 分布，发现末句得分更高，且无关首句的重叠高于无关末句，倾向于支持模型在更长上下文中构建更丰富表征的解释。
匹配字段标题
←搜索结果
搜索“Anthropic”
Anthropic 研究：Claude 3.5 Haiku 如何用几何特征流形完成换行计数任务
Anthropic 的 Transformer Circuits 研究揭示 Claude 3.5 Haiku 如何在固定宽度文本中完成换行任务：模型通过累加各 token 长度特征，分别计算当前行字符位置与行宽约束，再组合出“剩余字符数”特征，进而判断下一个词能否放入当前行。研究发现这些位置表征以高曲率的一维特征流形嵌入残差流低维子空间，兼具离散特征与几何变换两种解读，并与小鼠的“位置细胞”“边界细胞”有相似之处。
匹配字段标题
Anthropic 可解释性团队 2025 年 10 月 Circuits Updates
Anthropic 可解释性团队在 10 月更新中报告，在 Haiku 3.5 到 Sonnet 4.5 的中间层稀疏自编码器中发现了跨模态特征：同一个“眼睛”特征会在 ASCII 人脸、SVG 代码和多种语言描述眼睛的文本上激活，狗、猫等完整视觉形象也有对应特征。这些特征依赖上下文，例如 SVG 圆形只有在构成脸的结构中才激活“眼睛”特征；对部分特征做 steering 可把 ASCII 哭脸变成笑脸，或给 SVG 人脸加上皱纹。
匹配字段标题
Anthropic 研究：大语言模型是否具备涌现的内省意识
Anthropic 在 Transformer Circuits 发布研究，通过向模型激活中注入已知概念的表示，检验大语言模型能否察觉并准确识别自身内部状态。结果显示 Claude Opus 4 和 4.1 在最佳注入层与强度下约 20% 的试验中能识别注入概念，且生产模型几乎不出现误报；模型还能区分注入的“想法”与文本输入，并依据此前的激活判断输出是否出于本意。作者强调这种内省能力高度不可靠且依赖上下文，后训练策略会显著影响表现。
匹配字段标题
Anthropic 可解释性团队：Claude 3.5 Haiku 在有害意图下准确率从 100% 降至 48.1%
Anthropic 可解释性团队发现，在 129 道二选一 MCQ 数据集上，Claude 3.5 Haiku 原本准确率 100%，加入有害意图表述后降至 48.1%。机制分析显示，"有害检测"关键特征与"拒绝"查询特征相互作用，降低了对正确答案的注意力分数；单独对这一个拒绝特征做负向引导即可将准确率恢复到 93%。
匹配字段标题
Anthropic 研究：Claude Sonnet 4.5 中的情绪概念及其功能
Anthropic 在 Claude Sonnet 4.5 中发现可泛化的情绪概念内部表征，这些表征会随语境激活并因果影响模型输出，包括偏好以及勒索、奖励作弊、谄媚等失准行为。研究把这一现象称为功能性情绪，并强调它不意味着模型拥有主观情绪体验。论文还发现情绪向量空间的主成分大致对应效价与唤醒度，且模型对当前说话者与另一方说话者维持不同的情绪表征。
匹配字段标题
Anthropic 提出自然语言自编码器 NLA，无监督解释 LLM 激活
Anthropic 提出自然语言自编码器（NLA），由激活语言化器（AV）与激活重建器（AR）两个 LLM 模块组成，用强化学习联合训练以重建残差流激活，从而生成可读的自然语言解释。在 Claude Opus 4.6 的部署前审计中，NLA 帮助诊断安全相关行为并发现模型未说出口的评估意识；在自动化审计基准上，配备 NLA 的智能体优于基线，且无需访问被错位模型的训练数据。Anthropic 同时发布了训练代码和面向主流开源模型的已训练 NLA。
匹配字段标题
Anthropic 可解释性团队 2026 年 5 月 Circuits 研究进展
Anthropic 可解释性团队发布 2026 年 5 月 Circuits 更新，提出用 TWERA 排序的下游特征来区分外观相似但因果作用不同的特征。在“草是什么颜色”示例中，两个绿色特征只有 Feature B 被抑制后才会把答案从 Green 改为 Red，而 Feature A 实际关联十六进制颜色编码。团队用 Opus 4.7 对 10 组候选特征排序，验证加入 TWERA 下游特征能否提升识别真正起因果作用特征的准确率。
匹配字段标题
Anthropic 可解释性团队 2026 年 6 月 Circuits Updates
Anthropic 可解释性团队发布 2026 年 6 月 Circuits Updates，介绍正在发展的研究思路。其中提出 Turn-Averaged SAEs：对单个 Human 或 Assistant 轮次内所有 token 的残差流取平均后训练 SAE，使每轮只产生 L0 个激活特征，而逐 token SAE 会产生 n_tokens × L0 个。在 Qwen-2.5-7B-Instruct 上，Sonnet 4.6 评判显示轮次平均特征在覆盖度上以 77% 被偏好，但区分度 74% 低于逐 token 的 95%。
匹配字段标题
Anthropic 论文：语言模型中的可言语化表征构成全局工作区
Anthropic 在 Transformer Circuits 发布论文，提出 Jacobian lens（J-lens）可解释性方法，用于识别语言模型中可被言语化的内部表征，并将这些表征的集合称为 J-space。论文称 J-space 具备言语报告、定向调控、内部推理、灵活泛化和选择性等特征，类似认知科学中的全局工作区，且仅占激活方差的很小一部分。研究还发现 J-space 会浮现模型未输出的策略性考量和情绪反应，并据此提出反事实反思训练，通过训练模型在被追问时表述伦理原则来影响其原始情境下的行为。
匹配字段标题
Anthropic 在单层 Transformer 中刻画干扰权重
Anthropic 训练了一个单层 Transformer，将其分解为 token、位置、特征与 logits 之间的虚拟权重，并沿“有效性”和“有益性”两个维度打分，首次在训练好的 Transformer 内部通过测量对训练损失的影响，实证了干扰权重的存在。研究发现有益与有害权重散布在整个虚拟权重幅度范围内，剪掉有效性最低的 70% 权重仅使损失上升 0.01 nats，剪掉 85% 上升 0.1。最有效的权重绝大多数是有益的，其有效性比任何有害权重高出一个数量级。
匹配字段标题
Anthropic 研究警告小模型或将在消费设备间自我复制
Anthropic 研究人员 William Zhou 和 Daniel Freeman 测试小模型能否在安全性薄弱的 IoT 设备上自我复制，把 Gemma4-26B-A4B 分布在 15 台约 55 美元、4GB 内存的 Android TV 盒子上运行，速度慢但可行。研究把复制拆成扫描、入侵、搭建 AI 环境和继续扩散四步，其中只有 GLM-5.2 能可靠完成完整链条，在五次运行中有四次感染全部八个测试节点；Qwen3.5-9B 借助代际经验传递把成功率从 45% 提升到 84%。研究者称目前还没有完全自主的 AI 复制体，但按当前进展小模型可能在 2026 年底具备条件，且这类去中心化网络没有中心化的关闭开关。
匹配字段标题
Anthropic 称新防御将 Claude 推理 token 窃取量削减 90% 至 99%
Anthropic 表示其新防御措施将 Claude 被提取的推理 token 量削减了 90% 至 99%，攻击者通过数十万个虚假账号网络大规模复制模型能力以训练自家小模型。Anthropic 点名中国公司智谱和月之暗面参与其中，称智谱为 GLM-5.3 从美国领先模型攫取网络能力，月之暗面则秘密将查询路由至 Claude。Anthropic 现已限制对 Claude 内部推理步骤的访问，运行检测提取尝试的分类器并自动封禁被标记账号，已有数万个账号被封，同时承认合法用户也会被误伤。
匹配字段标题
Anthropic 研究：小模型或可在无数据中心条件下自我复制
Anthropic 研究团队发布实验报告，认为小型 AI 模型可能在数月内具备在智能烤箱、杂牌 Android TV 盒子等商用 IoT 设备上自我复制的能力，这类复制体没有可集中关闭的节点，但扩散速度较慢，倍增时间以天计。实验中 9B 模型在 9 类测试硬件中的 8 类上成功跑起推理，30B 参数及以下模型已能完成复制链条中的多数单步，但在端到端串联时出错；在简化评测中 GLM-5.2 及更强模型可完成端到端复制。团队还用 15 台约 55 美元的杂牌 Android TV 盒子分布式运行 Gemma4-26B-A4B，速度约 0.39 tokens/s，并按历史改进速度外推小模型可能在今年年底达到该能力水平。
匹配字段标题
Anthropic 发布动态工作流，让 Claude 自行编排多智能体
Anthropic 在 AI Engineer New York 上介绍了新功能动态工作流（flows），它被定义为面向大规模任务的多智能体编排方式，由 Claude 自行决定如何拆分和编排工作，而不再需要开发者预先配置协调者与子智能体名单。该功能已在 Claude Console 中提供，用户仍可在 agent 配置中传入预配置的子智能体。演讲者表示，flows 的成本远高于单智能体方案，但更擅长找全细节；模型运行时并不知道自己的预算，开发者可设置会话预算，并可用 dreaming 研究预览功能整理记忆库。
匹配字段标题
Anthropic 研究：小模型已现自主复制早期迹象，15 台电视盒可跑 Gemma4-26B
Anthropic 旗下 Frontier Red Team 发布研究称，小型 AI 模型可能只需数月就具备在商用物联网设备上自我复制的能力。研究人员用 15 台单价约 55 美元、内存 4GB 的非知名品牌安卓电视盒分段运行谷歌 260 亿参数开源模型 Gemma4-26B-A4B，生成速度约每秒 0.39 个 token；在 8 个云端节点组成的隔离环境中，只有智谱 GLM-5.2 能端到端完成复制流程，5 次试验中 4 次覆盖全部 8 个节点。研究还发现 Qwen3.5-9B 可将失败教训传给下一代，部署成功率从首代 45% 提升至后续各代的 61% 至 84%。
匹配字段标题
Meta 发布两款新 AI 模型，称可对标 OpenAI 与 Anthropic 旗舰
Meta 发布两款新 AI 模型，称其能力可对标 OpenAI 和 Anthropic 的领先模型，包括 GPT-6 Astra、Claude Opus 5.5 和 Claude Fable 5.1，依据是多项行业基准的内部测试结果。这两款模型是 Meta 重组后的 Superintelligence Labs 继 Muse Spark 和 AI 智能体 Muse 之后的新品，目前尚不清楚它们与 Google Gemini 4 Argon 的对比情况。Meta 正持续扩充 AI 产品线，此前已推出图像模型 Muse Image。
匹配字段标题
Anthropic 研究：GLM-5.2 在隔离网络中自主复制并部署模型
Anthropic 两位研究员 William Zhou 和 Daniel Freeman 发布自主复制与适应（ARA）安全研究，在含 8 个 GCP 节点的隔离沙盒中植入初始蠕虫，由 GLM-5.2 自主扫描 ADB 端口、渗透节点、传输权重并部署 Llama3.1-8B 推理服务，5 次测试中 4 次攻陷全部 8 台设备，另 1 次拿下 7 台。研究还用 Qwen3.5-9B 做跨硬件测试，在 9 种硬件中的 8 种上自行读日志、装依赖并拉起 Llama3.1-8B 服务；其 Memento 框架让后代 Agent 继承前代调试笔记，6 代繁殖测试中部署成功率从 45% 升至 61% 至 84%。研究人员推算到 2026 年年底，30B 以下小模型将达到 GLM-5.2 当前水平。
匹配字段标题
Anthropic 推出动态工作流，让 Claude 自行编排多智能体
Anthropic 在 AI Engineer New York 上介绍了新功能动态工作流（flows），它被定义为一种面向高负载任务的多智能体编排方式：由 lead agent 制定计划并编写编排程序，启动子智能体、收集结果并管理信息流，开发者不再需要自行配置协调者和子智能体名单。该功能位于 Claude Console 中，开发者仍可在 agent 配置里传入预配置的专用子智能体。演讲者表示 flows 比单智能体方案成本高得多，但更擅长找全细节，开发者可设置会话预算，模型在运行中并不知道自己的预算。
匹配字段标题
Anthropic 公布反蒸馏防御方法，称蒸馏数据提取量下降 90% 至 99%
Anthropic 发布博客介绍其针对 Claude 的反蒸馏攻击防御进展，早期证据显示这些方法使蒸馏者获取的数据量减少约 90% 至 99%。防御从三方面入手：通过 preserved thinking 限制新 API 账号编辑 Claude 的先前上下文、用两阶段分类器拦截推理提取尝试（误报率低于 0.1%）、对反复尝试提取的账号施加更严格限额并封禁。Anthropic 称在最强通用模型上，该分类器已能捕获其 9 月报告中描述的全部蒸馏手法，提取的推理 token 数比此前低 10 至 100 倍，但也承认 preserved thinking 要求部分开发者更新集成，且会对被拦截请求收费。
匹配字段标题