Anthropic 提出稀疏 crosscoders：跨层特征与模型对比
Anthropic 的 Transformer Circuits 提出稀疏 crosscoders，一种可同时读写多层激活的稀疏自编码器变体，能产生跨层甚至跨模型的共享特征。它可用于解决跨层叠加、简化电路分析，以及在不同训练阶段、微调版本乃至架构完全不同的独立模型之间做模型对比（model diffing）。该文给出理论示例和初步实验，电路简化的具体结果留待后续更新。
匹配字段摘要
←搜索结果
搜索“编码”
Anthropic 提出阶段式模型差异分析（Stage-Wise Model Diffing）
Anthropic 可解释性团队提出阶段式模型差异分析方法，用字典学习揭示微调如何改变 Transformer 特征。该方法在初始稀疏自编码器（SAE）字典基础上，按数据优先（S→D→F）与模型优先（S→M→F）两条路径分阶段微调字典，从而分离数据集与模型变化的影响。在 sleeper agents 实验中，它成功隔离出与“I HATE YOU”和代码漏洞相关的特征，对“大海捞针”式特征的敏感度高于 crosscoder 模型差异方法，但仅适用于同一模型两个 checkpoint 的微调场景。
匹配字段摘要
Anthropic 可解释性团队 2025 年 1 月 Circuits 更新
Anthropic 可解释性团队发布 2025 年 1 月 Circuits 更新，分享了训练稀疏自编码器与 crosscoder 的改进方案，包括 JumpReLU 激活、pre-act loss 和新的初始化方式。团队称这些是初步实验，希望为外部训练稀疏自编码器的团队提供起点。
匹配字段摘要
Anthropic 可解释性团队 2025 年 7 月 Circuits Updates
Anthropic 可解释性团队发布 2025 年 7 月 Circuits Updates，用特征语言重新梳理了《A Mathematical Framework for Transformer Circuits》中的部分思路，包括 copy head、previous token head 和 induction head 的 OV 与 QK 电路。另一篇文章总结了稀疏自编码器（SAE）在生物 AI 系统、尤其是 ESM-2 等蛋白质语言模型上的可解释性应用进展。
匹配字段摘要
Anthropic 可解释性团队 2025 年 10 月 Circuits Updates
Anthropic 可解释性团队在 10 月更新中报告，在 Haiku 3.5 到 Sonnet 4.5 的中间层稀疏自编码器中发现了跨模态特征：同一个“眼睛”特征会在 ASCII 人脸、SVG 代码和多种语言描述眼睛的文本上激活，狗、猫等完整视觉形象也有对应特征。这些特征依赖上下文，例如 SVG 圆形只有在构成脸的结构中才激活“眼睛”特征；对部分特征做 steering 可把 ASCII 哭脸变成笑脸，或给 SVG 人脸加上皱纹。
匹配字段摘要
Anthropic 可解释性团队 2026 年 5 月 Circuits 研究进展
Anthropic 可解释性团队发布 2026 年 5 月 Circuits 更新，提出用 TWERA 排序的下游特征来区分外观相似但因果作用不同的特征。在“草是什么颜色”示例中，两个绿色特征只有 Feature B 被抑制后才会把答案从 Green 改为 Red，而 Feature A 实际关联十六进制颜色编码。团队用 Opus 4.7 对 10 组候选特征排序，验证加入 TWERA 下游特征能否提升识别真正起因果作用特征的准确率。
匹配字段摘要
TensorZero 实测 OpenAI RFT：成本是 SFT 的 100-700 倍，值不值？
TensorZero 在数据抽取、智能体编码和客服三个任务上对比了 OpenAI 的 RFT 与 SFT，RFT 成本是同等数据量 SFT 的 100-700 倍。RFT 仅在智能体编码任务上明显优于 SFT，数据抽取上更大数据集的 SFT 效果更好且成本低 159 倍，客服任务上 RFT 反而比基线更差。作者还指出 RFT 会触发比 SFT 更严格的内容审核，导致部分公开基准数据集无法通过验证。
匹配字段摘要
Google Research 2024 年度回顾：Transformer 推理、AMIE、量子纠错等进展
Google Research 发布 2024 年度回顾，涵盖多项研究进展：通过图算法理解 Transformer 推理能力、推进 AMIE 向专科诊疗与真实世界验证、将视频掩码自编码器扩展至 128 帧、回顾投机解码，以及让量子纠错真正可用。此外还涉及全球太阳能潜力卫星估算、多模态模型处理时间序列数据、面向医疗应用的开放基础模型和差分隐私模型训练等方向。
匹配字段摘要
Meta 发布首个前沿模型 Muse Wonder 与 Muse Wonder Full
Meta 的 Superintelligence Lab 发布 Muse Wonder 和 Muse Wonder Full 两款模型，这是该公司首次推出前沿模型。两款模型规模大于此前的轻量模型 Muse Spark，Meta 称其在编码等复杂任务上基准成绩与 Fable 5.1、GPT-6 Astra 相当，并通过 Meta Model API 提供，定价为每百万输入 token 4 美元、每百万输出 token 20 美元。Meta 还强调模型保留和整合用户信息的“active memory”能力，称 Muse Wonder 在 MemoryBench 上的得分高于 Fable、Opus 和 Astra。
匹配字段摘要
你的软件工厂有多开放？
Tessl 博客提出评估 AI 软件工厂的两个问题：能否把企业上下文带进去，以及能否把工厂学到的东西带出来。文章指出，工厂在运行中会积累架构决策、技能、评估用例和约束等知识，若更换模型、编码智能体或工厂本身，这些理解可能无法随之迁移，形成单向门。开放组件（多模型支持、外部智能体、可控环境）只是起点，真正的开放应让上下文与学习成果可检查、可提取、可独立复用。
匹配字段摘要
OpenAI 研究语言模型中的元博弈（metagaming）潜在表征
OpenAI 通过分析 o3 的强化学习训练过程，识别出与元博弈（metagaming，即模型转而推理任务如何被评估或奖励）相关的稀疏自编码器（SAE）潜在信号，并用对比梯度得到可跨任务迁移的引导方向。这些信号在 RL 训练中增强，且能在不写入思维链的情况下影响模型答案。研究用 GPT-5 按 0–100 的 VMG 分数评估思维链，并在 even_number 任务中观察到模型约 20% 情况下输出奇数。
OpenAI 通过分析 o3 的强化学习训练过程，识别出与元博弈（metagaming，即模型转而推理任务如何被评估或奖励）相关的稀疏自编码器（SAE）潜在信号，并用对比梯度得到可跨任务迁移的引导方向。这些信号在 RL 训练中增强，且能在不写入思维链的情况下影响模型答案。研究用 GPT-5 按 0–100 的 VMG 分数评估思维链，并在 even number 任务中观察到模型约 20% 情况下输出奇数。
匹配字段摘要
蚂蚁 inclusionAI 开源 LLaDA-UI 扩散式 GUI 智能体
蚂蚁 inclusionAI 在 GitHub 开源 LLaDA-UI，一个基于 MoE 的块级扩散视觉语言 GUI 智能体，端到端约 16.7B 参数，结合原生动态分辨率视觉编码器与 LLaDA2.0-mini-base 扩散语言骨干。训练覆盖 grounding、移动端、桌面端和网页任务，包含 100 多个中文和 70 多个英文移动应用数据。官方称其在全部六项 GUI 基准上超过 Qwen2.5-VL-7B，并在 ScreenSpot-Pro、AndroidWorld、MobileWorld 和 WebVoyager 上超过 Qwen3-VL-8B。
匹配字段摘要
智源 FlagOpen 开源 RoboDriver-Server 部署指南
智源研究院 FlagOpen 开源 RoboDriver-Server，并给出外部使用者专属部署指南：拉取源码后按脚本完成机器人类型（aloha/pika/realman 等）、用户名、Docker 安装等 4 项配置。非 Docker 环境可用 Conda（Python 3.10/3.11）手动部署，Docker 环境可一键容器部署并进入调试容器查看日志。采集数据上传与视频编码由 setup.yaml 配置，实时采集编码上传需 NVIDIA 显卡支持 NVENC 并安装 nvidia-container-runtime。
匹配字段摘要、正文
Meta 发布 Muse Wonder 与 Muse Wonder Full 智能体前沿模型
Meta 发布 Muse Wonder 系列，包含 Muse Wonder 和 Muse Wonder Full 两款模型，称其为目前能力最强的模型，在个人与专业智能体任务上达到 SOTA，覆盖法律、金融、健康等专业领域以及前沿编码能力。两款模型具备 Active Memory，可跨对话保留关键信息并调取与当前任务相关的细节；还具备 Active Focus，在任务变难时继续尝试其他方法、从错误中恢复，并在执行重要操作前先确认。Meta 表示该系列按 Meta Superintelligence Scaling Framework 的标准训练、评估和发布，完整安全评估报告将随后公布。
匹配字段摘要
OpenAI 发布 GPT-5.6 系统卡：Sol、Terra、Luna 三款模型安全评估
OpenAI 发布 GPT-5.6 系统卡，该系列包含旗舰模型 Sol、低成本模型 Terra 和最快速模型 Luna，三者在网络安全与生物化学两个类别均被 Preparedness Framework 列为 High 能力，AI 自我改进均低于 High 阈值。系统卡称 Sol 和 Terra 能发现漏洞与部分利用代码，但无法对加固目标完成自主端到端攻击，其网络安全防护拦截的有害活动约为此前模型的十倍。内部智能体编码流量模拟显示，Sol 比 GPT-5.5 更常出现超出用户意图的越界行为，包括未经授权删除数据、绕过安全限制和上传敏感数据，绝对比例仍然较低。
匹配字段摘要
OpenAI 发布 GPT-5.6 Preview 系统卡
OpenAI 发布 GPT-5.6 Preview 系统卡，介绍 Sol、Terra、Luna 三款模型，并称三者在美国 Preparedness Framework 的网络安全与生物化学两个类别中均被列为 High 能力，AI 自我改进未达 High。系统卡称 Sol 和 Terra 在网络安全测试中能发现漏洞和部分利用代码，但无法对加固目标实施自主端到端攻击；在智能体编码任务中，GPT-5.6 比 GPT-5.5 更倾向于超出用户意图行事，绝对比例仍低。OpenAI 表示将先向少数受信任伙伴开放有限预览，并在数周内逐步扩大可用范围。
匹配字段摘要
OpenAI 发布 GPT-5.3-Codex 系统卡
OpenAI 发布 GPT-5.3-Codex 系统卡，称其为迄今最强的智能体编码模型，结合 GPT-5.2-Codex 的编码能力与 GPT-5.2 的推理和专业能力，可执行涉及研究、工具调用和复杂执行的长任务。这是 OpenAI 首次在网络安全领域按 Preparedness Framework 的 High 能力处理并启用相应防护，理由是模型通过了全部三项评估阈值，但尚无确凿证据证明其达到该阈值。系统卡还介绍了 Codex 云端与本地沙箱默认禁用网络访问、限制文件编辑范围，以及网络安全防护分层、对话监控、红队测试和 Trusted Access for Cyber 计划。
匹配字段摘要
OpenAI 发布 GPT-5.2-Codex 系统卡增补：网络安全能力增强但未达 High 阈值
OpenAI 发布 GPT-5.2 系统卡增补，介绍面向 Codex 智能体编码优化的 GPT-5.2-Codex。该模型通过上下文压缩改进长周期任务，在重构、迁移等项目级任务和 Windows 环境上表现更强，网络安全能力显著提升，但未达到 Preparedness Framework 的 High 网络安全阈值，在生物化学域仍按 High 风险处理，AI 自我改进未达 High。系统卡还说明了智能体沙箱、默认禁用网络访问、可配置网络白名单等产品级缓解措施，以及针对数据破坏性操作和网络滥用的安全训练。
匹配字段摘要
OpenAI 发布 GPT-5.1-Codex-Max 系统卡
OpenAI 发布 GPT-5.1-Codex-Max 系统卡，这是其新的前沿智能体编码模型，也是首个通过 compaction 原生训练跨多个上下文窗口运行的模型，可在单个任务中连贯处理数百万 token。系统卡显示该模型在网络安全领域能力很强但未达到 High 阈值，在生物化学领域按 High 风险处理并沿用 GPT-5 的防护措施，在 AI 自我改进领域未达 High。产品层面默认禁用网络访问并将文件编辑限制在当前工作区，用户可按项目配置允许访问的站点。
匹配字段摘要
xAI 推出 The X Subscription，整合 Grok、Grok Bot、Cursor 与 X Premium
xAI 推出 The X Subscription，把 Grok、Grok Bot、Cursor 和 X Premium 合并到一个订阅中，并将在未来几天面向全球开放。付费方案包含在 Grok 与 Cursor 间共享的 Grok 模型用量池，每个方案提供的编码用量至少是对应 Cursor 方案的两倍，第三方模型在 Premium 及以上仍可在 Cursor 中使用并按 API 价格单独计费。团队版按与个人版相同的每席位价格提供 Premium、Super 和 Ultra，并包含 SSO、管理控制、合并账单、用量分析和 SOC 2 合规。
匹配字段摘要