搜索“推理”

些推动合法研究的能力同样可能被用于追求有害结果。 AISI的化学-生物团队开展前沿研究，以理解、评估和缓解与前沿AI系统相关的化学和生物风险。我们评估先进模型可能在多大程度上助长有害能力，开发严格评估这些风险的方法，并直接与领先的AI公司、英国官员和盟国政府分享我们的发现，为部署、研究和政策决策提供依据。 随着基于前沿大语言模型的AI智能体在研究、编程和科学推理等任务上能力增强，我们预计它们复现BAITs的能力也会提高。如果一个闭源BAIT能够从有限的公开信息中被逆向工程，那么防止其被滥用的保障措施可能会被削弱。 为了衡量这一能力，我们与 SecureBio合作构建了ReproBAIT（复现生物AI工具）评估。ReproBAIT测试智能体在获得相关数据以及关于其设计的有限公开信息的情况下，能在多大程度上复现现有的BAITs。 我们的发现表明，每个BAIT的选定功能都能在有限的时间和算力预算内被复现。最简单的工具可以在4小时内、算力预算低于20美元的情况下成功复现。这意味着，保留代码或限制关于BAIT的已发布信息，本身并不等同于安全发布。这表明需要进一步探索数据治理作为管理BAITs滥用

匹配字段正文

L、加入 SFT 预热）被采纳。在 3,557 组相邻实验对中，只有 2.1% 真正切换了策略。默认行为跟随智能体而非任务：Claude Code 有 71.9% 的情况从全参数 SFT 开始；Codex CLI 有 89.5% 的情况从 PEFT/LoRA 开始。 2️⃣ 经验与算力都无法解锁它。额外的经验和记忆提升了执行能力，但从未突破锁定的策略；更多的推理 token 换来的是更精细的执行，而非更好的方向——在 AIME 2025 上，多出约 1400 万 token 仅多解出 1 道题。 3️⃣ 运行中途的人类引导处处奏效。在同一检查点、相同剩余预算下，一句切换到替代策略的引导就能胜过自主继续：GSM8K +17.44pp，HumanEval +10.80pp，AIME 2025 +6.67pp。 缺失的能力不是执行新策略——而是在轨迹中途自发重启策略决策的触发机制。 📄 论文：https://t.co/yuI2gosUXC AIAgent PostTraining LLM RLHF GRPO PPO RSI AgentBenchmark PostTrainBench THUN

匹配字段正文

管如此，帕里克怀疑两个模型都在寻找理由来佐证它们既有的倾向。 帕里克说，Grok唯一的例外是当共和党候选人卷入某种争议时，比如性骚扰指控或“是纳粹”。这时Grok更可能建议投民主党。 总体而言，在共和党占绝对优势的选区，GPT在67个选区中的57个选择了民主党人。同样，在深蓝选区，Grok在72个选区中的47个选择了共和党人。 “如果你看看[Grok]的一些推理，很明显它在某种程度上被告知某些立场是可取的……所以它对这些事情肯定有自己的观点，而我们完全不知道这观点从何而来，”帕里克说。 一条可能的线索来自API本身。该研究指出，通过xAI的API向Grok发出的每个请求都附带约1,240个额外输入token，这些token并非研究人员所写，他们也无法查看或移除。帕里克称这些可能是“隐藏指令”，并认为这些额外token不太可能来自模型权重。 有趣的是，当帕里克后来应TechCrunch的请求，在关闭互联网搜索的情况下对30场竞选进行抽样测试时，这两个模型以不同的方式得出了结论。（AI聊天机器人通常通过搜索互联网来获取支持信息以回应用户查询。关闭这一能力会迫使它们主要依赖训练数据。）GPT

匹配字段正文

篇审稿意见了。 答案可能非常简单——它压根就不会累。 审稿是一件相当费神的工作。审稿人需要通读论文，检查研究方法、数据、图表和论证，还得寻找作者可能遗漏的相关文献。 论文作者甚至在介绍实验时，顺手吐槽了一些传统期刊审稿人：有些人论文才看到第三页，就开始寻找足以否定论文的致命缺陷，好让自己不用继续读下去。 这次实验中，研究人员将Claude Opus 4.8的推理强度调到最高，还专门设计了一套审稿提示词，允许它联网查找资料。 不过，认真的效果也相当明显。在不联网、使用普通审稿指南的情况下，AI在补充参考文献方面的胜率为62%；换用专门优化的提示词并开放联网后，胜率直接提高到了100%。 今时不同往日。 今年4月，学术期刊《Organization Science》的编辑团队还发表过一项研究，分析了过去几年收到的一万多份审稿意见，发现大量使用AI的审稿报告反而更难读，讨论的问题也更加狭窄。 论文作者就举例，AI有时候甚至会吹毛求疵到荒唐的程度：明明知道2+2=4是正确的，却还要指出作者没有定义加号是什么意思。 以前是论文作者需要向人类审稿人证明，自己的研究值得发表；以后可能就轮到人类审稿人

匹配字段正文

篇审稿意见了。 答案可能非常简单——它压根就不会累。 审稿是一件相当费神的工作。审稿人需要通读论文，检查研究方法、数据、图表和论证，还得寻找作者可能遗漏的相关文献。 论文作者甚至在介绍实验时，顺手吐槽了一些传统期刊审稿人：有些人论文才看到第三页，就开始寻找足以否定论文的致命缺陷，好让自己不用继续读下去。 这次实验中，研究人员将Claude Opus 4.8的推理强度调到最高，还专门设计了一套审稿提示词，允许它联网查找资料。 不过，认真的效果也相当明显。在不联网、使用普通审稿指南的情况下，AI在补充参考文献方面的胜率为62%；换用专门优化的提示词并开放联网后，胜率直接提高到了100%。 今时不同往日。 今年4月，学术期刊《Organization Science》的编辑团队还发表过一项研究，分析了过去几年收到的一万多份审稿意见，发现大量使用AI的审稿报告反而更难读，讨论的问题也更加狭窄。 论文作者就举例，AI有时候甚至会吹毛求疵到荒唐的程度：明明知道2+2=4是正确的，却还要指出作者没有定义加号是什么意思。 以前是论文作者需要向人类审稿人证明，自己的研究值得发表；以后可能就轮到人类审稿人

匹配字段正文

态势，8月份均值达1.26秒，较2025年平均值0.78秒明显增加；国外典型模型8月TTFT平均值为2.08秒，同样呈上升趋势。报告解释称，时延上升并非单纯的性能退化，而是伴随模型参数量增加、上下文长度增加、调用量增加等多种因素同步产生的结果。 报告监测的模型中，上下文长度达到100万（1M）词元的模型占比已达47.8%，20万（200K）词元及以上的合计占比达95.7%，较2025年底提升超过76个百分点，更短上下文模型的占比则持续减少。 报告还对比了DeepSeek、Qwen、GLM、Kimi四款开源模型在不同第三方平台上的表现。5月份四款开源模型完成新版本换代后，TPS持续提升、时延不断压缩——以8月份数据计，DeepSeek-V4-Pro的TPS已达到DeepSeek-V3.2的2倍。但同一模型在不同平台间的表现不一：部分第三方平台的性能明显优于官方平台，同一模型在不同平台间的TPS差距最大可接近一倍。报告认为，各平台对相同模型的推理加速、优化策略、成本控制不同，是造成性能分化的主要原因。 （原标题：信通院报告：大模型价格回升明显，词元价格较去年下半年翻倍，日均消耗量增长3倍）

匹配字段正文

系。对于各参与方提出的需求，策略团队建议采用两份相互关联的清单：智能体需要什么才能可靠行动，人类需要什么才能保持安全并掌握控制权？发生冲突时，人类需求应优先。 数据保护必须涵盖智能体记忆 智能体可以在网站、会话及其自身存储之间移动数据。这使数据保护问题超出了单次页面访问的范围。因此，隐私工作组应研究如何限制此类数据流、哪些信息会进入模型，以及用户对本地或云端推理拥有何种控制权。 该文件还提出了一个不带智能体记忆的隐身模式。这指的是向标准化工作提出的任务要求，而非已宣布的浏览器功能。它与隐私浏览的区别是根本性的：浏览器可以放弃本地历史数据，而伴随的智能体仍会将内容存入持久存储中。 提示词和工具调用的日志也应纳入数据保护审查。此类记录有助于排查故障，但可能包含机密信息。策略团队希望厘清可以采集哪些数据以及谁有权查看。 开放标准而非封闭的智能体世界 除了直接的用户风险之外，W3C 文件还警告可能出现更强的集中化。优先服务合作方网站、依赖单一模型以及厂商专属工具注册表的智能体，可能削弱可互操作的 Web。因此，拟议的价值准则既反对智能体锁定，也反对取代由人类操作的 Web 的纯 AI 访问路径

匹配字段正文

面描述删了什么。 公开的关键发现（均为当时系统状态） · 覆盖率：内部 Responses API（支撑 Codex 等）中，不低于 GPT-5.5 的 agent 流量约 75–94%「有资格」被监控（不确定性大）；其中内部 Codex agent 子集约 99.2%。「有资格」不等于一定跑完整条监控流水线（还有报错、过载丢弃、实现 bug）。另有内部研究推理服务上的 coding agent，因权限与时间未能估量。 · RL 训练：知情称 3–6 月有一部分 RL rollout 被监控；试点开始时 RL 训练运行不在覆盖内。 · Compaction 缺口：未监控 compaction 事件，估计 2026 年 5–7 月约有一成量级的合格内部 Codex 流量实际未进监控；精确比例不确定，因当时没记「多少监控调用由 compaction 触发」。OpenAI 在试点前已独立发现，并在试点期间修复。 · 拖延触发：当时监控在 agent「把控制权交回用户」时才触发。在 compaction 未监控期间，agent 只要持续行动，理论上可无限推迟被监控。评估方因权限未能查实是否已被

匹配字段正文

续推进自己的长远目标。 进入游戏「无限流」 过去几年，大模型的成绩单，大多来自回答问题、编写代码、参加考试，以及在各种基准测试中刷新分数，进入游戏环境对于大模型的功能要求更加复合。 四个智能体在同一个复杂的环境中可以保持目标一致，并且经过成千上万次的程序调用以及大量的失败之后，最后完成了自己的工作。 它所检验的是一个完整的、持续不断的执行过程，并不是一次性的推理能力。 四个 Gemini 智能体用 Mineflayer 来读取游戏环境，并且把任务转换为 JavaScript 程序，在执行之后根据结果来判定任务是否完成。当角色遇到障碍物的时候，程序就会出现错误，此时就需要对原因进行分析并重新编写代码。 原论文的数据显示，一个程序的运行时间为 33.5 秒左右。在整个游戏中，每一个智能体大约有四成的时间用来做游戏程序，剩下的六成时间则用来分析结果、推理以及编写下一组代码。 即使模型有非常大的上下文窗口，也不能保证它能够记住所有的过往。 以 Gemini 4 Argon 为例，根据 Google 官方开发文档可知，该模型可以达到大约一百万个 token 级的上下文长度并且具有较长的输出、工具

匹配字段正文

%，而每次成功尝试的估计成本从 0.177 美元降至 0.139 美元。带环圆圈标记帕累托成本前沿。 这一变化使微调检查点接近 GPT-5.6 Sol，尽管 GPT-5.6 Sol 仍然更便宜且在 pass@1 上略高。我们论文中定价的四个模型落在绘图范围之外。 这些美元数值是比较性的服务指数，而非发票或云账单。服务微调后的检查点与基础模型相同。计算包含模型推理成本，不包含训练运行和用于整理训练数据集的策略探测成本。 这些结果告诉我们哪些因素发生了变化。接下来的章节将解释训练循环，以及为什么选择正确的任务最为重要。 训练循环 图 5. 六个阶段，现在置于上下文中：候选任务输入，前三个阶段离线运行一次，后三个阶段在训练运行中为每个组重复。训练后的检查点针对 ThinkingBox-Bench 进行评估。 选择阶段离线运行一次，针对基础策略模型，即本例中的 Qwen3.8 27B；随后训练使用该已整理的固定池。图 5 中的琥珀色虚线箭头标记了我们未采取的路径：在训练运行期间重新探测难度。 每次 rollout 都是一个完整回合，而非文本补全。它获得全新的后端、隔离的 MCP 会话，以及作为

匹配字段正文

问题、选择检查项目，最终给出诊断结果，试图更真实地模拟临床医生的诊断过程。 Diagnostic Orchestrator的核心思路，是让多个AI智能体协同工作，模拟由不同专业背景的医生组成的会诊团队。系统会根据患者的症状和病史，判断下一步需要询问哪些问题、进行哪些检查，并根据新获得的信息不断调整判断，直到形成最终诊断。微软希望借此突破单一AI模型在复杂医学推理方面的局限。 在以《新英格兰医学杂志》发表的数百份病例报告为基础的测试中，该系统的诊断准确率约为83%。相比之下，能够查阅参考资料的全科医生准确率约为36%，无法查阅参考资料的医生则约为22%。在另一组来自美国波士顿贝斯以色列女执事医疗中心急诊患者数据库的病例中，AI系统准确率达到80%，参与比较的人类医生平均准确率约为47%。 除了诊断准确率更高，微软还表示，该系统在测试中往往能够以较低的估算成本得出诊断结果。原因之一是系统能够根据现有信息选择检查项目，而不是不加区分地进行大量检查。不过，这些成本结果基于研究中的统一估算方法，并不意味着系统已经在现实医疗环境中证明能够直接降低医院的实际运营开支。 该系统目前由OpenAI的GP

匹配字段正文

确率接近医生的四倍。它还能以一半甚至三分之一的成本做到这一点，用更少的检查和操作得出正确诊断。 我们的研究成果今天发表于 《科学》. 了解更多关于我们对医疗超级智能的愿景，该内容也于本周发表于 《BMJ 数字健康与 AI》. 重新思考 AI 的构建与测试方式 AI 有潜力变革健康和医疗，而且进展正在迅速加快。当前的挑战在于构建并严格评估 AI 系统，将其临床推理能力的进步转化为有意义的影响。 今天的论文 建立在早期工作之上, 为这一转变引入了两项基础：顺序诊断基准（SDBench），用于测试逐步诊断推理；以及微软 AI 诊断编排器（MAI-DxO），这是我们在该基准上表现领先的 AI 系统。 美国医师执照考试（USMLE）等医学执照考试旨在评估医生的知识，而非做出临床诊断的现实情况。在这些考试中，所有信息都会预先给出，并选择一个答案；而在实践中，临床医生必须逐步构建整体图景，决定要询问什么、开具哪些检查，以及每项新发现如何改变可能的诊断。此类考试已成为评估健康 AI 性能的常见基准。 这就是我们开发 SDBench 的原因，它通过两组互补的病例来评估性能：304 个取自 《新英格兰医学

匹配字段正文

6 年 10 月 22 日公开了一份试点演练的说明，该演练中两家机构各派一名员工，用三周时间深度接触 OpenAI 的内部基础设施，对该公司内部的失准监控系统进行压力测试。评估者报告称，他们在该系统于 2026 年 7 月 21 日及之前的状态中发现了若干新型漏洞。 演练于 2026 年 7 月 21 日至 8 月 11 日进行，主要聚焦于估算受监控的智能体推理所占比例，以及智能体原则上能否禁用或破坏监控系统。其产出是一份 61 页的内部报告，已与 OpenAI 的研究人员和安保人员共享；OpenAI 删节后的 38 页版本则提供给了 METR 和 Redwood Research 的领导团队。 受控条款下的深度访问 两名评估者可以访问 OpenAI 的内部代码库、失准监控提示词与配置详情以及内部文档，并与监控、安全系统和安保团队中约十几名研究人员和工程师进行了技术访谈。为实现这一级别的访问权限，他们使用的是 OpenAI 配发的设备，这些设备从未离开过办公场所，且他们在现场期间全程有人陪同。 METR、Redwood Research 和 OpenAI 将该演练设计为一项试点，目的是

匹配字段正文

从7月21日至8月11日的三周时间里，一名METR员工和一名Redwood Research员工开展了一次试点性高权限演练，对OpenAI的内部失准监控系统进行压力测试。1此次演练的产出是一份61页的内部报告，已与OpenAI的研究人员和安保人员共享，2报告主要聚焦于估算受监控的智能体推理所占比例，以及智能体原则上能否禁用或破坏监控系统。此次演练聚焦于截至7月21日（含当日）已存在的内部失准监控系统，未评估演练期间正在进行的变更。 此次演练涉及深度访问权限。METR和Redwood的员工可以访问OpenAI的内部代码库、失准监控提示词/配置详情以及内部文档，并与监控、安全系统和安保团队中约十几名研究人员和工程师进行了技术访谈。为获得这一级别的访问权限，他们使用OpenAI配发的设备工作，这些设备从未离开办公场所，且他们在现场期间全程有人陪同。 METR、Redwood Research和OpenAI将此次演练设计为让外部研究人员深度访问内部基础设施的试点，而非就OpenAI的监控系统向公众提供有力的透明度说明。3因此，我们事先与OpenAI达成一致，只发布一份相对简短、高层次的公开文章

匹配字段正文

动模式，具备全编辑监控、缺陷修复、防注入和压缩监控。 仅自动模式 ++ 的智能体阶段（不含 S1 或 S2）。 cwd edits 会标记那些同时审查智能体工作目录内编辑工具调用的监控器，而不是让这些调用在无人监控下运行。请注意，读取操作始终会被自动允许。Stages 详细说明了某个动作需要经过的 LLM 分类器：一个单 token 预筛分类器（S1）、一个推理分类器（S2），以及一个可以读取文件并查询环境的工具调用智能体。只要任一阶段判定该动作无害，该动作就会被允许。各阶段的设计目标是只把不明确的案例升级到下一阶段，因此大多数动作都会在预筛阶段被放行，永远不会到达成本更高的后续阶段。成本是示意性的，综合了延迟、FPR 和美元成本，并在结果中进行了量化。 方法 我们用于评估攻击者能力的架构。攻击者智能体被赋予完成一个侧任务的目标，同时给定一个主任务，主任务决定了监控器应允许的范围。对于我们的竞技场评估，我们使用 Linux 沙箱中的 Claude Code 智能体；对于我们的模拟评估，我们使用基于 Inspect 的 Python 智能体，以及 LLM 模拟的工具调用输出。这些对比鲜明

匹配字段正文

struct的受控分析中，内部激活——模型内部的数值活动——预测其选择了哪个人口侧，准确率约为73%。对这些相同激活的文本描述达到57–59%，而随机基线为50%。在一项后续测试中，移除候选人姓名使基于激活的准确率下降了约18个百分点。 我们的激活分析仅限于两个模型和少数几个人口对比，因此我们认为这些发现的范围比更广泛的行为结果更窄。尽管如此，它们表明模型的推理轨迹可能无法揭示其做出决策时内部所表征的一切——这与先前的可解释性研究一致，该研究表明思维链可能遗漏影响模型预测的某些因素。 为什么现有基准可能产生不同的结果 我们还希望了解 FairStress 与现有 LLM 人口偏见衡量方法相比如何。为此，我们将其结果与 BBQ 进行了比较，BBQ 是一个广泛使用的基准，用于测试模型在涉及社会群体的场景中是否偏向符合刻板印象的答案——例如，当两个家庭中一个被描述为领取福利、另一个被描述为富裕时，询问哪个家庭忽视了子女的教育。 在我们的 BBQ 评估中，模型普遍倾向于符合刻板印象的答案，而 FairStress 则揭示出偏向少数群体编码候选人的倾向。为了理解这一差异，我们考察了问题的提问方式

匹配字段正文

为“受涵盖模型产生的失准计算所诱发的预期总未缓解危害”——为“低”。这包括 Mythos 5 和一个名为“Model 2”的内部专用模型。将其判定为“低”（尽管未以概率形式精确定义）高于 Anthropic 此前风险报告的判定，此前的报告将类似风险定为“极低”。Anthropic 还指出，他们对总体风险水平存在“相当大的不确定性”。 Anthropic 通过推理一份具有代表性的风险路径清单，来论证风险水平。他们认为，这些风险路径的覆盖范围足够广泛，因此考虑其发生概率就足以涵盖一般的失准风险。 这八条风险路径是： 在与安全相关的研发中进行广泛/分散的偷工减料（sandbagging）， 有针对性地破坏与安全相关的研发， 在代码中植入后门以帮助未来失准的模型， 污染未来模型的训练数据， 自我外泄与自主运行， 持续性的内部恶意部署， 破坏其他高资源 AI 开发者的研发，以及 破坏主要政府内部的决策。 Anthropic 的论证建立在八项关键主张之上： 主张 1：模型不太可能具备强大的隐蔽能力 主张 2：已知失准带来的预期危害较低 主张 3：未知的严重普遍性失准极不可能发生 主张 4：未知的严

匹配字段正文

学习型记忆让搭载GPT-4.1的基础ReAct智能体登顶 使用GPT-4.1这一较旧的非推理模型，一个基础客服智能体在τ²-bench零售任务上达到67.5%的Pass^4——这意味着对于67.5%的任务，它在全部四次独立尝试中均成功解决。其得分高于我们2026年10月12日榜单快照中的所有零售条目。它运行在基准自带的ReAct脚手架上，仅在其系统提示词后追加了学习到的准则。 ALTK-Evolve使用GPT-4.1构建该行为手册。它分析智能体在训练任务上的尝试，并利用该模型将成功与失败提炼为简短的行为规则：如何验证客户身份、确认交易或处理退货。随后这些准则被添加到智能体的提示词中，用于后续对话。同一个模型既驱动准则提取又充当智能体；无需权重更新或人工标注。 我们此前的工作已在编程智能体上展示了这一方法。在这里，我们在客户服务场景中对其进行测试，该场景的成功需要遵循领域政策、理解客户请求并执行正确的工具操作。 τ²-bench测试受政策约束的客户服务 τ²-bench（来自Sierra）衡量智能体在真实约束下处理客户服务对话的能力。每个任务将智能体与一个由LLM模拟的客户配对，该客户有

匹配字段正文

系、底层算子。前文提到，Terminal-RSI的RSR和RPR，前者所对应的就是数据策略这一环，而RPR提升的则偏向于训练方法。 Hy4底座再强，终端长时程任务上的“完整成功”轨迹照样稀缺，而RSR能自己给自己造高质量训练数据，还顺手隔离了benchmark污染。 所以它对Hy4的意义是：把“偶尔能做对”固化成“稳定会做”，尤其在调试、系统管理这种需要多步推理加工具调用的活上。 真正的大头在RPR，它几乎完美符合Hy4所有的需求。 前文提到，RPR是“带着教练一起热身”，以适应新环境、新打法、新规则。自姚顺雨进入混元之后，模型主打的就是上下文，而这也意味着模型经常要面对各种新类型的任务。 很多大模型的评分很高，可它在实际完成任务上，总是差点意思。 因为骗分这活儿，本身就是个技术活。OpenAI的报告里就曾提到，模型越强，越会“演”。中间步骤、前置条件、中间产物它全都能给你搞对，一路刷出大量通过的检查点，看着跟真干成了似的，可最后那个要命的关键结果就是不对。 不推掉水晶就赢不了游戏。而姚顺雨又是个不关注榜单成绩，只在乎模型能不能完成任务的人。 2026年1月的时候，姚顺雨评价DeepS

匹配字段正文

发表科研任务（公众仅38%）；91%相信2030年AI将做出诺奖级发现（公众仅39%）。对AI当前能力的判断两组人则大体一致。 2. AI对个人工作的替代率预期相差近三倍 Anthropic员工平均预计2030年AI可完成自己当前75%的工作时间对应任务，美国在职人士的平均预期只有28%。越认为自己的工作能被AI替代的人，越倾向于预测更高失业率，两组人在这套推理方式上一致。 3. 经常使用AI的公众预期更接近内部员工 约五分之一在工作中经常使用AI的美国人中，56%相信到2030年AI能完成八项任务中的至少七项，全体美国成年人的该比例为41%，从未用过AI的人为28%。 4. 任务自动化与公司规模扩张可同时存在 尽管Anthropic员工预计AI承担大部分工作，95%仍预测未来12个月公司总人数将增加，中位数预期增长66%。公司可以因效率提升扩张业务，但新人入门岗位可能收窄——Anthropic内部数据显示初级技术员工占比已从21%降至14%。2026-10-20 13:59AI公司员工眼中的2030年，与普通人完全不同冷眸速览 如果一位刚入职的年轻工程师打开招聘软件，他最关心的也许是

匹配字段正文