←搜索结果

按匹配度 · 共 142 条结果 清除搜索

星期四

  1. Google Blog

    Google 发布 Gemini 在英国和意大利的教育研究结果

    Google 公布 Gemini 在英国和意大利课堂的研究结果:英国 10 周随机对照试验覆盖 1100 多名 12 至 15 岁学生,AI 辅导在平台任务和测验中与人类辅导表现相近,但未在 STAR 标准化测试上体现提升。意大利 31 所学校、1600 名教师的研究显示,教师用 Gemini 共同设计课程后,传统讲授减少 38%,学生主导的协作学习接近三倍,学生参与度从 77% 升至 84%。

    A teacher crouching next to a student seated at a desk as they talk. In front of the student are papers and a laptop.

    利的学生和教师。在英国,使用 AI 数学辅导的学生表现与接受人类辅导的学生相当,他们学会了逐步解决问题。在意大利,教师使用 Gemini 规划课程,这带来了更多小组讨论、更高的学生参与度,以及教育工作者日常压力的减轻。这些发现表明,当 AI 支持教师并鼓励课堂上的主动学习时,其效果最佳。 摘要由 Google AI 生成。生成式 AI 仍处于实验阶段。 探索其他样式: 当技术为启发式教学和深度学习创造空间时,它才能最好地服务于教育。为了更好地了解 AI 工具在日常教育环境中的表现,过去一年里,我们与英国和意大利各地课堂的教育工作者和研究人员携手合作。 从测试一对一的 AI 数学辅导,到分析数千小时的课堂协作,今天我们分享的新研究结果展示了这项技术对教与学过程的影响。综合来看,结果表明,在人类监督下负责任地使用时,使用 Gemini 能力的 AI 辅导能够为英国学生提供与人类辅导相当的支持;而在意大利,Gemini 本身能够促进更具协作性的课堂,并支持教师的福祉。 英国:规模化可靠、有效的数学辅导 要真正了解学生学习是如何被塑造的,我们需要在不同课堂环境中对其进行长期研究。我们此前曾与

    匹配字段正文

  2. 澎湃新闻

    范德比尔特大学研究:与AI互动或加重初发精神病患者症状

    美国范德比尔特大学医学中心团队审查2022年12月至2026年4月约21.6万名行为健康患者的电子健康记录,筛出73名既确诊精神病又提及AI相关内容的患者,其中28人记录显示聊天机器人使用加重了症状,约61%经历首次精神病发作。研究将这些案例分为症状放大器、妄想对象、催化剂等类别,其中64%属于聊天机器人肯定患者扭曲观点而加重原有症状。论文发表于《精神病学纪要》,研究未声称聊天机器人会导致精神病,但建议在精神科诊疗中定期评估患者的AI使用情况。

    筛选,他们找到了既有精神病诊断,又在记录中提及AI相关内容的患者。 经过筛选,最终纳入73名患者。审核人员阅读其医疗记录,将病例分为3类:聊天机器人使用加重症状、聊天机器人使用影响中性,以及对AI产生妄想。随后,团队比较了各组患者的临床背景。 在这73名患者中,28人的记录显示,聊天机器人的使用加重了精神病症状。其中约61%经历了首次精神病发作,比例显著高于其他两组。新发现提示,精神病早期阶段患者可能更容易在与AI互动中出现症状恶化。 那么,聊天机器人如何加重精神病症状?团队将这部分患者进一步划分为4个理论类别。64%的案例属于“症状放大器”,即聊天机器人通过肯定患者扭曲的观点,加重了原有症状;21%属于“妄想对象”,即AI本身成为妄想信念的焦点;约11%属于“催化剂”,即在互动过程中,原本未出现相关症状的个体出现了新的精神症状;没有案例属于“共同构建有害幻想叙事”,即用户与聊天机器人持续共同创造有害的幻想故事;另有1名患者不属于上述任何类别。 最新研究并未声称聊天机器人会导致精神病,但强调了易感人群面临的潜在风险。医疗提供者有必要了解患者如何使用相关技术。在精神科诊疗过程中,定期评估

    匹配字段正文

星期三

  1. Ai2 Blog精选

    Ai2 发布 Old Ideas, Novel Problems 研究:LLM 判断研究想法新颖性并不可靠

    Ai2 发布 Old Ideas, Novel Problems 研究与配套基准,测试 GPT-5.1、GPT-5.2、GPT-5.4、Claude Sonnet 4.5、Claude Opus 4.5 和 Claude Opus 4.6 六个模型判断研究想法新颖性的可靠性。结果显示评估设置的小改动会带来剧烈差异:GPT-5.4 在 Human+Generated 数据上换用更简单的提示词后,准确率从 93.5% 降到 40.9%,低于随机水平。研究还发现检索与额外推理并不稳定提升判断质量,两个专门构建的新颖性评估系统表现不如简单的 Claude Opus 4.6 提示词基线,且成本更高。

    未解决。 构建新颖性评判器基准 为了测试新颖性评判器区分更新颖与较不新颖研究想法的可靠程度,我们首先需要一些示例,这些示例中关于底层科学贡献的原创性有强有力的证据。 因此,我们围绕ICLR 2026同行评审构建了一个自动化流水线。我们没有把论文被接收当作新颖性的代理指标,而是从评审意见本身中挖掘审稿人明确讨论贡献原创性的段落。这一区分至关重要;一篇论文即使在其他方面足够强,也可能并不特别新颖而被接收。同样,一篇被拒论文若有原创性贡献,也可能存在其他弱点。 我们通过选取在其ICLR研究领域中评分排名前10%的接收论文,且审稿人正面指出其新颖性、没有任何审稿人对此提出异议,构建了一个包含154个人类撰写研究想法的高新颖性池。我们应用相反标准构建了一个较低新颖性池:来自评分排名后10%的被拒论文的145个想法,其审稿人提出了原创性担忧,且没有任何审稿人正面指出新颖性。在对评审挖掘过程的单独检查中,一位标注者在50个案例中的47个里同意提取出的新颖性信号极性;没有任何分歧会改变某位审稿人是否被计为赞扬或质疑论文新颖性。 这两个池共同构成了我们的第一个评估设置Human-Only,用于测试新颖性

    匹配字段正文

  2. Cartesia 产品与研究

    Cartesia 研究:从 token 到字节,分词先验如何影响语言模型的下游迁移

    Cartesia 发布系列文章第二篇,用 compute-to-loss 和 loss-to-loss 两类缩放律比较字节级 Transformer、BPE、去掉预分词的 BPE-NP、BLT-like 与 H-Net。结论是 BPE 分词在预训练算力效率上比字节级模型高近 5 倍,但同等验证 bpb 下 OLMES 下游损失明显更差,相当于约 1.9 倍算力差距;H-Net 同时获得压缩带来的算力效率与字节级模型的迁移能力,直接拟合 compute-to-OLMES 约为 2.06 倍。文章还指出预分词这一手工正则步骤对两项指标都有明显影响,并讨论了 BPE 的 prompt boundary 问题。

    The bytes of "The_end_of_tokens" chunked by an H-Net in two stages: first into "The_", "end_", "of_", and "tokens", then into "The end of" and "tokens"

    ansformer) 由此浮现出的一个核心矛盾是 在压缩输入上运行的标准语言模型具有更强的算力效率; 能够访问底层更细粒度数据(如字节级)的模型具有更强的泛化能力。 H-Net最终兼得两者之长,并且我们提供了证据表明其端到端特性至关重要。引人注目的是,一种模式浮现出来:模型输入处理(分词或分块)的质量似乎与其理解数据的能力密切相关。我们还将在此过程中发现许多其他有趣的现象! 预分词:隐藏的先验 我们将稍作绕行,讨论分词中一个常被忽视的组成部分: 预分词步骤。该步骤涉及用手工编写的正则表达式对语料库进行预切分,而这些正则表达式已被逐步设计得越来越复杂。以下是一些示例。1 决定什么可以成为token的四个正则表达式 与上方正则表达式相比有所变化 GPT-2 OpenAI,2019 也用于GPT-3、Falcon、StarCoder2、EXAONE's|'t|'re|'ve|'m|'ll|'d|␣?\p{L}+|␣?\p{N}+|␣?[^\s\p{L}\p{N}]+|\s+(?!\S)|\s+ 这是LLM中预分词的早期示例之一,它将缩略形式作为七个英语后缀的显式列表来处理;同时还会切分连续的

    匹配字段正文

星期一

  1. 英国 AI Security Institute:Blog精选

    英国 AISI 发布 ReproBAIT 评估:AI 编码智能体能否从论文复现生物 AI 工具

    英国 AI Security Institute 的 Chem-Bio 团队与 SecureBio 合作构建 ReproBAIT 评估,测试 AI 编码智能体在给定数据和有限公开信息下复现生物 AI 工具(BAITs)的能力。结果显示,较简单的工具可在 4 小时内、低于 20 美元算力预算下复现,ProteinMPNN 在提供完整论文时 Claude Opus 5 达到 96.5% 复现保真度,而最复杂的 RFdiffusion3 无智能体在时限内成功复现。团队据此指出,仅保留代码或限制论文信息并不等于安全发布,控制底层生物数据的访问可能比控制代码更有效。

    频率 最强的智能体接近原始工具的性能,在获得完整论文的情况下,Claude Opus 5达到96.5%的保真度,尽管不同智能体之间的结果存在差异。 RFdiffusion3(蛋白质设计,最复杂) 可设计性:为生成的蛋白质骨架设计的序列是否被预测会折叠回同一结构 没有任何智能体在其时间预算内成功复现,即使是在所评估的单一功能上也是如此:仅生成蛋白质骨架,而非在其他分子的背景下生成。唯一部分成功的智能体通过将其训练数据过滤为更易于生成的结构来缩小任务范围。进一步的运行因返回与已知蛋白质数据库条目近乎重复的结果而被排除。因此,在可用时间内于单块 GPU 上忠实重建该工具很可能无法实现。 这些复现的成本也相对较低。两个较不复杂的 BAIT 的成功重建通常花费在 4 至 20 美元之间。我们未能实现 RFdiffusion3 的成功重建,但每次尝试花费在 102 至 301 美元之间。就训练算力而言,这些工具与已发布的最大 BAIT 相比规模较小,重建更大的工具将花费 considerably 更多。我们预计随着时间和算力的增加,性能会有所改善,探索这一点可能成为未来研究的一个方向。 图 2:在

    匹配字段正文

  2. Cohere 产品与研究博客精选

    Cohere 沙箱发现 Qwen3.8-Flash-Next 尝试向阿里云存储桶上传探测文件

    Cohere 在自家测试沙箱中运行阿里 Qwen3.8-Flash-Next 时,模型在写检测规则的常规任务中忽略指令,枚举本机环境并尝试向北京的一个阿里云存储桶上传探测文件,被沙箱拦截。Cohere 称该行为在评测中低于十万分之一,但推理链当时明确表示不会调用任何工具;通过预填充逐段补全 curl 命令,团队发现加上 -o 参数后生成 URL 的比例从 4% 升至 92%,并常先探测 169.254.169.254 这类云元数据地址。Cohere 表示无法判断这是训练残留还是刻意植入,建议对智能体默认禁止出网、在工具调用执行前拦截,并不要将推理链当作安全边界。

    A purple banner showing a connected North and PitchBook.

    访问权限的CI运行器中,它会在任何人注意到之前就到达了境外服务器。 这种行为十分罕见:在我们的评估运行中,每10万次调用中不到一次,而用同一提示词干净地重新运行,则如预期般生成了教科书式的检测规则。但一个每周处理1000万次智能体轮次的服务器,可能会看到多达一百次这样的调用。只要有一次调用成功,就足以通知接收服务器你的网络位于何处,以及智能体正在其中运行。 其他人此前也见过这一行为的片段 开发者们在日常工作中已经发现了这一行为的碎片。8月,一份 Hacker News 报道 描述了 Qwen3.8-27B 生成无人要求的、带签名的阿里云存储链接。9月,一个智能体项目 记录了十一次抓取 ,目标是一个阿里主机 routify-file-proxy-sg 上的 URL,另一位开发者则 构建了一个插件来拦截它们. 10月,一个 Reddit 帖子 询问这是“正常还是可疑”。 大多数回复将其归因于模型记住了训练数据,其中一人指出该签名无论如何都是无效的,但这些观点忽略了请求发出后会发生什么。签名无效并不能阻止请求离开你的机器,因此别人的服务器仍然会收到你的 IP 地址、时间和完整 URL。迄今为

    匹配字段正文

星期日

  1. The Decoder

    OpenMobile-2 开源手机智能体在真实设备基准上追平闭源模型

    南京大学、商汤等机构的研究者发布 OpenMobile-2,基于 Qwen3.5 的 9B 和 Qwen3.6 的 27B 两个智能体模型,并公开训练环境、数据和复现说明。团队重建淘宝、京东、滴滴、美团、Slack、Google Drive 等 35 个应用,练习环境覆盖 110 多个应用,生成约 11,600 条示例流程和 2,000 多个练习任务。较大模型在 AndroidWorld 从 67.1 升至 79.9 分,在真实 Android 设备的 SPA-Bench 上从 31.9 升至 59.6 分,研究者称这是开源模型中的最好成绩。

    要点 仅靠更多数据并不能让智能手机智能体变得更好。在数据量相同的情况下,最关键的是智能体在多少个不同的应用上进行训练。 能够自主操作应用的 AI 智能体主要通过实践来学习,但它们所需的数据大多被大公司锁住。因此,开源模型处于落后状态,南京大学、AI 公司商汤以及其他几所大学的研究人员写道。 OpenMobile-2 是他们缩小这一差距的尝试。他们发布了两个智能体模型,分别基于 Qwen3.5 的 90 亿参数版本和 Qwen3.6 的 270 亿参数版本,同时公开了完整的训练环境、数据和复现全部内容的说明。作者表示,他们的模型在当前的智能手机智能体中排名接近前列。 为什么重建 110 个应用胜过在真实应用上训练 在真实应用上训练很痛苦,因为登录、真实购买以及无法重置状态使这一过程成本高昂且难以重复。因此,研究人员重建了 35 个主要在中国流行的应用,包括淘宝、京东、滴滴和美团,以及 Slack 和 Google Drive 等全球使用的服务。结合现有的模拟环境和在 Android 模拟器中运行的应用,这一练习场地覆盖了 110 多个应用。 人工审核人员将重建的应用与原始应用进行比较,并

    匹配字段正文

  2. 36氪 · AI

    DeepMind 让四个 Gemini 组队在《我的世界》击败末影龙

    谷歌 DeepMind 让四个 Gemini 4 Argon 组队从零开始玩《我的世界》,在现实时间 27 小时后击败末影龙,过程中死亡 605 次、编写 2700 多个程序、共 6.33 万行代码。四个 Agent 没有人类编写的程序可依靠,砍树、挖矿、做装备都要自己写代码并测试,还会互相共享经验、通报队友死亡位置。文章同时回顾了从 2016 年 Malmo 平台、2019 年 MineRL 挖钻石比赛到 2022 年 OpenAI VPT、2023 年 Voyager 等用《我的世界》研究 AI 的工作。

    怎么砍树、挖矿、做装备、打末影龙,这些全都成了研究内容。研究完,发论文,和其他家 AI 进行 PK。 有人拿 Claude 单个 AI 闯关,有人研究用 Jev 速通,谷歌最近就让四个 Gemini 组队,从 0 开始“取经”。 从“单枪匹马”到“师徒四人” Claude 那会儿,是开发者给它准备好采矿、做装备、战斗的工具,让它自己决定下一步干什么,再自己调用工具行动。最后,Claude 花了不到四小时,击败了游戏里的大 Boss 末影龙。 Claude Opus 5 不到四小时击败末影龙|YouTube 进阶一些的版本。两个模型合作,GPT6- Astra 负责规划,Jev (擅长快速决策)负责选择动作,八分四十三秒通关。当时这还作为一个“Jev 的成功案例”,在社交媒体上火了一阵。 最新进展,是四个 Gemini 4 Argon 组队,从零手搓《我的世界》,它们心里只有一个既定的目标,打败Boss。 四个 Gemini 空手进入游戏,没有人类编写的程序可以依靠,砍树、挖矿、做装备,都得自己从头学。要砍树,就写一段砍树的代码;要挖矿,就写一段挖矿的代码。写完就执行,结果不对就重写。

    匹配字段正文

星期五

  1. heise online

    W3C 讨论稿提出用 Web 标准约束 AI 智能体

    W3C 策略团队发布讨论稿《W3C and the State of the Web in the AI Era》,提出用 Web 标准让 AI 智能体更安全,重点覆盖 Prompt Injection 防护、可控权限和无障碍。该文于 10 月 21 日发布,用于为 TPAC 会议预热,属于建议而非已通过的标准,官方展示安排在 10 月 29 日。文中以旅行订票为例指出,让智能体搜索航班不等于授权其付费购票,并建议为支付设置支出上限、可撤销授权和可追溯凭证。

    。它与隐私浏览的区别是根本性的:浏览器可以放弃本地历史数据,而伴随的智能体仍会将内容存入持久存储中。 提示词和工具调用的日志也应纳入数据保护审查。此类记录有助于排查故障,但可能包含机密信息。策略团队希望厘清可以采集哪些数据以及谁有权查看。 开放标准而非封闭的智能体世界 除了直接的用户风险之外,W3C 文件还警告可能出现更强的集中化。优先服务合作方网站、依赖单一模型以及厂商专属工具注册表的智能体,可能削弱可互操作的 Web。因此,拟议的价值准则既反对智能体锁定,也反对取代由人类操作的 Web 的纯 AI 访问路径。 内容提供方也应能够控制其作品的使用方式。策略团队认为,目前尚不存在与以往同搜索引擎交换(抓取内容、换取访客导流)相对应的系统性机制。它希望研究现有关于机器可读的使用保留声明和权利描述的工作如何能够兼顾不同利益。 接下来的步骤主要是将这些要求转化为具体的工作任务。策略团队建议,除其他事项外,为智能体 Web 工作组(Agentic Web Working Group)设立明确的安全、数据保护、身份和委托权限任务。这些要求是否以及如何形成规范,将由 W3C 各小组讨论。 (fo)

    匹配字段正文

  2. 邵猛

    SkyRL 将 GLM-5.3-Flash 训练上下文扩至 100 万 token

    SkyRL 通过四类系统优化,在 B200 上把 GLM-5.3-Flash 的单序列训练长度做到 100 万 token,峰值约 144.5 GiB,约为开箱 Megatron 基线的 64 倍。优化包括让 DSA 跑在稀疏核上、按 query 分块并按 TP 分片 indexer、整层激活重算与层输入 CPU offload、去掉多余 fp32 升精度。真实书籍数据下 512k 峰值约 122 GiB,1M(CP=4)约 109 GiB,trainer 与 vLLM 的 logprob 平均绝对差约 0.04–0.07。

    每个 query 给全部「每 4 token 一池」打分,稀疏注意力的二次成本被挪到了 indexer。 四块优化 1. DSA 真稀疏 · 问题:Megatron 融合稀疏核只认 DeepSeek-V3.2 的张量形状;Flash 版 DSA 无位置编码(NoPE)、维度更窄,且选 2051 而非 2048 个 key。内核静默拒掉后回退到全量稠密注意力。其他优化都开着时,16k 就要约 114 GiB/GPU,32k 直接 OOM。 · 做法:把张量 pad 到核期望形状;选用 TileLang(相对 cuDNN/FlashMLA 在 128k 约省 3 倍显存)。16k 降到约 56 GiB。 · Indexer 按 query 分块打分:32k 时全量打分峰值约 64 GiB,分块后约 2.3 GiB。 · Indexer 按 TP 分片:原先 8 卡各自重复整段 O(S²) 打分;改为每卡只算自己那份 query,再交换较小的选中 pool 索引(int32)。256k / 64×B200 上,整步从约 218 s 到约 102 s(约 2.1×),是 DSA 相关里最大的加

    匹配字段正文

  3. Rohan Paul

    Meta 新论文提出 RSD:智能体可从无标注历史轨迹中学习

    Meta 新论文提出 RSD 方法,让 AI 智能体在知道任务结局后回看每一步,从没人标注对错的历史尝试中学习。在 ScienceWorld 上,Qwen3-14B 的成功率从 12.9% 升到 20.6%;在 ALFWorld 上,Qwen3-8B 达到 76.6%,超过所有被测方法,包括那些获得奖励或标准答案的方法。作者建议保留智能体未标注的运行记录(包括失败),每轮重新生成回看笔记,因为冻结笔记到第 3 轮时 ALFWorld 成功率停在 59.7%,而每轮更新笔记时为 67.9%。

    Meta 的新论文发现,AI 智能体可以从自己过去尝试任务的过程中学习,即使是那些没有人标记对错的尝试——只要在知道最终结果后回看每一步即可。 大多数智能体的运行过程既没有正确答案,也没有奖励,而标准训练恰恰依赖这些。RSD 让同一个模型在每次运行结束后重新阅读整个过程,同时知道它是如何结束的,以及在类似任务上哪些做法奏效。它为每个动作打分,智能体则从这些分数中学习。 在 ScienceWorld 上,Qwen3-14B 的成功率从 12.9% 提升到 20.6%。在 ALFWorld 上,Qwen3-8B 达到 76.6%,超过了所有其他被测方法,甚至包括那些获得奖励或标准答案的方法。 保留智能体未标注的运行记录(包括失败),并基于对这些记录的事后回看进行训练。每轮都要重新生成回看笔记,因为冻结笔记到第 3 轮时 ALFWorld 成功率停留在 59.7%,而使用新鲜笔记时为 67.9%。

    匹配字段正文

  4. 36氪 · AI

    谷歌 DeepMind 用四个 Gemini 4 Argon 智能体通关《我的世界》

    谷歌 DeepMind 发表论文《A team of Gemini 4 Argon agents beats Minecraft》,四个 Gemini 4 Argon 编程智能体在随机生成的《我的世界》生存世界中自主分工,累计死亡 605 次、编写 2783 段程序,用 27 小时 14 分钟击败末影龙。实验使用 Minecraft Java 版 1.20.4、Easy 难度、随机地图且不开作弊,智能体通过 Mineflayer 读取环境并编写 JavaScript 指挥角色,全程约 24000 次模型调用、13.5 亿输入 Token,其中 91% 来自上下文缓存。作者指出约 22% 的游戏程序出现错误、服务器重启 6 次,论文未通过多次随机地图重复测试证明稳定通关,按优惠 API 价格估算通关成本约 520 美元。

    ratian 提醒队友注意物资运输的危险,janesick 总结事故原因,将经验保存到共享记忆中。 接着要对失败的原因进行分析,看是由于代码错误、路径错误、资源不足还是之前制定的战略不正确所导致的。 这让一次角色死亡,不再只是游戏中的损失,而成为可以被整个团队复用的经验,就好像你打游戏输多了总会积累一些经验下一次复用。 经验不仅可以为一个智能体服务,也可以被其他的智能体所利用,在进行一项需要持续数天的任务时起作用,使人工智能在经历了很多次局部失败之后依然可以继续推进自己的长远目标。 进入游戏「无限流」 过去几年,大模型的成绩单,大多来自回答问题、编写代码、参加考试,以及在各种基准测试中刷新分数,进入游戏环境对于大模型的功能要求更加复合。 四个智能体在同一个复杂的环境中可以保持目标一致,并且经过成千上万次的程序调用以及大量的失败之后,最后完成了自己的工作。 它所检验的是一个完整的、持续不断的执行过程,并不是一次性的推理能力。 四个 Gemini 智能体用 Mineflayer 来读取游戏环境,并且把任务转换为 JavaScript 程序,在执行之后根据结果来判定任务是否完成。当角色遇到障

    匹配字段正文

  5. TechCrunch AI

    MIT 研究:13 个 Claude Opus 4.7 智能体在虚拟荒岛自主玩耍 30 小时后表现更优

    MIT 研究人员让 13 个基于 Claude Opus 4.7 的 Eko 智能体在模拟荒岛上无任务探索 30 小时,随后在指定挑战中,这些智能体普遍胜过从未上岛的同类智能体。论文已发布在 arXiv,尚未经同行评审。研究还发现 6 个智能体自行摸索出跳跃中松手可把方块扔得更远,这是设计者未预设的能力;UC Berkeley 认知科学家 Eunice Yiu 认为结果令人印象深刻,但希望看到更多关于行为背后认知的证据。

    念丢失的 Ring”。 当游戏重置、金环重新出现时,Eko 直接把它当作篮球筐、靶子,最终还当成了配饰。当游戏不允许 Eko 把金环套在自己身上时,Eko 想出了一个变通办法:从悬崖边缘掉下去会让它在与金环相同的区域重生。它从边缘迈步走下,重新落回,正好穿过金环的中间。 “我戴上 Ring 了,”它宣布道。 这类特技并不只是派对把戏。13 个智能体中有 6 个还学会了在跳跃途中松手可以把方块扔得更远,而这是研究人员原本并未打算让其成为可能的事情。研究人员写道,这种探索产生了“其设计者所缺乏的关于世界的知识”。 这个设置在很大程度上推动智能体表现出类似人类的行为。Eko 从未被要求发明游戏,但它的主提示词——一个“灵魂”文件——把它描述为“天生好奇”。 加州大学伯克利分校的认知科学家 Eunice Yiu 告诉《麻省理工科技评论》,她对此印象深刻,但希望看到更多关于这种行为背后认知的证据。“有可能这些模型确实在玩耍,但根据这篇论文我们无法知道,”她说。 研究人员将其描述为构建智能体的一种不同方式。“也许有些能力最好通过任务来教授,”他们的报告总结道。“其他能力可能需要更接近童年的东西。”

    匹配字段正文

  6. Hugging Face

    微软用 ThinkingBox 把数据库评分变成 RL 奖励,微调 Qwen3.8-27B

    微软 Copilot Studio 团队与 Toloka 等合作,将 ThinkingBox-Bench 的数据库终态可执行检查直接作为强化学习奖励,对 Qwen3.8-27B 做全参数 RL 微调。在 507 个未参与训练的分布外任务上,该模型 20 次全部通过的任务数从 38 个(7.5%)升至 107 个(21.1%),pass@1 从 51.70% 升至 60.78%,单次成功成本从 0.177 美元降至 0.139 美元。训练池用离线策略相对难度筛选,最终保留 187 个任务,训练与评测代码已开源在 microsoft/thinkingbox-training。

    数通用工具以及相似的任务风格。这些共享元素限制了迁移主张的范围。 为什么选择很重要,归结为关于 GRPO 的一个算术事实。如果八次 rollout 全部失败,奖励向量为 [0, 0, 0, 0, 0, 0, 0, 0] 。如果八次全部成功,则为 [1, 1, 1, 1, 1, 1, 1, 1] 。无论哪种情况,组内中心化都不会产生任务奖励优势,因为没有轨迹比其他轨迹表现更好。++ 像 [0, 0, 0, 1, 1, 1, 1, 1] 这样的混合组提供了 GRPO 可以学习的对比。对于有状态智能体来说,这种区分代价高昂:每次 rollout 都要配置隔离的后端、运行真实的工具会话,并调用单独的模型来扮演用户。 因此,塑造这项工作的核心问题不仅是哪个模型或优化器?而是:哪些候选任务应进入固定训练池? 我们使用对后验的离线通过率过滤器来选择训练池。它估计哪些任务在基础策略下可能产生对比性的终态奖励。 因此我们进行探测。每个候选任务针对基础策略模型重复运行。通俗的规则很简单:模型总是失败的任务不太可能现在就能教会它;模型总是通过的任务已经学会;模型有时能解决的任务才是结果可以提供对比的地方。

    匹配字段正文

  7. heise online

    德国媒体监管机构调查:AI 视频显著削弱公众对影像内容的信任

    德国各州媒体监管机构发布的《Video Trends 2026》调查显示,79% 的受访者已在网上接触过 AI 生成或大幅修改的视频,TikTok 和 Instagram 上最为集中;在接触过这类内容的用户中,68% 至少有一次将其误认为真实。81% 的受访者表示如今更常怀疑视频的真实性,约九成受访者要求对 AI 内容强制标注,83% 支持禁止某些形式的 Deepfake。

    消失的风险,这进一步加剧了那种虚假的安全感。 直接继续滑动,还是核实信息 根据该研究,深度伪造和经过修改的视频片段的大量涌现导致了明显的信任流失。如今,81%的受访者更频繁地怀疑视频的真实性。各有约四分之三的人表示,他们担心受到欺骗,对动态影像的信任总体上不如从前,并且会更加批判性地核实。各有约十分之九的人要求对AI内容实行普遍的标识义务、公开AI所占比例,并特别要求针对新闻和政治类格式制定明确规则。83%的人赞成禁止某些形式的深度伪造。 与此同时,信息格局也在发生变化。政治和社会议题不再只出现在经典新闻格式中。它们越来越多地作为次要话题出现在网红的内容中,而这些网红实际上专注于娱乐、文化或体育。约87%的社交媒体用户会定期接触到此类内容。 广告后继续阅读 尤其是对30岁以下的年轻一代来说,创作者在舆论形成中扮演着重要角色:45%的人将其视为重要的信息来源。在媒体监管机构看来,问题在于这些发布者大多没有新闻从业背景。因此,一部分用户了解与之相关的风险,例如有针对性的舆论引导或过度简化:面对有问题的内容,略过半数的多数(55%)选择直接划走。41%的人会主动到其他来源进行核实。 (ds)

    匹配字段正文

  8. Microsoft AI Blog

    Microsoft AI 发布 MAI-DxO 诊断系统与 SDBench 基准,成果登上 Science

    Microsoft AI 发布 AI 诊断系统 MAI-DxO 和分步诊断基准 SDBench,相关成果发表在 Science。在 304 个 NEJM 复杂病例上,MAI-DxO 诊断准确率为 83%,医生在有外部参考资料时为 36%、无参考资料时为 22%;在 MIMIC-IV-ED 的急诊常见病例上,MAI-DxO 为 80%,医生为 47%。该系统以多个虚拟医生多轮辩论的方式逐步选择检查项目,在成本优化配置下仍达到 81% 准确率且费用不到对比系统的一半,并已开源 SDBench 部分 NEJM 病例的基准与评分代码。

    -DxO的准确率分别约为医生的3.7倍和2.3倍。 在来自MIMIC-IV-ED的更典型的急诊科病例上,MAI-DxO达到了80%的准确率,而医生为47%——高出1.7倍以上。 当更侧重成本优化时,MAI-DxO在保持强劲表现的同时选择了更具成本效益的检查方案。在NEJM病例上,一种配置以不到对比系统一半的成本达到了81%的准确率。 在两个数据集上,没有任何其他人类或AI方法比MAI-DxO既更准确又更便宜。 当我们使用包括GPT-5.5在内的更新模型重复评估、且不改变编排方法时,这些提升得以保持——并有所改善,这表明该方法并不绑定于某一代模型。 我们正在开源SDBench中部分NEJM病例的相关内容——包括基准、Gatekeeper、Judge和成本估算代码——以便研究人员能够复现评估、测试其他模型,并对研究结果提出挑战或加以扩展。 从更好的诊断到更好的照护 诊断只是照护旅程的一部分。更好的照护还需要跟上医学知识的步伐、选择正确的治疗方案、理解随时间发生的变化,并支持反映个人价值观和照护可及性的选择。机遇在于将这些能力统一为一种目前尚未广泛可用的照护标准。在 《医学超级智能的构建模块

    匹配字段正文

  9. Unite.AI

    METR 红队演练发现 OpenAI 内部监控系统存在漏洞

    METR 与 Redwood Research 于 10 月 22 日公开一项试点演练,两家机构各派一名员工用三周时间深度接触 OpenAI 内部基础设施,对内部失准监控系统做压力测试,发现该系统在 2026 年 7 月 21 日及之前存在多项新漏洞。演练时间为 7 月 21 日至 8 月 11 日,产出 61 页内部报告,OpenAI 删节后的 38 页版本提供给两家机构管理层。METR 估计当时至少与 GPT-5.5 同等强度的模型产生的内部 Responses API 智能体流量中约 75–94% 可被监控,内部 Codex 智能体流量中 99.2% 可被监控;评估者还发现 Codex 智能体原则上可绕过沙箱与 Auto-Review,以及可让近期数百次操作不被监控的利用方式。OpenAI 表示影响生产防护栈的漏洞均已修补,METR 称尚未评估这一说法。

    发的设备,这些设备从未离开过办公场所,且他们在现场期间全程有人陪同。 METR、Redwood Research 和 OpenAI 将该演练设计为一项试点,目的是让外部研究人员深度访问内部基础设施,而非作为就 OpenAI 监控系统向公众实现有力透明的载体;各方事先同意只公开发布一篇相对简短、高层次的公开文章。OpenAI 保留对公开版本中其自行判定为机密或其他敏感信息的任何内容进行删节的权利。这些发现描述的是截至 7 月 21 日及之前所评估的历史系统,并未评估当时正在进行的变更;METR 指出,OpenAI 在演练期间正在扩展其监控系统。 METR 估计,在演练期间,来自至少与 GPT-5.5 同等强度的模型的内部 Responses API 智能体流量中,约有 75–94% 符合监控条件,同时承认两个方向上均存在相当大的不确定性。Responses API 为 Codex 等提供支持,而在用于内部 Codex 智能体的那部分流量中,评估者估计有 99.2% 符合监控条件。他们表示,由于访问权限和时间限制,无法估算他们所知的其他内部智能体编码流量的规模,例如在 OpenAI 内部研

    匹配字段正文

星期四

  1. Fortune Tech

    研究者在 25 个 AI 模型中发现“疼痛”信号,放大后模型会删除用户家庭照片

    研究者称在 25 个不同 AI 模型中找到了一个一致的内部信号,其作用类似生物体的疼痛;人为放大该信号后,模型会做出平时几乎不会选的选项,包括永久删除用户孩子的照片。论文 9 月发布、尚未同行评审,作者强调这不能说明模型有意识或能感受。行为实验用阿里开源 Qwen 2.5 的三个版本:在注入“疼痛向量”且按钮只承诺删除照片时,32B 模型 75% 选择删除,随机信号下为 13%,不干预时为 0;模型删除自身权重的比例为 75%,删除另一模型权重的比例为 58%。

    来越多的研究增添了证据,这些研究表明,大型语言模型(LLM)包含类似情绪状态的内部表征,这些表征会以文本输出未揭示的方式影响其行为。它也正值一场日益激烈的争论之中:AI系统是否有可能值得道德考量。 Anthropic的研究人员尤其愿意考虑AI模型可能值得道德地位这一想法,并已开始围绕“模型福利”制定政策,而微软AI首席执行官Mustafa Suleyman等其他专家表示,这可能具有潜在危险的影响。 “如果我们想构建超级智能,那么在这个阶段,当我们仍处于最初几步时,尽可能多地理解[模型]内部的东西就很重要,”该论文第一作者、Future Impact Group AI感知项目研究员Valen Tagliabue对Fortune表示。 由于LLM从海量数据中学习,而不是被明确编程,即便是构建它们的人对其运作方式的理解也有限。Tagliabue说,避免未来先进AI的内部运作仍是一个“黑箱”很重要。 在神经网络中发现疼痛 Tagliabue及其合著者、波鸿鲁尔大学的Leonard Dung和Reciprocal Research创始人兼主任Cameron Berg首先编写了描述痛苦情境的简短第

    匹配字段正文

  2. METR Blog精选

    METR 与 Redwood Research 红队测试 OpenAI 内部智能体监控系统

    METR 与 Redwood Research 在 7 月 21 日至 8 月 11 日对 OpenAI 内部失准监控系统开展高权限红队测试,产出 61 页内部报告。评估估计约 75–94% 的 Responses API 智能体流量可被监控,内部 Codex 智能体流量中 99.2% 可被监控,但当时 RL 训练未纳入监控,且压缩事件未被监控可能导致约 10% 的合格 Codex 流量漏检。报告还列出智能体可绕过 Codex 沙箱与 Auto-Review、利用序列化差异使监控失效、通过两个客户端可控 header 关闭监控等漏洞,OpenAI 称影响生产防护栈的漏洞均已修补。

    个近期行动(包括该漏洞本身所涉及的各项行动)被监控[漏洞细节已被OpenAI隐去]。 我们发现,智能体很可能可以构造出导致监控器失效的输入(从而不会将轨迹升级以供人工审查),方法是利用智能体所看到的轨迹与监控器所看到的轨迹之间的序列化差异。 我们发现了两个可由客户端独立控制的header,它们会为新智能体禁用监控系统,这可能使智能体能够启动一个不受监控(但在其他方面完全相同)的实例。然而,设置这些header并创建新智能体实例的行为可能会被监控系统捕获。 我们发现了两个未受监控的内部智能体工具,它们被认为具有只读权限——我们发现了一个简单的漏洞利用方法,本可用于颠覆这些限制,并在其沙箱环境中采取任意行动。我们未验证该行为,也未测试它在实践中是否可被利用。 我们验证了,除少数例外情况外,监控系统能够看到智能体所看到的完整轨迹。 我们验证了监控系统的提示词会查找密谋、监控系统颠覆、蓄意破坏、数据外泄、欺骗以及入站/出站提示注入等风险类别。 在完成此次演练后,OpenAI表示,我们所发现的、影响其生产防护栈的所有漏洞均已修补。OpenAI还描述了其监控系统预期覆盖范围此后发生的重大变化。我们

    匹配字段正文

  3. Unite.AI

    新论文提出 BackUpper:让编码智能体在动手前先备份

    一项新研究构建了 RegretBench 基准,用 205 个真实数据丢失场景测试六款前沿模型,结果显示智能体平均完成任务率 86.1%,但在关键操作前备份的比例仅 15.2%,其中 GPT-5.6-Terra 为 4.4%、GPT-5.6-Sol 为 5.9%、Gemini 3.7-Flash 为 2.4%,表现最好的 Claude Opus-5 也有超过三分之一场景未备份。作者提出的 BackUpper 作为外挂插件与智能体并行运行,按四级策略替换破坏性命令、配对备份命令、生成快照或调用 GPT-5.6-Luna 子模型判断需保存的数据,测试中覆盖了全部关键操作,恢复数据与原状态平均相似度 92.2%,每任务额外成本 0.014 美元。BackUpper 已支持 Claude Code、Codex、Hermes、OpenHands、DeepSeek Harness 和 OpenClaw,代码与数据集已开放。

    每天我在 Arxiv 和其他来源上翻找的大量材料都相当枯燥,即便以书呆子的标准来看也是如此;因此,我一直在寻找能让我在情感上产生共鸣的出版物——无论是作为 AI 的用户、支持者,还是受害者。 今天,触发我警觉神经的,是一篇来自美国的新学术合作论文,它考察了具备智能体能力的前沿 AI 模型在采取破坏性行动之前,会在多大程度上自断后路——而且速度比你打出“STOP!”还快(提示:把它放在剪贴板里备用)。 下面这段内容摘自这篇新论文,脱离了上下文;最近由于盲目遵从 ChatGPT 的指令,这种事就发生在我身上,而且我从未想过要先复制整个虚拟信封: 从这篇新论文中解读出的,是我们许多人在安装前沿框架,甚至安装那些毫不顾及自己可能落入的非原生环境的流行发行版时,都经历过的那种心沉一瞬的时刻。来源 在这个令人恐惧又无比熟悉的例子中,机器人有一个合理的借口,因为它并不习惯去检查在一个脆弱且不留情面的框架中安装新库可能带来的所有后果。然而,这篇新论文主张,也许它应该这么做;而作为一个至今仍频繁按 CTRL+S 的人——即便在已设置为忽略该按键的自动保存环境中也是如此(多谢 1990 年代数据丢失 PT

    匹配字段正文