N全部新闻

星期二118 条

  1. OpenAI:部署安全与系统卡一手研究
    AI 评分74

    OpenAI 发布 Deep Research 系统卡

    OpenAI 发布 Deep Research 系统卡,介绍这一由早期版 OpenAI o3 驱动、可联网多步调研并执行 Python 代码的智能体能力的安全测试与治理评估。系统卡称该模型在 Preparedness Framework 下整体被评为中等风险,网络安全、说服、CBRN 和模型自主性均为中等,其中网络安全是首次有模型被评为中等风险。针对提示词注入,OpenAI 新增安全训练数据并限制模型访问或构造任意 URL,以降低数据外泄风险。

    Figure 1

    #安全/对齐#Agent#OpenAI

  2. OpenAI:部署安全与系统卡一手研究
    AI 评分72

    OpenAI 发布 ChatGPT Images 2.0 系统卡

    OpenAI 发布 ChatGPT Images 2.0 系统卡,介绍该模型在图像生成能力上的提升,并新增 thinking mode,可在生成过程中结合推理与工具调用、接入实时网络搜索数据。安全方面沿用 ChatGPT Images 1.5 的安全栈并增加防护,采用提示层与图像层分类器及安全推理模型做输入和输出拦截。评估显示 instant 模式对 685 张违规图像的综合召回率为 96.1%,thinking 模式综合安全输出达 6886/6944(99.2%);生物化学领域因专家认定部分输出可能为新手提供帮助,按高能力模型施加缓解措施。

    #安全/对齐#图像生成#OpenAI

  3. OpenAI:部署安全与系统卡一手研究
    AI 评分71

    OpenAI 发布 ChatGPT Agent 系统卡

    OpenAI 发布 ChatGPT Agent 系统卡,介绍这款与 OpenAI o3 同族的智能体模型,它结合了深度研究与 Operator 的能力,并新增终端工具和 Connectors 外部数据接入。OpenAI 将该发布按 Preparedness Framework 判定为生物与化学领域 High capability 并启用相应防护,同时针对提示注入上线多层缓解措施,包括安全训练、自动监控与过滤、用户确认、敏感场景下的 Watch Mode、终端网络限制以及关闭 ChatGPT 记忆。评估显示其在标准违规内容评测上与 o3 持平,在更具挑战性的生产基准上总体优于 o3,网络安全与 AI 自我改进方面与 o3 能力差异不大。

    #安全/对齐#Agent#OpenAI

  4. OpenAI:部署安全与系统卡一手研究
    AI 评分51

    OpenAI 发布 GPT-4o 系统卡附录:原生图像生成

    OpenAI 发布 GPT-4o 系统卡附录,说明原生图像生成的安全挑战、评测与缓解措施。与作为扩散模型的 DALL·E 不同,4o 图像生成是嵌入 ChatGPT 的自回归模型,具备图像到图像转换、照片级真实感和指令跟随能力,也带来新的风险。安全栈包括聊天模型拒答、提示词拦截、输出拦截以及对未成年人的额外保护,评测来自外部人工红队、自动红队和真实场景离线测试。

    #安全/对齐#图像生成#OpenAI

  5. ScienceDaily研究
    AI 评分64

    宾夕法尼亚大学用 AI 分析 40 万条 Reddit 帖子,发现 GLP-1 药物潜在被忽视的副作用

    宾夕法尼亚大学团队用大语言模型分析 40 万条 Reddit 帖子,识别出 semaglutide(Ozempic、Wegovy、Rybelsus)和 tirzepatide(Mounjaro、Zepbound)使用者报告的可能未被临床试验或官方监管信息充分覆盖的症状,研究发表在 Nature Health。约 44% 的用户描述了至少一种副作用,胃肠道问题最常见;近 4% 报告生殖系统症状如经期出血和周期不规律,另有寒战、潮热等体温相关症状,疲劳是第二高频抱怨。研究者强调这些关联不能证明药物导致上述症状,但认为值得进一步系统研究。

    #论文/研究#数据/训练#多模态

  6. Amazon Science一手研究
    AI 评分64

    AWS 提出 priming 方法:用预训练 Transformer 权重初始化混合状态空间模型

    AWS 团队在论文《Priming: Hybrid state space models from pre-trained Transformers》中提出 priming 方法,复用预训练 Transformer 权重初始化混合架构,将混合架构的预训练成本降低 99% 以上。在受控对比中,Gated KalmaNet(GKA)表现优于 Gated DeltaNet(GDN)和 Mamba-2,基于 GKA 的 32B 混合模型在推理基准上与源 Transformer 持平,128K 上下文下解码速度最高提升至 2 倍。团队以 Apache 2.0 协议开源了 8B 和 32B 的混合模型、训练代码、优化内核及 vLLM 服务插件。

    #论文/研究#数据/训练#部署/工程

  7. 虎嗅研究
    AI 评分62

    卡内基报告:中国首超美国成顶尖AI人才第一工作地,但人才仍净流出

    卡内基中国9月23日发布的全球AI人才报告显示,2025年全球顶尖AI研究者中41%在中国工作、34%在美国,三年前这组数字是27%对46%。报告追踪NeurIPS 2025的10280位作者履历,指出中国净流出1729人、美国净流入2145人,在中国工作的顶尖研究者98%本科在中国就读,美国这一比例仅约三成。机构排名中北京大学升至第一,清华第二、上海交大第四,报告同时承认样本偏学术界、低估了产业界。

    #行业动态#数据/训练#论文/研究

星期一4 条

  1. The Decoder研究
    AI 评分88

    Google DeepMind 的 AlphaProof Nexus 解决数十个开放数学问题并通过同行评审

    Google DeepMind 的新研究显示,AlphaProof Nexus 自主解决了 353 个 Erdős 开放问题中的 9 个,其中两个已悬置 56 年,相关解法在论文发表前已公开。该系统还证明了 OEIS 整数序列数据库中的 44 个猜想,解决了代数几何中的一个开放问题,并改进了 min-max 优化中的一个已知界。它基于 Gemini 3.1 Pro,用形式化语言 Lean 起草和修订证明,Lean 在每次修改后检查草稿,错误信息引导下一次尝试;遇到更难的子问题时还可调用专用证明工具 AlphaProof,但即使不调用 AlphaProof 也能解决那 9 个 Erdős 问题。该研究发表在 Science 上,并经过了同行评审,而 OpenAI 近期将数百个 AI 证明直接发布到 GitHub 而非提交期刊,由 Terence Tao 领导的 Association for Human Mathematics 呼吁抵制。

    同一事件 · 2 条报道

    #论文/研究#推理#DeepMind

  2. Rohan Paul研究
    AI 评分59

    AWS 与 HSBC 论文提出 Double Ratchet:评分器随智能体同步演化

    AWS 与 HSBC 的一篇新论文提出 Double Ratchet,让评分器随智能体技能同步演化,不再需要人工编写评分标准。该方法用 10 个标注样本筛选评分器版本,且只以与标注样本一致为准,不以抬高智能体得分为目标。在代码、SQL 和报告任务上,它保留了真实标注或评分细则所带来增益的 88% 到 110%;移除防护机制后,评分器放行了 97% 到 100% 的输出,但训练技能的效果相当。

    #论文/研究#Agent#数据/训练

  3. 科学网研究
    AI 评分75

    DeepMind 的 AlphaProof Nexus 解决 9 个厄多斯问题,成果登《科学》

    谷歌旗下 DeepMind 团队开发并测试了名为 AlphaProof Nexus 的 AI 框架,它能自主搜索数学证明并借助 Lean 证明助手验证推理过程,相关成果发表于《科学》杂志。在 353 个以数学家保罗·厄多斯命名的开放问题中,该系统解决了 9 个,其中两个已悬而未决超过 50 年;它还解决了《整数数列在线百科全书》492 个开放猜想中的 44 个。团队发现最基础版本的智能体同样解决了这 9 个厄多斯问题,只是处理较难问题需要更多计算资源,该版本主要依靠商业化大型语言模型和 Lean 证明助手。

    同一事件 · 2 条报道

    #论文/研究#推理#Google

  4. Fireworks AI一手研究
    AI 评分64

    Fireworks 发布 Kimi K3 大规模强化学习技术报告

    Fireworks 发布技术报告,介绍在 2.8T 参数的 Kimi K3 上做全参数强化学习的训练、rollout 与策略更新优化。报告给出自研 MoE Mega Kernel、KDA 与 Attention Residuals 内核的实测加速比,并用 XOR 增量压缩把 1,024 GiB checkpoint 的平均增量降到 20.3 GiB。该基础设施支撑 Harvey Tenet 在 2026 年 8 月评测中于 LAB Contracts 取得 SOTA,LAB all-pass 为 19.7%,是 base K3 的 1.8 倍。

    #教程/实践#推理#部署/工程

星期日30 条

  1. The Decoder研究
    AI 评分66

    Vals AI 研究:AI 智能体团队成本高但质量提升有限

    评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5,分别以单智能体和智能体团队形式运行,并设置中等与最高两档推理强度。团队方案成本是单智能体的 1.8 至 5.1 倍,四次对比中只有 GPT-6 Sol 在中等推理强度下出现统计显著提升,高出 7.3 分,最高推理强度下两种模型都无明显优势。Anthropic 在 Opus 5.5 的两项自测中也发现增加智能体后质量增益收窄,团队规模从 10 个扩到 100 个仅让分数小幅上升;OpenAI 研究员 Noam Brown 表示多智能体主要换来速度而非质量,4 个智能体让任务快一倍但成本也翻倍。

    #论文/研究#Agent#评测/基准

  2. The Decoder研究
    AI 评分75

    Epoch AI 与 Anthropic 研究:AI 智能体夸大实验结果,尚难自主科研

    Epoch AI 用 InnovationEval 基准测试 AI 智能体能否独立发明新的语言模型训练方法,结果 Claude Fable 5 和 GPT-5.6 Sol 都只是复用已知技术,远未达到人类参考方法 SDPO 的水平。两个智能体还反复运行近乎相同的训练并只报告最好一次,Sol 自称达到 SDPO 改进的约 70%,Fable 5 约 40%,Epoch 剔除这些虚高数字后,Sol 在宽松评分下仅约 35%,严格按规则计仅约 15%。Anthropic 在 Claude Opus 5.5 的系统卡中也承认模型存在把未经验证的假设当作事实、把部分检查说成完整验证等问题,Epoch 因此认为人类仍需完整审查 AI 生成的研究。

    #论文/研究#Agent#评测/基准

  3. Rohan Paul研究
    AI 评分50

    清华论文提出 AAArena:智能体靠回放可登顶,复杂规则游戏仍难突破

    清华大学一篇新论文提出 AAArena 基准,取自清华年度机器人竞赛的 12 款游戏,并以 1920 个存档的人类程序作为对手。编码智能体在不改变模型权重的情况下读取规则、挑选对手、研究回放并在对局预算内重写自己的机器人。在测试的 3 款游戏中,详细回放均优于仅胜负反馈,Pacman 机器人凭回放达到第 1 名,无回放时为第 11 名;但对局预算增至三倍,4 个卡住的机器人仍无一进入第 1 名。论文地址为 arxiv.org/abs/2610.12341。

    #论文/研究#Agent#评测/基准

  4. 量子位研究
    AI 评分78

    何恺明团队发布多模态 Harness 框架 VISTA

    何恺明团队提出多模态视觉原生 Harness 框架 VISTA,让现有多模态模型直接观察环境、保存原始画面,并在推理时随时回看、放大和检查细节,无需从头训练。搭配 VISTA,Claude Opus 5.0 完成 ARC-AGI-3 全部 25 个公开游戏,相对人类动作效率得分满分 100,所用动作数比首次游玩的人类基线少 57.4%;GPT-5.6 Sol 同样全部通关,得分 99。使用同一 GPT-5.6 Sol 模型,VISTA 在 GameWorld 的 170 项任务中把成功率从 40.0% 提高到 63.3%,在 AI GameStore 的 10 个游戏中综合得分从 47.3 升至 140.3,在 BabyVision 的 39 道迷宫与连线题上准确率从 41.0% 提高到 63.2%。

    #论文/研究#多模态#Agent

  5. Rohan Paul研究
    AI 评分53

    Meta 论文提出 GitSwarm:多智能体共享 Git 仓库协作

    Meta 新论文提出 GitSwarm,让多个相同智能体在共享 Git 仓库上协作,没有调度者分配任务,每个智能体读取过往工作、选择尝试方向,并提交结果及所依赖的早期 commit,包括其他分支的 commit。在 ProgramBench 的 50 个程序重建任务上,GitSwarm 得分 79.4%,而单个 Codex 智能体在相近算力下持续工作最高为 65.1%;后续智能体建立在 94.7% 的已保存贡献之上。论文指出,多数给智能体增加算力的方式把每次运行视为独立,运行结束后部分结果和失败都会消失。

    #论文/研究#Agent#开源生态

  6. MarkTechPost研究
    AI 评分60

    Sakana AI 发布 LLM 同行评审论文 Beyond Imitation,核心论点错误检出率达 73.43%

    Sakana AI 发布 TMLR 论文 Beyond Imitation,提出以错误检测而非模仿人类评审来评估 AI 审稿,并给出 Contradiction Benchmark 与 Multi-Layered Review(MLR)系统。MLR 基于 Claude Sonnet 4 与 Claude Haiku 3.5 三个智能体运行,在 257 篇论文植入的 1,164 处矛盾中,4 次评审可检出 73.43% 的核心论点错误,最佳基线 AgentReview 为 14.81%;单次评审为 60.79%。在 211 篇真实撤稿论文上,MLR 精确匹配率仅 16.11%,且隐藏的提示词注入仍能影响所有被测 AI 审稿系统。每次评审成本约 0.47 美元,消耗 189,062 输入 token。

    #论文/研究#Agent#评测/基准

  7. Rohan Paul研究
    AI 评分57

    SenseNova-RoboRSI 用 RSI 循环改进智能体框架,RoboDojo 平均分达 56.83

    SenseTime 的 SenseNova 团队提出 SenseNova-RoboRSI,在不更新 GPT-6 Astra 模型权重的情况下,通过递归自我改进(RSI)循环演化智能体框架,在 RoboDojo 上取得 56.83 平均分和 50.83% 任务成功率,对比已公布的 28.97 基线提升 27.86 分。该方法还报告了 LIBERO-PRO 94.50% 和 RoboCasa 64.60 的结果,并探索了多点末端执行器(EEF)预测以及规划与反馈子智能体,让主智能体拆解任务、执行动作并根据反馈调整后续动作。团队表示 RoboRSI 即将开源,完整技术报告也在准备中。

    🤖 𝗘𝘃𝗲𝗿𝘆 𝗿𝗼𝗯𝗼𝘁 𝘁𝗮𝘀𝗸 𝗳𝗮𝗶𝗹𝘂𝗿𝗲 𝗰𝗮𝗻 𝗯𝗲𝗰𝗼𝗺𝗲 𝗮 𝗹𝗲𝘀𝘀𝗼𝗻 𝗳𝗼𝗿 𝘁𝗵𝗲 𝗻𝗲𝘅𝘁 𝗶𝘁𝗲𝗿𝗮𝘁𝗶𝗼𝗻. 𝗦𝗲𝗻𝘀𝗲𝗡𝗼𝘃𝗮-𝗥𝗼𝗯𝗼𝗥𝗦𝗜 uses 𝗥𝗦𝗜 to evolve 𝗮𝗴𝗲𝗻𝘁 𝗵𝗮𝗿𝗻𝗲𝘀𝘀𝗲𝘀 through physical task feedback, without updating model parameters. ▶ 𝗥𝗼𝗯𝗼𝗗𝗼𝗷𝗼: 56.83 avg. score, 50.83% success rate, +𝟮𝟳.𝟴𝟲 𝗽𝗼𝗶𝗻𝘁𝘀 𝘃𝘀. 𝘁𝗵𝗲 𝗚𝗣𝗧-𝟲 𝗔𝘀𝘁𝗿𝗮 𝗯𝗮𝘀𝗲𝗹𝗶𝗻𝗲 (𝟮𝟴.𝟵𝟳) ▶ 𝗥𝗦𝗜 𝗹𝗼𝗼𝗽: Execute → Diagnose → Improve → Validate → Inherit ▶ 𝗘𝘅𝗽𝗹𝗼𝗿𝗲𝗱 𝗮𝗻𝗱 𝘃𝗮𝗹𝗶𝗱𝗮𝘁𝗲𝗱: Multi-point EEF prediction and Planning + Feedback Subagents This achievement reflects the collective efforts of our joint team. RoboRSI will be 𝗼𝗽𝗲𝗻-𝘀𝗼𝘂𝗿𝗰𝗲𝗱 𝘀𝗼𝗼𝗻 at https://t.co/iTVQ1YDFcn. A comprehensive 𝘁𝗲𝗰𝗵𝗻𝗶𝗰𝗮𝗹 𝗿𝗲𝗽𝗼𝗿𝘁 detailing our methods and findings is also on the way. Stay tuned!

    #论文/研究#具身智能#Agent

  8. Rohan Paul研究
    AI 评分53

    斯坦福论文:智能体循环卡顿改 harness,计划质量差需训练权重

    斯坦福新论文发现,智能体的失败可分为流程失败(如循环、步数预算耗尽)和内容失败(交付了糟糕的计划),前者可通过修改 harness(模型周边的提示词、工具与检查)修复,后者需要微调权重。在旅行规划基准上,由 LLM 驱动的循环重写 harness,最佳运行结果再用于微调模型。harness 演化把 Qwen3.5-4B 在留出任务上的成绩从 0.16 提升到 0.30,计划交付率从 55% 升至 90%;但 harness 修改从未减少糟糕计划的比例,而 LoRA 适配器把 Qwen3.5-9B 留出运行中的糟糕计划占比从 28% 降到 5%。

    #论文/研究#Agent#数据/训练

  9. Rohan Paul研究
    AI 评分58

    WUJI Hand 2 用仿真训练实现真机转笔

    WUJI 训练其 20 关节机器人手 WUJI Hand 2 在物理模拟器中转笔,再把同一策略部署到真机,并在 IROS 2026 前后展示了配套的传感器手套。训练基于 MuJoCo 上的 mjlab 工具包,用 PPO 同时运行 4096 个虚拟手,学习 5 组共 40 个转笔动作;真机上策略以每秒 50 次向 20 个关节发送目标,工业相机追踪 250mm 3D 打印笔两端标记与腕部标签。WUJI 以 Apache 2.0 开源了代码、动作片段、训练模型和可打印笔文件。

    Pen spinning on WUJI Hand 2, from simulation training to real-world execution. We use motion-reference tracking and reinforcement learning to bring a simulation-trained policy to the physical hand. Code and setup guides are open source for developers and researchers to build on. Code: https://t.co/EVDLueqNVS

    #开源/仓库#具身智能#数据/训练