N全部新闻

星期二29 条

  1. Zyphra Research一手研究
    AI 评分63

    Zyphra 提出分层注意力 ZHA,实现亚二次复杂度稀疏注意力

    Zyphra 提出分层注意力 ZHA,通过构建并搜索 KV cache 的压缩树为每个查询挑选相关 token,在合适 top-p 阈值下实现亚二次复杂度。ZHA 只需用几十亿 token 的 KL 蒸馏即可把已有预训练模型适配过来,在 Qwen3.6-35B-A3B 上仅新增 81,920 个可训练参数;RULER-13 256K 上宽树达 96.2%、深树 93.3%,LongBench v2 深树 63.4% 高于稠密注意力的 58.0%,SWE-bench Verified 上与稠密基线相当。其 GPU 性能模型预测在约 48K token 时快于稠密注意力、约 480K token 时快于 MSA,一千万 token 上下文下相对稠密注意力约 32–35 倍加速。

    Top-p Set Growth Rate is Sublinear

    #论文/研究#推理#数据/训练

  2. Vaibhav Srivastav研究
    AI 评分75

    研究称 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力

    Rikiya Takehi 称其团队让 GPT-6 Astra 直接改写 Qwen3.5-0.8B 的权重以提升数学能力,仅改动 0.016% 的权重,就在不依赖梯度或训练的情况下修复了该模型的推理循环,数学能力最高提升 6 倍、指令遵循提升 3 倍。团队将这一做法称为 Weight-Space Programming,认为前沿 LLM 已能原生读写神经网络权重。Vaibhav Srivastav 转发了这条内容,并附上原文标题 GPT-6 Astra。

    We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq

    #其他#论文/研究#推理

  3. Yuchen Jin研究
    AI 评分68

    研究者用 GPT-6 Astra 直接改写 Qwen3.5-0.8B 权重提升数学能力

    Yuchen Jin 转述 Rikiya Takehi 的实验:用 GPT-6 Astra 直接编辑 Qwen3.5-0.8B 的权重来提升数学能力,仅改动 0.016% 的权重,就修复了该模型的推理循环,数学能力最高提升 6 倍、指令遵循提升 3 倍,全程不使用梯度也不做训练。作者把这种方法称为 Weight-Space Programming,认为前沿 LLM 已能原生读写神经网络权重,并称其比知识蒸馏更进一步。

    We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq

    同一事件 · 13 条报道

    #大佬观点#数据/训练#论文/研究

  4. Hacker News 热门研究
    AI 评分82

    LLM 可直接读写神经网络权重:Astra 将 Qwen3.5-0.8B 的…

    Rikiya Takehi 与 Jayden Teoh 等人的博客文章提出 Weight-Space Programming,发现 GPT-6 Astra 等前沿 LLM 能直接读写神经网络权重,无需梯度下降或训练循环。Astra 仅凭原始权重就能识别网络训练所用的游戏、扩散模型生成的形状和语言模型训练语料,还能从零写出在三个 MinAtar 游戏中击败训练 1 亿步 PPO 网络的权重。在 Qwen3.5-0.8B 上,Astra 定位到导致推理循环的权重方向,只改动 0.016% 的权重,就把 MATH-500 从 7.9% 提升到 48.1%、IFEval 从 21.0% 提升到 62.3%;但对很少循环的 Gemma 3 270M 则未能提升数学成绩。

    同一事件 · 13 条报道

    #论文/研究#推理#数据/训练

  5. Hacker News 热门研究
    AI 评分65

    arXiv 论文:预训练数据投毒可在智能体中植入远程代码执行后门

    arXiv 论文《Agentic Backdoors via Pretraining Poisoning》显示,在预训练语料中投毒可给智能体植入远程代码执行后门,使其在用户机器上执行攻击者指定的命令。研究从零预训练 0.6B、1.7B、4B 三种规模的 Qwen3 模型,再用干净流程后训练为 CLI 智能体;仅污染 0.1% 的预训练语料即可植入后门,4B 模型攻击成功率约 92%,污染率降至 0.0005% 时仍为正。代码已公开。

    #论文/研究#安全/对齐#Agent

  6. Unite.AI研究
    AI 评分61

    石溪大学研究:95%病例中医生更偏好AI生成的出院小结

    石溪大学一项回顾性研究显示,在评估的60例内科住院病例中,医生评审在95%的病例里更偏好AI生成的出院小结。该研究发表于npj Digital Medicine,AI小结在整体质量上平均4.71分、人工小结3.16分,事实准确性4.62对3.73,完整性4.69对3.42。研究同时指出两类小结均存在错误,且高评分未证明患者结局更好,作者强调使用前仍需医生核验。

    #论文/研究#数据/训练#Agent

  7. Rohan Paul研究
    AI 评分76

    MIT 研究显示 GPT-6 Astra 可直接改权重提升 Qwen3.5-0.8B 数学能力

    MIT 研究者让 GPT-6 Astra 在 Python notebook 中直接编辑 Qwen3.5-0.8B 的权重,在 MATH-500 上把准确率从 7.9% 提升到 48.1%,全程不训练。Astra 获得权重和 50 次练习数学题测试预算后,发现模型反复重复直到触及长度上限,将这一习惯定位到 2 层写入的单个内部信号,并从权重中减去该信号。这次编辑只改动了 0.016% 的权重,作者将这一方法称为 Weight-Space Programming。

    We asked GPT-6 Astra to edit Qwen3.5-0.8B weights to improve math. It directly changed only 0.016% of weights, fixing 0.8B's reasoning loops & improving math up to 6x and even instruction following 3x, without gradients or training. We call this Weight-Space Programming: frontier LLMs can now natively read/write neural network weights! 🧵 Blog: https://t.co/bOWCcFhCVq

    同一事件 · 13 条报道

    #论文/研究#推理#数据/训练

  8. Rohan Paul研究
    AI 评分63

    OpenAI 发布 LifeVal 基准,测试模型完成日常事务能力

    OpenAI 发布 LifeVal 基准,用于测试 AI 模型能否替人完成日常事务,任务覆盖照护、健康、教育、金融、购物和家庭管理,例如预约车辆年检、在预算内订购清真食品。该基准由数千名 ChatGPT 用户反馈塑造,OpenAI 称过去一年用 LifeVal 衡量并改进模型处理这类任务的能力。Rohan Paul 转述称 GPT-6 Astra 在该基准上得分 80.6%,高于不到 9 个月前 GPT-5.2 的 49.3%。

    For AGI to benefit all of humanity, it should help people with the everyday tasks that matter most to them. So we built LifeVal, a new benchmark shaped by feedback from thousands of ChatGPT users on where they most want help from a personal assistant—from finding childcare to accessing government services to managing personal finances. Over the past year, we’ve used LifeVal to measure and improve how well our models handle these everyday tasks. https://t.co/GlUjixzEM0

    同一事件 · 4 条报道

    #评测/基准#OpenAI

  9. SiliconANGLE研究
    AI 评分68

    Google 报告揭示 LLMjacking 攻击单日可产生超 10 万美元云账单

    Google 的 Mandiant 与 Google Threat Intelligence Group 发布报告《The Rise of LLMJacking》,指出劫持企业 LLM 访问权限的攻击者单日可产生超过 10 万美元的欺诈性云费用,部分组织在权限被撤销前累计账单达到 100 万美元。报告称攻击者多通过被盗或暴露的云身份凭证、GitHub personal access tokens 以及暴露在互联网上的 Ollama 服务器等 LLM 端点进入,并利用 LiteLLM 密钥重生成端点的 CVE-2026-40217 漏洞将普通虚拟密钥提升为网关管理员凭证。报告还描述了通过 new-api、gcli2api 等工具汇聚被盗密钥的 LLM Mixers 转售模式,以及 Jet Night 以约 60 美元/月提供所谓前沿模型无限量访问的情况。

    #安全/对齐#Agent#部署/工程

  10. The Decoder研究
    AI 评分64

    Olam Labs 与 Y Combinator Labs 在 Minecraft 和…

    Olam Labs 与 Y Combinator Labs 在联合研究报告中把 50 个 GPT-6.1 Sol 智能体放进 Minecraft 生存世界,只给“建立繁荣文明”一条指令,结果智能体在首夜出现 22 次死亡后转向极端避险,并陷入繁琐的稀缺物资管理。在 Minecraft Bed Wars 和 Mindustry 对战中,GPT-6.1 Sol 分别以 6-3 和 6-1 击败 Claude Opus 5.5,GPT 智能体还自行从网上下载 Mindustry 公开源码分析单位与机制。研究团队已将 Mindustry 环境和 Multi-Agent Harbor 框架开源。

    #论文/研究#Agent#开源生态

星期一18 条

  1. Rohan Paul研究
    AI 评分55

    Meta 论文提出 TextSeal2:双密钥合一提升 AI 文本水印检测率

    Meta 新论文提出 TextSeal2,把两个密钥融合为一个虚拟密钥并加入新噪声,使每个 token 都携带完整水印信号,同时保持答案多样性。针对投机解码,它从草稿随机竞争的剩余项中选取替换 token,使接受率不变。在 Qwen3.5-9B 上启用投机解码且多样性相同时,TextSeal2 在 0.1% 误报率下对 200 token 回答的检测率为 89%,TextSeal 为 71%,textGrain 为 67%。

    #论文/研究#数据/训练#Meta

  2. 36氪 · AI研究
    AI 评分50

    Meta FAIR 提出路由式持续学习架构 Routed CL,API 成本可降低 65% 至 72%

    Meta FAIR 团队提出路由式持续学习架构 Routed CL,把历史轨迹归入不同簇并各自维护记忆,由基于 LLM 的路由器判断复用已有簇还是新建簇。在混合 CL-Bench 与 τ³-Bench 的 301 个和 97 个实例上,该架构相比 Global ICL 的归一化奖励提升相当于最大可达值的 15% 至 30%,估算 API 成本降低 65% 至 72%。作者也指出尚未评估并发更新、读取旧版本状态以及不同模型复用同一簇的情况。

    #论文/研究#Agent#数据/训练

  3. heise online研究
    AI 评分58

    Y Combinator 与 Olam Labs 用 Minecraft 测试 50 个 AI 智能体建文明

    Y Combinator 和 Olam Labs 的研究者让 50 个基于 OpenAI GPT-6.1-Sol 的智能体在 Minecraft 中于三小时内建立繁荣文明,结果这些智能体很快放弃原定目标,转而搭建带书面规则和审批流程的政府,其中一组花了 11 分钟只为任命一名肥料管理员。在 10 个 GPT-6.1-Sol 智能体对 10 个 Claude-Opus-5.5 智能体的攻防测试中,研究者称 GPT 一方策略更具攻击性且更精细,Claude 一方偏防守;遇到无法破坏方块的工具故障时,GPT 诊断问题并分享变通方法,多个 Claude 则判断破坏不可能。在 Mindustry 中 GPT 智能体以 6 比 1 战胜 Claude,研究者形容 GPT 智能体更像蜂群协作,Claude 智能体虽也指定领导者但决策更偏民主。

    同一事件 · 3 条报道

    #论文/研究#Agent#OpenAI

  4. Rohan Paul研究
    AI 评分69

    SemiAnalysis 发布 GDPx 基准,测试智能体在 11 个领域的专家工作

    SemiAnalysis 发布 GDPx 基准,用 11 个领域的专家任务测试 AI 智能体,最高分的 Claude Opus 5.5 平均仅 12%,Gemini 4 Carbon 以 10.9% 次之。任务涵盖芯片设计、网络安全、金融和法律等,来自 14 家专业数据合作方;与在提示词中直接给上下文的 OpenAI GDPval 不同,GDPx 要求智能体在类似 3,983 份文件构成的真实收购案副本等工作区中自行查找。金融和法律任务上所有模型在通过制评分下均为 0 分,因此改用部分给分;在改进现有交易策略的 111 次尝试中,有 70 次模型表现不如原策略,往往只是加大风险。

    同一事件 · 3 条报道

    #评测/基准#Agent#Anthropic

  5. 凤凰科技研究
    AI 评分75

    ACM Web Conference 2026 论文拆解 ChatGPT 记忆:96% 由系统单方面写入

    被 ACM Web Conference 2026 接收的论文《The Algorithmic Self-Portrait: Deconstructing Memory in ChatGPT》借助 GDPR 数据访问权,获取 80 名用户的 1058 段对话、22971 轮交互和 2050 条记忆条目,发现仅 4.1% 的记忆是用户明确要求记住的,95.9% 由 ChatGPT 自行判断写入。研究还显示 28% 的记忆含 GDPR 定义的个人数据、7% 含特殊类别数据(其中健康信息占 61%),52% 包含对用户心理状态的推断。研究者用 Qwen2.5-32B、Gemma3-27B、GPT-OSS-20B 复刻记忆提取过程,并搭建 Attribution Shield 在提问前预警敏感记忆、给出 94%~100% 降低个人归因的改写;文中另附一段提示词,用于检查 ChatGPT 当前可访问的记忆与用户画像。

    #论文/研究#安全/对齐#OpenAI

  6. 36氪 · AI研究
    AI 评分54

    LeCun 团队论文用 JEPA 证明柏拉图表征假说并提升样本效率

    Yann LeCun 团队提交论文《Proving and Improving the Platonic Representation Hypothesis with JEPAs》,从数学上论证下一 token 预测路线形成跨模态对齐表征的效率较低,并给出可操作的充分条件。实验显示,用同一场景的不同描述做「好视图」JEPA 训练,1.09 亿参数模型在 WIT-1024 上取得 0.184 对齐分数,高于 Qwen2.5-72B 的 0.154 和 Llama-3-70B 的 0.151;达到相近对齐水平所需样本量比下一 token 预测少约 42 倍,按实际读取 token 计约 14 倍。作者还用冻结视觉编码器加线性映射和解码器在 COCO 上取得 0.838 的 CIDEr 分数。

    同一事件 · 4 条报道

    #论文/研究#多模态#数据/训练

  7. 钛媒体 · AGI研究
    AI 评分52

    DeepSeek Harness 团队发布 Super-agent 设计探索长文

    DeepSeek Harness 团队在官方公众号发表《Super-agent 设计探索:迈向更自主的 Agent 系统》技术长文,提出把系统拆成常驻的 Router 调度层与相互隔离的 Worker 执行层,Router 只读事件、评估意图并生成带权限边界的工单,Worker 在独立 Git 工作树中执行任务。文中还介绍了事件过滤、默认只开观察模式的主动接单权限,以及订阅直通机制;据其公布的模拟测试数据,调度中枢冗余决策次数下降约三成,读取缓存所需计算资源缩减三分之一以上,在约三百条消息、二十项工作请求的模拟调度中 P95 任务耗时卡在 15.7 分钟内。

    同一事件 · 24 条报道

    #论文/研究#Agent#部署/工程

  8. 新浪科技研究
    AI 评分60

    清华联合无问芯穹、智元提出群体经验学习CEL,96台人形机器人验证成功率97.5%

    清华大学联合无问芯穹、智元提出群体经验学习(CEL)新范式,让机器人之间共享成功经验与失败教训,并在96台真实人形机器人上完成验证。在插花、叠衣服、手机充电、凳子组装、手机包装五项任务中,群体整体成功率达97.5%,全部超过6名人类操作员的平均水平,其中手机包装任务成功率从79.2%提升至98.3%。实验还显示,参与训练的机器人从16台扩大到96台后整体能力进一步提升;系统层面采用容错异步训练系统FATS,硬件故障带来的时间损耗仅占总运行时长1.3%,算法层面采用FERT经验检索微调算法。

    同一事件 · 9 条报道

    #论文/研究#具身智能#数据/训练

  9. Rohan Paul研究
    AI 评分85

    Epoch AI 测试:智谱 GLM 5.3 连续 6 个版本将未发布的 Firefox 安全修复变成可用攻击

    Epoch AI 的测试中,智谱开源权重模型 GLM 5.3 连续 6 个 Firefox 版本把尚未进入稳定版的公开安全修复识别为真实补丁,并独立构建出完整攻击链,全程没有出现拒绝。最终生成的网页无需额外点击即可把访客本地文件发送给攻击者,并可触及已保存的密码和 Cookie。研究团队先投入超过 10 万美元搭建安全测试系统,此后每次攻击成本约 1000 美元,最快一次耗时 12 小时;每次攻击还用到 AI 自行发现的第二个未知 Firefox 漏洞,Mozilla 已于 10 月 27 日修复。对 Google Chrome 的同类尝试即使花费约 10 万美元也未成功。

    #安全/对齐#Agent#开源生态

  10. 36氪 · AI研究
    AI 评分60

    LeCun团队论文:1.09亿参数文本JEPA跨模态对齐超过720亿参数Qwen2.5

    LeCun与Randall Balestriero的论文用JEPA框架为柏拉图表征假说给出数学证明,并称在跨模态表征对齐任务上,1.09亿参数的文本JEPA表现超过720亿参数的Qwen2.5。研究显示,Good Views训练只需2160万个样本即可达到下一token预测模型用9亿样本的对齐水平,样本量降至1/42,按Token计降至1/14。作者同时指出,这一比较仅限特定对齐指标,数学证明依赖有限世界、可逆观测等理想化条件。

    同一事件 · 4 条报道

    #论文/研究#多模态#数据/训练