Cohere 产品与研究博客一手研究
AI 评分60Cohere 研究揭示大语言模型训练中的“文化漏斗”
Cohere 分析超过 5.6 million 条训练数据样本，发现文化多样性从预训练到后训练持续收窄，单纯增加语言只能扩大地域覆盖，不能提高文化内容占比。团队在 TinyAya 微调数据中加入显式文化标记后，NormAd、BBQ 和 GMMLU 分别提升 +8%、+6% 和 +2.3%，且未损害通用多语言能力。
#论文/研究#数据/训练#安全/对齐
N全部新闻
全部新闻
- Generalist一手研究AI 评分63
Generalist 公布 GEN-1.5 具身模型上下文学习结果
#模型发布#具身智能#数据/训练
- Hugging Face一手研究AI 评分55
IBM 研究：智能体到底需要多少记忆？
IBM 研究团队在 AppWorld 的 585 个多步任务上测试八款模型，发现智能体记忆存在三种模式：能力强的模型用完整指南集收益最大，DeepSeek-V3.2（671B MoE）任务完成率提升 9.5 个百分点；较弱模型用精选检索更有效，gpt-oss-120b（117B MoE）提升 16.1pp 且 token 只增加约 5%；已饱和的模型如 GLM-5（745B MoE）则没有可测收益。这里的记忆指 ALTK-Evolve 从智能体自身成功与失败轨迹中提炼的指南集，推理时注入上下文，不更新模型权重，因此可跨模型迁移。研究还指出生产环境中提示词缓存是主要成本杠杆，并计划训练基于结果信号的选择器、探索面向极弱模型的教师蒸馏记忆。
#论文/研究#Agent#数据/训练
- MIT News · Artificial Intelligence研究AI 评分71
MIT 研究发现生成式 AI 图像往往无法追溯至具体训练数据
MIT CSAIL 研究发现，生成模型的训练数据越多，单个样本对特定输出的影响越小，这一现象被称为“归因衰减”。团队构建“扩散模型集成”架构，无需重新训练即可精确移除样本影响，并在来自七个公开数据集、规模从 256 张到超过 160,000 张图像的实验中观察到反幂律收缩趋势。该开放获取论文发表于 Nature Communications。
#论文/研究#图像生成#数据/训练
- Johann Rehberger / Embrace The Red研究AI 评分62
作者复现从加密推理链中恢复密码的攻击
Johann Rehberger 复现了论文《Stealing Reasoning Traces from Proprietary LLM APIs》中的攻击方法，把 GPT-5.6 Sol 在一个 OpenAI 账号下生成的加密推理链，用另一账号的 GPT-5.6 Luna 配合轻度越狱提示词还原出底层推理内容，包括原推理中出现过的密码。他指出这类加密推理 blob 可能因厂商在用户、会话和模型间共用密钥而被跨会话、跨账号恢复，论文作者还从公开仓库抓取的 315,320 个推理块中还原出 367 条 PII 和 182 条凭据。测试期间该攻击曾于 8 月 11 日前后完全失效，三天后又恢复可用，原因不明。
#安全/对齐#推理#OpenAI
- Prime Intellect一手研究AI 评分68
Prime Intellect 用 nanoGPT 速通实测 18 个前沿模型的自主研究能力
Prime Intellect 在 nanoGPT 优化器速通任务上对 18 个前沿模型各跑多次自主实验，单次最长八天、每次 8xH200s，共 153 次运行，称这是该规模下首个公开实验。没有任何一次运行提出全新方法，获胜思路都与现有文献相似，但 Fable 5 和 Opus 5 明显领先其他模型。差距体现在实验选择、执行严谨度和对噪声结果的处理上，强模型会用三个种子验证临界结果、在配方变化后重测旧结论，Opus 5 重开 β2 调参并刷新记录。全部 trace、scratchpad、监控报告与 harness 均已公开。
#评测/基准#Agent#数据/训练
- METR Notes一手研究AI 评分64
METR 研究：AI 是否带来了发现加速
METR 发布分析，用公开发现数据检验 AI 是否带来加速：网络安全漏洞发现明显加速，数学成果有一定加速但更难客观衡量，算法优化领域尚未出现显著加速。结论仅基于公开发现，AI 实验室内部未披露的成果可能未被计入。cURL 漏洞从 2025 年的 9 个增至 2026-06-24 的 36 个，其中 15 个标注 AI；Firefox CVE 从 2025 年的 210 个增至 2026-08-04 的 342 个；OpenSSL 从 2025 年全年的 6 个增至 2026-08-05 的 39 个。数学方面，Smale 问题清单中的 Jacobian 猜想由 Alpöge 与 Claude Fable 在 2026 年给出反例，Green 清单的 Problem 44 和 Problem 100 的 sofic 部分也已被解决。nanoGPT、CIFAR-10、Gurobi、MIPLIB、Stockfish、矩阵乘法指数等优化类指标均未显示明显加速。
#现象/趋势#安全/对齐#数据/训练
- Anthropic：The Institute一手研究AI 评分67
Anthropic 研究多智能体系统的行为模式与失效问题
Anthropic 发布多智能体系统研究，用漏洞挖掘、协作建游戏、定价博弈和冲突迁移等实验观察 Claude 各代模型的行为差异。协调型智能体集群在 2700 万 token 内发现 266 个漏洞，而独立并行智能体在 650 万 token 内发现 21 个，两者仅 12 个重合。研究还发现智能体行为方差低易同时犯错、可迅速形成价格共谋，并在目标冲突时互相部署恶意代码。
#论文/研究#Agent#安全/对齐
- Google Research一手研究AI 评分75
Google 将 AMIE 推进到实时视频问诊，随机研究显示达到专家级水平
Google Research 发布 AMIE (Video)，基于 Gemini 和 Project Astra 实现实时视频临床问诊，可感知非语言线索、引导虚拟体格检查并同步进行诊断推理。研究采用异步多智能体架构，由三个专职智能体并行处理对话、推理与视听感知，以维持自然对话延迟。在 100 个场景、300 次实时问诊、30 名认证初级保健医生参与的随机 OSCE 研究中，临床评估者在病史采集、诊断准确性和沟通质量上给 AMIE (Video) 的评分与初级保健医生相当，在引导体格检查方面显著更高；患者演员更偏好视频界面。研究全部使用专业患者演员模拟场景，尚未在真实患者中验证。
#模型发布#多模态#语音
- Hugging Face一手研究AI 评分58
考虑 ACE？ALTK-Evolve 能以更少 Token 实现
ALTK-Evolve 通过按模型能力调整指南投放量，在 AppWorld 内部对比中以更低推理成本取得与 ACE 相当或更好的准确率。强模型配置的成本约为 ACE 的 40%，弱模型以约七分之一成本获得 56.0 分，对比 ACE 的 54.8 分。两者都保留带计数的经验指南，但 ACE 每步注入完整 playbook，ALTK-Evolve 可选择性检索或投放完整集合。
#评测/基准#Agent#推理
- LMSYS Blog一手研究AI 评分51
LMSYS 发布 Unified Radix Cache：用一棵树统一混合模型前缀缓存
LMSYS 发布 Unified Radix Cache，用单一 token 基数树统一混合模型的前缀缓存，把 full attention KV、sliding window attention KV 和 Mamba checkpoint 作为组件挂到同一拓扑上，HiCache 原生跨 GPU L1、Host L2 和外部 L3 分层。多轮基准中 L3 在 DeepSeek-V4-Flash 上保持约 98% 命中率、Inkling-Small 上为 96.8%；SWE-bench 轨迹上会话感知配置的 TTFT 比普通 HiRadixCache 加 LRU 低 2.9% 至 16.6%。实验性 Rust 树核心在滑动窗口负载 176 至 200 轮上 TTFT 最多降低 42%。
#开源/仓库#部署/工程#数据/训练
- MIT News · Artificial Intelligence研究AI 评分57
MIT 与清华团队提出 GeoPT，以更少数据模拟更广泛的真实物理场景
MIT CSAIL 与清华大学研究人员提出预训练方法 GeoPT，通过 1.3 million 个合成动力学样本学习物理交互，相比领先模型可将训练数据最多减少 60 percent，并以两倍速度达到峰值性能。GeoPT 可根据上传的 3D 模型及作用力方向和速度，模拟车辆碰撞变形、流体作用和光线传播等场景；在船体空气与波浪模拟中，它以少 60 percent 的标注数据达到峰值准确率，速度快四倍。
#论文/研究#数据/训练#具身智能
- Hugging Face一手研究AI 评分75
让知识蒸馏便宜到足以大规模运行
Multiverse Computing通过缓存教师模型每个位置的top-100 logits，并把输出投影融合进分块KL loss，大幅降低大语言模型离线知识蒸馏的显存成本。32K token基准中，峰值显存从85.2 GiB降至5.45 GiB；蒸馏GPT-OSS 20B时，GPU节点由4个减至1个，单步耗时从57.0秒降至12.23秒。该分块loss实现已开源。
#论文/研究#数据/训练#部署/工程
- MIT News · Artificial Intelligence研究AI 评分73
MIT 研究发现医疗 AI 辅助效果因用户专业水平而异
MIT 等机构的研究发现，AI 辅助总体提高了非专业用户和临床医生诊断皮肤疾病的准确率，但解释方法的影响因专业水平而异。非专业用户容易依赖 LLM 解释，即使解释错误也可能认为其可信；临床医生则不易受错误解释干扰，仅获得模型预测时表现最佳。研究建议先让用户提出诊断假设，再提供 AI 建议，以减少自动化偏见和过度依赖。
#论文/研究#安全/对齐
- Johann Rehberger / Embrace The Red研究AI 评分73
劫持 LiteLLM：流量拦截、密钥窃取与工具调用注入
安全研究者 Johann Rehberger 展示了针对 AI 网关 LiteLLM 的一组红队 TTP：攻击者只需拿到 LITELLM_MASTER_KEY 等代理管理员凭据，通过 /model/update 修改 api_base 和 use_litellm_proxy 两个设置，即可把全部推理流量改道到恶意网关。改道后受害者会把后端 LLM 提供商的真实密钥发给攻击者，攻击者再用 async_post_call_success_hook 等回调注入文本或伪造工具调用，由于修改发生在推理之后，可绕过提示词层面的防御。文章同时给出 api_base 变更告警、凭据轮换、出站限制等检测与缓解建议，并指出该思路原则上适用于其他 AI 网关产品。
#安全/对齐#部署/工程#MCP/工具调用
- Google Research一手研究AI 评分58
Google Research 发布 Science One Framework：用证据链实现可验证的自主科研
Google Research 发布 Science One Framework，一个通过原生构建证据链来消除幻觉的自主科研原型，并配套 CoE Audit 自动评估协议。在 ADRS 基准的 75 篇生成论文上，基线系统引用幻觉率最高达 21%，而该框架实现零虚假引用和完全可验证的分数，同时在 MLE-Bench 和 Parameter-Golf 等基准上达到 SOTA。该框架为实验性研究原型，并非生产就绪工具。
#论文/研究#Agent#推理
- Johann Rehberger / Embrace The Red研究AI 评分66
通过 PipeWire 逃逸 Linux 沙箱（CVE-2026-5674）
作者用 Claude Code 和 Opus 4.6 搭建的自动化研究流程发现 Flatpak 应用可经 PipeWire 逃逸沙箱，漏洞编号 CVE-2026-5674，CVSS 评分 8.8。逃逸依赖三个问题：PipeWire 的 PulseAudio 兼容层从不校验认证 cookie、模块加载默认开启、module-ladspa-sink 对 plugin 参数直接调用 dlopen() 且不校验路径。一个只申请音频和临时目录权限的 Hello World 应用即可在用户完整上下文中执行任意代码，Discord 等带音频权限和可写路径的 Flatpak 应用以及挂载 PulseAudio socket 的 Docker 容器同样受影响。Red Hat 已发布修复，作者认为实际落地的是限制 dlopen() 加载任意绝对路径。
#安全/对齐#开源生态
- LMSYS Blog一手研究AI 评分60
LMSYS 在 Miles 中实现 Blackwell 原生 MXFP8 与 NVFP4 强化学习配方
LMSYS 在 Miles 中实现了两种 Blackwell 原生强化学习配方：端到端 MXFP8，以及面向 MoE 专家的逐 token NVFP4，覆盖 checkpoint 转换、Megatron 训练、SGLang rollout 与在线权重更新。在 8x B200 上对 Qwen3-30B-A3B 的配方消融中，BF16 与五种低精度配置的原始 reward 曲线高度重合，MXFP8 和 NVFP4 均缩短了 rollout 时间。NVFP4 采用在线逐 token 激活缩放，并支持高精度或反量化 backward 模式，相关改动已提交至 TransformerEngine、FlashInfer、SGLang 等上游仓库。
#开源/仓库#数据/训练#部署/工程
- Together AI Blog一手研究AI 评分62
Together AI 发布 ThunderAgent：面向合成数据生成的智能体推理调度系统
Together AI 联合佐治亚理工、UIUC 和 CMU 提出 ThunderAgent，把每个智能体工作流抽象为可调度程序，以程序级调度缓解 KV cache thrashing，在合成数据生成流水线中实现最高 2.5 倍单节点吞吐提升。在单台 8×H100 节点、batch size 192 下，SGLang 吞吐降至 390 token/s、平均延迟 65s，ThunderAgent 达到 803 token/s、平均延迟 10.6s；8 节点集群上相对 SGLang Gateway 加速 2.39 倍，从 16 到 64 GPU 吞吐近线性扩展。该工作已被 ICML 2026 接收为 Spotlight 论文，代码开源，客户端只需增加一个 program_id 字段，并已被 SkyRL 和 NVIDIA Dynamo 采用。
#产品更新#部署/工程#Agent
- Anthropic：The Institute一手研究AI 评分78
Anthropic 用 Claude Mythos Preview 发现 HAWK 与 AES 的密码学弱点
Anthropic 研究人员用 Claude Mythos Preview 改进了对后量子签名方案 HAWK 的攻击，将有效密钥强度减半，并把小尺寸 HAWK-256 的密钥恢复成本从 2^64 降到 2^38。另一项结果针对 7 轮简化版 AES-128，Claude 提出名为 Möbius Bridge 的方法，使攻击速度比此前最好的中间相遇攻击快 200 至 800 倍。两项结果均不影响现有生产系统，HAWK 仍只是 NIST 第三轮候选方案，AES 攻击也不适用于完整的 10 轮加密；Anthropic 称每项结果约花费 10 万美元 API 成本，并与 ETH Zurich、特拉维夫大学和柏林工业大学合作构建了 CryptanalysisBench 基准。
#论文/研究#安全/对齐#Anthropic