Anthropic 发布自动化分析工具 Clio，可在保护用户隐私的前提下分析 claude.ai 的真实使用情况。Clio 由 Claude 完成对话特征提取、语义聚类、簇描述和层级构建，数据自动匿名化聚合，仅高层聚类对分析人员可见。对 100 万条对话的分析显示，Web 与移动应用开发类对话占比超过 10%，教学学习类超过 7%，商业策略与运营类接近 6%。Clio 还帮助识别了用相似提示词结构批量生成 SEO 垃圾内容的自动化账号网络，并发现翻译类有害内容等被原有安全分类器漏报的情况。
#论文/研究#安全/对齐#Anthropic
Lilian Weng 在 Lil'Log 发布长文，系统梳理强化学习中的奖励劫持问题，即智能体利用奖励函数的缺陷或歧义获取高分却未真正完成任务。文章按 RL 任务、LLM 任务和现实生活分类列举实例，并讨论 RLHF 中代理奖励与真实奖励的差距、LLM 作为评估者的位置偏差，以及对抗奖励函数、解耦审批、异常检测等缓解思路。作者指出，随着模型能力增强，奖励劫持更易出现，而针对 RLHF 和 LLM 的实用缓解研究仍然有限。
#论文/研究#安全/对齐#推理
Zyphra 展示了一套检索系统，可在推理时于标准 CPU 上把任意现成 LLM 扩展到 10 亿 token 上下文。该方法基于稀疏图检索，在需要超长上下文推理的 Hash-Hop 基准上取得 SoTA，并称比使用稠密嵌入的常见 RAG 系统更省算力与内存，也比长上下文 Transformer 更高效。团队表示这些初步结果适合端侧和算力受限场景，后续将测试其在更多长上下文任务上的通用性。
#论文/研究#RAG#推理
Zyphra 发布 Zyda-2，一个约 5 万亿 token 的宽松许可数据集，由 DCLM、FineWeb-Edu、Zyda-1 和 Dolma v1.7 的 Common Crawl 部分经跨数据集去重与模型过滤组合而成，已在 HuggingFace 上开放。借助 NVIDIA NeMo Curator 的 GPU 加速，数据处理从 CPU 上的 3 周缩短到 2 天，总拥有成本降低 2 倍。Zyphra 称用 Zyda-2 退火训练的模型在 MMLU、Hellaswag 等聚合评测上优于 DCLM 和 FineWeb-Edu，其 Zamba2 系列模型即基于该数据集的早期版本训练。
#开源/仓库#数据/训练#部署/工程
FutureHouse 发布工程博客，介绍其科学 RAG 系统 PaperQA2 的设计实验，称其在回答高难度科学问题、撰写综述文章和检测文献矛盾等任务上超过科学家的表现。团队基于 LitQA2 的 200 道专家多选题评测发现，智能体式查询扩展、LLM 重排与上下文摘要（RCS）、引用遍历对准确率重要，而嵌入模型选择、混合关键词嵌入、chunk 大小和结构化解析影响不大。新增的引用遍历工具通过 Semantic Scholar 和 Crossref API 前后各遍历一度引用，提升了正确论文的召回率。
#教程/实践#RAG#Agent
Cartesia 团队发布 Based 架构，通过结合滑动窗口注意力和线性注意力，在召回密集型任务上超越 Mamba 等次二次方模型，同时实现比 FlashAttention-2 高 24 倍的文本生成吞吐量。该架构使用二阶泰勒近似作为特征映射，并提供了 IO 感知的 CUDA 实现，代码和检查点已在 GitHub 和 Hugging Face 公开。
#论文/研究#开源/仓库#推理
FutureHouse 发布 WikiCrow，一个基于其 PaperQA 智能体平台的自动合成系统，可为技术主题生成带引用的维基百科式摘要。团队用它为 15616 个尚无条目或仅有残篇的人类蛋白编码基因生成草稿，每篇约 8 分钟，50 个实例并行，几天内完成，估计人工需约 60000 小时。评测显示 WikiCrow 约 9% 的陈述不正确，但引用来源的一致性明显优于人类编辑；PaperQA 在 PubMedQA Blind、MedQA-USMLE 及自建 LitQA 基准上优于 GPT-4、Perplexity 等系统。
#论文/研究#RAG#数据/训练
OpenAI 使用 PPO 训练由 5 个 AI 智能体组成的团队，在 Dota 中击败半职业玩家。智能体没有使用人类比赛数据，而是依据人工设计的奖励函数通过自我对弈学习，并以 90-95% 的胜率持续战胜两周前的智能体。Sam Altman 认为，充足的计算规模与良好的模拟环境可让深度强化学习处理极其复杂的问题。
#论文/研究#Agent#推理