←搜索结果

按匹配度 · 共 1589 条结果 清除搜索

星期一

  1. Import AI

    Import AI 459:AI 监管困难、蛋白质折叠模型的缩放定律与 AI 灭绝风险定价

    弗吉尼亚大学、Anthropic 与加拿大银行的经济学家估算,美国 AI 经济 2025 年名义规模约 2500 亿美元,按质量调整后的实际增速约每年 2600%,但这一增长在常规 GDP 统计中几乎不可见。文章还讨论了 AI 监管为何困难、蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价。

    明度、技术专长和协调对于这项任务至关重要。” 认真对待它:“经济学家已经擅长分析公平与效率。我们现在需要把同样的严肃态度带到存续性上。” 为什么这很重要——意识是准备的第一步:眼下,AI的进步不断为世界带来切实的好处,从全球所有软件工程师身上可感知的加速,到人机半人马科学团队的形成——这些团队比没有AI的同行取得了更多进展。但也存在一个更难看见的阴影世界——编码进步所造就的隐形黑客大军,以及科学进步所造就的末日装置工厂。因为人类总体上是善良的,我们尚未遇到AI发展所固有的许多负面能力——但它们确实存在。我们必须作为一个社会更好地思考这一点,以便能够有效地为这些重大风险定价并加以缓解。“一个在拓展可能性边界的同时保全未来的文明,比一个将安全视为事后之想的文明更有雄心。真正的选择不是在活力与谨慎之间。而是在不断累积的进步与自我抵消的进步之间,”Leigh说。“思考这一点的一种方式是将韧性视为一种资本。正如社会投资于物质资本、人力资本和社会资本,我们也可以投资于生存资本:降低不可逆崩溃概率的制度、监测系统、规范、冗余、科学保障和国际安排。”读到一位在任政治家对AI安全形势如此详尽的分析,真是

    匹配字段正文

星期五

  1. Berkeley AI Research (BAIR) Blog

    自适应并行推理:高效推理扩展的下一个范式

    伯克利 AI 研究(BAIR)博客梳理了并行推理领域的最新进展,重点讨论自适应并行推理(APR)这一范式:让模型在推理时自行决定何时并行、生成多少线程以及如何协调。相比 Tree-of-Thoughts 无需领域启发式分解,相比 BoN 避免冗余计算,相比非自适应方法可选择不并行。文中提到 ThreadWeaver(Lian et al., 2025)与 Pan et al.(2025)提出的 APR 方法。

    Adaptive Parallel Reasoning overview

    子任务列表。然后它会为每个子任务进行预填充,并将它们作为独立请求发送给推理引擎处理。这些线程随后并发解码,直到遇到结束token或超过最大长度。该过程会阻塞直到所有线程完成解码,然后聚合结果。这在各种自适应并行推理方法中是通用的。然而,在聚合时会出现一个问题:分支中生成的内容无法在KV缓存层面轻松聚合。这是因为独立线程中的token从相同的位置ID开始,导致编码重叠,并在将KV缓存重新合并时产生非标准行为。同样,由于独立线程彼此不进行注意力计算,它们拼接后的KV缓存会产生非因果的注意力模式,而基础模型在训练中从未见过这种模式。 为解决这一问题,该领域在如何执行聚合过程上分成了两派,划分依据是它们修改推理引擎还是绕开它。 Multiverse修改推理引擎,以便在汇合时复用KV缓存。 在深入了解Multiverse(Yang et al., 2025)的内存管理之前,我们先理解在“汇合”阶段之前KV缓存是如何处理的。注意每个独立线程如何共享前缀序列,即子任务列表。若不优化,每个线程都需要为前缀序列预填充并重新计算KV缓存。然而,这种冗余可以通过 SGLang的RadixAttention(

    匹配字段正文

星期四

  1. One Useful Thing

    Ethan Mollick:AI 智能体时代,我们已能看清「Thing」的轮廓

    Ethan Mollick 认为,自 2025 年底起 Claude Code、OpenAI Codex、OpenClaw 等 AI 智能体让人类从与 AI 协作转向管理 AI,进入新阶段。他引用 METR 长任务曲线、GPQA(最强 AI 得分 94%)、GDPval(最新 AI 在 82% 场景达到或超过顶尖人类)等基准,说明 AI 能力仍在指数级提升。他以 StrongDM 三人团队打造的 Software Factory 为例,该模式规定代码不得由人类编写或审查,每位工程师每天在 AI token 上的花费至少 1000 美元。他还提到 2 月 22 日 Citrini Research 的虚构报告引发市场波动、2 月 26 日 Block 宣布 40% 裁员、2 月 27 日五角大楼与 Anthropic 就 Claude 使用规则发生冲突,认为这一周预示了 AI 能力、市场、就业与政策交织的未来。Anthropic 的 Dario Amodei、OpenAI 和 Google DeepMind 的 Demis Hassabis 均提及递归自我改进(RSI)正在推进。

    们打造了一座“软件工厂”——一种完全依赖AI来编写、测试和交付生产软件、无需人类参与的工作方式。该流程包含两条(相当激进的)规则:“代码不得由人类编写”和“代码不得由人类审查”。为了驱动这座工厂,每位人类工程师预计要在AI token上花费相当于其薪水的金额,至少每天1,000美元。 这座工厂的基本理念是:它接收由人类编写的未来产品路线图,并将其转化为产品。编码智能体利用这些路线图构建软件,而测试智能体则在模拟的客户环境中试用软件(该环境由测试智能体按需构建)。各组智能体相互提供反馈,来回循环,直到结果令AI满意。然后由人类审查成品,结果便交付给客户,全程没有任何人接触、甚至看到底层代码。 由软件工厂的测试智能体构建的 Slack 模拟版本,其中一群模拟客户提交请求,以测试编码智能体正在打造的工具。显然,这里有很多细节让这种方法得以奏效,StrongDM 团队已经公开分享了许多细节。他们还邀请了一些聪明的外部观察者来观看工厂的运作,并对所见所闻发表评论,因此你可以阅读 Simon Willison 和 Dan Shapiro 的记述,以更好地了解他们方法的优势和劣势。然而,在许多方面,

    匹配字段正文

星期四

  1. 蚂蚁百灵:Developer Blog

    蚂蚁百灵发布 Ling 2.5 万亿参数混合线性架构改造实践

    蚂蚁百灵在开发者博客公开 Ling 2.5 架构改造实践,将 Ling 2.0 的 GQA 替换为 1:7 的 Lightning Attention 与 MLA 混合线性注意力,并扩展到万亿参数规模。Scaling Law 实验显示 1:7 比例(M=8)在相同 FLOPs 下表现最佳,M=16 推理成本低但 Loss 明显劣化。团队通过权重转换、QK Norm 数学融合与 Partial RoPE 解耦实现平滑迁移,并采用激进数据切换策略在全量加训早期切入新语料。博客提到当上下文窗口扩展至 256K 或更大时,Ling-2.5-1T 仅有的 10 层 MLA 占据超过 60% 的计算成本。

    01

    作阻碍 KV 矩阵吸收:Ling-V2.0 包含 QK Norm 这类非线性操作,这会破坏 MLA 的结构,导致推理阶段无法有效吸收 KV 矩阵。 解决方案:我们在转换前移除了 GQA 中的 QK Norm。利用 RMSNorm 的数学特性,通过数据集校准,将 QK Norm 的参数近似融合至 q proj 和 k proj 权重中,化解这一矛盾。 2、位置编码的不兼容:TransMLA 原生支持 Full RoPE,而 Ling 2.0架构使用的是 Partial RoPE。 解决方案:我们对 RoPE 模块进行了针对性解耦。将受 RoPE 影响的维度与无关维度分开处理。 PCA 、权重旋转等操作仅作用于相关维度,处理完成后再进行拼接,确保了位置编码的绝对正确性。 2. 平滑迁移训练策略 为了最小化架构变更对模型性能的影响,我们基于 Ling-2.0-1T-base-20T(即 20T tokens 的 Pre-Training Checkpoint),设计了一套多阶段的权重转换与渐进式训练(Warmup)策略: 转换至 Lightning Attention 与 GQA 混合的架构

    匹配字段正文

星期二

  1. 智慧城市行业分析

    每日AI快讯:智谱开源GLM-4.7,MiniMax、智谱通过港交所聆讯

    智谱AI上线并开源GLM-4.7,在SWE-bench Verified上取得73.8%的SOTA分数,工具调用任务τ²-Bench得分87.4,超越Claude Sonnet 4.5。MiniMax与智谱先后通过港交所聆讯,前者2024年收入同比增长782%至3050万美元,后者估值244亿元、11月日均token消耗量达4.2万亿。同期OpenAI发布GPT-5.2-Codex,Google推出Gemini 3 Flash,响应速度提升3倍。

    12月23日·周二 GLM-4.7上线并开源:更强的编码 智谱AI正式上线并开源新一代大模型GLM-4.7,该版本在编码、推理与智能体能力上实现显著提升。在多项主流基准测试中,编程能力达到开源模型领先水平,在SWE-bench Verified中获得73.8%的SOTA分数,工具调用任务τ²-Bench得分87.4分,超越Claude Sonnet 4.5。来源:智谱 12月22日·周一 MiniMax通过港交所聆讯,有望成为“AGI全球第一股” MiniMax通过港交所聆讯并披露招股书,冲刺IPO。MiniMax成立于2022年初,若成功上市,将是全球从成立到IPO最快的AI公司。2024年,MiniMax收入同比增长782%至3050万美元,净亏损为4.65亿美元。其变现方式包括订阅服务、基于token的应用内购买、线上营销服务以及按使用量计费的企业级API服务。来源:第一财经 智谱冲刺港股“大模型第一股”,估值244亿 智谱通过港交所聆讯,冲刺港股“大模型第一股”。智谱成立于2019年6月,是中国最大型的独立通用大模型开发商、中国第二大整体通用大模型开发商。其MaaS平台提供语言

    匹配字段正文

星期二

  1. One Useful Thing

    Ethan Mollick:AI 智能体已能完成真实工作

    Ethan Mollick 在 One Useful Thing 撰文称,AI 智能体已跨过能完成真实且具经济价值工作的门槛。他让 Claude Sonnet 4.5 仅凭论文文本和复现数据,自行读取论文、整理文件、把 STATA 统计代码转成 Python 并逐项核对,成功复现了多项研究结果,并用 GPT-5 Pro 二次验证。他认为智能体能力提升源于准确率小幅提高即可完成更多步骤,以及新模型能自我纠错;同时提醒若不加判断地使用,也可能产出 17 份没人需要的 PowerPoint。

    任务,而非一份工作,但它也可能戏剧性地改变人类事业的整个领域。是什么让这一切成为可能?AI智能体已经变得好得多,而且非常快。 自最初的 ChatGPT 以来,生成式AI已经帮助许多人完成任务,但限制始终在于人类用户。AI会犯错出错,因此,如果没有人类在每一步上加以引导,就无法完成任何有价值的事情。自主AI智能体的梦想——即给定一项任务后,能够规划并使用工具(编码、网络搜索)来完成它——似乎遥不可及。毕竟,AI会犯错,因此在智能体为完成任务而必须遵循的漫长步骤链条中,一次失败就会导致整体失败。 然而,事情的发展并非如此,另一篇新论文解释了原因。事实证明,我们关于AI智能体的大多数假设都是错的。即使准确率小幅提升(而新模型出错的可能性要低得多),也会带来AI能完成的任务数量的巨大增长。而最大、最新的“思考”模型实际上能够自我纠错,因此不会因错误而停滞。所有这些都意味着,AI智能体能够完成比以往多得多的步骤,并且能够在没有大量人工干预的情况下使用工具(这基本上包括你的电脑能做的任何事情)。 因此,有趣的是,过去几年中少数几个覆盖从 GPT-3 到 GPT-5 全系列AI模型能力的衡量指标之一

    匹配字段正文

星期一

  1. The Gradient

    AI 中的性别偏见研究综述

    AI 模型会反映甚至放大现实世界中的性别偏见,量化这些偏见是缓解问题的前提。文章梳理了词嵌入中的性别刻板类比、面部识别系统对深肤色女性错误率高达 34.7%(浅肤色男性仅 0.8%),以及指代消解模型倾向将职业与男性代词关联等研究。

    ,浅肤色男性面孔的最大错误率为 0.8%。 缓解措施:作为对这篇论文的直接回应,微软和 IBM(研究中其分类器被分析和批评的两家公司)加紧解决这些不平等问题,修复偏见,并发布博客文章,毫无保留地探讨算法偏见这一主题 [ 1 , 2 ]。这些改进主要源于修订和扩展模型训练数据集,以纳入更多样化的肤色、性别和年龄。 媒体方面:你可能看过 Netflix 纪录片《编码偏见》和 Buolamwini 的新书《揭下面具的 AI》。你也可以在 Gender Shades 网站上找到该论文的交互式概述。 为何重要:技术系统旨在改善所有人的生活,而不仅仅是某些人口群体(即与掌权者相对应的人群,例如白人男性)。同样重要的是,不仅要考虑单一维度(例如性别)上的偏见,还要考虑多个维度的交叉(例如性别和肤色),这可能会揭示不同子群体之间的差异结果。 简要总结:共指消解模型(例如找出文本中某个代词所指代的所有实体)表现出性别偏见,倾向于在某些职业上把代词解析为某一性别而非另一性别(例如对某个模型而言,“surgeon”会解析为“his”或“their”,但不会解析为“her”)。 用一个经典谜题介绍共指消解:一

    匹配字段正文

星期六

  1. The Gradient

    神经算法推理:让神经网络学会执行经典算法

    The Gradient 刊文探讨神经算法推理,即用深度神经网络捕捉最短路径、排序等经典算法计算。文章指出,MIT 的《What Can Neural Networks Reason About?》证明算法对齐越好泛化越好,GNN 与动态规划天然对齐,在 DP 执行基准上优于归纳偏置较弱的架构。作者同时提醒,算法对齐并不能让人随意套用任意表达力强的 GNN,分布外表现仍是关键挑战。

    生了若干最优美的计算例程,显著改变了我们的生活。话虽如此,如果我们想赋予这些例程“超能力”,并使它们能够远远超出其最初设想的输入类型而适用,我们就需要找到某种方式来弥合这一鸿沟。我们的提案——神经算法推理蓝图[32]——旨在通过将目标算法神经化来弥合这一鸿沟。 由于我们识别出的一个关键限制是需要手动进行输入特征工程,一个良好的首要切入点可能是简单地用神经网络编码器取代特征工程师。毕竟,取代特征工程正是深度学习取得重大突破的方式[33]!编码器将学习从原始数据预测算法的输入,然后我们可以在这些输入上执行算法,以获得我们关心的输出。 这种流水线非常流行[34];近年来,已经出现了开创性成果,使得即使算法本身不可微,也能通过编码器进行反向传播[35]。然而,它存在算法瓶颈问题:也就是说,它完全受制于算法的输出[36]。也就是说,如果编码器对算法输入的预测很差,我们就会遇到与之前相同的问题——算法会在错误的环境中给出完美的答案。由于所需的输入通常是标量性质的(例如输入图每条边上的单个距离),编码器常常被要求将现实世界数据的极其丰富的结构映射为仅仅一个数字。这在低数据或部分可观测的场景中尤其成为

    匹配字段正文

星期三

  1. 人民日报

    北卡罗来纳州立大学团队研发自复位软环跳跃机器人,恒定光照下连续跳跃超1000次

    美国北卡罗来纳州立大学研究团队在《美国国家科学院院刊》发表新型自复位软环跳跃机器人,无需人工复位或复杂控制系统,仅靠液晶弹性体材料与环形结构的“物理智能”,在恒定红外光照下连续跳跃超过1000次,垂直跳跃高度最高达自身高度的80倍。该机器人还可改造为“跳跃—游泳—再次跳跃”两栖运动,未来有望用于草地、碎石、浅水等复杂环境的感知与监测。

    例和光照强度,机器人可在爬行、定向跳跃和垂直跳跃之间切换。 中国科学院宁波材料技术与工程研究所、海洋关键材料全国重点实验室研究员陈涛对本报记者表示,以往软体机器人每次跳跃需人工复位或外部调制,这是因为在恒定外界激励下,实现可循环的“储能—释能—复位”闭环极难,需要同时实现能量回收、空中姿态稳定与落地续能。该工作以扭转储能替代弯折、拉伸储能,以几何约束将复位“编码”进结构本身,为软体连续跳跃提供了一条极简路径。 这种结构并不局限于陆地跳跃。研究团队进一步改造材料和尾部设计,使软环能够漂浮、划水并重返岸边,实现“跳跃—游泳—再次跳跃”的两栖运动。在水面上,尾部由“拍地起跳”转为“拍水推进”;当抵达倾斜岸边时,尾部弹跳产生的推力还能帮助它克服水面张力回到陆地。 在应用前景方面,尹杰认为,这类毫米级软体机器人体积小、重量轻、结构柔顺,适合进入草地、碎石、泥沙、浅水及水陆交界等复杂环境,开展环境感知、目标搜索和局部监测。未来如果实现多机协同,还可能拓展到集群化环境探索和大范围分布式监测。 从实验室走向实际应用仍有距离。下一步,研究团队希望探索利用自然光,使其摆脱对固定人工光源的依赖。尹杰表示,这

    匹配字段正文