搜索“推理”

ARC Prize公布Grok 4.7基准测试结果

2026年10月6日,ARC Prize公布Grok 4.7在ARC-AGI系列基准测试上的结果。据ARC Prize评测,Grok 4.7在ARC-AGI-2最佳得分为61.4%、每任务2.01美元,低于Grok 4.6的67.1%和每任务0.76美元;在输入输出token定价相同的情况下,单任务成本上升166%。ARC-AGI-1为90.2%、每任务0.64美元,高于Grok 4.6。ARC-AGI-3在标准harness下为1.8%,在新的provider adapter harness下为10.0%。ARC Prize指出,Grok 4.7在ARC-AGI-2 semi-private任务上消耗的推理token更多,medium、high、xhigh档分别比Grok 4.6多136%、125%和173%,low档少27%,这是单任务成本上升的原因之一。另一条ARC Prize信息称,Grok 4.7推理token用量与ARC-AGI-2公开得分相关:low档平均每次测试对尝试用10k tokens、得分25%,medium到xhigh档为86k至120k tokens、得分57

Vercel分享入站销售Agent构建实践

Vercel COO Jeanne DeWitt Grosser 在 Office Hours 中介绍了公司入站销售智能体的搭建过程。据 Tomasz Tunguz 博客报道,该智能体由一名 GTM 工程师投入约 20% 时间搭建,提示词由团队最好的 SDR 撰写,最初约 125 行,经过六周人在回路 QA 后把人工撤出。随着业务向上market 演进,提示词膨胀到 1000 行,团队随后把它拆成规则与判断两部分,入站流程最终由 14 条确定性规则驱动,模型只负责原本需要人来判断的环节。当线索进入时,系统会查询 Salesforce 判断该账户是否存在未关闭商机,若有则直接路由给客户经理。整套入站职能的推理与基础设施成本约为每年 1000 美元。

Artificial Analysis独立评测Reflection开源模型Beam

2026年10月6日,Artificial Analysis获得Reflection授权,正在对Reflection的开放模型Beam进行独立评测。早期指标显示,Beam在同等智能水平下可能是Artificial Analysis见过的token效率最高的开源模型之一。Reflection此前宣布Beam为高效智能体开源模型,总参数501B、激活23B,主打前沿推理效率与编码及智能体任务,完整权重将于本月发布。目前该评测仍在进行中,尚无进一步有合格事实证据的发展。

Claude Sonnet 5.5位列代码竞技场第三

2026年10月2日,Arena.ai宣布Claude Sonnet 5.5以xHigh推理进入Code Arena: WebDev榜单,得分1786分,排名第3。其混合价格为每百万tokens 8美元,与第2名GPT-6 Astra的1788分仅差2分,价格约为其80%。分领域看,Claude Sonnet 5.5(xHigh)在Gaming、Reference-Based Design、Brand & Marketing排第2,Simulations第3,Content Creation Tools和Consumer Product第4,Data & Analytics第6。目前该事实无后续发展。

Mercury 2完成PinchBench评测

2026年9月29日,Inception Labs公布Mercury 2在PinchBench上的评测结果。该评测显示,Mercury 2任务成功率为78%,高于GPT-5 Mini的75%、Gemini 2.5 Flash的71%、DeepSeek Chat的72%和GPT-4o的71%,并在同准确率档位中执行时间最快。PinchBench基于OpenClaw构建,考察工具调用、多步推理和真实任务完成情况;Mercury 2的速度来自并行细化而非逐token生成。定价方面,每100万token输入0.25美元、输出0.75美元,约为Claude 4.5 Haiku输入输出的四分之一。目前尚无后续发展事实。

Anthropic发布Claude Opus 5.5

2026年9月22日,Anthropic发布Claude Opus 5.5。官方材料称,该模型在Artificial Analysis的Intelligence Index v4.3上以58分排名第一,比Claude Opus 5高7分,在Vals AI的Vals Index上以69.69%居首;支持最高100万token输入、12.8万token输出,推理默认开启并分五档,API价格为每百万输入/缓存/输出token 4/0.25/20美元。早先报道称其输出价格为每百万token 20美元,低于上一代的25美元。9月23日,Yuchen Jin称其单任务速度比Opus 5快约30%、成本低约40%。9月25日,Thomas Wolf称用Opus 5.5把一份Google Doc生成为视频。10月4日,Ado Kukic表示在medium和high effort下使用Opus 5.5未触及5小时限额,单次会话最高约用到74%。10月9日,Ado又称Opus 5.5发布后的周末是今年迄今最高效的编程日。同期Anthropic还发布了Sonnet 5.5和Haiku 5.5,并下调Sonn

Fireworks评测DeepSeek新模型

2026年9月14日,Fireworks AI 发布并评测 DeepSeek-V4.1-Flash。据其公布结果,该模型在 DeepSWE 上 pass@1 为 74.34%,与 GPT-6-Astra 的 74.12% 处于同一水平;单任务成本 0.43 美元,约为 Astra 的 1/15。该模型为 552B 参数 MoE,采用输入 8B、输出 16B 的分离激活预算,KV Cache 的 HBM 占用降至上一代 V4 的 1/4。在 HLE 上它得分 34.52%,低于 Astra 的 50.40%,Fireworks 认为它更适合智能体编码而非高难推理。9月28日,Fireworks AI 发布首个缓存感知路由器 FireRouter with Opus,已在 CLI 上线并首次作为独立路由模型提供,可在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、提示词缓存成本和切换代价选择模型;其一个多月内部 A/B 测试显示,编码任务每次会话成本从 15.36 美元降至 6.63 美元,降幅 57%(±19 个百分点),准确率为纯 O

OpenAI发布GPT-6系列首款模型Astra

2026年9月8日,OpenAI发布GPT-6系列首款模型Astra。随后有作者对GPT-6 Astra进行实测,分析其性能、计算机使用能力,以及循环Transformer是否会隐藏推理链。该分析解释循环Transformer通过重复使用相同权重增加有效深度,并指出Astra采用该架构仍未获官方确认,也没有充分证据表明循环机制会导致推理链更难监控。目前该事件没有进一步有合格事实证据的发展。

DeepSeek开放模型持续演进

2025年12月3日的技术梳理显示,DeepSeek开放权重模型从V3逐步演进至R1、V3.1、V3.2-Exp、DeepSeekMath V2及V3.2-Speciale。V3.2延续V3系列架构,并加入DeepSeek稀疏注意力、自验证、自改进以及多项GRPO训练调整;相关演进还涉及MLA、RLVR和混合推理模式。后续更新介绍了mHC残差路径研究,用于改善训练稳定性与收敛表现。

vLLM推进训推逐位一致强化学习

2025年11月10日,vLLM与TorchTitan开源展示了一套在线强化学习方案,使Qwen3 1.7B模型的训练与推理数值实现逐位一致。实验显示,启用逐位一致性后,模型以更少步骤获得了更高的总奖励,表明减少训推数值偏差可能改善训练效果。不过,该方案目前仍有明显性能成本,运行速度比非逐位一致方案慢2.4倍。

vLLM加速多模型切换

2025年10月26日,vLLM推出Sleep Mode模型休眠与快速切换功能。该功能通过保留进程、内存分配器、CUDA图和JIT内核,避免切换模型时完整重载。Level 1将模型权重卸载到CPU内存,Level 2丢弃权重并在唤醒时从磁盘重新加载。据vLLM官方博客介绍,两种模式可将原本需要30至100多秒的完整重载缩短到秒级或亚秒级,切换速度提升18至200倍;预热模型的推理速度较冷启动提升61%至88%。

Linear推进智能问题分流

2025年9月3日,Linear介绍其Triage Intelligence智能问题分流功能。该功能结合语义搜索、排序和大语言模型推理,利用现有积压事项识别重复及相关问题,并推荐标签、负责人等属性。团队将所用模型从GPT-4o mini和Gemini 2.0 Flash转向GPT-5与Gemini 2.5 Pro,同时采用可补充上下文的智能体方案,并通过推理说明、思考面板和Additional Guidance增强透明度与可控性。目前,该功能已作为技术预览向Business和Enterprise套餐开放。

vLLM接入GLM-4.5系列

2025年8月19日,vLLM宣布其最新主分支已支持GLM-4.5与GLM-4.5V系列,可在英伟达Blackwell和Hopper GPU上加速推理。两类模型均提供FP8和BF16版本,并可使用相同命令运行。使用8张H100时若显存不足,可增加16GB CPU卸载;遇到flash_infer问题可暂时切换至XFORMERS后端。GLM-4.5V还支持依据复杂描述逐步推理,并输出目标对象的边界框坐标。

Cerebras 发布 GLM 4.7 迁移指南

2026年1月8日,Cerebras 发布 GLM 4.7 迁移指南。据其介绍,GLM 4.7 是 Z.AI 最新开源模型,在 LiveCodeBench 上超过 Anthropic 和 OpenAI 模型、仅次于 Gemini 3,并在 GPQA 和 AIME 上超过 Claude Sonnet 4.5。指南给出 10 条使用规则,包括把强制指令放在系统提示词最前、使用 MUST 等明确措辞、显式指定回复语言、为智能体设定角色,以及把任务拆成小步骤以弥补其不支持交错思考。在 Cerebras 上,GLM 4.7 支持约 131K 上下文和最多约 40k 输出 token,可通过 disable_reasoning 和 clear_thinking 控制推理,推荐 temperature=1、top_p=0.95,并兼容 OpenAI Python SDK。目前尚无后续有证据的发展。

Together AI 发布开源模型 AI 栈深度解析文章

2026年9月9日,Together AI 发布《The Open Source AI Stack》一文,解析开发者从闭源转向开源模型所需的技术栈。文章将其拆为模型、推理服务商或网关、harness、上下文四层,并称各层相互独立,换模型通常只需改一个配置值。文中以 Kimi K3(1.8T 总参数、104B 激活参数)和 GLM 5.3 Flash(320B 总参数、18B 激活参数)为例说明大模型与小模型的取舍,并列出 OpenRouter、Vercel AI Gateway、LiteLLM 等网关以及 skills、MCP 等扩展方式。作者还建议采用大模型规划、小模型实现、大模型审查的三段式工作流,并强调切换模型或任务时新开会话以控制上下文。目前该文为唯一有证据的发展,暂无后续进展。

Google 介绍 autofinetune 自主后训练循环

Google 于 2026 年 9 月 11 日通过 Google Developers Blog 介绍 autofinetune 项目,把自主研究循环用于 LLM 后训练。该项目基于 Tunix、Gemma 和 Cloud TPU,由 Antigravity CLI 与 Gemini Flash 3.7 编排。第一个实验中,智能体在 Cloud TPU v5e-1 上对 functiongemma-270m-it 自动调整 LoRA rank/alpha、优化器和学习率等,几小时内完成 20 次实验。第二个实验基于 Tunix 官方 GRPO 示例训练 Gemma 3 1B 做数学推理,在 Cloud TPU v6e-1 上跑 40 次实验,总奖励提升约 10%。代码、示例运行和 program.md 模板已放在 autofinetune GitHub 仓库。目前尚无后续发展事实。

Meta 构建从专家反馈中学习的合规领域 AI 代理

Meta 构建了一个面向合规领域的 AI 代理,作为特定合规领域的二级专家。据 Meta 工程博客介绍,该系统把组织知识拆成 200 多个结构化文件,并用可组合的 recipes 分离知识与推理流程。专家反馈经诊断、编译、验证后以文本编辑形式落地,无需重训模型,每个修复都会自动加入回归测试集。系统在六周三个开发冲刺后,将单项评估耗时从数天缩短到数分钟,改进周期内零回归。目前该代理仍处于这一已披露状态,后续进展暂无新的有证据发展。

LMSYS 公开 Infer-forge 构建方法论

2026年8月28日,LMSYS 发布 infer-forge 方法论文,公开其围绕 SGLang 的推理工程系统构建方法论。据 LMSYS Blog 介绍,该系统由 MonoRepo、Harness、Task Loop 和 Task Graph 四层结构组成,目标是让跨仓库的推理优化工作可复现、可验证。文章说明 infer-forge 属于内部工程系统,并非 SGLang 或 LMSYS 官方组件,目前不开源,公开的是构建方法论,供团队交给 AI 编码工具并结合自身系统上下文搭建适配实现。文中还给出使用记录:一位工程师 4 月至 7 月的在飞任务峰值从 2 个升至 9 个,DeepSeek-V4-Pro 服务项目中 38 个可独立验证的任务节点被组织成任务图。目前尚无后续发展事实。

蚂蚁ASystem团队发起AReno本地后训练工具包

2026年8月14日,蚂蚁ASystem团队发起AReno本地化大模型后训练工具包。同日,蚂蚁百灵发布实践文章,介绍在DGX Spark上用AReno对Ling-3.0-tiny做Agentic RL,以井字棋为最小验证任务,跑通基线评测、Reward定义、后训练与同环境复测四步闭环。实验使用GSPO训练400个step,rollout/rewards_mean从约-0.5升到0.4左右,response_len降至约850 tokens,复测中工具调用与落子选择更稳定。Ling-3.0-tiny为7.9B总参数、1.3B激活参数的混合推理模型,已开源BF16、FP8和INT4版本,AReno提供Docker复现教程。目前该工具包已随上述实践公开。

Mistral定位vLLM内存泄漏

Mistral AI 定位并修复 vLLM分离式推理中的UCX内存泄漏

查看事件：Mistral定位vLLM内存泄漏