搜索“推理”

OpenAI研究称o3等模型RL训练中元博弈推理增加

OpenAI 研究并发现 o3及更新模型在能力导向RL训练中元博弈推理增加

查看事件：OpenAI研究语言模型中的metagaming潜变量

inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

FlagOpen 开源 Action-Sketcher-PI0-LIBERO 模型与推理代码

Meta介绍利用闲置推理容量提升广告推荐系统

Meta介绍利用闲置推理容量提升广告推荐系统

Meta 介绍 利用闲置推理容量提升广告推荐的系统

查看事件：Meta介绍利用闲置推理容量提升广告推荐系统

inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

查看事件：inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

FlagOpen 开源 Action-Sketcher-PI0-LIBERO 模型与推理代码

FlagOpen 发布 Action-Sketcher-PI0-LIBERO 模型和推理代码

查看事件：FlagOpen 开源 Action-Sketcher-PI0-LIBERO 模型与推理代码

MangoBoost推出AI推理平台Mango Inference

2026年10月12日,MangoBoost正式商用其AI推理平台Mango Inference。据The Elec报道,用户可通过API接入,按token消耗付费,平台支持DeepSeek、GLM和MiniMax等模型。公司称其定价比竞争对手低20%以上,并计划明年一季度在首尔江南建成1MW AI数据中心,可扩展至5MW,GPU由AMD供应。营收方面,公司今年预计约100亿韩元,明年目标超过1000亿韩元。目前该事件尚无后续发展事实,状态停留在平台发布及上述规划。

MangoBoost推出AI推理平台Mango Inference

MangoBoost 推出 AI推理平台Mango Inference

查看事件：MangoBoost推出AI推理平台Mango Inference

AISI发布AI网络任务推理扩展评测证据

英国 AI Security Institute 发布 AI网络任务推理扩展评测证据

查看事件：AISI发布AI网络任务推理扩展评测证据

Thinking Machines Lab 发布 LLM 推理非确定性分析文章

Thinking Machines Lab 发布 关于 LLM 推理非确定性的技术文章

查看事件：Thinking Machines Lab 发布 LLM 推理非确定性分析文章

AISI发布AI网络任务推理扩展评测证据

英国 AI Security Institute(AISI)发布 AI 网络任务推理扩展评测证据。AISI 与 Irregular 对 2025 年 11 月前后发布的前沿模型运行私有网络任务评测,发现模型可有效利用比常规评测大 10-50 倍的 token 预算,成功率随之提高,并首次解决此前未解任务。其中 AISI 使用 50M token 预算,约 8% 的任务只有在预算从 10M 提升到 50M 时才被解决;Irregular 使用 1000 轮次。AISI 指出成功率大致随每次尝试所用 token 总量的对数增长,这意味着低预算评测可能低估模型真实能力上限,但结论目前仅基于网络任务,是否适用于其他领域仍需更多测试。

Thinking Machines Lab 发布 LLM 推理非确定性分析文章

2026年10月11日,Thinking Machines Lab 发布一篇关于 LLM 推理非确定性的技术文章。文章指出,LLM 推理不确定性的主因不是并发加浮点非结合性,而是内核缺少 batch invariance,导致请求结果随服务端负载和 batch size 变化。作者用 Qwen3-235B-A22B-Instruct-2507 在 temperature 0 下生成 1000 条补全,得到 80 种不同结果;启用 batch-invariant 内核后,1000 条完全一致。相关内核已开源在 thinking-machines-lab/batch-invariant-ops,并给出 vLLM 确定性模式示例。文章还称该特性可让采样与训练结果逐位一致,实现真正的 on-policy RL。目前尚无后续发展事实。

研究发现关闭思考仍会显式推理

清华大学、牛津大学和斯坦福大学研究团队发现,大语言模型在关闭思考后仍可能输出推理过程。该发现于2026年10月10日由论文披露,在开放式问题上尤其明显:关闭思考时,DeepSeek-V4-Flash在99.9%的开放式回答中仍写出了推理内容,缺少think标签或回复简短并不能证明模型跳过了推理。研究还显示,对5个模型强制只给答案可将开放式任务的遵从率提升到约40%,但准确率下降约15个百分点。论文地址为arxiv.org/abs/2610.11765。目前尚无后续发展。

清华提出TokenRouter推理系统

2026年10月10日,清华大学提出逐Token大小模型路由服务系统TokenRouter。据相关报道,该系统在token级别对大小模型进行路由,让每个模型独占服务器并互相传递半成品答案,同时保留KV cache,并短暂挂起请求以凑成更大批次。报道称,在5种路由方法上,其吞吐量相比更强的现有方案提升2.01至64.15倍,最高达现有方案的64.15倍。目前该工作以论文形式公开,尚无后续进展披露。

DeepSeek发布V3.2与V3.2-Speciale推理模型

2025年12月1日,DeepSeek发布DeepSeek-V3.2与DeepSeek-V3.2-Speciale两款面向智能体的推理优先模型。据官方信息,V3.2已在App、Web和API上线,定位日常使用、推理与长度更均衡,是DeepSeek首个将思考直接融入工具调用的模型,支持思考与非思考两种模式下的工具调用;Speciale暂仅提供API,主打极限推理能力,通过临时端点提供,价格与V3.2相同,不支持工具调用,可用至2025年12月15日15:59(UTC)。此前2025年9月29日,DeepSeek曾发布实验模型DeepSeek-V3.2-Exp,基于V3.1-Terminus构建,首次引入DeepSeek Sparse Attention(DSA),官方称基准测试显示其与V3.1-Terminus表现相当,同时API价格立即下调50%以上。

研究发现关闭思考仍会显式推理

清华大学、牛津大学和斯坦福大学研究团队 发现 大语言模型在关闭思考后仍可能输出推理过程

查看事件：研究发现关闭思考仍会显式推理

LeCun称推理含搜索优化时能产生创造性解法

2026年10月10日,Yann LeCun 提出判断:只要推理涉及搜索或优化,就能找到创造性的解决方案;AlphaZero 会执行搜索,而普通 LLM 不会。同日稍后,他进一步表示,自回归预测无论是否随机,都不构成搜索,因为搜索或优化需要考察多种配置并对其评估以找出一个好的,而 CoT 中没有这种事。目前该判断仍以 LeCun 本人公开发言为证据,暂无其他来源补充或官方回应。

LeCun称推理含搜索优化时能产生创造性解法

Yann LeCun 提出判断 推理涉及搜索/优化时能产生创造性解法，而普通LLM不做搜索

查看事件：LeCun称推理含搜索优化时能产生创造性解法

清华提出TokenRouter推理系统

清华大学 提出 逐Token大小模型路由服务系统TokenRouter

查看事件：清华提出TokenRouter推理系统