Cohere 发布 North 2：面向企业的无妥协 AI
Cohere 推出 North 2，定位为企业级、无需妥协的 AI 产品。Cohere 同时列出 North、Compass、Command、Transcribe、North Small Translate、Parse、Embed、Rerank 等模型与产品线，以及 Model Vault 专用模型推理平台和本地或隔离 VPC 的私有部署方案。
匹配字段摘要、正文
←搜索结果
搜索“推理”
Kimi 发布 PerceptionBench：评估多模态大模型的原子视觉感知能力
Kimi 团队发布 PerceptionBench，从 42 个基准的前沿模型失败中归纳出 10 项原子感知能力，构建 3000 道经校验的题目，每道题仅考察单一感知能力、无需推理或外部知识。在 16 个前沿 MLLM 上，没有模型准确率达到 60%，感知相关幻觉平均表现最弱。团队已开源该数据集与评测代码。
匹配字段摘要
月之暗面发布开源思考模型 Kimi K2 Thinking
月之暗面发布开源思考模型 Kimi K2 Thinking，可连续执行 200 至 300 次工具调用，在 HLE 上取得 44.9%（带工具）、BrowseComp 60.2%、SWE-Bench Verified 71.3%。该模型已在 kimi.com 的 chat 模式上线，并可通过 Kimi K2 Thinking API 调用，完整智能体模式稍后推出。团队在后训练阶段采用 QAT 对 MoE 组件做 INT4 权重量化，原生 INT4 推理生成速度约提升 2 倍，所有基准成绩均在 INT4 精度下报告。
匹配字段摘要
月之暗面开源 Kimi K2.6，主打长程编码与 Agent Swarm
月之暗面开源最新模型 Kimi K2.6，具备编码、长程执行和 Agent Swarm 能力，已上线 Kimi.com、Kimi App、API 和 Kimi Code。官方称其在长程编码任务上较 K2.5 明显提升，例如在 Mac 上用 Zig 实现并优化 Qwen3.5-0.8B 推理，经 4000+ 次工具调用、超 12 小时连续执行和 14 轮迭代，吞吐从约 15 tokens/sec 提升到约 193 tokens/sec。Agent Swarm 架构从 K2.5 的 100 个子智能体和 1500 步扩展到 300 个子智能体、4000 步并发执行，并新增 Claw Groups 研究预览。
匹配字段摘要
Kimi 发布 Agent Swarm，K2.5 可调度 100 个子智能体
Kimi 发布 Agent Swarm，让 K2.5 在推理时自行组建带分工的智能体组织，最多并行部署 100 个子智能体、执行超过 1500 次工具调用，比顺序执行快 4.5 倍。官方称其针对单智能体顺序执行在长任务上的上下文与时间瓶颈，适用于大规模检索、批量文档处理、多视角分析等可并行场景。该功能目前为早期研究预览，后续将加入子智能体直接通信与并行宽度动态控制。
匹配字段摘要
DeepSeek 发布实验模型 V3.2-Exp，API 价格下调超 50%
DeepSeek 发布实验模型 DeepSeek-V3.2-Exp，基于 V3.1-Terminus 构建，首次引入 DeepSeek Sparse Attention（DSA），用于提升长上下文训练与推理效率并降低算力成本。官方称基准测试显示 V3.2-Exp 与 V3.1-Terminus 表现相当，同时 DeepSeek API 价格立即下调 50% 以上。V3.1-Terminus 将通过临时 API 保留至 2025 年 10 月 15 日 15:59（UTC）供对比测试，关键 GPU kernel 以 TileLang 和 CUDA 开源。
匹配字段摘要
中国信通院发布《面向词元（Token）服务的智算基础设施发展研究报告（2026年）》
中国信通院产业与规划研究所发布《面向词元（Token）服务的智算基础设施发展研究报告（2026年）》，指出推理算力首次超越训练算力成为需求主体，Token 取代 FLOPS、GPU 卡数成为衡量 AI 产业价值的新标尺。报告围绕态势特征、政策导向、区域布局、技术突破、产业生态 5 个环节，梳理智算基础设施从“算力工厂”向“Token 工厂”的范式重构，技术重心转向“每瓦 Token 产出最大化”。
匹配字段摘要、正文
Conway Research 发布 Underdog Saluki 27B：2-bit 量化的 Qwen3.8-27B 在工具调用上超过原模型
Conway Research 的端侧助手 Underdog 以 Apache 2.0 发布 Saluki 27B，这是 Qwen3.8-27B 的 2-bit 混合精度 GGUF，体积 7.89 GB，而 BF16 原模型需 54 GB，可在原生 llama.cpp 上运行并支持完整 GPU 卸载。在相同测试环境下，Saluki 在 Underdog Bench 的 120 项 BFCL v4 任务上得 88 分，原模型 84 分；并行工具调用 42 对 35；SWE-bench Verified 修复 30 个问题，原模型 33 个。代价是数学与多步推理下降 12 到 18 分，AIME 2025 为 79.2 对 96.7。
匹配字段摘要
SGLang 与 Miles 在 NVIDIA Vera Rubin 上的适配与优化
LMSYS 团队提前拿到两个 NVIDIA Vera Rubin 节点（8 块 GPU），把 SGLang 推理和 Miles 强化学习训练搬上该平台。推理侧针对 Kimi K3 NVFP4 调整了 attention、MoE/通信和 KDA 内核，例如更深的 MLA 流水线在 batch 16、128k 上下文下快 16%，融合 MoE 尾部每步减少 276 次内核启动、端到端提升 5.9%。训练侧 Miles 用 SGLang 做 rollout、Megatron 做训练，在单托盘 4 块 GPU 上开箱跑通 Qwen3-30B-A3B 的 GSM8K 训练，奖励从约 45% 升到 95%，并在 Vera CPU 上以 64 个沙箱运行 SWE-bench Verified 的智能体 RL。
匹配字段摘要
722篇数学成果一次性开源，OpenAI该不该踩刹车？
10月6日，OpenAI一次性开源了722篇数学成果，这些成果来自一个尚未发布的内部模型，涉及大量悬而未决的数学难题，平均每项成果仅消耗约3小时推理算力。文章指出，OpenAI承认其中部分证明未经严格检验，而AI产出答案的速度正在超过人类理解和验证答案的速度。作者认为，该放缓的不是技术进步，而是缺乏约束的裸奔，应把独立第三方安全评估、可核查的协调机制和发布者验证追责义务装进制度中。
匹配字段摘要、正文
正行创新发布零售 Physical AI 解决方案，以“具身大脑”开启 24/7 人机协作
正行创新在第22届亚太零售商大会（APRCE 2026）上发布面向零售开放场景的 Physical AI 解决方案，由补货、巡检、搬运机器人本体与统一机器人管理平台 M1 组成，支持“零改造”快速部署。方案依托自研轻量级世界动作模型 SLM-0.5，在 LIBERO 基准测试中实现 98.6% 平均任务成功率，推理速度较主流方案提升 24 倍；基于 RLinf 的强化学习后训练体系 STEAM 在指定商品上货任务中成功率达 95%。
匹配字段摘要、正文
Tessl：可复用 Agent 技能需要一条经过测试、可版本化的上下文流水线
Tessl 博客提出，把技能铺到各处不是到处散落 markdown 文件，而是要把上下文打包一次、做评测、保持同步并分发给人和其他 Agent。作者称自己已能在 Claude Code、Devin、GitHub Copilot CLI 等 harness 之间携带上下文，瓶颈因此从模型能力转向上下文工程，并主张先用中等推理模型、只在复杂规划或超长上下文时升级到更高端模型。
匹配字段摘要
NVIDIA KGMON 团队分享 KDD Cup 2026 数据分析智能体亚军方案
NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛中获得第二名，方案核心是在固定的小模型外构建更小、更清晰、更易验证的 harness。团队把 CSV 和 JSON 统一转成 SQLite 表，只暴露 schema() 和 sql(query) 等少量工具，并在主推理循环前加入 schema 预检步骤，减少路由错误并保留模型的推理能力。文档检查与结构化分析分离，prose_helper 用零温度、关闭推理的独立 LLM 调用抽取答案或表格，避免原始文本占用主上下文；执行轨迹记录提示词、工具调用和中间结果，供专门的 inspector agent 归类失败原因。
NVIDIA KGMON 团队在 KDD Cup 2026 Data Agents 竞赛中获得第二名，方案核心是在固定的小模型外构建更小、更清晰、更易验证的 harness。团队把 CSV 和 JSON 统一转成 SQLite 表，只暴露 schema() 和 sql(query) 等少量工具，并在主推理循环前加入 schema 预检步骤，减少路由错误并保留模型的推理能力。文档检查与结构化分析分离，prose helper 用零温度、关闭推理的独立 LLM 调用抽取答案或表格，避免原始文本占用主上下文；执行轨迹记录提示词、工具调用和中间结果，供专门的 inspector agent 归类失败原因。
匹配字段摘要
Ben Affleck 谈 AI：从卷积神经网络到微调开源视频模型
Ben Affleck 本周因多段采访视频走红，他在 GQ 和 Bloomberg Screentime 2026 活动上讲解机器学习、神经网络、Transformer、张量、GPU 与推理等概念，并称自己会写 Python 脚本。他透露曾走访 OpenAI，并通过解冻权重、只训练最后一层电影化层来微调开源视频模型，该技术已用于其电影《Animals》的后期制作。
匹配字段摘要
Sakana Namazu 被引入医生用证据检索工具 Evidence Finder
Sakana AI 的日本仕様 LLM「Sakana Namazu」被医疗 AI 公司アイリス提供的医生用证据检索工具 Evidence Finder 采用，负责比较、整合文献并生成回答。采用 Evidence Finder 的评估模型在第 120 回医師国家試験中录得 96.4% 正解率，アイリス称这是 GENIAC 指定国産基盤モデル中公开可查的最高分。Namazu 通过独自的事后学习技术，在维持基座模型推理、知识与编码能力的同时强化了日语及日本文化业务语境的适应。
匹配字段摘要
Tessl 博客：AI 不是笨，而是看不见——企业级智能体记忆系统的三条设计经验
Tessl 产品与工程博客发布 VarOps 团队构建跨组织智能体记忆系统的经验总结，作者称问题不在模型推理能力，而在于决策信息从未以智能体可用的形式被记录。团队提出三条设计决策：把观察蒸馏为带证据和时间范围的 claim 而非存储原始片段，在 LongMemEval 上正确证据进入前十条的比例为 99.8%，摄入约 3500 万 token 成本 8.24 美元；不覆盖旧事实并显式标注“无结果”状态，去掉拒答机制后 30 次诚实拒答变成 30 次编造回答；在调用模型前先按身份解析权限，财务读者得到精确营收数字而销售读者只得到区间。作者表示完整报告、测试框架和逐题结果已公开，并将在 AI DevCon New York 讲解设计细节。
匹配字段摘要
NVIDIA PivotOPD：让多轮 AI 智能体从关键错误中恢复
NVIDIA 联合普林斯顿大学和马里兰大学提出 PivotOPD，一种面向多轮 LLM 智能体的 on-policy 蒸馏方法，训练智能体避开最具破坏性的早期关键错误并在犯错后恢复。在 ALFWorld、WebShop 和 Search-based QA 上，Qwen3-1.7B 与 Qwen3-8B 学生模型对 13 个基线取得全部 8 项基准平均分第一；重放关键错误时恢复率达 72.7%，标准 OPD 仅 20.3%。该方法只改训练、推理零额外开销，但代码尚未发布。
匹配字段摘要
IBM 将 Spyre 打造为原生 PyTorch 设备
IBM 通过 torch-spyre 把 Spyre 数据流 AI 加速器接入 PyTorch 的 PrivateUse1 设备身份、分配器、流、事件与编译启动抽象，使 tensor.to("spyre") 可用，并让 eager 与编译执行共用一条路径。Spyre 面向 IBM Z、LinuxONE 和 Power 系统上的推理，配备 32 核、每核 2 MB scratchpad 和最高 128 GB LPDDR5，运行时通过独立计算与数据搬运流水线实现重叠。
匹配字段摘要
Microsoft 为 Windows ML 加入 llama.cpp 与 GGUF 模型实验性支持
Microsoft 于 2026 年 10 月 7 日宣布，在 Windows 本地 AI 推理基座 Windows ML 中实验性集成推理引擎 llama.cpp，开发者可通过 Windows ML 在 PC 上运行 GGUF 格式语言模型。同时新增 Text Generation API，让应用以统一流程调用 GGUF 与 ONNX 模型，Windows ML 会自动为 GGUF 选择 llama.cpp、为 ONNX 选择 ONNX Runtime。目前 llama.cpp 在 Windows ML 上仅验证了 CPU 与 CUDA 的 NVIDIA GPU 执行，GGUF 模型不支持 NPU，Text Generation API 也只提供贪心解码，不支持采样、temperature、投机解码与结构化输出，相关 API 为实验性、暂不支持生产使用。
匹配字段摘要
Aaron Levie：AI 智能体时代算力需求将暴涨
Box CEO Aaron Levie 称，AI 下一阶段所需算力将“疯狂”增长，个人智能体、企业防御智能体群、代码安全审查智能体、处理企业数据的智能体以及 7×24 小时后台智能体都会推高需求。推理量将按数量级持续增长，智能体除 token 外还需要计算机、网络和文件系统等基础设施，而这一建设才刚起步。
匹配字段摘要