搜索“推理”

OpenAI 发布 Codex 的 Auto-review 模式

2026年10月14日,OpenAI 发布 Codex 的 Auto-review 模式,用独立的 Codex 智能体在沙箱边界审查越界操作,替代用户逐次审批。官方称该模式下 Codex 会话中断请求人工审批的频率比手动审批模式低约 200 倍,需审查的操作中约 99% 被批准,被拒绝后 Codex 在超过一半的情况下能自行找到可接受的替代方案。Auto-review 使用 GPT-5.4 Thinking(低推理),已在 OpenAI 内部部署,目前 Codex Desktop 内部 token 用量大部分来自该模式。官方同时提示它不构成安全保证,也无法防范模型刻意隐藏意图,相关代码已在 Codex 仓库开源。

Modal 宣布 Modal Clusters 正式可用

2026年10月1日,Modal 宣布 Modal Clusters 正式可用。据 Modal 官方工程博客,用户通过 @modal.clustered 装饰器即可调度多节点集群;节点间通过 InfiniBand verbs 通信,带宽最高 6.4 Tbps,并自动为 PyTorch 和 NCCL 配置;集群可在请求后数秒内就绪,按秒计费。Modal 为此新建了 gang scheduling 调度器,并把 RDMA 支持加入 gVisor 容器运行时且已回馈上游。同一来源称,Decagon、1x 和 Runway 分别用其进行万亿参数模型微调、NEO 世界模型预训练和 Gen-4.5、Aleph 2.0 的多节点推理。目前没有后续发展事实。

AMD发布面向Agentic AI的CPU中心Helion机架设计

AMD在OCP Global Summit上发布Helion,一套以CPU为中心的AI数据中心计算基础设施设计,用于同时运行大量AI智能体。该设计与堆叠大量GPU的Helios不同,面向智能体反复执行程序、访问数据库带来的CPU需求。面向大型数据中心运营商的配置可单机架容纳最多32,768个基于第六代EPYC Venice的CPU核心,模型推理请求则交给独立GPU系统;企业配置将EPYC CPU与Instinct MI350P GPU放在同一机架,最多容纳16块GPU,并集成token router把请求分流到高性能模型或自托管开源模型以降低AI运营成本。AMD将以开放参考设计形式提供Helion,向OCP贡献规范,Cisco、Dell、HPE、Lenovo、Supermicro等八家服务器厂商正在开发相关系统,计划11月上市。

TensorZero推出开源LLM网关自适应实验功能

2026年10月10日,TensorZero推出其开源LLM网关的自适应实验(A/B测试)功能。据TensorZero工程博客介绍,该功能采用多臂老虎机算法,旨在解决传统实验固定停止规则和流量分配次优的问题,可在证据充分时自动停止并动态分配推理流量。官方称,在多种真实环境中,自适应实验将正确识别最佳LLM变体(提示词、模型等)的平均时间比简单A/B测试缩短37%。该功能基于固定置信度最佳臂识别(BAI)的Track-and-Stop策略,用Rust实现,通过概率采样、周期性更新采样概率和GLRT停止规则适配生产环境的异步反馈与并发请求。目前尚无后续发展事实。

Anthropic发布Claude Opus 5.5

2026年9月22日,Anthropic发布Claude Opus 5.5。官方材料称,该模型在Artificial Analysis的Intelligence Index v4.3上以58分排名第一,比Claude Opus 5高7分,在Vals AI的Vals Index上以69.69%居首;支持最高100万token输入、12.8万token输出,推理默认开启并分五档,API价格为每百万输入/缓存/输出token 4/0.25/20美元。早先报道称其输出价格为每百万token 20美元,低于上一代的25美元。9月23日,Yuchen Jin称其单任务速度比Opus 5快约30%、成本低约40%。9月25日,Thomas Wolf称用Opus 5.5把一份Google Doc生成为视频。10月4日,Ado Kukic表示在medium和high effort下使用Opus 5.5未触及5小时限额,单次会话最高约用到74%。10月9日,Ado又称Opus 5.5发布后的周末是今年迄今最高效的编程日。同期Anthropic还发布了Sonnet 5.5和Haiku 5.5,并下调Sonn

Architect推出Liquid Inference

2026年10月8日,Architect Financial Technologies推出Liquid Inference,这是一个对每次LLM推理请求进行实时拍卖的路由器。据MarkTechPost报道,提供方为指定模型报价,买方按最低且符合自身规则的报价成交。买方可在生成前锁定最高价格,并设置单任务成本上限、首token时延、最低吞吐、区域、零数据保留以及提供方或模型白名单等规则,计费仅按实际用量。该服务兼容OpenAI与Anthropic客户端,官方称支持Claude Code、Codex、OpenCode、Cursor、Pi和Cline,前500名用户可获20美元免费推理额度,推荐可获被推荐方费用的20%。目前尚无后续发展事实。

GLM 5.3上线Amazon Bedrock

2026年10月6日,Z.ai(智谱)的GLM 5.3模型在Amazon Bedrock上线。据AWS Machine Learning发布的信息,该模型为753B参数的MoE模型,面向编码与长程智能体任务优化。Bedrock提供全托管API,支持跨区域推理、提示词缓存和服务层级,目前面向符合条件的企业客户开放。官方称,相比GLM 5,GLM 5.3在DeepSWE、Terminal Bench 3.0、FrontierSWE等编码基准上具有竞争力,并在CyberGym基准上测得84.5分。同日,唐杰也在社交平台发布了GLM-5.3上线Amazon Bedrock的消息。目前该故事尚无后续发展事实。

Hao AI Lab开源Minecraft AI玩家Jev

Hao AI Lab开源了Minecraft智能体Jev,并在1,795轮对局后公布其工作方式。该智能体不训练模型,而是由SOTA LLM智能体在人工监督下,从机器人自身日志中进化提示词。在Block UHC对真人玩家时,它赢下70%的回合。据其说明,面对满技能脚本对手时,v1全败,不到两小时后v9全胜。每次决策为DJev在DiffusionGemma上的一次前向传播,不生成token,在NVIDIA Blackwell上耗时24 ms,团队称比某领先推理引擎快2.5倍。团队同时开源推理引擎DJev-serve,在GB200 NVL72和B200上以单个CUDA graph执行每次决策。

Perplexity开源七项AI项目

2026年10月3日,Perplexity开源了七项模型、推理工具与安全项目。据当时报道,其中包括多模态决策模型pplx-decider-v1-27b,在11项基准上平均85.7%,领先Jev;上下文嵌入向量模型pplx-embed-v2-context-9b-preview,在ConTEB和turbopuffer context-bench上表现最佳;面向Apple silicon的本地推理引擎Lily,用Rust加自定义metal kernel实现,在M5 Max上prefill比MLX-LM快1.23倍、decode快1.35倍;以及0.6B端侧PII分类器PII-Tracer及配套PII-TRACE基准、面向深度研究智能体的WANDR基准、笔记本与工作站智能体检测响应工具Numbat、只读供应链扫描器Bumblebee。2026年10月7日,Perplexity宣布其决策模型在Hugging Face Decision Index上登顶,并称该模型为开放权重。

Cognition成为NVIDIA Vera Rubin首个客户

2026年9月30日,CoreWeave宣布NVIDIA Vera Rubin NVL72系统搭配Spectrum-X 102.4T以太网正式在CoreWeave Cloud上线,Cognition成为首个在生产环境运行该系统的客户。据NVIDIA Blog同日报道,Cognition早期测试显示,Vera Rubin NVL72在SWE-2推理负载上的总token吞吐量最高达GB200 NVL72的4.8倍;CoreWeave还将提供首款面向AI智能体的CPU NVIDIA Vera,并推出统一模型与智能体训练、评估和改进的CoreWeave Forge。10月1日,Cognition在社交平台确认自己是首个运行NVIDIA Vera Rubin的客户,由CoreWeave提供支持,并称在相同解码速度下,新芯片在SWE-2推理上的token吞吐量比GB200高出约4.8倍。目前该事件仍处于Cognition作为首个客户运行Vera Rubin的状态,尚无进一步进展。

Manus推出Flex支持自带API密钥

2026年9月30日,Manus推出名为Manus Flex的新功能,允许用户自带API密钥,在Manus的智能体框架、工具和执行环境中使用受支持的模型供应商。同日公布的还有Manus Flex推理合作伙伴计划,首批推理合作伙伴为OpenRouter、Fireworks AI和Modal,目的是为用户提供更多模型选择。目前该功能已正式发布,具体使用方式与详情见官方链接。

Mercury上线Azure AI Foundry

2026年9月29日,Inception Labs 宣布其 Mercury 扩散大语言模型(dLLM)在 Azure AI Foundry 上线,面向企业开发者提供商用规模的 dLLM。据 Inception Labs 博客,该模型通过扩散架构并行生成多个 token,推理速度最高可达同类自回归模型的 10 倍,在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。它支持 128K token 上下文窗口、原生工具调用和 JSON schema 结构化输出,API 兼容 OpenAI,目前在美国和加拿大区域提供,软件许可费用为 $0.78/小时,计算费用另计。截至现有证据,尚无后续发展事实。

Inception发布Mercury 2

2026年9月29日,Inception Labs发布扩散式推理语言模型Mercury 2,称其为全球最快的推理语言模型。该模型采用扩散式并行精炼而非自回归逐 token 解码,官方称生成速度提升超过5倍,在NVIDIA Blackwell GPU上达到1,009 tokens/sec。定价为每百万输入token 0.25美元、每百万输出token 0.75美元,支持可调推理、128K上下文、原生工具调用和schema对齐的JSON输出,并兼容OpenAI API,面向编码补全、智能体循环、实时语音和搜索RAG等延迟敏感场景,现已可用。同日,Inception Labs宣布Mercury 2上线Azure AI Foundry,目前在美国和加拿大区域提供。

ElevenLabs介绍v4情感语音控制

2026年9月28日,ElevenLabs介绍Eleven v4通过音频标签控制情感语音的方法:可在脚本中用[furious]、[sarcastic]、[crying]等Audio Tags逐句指定情绪,模型据此调整语气、节奏和停顿,并加入叹息、笑声等非语言声音。官方建议一次生成整段文本以建立场景上下文,TTS应用单次最多支持10,000字符,每个句段只用一个情绪标签,效果不理想时优先替换标签而非改写文本。同日,ElevenLabs发布Eleven v4及低延迟版本Eleven v4 Turbo,称其为目前最具情感表现力的文本转语音模型;Eleven v4在Artificial Analysis排名第一,盲测中约75%听众更偏好它;Eleven v4 Turbo面向智能体等低延迟场景,中位推理延迟约100ms,中位首次发声时间约150ms。两款模型支持90多种语言,可用[laughs]等内联标签控制语气与音效,Instant Voice Clones仅需10秒音频,并新增Professional Voice Clones支持,现已在ElevenAgents、ElevenCreative

华为发布openPangu 2.0预训练、微调及强化学习后训练代码

2026年9月28日,华为发布openPangu 2.0的预训练、监督微调及强化学习后训练代码,进一步扩展其开源AI模型计划。据X.PIN报道,该计划围绕昇腾硬件上的原生训练与推理构建,相关模型组件正逐步加入开源平台。目前尚无后续发展事实,事件状态以该次发布为准。

Moonshot AI 开源 Kimi Vendor Verifier

Moonshot AI(月之暗面)开源了 Kimi Vendor Verifier(KVV)项目,用于帮助开源模型用户校验推理实现的准确性。该项目随 Kimi K2.6 模型发布,包含六项基准测试,覆盖 API 参数约束预校验、OCRBench、MMMU Pro、AIME2025、K2VV ToolCall 与 SWE-Bench,其中 SWE-Bench 因依赖沙箱未开源。官方称已在 Two NVIDIA H20 8-GPU 服务器上完成全流程验证,顺序执行约需 15 小时,并已针对流式推理、自动重试和断点续跑优化脚本。目前尚无后续发展事实。

Cerebras 发布第四代系统 CS-4

2026年8月18日,Cerebras 发布第四代 Cerebras System CS-4。官方信息称,CS-4 由三颗 Wafer Scale Engine 3 Turbo 处理器构成,推理速度最高可达 GPU 系统的 30 倍,每瓦吞吐量最高为 CS-3 的 10 倍;晶圆间互联延迟最低 2 微秒,可在超过 10 万亿参数的模型上实现每秒 1000 token 以上,并原生支持解耦推理,可搭配 AMD Helios、AWS Trainium 等平台做 prefill。该系统基于新的 Cerebras Nexus 平台架构,组件数量减少 50%,首批出货于本季度开始。后续报道称,CS-4 未推出 WSE-4,而是采用超频版 WSE-3 Turbo,核心数与片上 SRAM 仍为 90 万核和 44GB,主频从 1.4GHz 提升到 2.8GHz,算力翻倍;新 Nexus 机架把计算晶圆与 AMD Epyc 主机 CPU 从供电和网络模块中拆出,三部分可独立升级,单机架算力为此前 CS-1 至 CS-3 的三倍,组件减少 50%,部署速度最多快 3 倍,部分客户已可提前使用,本季度晚些

Cerebras 开启 Kimi K2.6 企业客户试用

2026年5月19日,Cerebras 宣布在企业客户试用中运行万亿参数开源权重模型 Kimi K2.6。据 Cerebras 官方博客,Artificial Analysis 测得该服务输出速度达 981 tokens/s,比次快的 GPU 云快 6.7 倍、比中位推理服务商快 23 倍。在 10000 token 输入、生成 500 token 输出的请求中,Cerebras 用时 5.6 秒,官方 Kimi 端点为 163.7 秒,最终答案时间缩短 29 倍。技术实现上,Cerebras 将 Kimi K2.6 以原始 4-bit 权重存储、16-bit 浮点计算,权重分布到多块晶圆并靠片上网络做层间 all-to-all 通信。目前尚无后续发展事实。

Architect推出Liquid Inference

Architect Financial Technologies 推出 实时竞价式LLM推理路由与市场Liquid Inference

查看事件：Architect推出Liquid Inference

Perplexity开源多项AI项目

Perplexity 开源 七项模型、推理工具与安全项目

查看事件：Perplexity开源七项AI项目