搜索“推理”

Perplexity开源多项AI项目

Perplexity 开源 七项模型、推理工具与安全项目

查看事件：Perplexity开源七项AI项目

Modal 宣布 Modal Clusters 正式可用

2026年10月1日,Modal 宣布 Modal Clusters 正式可用。据 Modal 官方工程博客,用户通过 @modal.clustered 装饰器即可调度多节点集群;节点间通过 InfiniBand verbs 通信,带宽最高 6.4 Tbps,并自动为 PyTorch 和 NCCL 配置;集群可在请求后数秒内就绪,按秒计费。Modal 为此新建了 gang scheduling 调度器,并把 RDMA 支持加入 gVisor 容器运行时且已回馈上游。同一来源称,Decagon、1x 和 Runway 分别用其进行万亿参数模型微调、NEO 世界模型预训练和 Gen-4.5、Aleph 2.0 的多节点推理。目前没有后续发展事实。

Agent Anomaly Detection 在 Gemini 企业代理平台开启私有预览

2026年9月16日,Google 在 Gemini Enterprise Agent Platform 上推出 Agent Anomaly Detection 私有预览。据 Google Developers Blog 介绍,该功能通过分析智能体的推理轨迹、工具调用和执行流程,识别越界行为、可疑意图与策略违规。其异步运行不增加请求延迟,检测结果带严重等级、说明和处置建议,并同步到 Security Command Center。内置检测器覆盖 OWASP Agentic Top 10 中的工具滥用、身份与权限滥用、级联失败和失控智能体等风险。用户还可通过 API 读取会话异常,并在 ADK 回调或插件中按严重等级和概率阈值拦截后续工具调用。目前该功能处于私有预览阶段,尚无后续发展事实。

Cognition成为NVIDIA Vera Rubin首个客户

2026年9月30日,CoreWeave宣布NVIDIA Vera Rubin NVL72系统搭配Spectrum-X 102.4T以太网正式在CoreWeave Cloud上线,Cognition成为首个在生产环境运行该系统的客户。据NVIDIA Blog同日报道,Cognition早期测试显示,Vera Rubin NVL72在SWE-2推理负载上的总token吞吐量最高达GB200 NVL72的4.8倍;CoreWeave还将提供首款面向AI智能体的CPU NVIDIA Vera,并推出统一模型与智能体训练、评估和改进的CoreWeave Forge。10月1日,Cognition在社交平台确认自己是首个运行NVIDIA Vera Rubin的客户,由CoreWeave提供支持,并称在相同解码速度下,新芯片在SWE-2推理上的token吞吐量比GB200高出约4.8倍。目前该事件仍处于Cognition作为首个客户运行Vera Rubin的状态,尚无进一步进展。

Manus推出Flex支持自带API密钥

2026年9月30日,Manus推出名为Manus Flex的新功能,允许用户自带API密钥,在Manus的智能体框架、工具和执行环境中使用受支持的模型供应商。同日公布的还有Manus Flex推理合作伙伴计划,首批推理合作伙伴为OpenRouter、Fireworks AI和Modal,目的是为用户提供更多模型选择。目前该功能已正式发布,具体使用方式与详情见官方链接。

Mercury上线Azure AI Foundry

2026年9月29日,Inception Labs 宣布其 Mercury 扩散大语言模型(dLLM)在 Azure AI Foundry 上线,面向企业开发者提供商用规模的 dLLM。据 Inception Labs 博客,该模型通过扩散架构并行生成多个 token,推理速度最高可达同类自回归模型的 10 倍,在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。它支持 128K token 上下文窗口、原生工具调用和 JSON schema 结构化输出,API 兼容 OpenAI,目前在美国和加拿大区域提供,软件许可费用为 $0.78/小时,计算费用另计。截至现有证据,尚无后续发展事实。

Inception发布Mercury 2

2026年9月29日,Inception Labs发布扩散式推理语言模型Mercury 2,称其为全球最快的推理语言模型。该模型采用扩散式并行精炼而非自回归逐 token 解码,官方称生成速度提升超过5倍,在NVIDIA Blackwell GPU上达到1,009 tokens/sec。定价为每百万输入token 0.25美元、每百万输出token 0.75美元,支持可调推理、128K上下文、原生工具调用和schema对齐的JSON输出,并兼容OpenAI API,面向编码补全、智能体循环、实时语音和搜索RAG等延迟敏感场景,现已可用。同日,Inception Labs宣布Mercury 2上线Azure AI Foundry,目前在美国和加拿大区域提供。

ElevenLabs介绍v4情感语音控制

2026年9月28日,ElevenLabs介绍Eleven v4通过音频标签控制情感语音的方法:可在脚本中用[furious]、[sarcastic]、[crying]等Audio Tags逐句指定情绪,模型据此调整语气、节奏和停顿,并加入叹息、笑声等非语言声音。官方建议一次生成整段文本以建立场景上下文,TTS应用单次最多支持10,000字符,每个句段只用一个情绪标签,效果不理想时优先替换标签而非改写文本。同日,ElevenLabs发布Eleven v4及低延迟版本Eleven v4 Turbo,称其为目前最具情感表现力的文本转语音模型;Eleven v4在Artificial Analysis排名第一,盲测中约75%听众更偏好它;Eleven v4 Turbo面向智能体等低延迟场景,中位推理延迟约100ms,中位首次发声时间约150ms。两款模型支持90多种语言,可用[laughs]等内联标签控制语气与音效,Instant Voice Clones仅需10秒音频,并新增Professional Voice Clones支持,现已在ElevenAgents、ElevenCreative

华为发布openPangu 2.0预训练、微调及强化学习后训练代码

2026年9月28日,华为发布openPangu 2.0的预训练、监督微调及强化学习后训练代码,进一步扩展其开源AI模型计划。据X.PIN报道,该计划围绕昇腾硬件上的原生训练与推理构建,相关模型组件正逐步加入开源平台。目前尚无后续发展事实,事件状态以该次发布为准。

Fireworks评测DeepSeek新模型

2026年9月14日,Fireworks AI 发布并评测 DeepSeek-V4.1-Flash。据其公布结果,该模型在 DeepSWE 上 pass@1 为 74.34%,与 GPT-6-Astra 的 74.12% 处于同一水平;单任务成本 0.43 美元,约为 Astra 的 1/15。该模型为 552B 参数 MoE,采用输入 8B、输出 16B 的分离激活预算,KV Cache 的 HBM 占用降至上一代 V4 的 1/4。在 HLE 上它得分 34.52%,低于 Astra 的 50.40%,Fireworks 认为它更适合智能体编码而非高难推理。9月28日,Fireworks AI 发布首个缓存感知路由器 FireRouter with Opus,已在 CLI 上线并首次作为独立路由模型提供,可在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、提示词缓存成本和切换代价选择模型;其一个多月内部 A/B 测试显示,编码任务每次会话成本从 15.36 美元降至 6.63 美元,降幅 57%(±19 个百分点),准确率为纯 O

Google发布Gemini 3.8 Flash模型

2026年9月28日,Google发布Gemini 3.8 Flash模型。官方称该模型在软件工程、智能体任务和跨多步推理上较3.7 Flash有明显提升,性能接近成本更高的前沿模型,提升来自设计取向上更肯下功夫,即在复杂任务中执行更多推理步骤并迭代调用工具。官方同时展示四个开发者用例:用Google Antigravity绘制卫星与空间站实时轨道、把青海波图案转成动态水墨画、生成霸王龙骨架,以及构建自动变速箱交互模型。用户可在Google AI Studio等工具中试用。目前尚无后续发展事实。

国内首家Q4AI公司费米宇宙完成1亿元种子轮、估值约10推出

2026年9月27日,费米宇宙推出全链路量子增强大模型FermiQLLM 1.0。据量子位报道,该模型基于Qwen开源基座模型改造,不依赖容错量子计算机,可在现有GPU基础设施上训练和部署。内测显示,对标同等参数量级传统大模型,其推理性能提升超过15%,持续强化学习环节训练成本下降25%以上;在MATH-500、GPQA-Diamond、BBH等基准上综合性能提升10%~20%。报道还称,该公司成立于今年5月,种子轮累计融资1亿元,投后估值约10亿元,近一半员工有清华背景。目前尚无后续发展事实。

LangChain使用Baseten训练定制模型

2026年9月15日,LangChain 采用 Baseten Loops 为平台内智能体 LangSmith Engine 训练定制模型。据 Baseten 工程博客,该训练通过在大模型智能体轨迹上微调,使模型能读取 GitHub 仓库定位问题,并起草 PR 所需的提示词或代码改动。针对按失败模式和严重程度分类轨迹等更专门需求,LangChain 可切换模型并训练 Qwen 等更小的开源模型。Baseten Loops 通过 API 提供托管微调基础设施,支持监督微调、强化学习和长上下文负载,并打通训练与推理,检查点可在训练中评估并直接部署。目前尚无后续有证据的发展。

Qwen-Image-2.1支持ComfyUI

2026年9月20日,Qwen团队开源Qwen-Image-2.1图像模型,将文生图与图像编辑统一到单一模型,支持多种图像编辑任务。官方介绍,该模型视觉生成组件为7B参数、32层Single-Stream DiT,原生支持透明图像生成与编辑,支持最多10张参考图以及圈选、掩码等局部编辑方式,并通过混合粒度注意力与KV cache复用降低多图编辑时的推理开销和显存占用;模型权重已在GitHub、Hugging Face和ModelScope发布。同日,Qwen宣布Qwen-Image-2.1在ComfyUI中原生支持,用户更新ComfyUI或使用Comfy Cloud、从Hugging Face下载权重并加载模板即可使用。

Anthropic开源Claude优化的30余个生物模型代码

2026年9月18日,Anthropic开源了由Claude优化的30余个生物领域开源模型代码。据Anthropic Science Blog介绍,Claude为这些模型优化推理,平均提速4倍,部分工作是为GPU编写定制软件。这些模型原本用于分子系统结构建模、类药分子设计和基因突变效应预测,但运行成本高,限制了实际影响。Anthropic表示将开源全部优化代码。目前尚无后续发展事实。

Baseten推出Hosted Tools与联网搜索

2026年9月17日,Baseten发布Hosted Tools,首个工具为网页搜索Baseten Grounded Inference。该工具首批接入Exa、Keenable、Parallel和You.com四家搜索服务商,开发者在Messages、Chat Completions或Responses请求中加一项配置即可启用,搜索在Baseten推理栈内服务端执行,模型按原生工具调用能力自行决定是否检索并迭代。Baseten称其基准测试中端到端延迟比客户端工具方案降低15%,并支持流式输出工具调用与结果。该功能目前以playground预览形式开放,限速25 RPM并赠送2美元额度。目前尚无后续发展事实。

Google发布Gemini 3.8 Live音频模型

Google发布Gemini 3.8 Live与Gemini 3.8 Live Extended Thinking两款实时对话音频模型,即日起通过Gemini API、Google Workspace和Gemini应用开放。据Google DeepMind介绍,Gemini 3.8 Live Extended Thinking在Artificial Analysis语音到语音质量指数得82.6分排名第一,τ-Voice智能体任务完成率68.6%,Big Bench Audio得97.7%;Gemini 3.8 Live在Speech Agent Arena排名第二。两款模型支持近实时视觉输入、对话中自动切换97种语言,并可在后台执行工具和API调用而不打断对话。9月18日,Google展示用Gemini 3.8 Live Extended Thinking构建的工作坊助手演示,可分析工作区、出声推理并引导搭建过程。9月21日,Google又演示了用该模型构建的编程辅导Agent,能查看用户屏幕、通过function calling引用p5.js库并讲解代码逻辑。

Cerebras 发布第四代系统 CS-4

2026年8月18日,Cerebras 发布第四代 Cerebras System CS-4。官方信息称,CS-4 由三颗 Wafer Scale Engine 3 Turbo 处理器构成,推理速度最高可达 GPU 系统的 30 倍,每瓦吞吐量最高为 CS-3 的 10 倍;晶圆间互联延迟最低 2 微秒,可在超过 10 万亿参数的模型上实现每秒 1000 token 以上,并原生支持解耦推理,可搭配 AMD Helios、AWS Trainium 等平台做 prefill。该系统基于新的 Cerebras Nexus 平台架构,组件数量减少 50%,首批出货于本季度开始。后续报道称,CS-4 未推出 WSE-4,而是采用超频版 WSE-3 Turbo,核心数与片上 SRAM 仍为 90 万核和 44GB,主频从 1.4GHz 提升到 2.8GHz,算力翻倍;新 Nexus 机架把计算晶圆与 AMD Epyc 主机 CPU 从供电和网络模块中拆出,三部分可独立升级,单机架算力为此前 CS-1 至 CS-3 的三倍,组件减少 50%,部署速度最多快 3 倍,部分客户已可提前使用,本季度晚些

Cerebras 开启 Kimi K2.6 企业客户试用

2026年5月19日,Cerebras 宣布在企业客户试用中运行万亿参数开源权重模型 Kimi K2.6。据 Cerebras 官方博客,Artificial Analysis 测得该服务输出速度达 981 tokens/s,比次快的 GPU 云快 6.7 倍、比中位推理服务商快 23 倍。在 10000 token 输入、生成 500 token 输出的请求中,Cerebras 用时 5.6 秒,官方 Kimi 端点为 163.7 秒,最终答案时间缩短 29 倍。技术实现上,Cerebras 将 Kimi K2.6 以原始 4-bit 权重存储、16-bit 浮点计算,权重分布到多块晶圆并靠片上网络做层间 all-to-all 通信。目前尚无后续发展事实。

NVIDIA发布Isaac ROS 5.0

2026年9月22日,NVIDIA在ROSCon发布Isaac ROS 5.0,为基于ROS的机器人开发引入智能体工作流与新的平台支持,并新增用于环境搭建和操作的Isaac技能。该版本支持ROS Lyrical和Ubuntu 24.04,FoundationPose的智能体推理库让机器人感知和跟踪物体位姿的速度最高提升5.5倍,抓取放置流程也作为独立技能开放。Isaac ROS 5.0支持从Jetson Orin Nano到Jetson Thor的可扩展算力,Mentee Robotics、Universal Robots、ROBOTIS等公司已将其用于各自机器人平台。目前尚无后续发展事实。