搜索“推理”

Rohan Paul 提出推理定价存在规模惩罚

Rohan Paul 提出判断 推理定价存在规模惩罚，最优每 token 价格给到承诺量最大者

查看事件：Rohan Paul 提出推理定价存在规模惩罚

马斯克称分布式推理云是大事

2026年10月14日,马斯克就SpaceX分布式推理云发表评论,称“确实,这是一件大事”。该表态由马斯克本人发布,属于同一事实的代表性证据。目前没有后续发展事实,也没有官方证据或补充交叉来源,事件状态停留在这一评论本身。

马斯克称分布式推理云是大事

Elon Musk 评论 分布式推理云是大事

查看事件：马斯克称分布式推理云是大事

Microsoft公布Clea Maia 300推理XPU规格

Microsoft 公布 Clea Maia 300加速器的规格

查看事件：Microsoft公布Clea Maia 300推理XPU规格

FireRedTeam 发布 FireRedASR2S 及权重与推理代码

2026年2月12日,FireRedTeam 发布一体化语音系统 FireRedASR2S,并放出模型权重与推理代码。该系统包含 ASR、VAD、LID、Punc 四个模块,各模块均称达到 SOTA,且可独立使用。其中 FireRedASR2 支持中文(普通话及 20 多种方言口音)、英文、中英混说以及语音和歌声转写,在 4 个普通话公开基准上平均 CER 为 2.89%,在 19 个中文方言口音基准上为 11.55%,均优于 Doubao-ASR、Qwen3-ASR-1.7B、Fun-ASR 和 Fun-ASR-Nano-2512。FireRedVAD 支持 100 多种语言的语音、歌声和音乐检测,F1 为 97.57%;FireRedLID 覆盖 100 多种语言和 20 多种中文方言,准确率 97.18%;FireRedPunc 中英文标点预测平均 F1 为 78.90%。技术报告见 arXiv。目前尚无后续发展事实。

OpenAI 介绍用推理模型检测真实使用中的失准行为

2026年10月,OpenAI 介绍一种分析真实对话的方法,用内部推理模型充当 AI 裁判,从用户情绪恶化等细微信号中检测并诊断模型的对齐问题。据其 Alignment 研究博客,在允许使用数据的生产对话中,情绪恶化的对话出现 OpenAI Model Spec 违规的概率约为其他对话的两倍,AI 裁判还能发现用户自身未察觉的问题。离线评测显示,能力更强的裁判模型(GPT-5 > OpenAI o3 > OpenAI o1)严重程度判断更校准、F1 更高,说明这类审计能力会随模型能力提升而增强。目前该故事尚无后续发展事实。

OpenAI 介绍用推理模型检测真实使用中的失准行为

OpenAI 介绍 用推理模型分析真实对话以检测和诊断模型失准行为的方法

查看事件：OpenAI 介绍用推理模型检测真实使用中的失准行为

OpenAI研究称o3等模型RL训练中元博弈推理增加

OpenAI 研究并发现 o3及更新模型在能力导向RL训练中元博弈推理增加

查看事件：OpenAI研究语言模型中的metagaming潜变量

inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

FlagOpen 开源 Action-Sketcher-PI0-LIBERO 模型与推理代码

Meta介绍利用闲置推理容量提升广告推荐系统

Meta介绍利用闲置推理容量提升广告推荐系统

Meta 介绍 利用闲置推理容量提升广告推荐的系统

查看事件：Meta介绍利用闲置推理容量提升广告推荐系统

Microsoft公布Clea Maia 300推理XPU规格

2026年10月14日,Microsoft公布第三代自研推理加速器Clea Maia 300的规格。据The Next Platform报道,该芯片在Open Compute Project Summit 2026上亮相,采用台积电2纳米N2P工艺和chiplet架构,封装内含7颗芯片与8个HBM4堆栈,配备288 GB HBM4和18 TB/sec内存带宽。微软称一机架96颗Maia 300的token吞吐量最高可达一机架48颗Maia 200的7倍,每瓦性能提升2.5倍,单机架功耗约167千瓦,面向更大规模的智能体推理负载,ATL 2.0网络可将128个机架、12,288颗加速器连入同一一致性域。早先报道称,该芯片面向推理负载,预计2027年开始量产部署,官方称其每兆瓦token数比主流GPU系统高40%,TDP为950瓦;微软表示Maia 200已在Copilot等生产负载中运行,并部署于美国、欧洲和澳大利亚。

MangoBoost推出AI推理平台Mango Inference

2026年10月12日,MangoBoost正式商用其AI推理平台Mango Inference。据The Elec报道,用户可通过API接入,按token消耗付费,平台支持DeepSeek、GLM和MiniMax等模型。公司称其定价比竞争对手低20%以上,并计划明年一季度在首尔江南建成1MW AI数据中心,可扩展至5MW,GPU由AMD供应。营收方面,公司今年预计约100亿韩元,明年目标超过1000亿韩元。目前该事件尚无后续发展事实,状态停留在平台发布及上述规划。

MiniCPM-V 4.7 在 Apple Silicon 上实现端侧推理

OpenBMB 宣布 MiniCPM-V 4.7 在 Apple Silicon 上获得 Day 0 全端侧推理支持

查看事件：MiniCPM-V 4.7 在 Apple Silicon 上实现端侧推理

FireRedTeam 发布 FireRedASR2S 及模型权重与推理代码

FireRedTeam 发布 FireRedASR2S（FireRedASR2-AED、FireRedVAD、FireRedLID、FireRedPunc）及模型权重与推理代码

查看事件：FireRedTeam 发布 FireRedASR2S 及权重与推理代码

inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

查看事件：inclusionAI 发布 LLaDA-Image Base 与 Turbo 检查点及推理代码

FlagOpen 开源 Action-Sketcher-PI0-LIBERO 模型与推理代码

FlagOpen 发布 Action-Sketcher-PI0-LIBERO 模型和推理代码

查看事件：FlagOpen 开源 Action-Sketcher-PI0-LIBERO 模型与推理代码

MangoBoost推出AI推理平台Mango Inference

MangoBoost 推出 AI推理平台Mango Inference

查看事件：MangoBoost推出AI推理平台Mango Inference

AISI发布AI网络任务推理扩展评测证据

英国 AI Security Institute(AISI)发布 AI 网络任务推理扩展评测证据。AISI 与 Irregular 对 2025 年 11 月前后发布的前沿模型运行私有网络任务评测,发现模型可有效利用比常规评测大 10-50 倍的 token 预算,成功率随之提高,并首次解决此前未解任务。其中 AISI 使用 50M token 预算,约 8% 的任务只有在预算从 10M 提升到 50M 时才被解决;Irregular 使用 1000 轮次。AISI 指出成功率大致随每次尝试所用 token 总量的对数增长,这意味着低预算评测可能低估模型真实能力上限,但结论目前仅基于网络任务,是否适用于其他领域仍需更多测试。