Intel 在 OCP Global Summit 2026 上正式公布面向 AI 推理的 D 系列 GPU 详细规格，该系列此前代号 Crescent Island，是首个采用 Intel 最新 Xe3P GPU 架构的产品线。首款型号 D270 采用风冷设计和 PCIe 5.0 接口，无需专用机架或液冷即可装入数据中心，配备 32 个 Xe3P 核心和 256 个矩阵引擎，FP8 算力 1.3 petaFLOPS，功耗 350 瓦，支持 160GB 至 480GB LPDDR5X 内存，单卡可运行最高 3000 亿参数模型，八卡系统可支持最高 1 万亿参数模型，目前正向客户提供验证样品。Intel 同时推出面向智能体 AI 的机架设计，符合 OCP ORV3 标准，可容纳超过 46000 个 CPU 核心，基于 Xeon 6+ 的配置功耗为 133.45 kW。
匹配字段标题
RouterPlus 把多个团队的需求合并成与供应商的一笔大单，各团队按自身流量份额享受该批量单价，让非批量买家也能拿到批量定价。该服务还会用你的真实用量测试模型，挑出够用且成本最低的那个，避免所有任务都付费调用顶级模型。作者认为这种模式最适合热门开源模型，因为多个团队本就需要相同权重跑在同类硬件上。
匹配字段标题
确实，这是一件大事
匹配字段标题
微软在 Open Compute Project Summit 2026 上公布第三代自研推理加速器 Clea Maia 300 的规格，采用台积电 2 纳米 N2P 工艺和 chiplet 架构，封装内含 7 颗芯片与 8 个 HBM4 堆栈，配备 288 GB HBM4 和 18 TB/sec 内存带宽。微软称一机架 96 颗 Maia 300 的 token 吞吐量最高可达一机架 48 颗 Maia 200 的 7 倍，每瓦性能提升 2.5 倍，单机架功耗约 167 千瓦。该芯片面向更大规模的智能体推理负载，ATL 2.0 网络可将 128 个机架、12,288 颗加速器连入同一一致性域。
匹配字段标题
Cerebras 发布 MoE 推理指南，拆解 8x7B 的实际含义——并非 8 个专家各 7B 激活参数，而是 13B 激活参数。文章给出模型权重与 kv-cache 的显存计算公式，并指出单 GPU 部署受显存限制、多 GPU 受通信限制、Cerebras WSE 等专用硬件则受算力限制。
匹配字段标题
LiquidAI 发布 LFM2.5-24B-A2B，基于 LFM2-24B-A2B 架构，激活参数 2B，上下文窗口从 32K 扩至 131K tokens，词表从 65K 扩至 128K，并改为只输出思维链的推理模型。预训练规模从约 17T 扩至约 33T tokens，后训练经 SFT、教师专精、两阶段多领域在线策略蒸馏和智能体强化学习五步，在 OpenClaw、Hermes Agent、Pi、OpenCode 等框架内训练。在 16 项基准中，它在 AutomationBench、BFCLv4、ToolSandbox、LiveClaw、τ³-Bench Banking 等 8 项工具与智能体基准中的 5 项领先或持平，三项指令遵循基准全部领先，但 GPQA Diamond、HLE、SWE-Bench Verified 等知识密集与编码基准仍落后于更大模型。模型已在 Hugging Face 开源权重，支持 llama.cpp、MLX、vLLM、SGLang、ONNX，在 M5 Max 上解码 184 tokens/s，单张 B300 高并发下输出超 21K tokens/s。
匹配字段标题
在最新一期 theCUBE Pod 中，theCUBE Research 分析师 John Furrier 与 Dave Vellante 讨论了 IBM 在 AI 时代的定位：IBM 押注模型商品化，以 Red Hat 开源基础构建由智能体、数据、自动化和混合基础设施组成的四部分架构，做企业混合 AI 运营基础设施。Vellante 称 AI 运营模型将成为新的竞争优势来源，并指出工作负载已从一年前 90% 训练变为如今 60-40 训练与推理，预计将翻转至 10-90。Marvell 则提出 2031 财年 700 亿至 900 亿美元营收目标。
匹配字段标题
Google 发布 Gemini 4 Argon，一款面向机器人的通用物理推理模型，在 Embodied Reasoning（ERQA）基准上以纯推理取得 87%，超过其他前沿模型。官方给出覆盖机器人控制、Real2Sim、物理理解与自我改进四类场景的代表性提示词，例如用 MuJoCo 数字孪生练习 Spot 踩垃圾桶踏板、从手绘草图生成 mujoco_warp 场景，以及在仿真中合成 4500+ 回合数据把真机成功率从 56% 提升到 75%、完成时间从 35s 降到 24s。开发者即日起可在 Google 开发者平台使用该模型。
匹配字段标题
Prime Intellect 宣布收购 Moondream，创始人 Vik Korrapati 和 Jay Allen 加入并负责推理与多模态模型（含视觉与 computer use）。Moondream 曾发布开源视觉语言模型和推理引擎 Photon，其 Moondream 3.1 在物体检测等任务上达到 34 requests per second，约为次优开源模型的 24 倍。Moondream 3.1 现已通过 Prime Inference 提供并由 Photon 驱动，Moondream Cloud 客户将在未来几天获得平台额度。
匹配字段标题
面壁智能 MiniCPM-V 4.7（1B 与 35B-A3B）通过与 Nativ 合作，在 Mac 上实现 Day 0 全本地推理，支持图像与视频理解。在 Apple Silicon 搭配 Nativ v0.4.x 实测：1B 版 prefill 超 24K tokens/s、decode 315 tok/s；35B-A3B 版 prefill 超 4K tokens/s、decode 90 tok/s。
匹配字段标题
InternLM 发布 STAR-Bench，一个用于衡量音频 4D 智能（对声音在时间与 3D 空间中动态变化的推理）的基准，v1.0 已上线 HuggingFace，相比 v0.5 修订了空间任务问答。该基准包含基础声学感知（绝对与相对两种设定下的六项属性）和整体时空推理（连续与离散过程的片段重排，以及静态定位、多源关系、动态轨迹等空间任务）。评估支持 Qwen2.5-Omni、Kimi-Audio、Phi4-MM、Gemini、GPT-4o Audio 等模型，数据与代码仅限研究用途。
匹配字段标题
InternLM 发布 ETCHR（Editing To Clarify and Harness Reasoning），一个以问题为条件、具备推理感知能力的图像编辑器，作为多模态大语言模型（MLLM）的解耦式视觉推理助手，可即插即用地辅助 Qwen3-VL-8B、Gemini-3.1-Flash-Lite、Kimi K2.5 等下游模型而无需微调。其 Edit-Verify-Reason 推理机制在验证失败时回退原图，在细粒度感知、图表理解、逻辑推理、拼图还原和 3D 理解五类任务上均提升 Pass@1 准确率。项目已开源 ETCHR-FLUX.2-klein-9B 模型、SFT-400K 与 GRPO-10K 数据集及 DL3DV-2K 基准，基于 FLUX.2-klein-base-9B，遵循 FLUX 非商用许可。
匹配字段标题
InternLM 开源了论文 EndoCoT 的官方实现，该工作已被 ECCV 2026 接收，提出一种让扩散模型逐步推理的范式，在 Qwen-Image-Edit-2511 上优于常规训练方法，并提供透明的中间推理轨迹。仓库已放出 EndoCoT-Data 数据集与 ckpt，训练代码、训练数据、主任务 ckpt 和编辑模型 ckpt 仍待开源。
匹配字段标题
小米 MiMo 团队发布 MiMo-V2.5 系列推理系统的端到端工程实践，覆盖 KVCache 管理、分层缓存、SWA 感知前缀缓存树、调度策略、Prefill/Decode 执行流水线与多模态优化。MiMo-V2.5-Pro 共 70 层，其中 10 层 Full Attention、60 层 SWA，滑动窗口为 128，Hybrid SWA 使计算量与 KVCache 存储降至 Full Attention 的约 1/7。团队称上线以来服务端 KV Cache 命中率平均 93%，重度用户可达 95% 以上，并将部分优化以 PR 形式回馈 SGLang 社区。
匹配字段标题
InternLM 发布 InternLumina-U2，一个 16B-A1B 的 MoE 统一多模态模型，用同一套骨干和离散 token 接口覆盖文本问答、文生图、图像理解与编辑、视频理解和 3D 理解。该模型基于 LLaDA-2.0 MoE 扩散语言模型，采用 AToken 的 8 码本全离散视觉表示，输入侧拼接各码本嵌入，输出侧以空间并行去噪加码本深度自回归预测。目前仓库只放出推理代码，昇腾训练权重已在 Hugging Face 提供，NVIDIA 权重、训练代码和技术报告将后续发布。
匹配字段标题
LMDeploy 是 InternLM 团队开发的 LLM 压缩、部署与推理服务工具包，通过持续批处理、分块 KV cache、张量并行等特性实现最高达 vLLM 1.8 倍的请求吞吐，4-bit 推理性能为 FP16 的 2.4 倍。其论文《LMDeploy Accelerates Mixed-Precision LLM Inference with TurboMind》已被 EuroSys 2027 接收，v0.12.3 已上线 PyPI，可直接 pip install lmdeploy 安装。
匹配字段标题
InternLM 发布 SpatialASM 官方实现，通过两阶段训练把主动空间心智化（ASM）内化进 LVLM，使其在推理时无需世界模型、渲染器或额外视觉观测。框架包含 allocentric 新视角生成器 SpatialASM-NVG、ASM 轨迹合成与视角想象强化学习（GRPO）三部分，并开源 SpatialASM-edit140k、SpatialASM-128k 及子集 SpatialASM-66k 数据集。团队基于 Qwen3-VL 与 Qwen3.5 训练了四个 LVLM 骨干，模型包括 SpatialASM-Qwen3-VL-4B。
匹配字段标题
Anthropic 用 Claude 3.5 Sonnet 改写 Claude 3.7 Sonnet 早期检查点的 1 万条正确数学草稿，再把改写版蒸馏回基座模型，结果其 MATH pass@1 准确率与用原始草稿微调的模型非常接近，说明模型在 MATH 上并未显著依赖草稿语法中的隐式推理。研究还发现，仅要求模型把思路分块而不做改写，就会让 MATH pass@1 下降 7%。
匹配字段标题
Satya Nadella 宣布微软将把自研 Maia 芯片扩展至多吉瓦部署，成为自家产品与服务的主要推理系统，并发布第三代加速器 Maia 300。微软称 Maia 300 每瓦 token 数比领先的 GPU 系统高 40%，一个整机架在 167kW 内集成 96 个加速器、27.6TB HBM，token 吞吐量最高可达 Maia 200 机架的 7 倍。Maia 200 已在 Teams 和 Copilot 中承担生产流量，每瓦 token 数最高为领先 GPU 基础设施的 1.7 倍；Maia 300 采用多 chiplet 设计，每颗芯片配 8 组 HBM4、峰值带宽 18.0 TB/s、TDP 950W，并支持增强的 MXFP4 以压缩 KV cache。据报微软正与 TSMC 洽谈 2027 年交付超过 30 万颗 Maia 300，该数字仍在谈判中。
匹配字段标题
卡尔的AI沃茨提出“大AI理论”：第一步用最高推理档加计划模式，靠语音、图片、视频把想法不加整理全倒给AI；第二步降到中档推理快速干活，Terminal Bench 3.0 数据显示详细需求+中档推理质量优于模糊需求+高档推理；第三步调回高档让AI审查中档产出，作者称可额外揪出20%-30%的问题，验证耗时约为从头生成的三分之一。
匹配字段标题