llm-d 项目在 PyTorch Conference North America 上发布 1.0 版本，这是一个 Kubernetes 原生的分布式推理服务栈，由 Red Hat、IBM 和 Google 主导维护，CNCF 以沙箱项目托管。1.0 版本新增多租户服务质量保障，包括按优先级和公平性调度的流控与可控降载，并支持路由器热备、安全滚动更新，以及把 prefill 和 decode 副本作为整体管理的 DisaggregatedSet 控制器。项目公布的测试显示，在 544 张 NVIDIA H100 上部署 GLM-5.2 可服务最多 3000 个并发编码智能体且零抢占，按当前云租赁价格计算，每 token 成本比同等商业 API 低 5 到 10 倍。
匹配字段摘要、正文
AMD 高管 Salil Raje 提出，物理 AI 的性能评估应从原始算力转向实时控制与系统级可靠性。AMD 以 Kria AI SOM、Versal、Zynq 和 Spartan FPGA 构建异构架构，第三方测试中 Kria AI SOM 推理时间低于 0.1 秒、每秒支持 8,000 次控制决策；在开放导航基准中，Ryzen AI Embedded 配置的控制时序可靠性最高达 Nvidia Jetson T5000 的 3.4 倍，可用算力余量高 1.6 倍。
匹配字段摘要、正文
DeepSeek 开源了支撑其线上服务的高性能推理框架 DeepInfer，采用 Apache 2.0 许可证，本次聚焦离线推理，主要基于 vLLM 构建并借鉴 SGLang 和 TensorRT-LLM。它把此前分散开源的 FlashMLA、DeepGEMM、DeepEP、EPLB 等内核集成为完整引擎，补齐调度、并行与投机解码等系统层，同时支持 NVIDIA SM100 GPU 和华为昇腾 950 NPU。原文还拆解了 DSpark 投机解码、YoCo SWA 有界重放、异步调度、批不变确定性推理和 regex/JSON schema/EBNF 结构化输出等设计。
匹配字段摘要、正文
Anthropic 正与 Nscale 洽谈第二笔 450 亿美元算力协议，将把西弗吉尼亚的预订规模翻倍至 920 MW，新增的是 Monarch Compute Campus 中另一栋 460 MW 建筑，运行 Nvidia 的 Vera Rubin 芯片，Anthropic 还持有该园区预计第三栋建筑的第一优先购买权。首份合同于 8 月签署，为 6 年期 460 MW 租约，2027 年底开始交付，年均约 75 亿美元，约合每 MW 1630 万美元。Nscale 的 IPO 文件列出与 Anthropic 的协议价值最高约 446 亿美元，第二笔交易的价值取决于 Monarch 首栋建筑和 Vera Rubin 机架能否在 2027 年底按期通电。
匹配字段摘要、正文
摩根士丹利将数据中心租约计入资本开支后，估算 2027 年超大规模厂商与新云厂商的 AI 支出为 1.58 万亿美元。超大规模厂商持有超 1.1 万亿美元尚未开始的租约，这类租约类似债务融资采购却不计入资本开支。其中约 65%（约 1.03 万亿美元）落入标普 500 收入，Nvidia 拿走约 6900 亿美元、占整个预算的 44%，其余 499 家成分股约分得 3400 亿美元，另有约 5500 亿美元流向韩国存储厂商、台湾 ODM 和私营公司。2027 年预计为现金流缺口峰值，靠项目债和可转债融资建设的 GPU 租赁新云对融资成本最为敏感。
匹配字段摘要、正文
美国国土安全部以国家安全为由，要求联邦民事机构从系统中清除 DeepSeek 及相关第三方服务。该部门警告称，使用这一中国 AI 模型存在向北京传输敏感数据的风险，模型还可能带有恶意软件或安全漏洞。发布者随后以讽刺口吻追问下一步是否会禁止 NVIDIA 芯片运行 DeepSeek。
匹配字段摘要、正文
蚂蚁 inclusionAI 在 GitHub 发布 vLLM-Omni 仓库，这是一个在 vLLM 基础上扩展全模态模型推理与服务的框架，支持文本、图像、音频、视频和动作数据处理，并支持 DiT 等非自回归架构。README 显示其已迭代至 0.30.0，对齐 vLLM 0.30.0，新增 MiniCPM-o 4.5 与 AURA 的全双工会话服务、Mooncake AR-to-DiT 跨阶段 KV 与多模态传输，以及在 NVIDIA Blackwell 和昇腾 950 上的 MiniMax H3 Turbo 实时推理。框架提供 OpenAI 兼容 API 服务、流式输出和分布式并行推理，并列出 Qwen3-Omni、MiniMax H3、Wan2.2、π0.5 等已支持模型。
匹配字段摘要、正文
Inception 发布扩散语言模型 Mercury 3，官方称在 NVIDIA GPU 上达到 1068 tokens/s，上下文窗口为 1M token，参数量未披露但超过 Mercury 1 的 40 倍。在 Inception 自报的 12 项基准中，Mercury 3 在 8 项上领先 GPT-6 Luna 和 Claude Haiku 5.5，其中 SWE-Bench Atlas 为 51.08、IFBench 为 76.84，但在 DeepSWE v1 和 MRCR v2 上落后于 Haiku 5.5。模型已上线 Inception API Platform、OpenRouter、Baseten 和 Vercel，API 兼容 OpenAI，模型名为 mercury-3，发布价为每百万 token 输入 0.10 美元、输出 0.35 美元，之后恢复为 0.20 美元和 0.70 美元。
匹配字段摘要、正文
巴塞罗那超算中心（BSC）的 AI Factory 加速器计划已全面运行，为初创企业提供主权算力、技术支持和培训，部分服务现已通过 NVIDIA Inception 门户开放。该 AI Factory 是欧洲首批、西班牙首个 AI 工厂，自 2025 年 4 月启动以来已交付超 800 项服务。三家 Inception 成员在试点演示日获评 AI Champions，分别基于 MareNostrum 5、NVIDIA NIM 微服务和 Nemotron 模型开发水务、心电房颤识别与多智能体医药信息方案。
匹配字段摘要、正文
2026 年 1 月至 9 月，Amazon SageMaker JumpStart 新增来自 30 家提供商的 100 多个模型，其中 Alibaba（Qwen）贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个 Gemma 4 变体、IBM 4 个、Cohere 4 个。新增模型覆盖多模态、语音、图像与视频生成，并引入 GLM-5.2 FP8、JetBrains Mellum2-12B 等量化与紧凑模型以降低推理成本。
匹配字段摘要、正文
Inception 于 2026 年 10 月 19 日发布扩散架构大模型 Mercury 3，称其在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5，在 NVIDIA GPU 上速度达 1068 tokens/s，上下文窗口从 Mercury 2.5 的 26 万提升到 100 万 tokens。发布价每百万输入 tokens 0.10 美元、输出 0.35 美元，正式价为 0.20 和 0.70 美元，缓存输入为 0.02 美元。Mercury 3 可通过 Inception API、OpenRouter、Baseten 和 Vercel 调用，兼容 OpenAI API；Mercury 2 和 2.5 已停止向新用户开放，老客户可用至 2026 年 11 月 15 日。
匹配字段摘要、正文
Meta 工程团队公布 Prometheus 超算的技术细节，确认第一阶段已训练 Muse 系列基础模型（含 Muse Wonder），并计划将该系统扩展至约 100 万 GPU。该集群位于俄亥俄州 New Albany，目前由数十万 GPU 组成并作为单机运行，Muse Wonder 预训练 goodput 超过 85%、强化学习超过 90%。Meta 还披露了基于 NVIDIA GB200 NVL72 的 Catalina 和基于 GB300 NVL72 的 Clemente 两套平台，以及即将到来的 Vera Rubin NVL72 平台。
匹配字段摘要、正文
由前 NVIDIA 机器人研究人员创立的 Dream Labs 完成 9000 万美元种子轮融资，由 B Capital 领投，Kindred Ventures、A.Capital、Unusual Ventures 等参投，同时开放 Dream-1 模型的公共 API。Dream-1 被称为 World Action Model，通过预测末端执行器位姿而非关节指令来适配不同机器人，目前零样本能力聚焦双臂平行夹爪机器人，推理定价为每小时 3 美元、轻量版 Dream-1-flash 每小时 2 美元。公司称该模型仍属研究 beta，尚未针对安全关键场景验证，融资主要用于扩充算力。
匹配字段摘要、正文
Nebius 将 AI Builder Program 扩展至欧洲，联合 NVIDIA、Accel 及其他欧洲 VC 提供合计 1000 万美元的算力资助、资金与社区项目支持。计划免费加入，开发者可获得在 Nebius 上运行开源模型的 credits，入选项目还可在 Token Factory 获得算力资助。欧洲版额外支持需要更多算力或资金的大型开源项目，并与 AI Tinkerers、{Tech: Europe}、ESRA 等社区举办黑客松和 demo day。
匹配字段摘要、正文
Nebius 的 AI Builder Program 将向欧洲扩展，提供总额 1000 万美元的支持，涵盖算力资助、资本和社区项目。算力资助面向开源模型、编程智能体、后训练和评测等方向；此外还提供与 Accel 等欧洲风投的对接，以及与 NVIDIA、AI Tinkerers 等社区合办的黑客松和 demo day。
匹配字段摘要、正文
微软终止了与 Nscale 位于英格兰 Loughton 的 AI 数据中心合同，原因是该站点预期的电力接入出现延期。该项目于 2025 年公布，规划为 50 MW、可扩展至 90 MW，并计划为 Microsoft Azure 部署 23,040 块 Nvidia GB300 GPU。据 The Guardian 报道，UK Power Networks 告知 Nscale 最早要到 2030 年代初才能提供足够电力；Nscale 表示仍将保留该站点，正探索替代电力来源，此事不影响其与微软的其他合同。
匹配字段摘要、正文
密歇根大学孵化的 Laplace Intelligence 正在为机器人和物理 AI 构建自动化红队测试，用基于 Nvidia Cosmos 后训练的高保真仿真环境加 AI 智能体自动设计 corner case，在部署前发现并修复问题。公司已产生营收并小幅盈利，客户包括自动驾驶卡车公司 Bot Auto 和一家日本大型车企，并与 Nvidia、T-Mobile 在加州圣何塞开展免费智慧城市试点。
匹配字段摘要
北京通用人工智能研究院孵化的通衍灵智聚焦 Recursive Self-Improving Personal AI，以共享基础模型加轻量 Personal LoRA 承载个人与企业的专属能力，并通过 Evaluator 筛选反馈、版本回滚控制持续学习。其 TIP 训推并行与 Paged LoRA 在 Qwen2.5-72B-Instruct、8 张 NVIDIA H800 上把 LoRA 显存预算控制在 5.79GB，但 LoRA 请求占比升至 50% 时仍出现性能退化，完整自动化闭环尚在研发中。
匹配字段摘要、正文
Meta 宣布其千兆瓦级超算集群 Prometheus 第一阶段已在俄亥俄州 New Albany 建成，并用于训练 Muse 系列基础模型，包括 Muse Wonder。该集群目前由数十万块 GPU 组成，满规模目标约 100 万块，已部署 NVIDIA GB200 NVL72（Catalina）和 GB300 NVL72（Clemente）两代平台，后续将引入 Vera Rubin NVL72。Meta 称 Muse Wonder 预训练 goodput 超过 85%、强化学习 goodput 超过 90%，并将中断率从 2025 年中期峰值降低 99%。
匹配字段摘要、正文
Inception Labs 发布扩散语言模型 Mercury 3，称在多项基准上超过 GPT-6 Luna 和 Claude Haiku 5.5，在 NVIDIA GPU 上达到 1,068 tokens/s，速度是后两者的 4–8 倍。Mercury 3 参数量比 Mercury 1 大 40 倍以上，上下文窗口从 Mercury 2.5 的 260K 提升到 1M，官方称从 Mercury 1（mini）到 Mercury 3 的基准智能水平提升 3 倍。该模型已在 Inception API Platform 及 OpenRouter、Baseten、Vercel 上线，兼容 OpenAI API，早期合作伙伴已将其用于语音与客服、实时辅导、数据工程和网页导航。
匹配字段摘要、正文