蚂蚁 inclusionAI 的 ASystem 团队开源 AReno，一个面向单节点的 LLM RL 后训练工具包，覆盖 RL、SFT/DPO 训练、serving 与 agentic RL，无需搭建集群或外接训练与推理后端。它支持 CUDA、昇腾 NPU 和 Apple Silicon MLX 后端，原生 LoRA 覆盖 Qwen3、Qwen3-MoE 与 Bailing-MoE V3，并可在 CUDA 上对 Qwen3 dense 和 Bailing-MoE V3 做 QLoRA 训练。仓库以 Apache 2.0 许可发布，提供 CLI、OpenAI 兼容 serving 接口和 Docker 镜像。
匹配字段摘要
AMD 在 OCP Global Summit 上发布 Helion，一套以 CPU 为中心的 AI 数据中心计算基础设施设计，用于同时运行大量 AI 智能体。与堆叠大量 GPU 的 Helios 不同，Helion 面向智能体反复执行程序、访问数据库带来的 CPU 需求；面向大型数据中心运营商的配置可单机架容纳最多 32,768 个基于第六代 EPYC Venice 的 CPU 核心，模型推理请求则交给独立 GPU 系统。企业配置将 EPYC CPU 与 Instinct MI350P GPU 放在同一机架，最多容纳 16 块 GPU，并集成 token router 把请求分流到高性能模型或自托管开源模型以降低 AI 运营成本。AMD 将以开放参考设计形式提供 Helion，向 OCP 贡献规范，Cisco、Dell、HPE、Lenovo、Supermicro 等八家服务器厂商正在开发相关系统，计划 11 月上市。
匹配字段摘要
Google 为 Gemini 应用免费版用户推出改动，免费用户无法再手动切换模型，选择器中只剩 Auto 搭配 Gemini 3 模型，由系统自动把提示词分发给最合适的模型，多数提示词走最快的 Flash-Lite，需要更深推理的会走 Flash 或 Pro。若关闭智能模型选择，无 AI 套餐用户的全部回复都使用 Flash-Lite。同时 Google 上线新的 effort levels 取代此前的 Extended 选项，分为 Low、Medium、High 三档，与 Google AI Studio 和 Antigravity 中的 thinking levels 对应。Google AI Plus 用户之后将限制为 Flash-Lite 和 (3.8) Flash。
匹配字段摘要
TensorZero 在其开源 LLM 网关中提供自适应实验（A/B 测试）功能，采用多臂老虎机算法解决传统实验固定停止规则和流量分配次优的问题，可在证据充分时自动停止并动态分配推理流量。官方称在多种真实环境中，自适应实验将正确识别最佳 LLM 变体（提示词、模型等）的平均时间比简单 A/B 测试缩短 37%。该功能基于固定置信度最佳臂识别（BAI）的 Track-and-Stop 策略，用 Rust 实现，通过概率采样、周期性更新采样概率和 GLRT 停止规则适配生产环境的异步反馈与并发请求。
匹配字段摘要
Kimi 发布 Agent Swarm，让 K2.5 在推理时自行组建带分工的智能体组织，最多并行部署 100 个子智能体、执行超过 1500 次工具调用，比顺序执行快 4.5 倍。官方称其针对单智能体顺序执行在长任务上的上下文与时间瓶颈，适用于大规模检索、批量文档处理、多视角分析等可并行场景。该功能目前为早期研究预览，后续将加入子智能体直接通信与并行宽度动态控制。
匹配字段摘要
Microsoft 于 2026 年 10 月 7 日宣布，在 Windows 本地 AI 推理基座 Windows ML 中实验性集成推理引擎 llama.cpp，开发者可通过 Windows ML 在 PC 上运行 GGUF 格式语言模型。同时新增 Text Generation API，让应用以统一流程调用 GGUF 与 ONNX 模型，Windows ML 会自动为 GGUF 选择 llama.cpp、为 ONNX 选择 ONNX Runtime。目前 llama.cpp 在 Windows ML 上仅验证了 CPU 与 CUDA 的 NVIDIA GPU 执行，GGUF 模型不支持 NPU，Text Generation API 也只提供贪心解码，不支持采样、temperature、投机解码与结构化输出，相关 API 为实验性、暂不支持生产使用。
匹配字段摘要
Z.ai（智谱）的 GLM 5.3 已在 Amazon Bedrock 上线，据 Hugging Face Hub 发布信息，这是一个 753B 参数的 MoE 模型，面向编码和长程智能体任务优化。Bedrock 提供全托管 API，支持跨区域推理、提示词缓存和服务层级，目前面向符合条件的企业客户开放。相比 GLM 5，官方称其在 DeepSWE、Terminal Bench 3.0、FrontierSWE 等编码基准上有竞争力，并在 CyberGym 基准上测得 84.5 分。
![[Amazon Bedrock Playground screenshot showing chat interface with GLM 5.3 model explaining symmetric vs asymmetric encryption. Response includes detailed comparison with checkmarks and X marks highlighting key differences, examples like AES and RSA, a]](/api/site/image-proxy?v=1&u=https%3A%2F%2Fd2908q01vomqb2.cloudfront.net%2Ff1f836cb4ea6efb2a0b1b99f41ad8b103eff4b59%2F2026%2F10%2F05%2FScreenshot-2026-10-05-at-6.11.23%25E2%2580%25AFPM.png&mode=body-640&exp=1793815800&sig=BBVoXEte20bXAPTOcgQ84kEEF2Y9RGbyqAaGakjFiX4)
匹配字段摘要
Hao AI Lab 开源了能在 Minecraft 中与真人对抗的智能体 Jev，通过 SOTA LLM 智能体加人工监督从机器人自身日志中进化提示词，全程不做训练。在 1,795 轮对局后，Jev 在与真人玩家的 Block UHC 对战中赢下 70% 的回合；与满技能脚本对手对战时，v1 每轮皆负，不到两小时后 v9 每轮皆胜。其决策基于 DiffusionGemma 上的 DJev 单次前向传播，不生成任何 token，开源推理引擎 DJev-serve 在 NVIDIA GB200 NVL72 与 B200 上以单张 CUDA graph 运行，每次决策 24 ms，比某主流推理引擎快 2.5 倍。
匹配字段摘要
UCSD Hao AI Lab 开源了 Minecraft 智能体 Jev，在 1,795 轮对局后公布其工作方式。它不训练模型，而是由 SOTA LLM 智能体在人工监督下从机器人自身日志中进化提示词；在 Block UHC 对真人玩家赢下 70% 的回合。每次决策在 NVIDIA Blackwell 上耗时 24 ms，团队称比某主流推理引擎快 2.5 倍，并开源了推理引擎 DJev-serve，在 GB200 NVL72 和 B200 上以单次 CUDA graph 完成每个决策。
匹配字段摘要
Hao AI Lab 开源了在 Minecraft 中作战的 LLM 智能体 Jev，经过 1,795 轮对局，它在 Block UHC 中战胜真人玩家的比例为 70%。该智能体不做训练，而是由带人工监督的 SOTA LLM 智能体根据自身日志进化提示词；据其说明，面对满技能脚本对手时 v1 全败，不到两小时后 v9 全胜。每次决策为 DJev 在 DiffusionGemma 上的一次前向传播，不生成 token，在 NVIDIA Blackwell 上耗时 24 ms，比某领先推理引擎快 2.5 倍，其开源引擎 DJev-serve 在 NVIDIA GB200 NVL72 和 B200 上以单个 CUDA graph 执行每次决策。
匹配字段摘要
Anthropic 员工 Felix Rieseberg 表示，Cowork 的任务从明天起改为在云端运行，模型推理和 VM 都放在云端，每个会话拥有独立沙箱，会话结束后沙箱销毁。桌面应用仍负责访问用户电脑上的文件，但只限于用户明确加入会话的文件夹，与旧版本一致。旧版本在本地运行 Anthropic 提供的 VM，用户反馈其磁盘、电池和性能开销较大，且合上笔记本后任务就会中断。
匹配字段摘要
OpenAI 推出 GPT-6 Astra Ultrafast，运行在 NVIDIA Blackwell GPU 上，已通过 OpenAI API 以及面向符合条件的 ChatGPT Work 和 Codex 用户开放。该模式借助针对 Blackwell 架构的推理优化，token 生成速度最高可达 Astra Standard 模式的 8 倍，可缩短编码智能体的编辑、测试、调试循环，并减少工具调用之间的等待时间。OpenAI 还使用自家模型优化 NVIDIA GPU 上的推理软件，以持续提升响应速度。
匹配字段摘要
Modal 宣布 Modal Clusters 正式可用，通过 @modal.clustered 装饰器即可使用多节点集群。节点间通过 InfiniBand verbs 通信，带宽最高 6.4 Tbps，并自动为 PyTorch 和 NCCL 配置；集群可在请求后数秒内就绪，按秒计费。Modal 为此新建了 gang scheduling 调度器，并把 RDMA 支持加入 gVisor 容器运行时并已回馈上游。Decagon、1x 和 Runway 分别用其进行万亿参数模型微调、NEO 世界模型预训练和 Gen-4.5、Aleph 2.0 的多节点推理。
匹配字段摘要
Cerebras 宣布 OpenAI 正在预览运行在 Cerebras 上的 GPT-5.6 Sol Ultrafast 模式，输出速度最高达 750 tokens/s。该版本未做蒸馏或量化，模型架构、权重、精度、上下文配置和推理设置与 OpenAI 标准端点上的 GPT-5.6 Sol 一致，仅运行硬件由 GPU 换为 Cerebras WSE-3。在质量匹配的 GDP-Val 任务上，Ultrafast 完成同样任务比标准端点快 5.6 倍；在 Humanity's Last Exam 匹配问题上快 6.9 倍，原本一小时的任务可在不到九分钟内完成。
匹配字段摘要
Modal 在首届 Runtime 大会上公布多项运行时更新，包括让智能体获得完整 Linux 计算机的 VM Sandboxes、与主沙箱同主机隔离运行的 Sandbox Sidecars、通过 @modal.clustered 装饰器正式开放的多节点集群 Modal Clusters，以及保持客户端会话绑定同一容器的 Sticky Sessions。VM Sandboxes 已被 Linear、Legora、Snorkel 用于编码智能体和评测，Modal Clusters 则支撑 Decagon 的后训练、1x 的预训练和 Runway 的实时推理。Endpoint Candidates 目前面向部分客户私测，可将生产流量镜像到备选服务方案以比较质量、延迟、吞吐和成本。
匹配字段摘要
CoreWeave 在旧金山 Fully Connected 活动上发布 CoreWeave Forge，一个用于开发、运行和持续改进 AI 模型与智能体的集成软件平台，即日起提供 Free、Pro、Enterprise 三个版本。Forge 把训练、推理、评估、可观测性和智能体开发整合为围绕 AI 循环的软件栈，并推出包含 VAST Data、CrowdStrike、ClickHouse 的合作伙伴网络。硬件方面，Nvidia Vera Rubin NVL72 已在其云平台上线，Cognition 成为首个客户并在两天内跑起负载；Nvidia Vera CPU 面向 AI 智能体处于早期开放阶段。
匹配字段摘要
OpenAI 在 9 月 29 日的 OpenAI DevDay 2026 上发布 20 多项更新，包括 ChatGPT 内供团队与 AI 协作的 Space、在专用云环境持续工作的智能体 dots，以及新模型 GPT-6.1 Sol。dots 由 GPT-6 Astra 驱动，可连接 4000 多个应用，在用户离线时继续推进任务，Pro 与 Business Premium 各含 1 个 dot 且不额外收费。GPT-6.1 Sol 在 DeepSWE v1.1 上以 high 推理设置取得 75.2%，高于 GPT-6 Sol 最高设置下的 68.8%，标准 API 价格为每百万 token 输入 2 美元、输出 10 美元。
匹配字段摘要
DeepSeek 团队开源面向昇腾的基础组件，与华为昇腾共建高效易用的 AI 芯片软件生态。华为提供联合定义的昇腾超节点 SuperPoD Flex 和 UBL128 组网方案，可实现 128 卡 3.2Tbps 单层交换 Scale-up 网络和 256K 卡两层交换 Scale-out 网络，支持超低时延推理与前沿基座模型大规模训练。DeepSeek 团队开发的高性能 DeepEP 通信库涵盖 EP、CP、PP、FSDP 等模式下的通信算子，互联带宽实测达到 Dispatch 375 GB/s、Combine 347 GB/s，接近硬件上限。
匹配字段摘要、正文
Manus 推出 Manus Flex，允许用户自带 API key 接入 Manus，在 Manus 的 agent harness、工具和执行环境中使用受支持的模型服务商。同时启动 Manus Flex Inference Partner Program，首批推理合作伙伴为 OpenRouter、Fireworks AI 和 Modal，提供更广泛的模型选择。详情见官方博客。
匹配字段摘要
Inception 宣布 Mercury 扩散大语言模型在 Azure AI Foundry 上线，面向企业开发者提供商用规模的 dLLM。该模型通过扩散架构并行生成多个 token，推理速度最高可达同类自回归模型的 10 倍，在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。它支持 128K token 上下文窗口、原生工具调用和 JSON schema 结构化输出，API 兼容 OpenAI，目前在美国和加拿大区域提供，软件许可费用为 $0.78/小时，计算费用另计。
匹配字段摘要