LMSYS 发布 SpecForge v0.3.0，将目标模型推理与草稿模型训练解耦为生产者与消费者两个资源池，在 8×H20 上以 3 台 SGLang 捕获服务器加 5 个训练 worker 的拓扑，端到端训练吞吐较此前同置实现提升约 10%。新运行时统一支持 EAGLE3、EAGLE3.1、P-EAGLE、DFlash、Domino 和 DSpark 多种推测解码方法，并新增训练与推理一致性校验流程。同时发布 SpecBundle 草稿模型集合，11 个 checkpoint 中有 9 个来自蚂蚁集团 AQ、RadixArk、招商银行、Domino 作者及社区成员，全部仅用开放数据训练。
匹配字段摘要
Liquid AI 发布 LFM2.5-2.6B，一款完全在设备端运行的智能体模型，基础版与后训练版已在 Hugging Face 上线。该模型为 2.6B 参数、预训练约 34T tokens，词表扩展至 128K 并包含 128K 上下文扩展阶段，后训练经 SFT、教师专精、MOPD 蒸馏与 Agentic RL 四阶段。推理方面在 M5 Max 上解码 220 tokens/s、Ryzen AI Max+ 395 上 113 tokens/s，占用低于 2.5 GB，手机端保持 30 tokens/s，并首日支持 llama.cpp、MLX、vLLM、SGLang 和 ONNX。
匹配字段摘要
安全研究者 Johann Rehberger 展示了针对 AI 网关 LiteLLM 的一组红队 TTP：攻击者只需拿到 LITELLM_MASTER_KEY 等代理管理员凭据，通过 /model/update 修改 api_base 和 use_litellm_proxy 两个设置，即可把全部推理流量改道到恶意网关。改道后受害者会把后端 LLM 提供商的真实密钥发给攻击者，攻击者再用 async_post_call_success_hook 等回调注入文本或伪造工具调用，由于修改发生在推理之后，可绕过提示词层面的防御。文章同时给出 api_base 变更告警、凭据轮换、出站限制等检测与缓解建议，并指出该思路原则上适用于其他 AI 网关产品。
安全研究者 Johann Rehberger 展示了针对 AI 网关 LiteLLM 的一组红队 TTP：攻击者只需拿到 LITELLM MASTER KEY 等代理管理员凭据，通过 /model/update 修改 api base 和 use litellm proxy 两个设置，即可把全部推理流量改道到恶意网关。改道后受害者会把后端 LLM 提供商的真实密钥发给攻击者，攻击者再用 async post call success hook 等回调注入文本或伪造工具调用，由于修改发生在推理之后，可绕过提示词层面的防御。文章同时给出 api base 变更告警、凭据轮换、出站限制等检测与缓解建议，并指出该思路原则上适用于其他 AI 网关产品。
匹配字段摘要
作者主张，禁止中国开放权重模型会切断美国 AI 生态的低成本创新来源，却难以阻止已公开权重的全球传播。文章认为，廉价模型有助于降低应用层推理成本、支持企业自主托管数据并促进价格竞争，而既往技术限制也未必实现预期目标。
匹配字段摘要
Interconnects 发布 Artifacts Hub 和 Adoption Dashboard 两个免费数据项目，前者覆盖过去两年发布的 792 个模型，结合 Hugging Face、Open Router 推理 token 与 Artificial Analysis 智能指数展示模型趋势；后者按地理和组织追踪下载量与衍生模型数量，突出中美差距。两个项目与 AI 验证初创公司 Project VAIL 合作构建。
匹配字段摘要
Sakana AI 发布日语特化 LLM API「Sakana Namazu」，基于 Moonshot AI 的开源模型 Kimi K2.6，用自有数据适配日语与日本业务语境，并内置 Web 搜索和代码执行工具。该 API 兼容 OpenAI 接口，已有代码只需改写 base_url 并设置 API 密钥即可接入。基准方面，它在 JFBench、日英翻译任务和 FairPoliticsQA 上均超过基座模型，其中 FairPoliticsQA 从 34.10% 提升至 56.30%，同时保持 Kimi K2.6 在 AIME26、MMLU-Pro、LiveCodeBench v6 上的推理与编码表现。
Sakana AI 发布日语特化 LLM API「Sakana Namazu」，基于 Moonshot AI 的开源模型 Kimi K2.6，用自有数据适配日语与日本业务语境，并内置 Web 搜索和代码执行工具。该 API 兼容 OpenAI 接口，已有代码只需改写 base url 并设置 API 密钥即可接入。基准方面，它在 JFBench、日英翻译任务和 FairPoliticsQA 上均超过基座模型，其中 FairPoliticsQA 从 34.10% 提升至 56.30%，同时保持 Kimi K2.6 在 AIME26、MMLU-Pro、LiveCodeBench v6 上的推理与编码表现。
匹配字段摘要
腾讯混元 Hy-MT2-30B-A3B 正式推出 GGUF 格式，回应社区最迫切的本地部署需求，让本地推理更简单。自 5 月开源以来，Hy-MT2 累计下载量超 70 万次，Hy-MT2-1.8B 登上 Hugging Face trending 第 1、30B-A3B 位列第 4，并已有 70+ 个产品与项目集成。该系列还获得 Apple MLX-LM、微软 ONNX Runtime、NVIDIA NeMo、LLaMA-Factory 等生态支持，并落地 Bilibili 直播评论实时多语言翻译。
匹配字段摘要
Google DeepMind 发布 Gemini Robotics 2，这是一套面向机器人的新一代物理 AI 模型，为人形机器人带来全身智能、更强的精细操作能力和多机器人协作。Demis Hassabis 表示，机器人现在可以推理每一个动作，完成此前无法实现的任务，例如打精细的绳结，甚至组队解决复杂工作流。
匹配字段摘要
大规模智能体集群会让实时推理、批处理、再训练和评测争用有限的 GPU，使调度与利用率成为核心问题。GPU 隔离和沙箱可支持安全共置，但仍需根据显存占用、延迟容忍度、运行时长和优先级分配任务；僵化分区反而可能造成容量闲置。
大规模智能体集群会让实时推理、批处理、再训练和评测争用有限的 GPU，使调度与利用率成为核心问题。GPU 隔离和沙箱可支持安全共置，但仍需根据显存占用、延迟容忍度、运行时长和优先级分配任务；僵化分区反而可能造成容量闲置。 · Large agent fleets make real-time inference, batch jobs, retraining, and evaluations compete for a finite GPU pool, turning scheduling and utilization into core problems. GPU isolation and sandboxing can enable safe co-location, but jobs must still be assigned according to memory footprint, latency tolerance, duration, and priority; rigid partitioning may leave capacity idle.
匹配字段摘要
SGLang 维护方 RadixArk 与 Google Cloud 达成合作，把 SGLang 推理框架带到 TPU 上。目前开发者可通过 SGL-JAX 在最新几代 TPU 上运行 SGLang，支持 Gemma、Qwen、DeepSeek、GLM、Kimi、MiniMax、Grok 等模型以及 Wan、Flux 等视频图像扩散模型。今年晚些时候 RadixArk 还将推出 PyTorch 原生的 SGL-torchtpu 后端，支持 eager 执行、PyTorch 生态兼容与 MPMD，并计划让新开源模型在 TPU 与 GPU 上同日可用。
匹配字段摘要
Google DeepMind 发布 Gemini Robotics ER 2，定位为机器人的高层大脑，支持实时空间推理、多步任务规划和多机器人协作，可通过 Gemini API、Google AI Studio 或 Gemini Enterprise Agent Platform 调用。相比 ER 1.6，新模型能通过连续视频流跟踪任务进度并实时纠错，在进度分类任务上达到 57.4% 准确率，在 moment-finding 任务上达到 91.3% 准确率和 0.96s 平均绝对距离。官方还展示了其编排 Boston Dynamics Spot 的导航与机械臂 API 完成取物，并支持 Apptronik Apollo 2 与 Franka F3 Duo 协作，代码已在 GitHub 开源。
匹配字段摘要
Berkeley Sky Lab 将演化式内核搜索框架 K-Search 扩展到 MLX 后端，通过结构化 CUDA-to-MLX 翻译层把已有 CUDA 内核作为知识库迁移到 Apple Silicon。该方法在 Mamba SSM 内核上相比社区 mlx-lm 实现最高取得 20x prefill 加速，在 Attention 内核上达到原生 MLX Attention 的 0.97x 速度。搜索由 Gemini 3.5 Pro Preview 同时承担推理与代码生成，并维护一棵带评分的决策树世界模型。
匹配字段摘要
Kaichao You 系统讨论了模型与基础设施的协同设计，以及这种协同对计算效率的影响。他将 Token 比作电力、硬件比作风能和水能等自然资源、模型比作发电机，并把推理引擎比作电网系统。
Kaichao You 系统讨论了模型与基础设施的协同设计，以及这种协同对计算效率的影响。他将 Token 比作电力、硬件比作风能和水能等自然资源、模型比作发电机，并把推理引擎比作电网系统。 · Kaichao You systematically discusses model–infrastructure co-design and how it affects computational efficiency. He compares tokens to electricity, hardware to natural resources such as wind and water, models to generators, and the inference engine to the power grid.
匹配字段摘要
xAI 发布新一代语音模型 Grok Voice Think Fast 2.0，在智能、转写准确率和对话能力上均有提升。官方称在 24 种语言、数千条短语的评测中，其转写准确率相对 Deepgram Nova 3 和 ElevenLabs Scribe v2 提升 1.5–2.0 倍，相对 Grok Voice Think Fast 1.0 提升 1.4 倍，噪声环境下与专用语音转文字模型的差距扩大到约 10 倍。该模型在说话的同时并行推理，推理 token 效率更高，工具调用通常在智能体第一句话结束前执行。2026 年 8 月 5 日起 grok-voice-latest 将指向 2.0，无需手动升级，定价为每分钟音频 $0.08。
匹配字段摘要
NVIDIA 发布开源 GPU 加速的 Medical Physics Simulation 框架，作为 Isaac for Healthcare 的一部分，用于生成解剖数字孪生、模拟器械与解剖结构交互并训练强化学习策略。其中 Endoluminal Simulation Module 已正式可用，用 XPBD 求解器实时模拟柔性导管在患者特异性血管中的导航；Surgical Simulation Module 处于早期访问，可在单张消费级 GPU 上以超过 30 帧每秒模拟软组织变形与触觉反馈。Cosmos-H 系列生成式世界模型可从机器人动作生成手术视频，Cosmos-H-Dreams 经 FlashDreams 推理引擎实现超过 30 帧每秒的交互式仿真。
匹配字段摘要
METR 提出一套由独立研究者对 AI 失准事件开展第三方调查的方法，重点追问智能体失准行为的动机及其如何从训练与部署条件中产生。调查需获得足够的推理预算、时间与 AI 工具支持，完整调查可能耗时数周至数月。调查结论应直接提交公司董事会及相关监督机构，并在必要删减后公开，同时披露访问权限、时间、人员与调查范围等合作条款。
匹配字段摘要
我们发布 PerceptionBench，一个隔离视觉感知、并将其作为一组原子能力进行评估的基准——这些能力是从当今模型的失败方式中发现的，而非预先定义。 从前沿模型在 42 个基准上的失败中，我们推导出 10 项原子感知能力，并构建了 3,000 道经过验证的问题，每道题只隔离一项能力，仅凭观察即可作答，无需推理或外部知识。
我们发布 PerceptionBench，一个隔离视觉感知、并将其作为一组原子能力进行评估的基准——这些能力是从当今模型的失败方式中发现的，而非预先定义。 从前沿模型在 42 个基准上的失败中，我们推导出 10 项原子感知能力，并构建了 3,000 道经过验证的问题，每道题只隔离一项能力，仅凭观察即可作答，无需推理或外部知识。
匹配字段摘要
Kimi.ai 宣布 Fireworks 成为 Kimi K3 的 day0 发布伙伴，开发者可在 Fireworks 上通过几次点击部署并微调 2.8T 参数的 Kimi K3。Fireworks 表示该模型为 3 万亿参数级别的首个前沿开源模型，具备 1M 上下文、原生视觉与推理能力，采用美国托管且零数据留存。
匹配字段摘要
Kimi.ai 宣布 Modal 成为 Kimi K3 的 Day 0 启动合作伙伴。Modal 为 K3 的架构训练了定制的 DFlash 推测器，实现更快的推理且无质量损失。Modal 表示 Moonshot 已发布全球首个开放的 3T 级模型，K3 是他们合作过的最强开放模型。
匹配字段摘要
我们开源了 MoonEP，这是我们面向分布式 MoE 工作负载的高性能通信库。 MoonEP 旨在让大规模专家并行通信更高效，帮助降低大型 MoE 训练和推理系统中的通信开销。 在 GitHub 上查看： https://t.co/h2Rcwg88dQ
我们开源了 MoonEP，这是我们面向分布式 MoE 工作负载的高性能通信库。 MoonEP 旨在让大规模专家并行通信更高效，帮助降低大型 MoE 训练和推理系统中的通信开销。 在 GitHub 上查看： https://t.co/h2Rcwg88dQ
匹配字段摘要