吴恩达在 DeepLearning.AI 来信中提出，AI token 便宜、人类 token 珍贵，做 0 到 1 原型时不必先花大量时间写完美规格，可先让编码智能体快速搭出原型，再根据实际结果迭代规格。他还建议让智能体把关键决策记录在 SPEC.md 等文件中，并在修正问题时同步更新规格和测试计划，避免重复消耗人的输入。本期还报道了 Claude Fable 5 恢复上线、Google 发布 Nano Banana 2 Lite 与 Gemini Omni Flash，以及 DeepSeek 开源 DSpark 投机解码方法。
匹配字段摘要
Together AI 宣布完成 8 亿美元 C 轮融资，投资方包括 NVIDIA、Aramco Ventures、Vista Equity、General Catalyst 等，并额外锁定超过 500 MW 算力容量。其平台客户涵盖 Cursor、Eleven Labs、Suno、Cognition、Decagon 等，使用 DeepSeek、Nemotron、MiniMax、Kimi、GLM 等开源权重模型可实现 6x 至 20x 的成本降低，Decagon 迁移后推理成本下降六倍。
匹配字段摘要、正文
LMSYS 在 SGLang 中为 DeepEP MoE 推理引入两种调度期负载均衡方案：面向共享专家路径的 Waterfill 和基于线性规划、面向冗余专家副本的 LPLB。在两台 Hopper GPU 节点上，Waterfill 在 MMLU、GPQA、GSM8K 上把总吞吐提升 1.48% 至 4.66%，DeepSeek V4 上最佳点从 49,253 tok/s 升至 51,677 tok/s（+4.92%）；LPLB 在冗余 EPLB 部署下提升 0.84% 至 7.34%。
匹配字段摘要、正文
OpenRouter 发布 Fusion，一次 API 调用即可把多个模型的结果交给裁判模型融合，在 DRACO 的 100 项深度研究任务上，Fable 5 与 GPT-5.5 融合得分 69.0%，超过 Fable 5 单独运行的 65.3%。由 Gemini 3 Flash、Kimi K2.6 和 DeepSeek V4 Pro 组成的低成本组合也超过了 GPT-5.5 和 Opus 4.8，成本仅为 Fable 5 的一半。Fusion 可通过 chatroom、model slug、server tool 和 plugin 四种方式使用，调用时耗时通常是普通请求的 2-3 倍。
匹配字段摘要、正文
OpenRouter 发布 Fusion，可将多个模型的结果融合后输出，调用方式与单个模型相同。在 DRACO 的 100 个深度研究任务上，Fable 5 与 GPT-5.5 融合得分 69.0%，高于 Fable 5 单独的 65.3%；由 Gemini 3 Flash、Kimi K2.6 和 DeepSeek V4 Pro 组成的低成本组合超过 GPT-5.5 和 Opus 4.8，成本仅为 Fable 5 的一半。Fusion 可通过 chatroom、模型 slug、server tool 或 plugin 四种方式使用。
匹配字段摘要、正文
小米 MiMo 发布并开源终端编码助手 MiMo Code V0.1，采用 MIT 许可，附带限时免费的 MiMo V2.5 多模态模型，支持百万 token 上下文窗口。该工具提供无限上下文、Agent 与模型协同、Compose Mode、自进化系统以及基于 MiMo-V2.5-ASR 的语音输入，并兼容 Claude Code，可自动加载已有的 skills、MCP 服务器和命令并复用 API 配置。Mac 与 Linux 可用一行 curl 命令安装，Windows 通过 npm install -g @mimo-ai/cli 安装，同时支持 Anthropic、OpenAI、DeepSeek、Kimi、GLM 等模型提供方。
匹配字段摘要、正文
SGLang 与 AMD 团队合作，在 AMD Instinct MI355X 上通过 SGLang 与 MoRI 通信库优化 DeepSeek-R1 分离式推理，在 129 tok/s/user 交互性下达到每百万 token 0.169 美元，比 B200 TRT-LLM 低 5%、比 B200 SGLang 低 40%，每 GPU 吞吐 2,436 tok/s（24 GPU），比 B200 SGLang 高 1.25 倍。优化包括 MoRI 量化 all-to-all（往返带宽最多降低 2.56 倍）、MoRI-IO KV cache 后端（吞吐比 Mooncake 高约 10%）、SDMA 双批次重叠、ROCm 上的 Specv2 MTP 以及 CPU 流式优化。结果已开源并通过 SemiAnalysis 的 InferenceX 持续验证。
匹配字段摘要、正文
antirez 在 DwarfStar 项目中探讨本地 LLM 推理的分布式方案：Mac Studio M3 Ultra 512GB 可跑 DeepSeek v4 PRO，约 150 t/s prefill、10-13 t/s 解码；M5 Max 128GB 跑 2-bit 量化的 DeepSeek v4 Flash 和 Mimo V2.5 可达约 500 t/s prefill、35-40 t/s 解码。他提出层切分、基于 Apple RDMA 的专家并行，以及共享无关的 LLM ensemble 三种思路，认为 ensemble 是被低估的第三方向。
匹配字段摘要、正文
antirez 为 DS4 项目的本地智能体重新设计了基于标签的 EDIT 工具，用 4 字符校验和标签替代逐字重写旧文本，以节省 token 并提升编辑可靠性。READ 和 SEARCH 工具返回“行号:标签”格式，编辑时只需指定行号、标签和新内容，DeepSeek v4 Flash 能高效使用该工具。另一种方案是仅返回整个文件的 CRC32，token 更少但无关改动也会导致编辑失败。
匹配字段摘要、正文
Zyphra 发布 Zyphra Inference 在单节点 AMD Instinct MI355X GPU 上的首批端到端基准，覆盖 Kimi K2.6、GLM-5.1 和 DeepSeek V3.2，并与 AMD MI355X 与 Nvidia B200 基线配置对比。MI355X 每卡提供 288 GB HBM3E（B200 为 180 GB），两者 HBM 带宽均约 8 TB/s，但 MI355X 采用全连接 xGMI 点对点互联，8 路集合通信峰值 537.6 GB/s。测试使用 ShareGPT 与 LMSYS-Chat-1M，仅限 vLLM 框架、单节点且无真实流量。
匹配字段摘要、正文
文章解析 Gemma 4、Laguna XS.2、ZAYA1-8B 和 DeepSeek V4 如何通过 KV 共享、分层注意力预算、mHC 与压缩注意力降低长上下文成本。Gemma 4 E2B 在 128K 上下文中可节省 2.7 GB KV cache，DeepSeek V4-Pro 在 1M-token 上下文下的单 token 推理 FLOPs 和 KV cache 分别降至 DeepSeek V3.2 的 27% 和 10%。这些设计显示 Transformer 架构正以更复杂但更具针对性的改动提升长上下文推理效率。
匹配字段摘要、正文
Redis 作者 antirez 发文谈 DwarfStar 4（DS4）项目意外走红的原因，认为准前沿模型的发布加上 2/8 bit 非对称量化方案，让 96 或 128GB 内存足以在本地运行，同时 GPT 5.5 也加快了开发。他表示这是自己第一次把本地模型用于原本会交给 Claude 或 GPT 的正式工作，并称 DeepSeek v4 Flash 表现令人印象深刻。后续项目将聚焦质量基准、内置编码智能体、本地 CI 硬件、更多移植以及串行与并行分布式推理。
匹配字段摘要、正文
Prime Intellect 开源 renderers，一个独立的 Python 库，让开发者完全控制 RL 和多轮推理中的对话格式化。它把聊天模板变成可编程对象，暴露渲染消息为 token id、解析补全为结构化助手消息、为损失掩码归属 token、以及在不重新渲染模型采样历史的情况下扩展多轮 rollout 等操作。该库已用于其 Lab 产品、verifiers 和 prime-rl，内置 Qwen3、Qwen3.5、GLM-4.5、GLM-5、MiniMax-M2、DeepSeek-V3、Kimi K2 / K2.5、Nemotron-3 和 GPT-OSS 的渲染器，并已在 PyPI 发布，代码托管于 github.com/PrimeIntellect-ai/renderers。
匹配字段摘要、正文
Zyphra 发布其首个视觉语言模型 ZAYA1-VL-8B，基于 ZAYA1-8B 构建，采用 MoE 架构，700M 激活参数、8B 总参数，以 Apache 2.0 许可开源权重。该模型在视觉理解、定位和 OCR 类任务上表现突出，官方称其性能超过 Deepseek-VL2、Qwen3-VL 和 MolmoE 等同类模型，而训练仅用约 140B 视觉语言 token。架构上引入仅对视觉 token 激活的视觉专用 LoRA 参数，并对图像 token 采用双向注意力。
匹配字段摘要、正文
Zyphra 发布 Zyphra Cloud，一个运行在 AMD 基础设施上、由 Tensorwave 提供算力的全栈 AI 平台，首发服务为无服务器推理服务 Zyphra Inference，可访问 DeepSeek V3.2、Kimi K2.6 和 GLM 5.1 等前沿开放权重模型。该服务面向智能体编程、深度研究和长周期工作流自动化等长周期智能体场景，结合定制 kernel、长上下文推理算法与并行方案实现高吞吐低延迟。平台后续将扩展至强化学习与微调等分布式后训练服务、基于 AMD EPYC CPU 的沙箱智能体与开发环境，以及专用 GPU 集群和裸金属基础设施，现已可用。
匹配字段摘要、正文
Zyphra 发布 Zyphra Cloud 平台的首个组件 Zyphra Inference，这是一项 AMD 优先的推理服务，基于 AMD MI355X GPU 并与 TensorWave 合作，面向长上下文智能体工作负载，托管 Kimi K2.6、DeepSeek V3.2 和 GLM 5.1 等开放模型。以 Kimi K2.6 为例，单台 8x-MI355X 节点提供 2,304GB HBM，可容纳约 184 个 256K 上下文的活跃智能体，而 8x-B200 节点约为 100 个。平台后续将扩展至后训练、强化学习环境和智能体原生基础设施。
匹配字段摘要、正文
Sakana AI 提出提示技术 String Seed of Thought（SSoT）：让 LLM 在输出中先生成随机字符串，再据此推导答案，无需外部随机数生成器。该方法在开源与闭源 LLM 上显著降低输出偏差，在 DeepSeek-R1 等推理模型上准确率接近真实随机采样，并可从二选一推广到 n 选一和任意概率分布。在 NoveltyBench 多样性基准的六个类别上，SSoT 均优于其他方法且保持输出质量，该工作将在 ICLR2026 展示。
匹配字段摘要、正文
LMSYS 发布 HiSparse，一个面向稀疏注意力的分层内存系统，将不活跃的 KV cache 卸载到主机内存，并在 GPU HBM 保留热缓冲区，从而支持更大的解码 batch size。在 8×H200 部署上跑 GLM-5.1-FP8、32k 输入 8k 输出时，256 并发请求下吞吐超过基线 3 倍，长上下文场景最高提升 5 倍。目前支持 DeepSeek Sparse Attention（DSA）系列模型，包括 DeepSeek-V3.2 和 GLM-5.1，属实验性功能。
匹配字段摘要、正文
Sakana AI 发布事后学习技术试作模型系列 Namazu（α版），将 DeepSeek-V3.1-Terminus、Llama-3.1-405B、gpt-oss-120B 等开源基座适配为日本规格，并同步公开搭载该模型的聊天服务 Sakana Chat。官方称 Namazu 在 AIME'25、MMLU-Redux、GPQA Diamond、LiveCodeBench、IFEval 等基准上保持与基座相当的性能，在自建的中立性与事实准确性评测中明显改善，其中基座 DeepSeek-V3.1-Terminus 对相关政治历史话题的拒答率为 72%，经事后学习后降至接近 0%。日语基准 Nejumi Leaderboard4、Swallow LLM LeaderBoard v2、JamC-QA 上，Namazu-DeepSeek-V3.1-Terminus 与基座及同规模他社模型相当，技术报告与部分模型权重将后续公开。
匹配字段摘要、正文
文章梳理现代开放权重大语言模型采用的注意力变体，包括 MHA、GQA、MLA、滑动窗口注意力、DeepSeek Sparse Attention、门控注意力与混合注意力。作者结合 DeepSeek、Qwen、Gemma、Kimi 等架构，比较各方案在 KV cache、长上下文成本、建模表现和实现复杂度上的差异。文章还介绍了一个包含 45 个条目的大语言模型架构图库。
匹配字段摘要、正文