Aleph Alpha 发布开放权重模型 Kolibri-1，总参数 78B，采用 384 个专家、6 个路由专家的 MoE 结构，推理时仅激活 3.46B 参数，上下文 256K Token 并可外推至约 100 万 Token。该模型专注德语和英语，tokenizer 对德语词切分更省 Token，例如德国联邦议院术语表仅需 1137 Token，而对比的 DeepSeek-V4.1-Flash 需要 1910 Token；预训练使用 20 万亿 Token，数据截至 2026 年 6 月 18 日。作者实测其回答正确、德语推理过程明显，并称 Merlin-Arthur 协议让模型在基准中幻觉更少，但实际效果仍需在真实使用中检验。
匹配字段标题、摘要、正文
阶跃星辰（StepFun）发帖感谢 RadixArk 帮助在生产环境中支撑 Step 5 Preview，并称 SGLang 为真实工作负载提供了高效、可扩展的推理能力。被引用的 RadixArk 帖子则祝贺 Step 5 Preview 开放权重，并表示其用 SGLang 为阶跃星辰的第一方生产 API 提供规模化支持。
匹配字段标题、摘要
Philipp Schmid 分享了新版 Gemma 文档，内容涵盖模型能力、微调指南、推理优化，以及讲解模型工作原理的教学内容，并称这些资料都集中在一处。
匹配字段标题、摘要
Artificial Analysis 在 AA-AgentPerf 上发布 NVIDIA Vera Rubin NVL72 的初步结果，在 DeepSeek V4 Pro 上每兆瓦总吞吐最高约为前代 GB300 NVL72 的 5.7 倍，DeepSeek V4.1 Flash 约 5.4 倍，GLM-5.2 约 3.0 倍，Kimi K3 约 2.8 倍。Vera Rubin 是 NVIDIA Blackwell 的继任者，NVL72 为机架级系统，含 72 颗 Rubin GPU 和 36 颗 Vera CPU，每颗 GPU 内存与 Blackwell Ultra 同为 288 GB，但内存带宽为 2.4 倍、NVLink 带宽 1.7 倍、密集 NVFP4 算力 2.3 倍。AA-AgentPerf 通过回放真实智能体编码会话衡量推理性能，Vera Rubin 在 DeepSeek V4.1 Flash 上创下 906 tok/s 的单用户速度纪录。
匹配字段标题、摘要
Apple 提出 Selection-based Structured Reasoning（SSR），将推理从开放式生成改为从预设可复用自然语言候选中选择，无需辅助任务头，并借助共享上下文 KV cache 并行打分。在 2B 和 4B 模型、七个多模态搜索基准上，SSR 平均成功率与同规模领先搜索智能体相当，单轮推理延迟降低超 90%，每题模型总推理延迟降低 28–54%。
匹配字段标题、摘要
Apple 在搭载 M5 芯片的 14 英寸 MacBook Pro 上，通过 MLX 框架利用 M5 GPU 的神经加速器运行 LLM 推理。基准测试显示，M5 相比 M4 在首个 token 生成时间（TTFT）上实现 3.33-4.06 倍加速，后续 token 生成速度提升 19-27%，得益于内存带宽从 120GB/s 提升至 153GB/s。测试涵盖 Qwen3-1.7B/8B/14B/30B-A3B 及 gpt-oss-20b 等模型，24GB 统一内存可轻松承载 8B BF16 或 30B MoE 4-bit 量化模型。
匹配字段标题、摘要
Apple 介绍如何用最新版 MLX 在 Mac Studio 上运行大语言模型，并借助 macOS 26.2 的 RDMA over Thunderbolt 5 驱动和 MLX v0.30.1 起的 jaccl 通信集合实现多机分布式推理。在四台 M5 Ultra Mac Studio 上，816B 参数的 Muse Spark Open 以 NVFP4 精度生成超过 36 tokens/s；单机上 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍，生成速度提升 1.6 倍。文中还给出 mlx_lm.benchmark、mlx.launch 和 mlx_lm.server 的命令示例，并说明可用 OpenCode 等工具接入本地 LLM 服务。
匹配字段标题、摘要
阶跃星辰表示 Step 5 Preview 在 NVIDIA GB300 上展现出强劲的推理性能，并期待开发者基于它进行构建。NVIDIA AI 在引用推文中称这是阶跃星辰规模最大的开放权重发布，600B MoE 模型可处理长达 24 小时的智能体任务，在 NVIDIA GB300 上使用 NVFP4 时达到近 8K tokens/sec/GPU，并提供 NVFP4 checkpoint 以及 SGLang、vLLM、NeMo Automodel 和 NVIDIA NIM 的部署与后训练路径。
匹配字段标题、摘要、正文
Hugging Face 发布免费开源的 Windows 11 桌面应用 Llama Windows，把 llama.cpp 本地推理库带到 Windows，类似 Mac 上的 llama.app。用户可从 Hugging Face Hub 一键下载模型并在本地运行，无需终端、构建步骤或管理员权限，应用以系统托盘形式运行，也可用 Alt + Space 打开助手窗口。该应用原生支持 Windows 11 on Arm 和新的 Nvidia RTX Spark 平台，使用 WinUI3 编写，并内置 llama.cpp 服务器、Hugging Face Hub 客户端和模型目录的 .NET 库。
匹配字段标题、摘要
Leash Bio 的 Ian Quigley 在 Latent Space 播客中介绍，团队用 DNA Encoded Libraries（DEL）收集的高通量蛋白质-小分子相互作用数据，可提供数万条“lab-in-the-loop”模拟，用于智能体的科学强化学习。该工作已发展为 Minos，并发布完整预印本、博客和开放数据集。其 Hermes 模型仅用 Leash 自有数据训练，在公开基准上可与 Boltz 保持同步。
匹配字段标题
Inworld 推出 Inworld Inference，一个面向消费级 AI 应用的 LLM 推理 API，支持 Gemma 4、GLM、DeepSeek 和 MiMo 等开源模型。官方称在 Gemma 4 26B 上首 token 中位延迟为 0.17 秒，对比 OpenRouter 上其他供应商中位值 0.61 秒快 3.6 倍；95 分位为 0.31 秒对 2.42 秒，快 7.8 倍。开发者还可设置首个模型失败或耗时过长时自动切换到备用模型。
匹配字段标题、摘要
Latent Space 播客访谈 Leash Bio 联合创始人 Ian Quigley，讨论该公司如何驯服 DNA 编码化合物库（DEL）并从中提取干净可复现的蛋白质与小分子相互作用数据。访谈提到其 Kaggle 竞赛中约 2000 支队伍在未见化学库上无人超过随机水平，以及模型能从分子结构猜出化学家身份、Hermes 仅用自家数据在公开基准上与 Boltz 持平。Ian 还预告团队正把多年积累的数据做成数万个 lab-in-the-loop 模拟，供智能体做可验证的科学推理，该工作后来发展为 Minos 并发布预印本、博客和开放数据集。
匹配字段标题、摘要、正文
Perplexity 宣布 GPT-6 Astra 和 SOL 6.1 的超高速版本已在 Perplexity Computer 面向 Max 订阅者开放。两款模型生成 token 更快，可更早完成耗时的 Computer 任务；用户在 Custom 中选择 Astra 或 SOL 6.1，再把速度设为 Ultrafast 即可使用。Aravind Srinivas 转发并提醒会较快消耗额度。
匹配字段标题
Artificial Analysis 将 AMD MI355X 加入 AA-AgentPerf 智能体推理性能基准，在单台 8-GPU 节点上测试 Kimi K3、GLM-5.2/5.3 和 DeepSeek V4 Pro，并与 NVIDIA B200/B300 对比。MI355X 在 DeepSeek V4 Pro 0813 上每 MW 吞吐量比 B200 高约 15% 至 40%（35 至 75 tok/s 每用户），但在 DeepSeek V4.1 Flash、GLM-5.2/5.3 和 Kimi K3 上随负载上升落后于 Blackwell。
匹配字段标题、摘要
Google Research 发布地理空间推理智能体的技术报告，该智能体把 Gemini 与 Earth AI 基础模型、Google Maps Platform、Earth Engine 等数据连接，通过模块化技能、前置规划和独立空间工作区完成多步空间分析。报告在四个基准上对比四种配置，结果显示专用 Earth AI 技能对定量空间任务提升明显，而开放式任务还需要前置规划；团队同时发布 GeoKTools 和 GeoExpertQueries 两个新基准的开发集。Google 还扩大早期访问，在 Ask Google Earth 中预览深度分析能力，并向开发者提供实验性的 Agent-to-Agent API，WHO 非洲区域办事处、People in Need、GiveDirectly 等伙伴已参与测试。
匹配字段标题、摘要
Google DeepMind 正式上线通用物理推理模型 Gemini 4 Argon，并发布与 Apptronik Apollo 人形机器人合作的演示视频，机器人仅观看一段掷沙包示范视频后反复练习，最终连续投中 7 次。该模型具备视觉语义推理、物理理解和代码生成能力，可用于机器人控制、仿真环境构建、物理数据分析和动作优化，在纯推理模式下 ERQA 基准得分达 87%。演示还覆盖从机器人视角、人类视角视频及手绘草图生成 MuJoCo 仿真环境，以及用仿真数据把真实机器人抓取成功率从 56% 提升至 75%。
匹配字段标题、摘要、正文
François Chollet 认为，仅靠自回归采样无法解决真实物理任务，物理世界对模型幻觉和近似模式匹配毫不宽容；要实现真正的自主机器人，必须把因果性和离散推理重新工程化进循环中。他称赞 Biwei 与 Aether AI 团队正在做的正是这类基础性、非共识的工作。
匹配字段标题、摘要
HuggingFace CEO Clément Delangue 表示，很高兴看到 Google 的 Embedding Gemma 2 登上 HF 趋势榜。他认为媒体和硅谷只关注推理 LLM，但嵌入向量、决策模型、音频、视频、时间序列等 AI 模型同样极具影响力，HF 上已有超过 300 万个公开模型，应让它们重新获得关注。
匹配字段标题、摘要
Tensormesh 于 2026 年 10 月 14 日发布 Tensormesh Platform，为企业自建 LLM 推理提供 KV 缓存管理，跨 GPU 内存、CPU 内存和存储复用推理状态，减少重复的 prompt 处理。该平台基于其开源项目 LMCache，提供安全、可观测性、弹性、策略管理和多租户五项能力，并支持 pin、定位、移动、压缩和清除缓存条目的 controller API。其 CacheBlend 技术在 EuroSys 2025 论文中报告首 token 时间快 2.2–3.3 倍、吞吐量高 2.8–5 倍。
匹配字段标题、摘要
Reactor 正构建面向实时交互式视频与世界模型的推理基础设施，开发者可通过统一 SDK 和 API 以 60FPS 以上帧率、低于 40 毫秒延迟运行模型。该公司累计融资达 7400 万美元，最新一轮由 NVIDIA 与 Sapphire Ventures 追加投资。其平台已汇集多款可实时运行的视频与世界模型，并在好莱坞制片厂、广告平台等媒体娱乐场景推进活跃项目。
匹配字段标题、摘要、正文