2026年8月21日,Liquid AI发布LFM2.5-DSpark推测解码草稿模型,面向LFM2.5-1.2B-Instruct、LFM2.5-2.6B和LFM2.5-8B-A1B三款模型。据Liquid AI模型与工程博客介绍,该草稿模型约300M参数,采用5层、block size 9的简化注意力结构,在GPU上吞吐最高提升3.18倍,端侧最高提升2.87倍,且不改变输出质量。权重已在Hugging Face提供Safetensors与GGUF格式,并开源集成到llama.cpp和SGLang。在BFCL多工具函数调用场景中,LFM2.5-2.6B延迟平均降低57%;LFM2.5-8B-A1B受llama.cpp Metal后端MoE实现影响,端侧仅提升18%。目前尚无后续发展事实。
匹配字段摘要
2026年8月17日,OpenRouter推出Activity仪表盘与Analytics API,用于按智能体、模型和请求维度追踪AI用量。据官方公告,该仪表盘可查看总支出、请求量、token量、缓存命中率和每百万token混合成本五项指标;Explore支持按指标、最多两个维度、分钟到月粒度以及柱状、折线、点图自定义视图,并可下钻到单条请求日志。Analytics API提供meta与query两个端点,需使用管理密钥。官方称内部用该工具发现一个预览模型每月烧掉约6.2K美元,约为组织混合费率的25倍,其中98%来自单个批处理流水线密钥。目前该故事尚无后续发展事实。
匹配字段摘要
2026年8月10日,Fireworks AI 上线 Meta 的 Muse Glimmer 30B 稠密模型的无服务器与按需部署服务。该模型采用 Apache 2.0 许可,支持 128K+ token 上下文窗口和原生图像理解,面向需要多轮工具调用的常驻智能体场景。架构上采用滑动窗口注意力,多数层窗口为 2,048 token、每四层设一个全局注意力层,配合 2 个 KV head 控制 KV cache 占用。Fireworks 给出 temperature 1.0、top_p 0.95、top_k 64 的推荐参数,并支持在系统提示词中设置 low 到 xhigh 的推理强度。据 Meta 报告,该模型在 MCP Atlas 得 75.5、DeepSearch QA 得 74.6、SWE-Bench Pro 得 51.2,均高于 Gemma 4 31B 和 Qwen 3.6 27B 的对应成绩。目前尚无后续发展。
2026年8月10日,Fireworks AI 上线 Meta 的 Muse Glimmer 30B 稠密模型的无服务器与按需部署服务。该模型采用 Apache 2.0 许可,支持 128K+ token 上下文窗口和原生图像理解,面向需要多轮工具调用的常驻智能体场景。架构上采用滑动窗口注意力,多数层窗口为 2,048 token、每四层设一个全局注意力层,配合 2 个 KV head 控制 KV cache 占用。Fireworks 给出 temperature 1.0、top p 0.95、top k 64 的推荐参数,并支持在系统提示词中设置 low 到 xhigh 的推理强度。据 Meta 报告,该模型在 MCP Atlas 得 75.5、DeepSearch QA 得 74.6、SWE-Bench Pro 得 51.2,均高于 Gemma 4 31B 和 Qwen 3.6 27B 的对应成绩。目前尚无后续发展。
匹配字段摘要
2026年5月7日,Prime Intellect宣布其训练平台Lab结束beta测试并正式开放。该平台面向自我改进智能体,将任务定义、harness、评测、奖励信号训练、rollout检查、adapter部署和推理整合到一处,以环境为基本单元。其中Hosted Training负责大规模强化学习,按token计费而非按集群小时计费。正式版首批支持来自NVIDIA、OpenAI、Meta和Qwen的14个模型,参数规模在1B到70B之间。据披露,beta期间已有数百名用户运行超过10,000次训练任务,训练完成的LoRA adapter可通过Prime Inference以OpenAI兼容API部署。
匹配字段摘要
2026年4月26日,Chelsea Finn宣布将于次日(周日)在ICLR做三场研讨会演讲。据其介绍,第一场主题为“无奖励瓶颈的自我改进”,涉及meta-harness,上午10:30在RSI研讨会进行;第二场主题为“涌现式物理泛化”,涉及π0.7,上午11:40在多模态研讨会进行;第三场主题为“用于鲁棒性的强化学习”,下午1:45在CAO研讨会进行。目前该消息为演讲者本人公布的活动安排,尚无更多后续进展。
匹配字段摘要
2025年2月28日,Prime Intellect宣布完成1500万美元融资,由Founders Fund领投,Menlo Ventures、Andrej Karpathy、Clem Delangue、Dylan Patel、Tri Dao、Emad Mostaque等参投,累计融资超过2000万美元。公司称其Compute Exchange已连接开发者、创业公司、云厂商和数据中心,并用PRIME框架跨三大洲训练了10B参数模型,还发布了INTELLECT-1、METAGENE-1、INTELLECT-MATH以及基于DeepSeek-R1的合成推理数据集等成果。下一步将扩大算力接入、推出托管评测与专用推理,并继续建设RL基础设施。
匹配字段摘要
2024年7月23日,vLLM宣布支持Meta Llama 3.1系列模型,可运行完整的128K上下文窗口,并通过分块预填充控制内存占用。针对Llama 3.1 405B,vLLM提供FP8、流水线并行、张量并行和CPU卸载支持。在没有InfiniBand的16 GPU环境中,2路流水线并行结合8路张量并行,相比16路张量并行实现了6.6倍性能提升。
匹配字段摘要
2026年8月17日,SGLang 团队发布技术博客,宣布围绕统一 runner/backend 接口重构 CUDA Graph 支持,并将由 SGLang 首创并开源的 Breakable CUDA Graph(BCG)设为 prefill 的默认策略。博客介绍,BCG 以 521 行代码实现与 torch.compile 分段方案(1,771 行)相同的分段执行,构建 prefill 图快 3.8–5.2 倍;在 gpt-oss-120b(TP4,4×GB300)上,BCG 比 eager 快 1.70 倍,完整捕获达 1.93 倍。博客还介绍了 prefill 的完整 CUDA Graph 捕获、显存复用机制,以及与 Meta PyTorch 团队合作拆出的独立库 meta-pytorch/breakable-cuda-graphs。目前该事实仅有这一条官方来源,暂无后续发展。
匹配字段摘要
2026年6月11日,Ollama 更新其 MLX 引擎,新增对 NVIDIA NVFP4 格式的支持。据 Ollama Blog 当日发布的信息,该引擎被称为其在 Apple Silicon 上的最高性能表现,模型响应更快、占用内存更少。在 Gemma 4 12B 上,相比 q4_K_M,新格式约将量化质量损失减半;同时通过 Metal kernel 融合等优化,输出速度最高提升 20%。此外,本次更新新增快照系统,可为多智能体、思考型模型和分支重试保存模型状态,避免重复处理相同上下文。目前该更新已随官方博客发布,暂无后续发展事实。
2026年6月11日,Ollama 更新其 MLX 引擎,新增对 NVIDIA NVFP4 格式的支持。据 Ollama Blog 当日发布的信息,该引擎被称为其在 Apple Silicon 上的最高性能表现,模型响应更快、占用内存更少。在 Gemma 4 12B 上,相比 q4 K M,新格式约将量化质量损失减半;同时通过 Metal kernel 融合等优化,输出速度最高提升 20%。此外,本次更新新增快照系统,可为多智能体、思考型模型和分支重试保存模型状态,避免重复处理相同上下文。目前该更新已随官方博客发布,暂无后续发展事实。
匹配字段摘要
2024年7月8日,Benedict Evans 提出判断,认为 xR 尚未找到大众市场的产品市场契合,且短期内难以接近。他在同日发布的文章中表示,VR/AR 仍未找到产品市场契合点:Meta 已投入至少 500 亿美元,Quest 3 可能售出 100 万台,但英国数据显示设备保有量基本持平,仅 20% 用户每天使用,日活渗透率约 2%。他指出设备会变得更轻更便宜,但能否带来大众需求仍不明朗。目前没有后续有证据的发展。
匹配字段摘要
2024 年 4 月 18 日,Ollama 上线对 Llama 3 的运行支持,首发包含 8B 和 70B 两个参数规模,对应命令分别为 ollama run llama3:8b 和 ollama run llama3:70b。据 Ollama Blog 同日发布的信息,相比 Llama 2,Llama 3 的训练数据集扩大七倍,上下文长度翻倍至 8K,token 词表扩大到 128K,误拒答情况不到 Llama 2 的三分之一。该信息还提到,Meta 计划后续发布 400B 参数版本,以及支持多模态、多语言和更长上下文窗口的多个模型。目前没有新的后续发展事实。
匹配字段摘要
2026年8月14日,Crusoe 正式成为 Pydantic AI 的原生模型提供商。据 Pydantic AI 官方文章,用户只需使用类似 'crusoe:zai/GLM-5.2' 的字符串,即可让智能体在 Crusoe Managed Inference 上运行,开箱支持流式输出、工具调用和结构化输出。该集成新增 CrusoeProvider,将 meta-llama、deepseek-ai、qwen、google(Gemma)、moonshotai(Kimi)、zai(GLM)和 openai(gpt-oss)等模型族映射到对应的 Pydantic AI profile,无需手动配置 base_url 或 API key。此外,Crusoe 提供 MemoryAlloy 集群级 KV cache 与缓存输入定价,以降低智能体多轮请求的成本。目前尚无后续发展事实。
2026年8月14日,Crusoe 正式成为 Pydantic AI 的原生模型提供商。据 Pydantic AI 官方文章,用户只需使用类似 'crusoe:zai/GLM-5.2' 的字符串,即可让智能体在 Crusoe Managed Inference 上运行,开箱支持流式输出、工具调用和结构化输出。该集成新增 CrusoeProvider,将 meta-llama、deepseek-ai、qwen、google(Gemma)、moonshotai(Kimi)、zai(GLM)和 openai(gpt-oss)等模型族映射到对应的 Pydantic AI profile,无需手动配置 base url 或 API key。此外,Crusoe 提供 MemoryAlloy 集群级 KV cache 与缓存输入定价,以降低智能体多轮请求的成本。目前尚无后续发展事实。
匹配字段摘要
2026 年 7 月 4 日,Lilian Weng 在 Lil'Log 发布长文,提出近期递归自我改进(RSI)将依赖 harness 工程,而非模型直接改写权重。文章围绕 harness engineering 如何推动递归自我改进,梳理了工作流自动化、文件系统持久记忆、子智能体与后端任务三类设计模式,并综述 ACE、MCE、Meta-Harness、ADAS、AFlow、STOP、Self-Harness、AHE、AlphaEvolve、Darwin Gödel Machine 等自改进与进化搜索工作。文章同时指出评测器模糊、上下文与记忆生命周期、负面结果、多样性崩塌、奖励攻击等瓶颈,认为人类应在合适抽象层提供监督。目前该观点仍以这一篇长文为唯一证据来源,尚无后续发展事实。
匹配字段摘要
Unsloth 发布 Meta Muse Glimmer 30B免费微调notebook
English translation is being prepared.
匹配字段摘要
vLLM 新增支持 Meta Llama 3.1系列模型
English translation is being prepared.
匹配字段摘要
Hugging Face 发布端侧 TTS 模型 Phonon，提供约 65 MB 和 75 MB 两个尺寸，覆盖英语、法语、德语、西班牙语和葡萄牙语，内置 100 多个音色。其中 Phonon 31m 仅支持英语并以 Apache 2.0 开源，可用于商业产品；Phonon 40m 覆盖五种语言但采用非商业许可。官方称其在 Open TTS Leaderboard 的德语和西班牙语可懂度排名第一，并在 CPU 流式首包延迟基准上领先，配套推理框架 ptts 支持 CPU、GPU 和 NPU 等 10 余种后端。
体积最高达其 100 倍的模型同台竞技。 速度是 Phonon 真正大放异彩的地方，这些模型在 CPU 流式首包音频时间基准上位居榜首。 推理 我们专门为 Phonon 构建了一个新的推理框架 ptts。ptts 的目标是在各种设备上获得最佳性能，因此支持 10 多种后端：CPU（Intel、Arm、WebAssembly）、GPU（CUDA、Vulkan、Metal、WebGPU）和 NPU（Apple Core ML、Snapdragon®）。 Phonon 也从 v5.21 起在 🤗 Transformers 中作为其参考 PyTorch 实现提供。ptts 在设备上运行单一流，而 Transformers 则面向 GPU 吞吐量：批量生成、全图 torch.compile，例如用于大规模合成语音数据集。作为原生 PyTorch 实现，它是进一步构建的基础，无论你是要将 Phonon 集成到你自己的技术栈中，还是研究模型本身。 它属于 Pocket TTS 系列，因此我们首先将 Pocket TTS 加入了 Transformers。Phonon 作为模块化模型构建在其上：约 2
匹配字段正文
Databricks 认为开放权重模型已接近前沿模型水平且成本更低，企业因此重新评估单一前沿模型供应商策略。其 Unity AI Gateway 通过统一 API 托管开放权重、前沿和外部模型，支持智能路由、回退与预算控制；自 1 月以来客户平均使用模型数从 4.2 增至 7.1，其中约 40% 为开放权重模型。
at Scale with Unity AI Gateway [26] Use Open Source models with coding agents [27] Unity AI Gateway: Multi-AI governance and cost control, Databricks [28] Introducing Omnigent: A Meta-Harness to Combine, Control and Share Your Agents, Databricks Blog [29] GLM-5.2 Providers: Output Speed Comparison, Artificial Analysis [30] Introducing AI spend controls with Unity Gateway [31] 推出 Omnigent：一个用于组合、控制和共享你的智能体的元框架 探索 Unity AI Gateway 了解如何通过一个统一平台来治理、路由和监控开放权重、前沿及外部模型。 在收件箱中获取最新文章 订阅我们的博客，即可在收件箱中收到最新
匹配字段正文
AWS 机器学习博客以开源多智能体数据分析方案 Deep Insight 为参考实现，把生产级 AI 智能体的上下文工程拆成四层：多智能体架构隔离上下文、用提示词限制输出、把重内容外置到文件系统、用验证智能体兜底。文中给出的 write_and_execute_tool 让每个脚本进入上下文的 token 减少约 95%，按需加载 Skills 让系统提示词缩小约 97%，并附有 Strands Agents SDK 的代码示例。
ights - [Key finding 1 with numbers and ratios] - [Key finding 2 with business implications] Generated Files - ./artifacts/chart.png -- brief description - ./artifacts/calculation metadata.json -- N calculations 实现细节 2-2：自包含代码理念 Coder 智能体的提示词明确写道“变量不会在脚本之间保留”。每个脚本都必须包含所有必要的导入并直接加载数据。提示词同时给出了错误和正确的示例： WRONG -- Attempting to use a variable from Turn 1 in Turn 2 Turn 1: df = pd.read csv('data.csv') total = df['Amount'].sum() Turn 2: print(f"Total: {total}") NameError: name 'total' is not defined CO
匹配字段正文
36氪旗下硅星人Pro 报道，成立不到一年的数据公司 UniPat 被曝正洽谈约 3 亿美元融资，阿里领投、腾讯和红杉中国参与，投后估值 25 亿美元。文章称带用户行为轨迹的数据一条报价可达 1000 至 3000 元，带完整操作过程的工作场景数据可卖到 1 万元左右，Mercor 估计前沿实验室所需数据目前只完成 2% 到 5%。随着模型厂商收紧采购、核算 ROI 并对供应商数据做消融，行业已出现拉黑数据商、数据质量难验证等问题。
型依然依赖的“天才、算法、架构突破”似乎关系不大，按此前人们的理解，它们甚至可以算是一群“外包”公司—— 也就是数据公司。 这股浪潮依然是晚硅谷半年左右传过来的。在硅谷，数字早已更加夸张。最知名的 Mercor 去年10月融了3.5亿美元，估值100亿美元，今年8月又被曝在谈200亿美元估值的新融资，英伟达考虑入股。更为人熟悉的 Scale AI 去年接受 Meta 投资时，估值已超过290亿美元。 在外界的理解中，算法突破和天才研究员仍是驱动 AI 模型追逐前沿的助燃剂。而事实上，模型训练的日常，却越来越像数据工厂。这些做“外包”的数据公司，对模型竞争、商业化落地、甚至各种诸如 RSI 的新概念的演进都起着决定性作用，这使得某种程度上今天的 AI 成了这些“数据新贵”的天下。 当数据比产品还值钱 “别做产品了，出来卖数据吧。” 一位在业务进展中拥有大量 AI应用行为数据的创始人，在和 DeepSeek 的朋友讨论技术趋势时，本想获得一些模型发展上的建议，但却很快变成某种合作交流，对方直接建议他“出卖”数据。 哪怕这家应用公司已经自己能盈利，但当他看到 DeepSeek 等模型公司给数
匹配字段正文
Gartner测算，到2030年AI数据中心需约8.5万亿美元营收才能覆盖投入，但实际流入的AI相关营收最高仅3.6万亿美元，超3.5万亿美元投入存在资产减值风险。a16z基于Ornn租赁数据指出，当前A100、H100、B200、H200实际租金分别高出预期线9%、54%、111%、143%。作者认为需求增长与首批基建减值可能同时发生，硅路线图决定芯片真实折旧节奏。
，赫兹抛售约2万辆电动车，录得约2.45亿美元亏损。赫兹将原因主要归于高昂的维修与碰撞成本，但二手车贬值也是诱因之一：特斯拉下调新车售价，直接压低了二手电动车行情。供应商的定价决策，侵蚀了客户资产价值。GPU的风险更高：芯片代际提升幅度远大于汽车改款；二手芯片市场规模更小、更小众；算力配套的电力资源也不像停车位那样充足。 财报释放的新信号 财报季传来新线索。Meta公布财报，将2026资本开支收窄至1350–1450亿美元，原因包括持续上涨的基础设施成本、外购AI Token服务支出。随后微软、Alphabet、亚马逊陆续发布财报。三家都提到，AI算力需求依旧高于新增产能供给，微软和谷歌甚至向外租赁算力补缺口。三家合计计划在2026年投入近6000亿美元；Alphabet和亚马逊均表示，2027年资本开支还会明显增加。 财报里几个细节值得关注：微软称Azure增长一部分得益于 “CPU、GPU集群持续提效”，正如租车公司，盘活已有资产本身就是业务的一环。亚马逊表示，上一代Trainium芯片的短期算力租金相比上半年出现溢价，印证了a16z图表反映的规律，这次是亚马逊自研芯片。亚马逊还提
匹配字段正文