搜索“其他”

oken 生成文本，而是在单次前向传播中评估结构化分类原语：从列表中选择一个 Choice、一个数值 Score，或一个 Noul——后者针对二元陈述返回 0 到 1 的概率。 为完整披露：Google 与 TypeSafe 并无合作关系，本文也不构成对 TypeSafe 或其产品的背书。此处使用 Jev 仅作为轻量级分类器的一个示例，同样的路由模式也可以用其他分类器构建，包括 Google 原生的分类器。例如， 判别式模型入门 codelab 就在你自己的 Google Cloud 项目中，对 Google DeepMind 的开源权重模型 DiffusionGemma 运行同类分类器。 我们针对实时 Gemini 和 Jev API 运行了一个 50 题、自动评分的编码智能体基准测试，以检验一个近乎免费的分类器能否将每个任务路由到仍能正确完成它的最便宜模型。以下是我们得到的发现： 1. 正则表达式和 token 长度框架路由器在未见过的智能体任务上会失效 让 Jev 路由编码任务的最朴素方式，是提出一个宽泛的单一 Choice 问题： simple 或 complex。当我们最初在

匹配字段正文

是序列级知识蒸馏（SeqKD）？ 最简便适用的蒸馏形式是序列级知识蒸馏（SeqKD）。它使用教师模型生成高质量响应，然后通过监督微调（SFT）在这些响应上训练学生模型。SeqKD 只需要教师模型的 文本, 无需访问教师 logits，也不需要强化学习基础设施，因此即使面对闭源或仅提供 API 的教师模型也能奏效。与基于 logit 或 on-policy 等其他方法相比，它处于蒸馏谱系中最具成本效益且最易移植的一端。教师写出答案，学生便在这些答案上进行微调。由于这些答案会作为数据集持久保存，你可以复用它们来训练或测试不同的学生模型，而无需重新生成数据。 原则上，你会希望学生模型匹配教师模型在可能输出上的完整分布。但问题在于，你做不到。可能序列的空间极其庞大，因此精确匹配并不可行。SeqKD 通过用教师实际产生的样本进行近似，从而绕开了这一问题。 对于智能体而言，教师产生的序列不是一段散文，而是一条轨迹，即推理、工具调用及其返回观察结果的有序运行，其中每一步都以之前的一切为条件。在整个序列上训练学生模型，能教会它通向每个动作的推理以及多步行动路线本身，而不仅仅是一段答案文本。这使得智能体

匹配字段正文

并组合流水线，就选 LiveKit Agents 或 Pipecat 。 最后更新：2026 年 10 月 29 日。能力、数量和许可证均于该日期从各项目自己的文档和代码库中读取。 选择智能体框架时应关注什么 以下是我们的标准，而且它们带有明确倾向。 能否在不重写智能体的情况下更换模型？ 价格、质量和速率限制每月都在变化。围绕单一厂商 API 构建的框架会让其他所有厂商都成为二等路径，通常要通过文档中称为 beta 的适配器。 进程在运行中途死亡时会发生什么？ 需要调用工具数分钟、或等待人工数天的智能体，需要持久执行：一份已完成模型调用和工具调用的日志，重启后的运行可以重放它。检查该框架是否能与你公司已经在用的引擎配合，还是只能用它自己的存储。 人工如何批准某个操作？ 要寻找一种在进程消失后仍能存续的暂停，而不是阻塞线程的回调。 智能体如何触达用户？ 聊天前端、编辑器、另一个智能体、一通电话。检查该框架原生支持哪些协议，以及语音是否由同一个智能体处理，还是另一套独立技术栈。 追踪数据是否流向你其他追踪数据所在的地方？ OpenTelemetry 可发送到任何后端，或使用厂商自己的追踪产

匹配字段正文

进行匹配。HiCache 将这种复用扩展到主机内存，因此前缀在其 KV 离开 GPU 后仍可复用。在后续请求中，decode 恢复本地缓存的前缀，并要求 prefill 仅发送缺失的后缀。 图 5。 高亮的树路径匹配一个 8K 前缀：A 在 GPU 上，B 在主机内存中。Decode 在本地恢复 B，并仅从 prefill 接收 4K 后缀 C。灰色分支显示其他缓存的前缀；C 尚未缓存。解码会同时等待恢复和接收完成。 对于每个请求，decode 将提示与其基数树进行匹配，并锁定驻留在 GPU 上的前缀。它为任何本地恢复的 KV 和传入的后缀预留 GPU 空间，然后向 prefill 报告可复用边界为 decode prefix len。Prefill 仅发送该边界之后的 KV；其自身的前缀缓存独立决定它可以跳过多少计算。如果配置了外部存储，L3 跨度只有在其预取被接受后才能扩展可复用前缀。 在图 5 中，12K token 的提示包含三个 4K 跨度。A 已在解码 GPU 上，B 在其主机缓存中，C 缺失。树将 A 和 B 匹配为 8K 前缀。解码从主机内存恢复 B，同时从 prefi

匹配字段正文

使得一大类被忽视的安全工作变得切实可行。补丁积压量很大，但我们现在有了切实可行的方法来处理它。 我们必须在稳定性和安全性之间做出选择吗？ 软件有错误，我们会在可能的时候尝试修复它们。修复首先发生在软件的最新版本中。不幸的是，这往往也是修复发生的 唯一 地方。 回移是将修复从最新源代码移植到较旧版本的过程。针对知名关键错误的修复确实往往会被快速回移。但对于许多其他错误，回移过程从未发生。原因很容易理解：软件打包通常由已经超负荷工作的志愿者完成，而回移是令人沮丧、不被感谢的工作，几乎得不到认可或关注。对于由志愿者团队运营的开源项目来说，回移（可以理解地）优先级很低。正如 XFS 开发者 Dave Chinner 曾经描述的那样，这项工作“ 实际上是一份全职工作”，在没有足够资源的情况下就是没人去做。缺乏回移是一个问题，因为几乎没有人运行用当今代码更改 freshly 构建的最新最好版本的软件。人们 绝大多数 更喜欢打包在“长期稳定”版本中的稍旧、经过更多测试的软件。例如， 大约 95% 的 Ubuntu Linux 安装是长期支持（LTS）版本。查看 Debian 的 popcon 中已安

匹配字段正文

发者将分支部署到该命名空间，并在合并前运行完整测试套件。 这些测试在针对真实数据运行时最为有用。Snorkel 的生产数据库是一个 Amazon Aurora PostgreSQL 集群。为每个 PR 命名空间提供该数据库的独立副本才是难点所在。恢复一个副本每个环境大约需要 20 分钟，当开发者全天不断提交 PR、合并队列每次运行都需要全新环境时，这太慢了。其他替代方案（共享预发布数据库、裁剪后的测试夹具或合成数据）会重新带来类生产测试本应解决的问题：测试相互干扰、模式过期，以及只有在真实数据形态下才会出现的缺陷。 成功标准 如果满足以下标准，Snorkel 就会认为 Lakebase 在 CI/CD 场景中是成功的： 快速配置： 新的 PR 分支在 60 秒内就绪（p95）。 规模： 峰值时约 100 个并发 PR 分支，每个分支都有独立的读写能力。 兼容性： 现有应用和 CI 套件通过标准 Postgres 在 Lakebase 上运行，性能与 Aurora 相当，并支持大型 JSONB/LOB 列。 数据新鲜度： 通过持续的 DMS 复制，main 分支与生产 Aurora 的差

匹配字段正文

eline，来估计每个回答的 advantage；baseline 通常取 V。图中五个 open 回答的分数是 3、1、2、1、3，R − V 分别是 −1.3、−3.3、−2.3、−3.3、−1.3，平均为 −2.3，正好等于 Q − V。 例子里 judge 的分数都是正的。如果从 0 算起，每个采样回答都会被往上推，open 也不例外。它只是被推得比其他回答少，正确的方向要等大量样本相互抵消后才能显现。从 V 算起，每个样本本身就指向正确的方向：低于平均的回答往下压，高于平均的回答往上推。 只要 baseline 与采到哪个 token 无关，减去它就不会改变平均的更新，改变的只是噪声。在这个例子的模拟中，以 0 为 baseline 和以 V 为 baseline，平均更新完全相同；以 V 为 baseline 时，方差约为前者的五分之一。 baseline 改变的是更新的噪声，更新的方向保持不变。 GRPO 的组内平均分和 PPO 的 critic，都是这个意义上的 baseline。 credit assignment：TD error 与 GAE 前面的 advanta

匹配字段正文

Artificial Analysis Intelligence Index v5 现已上线！ 它包含 2 个新基准和 3 项升级，且该指数的大部分内容基于私有数据集构建。 新基准包括来自 Cognition 的 FrontierCode 2.0 和 Terminal-Bench-Science。 Claude Opus 5.5（max）以 58 分领先，紧随其后的是 GPT-6 Astra（max，57 分）和 GPT-6.1 Sol（max，55 分）：Anthropic 和 OpenAI 占据了前五名模型。Gemini 4 Argon（high）以 50 分位列其后。 Claude Code 依然保持领先（这并不意外），而我们对其他模型的分布也有相当准确的刻画。 一张新图表还展示了各模型的发布日期 👀

匹配字段正文

berger mpfaffenberger 21 分钟前 2026/10/28 作为 Markdown 现在和我交谈的每个人对 code mode 都有自己的看法。我的看法则是由 Prime Intellect 的 Prime Agent点燃的，这是一个围绕持久化 REPL 构建的编码工具框架，此外还有 Alex Zhang 的 推测性程序化工具调用，它（除其他功能外）能在模型仍在流式输出代码时运行工具。 Cloudflare 就有一个。 Anthropic 也有一个。我们自己也有过几个，从 MCP 代码执行 到 Pydantic Monty编码智能体也在朝同一方向演进： OpenCode 2 现在默认通过 Code Mode 发送 MCP 工具，而 Pi 则自带一个 codemode 工具。常见的宣传话术大致是这样的：别再让模型一次调用一个工具，而是让它写一个小程序来调用这些工具，这样一切都会更便宜、更快、更好。 我信这一点。但我见过的几乎每个数字都来自拥有数百个工具或庞大负载的智能体，而现实中的许多智能体其实很普通：几个 CRUD 工具，外加一项待办任务。所以我正是基于这种情况构建

匹配字段正文

构建方式——在构建过程中需求不清晰且不断演变。 对于想复现这些结果的人：我使用了固定版本的 v1.0 目录、默认的 just-solve 提示词、种子 42、any-case runner 通过策略，以及装有 Python 3.12 和 uv 的 Docker。 每个模型和每种强度设置我都只跑了一次。每个检查点都建立在更早检查点的代码之上。有些问题的检查点比其他问题多。每个检查点在通过率中权重相同，因此检查点更多的问题权重更大。 核心通过率与严格通过率 严格：每个测试类别都通过，包括回归测试。 核心：非空 Core 类别中的所有测试都通过。例如，如果模型在检查点 2 失败，它仍可在后续检查点获得核心通过，即使 ck2 的测试仍然失败。 在本次快照中，Astra XHigh 的严格通过数最多。但它对 SOL 6.1 Medium 的领先只有两个检查点。 Opus Medium 以 145/196 领跑核心通过数，但严格通过只有 28/196。 更多强度 == 更多花费，但不一定带来更好的结果 这并不能证明更多推理会损害编程。它说明的是，在这些运行中，更高的强度并不是买到更多严格通过的可靠

匹配字段正文

真实世界的结果已经出炉：@OpenAI 的 GPT-6.1 Terra (Max) 刚刚在 Code Arena: WebDev 中以 1671 分位列第 14，交出了帕累托级别的成绩！ 这比 GPT-5.6 Terra 高出 151 分，后者目前排在第 56 位。GPT-6.1 Terra 的每任务中位成本为 $0.40，比 GPT-5.6 Terra（每任务 $0.56）低 28%，重塑了帕累托前沿。 与同家族的其他模型相比，GPT-6.1 Terra (Max) 的效率极高： - 比第 4 名 GPT-6.1 Sol（1752 分）低 81 分，每任务中位成本却低 75%。 - 仅比第 11 名 GPT-6 Sol（1677 分）低 6 分，每任务中位成本低 76%。 祝贺 @OpenAI 团队发布这一版本！

匹配字段正文

关，而非直接发送给 OpenAI、Anthropic 或 Google 等供应商，网关则按照运营方设定的规则转发这些请求。指南将这一类别视为对“散乱局面”的回应，开篇引用了 2026 年 9 月 Reddit 的 r/LLMDevs 版块上的一篇帖子，其中一位工程师描述了自己的工作场所：每个人都各自持有 Claude、OpenAI、AWS Bedrock 及其他推理供应商的密钥。 指南的对比表区分了四种网关类型。API 网关位于后端服务之前，决定客户端是否通过鉴权以及是否在其速率限制之内。LLM 网关位于模型供应商之前，决定哪个模型接收请求、由谁付费以及请求是否成功返回。MCP 网关决定智能体是否可以携带给定参数调用某个工具。指南用“AI 网关”来指代那些捆绑了上述部分角色组合的厂商产品。 六步请求生命周期 指南通过追踪一个请求从应用程序到模型再返回的过程来解释其机制。首先，应用程序向网关的端点发送聊天请求，通常采用 OpenAI 兼容格式。网关验证凭证，通常是发放给团队或产品的虚拟密钥，并且在接入输入护栏时，可以扫描提示词中是否含有敏感数据或试图覆盖模型指令的企图。如果启用了缓存，符

匹配字段正文

model 进行定制），帮助编码智能体将这些步骤组装成一个工作流。 前提条件 你需要： Python 3.11 至 3.13、uv、Git、Docker、NVIDIA Container Toolkit，以及访问 Nemotron 仓库. 一台 NVIDIA DGX Station GB300 或一台 NVIDIA DGX Spark。不过，此工作流也可适配其他 NVIDIA GPU 系统。 跟着仓库操作 运行以下命令在本地安装 Nemotron 仓库：为正确遵循本教程，我们将使用位于此处的名为 的文件夹：第 1 步：定义目标行为并冻结一个留出集 在生成训练数据之前，先定义什么样的回答才算好回答。这些要求同时指导数据生成和审核。维度示例要求受众——我们在和谁对话？技术水平各异的法国成年人任务——它应该做什么？回答关于身份证明文件的问题. 运行以下命令在本地安装 Nemotron 仓库： git clone https://github.com/NVIDIA-NeMo/Nemotron.git cd Nemotron git checkout v0.2.0 uv sync --extra

匹配字段正文

Slack 体验上，而不是底层管道上。 关键成果 Content Studio 已在全公司范围内交付了 3,000 多个素材，其中包括 80 多份幻灯片。其中一份幻灯片甚至被用在了我们观看量最高的自然流量 YouTube 视频中。 在 X 上，带有其作品的帖子获得了约 450 万次浏览。 在 LangChain 账号上，带有其视觉素材的帖子获得的点赞数约为其他帖子的 2 倍，收藏数约为 3.7 倍。 如今四分之三的请求来自营销部门之外，75% 的用户是每周都会回访的重复访客。 现在单次请求的模型成本中位数约为 50 美分，低于 9 月中旬的约 8 美元。迁移到 Managed Deep Agents 后，我们自己的代码减少了约 80%。 Managed Deep Agents. AI 真的擅长设计吗？ 在深入构建过程之前，我们先来讨论这个世纪之争：AI 真的能做出好的设计吗？ 这个模型在执行方面已经表现出色，能够编写 HTML 和 CSS、图表规格以及动画时间线。然而，它并不了解我们的上下文，因此会沿用熟悉的模式，也就是 Anthropic 称之为“分布收敛”结果可能看起来很精致，却

匹配字段正文

词上的 44,000 多张投票。我们仅有 5% 的提示词公开在公共竞技场中，从而使评估能够抵御公开集污染，提示词每月轮换。 来自 AA-Video-I2V v2.1 排行榜前列的初步洞察： ➤ Dreamina Seedance 2.5 综合排名第一，与 Seedance 2.0 和 MiniMax H3 系列在统计上持平，并在 11 个类别榜单中领先，超过其他任何模型，包括人体解剖、镜头控制和零售与电商。其价格为 $34.12/min，是前十名中最贵的模型。 ➤ Dreamina Seedance 2.0 排名第二，并在音频同步和光照与材质两项上排名第一。 ➤ 开源权重模型 MiniMax H3 (768p) 以 $4.80/min 的价格排名第三，约为 Seedance 2.5 价格的 1/7。它在文字渲染上排名第一。 ➤ 由 fal 后训练的 MiniMax H3 Max 在带音频版本中排名第四，并在 AA-Video-I2V-Silent v2.1 上排名第一，同时在时空一致性和 UI/UX 与动效设计上领先。 ➤ 来自 Video Rebirth 的 Bach 1.0 Pro

匹配字段正文

dex v5 上成为新的第 1 名，在 Artificial Analysis Coding Agent Index 上则仅次于 Claude Opus 5.5，位列第二 Gemini 4 Carbon 在 Intelligence Index v5 上得分 59，这得益于其在复杂推理、知识和科学任务上的领先表现。它在编程和知识工作方面也有大幅提升，尤其是与其他 Gemini 模型相比，但它在这些领域并非全部领先。 与 Gemini 4 Argon 发布时一样，Gemini 4 Carbon 正在向部分用户推出，尚未公开可用。Google 提供 50% 的发布折扣，但未确认结束日期。我们所有的图表和数据均使用 Gemini 4 Carbon 和 Argon 的标准定价。 Gemini 4 Carbon 高推理模式的关键结果： ➤ Gemini 4 Carbon 在 Intelligence Index v5 上领先，在 9 项 Index 评测中的 4 项获得第 1 名：HLE-Diamond、Terminal-Bench-Science、AA-Omniscience、Automati

匹配字段正文

接作用”，而 Elorian 更侧重于他所说的“间接作用”。他指的是利用视觉推理来为决策或工作流提供依据（Glimpse 所做的），而不是构建允许导航和操作的模拟环境（Atlas 所做的）。 举个例子，你可以用视觉推理来判断是否应拒绝某段用户上传的视频，因为它违反了政策。“你不需要 3D 渲染就能做到这一点，”Dai 说。 视觉推理的应用 Elorian 的其他商业机会包括机器人、工程和国防应用。Dai 补充说，建筑师需要定期检查建筑规范和合规性——这是视觉推理模型的理想任务。 在两个机器人基准测试 WGO Bench 和 ERQA 中，Elorian 声称其评分等于或高于前沿模型，而且价格便宜得多： 来源：Elorian 回到将数诱饵作为衡量视觉模型成功与否的一项指标，Dai 认为，对模型所见内容进行推理，对于其在现实应用中的准确性和有效性至关重要。 他举了一个仓库机器人清点箱中物品的例子。 “一个熟悉的 12 槽托盘可能只装 10 个零件，而 24 件装的标签并不意味着箱子里仍有 24 件物品，”Dai 说。“依赖自己预期所见内容的模型，在现实情境中会遇到很多问题，而 Glimps

匹配字段正文