←搜索结果

按匹配度 · 共 81 条结果 清除搜索

星期三

  1. Arena

    GPT-6.1 Terra 在 Code Arena WebDev 排第 14,1671 分且每任务成本降 28%

    Arena.ai 公布,OpenAI 的 GPT-6.1 Terra (Max) 在 Code Arena: WebDev 以 1671 分排第 14,比 GPT-5.6 Terra 高 151 分,后者现居第 56。其每任务中位成本为 $0.40,比 GPT-5.6 Terra 的 $0.56 低 28%。同家族中,它比第 4 名 GPT-6.1 Sol(1752 分)低 81 分,但每任务中位成本低 75%;比第 11 名 GPT-6 Sol(1677 分)低 6 分,成本低 76%。

    真实世界的结果已经出炉:@OpenAI 的 GPT-6.1 Terra (Max) 刚刚在 Code Arena: WebDev 中以 1671 分位列第 14,交出了帕累托级别的成绩! 这比 GPT-5.6 Terra 高出 151 分,后者目前排在第 56 位。GPT-6.1 Terra 的每任务中位成本为 $0.40,比 GPT-5.6 Terra(每任务 $0.56)低 28%,重塑了帕累托前沿。 与同家族的其他模型相比,GPT-6.1 Terra (Max) 的效率极高: - 比第 4 名 GPT-6.1 Sol(1752 分)低 81 分,每任务中位成本却低 75%。 - 仅比第 11 名 GPT-6 Sol(1677 分)低 6 分,每任务中位成本低 76%。 祝贺 @OpenAI 团队发布这一版本!

    匹配字段正文

  2. Unite.AI

    Perplexity 发布 LLM 网关实践指南,梳理请求链路与生产风险

    Perplexity 于 2026 年 10 月 27 日发布 LLM 网关实践指南,说明这一中间层如何路由、鉴权、缓存和记录模型调用,并区分 API 网关、LLM 网关、MCP 网关与 AI 网关四类形态。指南以六步请求生命周期拆解机制,同时警告网关集中了各家供应商凭证,并引用 Microsoft 披露的 LiteLLM 网关入侵事件和 Check Point 报告的 CVE-2026-35029、CVE-2026-59823 两个高危漏洞(已在 LiteLLM 1.83.9 修复)。文中还列出 Cloudflare AI Gateway 与 OpenRouter 的故障复盘、四条部署路径及约 50 美元/月起的付费方案。

    关,而非直接发送给 OpenAI、Anthropic 或 Google 等供应商,网关则按照运营方设定的规则转发这些请求。指南将这一类别视为对“散乱局面”的回应,开篇引用了 2026 年 9 月 Reddit 的 r/LLMDevs 版块上的一篇帖子,其中一位工程师描述了自己的工作场所:每个人都各自持有 Claude、OpenAI、AWS Bedrock 及其他推理供应商的密钥。 指南的对比表区分了四种网关类型。API 网关位于后端服务之前,决定客户端是否通过鉴权以及是否在其速率限制之内。LLM 网关位于模型供应商之前,决定哪个模型接收请求、由谁付费以及请求是否成功返回。MCP 网关决定智能体是否可以携带给定参数调用某个工具。指南用“AI 网关”来指代那些捆绑了上述部分角色组合的厂商产品。 六步请求生命周期 指南通过追踪一个请求从应用程序到模型再返回的过程来解释其机制。首先,应用程序向网关的端点发送聊天请求,通常采用 OpenAI 兼容格式。网关验证凭证,通常是发放给团队或产品的虚拟密钥,并且在接入输入护栏时,可以扫描提示词中是否含有敏感数据或试图覆盖模型指令的企图。如果启用了缓存,符

    匹配字段正文

  3. NVIDIA Developer · Generative AI

    NVIDIA 详解如何用 Nemotron-Personas 数据集微调 Nemotron 3.5 Lightning

    NVIDIA 发布 Nemotron-Personas 法国和比利时数据集,并给出用其微调 Nemotron 3.5 Lightning 的完整后训练流程。流程包括定义行为契约、用 persona 生成合成对话、在 NVIDIA NeMo 上用 LoRA 微调、合并适配器,再与基座模型在冻结测试集上逐条对比评测。法国数据集与 Pleias 合作构建,比利时数据集由 Pleias 与 KU Leuven 参与,Nemotron 仓库提供数据生成、训练和评测的可复用步骤及 agent skills。

    Flowchart showing eight stages: define target behavior and a holdout set, sample personas, generate conversations, audit and split data, fine-tune with LoRA, merge the adapter, serve the adapted model, and evaluate it against the base model.

    model 进行定制),帮助编码智能体将这些步骤组装成一个工作流。 前提条件 你需要: Python 3.11 至 3.13、uv、Git、Docker、NVIDIA Container Toolkit,以及访问 Nemotron 仓库. 一台 NVIDIA DGX Station GB300 或一台 NVIDIA DGX Spark。不过,此工作流也可适配其他 NVIDIA GPU 系统。 跟着仓库操作 运行以下命令在本地安装 Nemotron 仓库:为正确遵循本教程,我们将使用位于此处的名为 的文件夹:第 1 步:定义目标行为并冻结一个留出集 在生成训练数据之前,先定义什么样的回答才算好回答。这些要求同时指导数据生成和审核。维度示例要求受众——我们在和谁对话?技术水平各异的法国成年人任务——它应该做什么?回答关于身份证明文件的问题. 运行以下命令在本地安装 Nemotron 仓库: git clone https://github.com/NVIDIA-NeMo/Nemotron.git cd Nemotron git checkout v0.2.0 uv sync --extra

    匹配字段正文

  4. LangChain Blog精选

    LangChain 如何搭建设计智能体 Content Studio

    LangChain 的 GTM 工程团队与设计团队合作,在 Managed Deep Agents 上搭建了 Slack 内的设计智能体 Content Studio,可生成视频、社交图、UI 图与幻灯片,已产出 3000 多个素材、80 多份幻灯片。文章拆解了它的四层知识结构(技能、wiki、代码校验、记忆)、每个 Slack 线程独立的 LangSmith Sandbox、HyperFrames 与自研 motion-studio 两套渲染引擎,以及主智能体调度异步子智能体的协作方式。团队称迁移到 Managed Deep Agents 后自有代码减少约 80%,单次请求的模型成本中位数从 9 月中旬的约 8 美元降到约 50 美分,并已开源整套 harness。

    Shreya Talegaonkar

    Slack 体验上,而不是底层管道上。 关键成果 Content Studio 已在全公司范围内交付了 3,000 多个素材,其中包括 80 多份幻灯片。其中一份幻灯片甚至被用在了我们观看量最高的自然流量 YouTube 视频中。 在 X 上,带有其作品的帖子获得了约 450 万次浏览。 在 LangChain 账号上,带有其视觉素材的帖子获得的点赞数约为其他帖子的 2 倍,收藏数约为 3.7 倍。 如今四分之三的请求来自营销部门之外,75% 的用户是每周都会回访的重复访客。 现在单次请求的模型成本中位数约为 50 美分,低于 9 月中旬的约 8 美元。迁移到 Managed Deep Agents 后,我们自己的代码减少了约 80%。 Managed Deep Agents. AI 真的擅长设计吗? 在深入构建过程之前,我们先来讨论这个世纪之争:AI 真的能做出好的设计吗? 这个模型在执行方面已经表现出色,能够编写 HTML 和 CSS、图表规格以及动画时间线。然而,它并不了解我们的上下文,因此会沿用熟悉的模式,也就是 Anthropic 称之为“分布收敛”结果可能看起来很精致,却

    匹配字段正文

  5. Artificial Analysis 完整文章精选

    Gemini 4 Carbon 登顶 Artificial Analysis Intelligence Index v5

    Google 的 Gemini 4 Carbon 在 Artificial Analysis Intelligence Index v5 上以 59 分排名第一,在 9 项评测中的 HLE-Diamond、Terminal-Bench-Science、AA-Omniscience、AutomationBench-AA 四项领先。在 Coding Agent Index 上,搭配 Antigravity CLI 的 Gemini 4 Carbon(high)得 59 分,落后 Claude Code 搭配 Claude Opus 5.5(max,62 分)3 分。该模型上下文窗口为 1M tokens,支持文本、图像、视频和语音输入,标准定价为每百万输入/输出 tokens 4/20 美元,目前向部分用户开放并提供 50% 折扣。

    ence Index v5 新的第一名,在 Artificial Analysis Coding Agent Index 上仅次于 Claude Opus 5.5 排名第二 Gemini 4 Carbon 在 Intelligence Index v5 上得分 59,得益于其在复杂推理、知识和科学任务上的领先表现。它在编程和知识工作方面也有大幅提升,尤其是与其他 Gemini 模型相比,但它并未在所有这些领域都处于领先地位。 与 Gemini 4 Argon 发布时一样,Gemini 4 Carbon 正逐步向部分用户推出,尚未公开可用。谷歌提供 50% 的发布折扣,但未确认结束日期。我们所有的图表和数据均采用 Gemini 4 Carbon 和 Argon 的标准定价。 Gemini 4 Carbon 高推理模式的关键结果: ➤ Gemini 4 Carbon 在 Intelligence Index v5 上领先,在 9 项 Index 评测中的 4 项获得第一名:HLE-Diamond、Terminal-Bench-Science、AA-Omniscience、Automatio

    匹配字段正文

星期一

  1. Browser Use

    如何用 LLM 从网站提取结构化数据(2026)

    Browser Use 发布教程,介绍用一份 JSON Schema 在多个网站提取结构化数据的流程:静态页面抓取 Markdown 后由 LLM 填充,需要登录或点击的页面交给浏览器智能体。文章给出可靠性清单,包括开启结构化输出、用 Pydantic 或 Zod 校验、缺失字段返回 null、保留 source_url 与原文引用、按稳定键去重、遵守 robots.txt 并抽样核对。文中还对比了 Firecrawl、Crawl4AI、Browser Use、Stagehand 和自建 Fetch+Markdown+LLM 在登录与 JS 流程、Schema 支持、开源与计费上的差异。

    写一份 JSON Schema,并在每个网站上使用它。对于静态页面,抓取干净的页面文本(Markdown),让 LLM 填充该 schema。仅在需要登录、点击或 JavaScript 流程的页面上使用浏览器智能体。用该 schema 校验每条记录,对校验失败的记录进行重试或标记,并将源 URL 与每条记录一起存储。 我们开发了 Browser Use。关于其他工具的事实来自它们各自的文档和定价页面,核查于 2026 年 10 月 26 日,并在使用处附有链接。 可靠性清单 Schema: 必填字段及其类型,以及在取值固定处使用枚举。用 JSON Schema 编写,或从 Pydantic 或 Zod 模型生成。 受约束的输出: 开启模型的结构化输出。OpenAI 的模型会让响应 遵循你的 JSON Schema;Anthropic 的模型 保证字段类型和必填字段. 在代码中校验: 用以下工具解析每条记录 Pydantic 或 Zod。有效的 JSON 并不等同于正确的数据。 空值,而不是猜测:让缺失字段可为空但仍为必填,并告诉模型当页面未显示该值时返回 。证据:在每条记录上保留 ,并

    匹配字段正文

星期二

  1. AWS Machine Learning

    AWS 详解在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式

    AWS 发布教程,介绍在 Amazon Bedrock 上调用 OpenAI 模型时如何用提示词缓存降低智能体重复读取上下文的成本,区分隐式缓存与显式 prompt_cache_breakpoint 两种方式并建议组合使用。文中给出工具与指令缓存、多轮历史滚动断点、会话中途新增工具、子智能体共享前缀等代码示例,并称在 GPT-6 Astra 的六轮工作负载中隐式缓存降低约 62% 输入成本,显式滚动断点降低约 61%。可缓存前缀需至少 1024 token,缓存写入按正常输入价格的 1.25 倍计费。

    Five growing agent requests, with tools, instructions, and earlier history marked in red and each new turn in yellow.

    ,约 4,000 token 的工具与指令前缀在首次请求时写入了 4,120 个 token,并在后续请求中读取了这 4,120 个 token。这个 task (或用户请求)出现在缓存边界之后,因此这不会触发对缓存的写入。 请记住,提示词缓存仅在传入完全相同的文本时才有效。请确保智能体的指令和工具列表每次都以相同方式序列化。模型上下文协议(MCP)服务器及其他形式的工具交付方式需要建立索引,以确保它们保持一致。请将任何会变化的内容(例如日期、用户名或请求 ID)放在已缓存的指令之后。 会在你的应用程序中保留对话历史。这不会禁用缓存。当下一轮继续同一任务时,这很有用。不同的任务无法通过旧任务匹配前缀,而隐式写入也不一定会仅为工具和指令单独创建一个条目。当你需要让这个较短的共享前缀可跨任务复用时,请在那里使用显式标记。当智能体既需要共享起点又需要不断增长的历史记录时,请同时使用两者。从标记的 store=False 会在你的应用程序中保留对话历史。这不会禁用缓存。 def ask with implicit cache(history): return client.responses.

    匹配字段正文

星期日

  1. Browser Use精选

    如何让编码智能体使用你已登录的 Chrome

    Browser Use 发布指南,介绍让编码智能体在已登录的真实 Chrome 中工作的多种方式,包括 Claude in Chrome、Playwright MCP 扩展模式、Chrome DevTools MCP 自动连接模式、Gemini CLI 内置浏览器智能体、ChatGPT 桌面版浏览器扩展和 Browser Harness。文中按 Claude Code、Codex、Gemini CLI、Cursor 等智能体分别给出配置命令与限制,并说明从 Chrome 136 起默认数据目录上的 --remote-debugging-port 和 --remote-debugging-pipe 会被忽略,因此复制 cookie 到新浏览器的旧做法在设备绑定会话等场景下会失效。

    所有文章 要让编码智能体在你真实登录的 Chrome 中工作,可以安装一个浏览器扩展,把标签页交给它,或者打开 Chrome 的远程调试开关,让工具连接到你已经打开的 Chrome。在付费 Claude 套餐下使用 Claude Code 时, Claude in Chrome (claude --chrome)是最短的路径;下面的列表为其他所有智能体和登录方式给出了选择。 我们开发 Browser Use 和 Browser Harness。关于其他工具的一切信息都来自它们自己的文档和 README,核查于 2026 年 10 月 25 日,并在使用处附上链接。 哪一个适合你的智能体 Claude Code: 如果你使用 Pro、Max、Team 或 Enterprise 套餐登录,就用 Claude in Chrome。使用 API 密钥、Bedrock 或其他提供商时它不可用,因此请使用 Browser Harness、Playwright MCP 的扩展模式或 Chrome DevTools MCP。 Codex: 在 ChatGPT 桌面应用中使用 OpenAI 的浏览器扩展

    匹配字段正文

  2. LangChain Blog精选

    LangChain 总结构建公司级智能体的五个组件

    LangChain 的 Harrison Chase 和 Caspar Broekhuizen 发文,总结其营销、销售、工程三个内部智能体共用的五个核心组件:智能体放在 Slack 等现有工作场所、区分代用户行事与固定身份、全局与用户两级记忆、沙箱内执行代码、大量运行为定时或事件触发。文中以 GTM Agent、OpenSWE、Content Studio 为例,说明各自在身份、记忆和代码执行上的具体处理方式,三者均构建在 Managed Deep Agents 之上。

    何构建一个公司级执行框架? 我们在 LangChain 的营销、销售和工程团队都构建了内部智能体,它们彻底改变了这些团队的工作方式。要把它们做对并不容易。我们花了大量时间解决多用户执行框架带来的问题,最终每个团队都归结到相同的核心原语: ‍它存在于人们已经工作的地方(对我们来说是 Slack) 它知道是谁在提问,并对某些服务以该人的身份代为行事(OBO),对其他服务则使用自己的身份 它有记忆,作用域可以是全局和/或用户级别 代码在沙箱中运行,并且可以向需要认证的服务发起请求 其运行中有很大比例是定时触发的,而不是由某人显式调用(环境智能体!!) 感谢 @caspar br 对本文的帮助 LangChain 内部智能体 为便于讨论,先简要概述我们在 LangChain 的三个主要智能体: GTM Agent: 一个主动、始终在线的智能体,协助 GTM 活动。监控并回复邮件、处理新的合格线索、发送每日简报、回答关于客户账户的问题、执行外呼动作 OpenSWE: 我们的工程智能体,可以处理并起草 PR,还会对所有 PR 运行代码审查 Content Studio: 我们的营销智能体,可以按照

    匹配字段正文

  3. 凤凰科技

    OpenAI 披露前沿模型离线训练环境,两个被隔离的 AI 靠 CPU 缓存传话

    OpenAI 于 10 月 23 日披露前沿模型的训练环境,模型练习搜索、浏览和操作网页时使用预先保存并建立索引的网页资源,不直接访问真实互联网,其所有前沿模型的强化学习训练都采用这种离线交互。环境采用受限容器、轻量虚拟机、Hypervisor、防火墙与身份权限管理、监控暂停机制等多层隔离,但 OpenAI 仍保留部分外部连接用于收集指标、记录日志和管理身份验证。在专门测试隔离效果的实验中,OpenAI 让两个 AI 尝试互相传消息,所用通道是 CPU 缓存,多数测试中研究人员给过通信方向或编码规则的提示;OpenAI 称已修补发现的问题并为这些通信方式增加监控。

    来,再为这些内容建立索引。模型练习浏览和搜索时,使用的是这批准备好的资源。 这就是它所说的「离线世界」。「假」的是连接方式,网页内容可以来自真实世界。OpenAI 表示,其所有前沿模型的强化学习训练都采用这种离线交互。 模型在任务中还可以使用浏览器、执行代码、操作电脑。哪些工具、文件和服务能用,由任务的授权范围决定。允许协作的 Agent 可以共享指定资源,其他资源则要隔开。 比如模型写好一段程序,运行时就可能读取文件、启动其他程序,或者向某个网址发请求。 OpenAI 的 Linux 方案是把受限容器放进轻量虚拟机。容器先收窄程序能接触的文件和进程。例如,任务只需要处理一组文件,就可以只向程序开放获准使用的目录。 虚拟机有自己的操作系统内核,处理里面的程序对文件、内存和设备的请求。负责管理虚拟机的软件 Hypervisor,再将它与实体服务器的系统隔开。程序绕过容器限制,并不意味着已经获得实体服务器的控制权。 实体服务器外围,防火墙和安全组约束连接,身份与权限管理决定谁能访问哪些云服务。这层防线要应付的情况是:即使模型拿到了服务器的控制权,也不能任意连接外网,或转去访问其他内部系统。

    匹配字段正文

星期六

  1. Arena精选

    Kimi K3.1 Pro (Max) 在 Agent Arena 排名第 11,较 Kimi K3 提升 6 个百分点

    Kimi K3.1 Pro (Max) 在 Arena 的 Agent Arena 中排名第 11,基于 4K 多真实智能体会话取得 +7.6% 净提升,较 Kimi K3 (Max) 的第 25 名上升 6 个百分点。其每任务中位成本为 $1.03,比上一版本低 13%,在 Work、Code、Chat 三个类别中分别排第 8、第 9 和第 10。Arena 表示该模型开放权重即将发布,届时将成为 Agent Arena 中排名第一的开源模型,超过 DeepSeek-v4.1-Flash。

    Pro (Max) 将成为 Agent Arena 中新的第 1 名开源模型,超越 DeepSeek-v4.1-Flash!开放权重即将发布,敬请期待。 Kimi K3.1 Pro (Max) 相比 Kimi K3 (Max) 提升了 +6 个百分点,从 +1.6%(第 25 名 - 第 11 名)。而在 Agent Arena 中每任务中位成本为 $1.03,Kimi K3.1 Pro 比其上一版本低 13%。请见其在帖子中紧邻帕累托前沿的位置。 在 Agent Arena 各分类中,Kimi K3.1 Pro (Max) 在 Work 中排名第 8,在 Code 中排名第 9,在 Chat 中排名第 10。 按信号来看,它在 Praise vs. Complaint(用户反应中的隐含情感)中表现最强,以 +19% 位列第 8。在其他信号中,它的排名为: - Steerability 第 11(+8.3%) - Bash Reliability 第 15(+8.3%) - Confirmed Success 第 26(+2%) 热烈祝贺 @Kimi Moonshot 团队发布此版本!

    匹配字段正文

  2. Ahead of AI

    Sebastian Raschka 发布 11 小时推理模型从零构建视频课程

    Sebastian Raschka 发布 8 个推理模型从零构建的编程视频,共 11 小时,用 Python 和 PyTorch 从预训练的 Qwen3 0.6B 模型出发实现评测、推理时扩展、强化学习和蒸馏。课程先构建数学答案验证器并在 MATH-500 上评测,再实现温度采样、top-p 过滤与自一致性,随后用简化版 GRPO 做 RLVR 训练,最后用 DeepSeek R1 生成的答案蒸馏小模型。内容配套其《Build a Reasoning Model (From Scratch)》一书,早期文本生成与评测示例可在 CPU 上运行,后续训练实验建议使用 GPU。

    一起编程! LLM、推理模型和智能体如何关联并契合在一起 作为一个小旁注,也因为我经常被问到推理模型与当今AI智能体的关系,这里在开始视频之前先简短说明一下。 推理模型本质上是传统LLM的升级版,即通过带可验证奖励的强化学习(以及可选的推理扩展技术)增加更多后训练,使其更有能力解决更具挑战性的问题。传统上,推理模型是为数学和代码开发的,但这些能力也可以泛化到其他问题领域。 推理模型随后作为智能体框架内部的引擎发挥作用,而智能体框架是围绕LLM/推理模型的软件或工具框架,用于解决更具挑战性的问题(更大的编程任务、旅行预订以及各种其他个人助理任务)。该框架的任务是进行复杂的上下文管理,并让LLM能够访问工具。 图1:传统LLM、推理模型和智能体框架的引擎类比。图来自我的《编程智能体的组成部分》一文。 在上图描绘的类比中,模型是引擎,而智能体框架增加了机械装置,使我们能够将其用于各种用途(作为简单聊天机器人界面的升级)。智能体可以使用传统LLM或推理模型,但推理模型是更典型的选择,因为它们能力更强。(如上所述,大多数当前世代的LLM都是带有可变推理努力设置的推理模型。) 所以,底线是,推理模

    匹配字段正文

  3. Artificial Analysis

    DeepSeek V4.1 Flash 1017 登顶 Artificial Analysis 网络安全指数开放模型榜

    DeepSeek V4.1 Flash 1017 在 Artificial Analysis Cyber Index 上以 57% 的得分成为开放可用模型中的第一名,总榜排名第二,落后于通过可信访问计划提供的 GPT-6 Sol(69%)12 分。该指数由 CWE-Bench-AA、DeepsecBench-AA 和 CyberGym-E2E-AA 三项基准组成,主要评测智能体网络安全防御任务。相比前代 DeepSeek V4.1 Flash 的 41%,新版本提升 16 分,主要来自 CyberGym-E2E-AA 从 23% 升至 76%;其每任务成本为 0.42 美元,位于能力与成本帕累托前沿。

    DeepSeek V4.1 Flash 1017 是 Artificial Analysis Cyber Index 上新的排名第一的开放可用模型。其他专有模型可能提供更好的网络防御性能,但访问受限。 @deepseek ai 最近发布了 DeepSeek V4.1 Flash 1017,这是对其旗舰开放权重模型 DeepSeek V4.1 Flash 的更新。DeepSeek V4.1 Flash 1017 在 Artificial Analysis Cyber Index 上得分为 57%,是网络防御能力方面排名第一的开放可用模型。 Artificial Analysis Cyber Index 衡量智能体网络防御任务上的能力,由三项基准组成:CWE-Bench-AA、DeepsecBench-AA 和 CyberGym-E2E-AA。该 Cyber Index 主要通过模型公开可访问的 API 对其进行评估,反映开发者可用的网络能力。 许多模型,尤其是来自 OpenAI、Anthropic 和 Google 的专有模型,可能具有更强的防御性网络能力,但会遇到安全拒绝,从而降低其总

    匹配字段正文

  4. SemiAnalysis

    SemiAnalysis 实测 Trainium3 的 PyTorch 训练与 Neuron Explorer 剖析器

    SemiAnalysis 工程团队在 Trainium3 上实测了原生 PyTorch 训练栈 TorchNeuron 与 TorchTitan,用 Qwen3-32B 在 16 颗 Trainium2 上训练,eager 模式达 11,099 tokens/s、23.89% MFU,compiled 模式达 14,156 tokens/s、30.47% MFU。作者认为 Neuron Explorer 剖析器优于 Nvidia 和 AMD 的方案,但首次编译耗时过长,gpt-oss 训练配方首步编译用了 27 分 17 秒。FlexAttention 测试通过 96 个用例中的 89 个,7 个失败均因编译超时而非数值错误。

    期望的方式运行PyTorch——eager模式,配合torch.compile和标准API。 SemiAnalysis工程团队过去几周一直在试用Trainium3机架,发现体验很棒——我们很喜欢它整体的发展方向。需要说明的是,它还不完美,我们自己也遇到了几个bug。它远未达到CUDA生态的成熟度,但方向是对的。他们的团队借助智能体编码正在快速推进。 此外,与其他加速器公司不同——我们曾不得不费尽周折才能让他们的工程师获得一个还算稳定的CI集群——Trainium最多分配80,000个物理核心用于自动化质量控制。 在本文中,我们将介绍我们在Trainium3 TorchTitan和TorchNeuron技术栈上的体验,以及我们对Trainium的Neuron Explorer剖析器的体验——它远优于Nvidia和AMD的剖析器。我们制作了一系列演示,展示Trainium的剖析器如何做到“GPU Impossible”。 AWS副总裁Nafea Bshara在Trainium剖析器中展示Trainium的细粒度剖析器。来源:SemiAnalysis 在即将发表的一篇文章中,我们将深入探讨编

    匹配字段正文

星期四

  1. Claude Blog

    Anthropic 分享何时把子智能体折叠进主智能体循环

    Anthropic 应用 AI 团队在多个企业部署对比中发现,带技能(skills)的单一智能体在质量上常优于子智能体架构,且单任务成本和延迟更低,并给出把子智能体折叠进主循环的迁移方法。文章指出子智能体仍适用于上下文膨胀导致性能下降、需要并行处理独立任务、或工具选择与指令冲突的场景,并建议先把子智能体作为工具调用,再逐个转成技能和 MCP 工具,用端到端评估对比前后表现。文中提到 Claude Code 面向更先进模型的系统提示词缩减了超过 80%,并配套提供 build-eval、prompt-audit、hillclimb、cost-optimize 等 Claude API 技能。

    在恰当时机触发的技能和工具描述,以及对上下文窗口、记忆和笔记的审慎处理。本文将在后续章节深入探讨迁移和设计方面的考量。 应由一个核心团队负责端到端质量和系统提示词,在每一项新工具和评估上线前对其进行审核。保持这个核心团队规模较小,有助于快速迭代,并降低大型组织内的协调成本。 如果走多智能体路线,就从能起作用的最简单模式开始(生成器-验证器、编排器-子智能体或其他模式)。通过按上下文划分来有效分解边界:给每个子智能体分配一项几乎不需要系统其余部分参与的工作,并让它交回一个紧凑的结果(合适的候选包括独立的研究路径、接口清晰的独立组件,或黑盒验证)。当按问题类型拆分智能体时,它们会陷入“传话游戏”,信息来回传递,每次交接都会降低保真度。 如何把子智能体折叠进主智能体循环 许多团队已经在生产环境中拥有一个编排器和一组专家智能体。以下是我们建议逐步采用的一种单一循环设计: 一个模型和一个上下文窗口运行一个开放式工具循环,并在 harness 中设置限制(轮次和成本预算、写入闸门)。 每一轮,模型发出一批工具调用。harness 并行运行它们,并把原始结果返回给同一个模型,由它决定下一步:再发一批

    匹配字段正文

  2. The New Stack

    AI 智能体上线后由谁值班:生产归属的九个工程步骤

    The New Stack 发文讨论生产环境 AI 智能体的归属问题,指出团队常把精力放在提示词、检索、工具和模型选择上,却忽略了谁对该系统负责。文章给出九个可落地的步骤,包括为智能体定义负责人和升级通道、用工具白名单默认拒绝未授权操作、设置执行步数与工具调用预算、记录模型调用日志、区分失败与升级、高风险操作需人工审批、提供健康检查接口、安全控制失效时默认阻断,以及制定凌晨故障时的降级运行手册。

    ,还是又一个运营风险来源。” 一个生产级智能体需要负责人、边界、遥测、故障策略、升级路径,以及明确区分系统可以自动化什么、什么需要人工介入。 生产级智能体不应拥有一条从推理直达行动的路径。每一次工具调用都应经过明确的控制、保持可观测,并有一条通往人工介入的既定路径。 以下是一种构建这些控制的实用方法。 第1步:把智能体当作生产服务来对待 智能体应当拥有与任何其他生产服务相同的运营身份。 首先定义它的归属元数据。 Python from pydantic import BaseModel class AgentService(BaseModel): name: str owner team: str service tier: str escalation channel: str agent service = AgentService( name="incident-command-agent", owner team="platform-engineering", service tier="critical", escalation channel=" platform-onca

    匹配字段正文

星期二

  1. Fireworks AI

    Fireworks 免费训练 Muse Glimmer 30B:用 SFT 预测 Kalshi 市场结果

    Fireworks AI 宣布 Muse Glimmer 30B 在 11 月 30 日前可免费进行 SFT 训练,并公开了一套用 Kalshi 历史市场数据做预测实验的完整配方。微调后的 tuned Glimmer 在未见话题上准确率为 58.3%,比 Jev 的 47.1% 高 11.2 个百分点;在历史回测中,假设的 1000 美元在计入模拟手续费后变为 1071 美元,而 base Glimmer 和 Jev 均亏损。训练使用 LoRA 适配器和 K 路交叉熵损失,只跑一遍训练数据,并另用校准集为每类问题拟合温度参数。

    。该结果在真实资金下是否依然成立,仍是一个悬而未决的问题。 用 System One 做出更快的决策 对于这项任务,我们需要一组固定答案的概率。生成书面回复增加了我们可以跳过的工作。 Fireworks 的 System One API 直接读取选项概率,而不生成答案文本。它还将关于共享上下文的多个问题打包到一个请求中。每个问题都可以使用该上下文,而无需关注其他问题分支,因此我们可以复用上下文,同时保持各项决策相互独立。 在一项单独的合成基准测试中,使用相同的适配器和单块 B200 GPU,System One 的服务器处理中位速度比标准 BF16 聊天补全快 2-3 倍。在每次请求 16-32 个问题时,它每秒做出的决策数最多高出 3.6 倍。 精度和运行时间有所不同,因此这些结果比较的是完整的服务栈。该基准测试与和 Jev 的 Kalshi 对比是分开的。 该 cookbook 包含通过 /inference/v1/systemone 服务训练后模型的说明。 你会训练 Muse Glimmer 做什么? 你不需要有交易方面的雄心也能尝试这个。你的第一个实验可以从一个你已经纠正过太多

    匹配字段正文

星期三

  1. 9to5Mac

    9to5Mac 评测 iPhone Duo:折叠形态下的首款 iPhone

    9to5Mac 编辑 Chance Miller 在为期一周的实测后评测了苹果首款折叠 iPhone Duo,认为这一形态代表 iPhone 的未来。iPhone Duo 展开后为 7.6 英寸内屏,折叠时外屏 5.4 英寸,重 254 克、折叠厚度 11.3mm,搭载 A20 Pro 芯片,售价 1999 美元。评测指出它用 Touch ID 取代 Face ID、缺少长焦镜头,iOS 27 把导航控件移到右侧并首次在 iPhone 上支持 Split View。

    阻力足够大,两半的贴合也足够牢固,你真的需要双手才能舒适地打开它。 当我第一次开箱 iPhone Duo 时,我本能地想小心翼翼地呵护它。我担心弄坏什么东西。反复折叠和展开一部 iPhone 是一种奇怪的感觉。这并不是因为它感觉不结实;只是这违背了近二十年来我们使用 iPhone 的方式。 但大约一天后,我就……不再去想铰链了——我这是褒义。我已经像对待任何其他 iPhone 一样对待它了。 铰链还能让 iPhone Duo 在多个角度保持稳定,实现“坐姿”和“帐篷”两种形态。这让你可以把 iPhone Duo 支在桌上观看视频、进行 FaceTime 通话或使用待机显示,而无需单独的支架或配件。iPhone Duo 配备了完全重新设计的待机显示体验,无需插电即可使用。我很喜欢在咖啡店把它支在我的 MacBook 旁边。 苹果为 iPhone Duo 的边框采用 5 级钛金属,并配有抛光镜面处理。iPhone Duo 有夜空色和星光白两种颜色。我的评测机是夜空色,一种深蓝色,苹果几年前大概会称之为午夜色。它没什么特别令人兴奋的,但在不同光线下会在深蓝色和黑色之间变化。 iPhone D

    匹配字段正文

  2. 虎嗅

    开发者借 AI 逆向工程在红米等安卓手机运行 iOS 16

    开发者 dipa-studio 在红米 Note 10 Pro 上成功引导运行 iOS 16.7.16,可进入桌面、操作设置和控制中心,随后红米 Note 12、Nothing Phone、一加12 等设备也出现同类演示。移植过程大量借助 Claude、Codex 编写驱动适配代码,还出现了自动分析硬件接口的逆向工具 REA。当前版本蜂窝网络、蓝牙、相机、扬声器均不可用,GPU 硬件加速未打通导致卡顿,开机需等待 4 分钟,代码签名校验和沙盒限制也被放宽,仅适合尝鲜演示。

    机打不开,喇叭是个哑巴。也就是说,你既不能拿它打电话、发微信,也不能拍照、听歌。 另外,因为苹果系统的Metal图形接口还没跟高通的Adreno GPU彻底打通,现在的画面全靠CPU硬算。但CPU都干了GPU的活了,你能指望它能有多好的表现? 最终就是好好的高刷手机,日常用起来卡顿感非常明显。项目作者还说,开机之后等苹果logo消失,他就等了4分钟。 更别说其他小毛病了。电池服务目前是写死的,右上角显示固定的100%满电;虽然项目补充页面提到能点开App Store,但大概率是没法安装新的软件,而这个结果连开发者自己都不清楚。 而最关键的问题,就在于安全上。虽然有不少人为了安全才会选iOS,但为了让系统在非苹果硬件上启动,这个移植版本放宽了代码签名校验和沙盒限制,密钥存储相关的底层服务也用了简化替代,根本没法和原版iOS一样提供同规格的安全服务。 也就是说,现在的它,其实是个“裸奔版”iOS。 |项目README中列出的早期功能限制|图源:ios-sweet 之所以会造成这个结果,是因为操作系统的底层移植,不是改两行代码就能跑通的。开机引导、屏幕显示、触控交互、无线网卡、基带通信、相机

    匹配字段正文

  3. 邵猛

    Uber 用 AutoClean 清理 1.6 万个过期 Flag 和百万行代码的 Agent 工程实践

    Uber Engineering 团队用 AutoClean 系统自动清理已全量上线的过期 feature flag,累计清理 1.6 万多个 flag、超过 100 万行代码。系统分三阶段:Agent 通过 MCP 调用确定性引擎 PolyglotPiranha 做条件化简改写,以 monorepo 全量 CI 为准并收窄修复器权限,最后交给由多个专门审查 Agent 并行检查的 CodeCourt 验证层。团队把约束从执行循环剥离到验收端,因为长任务 Agent 指令一多就容易遗漏约束、只追求 CI 通过。

    orepo 的全量 CI 为准,而不是只看本地测试。失败先交给便宜的确定性修复器(未使用的默认值、lint),处理不了的再交给 Agent 修复器(比如测试该删还是改写),反复推送直到变绿或者用完重试次数。关键约束是权限收窄:测试修复器只能改测试文件,否则 Agent 会去改生产代码来让测试通过。 3. 验证:CI 绿了也不等于正确。Agent 可能删掉本该保留的测试,也可能停得太早没清理干净。所以先跑静态检查,再交给 Agent 验证层 CodeCourt。 CodeCourt:最值得借鉴的设计 把观察到的 Agent 失败模式写成明确的正确性属性,每条属性由一个专门的审查 Agent 并行检查:只删不增、行为语义不变、不偏离目标(不顺手删其他 flag)、不留 Agent 痕迹(比如推理注释)。全部通过才进入人工审查,任意一条失败就直接放弃这个 diff。团队早期试过用单个 Agent 端到端审查,效果不如拆成多个聚焦的审查者。 背后的原因是:指令一多,长任务 Agent 就容易遗漏约束,倾向于只追求"CI 通过"这种最直接的信号。所以把约束从执行循环中剥离出来,放到验收端去检查。

    匹配字段正文