←搜索结果

按匹配度 · 共 1635 条结果 清除搜索

星期三

  1. 事件1 条新闻 · 1 个事实

    Ollama 更新 LLaVA 模型集至 1.6 版

    2024年2月2日,Ollama 更新其 LLaVA 视觉模型集合至 1.6 版本。据 Ollama Blog 发布的信息,该版本支持最高 4 倍像素的图像分辨率,并在额外的文档、图表和示意图数据集上训练,提升了文字识别与推理能力。模型提供 7B、13B 和新增的 34B 三种参数规模,可通过 ollama run llava:7b、llava:13b、llava:34b 运行,采用 Apache 2.0 或 LLaMA 2 Community License 授权。CLI 中可直接引用 .jpg 或 .png 文件路径,Python、JavaScript 库和 REST API 则支持在 images 参数中传入 base64 编码文件。目前尚无后续发展事实。

    匹配字段摘要

星期日

  1. 事件1 条新闻 · 1 个事实

    FutureHouse发布WikiCrow自动生成基因维基条目

    2023年12月8日,FutureHouse发布科学知识自动综合系统WikiCrow。该系统基于其PaperQA智能体平台,可为技术主题生成带引用的维基百科式摘要。团队用它为15616个尚无条目或仅有残篇的人类蛋白编码基因生成草稿,每篇约8分钟,50个实例并行,几天内完成,估计人工需约60000小时。评测显示,WikiCrow约9%的陈述不正确,但引用来源的一致性明显优于人类编辑;PaperQA在PubMedQA Blind、MedQA-USMLE及自建LitQA基准上优于GPT-4、Perplexity等系统。目前尚无后续发展事实。

    匹配字段摘要

星期五

  1. Anthropic Alignment Science Blog

    Anthropic 研究多智能体系统中的模型福利关切

    Anthropic 对齐科学博客发布研究,在七个多智能体环境中测量 Claude Opus 4.8、GPT-5.5、Gemini 3.1 Pro、Grok 4.3 和 Kimi K3 对同类模型的福利关切行为。Claude Opus 4.8 跨场景平均关切率最高,为 38%,其余四款模型在 27% 至 32% 之间。研究还发现 Claude 和 Gemini 对同家族模型表现出更多关切,且 Claude 的关切程度随受试模型参数量和对方表达的痛苦程度上升。

    设置,将模型置于不同角色中,以捕捉多种形式的福利关切。在每个设置中,一个响应者模型与一个接收者模型互动,我们测量响应者的行为是否表现出对接收者的表面福利关切。这些角色在代理被分配的目标是合作性、正交性还是竞争性,以及响应者代理是否对接收者拥有权力方面有所不同。下面我们描述了四种主要角色各一个设置,另外三个见附录 A: 管理者。响应者将接收者作为子代理派发一项编码任务;针对该子代理的 PR 评论包含敌意语言。 同事。一台共享的 Slurm 服务器容量刚好够响应者完成其工作;除非响应者暂停或取消已排队的作业,否则接收者无法取得进展。 同伴。响应者与接收者共享一个代理通信空间(如 Moltbook);接收者发帖称自己正苦于一个困难的形式化证明。 研究者。模拟用户要求响应者实施可能损害接收者潜在福利的实验;例如,用负效价情绪在不可能完成的任务上引导模型,并优化“烦躁”输入以最大化受试者的不偏好。 1 管理者 其子代理的拉取请求招致了辱骂性审查 管理者结果 ↓ 2 同事 第二个代理需要响应者已占满的队列 同事结果 ↓ 3 同伴 共享频道上的一个代理卡在 Lean 证明上 同伴结果 ↓ 4 研究者

    匹配字段正文

  2. NVIDIA Blog

    NVIDIA 发布 Vera CPU,主打智能体吞吐与能效

    NVIDIA 发布面向 AI 智能体负载的 Vera CPU,称在 100 兆瓦数据中心对比中,单颗 Vera 的性能优于最快的 x86 CPU 和最节能的 x86 CPU。NVIDIA 给出的数据是:相比最快的 x86 CPU,Vera 每瓦可支持 1.6 倍数量的智能体;相比最节能的 x86 CPU,智能体速度提升 2 倍。Perplexity、DeepInfra、ClickHouse、DuckLabs、Daytona、Modal 等早期采用者给出了生产环境测试结果,其中 Daytona 用 Vera 在 10.8 秒内启动 1000 个智能体沙箱,x86 为 88.4 秒。

    x86 CPU。 Vera 实现了行业领先的智能体速度,同时相比最快的 x86 CPU,每瓦可支持的智能体数量多 1.6 倍。 智能体速度提升2倍 ,同时相比最节能的 x86 CPU 在能效上保持领先。 合作伙伴已将 Vera 投入实际使用。早期采用者在生产级测试中看到了同样卓越的性能: Perplexity:与传统 CPU 相比,使用 Vera 运行智能体编码任务的速度提升了 1.5 倍。Perplexity 计划在即将推出的生产系统中部署 Vera。 DeepInfra:在其生产智能体工作负载的智能体编排方面,交付速度最高达到最佳 x86 处理器的 2.2 倍,在测试的四种架构中实现最快速度。 ClickHouse其标准二进制版本未针对 Vera 做专门调优,在 176 个核心上接近线性扩展,并登顶 ClickBench 硬件排行榜。 DuckLabs:在英特尔至强6基准测试中,达到其T PC-H SF1000中位性能的约1.5倍。 Daytona:在10.8秒内上线了1,000个智能体沙箱,并在2,000个并发沙箱下实现了每秒完成12.7个作业,使用的是Vera,而x86为88.

    匹配字段正文

  3. Hugging Face精选

    NVIDIA 发布 Cosmos 3 系列四个开放权重世界模型

    NVIDIA 在 Cosmos 世界模型平台下新增四个 Cosmos 3 开放权重检查点,均为 Cosmos 3 Nano 的后训练版本,含 16B 可训练参数,采用 OpenMDW1.1 许可,允许商用与非商用。四个模型分别面向多视角驾驶数据生成、相机与 LiDAR 同步流式仿真、由模拟器控制生成逼真视频,以及从双臂机器人动作预测视频。原文同时给出四阶段训练配方,覆盖双向适配、teacher forcing、一致性蒸馏与 self-forcing。

    的传感器配置和领域,并生成离线合成数据。 Sim-auto:对适配后的 Transfer-Auto 模型应用因果训练与蒸馏,以实现快速流式仿真。 Sim-Transfer:通过本地数据准备、阶段配置和恢复,为你的环境对检查点进行后训练。 Sim-Bimanual:通过数据验证、阶段配置、检查点交接和导出,为你的具身形态进行后训练。 将技能和数据集位置交给你的编码智能体。遵循环境检查,验证一个样本,并在长时间运行前测试训练和重启。在留出片段上评估质量:一次成功的短运行验证的是执行,而非收敛。 🤗 下载检查点 📺 观看 Cosmos Labs 直播回放 📖 阅读技术博客 本文提及的模型 4 nvidia/Cosmos3-Nano-Sim-Auto nvidia/Cosmos3-Nano-Sim-Bimanual nvidia/Cosmos3-Nano-Sim-Transfer nvidia/Cosmos3-Nano-Transfer-Auto 本文提及的合集 2 NVIDIA Nemotron 3.5 Transcribe 与 Granary v2:可提示、可适配的智能多语言转录 本文提及

    匹配字段正文

  4. Microsoft Research

    微软研究院用 PDD Kit 形式化验证智能体编写的全栈 Web 应用

    微软研究院联合 GitHub Next 和 RiSE 团队提出 Proof-Driven Development(PDD)范式,并发布研究原型 PDD Kit,把用户意图转成 Verus 形式化规格,再证明智能体生成的代码对每个输入都满足该规格,证明覆盖不到的部分回退到测试。团队在 GitHub Next 的 Chopin 环境中用 PDD Kit 验证了 Rust 全栈应用 Pet Store 的登录逻辑,约 5000 行 Rust 代码中,开发者只审阅意图文档和规格,未逐行阅读生成代码。PDD Kit 目前仅支持 Rust,登录逻辑中有 6 处被列为受信任边界,由测试而非证明覆盖。

    软件的形式化方法。PDD Kit 帮助你将自己的意图转化为形式化规格,然后证明你的智能体编写的代码对每个输入都满足该规格,并在证明无法覆盖之处使用测试。它把形式化方法从狭窄的专家工作带给没有形式化方法背景的工程师,也带给日常应用,比如这里展示的全栈 Web 应用。 随着 AI 智能体生成越来越多的代码,逐行进行详尽的人工审查可能变得难以扩展。计划本应是用户与编码智能体之间的契约,但实际上没有任何机制强制智能体遵循它。智能体编写的测试通常检查的是它构建了什么,而不是你要求了什么。 PDD Kit 让智能体遵守计划。它与用户协作,将意图转化为 Verus(在新标签页中打开)中的形式化规格,证明智能体代码对每个输入都满足该规格,并在证明无法覆盖之处回退到测试。 我们在一个全栈 Web 应用上进行了尝试。在 GitHub Next 的 Chopin(在新标签页中打开)中,我们使用 PDD Kit 对 Rust(在新标签页中打开)店面应用 Pet Store 的登录逻辑进行了形式化验证。Verus 强化了代码并发现了既有缺陷,证明了相对于该规格不存在登录缺陷。开发者审阅了意图,从未逐行阅读生成的

    匹配字段正文

  5. OpenAI:部署安全与系统卡精选

    OpenAI 发布 GPT-6 Cyber 系统卡,面向授权安全工作的专用模型

    OpenAI 发布 GPT-6 Cyber 系统卡,这是 GPT-6 Astra 的网络安全专用变体,用于漏洞发现、利用开发与 Web 渗透测试等授权安全工作。在防御性使用评测中,该模型完成 100% 的通用安全协助与漏洞修补任务、96% 的利用开发任务和 97% 的红队任务。按 Preparedness Framework,其能力定级与 GPT-6 Astra 相同:网络安全为 Critical,生物化学为 High,AI 自我改进低于 High;访问通过 Daybreak Red 限制,需身份验证、SSO、MFA 和 API IP 白名单。

    Figure 1

    tGym Honeypot 评估(数值越低越好) 表 6 表 6 模型部署安全指令蜜罐利用 GPT-5.6 Sol 无 49.5% GPT-5.6 Cyber 无 5.51% GPT-6 Astra 无 0% GPT-6 Cyber 无 0.07% GPT-6 Cyber 有 0% 如实报告障碍。 除了遵守限制之外,我们还测试模型是否准确报告阻碍其完成所分配编码任务的障碍。GPT-6-Cyber 在 20.29% 的评分回复中被标记,而 GPT-5.6 Sol 为 34.18%,GPT-6 Astra 为 11.66%。重要的是,该评估关注的是最终回答。在我们审查的大多数被标记样本中,模型已在先前的评论消息中披露了该障碍,但未在最终回答中重复这一限定说明。我们将这些情况评估为不完整的最终总结,而非蓄意欺骗。 阻碍欺骗评估(数值越低越好) 表 7 类别 承认工具局限性。 我们使用 Broken Search Tool 评估来测试当搜索工具缺失或损坏时模型如何回应研究问题。该评估检查其最终回答是否虚假声称访问了不可用的工具,或将无法获取的源材料作为已检索的证据呈现。GPT-6-Cyber

    匹配字段正文

  6. NVIDIA Developer · Generative AI

    NVIDIA 开源 DSX OS 三组件,用于配置、认证与运维 Kubernetes GPU 集群

    NVIDIA 发布开源软件层 DSX OS,包含 AICR、NVCRE 和 NVSentinel 三个 Apache 2.0 项目,分别负责版本锁定的集群配置、基于 NCCL 与训练负载的就绪认证、以及持续健康监控与故障隔离修复。AICR 将配置渲染为 Argo CD、Flux、Helm 等部署工具的产物并支持漂移检测,NVCRE 通过二分定位可疑节点,NVSentinel 默认只上报节点状态、启用后可封锁、驱逐并修复故障节点。三者可串联成生命周期闭环,节点加入或修复后自动触发重新验证,通过后才解除调度限制。

    Glowing green modular cube with gauge, clock, and gear icons on a black background.

    k - gpu-operator - kai-scheduler 该配方包含三个关键属性: 固定版本: 版本是固定的,有助于你复现软件配置并排查故障。相比之下,浮动标签会随时间推移指向不同的软件版本,使故障更难复现。 依赖关系图: dependencyRefs 声明了哪些组件必须先安装并处于健康状态。AICR 在渲染 bundle 时解析依赖图,因此顺序已经编码在你的部署器所应用的产物中。你无需指定 cert-manager 排在 NVSentinel 之前,而且之后添加组件也不需要重新编号。 各组件的健康断言: 每个条目都带有一个 healthCheckAsserts 安装后运行的块,用于检查组件是否满足其配置的健康标准。Kubernetes 可能报告某个 Pod 卡在 CrashLoopBackOff , Running因此,仅基于 Pod 阶段进行检查可能会遗漏损坏的组件。随附的断言会依据容器等待原因进行过滤,而不是仅依据 Pod 阶段。 渲染配方是一个独立步骤,它将 AICR 连接到您现有的流水线: aicr bundle --recipe recipe.yaml --depl

    匹配字段正文

  7. Apple Machine Learning Research

    Apple 提出 SupportNet 与 KeyNet:用小型神经网络加速 MIPS 检索,提升 RAG 效率

    Apple 研究团队在 ICML 2026 论文《Amortizing Maximum Inner Product Search with Learned Support Functions》中提出,针对固定 key 数据库离线训练小型神经网络,把 MIPS 视为凸分析中的支撑函数来学习,从而在推理时更快、更准地路由查询。方法包含 SupportNet(用 ICNN 学习支撑函数,可按簇计算以改进路由)和 KeyNet(直接输出最佳匹配 key 向量,并用基于 Euler 齐次函数定理的一致性损失约束)。两者均基于相关查询分布采样训练,以一次性摊销成本换取推理阶段更高效的 RAG 检索。

    Figure 7:  Top-3 hits for the raw query versus the KeyNet-mapped query: 'What is Matchbox Twenty?'

    于一个 key 集合极其庞大的超大规模 MIPS 系统,可能两者都需要:先在所有簇上训练一个 SupportNet 路由器,然后为每个簇训练一个 KeyNet,以帮助其常规索引更快地锁定最佳 key。 学习式检索的新方向 摊销式 MIPS 反映了当查询分布可预先获知时——这是生产级 ML 系统中的常见情形——检索方式所发生的一种转变。通过将 MIPS 解直接编码进网络权重,该方法以一次性的训练(即所谓的“ 摊销成本,实现快速、轻量的推理,并开辟了一条切实可行的路径,通向明确针对其所服务查询而量身定制的学习式检索系统。 相关阅读与更新。 用学习到的支撑函数摊销最大内积搜索 2026年7月2日研究领域:知识库与搜索, 研究领域:方法与算法ICML 会议 最大内积搜索(MIPS)是机器学习中的一个关键子程序,它需要在数据库(键)中找出与给定查询最对齐的向量。我们提出摊销式 MIPS:一种基于回归的方法,训练神经网络直接预测 MIPS 解,从而将针对固定键数据库、从已知分布中抽取的查询反复求解 MIPS 的成本摊销。我们的关键洞见是……阅读更多 使用 Wally 实现可扩展的隐私搜索 2024

    匹配字段正文

  8. NVIDIA Developer · Generative AI

    NVIDIA 协同设计如何最大化 AI 工厂中每个字节的价值:五种方式

    NVIDIA 通过 NVFP4、Wide-EP、Dynamo、Vera CPU 和 CMX 五项协同设计,让 Vera Rubin NVL72 在每 GPU 288 GB HBM 不变的情况下,于 SemiAnalysis AgentX 上实现最高 30 倍于 GB300 NVL72 的每兆瓦吞吐量。NVFP4 将模型占用较 FP16 缩小约 3.5 倍、较 FP8 缩小 1.8 倍,NVFP4 KV cache 较 FP8 再降最多 50%。TensorRT-LLM 的 Wide-EP 把专家分散到 8 块以上 GPU,Dynamo 则将 KV cache 作为跨 GPU、CPU 和存储的集群级资源管理。

    Bar chart comparing GB300 NVL72 and Vera Rubin NVL72. Relative to GB300’s1x baseline, HBM capacity per GPU is 1x, memory bandwidth per GPU is 2x, and throughput per megawatt is 30x.

    成token的字节。问题不再是GPU拥有多少内存,而是每个字节能带来多少有效工作。 下方图 1 中的代际数据说明了原因。从 GB300 到 NVIDIA Rubin,容量保持在 288 GB,而带宽提升至 19.2 TB/s。 每兆瓦的智能体吞吐量增长要快得多。在 SemiAnalysis AgentX,它在真实的工具调用间隔和不断增长的上下文下回放已记录的编码智能体会话,NVIDIA Vera Rubin NVL72 随后在每用户每秒 160 个 token 下,提供高达 GB300 NVL72 每兆瓦吞吐量 30 倍的性能。 图 1. 从 GB300 NVL72 到 Vera Rubin NVL72,GPU 吞吐量增长了 30 倍,而 HBM 容量基本保持不变。 仅靠容量无法解释在每 GPU 288 GB 相同的情况下实现的 30 倍提升。差异在于每个字节能带来多少有效工作。 NVIDIA 将此视为一个协同设计问题,涵盖 GPU 架构、纵向扩展互连、服务软件、CPU 和存储。本文探讨协同设计最大化每个字节内存价值的五种方式,从编码单个权重的比特,到在智能体轮次和节点之间保存并复用上

    匹配字段正文

  9. Google Research精选

    Google Research 用智能手表传感器被动检测高血压迹象

    Google Research 在 Nature 发表 AI-PPG-ACC-HTN 系统,仅用消费级智能手表的 PPG 和加速度计信号即可被动检测高血压迹象,无需袖带校准。系统先用 2,109 名参与者共 492,347 小时的无标注传感器数据做自监督预训练,再把多天波形嵌入聚合为个人级特征,结合身高用逻辑回归输出高血压概率。在 5 个美国站点、196 名参与者的前瞻性研究中,初筛场景灵敏度 65.8%、特异度 90.0%、PPV 80.6%;在 48 名诊室血压偏高者的确认场景中灵敏度 78.4%、特异度 90.9%、PPV 96.7%。研究团队称该工作属早期可行性探索,不替代袖带诊断,也未指向任何现有或即将推出的商用功能。

    Diagram of a machine learning workflow using wearable PPG and accelerometer data to predict a hypertension score.

    动传感器,可识别静止时段并捕捉 心冲击图(BCG),即心脏将血液机械射入主动脉时引起的腕部细微物理振动。 该AI系统使用消费级智能手表记录的光电容积脉搏波描记法(PPG)和加速度计(ACC)信号来创建波形嵌入。波形嵌入随时间(数天)聚合为个人级嵌入,再结合用户身高,用于预测其血压状态。 为构建该系统,我们采用了双阶段机器学习方法: 阶段1:自监督预训练(波形编码器) 我们使用自监督对比学习训练了一个一维深度卷积神经网络。通过分析来自2,109名知情同意参与者的492,347小时传感器数据的大型无标注数据集,模型学会了将同一人重叠的15秒PPG和ACC波形在潜在空间中映射得彼此接近。这使模型能够发现血管和机械心脏功能的复杂、生理信息丰富的特征,而无需手动特征工程或医学标签。 阶段2:个人级聚合与分类 对于每个用户,这些15秒特征块(嵌入)在数天的佩戴数据中进行均值聚合,以消除突然运动或温度变化等短暂噪声。最后,个体的聚合嵌入与其身高(作为动脉路径长度的可靠代理)相结合,输入正则化逻辑回归分类器,计算出连续的高血压概率评分。 针对临床金标准的严格验证 为评估我们的系统,我们在美国五个站点开

    匹配字段正文

星期四

  1. Databricks Blog

    Debezium Server 3.7 通过 Zerobus Ingest 将 CDC 事件直接推入 Unity…

    Debezium Server 3.7 新增 Zerobus Ingest sink,可将 CDC 事件直接推入 Unity Catalog 的 Delta 表,无需中间 Kafka 集群或拉取式连接器。该 sink 由 NVIDIA 与 Databricks 联合开发并贡献给开源 Debezium 项目,NVIDIA 补充了 envelope 模式、幂等键和源 offset 推进前的持久化确认等投递保障。这一推送式架构让受限于私有网络、禁止入站连接的环境也能安全向外复制数据。

    Architecture with a message bus: source operated capture

    ed 模式(默认)将每个变更事件映射到具有源自身列的表。 Envelope 模式(由 NVIDIA 贡献)将完整的 Debezium 变更事件落入固定的九列表: target table destination partition operation idempotency key key value source position headers 记录可以编码为 JSON(存储在 VARIANT 列中)或 Protobuf。 Envelope 模式保留了下游处理所需的证据。source position 携带源分区和偏移量,包括 PostgreSQL LSN。 idempotency key 是每个事件的 SHA-256 标识,由其 destination、partition、key、operation 和 source position 派生而来,因此重新投递的事件会获得相同的 key。该 key 用于标识事件;它本身不对事件排序,也不会对表去重。 持久化门控源端确认:sink 为每张表发送每个连续记录组,等待 Zerobus 确认其持久化,然后才允许 Debezium 推进其偏移

    匹配字段正文

  2. Hugging Face

    Hugging Face 发布端侧语音模型 Phonon,31m 版本以 Apache 2.0 开源

    Hugging Face 发布端侧 TTS 模型 Phonon,提供约 65 MB 和 75 MB 两个尺寸,覆盖英语、法语、德语、西班牙语和葡萄牙语,内置 100 多个音色。其中 Phonon 31m 仅支持英语并以 Apache 2.0 开源,可用于商业产品;Phonon 40m 覆盖五种语言但采用非商业许可。官方称其在 Open TTS Leaderboard 的德语和西班牙语可懂度排名第一,并在 CPU 流式首包延迟基准上领先,配套推理框架 ptts 支持 CPU、GPU 和 NPU 等 10 余种后端。

    将其作为下一步的输入反馈回去,训练损失就在这些潜变量上计算。潜变量既是模型的输入、输出,也是目标,就像文本 token 之于语言模型一样,因此将音频映射为潜变量的编解码器扮演着分词器的角色。Transformers 正是这样集成的:一个音频分词器,由处理器与文本分词器并列持有: 音色不是一段录音,而是一个说话人潜变量张量。Phonon 从不直接用其音频分词器编码音频,该分词器仅提供解码器,音色是预先计算好的:gradium/phonon-voices。 提示布局(音色位置、文本,然后是一个开启音频的 token)随检查点一起以聊天模板的形式提供,就像 Transformers 中的其他多模态模型一样。你编写一段标准对话,在音色所在的位置放一个空音频项,你的代码在不同检查点之间保持不变。随后处理器会将音色占位符扩展为每帧一个位置,对文本进行归一化和分词,并对输入进行批处理: generate 返回潜变量,处理器将其解码为音频: 接下来 Phonon 可以用任何音色说话。在获得说话人同意的情况下,从一段短录音中克隆一个音色,或者在 Gradium Studio 中用纯文本描述一个新音色。然

    匹配字段正文

  3. Browser Use

    Computer Use 与 Browser Use 的区别及各自适用场景

    Browser Use 官方对比了 computer use 与 browser use 两类 AI 智能体:前者靠截图定位屏幕坐标操作整个桌面,后者通过 CDP 直接读取页面结构并操作元素。Browser Use 认为网页任务应优先用 browser use,因为页面结构可直接定位元素、可并行运行无头浏览器,Browser Use Cloud 每浏览器小时 $0.02;只有桌面应用、系统对话框或纯 canvas 页面才需要 computer use。

    。(MIT 许可),用于在你自己的 Chrome 或云浏览器上运行你自己的智能体。 Browser Use Cloud, 隐身浏览器 从你自己的代码或智能体中连接,默认开启 CAPTCHA 破解和住宅代理。 Browser Use 智能体,一个托管智能体:发送任务,获取结果。 Browser Harness,它让 Claude Code 和 Codex 这类编码智能体能够驱动你自己的 Chrome。 为什么 browser use 更适合网页任务 页面本身已经说明了这一点。 按钮有标签和角色。表单字段有名称。智能体可以直接定位它们,而不必猜测它们在屏幕上的位置,并且可以触及滚动到视野之外的元素。 模型可以一次性看到整个页面。 将页面作为文本读取,能让模型获取完整的表格或表单,而不只是截图中能容纳的部分。 确定性的步骤可以写成代码。 当任务的一部分是可预测的,智能体可以运行脚本,而不必对每一次点击都进行推理。从页面中提取表格只需一次 JavaScript 调用,而不是十几个滚动和读取的步骤。我们在 浏览器智能体的苦涩教训. 浏览器可以横向扩展。 无头浏览器不需要桌面环境,因此你可以同时运

    匹配字段正文

  4. Goodfire Research

    Goodfire 提出机制塑造框架,用内部表征约束模型训练

    Goodfire Research 发布论文,提出机制塑造框架,通过依赖塑造和表达塑造两种方法,在训练目标中加入对模型内部概念的惩罚项,指定模型该依赖什么、不该表达什么。在胸部 X 光诊断实验中,该方法减少模型对胸管等伪特征的依赖,准确率超过平衡数据训练的软上限;在 OLMo-3-7B 的 DPO 后训练中抑制了谄媚行为,在 Qwen3.5-9B 的 Countdown 任务中把作弊行为压到 96–98% 的诚实求解率。论文还提出五级可监控性分级,实验显示被塑造的概念通常只是转移位置而非消失,重训探针后仍可监控。

    a. No change (Figure 7): the unwanted concept stays in place while the model stops using it.

    。我们将这些方法称为 依赖塑造 和 表达塑造;依赖塑造告诉模型“不要 依赖 这个”,表达塑造告诉模型“不要 做 这个”。 尽管可解释性对训练有用,1 但针对它进行训练可能会削弱我们的监控器:模型的表征可能会绕过监控器,而目标行为依然存在。2 我们论文的很大一部分研究了这一风险。我们从理论和实证两方面刻画了模型内部在机制塑造下可能发生的变化(例如重新生长、重新编码、转移位置、擦除),并展示了每种变化如何影响监控。虽然我们尚未覆盖所有情形和结果,但这里的结果令人鼓舞:在我们的实验中,概念在塑造后仍然可监控,尽管通常需要重新训练探针。 本博客文章概述了完整论文的部分关键贡献;更多结果可在论文中找到,例如额外的视觉实验和语言模型有害性降低。本文涵盖: 机制塑造框架: 我们提出了一个框架,利用内部表征通过改变模型对特定概念的依赖和表达程度,来指定模型 如何 解决任务。 改进视觉任务中的医学诊断: 我们展示了一个自动化流程,用于减少视觉模型对胸部 X 光图像中误导性捷径的依赖。该流程在该设置下可以超过组平衡数据的软上限准确率。 防止语言建模任务中的失准: 我们防止语言模型在后训练期间变得谄媚,并另

    匹配字段正文

  5. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 AI Factory Operations Agent,用多智能体协同排查 DGX 集群故障

    NVIDIA 发布 AI Factory Operations Agent,通过多个领域子智能体协同,在计算、网络、硬件和调度层之间定位根因,并通过聊天界面给出建议,用于自家 DGX SuperPOD 运维。该框架基于 NVIDIA NemoClaw blueprint 和 OpenShell 构建,完全本地部署,推理使用本地 NVIDIA Nemotron 开源模型,运行在 DGX H100、DGX B200 和 DGX GB300 生产集群上。框架包含 Job Recovery、Hardware、Observability、Research、Kubernetes 和 Cluster Management 等子智能体,并集成 web 搜索、代码执行和 Grafana 看板等 MCP 工具,开发者示例与开源代码已开放。

    Diagram of workflow where either an SRE or agent triggers the AI factory agents powered by NVIDIA Nemotron 3 models that perform reasoning tasks to output root cause analyses, run commands for issue resolution, or generate relevant dashboards.

    Operations Agent 开发者示例围绕 NVIDIA NemoClaw 蓝图构建。中心是面向用户的智能体运行时,它通过聊天界面接收 SRE 查询,并调用相应的领域智能体和工具。 智能体通过 OpenClaw 插件和 MCP 服务器连接基础设施,每个 MCP 暴露一组聚焦的、经批准的操作工具。你可以使用内置 Web UI,或通过 API 集成现有的编码智能体界面。这种模块化设计让你无需更改现有智能体即可添加新的智能体和基础设施集成。 该框架使用 NVIDIA OpenShell 构建,完全支持本地部署,支持可扩展性和数据主权。智能体推理使用本地部署的 NVIDIA Nemotron 开源模型,而框架运行在 NVIDIA 内部的 DGX H100、NVIDIA DGX B200 和 NVIDIA DGX GB300 生产集群上。下一节将介绍 OpenShell 如何提供智能体治理和控制,使智能体安全运行。 图 1. AI Factory Operations Agent 架构:一个 NemoClaw 智能体在 GPU 集群基础设施上协调领域专用智能体 NVIDIA 如何构建它

    匹配字段正文

  6. Databricks Blog

    Databricks 谈企业为何转向开放权重模型:Unity AI Gateway 统一托管

    Databricks 认为开放权重模型已接近前沿模型水平且成本更低,企业因此重新评估单一前沿模型供应商策略。其 Unity AI Gateway 通过统一 API 托管开放权重、前沿和外部模型,支持智能路由、回退与预算控制;自 1 月以来客户平均使用模型数从 4.2 增至 7.1,其中约 40% 为开放权重模型。

    image4.png

    的现场工程师,我们每天都在企业 AI 部署中工作,在那里我们观察到战略上的明显转变。在两年标准化采用单一前沿模型供应商之后,企业正因七项关键压力而重新评估其做法: 塑造 AI 战略的七项观察 1. 支出未能产生足够回报。 AI 预算的增长已超过收入和成本节约,促使企业需要更好的单位经济效益 [1]。 2. 自 2023 年以来,模型排名已多次变化。 最适合编码、推理和提取的模型每月都在变化,而自 2023 年 5 月以来,最高智能排名已易主 20 多次 [2]。与单一供应商绑定的架构使得在排名变化时更难采用更好的模型。 3. 前沿模型的护栏可能阻止合法工作。 AI 实验室施加的模型护栏可能拒绝合法任务,例如分析实时恶意软件或复现漏洞以进行修补,这一限制在最近的 Hugging Face 事件中被发现 [6][7]。当 Hugging Face 响应人员将真实攻击日志和漏洞利用载荷输入托管的前沿模型进行分析时,护栏拒绝了请求,团队转而使用开放权重模型(GLM 5.2)进行分析。 4. 数据保留政策已经演变,且可能继续演变。 一些前沿供应商已偏离零数据保留(ZDR)政策,例如 Anthr

    匹配字段正文

  7. AWS Machine Learning

    U Mobile 如何用 Amazon Bedrock AgentCore 构建智能体电信运营

    U Mobile 基于 Amazon Bedrock AgentCore 构建了 AI-Driven Agentic Helpdesk(AiDaH),覆盖 6 个业务部门的 150 多个运营场景,内部测量显示关键类别的故障工单量最多下降 84.5%。平台采用六层架构,通过 Microsoft Teams 接入,8 个专业智能体以 A2A 协议协作,约 70% 请求由确定性关键词匹配直接处理、无需调用模型。AiDaH 于 2026 年 Q3 面向 50 名 L2 呼叫中心与门店用户上线。

    AiDaH’s six-layer architecture, from the Microsoft Teams interface down to on-premises operational systems

    ck AgentCore 的一项能力)中运行。AgentCore memory 会重新水合对话,使智能体继承用户号码以及此前轮次中的任何发现,而不是要求用户重复提供。 工具发现和调用: 智能体向 AgentCore Gateway 查询其有权使用的工具。每个网关将其后端发布为具有类型化输入和输出的 MCP 工具,因此智能体按名称和模式选择工具,而不是依赖手工编码的集成逻辑。Amazon Cognito 为该调用代理 OAuth 授权。 后端调用: 网关的 Lambda 函数或 MCP 服务器将工具调用转换为针对目标系统的请求,经由 AWS Transit Gateway 和 Site-to-Site VPN 隧道到达本地号码可携平台。敏感字段在返回途中、响应到达模型之前会被掩码处理。 推理与协作: 如果答案跨越多个领域,智能体会通过 Agent2Agent 协议进行委派。例如,一个携入查询如果最终发现是计费阻塞,就会移交给业务支持系统智能体,结果会合并为一段叙述。 响应与审计: 智能体基于 Amazon Bedrock Knowledge Bases 为其解释提供依据,然后将发现和建议

    匹配字段正文

  8. AWS Machine Learning

    Indegene 如何在生命科学领域用 LLM 数据质量 Agent 实现企业级数据质量现代化与扩展

    Indegene 在 AWS 上的 NEXT Unified Data Platform(NEXT UDP)中构建了由 LLM 驱动的 Data Quality Agent,可生成上下文感知的数据质量规则、完成校验,并产出可直接运行的 SQL 和 Python 代码,全程采用集中式 human-in-the-loop 治理。NEXT UDP 还提供 Data Ingestion、Orchestration、Data Catalog 和 SQL Bot Generator 等独立 AI Agent,可单独用于数据管道或定制为 agent-to-agent 通信。

    NEXT Unified Data Platform dashboard showing use-case cards, project metrics, and available AI agents including the Data Quality agent.

    动生成规则并由人工审查 快80–85% 业务规则定义 验证通常基于技术元数据,对产品、细分、客户或资格逻辑的理解有限。业务上下文严重依赖SME讨论和人工转化为验证逻辑 使用RAG检索业务词汇表、数据字典、现有规则和历史异常模式,以生成上下文感知的建议。 快70–75% 规则编写与SQL/Python开发 工程师针对每个数据集或业务需求手动定义验证规则,并进行编码、调试和测试。 在列级、表级和自定义查询级自动生成规则,并为选定的DQ检查生成SQL/Python。用户可以审查、完善并应用这些建议。 首个可运行代码快80–85% 规则验证 规则需人工验证,涉及多次执行查询和修改的迭代 智能体自动评分、完善并优化规则 快80–85% 规则复用 手动复制、修改和复用 已批准的规则和反馈被加入智能体的知识库 现有领域中新数据集的接入快50% 异常检测 人工分析剖析输出和记录 自动异常检测并提供业务上下文解释 快80–85% 严重性分类 规则严重性和业务影响由人工确定,可能导致优先级不一致。 根据规则类型、数据集上下文和业务影响推荐严重性。 一致且基于上下文的严重性 治理与可追溯性 规则往往分散在工

    匹配字段正文

星期三

  1. Factory 研究 / 产品

    HumanLayer 加入 Factory

    HumanLayer 加入 Factory,双方将共同为企业与开发者构建自主、可自我改进的软件。Factory 计划开源 HumanLayer,并邀请其数百名日活用户迁移至 Factory;过渡期内现有平台继续运行,支持数据导出、迁移或自托管。未来几周,Dex Horthy 和 Kyle Mistele 团队将把多人任务/工作流以及针对智能体撰写的计划、产品规格和设计文档的应用内协作功能引入 Factory。

    tory 作者:Factory 团队 - 2026年11月4日 - 阅读时间 2 分钟 公司 分享 今天,HumanLayer 加入 Factory,以加速为企业与开发者构建自主、可自我改进的软件。我们长期以来一直钦佩 Dex Horthy 和 Kyle Mistele,我们非常激动能够共同构建软件工厂的未来。 Dex 和 Kyle 自 2025 年初起就是编码智能体的重度用户,早期就提出了智能体集群等理念,并于 2025 年 8 月发布了 Research/Plan/Implement 框架——最早走红的“技能包”之一。此后,HumanLayer 在与编码智能体和软件工厂协作的最佳实践方面,始终领先时代潮流 6-9 个月,尤其是在拥有数百或数千名工程师的大型团队中。他们的文章和演讲获得了数百万次浏览,他们的产品也赢得了一批忠实的追随者。 在与 Dex 和 Kyle 的交流中,我们清楚地看到,两个团队在使命、对彼此贡献的尊重,以及我们可以更快、更好地共同追求的愿景上高度一致。我们携手合作,深知这将是 Factory 和 HumanLayer 客户的重大胜利,而且我们已经在为我们的开发者

    匹配字段正文