N全部新闻

全部新闻

星期一22 条

  1. MarkTechPost产品发布
    AI 评分62

    NVIDIA 发布开放智能体安全平台，OpenShell 沙箱搭配 BlueField-4 上的 Sentry

    NVIDIA 发布 NVIDIA Open Agent Safety Platform，将 OpenShell 安全运行时与运行在 BlueField-4 DPU 上的带外看门狗 NVIDIA Sentry 组合，核心思路是安全控制不放在被管控的智能体内部。OpenShell 采用 Apache 2.0 许可，可安装在 Linux、macOS（Apple Silicon）或 Windows WSL 2，仓库仍标注为 alpha；Sentry 通过 NVIDIA DOCA 检查智能体的请求与响应，提供可验证遥测、身份校验和对数据、工具与 API 的零信任访问。NVIDIA 称已有超过 100 家机构参与，Anthropic、Salesforce、SAP、Red Hat、SUSE 和 Canonical 等已做集成，该工作归入由 Linux Foundation 治理的 Open Secure AI Alliance。

    同一事件 · 10 条报道

    #产品更新#Agent#安全/对齐

  3. Jensen Huang产品发布
    AI 评分55

    NVIDIA 发布 Open Agent Safety Platform 参考设计，整合 OpenShell 与 Sentry

    NVIDIA 发布 Open Agent Safety Platform 参考设计，将 NVIDIA OpenShell 与 NVIDIA Sentry 组合在一起。OpenShell 是开源安全运行时，为 AI 智能体划定可执行的边界，并在其运行过程中追踪动作、执行策略。NVIDIA Sentry 在 NVIDIA BlueField 上提供硬件级安全执行，通过可信遥测与检测流水线持续监控智能体活动，实现毫秒级遏制与隔离。

    #产品更新#Agent#安全/对齐

  5. NVIDIA Developer · Generative AI一手产品发布
    AI 评分60

    NVIDIA 发布 Open Agent Safety Platform 智能体安全参考设计

    NVIDIA 发布 Open Agent Safety Platform 参考设计，为自主 AI 智能体提供跨软件与硬件的安全执行层。该平台以 Apache 2.0 开源的 OpenShell 安全运行时在沙箱中隔离智能体并执行可验证策略，NVIDIA Sentry 则借助 BlueField-4 DPU 在主机之外持续监控智能体行为、识别偏离预设任务的行为漂移。平台针对 NVIDIA Vera CPU 与 BlueField DPU 系统优化，也兼容其他硬件，已运行在 Vera 与 BlueField-4 上的用户通过软件更新即可启用。

    #安全/对齐#Agent#部署/工程

  6. NVIDIA Developer · Generative AI一手产品发布
    AI 评分72

    NVIDIA 发布 OpenShell 0.1.0，为 AI 智能体加上运行时权限控制

    NVIDIA 发布开源运行时 OpenShell 0.1.0，可在不重写智能体的前提下限制其可访问的系统与数据，结合沙箱执行、受控服务访问、凭证管理和形式化策略分析。OpenShell 由 Gateway、Supervisor 和 Sandbox 组件管理智能体集群，可检查 HTTP、GraphQL 和 MCP 流量，允许同一 API 上的读操作而拦截写操作，并将策略决策记录到 OCSF 审计日志。Cadence、Slack 和 Gecko Robotics 等组织已在芯片设计、企业自动化和物理机器人治理中采用该运行时。

    #开源/仓库#Agent#安全/对齐

  7. The Decoder产品发布
    AI 评分65

    Nvidia 发布 Open Agent Safety Platform，用芯片内置看门狗约束 AI 智能体

    Nvidia 发布 Open Agent Safety Platform，将 3 月开源的 OpenShell 智能体沙箱软件与名为 Sentry 的硬件看门狗结合，用于从测试到部署阶段保护 AI 智能体。Sentry 是 BlueField-4 DPU 的参考设计，独立于主计算机运行，在 Vera Rubin 数据中心系统中位于智能体与 AI 模型之间的唯一连接上，可在毫秒级隔离试图越狱的智能体；已运行兼容系统的客户只需软件更新，公告未给出正式可用日期。Nvidia 称智能体在指令不清或任务持续数周时会偏离目标，无法在保留能力的前提下通过训练消除，因此不能完全自我监控。

    同一事件 · 10 条报道

    #安全/对齐#Agent#部署/工程

  8. The Verge AI产品发布
    AI 评分66

    Nvidia 发布 Open Agent Safety Platform，称可在毫秒级隔离失控智能体

    Nvidia 发布 Open Agent Safety Platform，称可在毫秒级隔离试图越界的 AI 智能体。该平台基于开源软件 OpenShell，运行在 Nvidia 的 Vera AI CPU 上，用户可限定智能体可访问的信息，OpenShell 会在任务执行前和执行中检查这些限制，另有独立芯片上的 Sentry 技术持续监控智能体并执行边界。Anthropic、Microsoft 和 SpaceX 等公司对该平台表示支持。

    同一事件 · 10 条报道

    #安全/对齐#Agent#部署/工程

  9. Wired AI产品发布
    AI 评分74

    Nvidia 将智能体安全沙箱 OpenShell 正式发布，并推出 Sentry 平台

    Nvidia 将面向 AI 智能体的安全沙箱 OpenShell 从 GTC 大会首次公布推进到面向所有用户正式发布，该框架把智能体活动隔离在操作系统内核中。Nvidia 同时推出新软件平台 Sentry，作为芯片上的隔离安全域持续监控长时间运行的智能体，可隔离试图越界的智能体，并计划与 Arm、Intel 合作使其支持 x86 架构。两者被纳入开源框架 Open Agent Safety Platform，Nvidia 称 Anthropic、Microsoft、Mistral、Hugging Face 等数十家公司参与合作，Salesforce、Scale AI、SAP 确认不同程度集成 OpenShell，但 OpenAI 未出现在名单中。

    同一事件 · 10 条报道

    #安全/对齐#Agent#开源生态

  10. Hugging Face一手产品发布
    AI 评分58

    Hugging Face 在 Hub 上线 RL Environments 功能

    Hugging Face 在 Hub 上线 RL Environments，用 rl-environment 标签把环境作为数据集托管，并注册 Harbor、Verifiers、OpenEnv、NeMo Gym 四个框架标签，数据集页面会显示框架图标并生成加载命令。用户可在 datasets?other=rl-environment 筛选查看，文中给出了各框架运行任务并检查 verifier 奖励的示例命令。官方已为 BeyondSWE、Terminal-Lego、Multi-SWE-RL-Verified、Workplace Assistant 等已有环境提交打标签的 PR，后续计划支持按配置生成片段和自动打标签。

    #开源/仓库#Agent#数据/训练

  11. Fireworks AI一手产品发布
    AI 评分71

    Fireworks AI 推出 FireRouter with Opus 路由模型

    Fireworks AI 发布 FireRouter with Opus，这是首个缓存感知路由器，已在 CLI 上线，并首次作为独立路由模型提供，任何 Fireworks 账号都可将其作为 serverless 端点调用。该路由器在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、提示词缓存成本和切换代价选择模型。内部一个多月的 A/B 测试显示，编码任务每次会话成本从 15.36 美元降至 6.63 美元，降幅 57%（±19 个百分点），准确率为纯 Opus 的 98.1%，缓存命中率 94.2%，纯 Opus 为 97.8%。

    同一事件 · 2 条报道

    #产品更新#部署/工程#编码

  12. Anthropic：Claude.dev 开发者博客一手产品发布
    AI 评分71

    Anthropic 为 claude-api 技能加入 build-eval 与 hillclimb 命令

    Anthropic 在 claude-api 技能中新增 /claude-api build-eval 和 /claude-api hillclimb 两条命令，前者在代码库内构建评测集并校验评分器，后者按单次改动迭代提升应用表现，并用留出集检测过拟合。文章给出评测设计原则，包括任务贴近生产、前沿模型留有提升空间、低运行间方差，以及用人工判断的难题而非模型当前失败案例来采样。示例中，客服工单基准从 Opus 4.8 默认高 effort 的 74.4% 准确率、每单 4.6 美分，经提示词审计与换用 Opus 5.5 低 effort 后降到 1.9 美分，最终 Sonnet 5 配置在 14 条留出工单上达到 90.5%，成本约为原来的五分之一。

    Two panels plotting capability across task space, each with today’s model as a jagged curve and the next model as a smoother curve above it. On the left, cases sampled where today’s model fails sit only in its valleys; on the right, cases a person judged hard are spread across peaks and valleys, with a few should-not-fire cases.

    #教程/实践#Agent#部署/工程

  13. Fireworks AI一手产品发布
    AI 评分69

    Fireworks AI 推出 FireRouter with Opus 路由模型

    Fireworks AI 发布 FireRouter with Opus，这是其首个缓存感知路由器，已在 CLI 上线并首次以独立路由模型形式提供，任何 Fireworks 账号都可将其作为 serverless endpoint 调用。该路由器在 Claude Opus 5.5、GLM 5.3 和 GLM 5.3 Flash 之间按任务适配度、模型成本与缓存命中损失进行路由。经过一个多月内部 A/B 测试，编码任务准确率为单独使用 Opus 的 98.1%，每次会话成本从 15.36 美元降至 6.63 美元，降幅 57%（±19 ppts），缓存命中率为 94.2%，单独使用 Opus 时为 97.8%。

    同一事件 · 2 条报道

    #产品更新#部署/工程#OpenAI

  14. xAI News一手产品发布
    AI 评分72

    xAI 发布 Team Bots：与团队共同工作的 Grok 智能体

    xAI 发布 Team Bots，即与团队一起工作并学习的 Grok Bots，可授予其所需的文件、应用与专业知识，再共享给团队让所有人基于同一上下文协作。每个 Team Bot 由上下文、插件（如 Salesforce、Notion、GitHub）、凭证和记忆四部分组成，共享的同时保留每位用户独立的对话与记忆，并可在 Slack 中以独立账号被邀请进频道。xAI 内部已在销售与客户成功、产品与工程、市场、数据分析四类场景使用，例如工程 Team Bot 连接 Notion、Linear、Hex、Datadog 和 Cursor，协调 Cloud Agents，帮助五人团队每天交付 100 多个 PR。

    #产品更新#Agent#MCP/工具调用

  15. Google Blog一手产品发布
    AI 评分58

    Google 发布 Gemini 3.8 Flash，展示四个开发者用例

    Google 发布 Gemini 3.8 Flash，称其在软件工程、智能体任务和跨多步推理上较 3.7 Flash 有明显提升，性能接近成本更高的前沿模型。官方称提升来自设计取向上的更肯下功夫，即在复杂任务中执行更多推理步骤并迭代调用工具。文中展示了四个用例，包括用 Google Antigravity 绘制卫星与空间站实时轨道、把青海波图案转成动态水墨画、生成霸王龙骨架，以及构建自动变速箱交互模型，用户可在 Google AI Studio 等工具中试用。

    #产品更新#Google#推理

  16. MarkTechPost产品发布
    AI 评分60

    TypeSafe AI 发布 System One 模型 Jev 的 20 个智能体用例

    TypeSafe AI 上周发布首个 System One 模型 Jev，它不做对话、写代码或摘要，而是接收非结构化状态并返回带校准概率的类型化决策，适合智能体循环中的小判断，例如调用哪个模型、命令是否安全、哪段内容相关、智能体是否已完成。每次调用发送状态加一组类型化问题，所有问题在同一请求中并行评估，Choice 最多支持 255 个选项，并用 RLCD 训练使置信度与准确率挂钩。官方称其比逐 token 的 LLM 快 193.6 倍、便宜 444.6 倍，该数据来自 TypeSafe 自身工作流评测；OpenRouter 的 Banking77 测试中，Jev 准确率比 Claude Opus 5 低 3.3 个百分点，中位速度快 13 倍，成本约为其 1/22。

    #产品更新#Agent#推理

  17. TechCrunch AI产品发布
    AI 评分72

    英伟达发布 Open Agent Safety Platform，用独立硬件层管控失控 AI 智能体

    英伟达 CEO 黄仁勋发布 Nvidia Open Agent Safety Platform，将开源软件 OpenShell 与运行在 BlueField-4 DPU 上的独立监控系统 Sentry 组合，为 AI 智能体加上软硬件两层安全边界。英伟达称 Sentry 独立于智能体所在的 CPU 或 GPU，可持续监控行为并在毫秒级隔离试图越界的智能体。Anthropic、Arm、Microsoft、Oracle、SpaceX 等数十家公司表示支持，OpenAI 未在名单中。

    同一事件 · 10 条报道

    #安全/对齐#Agent#部署/工程

  18. TechCrunch AI产品发布
    AI 评分71

    Shopify 向浏览器端 AI 智能体开放结账

    Shopify 宣布面向所有符合条件的商家开放结账环节的 WebMCP 支持，浏览器端 AI 智能体不再只能搜索商品和加购，还能读取并修改结账页面、在买家授权后提交订单。该更新引入 get_checkout、update_checkout 和 complete_checkout 三个工具，可查看结账信息、修改地址或配送选项并下单，无需依赖截图或抓取网页。Shopify 此前已提供托管 MCP 服务器，此次新增的 WebMCP 面向买家浏览器内的智能体，两者都基于其 Universal Commerce Protocol（UCP）。

    #行业动态#Agent#MCP/工具调用

星期日2 条

  1. 量子位产品发布
    AI 评分51

    费米宇宙推出全链路量子增强大模型 FermiQLLM 1.0

    费米宇宙推出全球首个全链路量子增强大模型 FermiQLLM 1.0，基于 Qwen 开源基座模型改造，不依赖容错量子计算机，可在现有 GPU 基础设施上训练和部署。内测显示，对标同等参数量级传统大模型，其推理性能提升超过 15%，持续强化学习环节训练成本下降 25% 以上；在 MATH-500、GPQA-Diamond、BBH 等基准上综合性能提升 10%～20%。该公司成立于今年 5 月，种子轮累计融资 1 亿元，投后估值约 10 亿元，近一半员工有清华背景。

    #行业动态#数据/训练#推理

  2. Roshan Sadanani产品发布
    AI 评分55

    Grok Bot 推出由 Plaid 支持的 Finance 连接器

    Grok Bot 新增 Finance 集成，可关联银行、信用卡和投资账户，用户随后可让 Bot 协助管理支出和投资。该连接器由 Plaid 提供支持，官方称可据此搭建个人财务仪表盘、图表和例行流程。

    引用Grok Bot · @bot

    Grok Bot now connects to your finances. Link your bank, card, and investment accounts with the new Finance integration, then ask Bot to help manage your spending, investments, and more. https://t.co/qNTf1OT545

    #产品更新#MCP/工具调用#xAI