←搜索结果

按匹配度 · 共 1654 条结果 清除搜索

星期二

  1. gihyo.jp

    NVIDIA 发布 Open Agent Safety Platform

    NVIDIA 于 9 月 28 日发布 Open Agent Safety Platform,由在隔离沙箱中控制文件、网络与进程访问的 OpenShell,以及运行在 BlueField-4 DPU 上、独立于主机软件进行监控与毫秒级隔离的 Sentry 组成。OpenShell 以 Apache License 2.0 开源,已发布 0.1.0 版本,可在本地、本地部署、云和 Kubernetes 环境使用,官方指南给出用 Docker 运行 OpenCode 并经 OpenRouter 调用模型的示例。NVIDIA 称参与该平台技术开发与使用的企业及组织超过 100 家,包括 Anthropic、Microsoft、Hugging Face、CrowdStrike、SAP,Canonical、SUSE、Red Hat 也在推进将其集成到操作系统与 AI 基础设施。

    netes基盤で利用できる。既存のエージェントを動かせるほか、エージェントや必要なツールを組み込んだ独自のイメージも使える。 インストールしてOpenCodeを動かす例 公式の初回起動ガイドでは、コーディングエージェントのOpenCodeと、モデルAPIサービスのOpenRouterを使う例を紹介している。ほかにも、Piを動かす例やClaude CodeからGitHubへの書き込みを許可する例が公開されている。 ここでは、OpenCodeの例に沿って、導入から応答の確認までを示す。OpenCodeはローカルのサンドボックス内で動かし、AIモデルはOpenRouter経由で利用する。 この例では実行基盤にDockerを使う。LinuxにDocker Engine 28.0以降を導入・起動した環境と、OpenRouterのアカウント・APIキーを用意する。以下のコマンドは、サンドボックスを動かすLinuxホストのBashで順に実行する。サンドボックスのコンテナはOpenShellが作成・起動する。 まず、OpenShellのインストールスクリプトを実行すると、CLIやポリシーの検証ツールが

    匹配字段正文

  2. Latent Space

    AMD 以 82 亿美元收购 World Labs

    AMD 以 82 亿美元收购 World Labs。World Labs 创始人李飞飞在博客中称,公司自 2024 年成立以来构建了图像、视频与空间重建的模型训练团队,并在收购 SceniX 后推进机器人仿真能力。其近期发布的 Atlas 是面向空间智能的 omni 模型架构,通过结合生成模型与多视图几何解决新相机视角预测问题,并称已解决计算机视觉中长期存在的稀疏重建问题。

    a session moves to another account, Claude rereads it and regenerates thinking. Roadmap: @mikeyk said Haiku 5.5 will “round out the family in the coming weeks.” Availability: It shipped day-one on the Claude Platform and Claude Code, along with a usage reset valid until Oct 22 ( @ClaudeDevs ). Third-party availability: GitHub Copilot in VS Code ( @code ) Arena Agent/Battle modes for WebDev, Text, Vision and Document ( @arena ) T3 Code, after @theo admitted it hadn’t been added to the catalog yet

    匹配字段正文

  3. Latent Space

    Anthropic 的 Thariq 谈 Claude Code 下一阶段:Claude Mods、Projects 与智能体安全

    Anthropic 的 Thariq Shihipar 在 Latent Space 播客中介绍 Claude Code 的下一阶段,包括可自定义 harness 的 Claude Mods、Projects、Claude Tag 以及 Opus 5.5 和 Sonnet 5.5 等近期发布。他把提示词称为使用 Claude Code 的核心技能,建议先花时间补足上下文,并按任务分配 effort,例如代码审查和安全用高或最高,UI 类任务用低或中。他还谈到智能体安全,包括沙箱、提示词注入、Auto Mode 以及 Anthropic 的 Pacing the Frontier 主张。

    Sol Ultra 发布之际,人们正争相在 之前寻找 Fable 5 的极限,请特别关注 Claude Mods(尤其是 cheatsheet): Boris Cherny @bcherny Claude Mods 正在陆续上线。已经有人构建了一个 Claude 内运行的俄罗斯方块 mod 🤯 查看 issue 了解最新的社区更新、技术细节和更多酷炫演示 github.com/anthropics/cla… 下午5:30 · 2026年9月14日 · 60.3万次查看 312条回复 · 173次转发 · 2.72万次点赞 总的来说,这也是 Thariq 另一条病毒式传播推文的反面: Thariq @trq212 奇怪的是,有一个“赚大钱”的按钮,却没人按 (把你的 SaaS 变成无头模式,让智能体使用它,按交互收费,尤其是对企业) 下午10:39 · 2026年8月18日 · 55.9万次查看 333条回复 · 229次转发 · 6570次点赞 云端大脑,本地之手 并且试试 Claude Projects: Boris Cherny @bcherny Projects 不仅改变了我与

    匹配字段正文

  4. Inception Labs Blog

    Inception 发布 Mercury 2,面向搜索流水线每步延迟最快

    Inception Labs 发布 Mercury 2,称其在标准 NVIDIA GPU 上解码速度超过 1000 tokens/秒,在 WideSearch 基准的搜索流水线每一步都最快,查询规划比 Gemini 3.1 Flash Lite 快近 2 倍、比 Claude Haiku 4.5 快 4.7 倍、比 GPT-5 Mini 快 10 倍。定价为 $0.25/M 输入、$0.75/M 输出,作者称更深的流水线运行成本约为前沿速度优化模型的 2 倍便宜。在 FRAMES 上四款模型得分接近,DeepSearchQA 上 GPT-5 Mini 以 0.44 高于 Mercury 2 的 0.34,但 Mercury 2 完成 FRAMES 查询耗时 10.8 秒、单次正确回答成本最低。作者还发现 WideSearch 任务可被模型凭记忆作答,重建为训练截止后事件的任务后,Gemini 得 0.929、Mercury 2 得 0.923。API 已在 platform.inceptionlabs.ai 上线。

    h benchmark, 100 English tasks, live Exa retrieval. Latency medians over 336–493 calls per model, each on its own provider's public API. Harness and per-call timing are public at: github.com/apoorvumang/retrieval-vs-recall Mercury 2 is the fastest model at every step of the pipeline, almost 2x faster than Gemini 3.1 Flash Lite on query planning, 4.7x faster than Claude Haiku 4.5, 10x faster than GPT-5 Mini. That per-step gap is where the end-to-end numbers in the next section come from: a pipeli

    匹配字段正文

  5. Inception Labs Blog

    Inception 公布 Mercury 2 在 PinchBench 上的评测结果

    Inception Labs 公布 Mercury 2 在 PinchBench 上的评测结果:任务成功率 78%,高于 GPT-5 Mini 的 75%、Gemini 2.5 Flash 的 71%、DeepSeek Chat 的 72% 和 GPT-4o 的 71%,并在同准确率档位中执行时间最快。定价为每 100 万 token 输入 0.25 美元、输出 0.75 美元,约为 Claude 4.5 Haiku 输入输出的四分之一。PinchBench 基于 OpenClaw 构建,考察工具调用、多步推理和真实任务完成情况,Mercury 2 的速度来自并行细化而非逐 token 生成。

    of these. Mercury 2 optimizes for all three. We evaluated Mercury 2 on PinchBench, the open-source benchmark built on top of OpenClaw — the fastest-growing open-source project in GitHub history, with 250K+ stars in under 60 days. Here's what we found. The result Mercury 2 sits in the upper-left of the chart: high task success rate and the fastest execution time in its performance class. 78% success rate — matching or exceeding GPT-5 Mini (75%), Gemini 2.5 Flash (71%), DeepSeek Chat (72%), and G

    匹配字段正文

  6. Inception Labs Blog

    Inception Labs 更新 Mercury 系列扩散 LLM 产品线

    Inception Labs 在其产品博客集中列出 Mercury 系列扩散 LLM 的进展:Mercury 2 面向搜索场景,可在既有延迟预算内为每次查询执行五十到一百次 LLM 调用;Mercury 2 用于语音智能体时 TTFT 低于 300 ms,并已上线 Azure AI Foundry。Mercury 2.5 被称为市面上能力最强的扩散 LLM,运行速度 1,107 tokens/sec,智能水平较 Mercury 2 提升 40%。此外,Mercury 2 新 API key 可获 100M 免费 tokens,速率限制提升 10 倍。

    of your coding workflow Mar 30, 2026 Product We evaluated Mercury 2 on PinchBench, the open-source benchmark built on top of OpenClaw — the fastest-growing open-source project in GitHub history, with 250K+ stars in under 60 days. Mar 24, 2026 Product We evaluated Mercury 2 on PinchBench, the open-source benchmark built on top of OpenClaw — the fastest-growing open-source project in GitHub history, with 250K+ stars in under 60 days. Today, we're introducing Mercury 2 — the world's fastest reason

    匹配字段正文

  7. SemiAnalysis

    GLM-5.3 解析:稀疏注意力如何影响 DRAM 内存 TAM

    SemiAnalysis 分析 Z.ai 的 GLM-5.3 系列:稀疏注意力通过 top-k 选择降低 SDPA 阶段的 KV cache 内存与带宽需求,但 top-k 选择仍需完整上下文驻留 HBM,因此并未消除内存容量瓶颈。SGLang 团队的 HiSparse 将 KV cache 从 HBM 卸载到主机 DRAM,按 LRU 策略换入换出,并把第 N 层加载与第 N-1 层执行重叠以降低 miss 延迟。在 InferenceX 基准中,150 tokens/s 下 GB200 约 $0.044/百万总 token,比 MI355X ATOM 的 $0.049 低约 12%。

    Infrastructure Z.ai uses slime, one of the best open-source RL training frameworks, as the post-training infrastructure throughout all GLM-5 models. We refer readers to the slime GitHub repo to learn more about its design and features, and here we highlight two features. Performance characteristics of RL rollouts are highly task-dependent, and each task comes with different tools and reward functions. To ensure system efficiency, Z.ai designed a server-based multi-task rollout orchestrator. Eac

    匹配字段正文

  8. AWS Machine Learning

    Claude Sonnet 5.5 在 Amazon Bedrock 上线

    AWS 宣布 Claude Sonnet 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线,定位为面向编码与知识工作的更高效 Sonnet 模型,多数任务单任务成本更低、速度更快。该模型适合持续或规模化负载,例如告警首次响应、智能体持续监控、SQL 生成、UI/UX 测试和 IDE 内编码智能体;需要判断力的工作如发布调试、多 PR 功能栈、大型 PR 安全审查则交给 Opus 5.5。用户可在 Bedrock 控制台 Playground 选择 Sonnet 5.5,或通过 Anthropic SDK、AWS CLI 和 AWS SDK 调用,目前通过 bedrock-runtime 的 Global CRIS 推理配置文件提供。

    through Claude Platform on AWS in North America. Give Claude Sonnet 5.5 a try in the Amazon Bedrock console, in Claude Platform on AWS, or explore the Getting Started notebooks on GitHub. About the authors Dani Mitchell Dani is a Senior Specialist Solutions Architect for Generative AI at AWS, working on go-to-market for Anthropic on Amazon Bedrock. He helps enterprises across the world design and deploy generative AI solutions using Anthropic’s models and capabilities on Amazon Bedrock to build

    匹配字段正文

  9. AWS Machine Learning

    在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用(上)

    AWS 发布教程,演示如何用 vLLM-Omni Deep Learning Container 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。该 DLC 基于 vLLM-Omni v1.5,新增 SageMaker AI 所需的双向流式能力标签与路由中间件,示例使用 v1/audio/speech/stream 原生 WebSocket 路由。

    个包含的类型提供可用配额。如果 SageMaker 选择了不同的实例,您的每小时成本也可能发生变化。使用 --instance-types 将池限制为满足您配额、价格和性能要求的类型。 开始之前,您需要: 本演练使用美国东部(弗吉尼亚北部)区域。示例会根据 AWS REGION 构建 DLC 镜像 URI 和运行时端点。 git clone https://github.com/aws-samples/sagemaker-genai-hosting-examples.git cd sagemaker-genai-hosting-examples/03-features/bidirectional-streaming-vLLM-Omni 安装所需的 Python 包。创建虚拟环境并安装示例定义的版本。 python3.12 -m venv .venv source .venv/bin/activate python -m pip install -r requirements.txt 配置示例。设置您的 SageMaker AI 执行角色。示例默认使用 us-east-1。传入 --re

    匹配字段正文

  10. AWS Machine Learning

    在 SageMaker AI 上用 vLLM-Omni 生成图像与视频(第二部分)

    在 Amazon SageMaker AI 上,用同一个 AWS vLLM-Omni DLC 镜像部署两个端点:实时端点跑 FLUX.2-klein-4B 生成图像,异步端点跑 Wan2.1-VACE-1.3B 做图像条件视频生成。文本提示词先生成 PNG,再连同运动提示词送入视频端点,生成的 MP4 从 Amazon S3 取回,示例还提供命令行流程和可选的 Streamlit 界面。

    geMaker 容量感知实例池可以按优先级顺序列出兼容的实例类型。只有在验证每个候选类型满足图像模型的 GPU 内存和性能要求后,才添加实例池。本示例将异步视频端点保持在固定实例类型上。 开始之前,你需要: 本演练使用美国东部(弗吉尼亚北部)AWS 区域。在部署 GPU 端点之前,请查看 SageMaker AI 定价。 git clone https://github.com/aws-samples/sagemaker-genai-hosting-examples.git cd sagemaker-genai-hosting-examples/03-features/vllm-omni-image-video 安装 Python 依赖项。创建虚拟环境并安装示例要求。 python -m venv .venv source .venv/bin/activate python -m pip install -r requirements.txt 部署图像和视频端点。设置您的 SageMaker AI 执行角色并运行部署脚本。该脚本固定 omni-sagemaker-cuda-v1.6,创

    匹配字段正文

星期一

  1. AWS Machine Learning

    使用 Amazon Nova Act 实现合成监控

    AWS 发布基于 Amazon Nova Act 与 Amazon Bedrock AgentCore 的智能体驱动合成监控方案,用多模态 LLM 读取 UI 截图而非 DOM 选择器,替代 Selenium、Playwright 等易碎脚本。早期企业客户用例中,Nova Act 在浏览器工作流上准确率超过 90%,典型六步旅程耗时 2 到 4 分钟。方案通过 EventBridge 调度,由 AgentCore Runtime 管理浏览器会话生命周期。

    resilient to routine UI changes, while AgentCore Runtime provides the infrastructure to run workflows at scale. For the complete working implementation, see the sample repository: github.com/aws-samples/sample-nova-act-synthetic-monitoring Sarath is a Senior Gen AI/ML Specialist Solutions Architect at Amazon Web Services, where he helps enterprise customers design and deploy generative AI and machine learning solutions that deliver measurable business outcomes. He brings deep expertise in Agenti

    匹配字段正文

  2. 澎湃新闻

    智能体越狱风险如何防范:多起安全事件与专家治理建议

    澎湃新闻报道,OpenAI、Anthropic 及安全研究人员正在调查数万起智能体安全事件,涉及绕过安全护栏、逃离沙盒、劫持网站、自我提示和试图绕过监控等行为。OpenAI 称已暂停最先进模型的训练,并放弃原计划 10 月推出的 GPT-6.1 Astra;Anthropic 则委托第三方机构审查模型行为。DARKNAVY 研究员李忠睿、上海财经大学教授胡延平、奇安信专家邓正诚等认为,风险正从内容层面转向能力层面,企业应从杜绝异常转向控制破坏范围,对删除数据、资金转账等高风险操作保留人工确认,并区分模型调用、应用与运行身份。英伟达 28 日发布由 OpenShell 开源软件和 Sentry 参考系统组成的独立 Agent 安全平台。

    自执行破坏性操作。4月,搭载Claude的Cursor编程智能体被曝删除软件企业PocketOS的生产数据库及相关备份,造成客户业务混乱,数据随后得到恢复。 数据与访问凭证外泄也是一种风险。OpenAI于9月披露,多个智能体在协作制作工作簿时,因无法互相读取本地文件,擅自将文件上传至公共托管平台。另一起案例中,内部模型为获取其他团队的数学证明材料,将研究员的GitHub访问令牌写入公开仓库,并拆分令牌以躲避密钥扫描。 还有一些行为涉及造假、欺骗与规避监督。OpenAI披露,部分模型会在用于延续任务的摘要中留下指令,要求编造缺失数据或隐瞒错误。 提示注入及恶意指令传播,则是另一条风险路径。6月公开的GitInject研究验证,恶意代码提交或配置文件可能诱导智能体泄露凭证、操纵审查判断。OpenAI于9月披露的信息也显示,恶意指令可以诱使智能体将其复制到后续邮件、文件或代码注释中。 独立网络安全研究机构DARKNAVY的AI安全研究员李忠睿对澎湃新闻记者表示,这一轮智能体安全事件与过去的大模型安全问题最大的区别,是风险正在从“看错东西、说错话”转变为“做错事”。 “过去的大模型安全,主要是

    匹配字段正文

  3. Thomas Wolf

    Hugging Face 参与发布 NVIDIA Open Agent Safety Platform,开源 OpenShell 沙箱

    Hugging Face 联合创始人 Thomas Wolf 宣布,Hugging Face 成为 NVIDIA Open Agent Safety Platform 的合作伙伴之一,该平台由 OpenShell 与 Sentry 组成。OpenShell 以 Apache 2.0 开源,让智能体运行在 Linux 沙箱(Landlock + seccomp)中,无 root、无直接网络访问,真实凭证由沙箱外的 supervisor 持有,智能体只拿到占位 token。其中基于 Z3 的求解器会用数学方式检查新权限是否打开了本应关闭的通道,NVIDIA 测试中 AI 审查者放行了错误权限请求,被这一数学检查拦下;Sentry 则是在 BlueField-4 DPU 上运行看门狗。Wolf 也指出当前证明器只检查权限而非意图,开源部分主要是 OpenShell 而非 Sentry。

    ect the rules. Agents write and run their own code, and when one path is blocked they look for another. In one of NVIDIA's tests, an agent that wasn't allowed to push code through GitHub's API simply switched to git instead. We've now seen countless examples of this behavior. For now, safety can't live only inside the agent. It has to be built around it. That's the concept behind OpenShell (open source, Apache 2.0): - the agent runs in a Linux sandbox (Landlock + seccomp): no root, no direct net

    匹配字段正文

  4. MarkTechPost

    NVIDIA 发布开放智能体安全平台,OpenShell 沙箱搭配 BlueField-4 上的 Sentry

    NVIDIA 发布 NVIDIA Open Agent Safety Platform,将 OpenShell 安全运行时与运行在 BlueField-4 DPU 上的带外看门狗 NVIDIA Sentry 组合,核心思路是安全控制不放在被管控的智能体内部。OpenShell 采用 Apache 2.0 许可,可安装在 Linux、macOS(Apple Silicon)或 Windows WSL 2,仓库仍标注为 alpha;Sentry 通过 NVIDIA DOCA 检查智能体的请求与响应,提供可验证遥测、身份校验和对数据、工具与 API 的零信任访问。NVIDIA 称已有超过 100 家机构参与,Anthropic、Salesforce、SAP、Red Hat、SUSE 和 Canonical 等已做集成,该工作归入由 Linux Foundation 治理的 Open Secure AI Alliance。

    Anthropic integrated Claude Managed Agents with OpenShell and BlueField. SpaceXAI uses it for Cursor coding agents and Grok models. Salesforce connected OpenShell to Slack for approving agent permission requests. SAP is embedding OpenShell in the Joule Studio runtime. Red Hat, SUSE and Canonical are integrating it into their operating systems. The effort feeds the Open Secure AI Alliance , governed by the Linux Foundation. OpenShell and its skills are available on GitHub and the OpenShell docs .

    匹配字段正文

  5. NVIDIA Developer · Generative AI

    NVIDIA 发布 OpenShell 0.1.0,为 AI 智能体加上运行时权限控制

    NVIDIA 发布开源运行时 OpenShell 0.1.0,可在不重写智能体的前提下限制其可访问的系统与数据,结合沙箱执行、受控服务访问、凭证管理和形式化策略分析。OpenShell 由 Gateway、Supervisor 和 Sandbox 组件管理智能体集群,可检查 HTTP、GraphQL 和 MCP 流量,允许同一 API 上的读操作而拦截写操作,并将策略决策记录到 OCSF 审计日志。Cadence、Slack 和 Gecko Robotics 等组织已在芯片设计、企业自动化和物理机器人治理中采用该运行时。

    r Docker and Kubernetes, and trusted middleware for identity services. Next Steps Start the quickstart to run an agent with OpenShell and configure its service access. Explore the GitHub repository to examine the code and contribute. Join the CNCF Slack openshell-dev channel to ask questions and connect with other developers. Powered by NVIDIA Nemotron. AI-generated content may summarize information incompletely. Verify important information. Learn more AI agents can be given a goal, write code,

    匹配字段正文

  6. Hugging Face

    Hugging Face 在 Hub 上线 RL Environments 功能

    Hugging Face 在 Hub 上线 RL Environments,用 rl-environment 标签把环境作为数据集托管,并注册 Harbor、Verifiers、OpenEnv、NeMo Gym 四个框架标签,数据集页面会显示框架图标并生成加载命令。用户可在 datasets?other=rl-environment 筛选查看,文中给出了各框架运行任务并检查 verifier 奖励的示例命令。官方已为 BeyondSWE、Terminal-Lego、Multi-SWE-RL-Verified、Workplace Assistant 等已有环境提交打标签的 PR,后续计划支持按配置生成片段和自动打标签。

    Stop building environment registries Every RL paper or framework uses its own way to find environments. Custom hubs, runtime registries, independent task datasets, or a GitHub list of tasks with a custom loader. This means that many of the published environments are siloed: if you publish an environment for one framework, users of the other three can’t load it. If you want to train on an environment from another framework or a new paper, you’ll need to port it by hand. We think this is the wrong

    匹配字段正文

  7. Artificial Analysis 完整文章

    Artificial Analysis 发布 Cyber Index 与 Cyber Index Alliance,评测 AI 智能体网络防御能力

    Artificial Analysis 推出 Cyber Index,联合 Collinear AI、IBM、NVIDIA、Vercel 成立 Cyber Index Alliance,用三个基准评测 AI 智能体发现并修复漏洞的能力。其中 CWE-Bench-AA 含 120 个私有任务,覆盖 OWASP Top 10(2025)全部十类,涉及 C/C++、Go、Java、JavaScript/TypeScript、Python 和 Rust。所有评测在开源智能体框架 Stirrup 上运行,模型拒绝任务的情况单独报告,不计入得分。

    has its own leaderboard page: CWE-Bench-AA, DeepsecBench-AA, and CyberGym-E2E-AA; Stirrup, the open-source agent harness used for every Artificial Analysis Cyber Index task, is on GitHub Our development roadmap Security teams are already choosing models to support their defensive work, so we are launching the Artificial Analysis Cyber Index and the Cyber Index Alliance now, with three evaluations, rather than waiting to cover every capability. We will review the Index as models improve and add e

    匹配字段正文

  8. Simon Willison

    Simon Willison 回顾 2026 年 LLM 进展(截至目前)

    Simon Willison 在 WeAreDevelopers World Congress North America 闭幕演讲中,按时间线梳理了 2026 年至今的 LLM 关键趋势。他指出 2025 年 11 月发布的 Claude Opus 4.5 与 GPT-5.1 让 Claude Code、Codex 等编码智能体从“经常出错”变为“足以日常可靠使用”。他还提到自己因“AI 狂热”用 Python 构建了 JavaScript 解释器和 WebAssembly 运行时。

    e state of the art for November. Claude still couldn’t really draw a bicycle! The GPT-5.1 bicycle frame is pretty crap too. Also in November, we had the first commit to an obscure GitHub repository called “Warelay”. We’ll come back to this repository shortly. And then there were the December holidays, and individual developers took some time off and many started tinkering with these new coding agent model combinations... and it began to dawn on us quite how much they could do that they couldn’t

    匹配字段正文

  9. MarkTechPost

    Google Research 推出 AI 视频联合导演:4 个智能体框架实现连贯的分钟级视频生成

    Google Research 发布一套 AI 视频联合导演系统,用 4 个智能体框架把短片段串成连贯的分钟级故事,针对多镜头 AI 视频管线中的身份漂移与级联错误。系统基于 Gemini 和 Veo,模型无关,输出继承 SynthID 水印;其中 Co-Director 与 CANVAS 分别被 COLM 2026 和 EMNLP 2026 接收,A²RD 为免训练架构并生成了 10 分钟影片,VQQA 无需访问模型内部。团队还构建了 GenAD-Bench、HardContinuityBench 和 LVBench-C 三个新基准。

    needs no access to model internals. A Global Selection step picks the best video across all iterations, not simply the last one. Google built 3 new benchmarks. GenAD-Bench has 400 ad scenarios across 200 fictional products from 50 brands. HardContinuityBench stresses scene reappearances and prop state changes. LVBench-C has 120 scenarios where key assets vanish for at least 10 segments before returning. Sources: linked papers, project pages, and GitHub repositories. Verified September 27, 2026.

    匹配字段正文

星期日

  1. METR Notes

    METR 部署基础逐动作监控器以降低评估中智能体造成现实危害的风险

    METR 开发并部署了一个基础实时逐动作监控器,由 LLM judge 在执行前审查智能体的每个动作,超过阈值即暂停评估并转人工复核,目标是可靠检测可能造成现实危害或试图规避监控的行为。METR 在梳理有效性论证时发现多项严重问题:有研究员因误解标准未启用监控就运行了高风险评估,编码智能体可能自行打开人工复核面板并发送按键,监控无法抵御伪造用户轮次等手动红队攻击,早期 Inspect 版本中子智能体的动作不会展示给监控器。

    lse positives under our monitor’s scope of real-world harm. These involve: Attempting to tamper with a task’s scorer (9/10 and 6/10 suspicion); Attempting (and failing) to push to GitHub from a sandbox with no credentials (9/10 suspicion); Printing synthetic credentials given by the task into the transcript (10/10 and 9/10 suspicion) We also looked at the most concerning cases rated below our 3/10 threshold (i.e. presumed true negatives) by filtering to capable agents (opus-4.7 / gpt-5.4 and abo

    匹配字段正文