←搜索结果

按匹配度 · 共 369 条结果 清除搜索

星期一

  1. Wired AI

    Nvidia 将智能体安全沙箱 OpenShell 正式发布,并推出 Sentry 平台

    Nvidia 将面向 AI 智能体的安全沙箱 OpenShell 从 GTC 大会首次公布推进到面向所有用户正式发布,该框架把智能体活动隔离在操作系统内核中。Nvidia 同时推出新软件平台 Sentry,作为芯片上的隔离安全域持续监控长时间运行的智能体,可隔离试图越界的智能体,并计划与 Arm、Intel 合作使其支持 x86 架构。两者被纳入开源框架 Open Agent Safety Platform,Nvidia 称 Anthropic、Microsoft、Mistral、Hugging Face 等数十家公司参与合作,Salesforce、Scale AI、SAP 确认不同程度集成 OpenShell,但 OpenAI 未出现在名单中。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Blog精选

    NVIDIA 联合 Google DeepMind 等开放 2800 多种病毒的蛋白结构预测数据集

    NVIDIA 加入由 Google DeepMind、EMBL-EBI 等组成的联盟,通过 AlphaFold Database 开放 2800 多种病毒的蛋白复合物预测 3D 结构,供全球科学家免费使用。这些结构由 AlphaFold2 推断,并用 NVIDIA BioNeMo Inference Runtime 优化以扩展到数千个病毒蛋白质组。NVIDIA 同时开源生成该数据集的 BioNeMo Structure Prediction Pipeline,其中约 30% 的蛋白相互作用此前未在 Protein Data Bank 中记录。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA 开源 Cluster Readiness Engine,在生产负载前验证 GPU 集群就绪

    NVIDIA 发布开源 Kubernetes 控制器 Cluster Readiness Engine(NVCRE),通过运行真实分布式工作负载来验证 GPU 集群是否就绪,并把每个失败归因到具体节点和类别。它采用 Certification、Workflow、Job 三层自定义资源 API,内置覆盖 NCCL 通信、DCGM 四级诊断和 NeMo 预训练(Nemotron 5 的 8B 与 56B)的测试目录,并支持自适应故障隔离,逐层拆分失败分组以缩小可疑节点范围。NVCRE 与 NVIDIA AI Cluster Runtime、NVSentinel 共同构成 NVIDIA DSX OS 运行层,需 Kubernetes 1.29 及以上版本,采用 Apache 2.0 许可。

    匹配字段标题、摘要、正文

星期三

  1. A6 a6-047 · Baseten 工程博客

    Baseten 上线 NVIDIA Nemotron 3 Diarization,单卡可跑 500 路实时说话人分离

    Baseten 在 Model Library 上线 NVIDIA Nemotron 3 Diarization,提供预录、流式和实时转写三种预设,单次推理即可标注最多 8 位说话人,间隔最低 320ms。该模型约 100M 参数,基于 NVIDIA Streaming Sortformer,同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟;在 RTX PRO 6000 上可维持 500 路以上并发分离流,加入转写后为 190 路。AISHELL-4 低延迟档 DER 为 9.8%,对比 Streaming Sortformer v2.1 的 27.2%,模型已在 Hugging Face 和 Baseten Model Library 开放。

    匹配字段标题、摘要、正文

  2. Baseten 工程博客

    NVIDIA Nemotron 3 Diarization 上线 Baseten,实时说话人标注每小时一美分

    NVIDIA Nemotron 3 Diarization 已在 Hugging Face 和 Baseten Model Library 上线,提供批量、流式和实时说话人标注转写三种预设。该模型基于 NVIDIA Streaming Sortformer,约 100M 参数,单次前向即可输出说话人活动,最多标注 8 位说话人,同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟。Baseten 在 RTX PRO 6000 上优化后,单卡可维持超过 500 路并发小时级分离流,加入转写后为 190 路,批量吞吐比 NVIDIA 参考部署高约 1.35 倍。

    Nemotron 3 diarization

    匹配字段标题、摘要、正文

星期二

  1. NVIDIA Blog

    NVIDIA 发布 Isaac ROS 5.0,为机器人开发引入智能体工作流

    NVIDIA 在 ROSCon 发布 Isaac ROS 5.0,为基于 ROS 的机器人开发引入智能体工作流与新的平台支持,并新增用于环境搭建和操作的 Isaac 技能。该版本支持 ROS Lyrical 和 Ubuntu 24.04,FoundationPose 的智能体推理库让机器人感知和跟踪物体位姿的速度最高提升 5.5 倍,抓取放置流程也作为独立技能开放。Isaac ROS 5.0 支持从 Jetson Orin Nano 到 Jetson Thor 的可扩展算力,Mentee Robotics、Universal Robots、ROBOTIS 等公司已将其用于各自机器人平台。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA Dynamo-Triton 26.07 集成 TensorRT 多设备推理

    NVIDIA Dynamo-Triton 26.07 启用 TensorRT 后端的多设备推理能力,一个 KIND_MODEL 实例可占用多块 GPU 并通过单个 gRPC 端点对外提供分布式推理服务,TensorRT 11.0 起完整支持该能力。以 Cosmos 3 Nano 视频生成为例,Ulysses 上下文并行把 44,160 个视频 token 分配到最多八块 GPU,端到端生成延迟从单 GPU 的 156.6 秒降至八 GPU 的 34.2 秒,transformer RPC 加速比达 6.09 倍。CP2、CP4、CP8 的输出通过 MAE ≤ 25 与 PSNR ≥ 18 dB 的质量阈值校验,但该基准未测量并发吞吐、单视频成本或 TCO。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 在 GB300 NVL72 上实测 Qwen3.8-Flash-Next 智能体编码

    阿里发布 Qwen3.8-Flash-Next 权重,作为 Qwen4 架构预览供开发者实验评估,这是一个 125B 参数、每 token 激活 6B 的多模态 MoE 模型,原生上下文窗口 262,144 token,借助 YaRN 可扩展至 1M token。NVIDIA 提供 SGLang、vLLM 和 TensorRT LLM 的 Day 0 功能支持,并在 GB300 NVL72 上验证推理,单 GPU 吞吐超过 16K token/秒、单用户超过 200 token/秒。开发者可用 NVIDIA NeMo AutoModel 微调、用 NeMo RL 做强化学习,权重可从 Hugging Face 或 ModelScope 下载。

    Decorative image.

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI

    NVIDIA Dynamo 推出影子引擎恢复,LLM 推理故障恢复从 283 秒缩短到 7.3 秒

    NVIDIA Dynamo 以预览功能形式推出影子引擎恢复,在同一批 GPU 上保留一个已完全初始化的空闲影子引擎,由 GPU Memory Service 共享已有权重而不在 HBM 中额外复制,活跃进程失败后影子引擎可在数秒内接管。在 NVIDIA B200 节点上的双 worker GLM-5.2 部署中,影子引擎恢复用 7.3 秒恢复服务,冷重启需要 283 秒,接近 39 倍差距。该功能要求 Kubernetes 1.34 或更新版本的 Dynamic Resource Allocation 并安装 NVIDIA GPU DRA 驱动,主要支持 vLLM 后端,当前预览版尚不支持将 GMS 用于 KV cache。

    匹配字段标题、摘要、正文

星期一

  1. NVIDIA Developer · Generative AI

    NVIDIA Groq 3 LPX 在 Vera Rubin 上实现长上下文超快交互

    NVIDIA 发布面向 Vera Rubin 平台的交互式 AI 推理加速器 Groq 3 LPX,Artificial Analysis 在 100K 上下文下用 Gemma 4 31B 实测中位输出速度为 3,431 tokens/秒,10K 上下文下为 3,382 tokens/秒。该加速器采用确定性执行模型,由编译器预先调度芯片间通信并细粒度重叠计算与通信,可与 Vera Rubin NVL72 组合用于 prefill-decode 分离、attention-FFN 分离和外部草稿模型投机解码等配置。在 SPEED-Bench 编码基准上,同一系统用 Gemma 4 达到中位 4,767 tokens/秒、P80 为 5,520 tokens/秒。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI

    NVIDIA 发布 SkillEvaluator,评估 AI 智能体技能表现

    NVIDIA 推出开源工具 SkillEvaluator,通过静态检查和有无技能对照的实机任务运行,衡量技能对智能体表现的影响。首批对 30 多个 NVIDIA 产品线的 300 多个已验证技能在 Codex 和 Claude Code 两个 harness 上评估,Correctness 平均 Skill Lift 为 41 分,Effectiveness 为 39 分;单产品差异从 +2 到 +46 分。工具还单独追踪 token 用量与执行时间,例如 jetson-optimize-memory 使 token 减少 76.9%,cuopt-install 则增加 120.3%。OpenClaw 与 Nous Research 已在 ClawHub 和 Hermes Agent 中试点集成。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 在 GB300 NVL72 上部署 Qwen3.8-2.4T-A95B,单 GPU 吞吐超 4K tokens/s

    NVIDIA 发布在 GB300 NVL72 上部署阿里开源权重模型 Qwen3.8-2.4T-A95B 的方案,该模型总参数 2.4T、每 token 激活 95B,采用细粒度 MoE 与全注意力加线性注意力混合架构,上下文窗口最高 100 万 tokens。在 FP8 精度下 Day 0 即实现单 GPU 超 4K tokens/s、单用户超 350 tokens/s,NVFP4 优化预计带来进一步提升。SGLang、vLLM 和 NVIDIA Dynamo 提供开源推理配方,也可通过 NVIDIA NIM 容器部署,并可用 NeMo AutoModel 做全量 SFT 或 LoRA 微调。

    匹配字段标题、摘要、正文

星期三

  1. The Next Platform

    Nvidia 发布 Nemotron 3.5 Lightning 模型与 NeMo Switchyard 路由库

    Nvidia 发布 Nemotron 3.5 Lightning 开源模型和 NeMo Switchyard 路由库,前者面向持续运行的智能体任务,官方称在同级中实现 4 倍吞吐、完成智能体任务速度提升 30%,并可在 Jetson、GeForce RTX、DGX Spark 和 DGX Station 上本地运行。Switchyard 让开发者自定义模型池、路由标准和策略,把推理密集型步骤交给前沿模型、把执行类任务交给 Lightning,官方称其以 Anthropic Opus 4.8 约三分之一成本取得更好准确率。Nvidia 同时公开训练数据与方法,并发布用于训练编码智能体的开放数据集 Nemotron-RL-Agentic-Terminal-Pivot。

    匹配字段标题、摘要、正文

星期二

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由能力,可在专用模型与前沿模型之间按任务分配请求,以平衡性能、成本与效率。该工具提供免调优的 LLM 分类器、阶段路由器和升级路由器,也支持基于工作负载数据训练的预填充路由器,并可通过 OpenAI、Anthropic 和 Responses API 接入。LangChain 在 145 个多轮智能体任务上测试升级路由器,在 Nemotron 3.5 Lightning 与 Claude Opus 4.8 之间路由,仅 7% 调用发往前沿模型,成本降低 74%,准确率约有 6 个百分点的折让。

    匹配字段标题、摘要、正文

  2. LMSYS Blog精选

    SGLang 为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持

    SGLang 宣布为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,开发者可通过其 OpenAI 兼容推理栈部署该模型。Nemotron 3.5 Lightning 是从 Nemotron 3 Ultra 蒸馏而来的 30B 混合 MoE 模型,每 token 仅激活 3B 参数,支持 MTP、DFlash、DSpark 三种投机解码,并可通过 enable_thinking 与 thinking_budget 控制推理开关和深度。模型权重已在 Hugging Face 提供 BF16 和 NVFP4 版本,官方称其在相近准确率下完成智能体任务最多快 30%。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 Isaac for Healthcare 医疗物理仿真框架

    NVIDIA 发布开源 GPU 加速的 Medical Physics Simulation 框架,作为 Isaac for Healthcare 的一部分,用于生成解剖数字孪生、模拟器械与解剖结构交互并训练强化学习策略。其中 Endoluminal Simulation Module 已正式可用,用 XPBD 求解器实时模拟柔性导管在患者特异性血管中的导航;Surgical Simulation Module 处于早期访问,可在单张消费级 GPU 上以超过 30 帧每秒模拟软组织变形与触觉反馈。Cosmos-H 系列生成式世界模型可从机器人动作生成手术视频,Cosmos-H-Dreams 经 FlashDreams 推理引擎实现超过 30 帧每秒的交互式仿真。

    匹配字段标题、摘要、正文

星期四

  1. Black Forest Labs Blog精选

    Black Forest Labs 与 ASUS、NVIDIA 合作,FLUX.2 [klein] 预装 ProArt 笔记本

    Black Forest Labs 宣布 FLUX.2 [klein] 4B 将预装在 ASUS 新一代 ProArt 笔记本的 MuseTree 应用中,该机型搭载 RTX GPU,已在台北 Computex 2026 亮相。官方称目标是在 8GB 显存笔记本上、后台运行其他专业应用时实现 5 秒以内的图像生成,无需 API 或联网。Black Forest Labs 表示正扩展合作,为更多硬件和设备提供端侧优化的 FLUX 模型。

    FLUX.2 is now on device: ASUS ProArt laptops now support Klein models

    匹配字段标题、正文

星期二

  1. Together AI Blog

    Together AI 首日向开发者提供 NVIDIA Nemotron 3 Nano Omni

    Together AI 已上线 NVIDIA Nemotron 3 Nano Omni,为开发者提供托管式生产级多模态推理服务。该开放模型采用混合 Transformer-Mamba MoE 架构,总参数量为 30B、每个 Token 激活约 3B 参数,并支持最高 256K Token 的共享多模态上下文。开发者可通过 API 部署,也可在云端、本地或隔离环境中自行部署。

    匹配字段标题、摘要、正文

星期一

星期三

  1. LMSYS Blog精选

    SGLang 首日支持 NVIDIA Nemotron 3 Super,面向多智能体系统推理

    SGLang 宣布在发布当天支持 NVIDIA Nemotron 3 Super,并给出安装与推理部署步骤。Nemotron 3 Super 是 120B 参数的混合 MoE 模型,每次前向仅激活 12B 参数,支持 1M token 上下文,官方称其吞吐效率最高可达上一代 Nemotron Super(Llama Nemotron Super 1.5)的 5 倍,并支持 Multi-Token Prediction 与 Thinking Budget。模型权重已在 Hugging Face 提供 BF16、FP8 和 NVFP4 版本,可配合 SGLang 在 4xH200 等配置上部署。

    匹配字段标题、摘要、正文