←搜索结果

搜索“NVIDIA”

按匹配度 · 共 635 条结果 清除搜索

星期日

  1. 事件1 条新闻 · 1 个事实

    NVIDIA推出HSTU推理部署工作流

    2026年10月1日,NVIDIA推出基于Dynamo-Triton、PyTorch AOTI和FlexKV的HSTU推理部署工作流。据NVIDIA Developer · Generative AI发布的官方信息,NVIDIA recsys-examples现已提供基于Dynamo-Triton的端到端HSTU生成式推荐推理工作流,结合PyTorch AOTI编译与FlexKV支持的KV缓存。在NVIDIA RTX PRO 6000 Blackwell Workstation Edition GPU上,八层HSTU模型在batch size 8、100% GPU KV-cache命中率下,延迟相比无缓存的同款AOTI配置最多降低5.93x,三层模型为4.47x。目前该工作流已随recsys-examples提供,暂无后续发展事实。

    匹配字段标题

  2. 事件1 条新闻 · 1 个事实

    NVIDIA发布cuObject与SCADA SDK

    2026年9月30日,NVIDIA正式发布cuObject客户端与服务器库及SCADA Server SDK。据NVIDIA Developer介绍,cuObject客户端与服务器库已正式GA,提供标准化API和RDMA线协议,使GPU无需经服务器CPU即可加速访问对象存储。xio-sig联盟将cuObject与cuFile并列纳入,Google Cloud正评估参与,Microsoft计划加入董事会。新发布的SCADA Server SDK支持存储厂商构建响应GPU发起请求的服务器,IBM已用IBM Storage Scale完成原型验证。NVIDIA Storage-Next计划联合40多家厂商定义GPU驱动的细粒度存储开放标准。目前该发布尚无后续独立发展事实。

    匹配字段标题

  3. 事件1 条新闻 · 1 个事实

    NVIDIA发布智能体追踪教程

    2026年10月1日,NVIDIA发布教程,介绍使用NeMo Relay追踪和评估智能体行为。据NVIDIA Developer · Generative AI,NeMo Relay提供统一的可观测层,为agent运行捕获有序生命周期事件与结构化轨迹;Hermes Agent原生集成后产出ATOF事件流、ATIF逐步轨迹和带OpenInference标签的OpenTelemetry span,可在Arize Phoenix中查看。教程用终端工具任务验证输出VALUE=42,并以Hermes ToolPerf案例对比基线与修复版本共108次运行,显示Qwen Coder 30B恢复了更多任务但增加了调用、数据和延迟。目前尚无后续发展。

    匹配字段标题

  4. 事件1 条新闻 · 1 个事实

    NVIDIA发布TensorRT Model Connect公开预览版

    2026年7月29日,NVIDIA发布TensorRT Model Connect公开预览版。据NVIDIA Developer介绍,该项目是基于NVIDIA TensorRT的开源C++ AI模型参考实现集合,截至2026年7月29日版本已覆盖128个模型家族,并在NVIDIA GB300上完成测试。项目把AI输出当作可独立验证的工作单元,通过并行任务、模型家族隔离、可回滚改动和GPU验证来避免错误级联,人类判断则上移到系统设计、验收标准与发布决策。目前尚无后续发展事实。

    匹配字段标题

  5. 事件2 条新闻 · 1 个事实

    NVIDIA发布OpenShell 0.1.0,为AI智能体加运行时权限控制

    2026年9月28日,NVIDIA发布开源运行时OpenShell 0.1.0,可在不重写智能体的前提下限制其可访问的系统与数据,结合沙箱执行、受控服务访问、凭证管理和形式化策略分析。OpenShell由Gateway、Supervisor和Sandbox组件管理智能体集群,可检查HTTP、GraphQL和MCP流量,允许同一API上的读操作而拦截写操作,并将策略决策记录到OCSF审计日志。Cadence、Slack和Gecko Robotics等组织已在芯片设计、企业自动化和物理机器人治理中采用该运行时。9月29日,吴恩达宣布其开源智能体框架OpenWorker将基于NVIDIA OpenShell,支持在沙箱内运行每个智能体的命令,默认隔离密钥API key、浏览器登录凭据和任意网站访问权限,这些限制由确定性代码而非提示LLM实现,所有操作均被记录以供监控审计。

    匹配字段标题

  6. 事件1 条新闻 · 1 个事实

    Databricks登顶NVIDIA SOL-ExecBench内核榜全部4个赛道

    Databricks 于 2026 年 9 月 29 日登顶 NVIDIA SOL-ExecBench 内核排行榜,覆盖全部 4 个赛道。据代表来源 Yuchen Jin 当日发布的信息,Databricks 将 GPT-6 Astra 和 Opus 5 放入一个自我爬坡循环,智能体击败了顶尖的 GPU 内核工程师;总花费约 70K 美元,远低于内核工程师的薪酬。该来源还称,在编写 GPU 内核方面,GPT-6 Astra 和 Opus 5 仍远胜 OSS 模型。目前尚无后续发展事实,事件状态停留在登顶这一节点。

    匹配字段标题

  7. 事件1 条新闻 · 1 个事实

    NVIDIA开源GPU集群就绪引擎NVCRE

    2026年9月24日,NVIDIA开源了GPU集群就绪验证工具NVCRE(Cluster Readiness Engine)。据NVIDIA Developer发布的官方信息,这是一个开源Kubernetes控制器,通过运行真实分布式工作负载来验证GPU集群是否就绪,并把每个失败归因到具体节点和类别。该工具采用Certification、Workflow、Job三层自定义资源API,内置覆盖NCCL通信、DCGM四级诊断和NeMo预训练(Nemotron 5的8B与56B)的测试目录,并支持自适应故障隔离,逐层拆分失败分组以缩小可疑节点范围。NVCRE与NVIDIA AI Cluster Runtime、NVSentinel共同构成NVIDIA DSX OS运行层,需Kubernetes 1.29及以上版本,采用Apache 2.0许可。目前尚无后续发展事实。

    匹配字段标题

  8. 事件1 条新闻 · 1 个事实

    NVIDIA推出AIPerf推理基准工具

    2026年9月18日,NVIDIA推出AIPerf,作为GenAI-Perf的指定继任工具。据NVIDIA Developer介绍,该工具完全重写,采用多进程架构,以避免客户端在高并发LLM基准测试中成为瓶颈。AIPerf支持超过15种端点类型,以及ShareGPT和来自Mooncake、Baseten、WEKA AgentX的trace replay格式,并提供constant、Poisson、gamma等可配置到达模式。在指标方面,AIPerf报告TTFT、ITL、请求延迟和输出token吞吐量等核心指标,附带百分位细分,并在可用时通过DCGM或pynvml提供GPU遥测。目前尚无后续发展事实。

    匹配字段标题

  9. 事件1 条新闻 · 1 个事实

    NVIDIA开源GPU内核转换技能

    2026年9月16日,NVIDIA发布一项AI智能体技能,可将cuTile Python和Triton-TileIR内核转换为cuTile Rust。该技能在TileGym仓库中推出,已移植全部24个公开TileGym算子,平均达到cuTile Python性能的99.5%。流程采用有界多智能体工作流,每阶段以机器可校验的判定收尾,并通过与参考Tile IR做diff验证结构等价。在NVIDIA DGX B200上,24个算子的几何平均加速比均超过0.95阈值,整体性能持平于0.995。目前尚无后续发展事实。

    匹配字段标题

星期四

星期三

星期三

星期二

星期四

星期二

  1. 事件1 条新闻 · 1 个事实

    NVIDIA发布Isaac ROS 5.0

    2026年9月22日,NVIDIA在ROSCon发布Isaac ROS 5.0,为基于ROS的机器人开发引入智能体工作流与新的平台支持,并新增用于环境搭建和操作的Isaac技能。该版本支持ROS Lyrical和Ubuntu 24.04,FoundationPose的智能体推理库让机器人感知和跟踪物体位姿的速度最高提升5.5倍,抓取放置流程也作为独立技能开放。Isaac ROS 5.0支持从Jetson Orin Nano到Jetson Thor的可扩展算力,Mentee Robotics、Universal Robots、ROBOTIS等公司已将其用于各自机器人平台。目前尚无后续发展事实。

    匹配字段标题

星期二

星期五