←搜索结果

按匹配度 · 共 2029 条结果 清除搜索

星期四

  1. NVIDIA Developer · Generative AI

    NVIDIA 教程:后训练 Cosmos 3 Edge 实现 Jetson Thor 端侧机器人控制

    NVIDIA 发布教程,介绍如何后训练 4B 的 Cosmos 3 Edge 全能模型,使其在 NVIDIA Jetson Thor 上原生运行机器人操作策略。在 Jetson AGX Thor T5000 上,该策略约 1.53 秒生成一个动作块,单个动作块覆盖约 2.13 秒机器人运动,因此无需数据中心 GPU 即可连续实时控制。在 RoboLab 闭环评测的 120 项语言条件操作任务中,后训练后的 Edge 策略成功率为 22.9%,Nano 为 36.8%。训练数据为 nvidia/Cosmos3-DROID 数据集,含 76k 条成功遥操作轨迹、约 350 小时、86 项任务和 564 个场景;后训练与部署脚本已在开源 cosmos-framework 仓库提供,检查点发布在 Hugging Face。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI

    NVIDIA 发布 SkillEvaluator,评估 AI 智能体技能表现

    NVIDIA 推出开源工具 SkillEvaluator,通过静态检查和有无技能对照的实机任务运行,衡量技能对智能体表现的影响。首批对 30 多个 NVIDIA 产品线的 300 多个已验证技能在 Codex 和 Claude Code 两个 harness 上评估,Correctness 平均 Skill Lift 为 41 分,Effectiveness 为 39 分;单产品差异从 +2 到 +46 分。工具还单独追踪 token 用量与执行时间,例如 jetson-optimize-memory 使 token 减少 76.9%,cuopt-install 则增加 120.3%。OpenClaw 与 Nous Research 已在 ClawHub 和 Hermes Agent 中试点集成。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI

    AI 编程智能体如何借助 NVIDIA ALCHEMI Toolkit 解锁材料模拟

    NVIDIA ALCHEMI Toolkit 提供 PyTorch 原生的可组合模块,用于构建 GPU 加速的机器学习原子间势(MLIP)模拟,并支持 in-flight batching;配合其 agent skills,编程智能体可从自然语言提示生成并执行模拟工作流。在硅状态方程、Cu(111) 氧吸附和锂自扩散三类共 45 条流水线的基准测试中,提示词具体程度只影响代码结构与可复用性,不改变物理结果;Langevin 与 NVE 系综给出的液态锂扩散系数相差 3-5 倍。智能体默认选用 FIRE 而非 FIRE2,且 7 个 GPU 相关失败只在执行时暴露。

    匹配字段标题、摘要、正文

星期二

  1. NVIDIA Developer · Generative AI

    NVIDIA 用 QAD 打造 Nemotron 3.5 Lightning NVFP4:吞吐提升 4 倍、体积压至 22GB

    NVIDIA 通过量化感知蒸馏(QAD)将 Nemotron 3.5 Lightning 压缩为 NVFP4 checkpoint,体积从 66GB 降至 22GB,吞吐最高提升 4 倍。该流程先用 PTQ 生成 W4A16 量化学生模型,再用 KL 散度损失将冻结的 BF16 教师模型蒸馏进学生模型;中间 checkpoint 上中位精度恢复率从 96.33% 提升至 99.72%、从 95.84% 提升至 98.53%,内存占用同为 21.19GB。最终 checkpoint 已在 Hugging Face 开放下载。

    匹配字段标题、摘要、正文

星期一

  1. OpenAI Newsroom

    OpenAI 与 SB Energy、NVIDIA 合作在俄亥俄州 Pike County 建设数据中心

    OpenAI 宣布达成协议,使用位于俄亥俄州 Pike County 的 PORTS-Pike Technology Data Center 算力容量,合作方包括 SB Energy、NVIDIA 和美国能源部。SB Energy 将承担为该数据中心服务的全部电网升级和新建输电线路费用,避免成本转嫁给俄亥俄州及其他地区用户;数据中心采用闭环风冷系统循环用水,预计用水量显著低于历史上 Portsmouth 气体扩散工厂的用量。项目预计在截至 2032 年的六年建设期内创造 35,000 个建筑岗位和 2,500 个长期运营岗位,并带来 8,000 万美元初始社区投资,其中 OpenAI 出资 4,000 万美元、SB Energy 已有 4,000 万美元承诺。OpenAI 还将在 2026–2027 学年向约 844,000 名符合条件的俄亥俄州高校及技术学校 18 岁以上学生提供最高 8,400 万美元的 Codex 额度。

    匹配字段标题、摘要、正文

星期四

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 在 GB300 NVL72 上部署 Qwen3.8-2.4T-A95B,单 GPU 吞吐超 4K tokens/s

    NVIDIA 发布在 GB300 NVL72 上部署阿里开源权重模型 Qwen3.8-2.4T-A95B 的方案,该模型总参数 2.4T、每 token 激活 95B,采用细粒度 MoE 与全注意力加线性注意力混合架构,上下文窗口最高 100 万 tokens。在 FP8 精度下 Day 0 即实现单 GPU 超 4K tokens/s、单用户超 350 tokens/s,NVFP4 优化预计带来进一步提升。SGLang、vLLM 和 NVIDIA Dynamo 提供开源推理配方,也可通过 NVIDIA NIM 容器部署,并可用 NeMo AutoModel 做全量 SFT 或 LoRA 微调。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI

    NVIDIA JetPack 7.2.1 新增智能体视频技能与 T3000 模拟

    NVIDIA JetPack 7.2.1 首次在 Jetson 上支持 PyNvVideoCodec 2.2,这是用于 GPU 硬件加速视频编解码的 Python 库,帧以 GPU 设备内存形式通过 DLPack 和 CUDA 缓冲区暴露,并支持多模式帧采样与后台线程预解码的 ThreadedDecoder。该版本还通过统一的 jetson-videosdk 技能引入基础智能体视频工作流,可在 Video Codec SDK 与 PyNvVideoCodec 之上完成设备检查、配置生成、执行与性能测量验证。此版本技能仅覆盖 Video Codec SDK 和 PyNvVideoCodec,不含 GStreamer、V4L2 或 AI 模型层面的流水线构建技能。

    匹配字段标题、摘要、正文

  2. The Next Platform

    Nvidia 发布 Nemotron 3.5 Lightning 模型与 NeMo Switchyard 路由库

    Nvidia 发布 Nemotron 3.5 Lightning 开源模型和 NeMo Switchyard 路由库,前者面向持续运行的智能体任务,官方称在同级中实现 4 倍吞吐、完成智能体任务速度提升 30%,并可在 Jetson、GeForce RTX、DGX Spark 和 DGX Station 上本地运行。Switchyard 让开发者自定义模型池、路由标准和策略,把推理密集型步骤交给前沿模型、把执行类任务交给 Lightning,官方称其以 Anthropic Opus 4.8 约三分之一成本取得更好准确率。Nvidia 同时公开训练数据与方法,并发布用于训练编码智能体的开放数据集 Nemotron-RL-Agentic-Terminal-Pivot。

    匹配字段标题、摘要、正文

星期二

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 Nemotron 3.5 Lightning 开源 MoE 模型,面向长时智能体执行层

    NVIDIA 发布 Nemotron 3.5 Lightning,这是一个 30B 总参数、3B 激活参数的开放 MoE 模型,面向长时运行智能体的高并发低延迟执行任务。模型在预训练阶段内置多 token 预测(MTP)投机解码,并提供 DSpark 与 DFlash 草稿模型,同时发布 NVFP4 量化与 BF16 检查点,可在 Blackwell、Hopper、Ampere GPU 及 DGX Spark 上运行。在 PinchBench 上它以 86% 准确率完成 10000 个任务,速度比 Qwen3.6 35B 快 30%,权重与训练数据按 OpenMDW-1.1 协议开放,并可用 LoRA、SFT 和 NeMo RL 定制。

    匹配字段标题、摘要、正文

  2. NVIDIA Developer · Generative AI精选

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由

    NVIDIA 发布 NeMo Switchyard,为 AI 智能体提供跨模型路由能力,可在专用模型与前沿模型之间按任务分配请求,以平衡性能、成本与效率。该工具提供免调优的 LLM 分类器、阶段路由器和升级路由器,也支持基于工作负载数据训练的预填充路由器,并可通过 OpenAI、Anthropic 和 Responses API 接入。LangChain 在 145 个多轮智能体任务上测试升级路由器,在 Nemotron 3.5 Lightning 与 Claude Opus 4.8 之间路由,仅 7% 调用发往前沿模型,成本降低 74%,准确率约有 6 个百分点的折让。

    匹配字段标题、摘要、正文

  3. LMSYS Blog精选

    SGLang 为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持

    SGLang 宣布为 NVIDIA Nemotron 3.5 Lightning 提供 Day-0 支持,开发者可通过其 OpenAI 兼容推理栈部署该模型。Nemotron 3.5 Lightning 是从 Nemotron 3 Ultra 蒸馏而来的 30B 混合 MoE 模型,每 token 仅激活 3B 参数,支持 MTP、DFlash、DSpark 三种投机解码,并可通过 enable_thinking 与 thinking_budget 控制推理开关和深度。模型权重已在 Hugging Face 提供 BF16 和 NVFP4 版本,官方称其在相近准确率下完成智能体任务最多快 30%。

    匹配字段标题、摘要、正文

  4. Ollama Blog精选

    NVIDIA Nemotron 3.5 Lightning 上线 Ollama,30B 参数本地运行

    NVIDIA Nemotron 3.5 Lightning 已在 Ollama 上线,可完全在本地设备运行。这是一个 30B 总参数、每 token 仅 3B 激活的开放模型,采用混合 MoE 架构,支持最高 1M token 上下文,面向持续运行的智能体任务,如读取文件、调用工具、整理结果和失败重试。官方称其吞吐量比同类开放模型高 4 倍,任务完成时间快 30%,并针对 Apple silicon 提供 nemotron-3.5-lightning:30b-mlx 版本。

    匹配字段标题、摘要、正文

星期一

  1. NVIDIA Developer · Generative AI精选

    Meta 发布 30B 开源模型 Muse Glimmer,可在单张 NVIDIA GPU 上跑本地智能体

    Meta 发布 Muse Glimmer,一个 30B 开源权重稠密模型,上下文窗口 120K+,面向本地 AI 智能体工作负载。该模型采用稠密架构,每个 token 激活全部参数,在 NVIDIA Blackwell Ultra 上以 BF16/NVF4 精度实现单 GPU 超过 20K tokens/s,可完整放入单卡显存,无需模型分片、CPU offload 或外部端点,覆盖 GeForce RTX 5090、DGX Spark、DGX Station 和 Jetson 平台。开发者可用 NeMo AutoModel 做全量 SFT 和 LoRA 微调,权重已上线 Hugging Face,并提供 SGLang、vLLM 推理方案和可下载的 NIM 容器。

    匹配字段标题、摘要、正文

星期四

  1. Chips and Cheese

    Chips and Cheese 逐条拆解 NVIDIA Vera 白皮书中的论证问题

    Chips and Cheese 对 NVIDIA 45 页 Vera 白皮书提出质疑,认为 Olympus 核心与 88 核单体芯片的设计本身扎实,但白皮书把 x86 的 SMT 画成时间片轮转、把可配置的 32 NUMA 节点当作默认负担、把四个 SPEC 整数负载称作 agentic benchmarks,并用无标注图示给出 1.8 倍强化学习结果。作者引用 Phoronix 5 月的早期测试称 Vera 几何均值比 5 GHz EPYC 9575F 高 10%、是 Xeon 6980P 的 1.55 倍,但指出 NVIDIA 自测的 Turin 内存带宽约 400 GB/s 与其实测约 570 GB/s 不符,按实测 Vera 的总带宽优势约为 1.9 倍而非白皮书所示的近 3 倍。

    匹配字段标题、摘要、正文

星期三

  1. NVIDIA Developer · Generative AI精选

    NVIDIA 解析世界动作模型如何重塑机器人操作

    NVIDIA 技术博客介绍世界动作模型(WAM),即用视频世界模型替代视觉语言模型骨干,为机器人策略提供预测场景演变的物理先验。文章称 WAM 能从多样交互数据中学习、泛化到未见环境,并以更少演示适配新机器人本体。其开源基础模型 Cosmos 3 基于 Mixture-of-Transformers 架构,训练数据含约 7.67 亿张图像、3.48 亿段真实动态视频和 800 万条动作样本,提供 4B Edge、16B Nano 和 64B Super 三种规模;其中 Cosmos3-Nano-Policy-DROID 与 Cosmos3-Edge-Policy-DROID 分别可在 RTX PRO 6000 工作站和 Jetson Thor 上以 15 Hz 控制频率部署。

    匹配字段标题、摘要、正文