←搜索结果

搜索“NVIDIA”

按匹配度 · 共 2042 条结果 清除搜索

星期三

  1. Comfy Blog

    MiniMax H3 视频 VAE 提速：编码最高约 2.2 倍、解码 1.4-2.7 倍

    MiniMax H3 视频 VAE 在 Nvidia GPU 上编码最高提速约 2.2 倍、解码提速约 1.4-2.7 倍，1344x768、129 帧的编解码往返从 24.3 秒降至 12.7 秒。改动包括默认开启的融合编码器 kernel、支持 --fast fp16_accumulation 的自定义卷积，以及 int8 解码器；int8 解码器与标准解码器 PSNR 均为 67.7 dB。需将 ComfyUI 升级到 v0.36.0 以上，并加载 int8 MiniMax-H3 VAE 文件。

    Jukka Seppänen's avatar

    MiniMax H3 视频 VAE 在 Nvidia GPU 上编码最高提速约 2.2 倍、解码提速约 1.4-2.7 倍，1344x768、129 帧的编解码往返从 24.3 秒降至 12.7 秒。改动包括默认开启的融合编码器 kernel、支持 --fast fp16 accumulation 的自定义卷积，以及 int8 解码器；int8 解码器与标准解码器 PSNR 均为 67.7 dB。需将 ComfyUI 升级到 v0.36.0 以上，并加载 int8 MiniMax-H3 VAE 文件。

    匹配字段摘要、正文

    #company#产品更新#视频#部署/工程
  2. Pragmatic Engineer

    AI 将如何改变操作系统？第二部分：Windows

    Pragmatic Engineer 采访微软 Windows 团队，梳理下一代 Windows 在系统层面对 AI 智能体的支持计划。Windows 将原生支持智能体身份识别（基于 Entra ID，可在任务管理器中与人类用户区分），并推出本地 MCP 服务器注册中心 ODR、智能体隔离技术 MXC，以及跨 GPU、NPU、CPU 运行本地模型的 Windows ML。微软还计划在系统中内置小语言模型，Scott Hanselman 演示了一台搭载 NVIDIA GPU 的预发布 Surface 笔记本本地运行 Qwen 并接入 GitHub Copilot，出词速度约 40 tokens/秒。

    匹配字段摘要、正文

    #analysis#行业动态#Agent#端侧

星期二

  1. Ed Zitron 长文 / Where’s Your Ed At

    Ed Zitron 长文质疑 AI 数据中心产能：大量 GPU 仍堆在仓库

    Ed Zitron 在长文中质疑 AI 数据中心的真实产能，认为微软等超大规模厂商用 gigawatt 这类模糊说法夸大了 AI 算力上线规模。他引用微软约 2.2 million 颗 GPU、约 1.993GW 容量与约 50 billion 美元 GPU 的数据，对比其自 2022 年以来约 265 billion 美元的资本开支，估算有 50 billion 至 100 billion 美元的 GPU 仍在仓库或未通电的数据中心里。他进一步汇总各厂商 construction in progress 数据，推算约 200 billion 至 300 billion 美元的 NVIDIA GPU 是提前数年售出，并认为折旧压力和项目融资债务会放大风险。

    匹配字段摘要、正文

    #ai-news#行业动态#数据/训练#部署/工程
  2. AWS Machine Learning

    如何在 Amazon SageMaker AI 上用并发扫描为生成式 AI 端点做容量规划

    Amazon SageMaker AI 的 Inference Recommendations 内置并发扫描功能，可自动向端点发送递增的并发流量并测量吞吐与延迟，找出端点饱和点，无需自建压测基础设施。文章以 NVIDIA Nemotron-3 Nano 30B（MoE、3B 激活参数）部署在 ml.g7e.2xlarge 为例，按 64、256、1024 三档并发各发 1024 个请求，结果显示 256 并发时吞吐趋平、p99 延迟陡升，即为饱和拐点。

    匹配字段摘要、正文

    #lab#教程/实践#部署/工程#推理
  3. gihyo.jp

    White Circle 发布后训练框架 Halo，为 Hugging Face 模型加入分布式训练

    White Circle 于 9 月 21 日发布后训练框架 Halo，可在 Hugging Face 既有模型上加入多 GPU 分布式训练，无需重写模型实现，新模型系列适配代码约 100 行，权重仍以 SafeTensors 格式保存。在 8 基 NVIDIA B300 上对 gpt-oss-20b 的实测中，Halo 的吞吐最高达到 TRL 的 2.8 倍，峰值显存随配置变化，约 26GB 至 60GB。用 Halo 对 GLM-4.7-Flash 做监督微调后，GLM-4.7-Flash-Coder 在 SWE-rebench-V2 上的单次尝试解决率从 33.15% 提升到 41.65%。

    匹配字段摘要、正文

    #hot-signal#开源/仓库#数据/训练#部署/工程
  4. gihyo.jp

    Aikido 发布开源权重安全模型 Altar-1，由 GLM-5.3 压缩至 328GB

    Aikido Security 于 9 月 21 日发布其首个开源权重安全模型 Altar-1，模型权重已公开，可在组织自管基础设施上运行。Altar-1 基于 GLM-5.3 压缩，通过量化和 REAP 专家剪枝把每层专家候选从 256 减到 168，体积降至 328GB，比量化版 GLM-5.3 小 32.8%，且未做再训练。在 30 个仓库 32 个已知漏洞的 3 次评测中，Altar-1 与量化版 GLM-5.3 均重新发现 23 个，16 位版为 25 个；模型已在 Hugging Face 的 AikidoSec/altar-1 发布，模型卡建议使用 4 基 NVIDIA H200 搭配 vLLM 推理。

    匹配字段摘要、正文

    #hot-signal#模型发布#安全/对齐#开源生态
  5. NVIDIA Blog

    从赋能到落地：埃及 AI 生态迈向生产规模

    NVIDIA 在埃及大埃及博物馆举办活动，展示当地 AI 生态已从赋能走向生产规模：埃及 NVIDIA Deep Learning Institute 学员规模一年增长超十倍，Hassan Allam 获牌照建设数据中心，相关投资约 4 亿美元。非洲已有四座 AI 工厂宣布或上线，另有 656 兆瓦新增算力在建，NVIDIA 已在非洲培训超 8.5 万名开发者。

    匹配字段摘要、正文

    #lab#行业动态#数据/训练#部署/工程

星期日

  1. The Next Platform

    GenAI 热潮推动以太网交换机市场加速增长与转型

    IDC 数据显示，2026 年 Q2 以太网交换机收入同比增长 43.4% 至 189.1 亿美元，路由器市场增长 22.8% 至 45.1 亿美元。数据中心交换机收入达 123 亿美元，同比增长 64.5%，其中 800 Gb/sec 端口交换机收入同比增长 6.1 倍至 50.7 亿美元。Nvidia 以太网业务同比增长 2.8 倍至 38.6 亿美元，超过 Arista 的 25.3 亿美元。

    匹配字段摘要、正文

    #hot-signal#行业动态#数据/训练

星期五

  1. ElevenLabs Blog

    什么是上下文窗口？上下文窗口如何工作

    上下文窗口是大语言模型单次请求可处理的 token 总量，涵盖提示词、对话历史、检索内容与模型输出。更大的窗口能让模型同时处理更多信息，但研究（Lost in the Middle、NVIDIA RULER）发现上下文越长，模型对信息的利用越不可靠，尤其是埋在中间的内容。有效做法是结合检索、摘要与缓存管理上下文，而非一味追求最大窗口。

    what is a context window by the numbers

    匹配字段摘要、正文

    #company#教程/实践#数据/训练#部署/工程
  2. Anthropic Research

    Claude 如何加速生物分子建模：优化 30 多个开源模型并开源代码

    Anthropic 分享 Claude 在 Claude Science 中优化 30 多个开源生物分子模型的结果，平均提速约 4 倍，输出完全一致时约 2 倍，并开发出低内存 Big 模式，可在单个 NVIDIA GPU 节点上准确预测超过 10,000 tokens 的生物分子系统。Anthropic 开源了全部优化代码，并与 Adaptyv Bio 联合发起蛋白质设计竞赛，提供最高 100 万美元 Claude 额度、25 万美元 Modal 算力额度和超过 5,000 个设计的湿实验验证。Claude 还开发了 FlashPairformer 自定义 kernel，在 triangle attention 上平均比现有方案快 2.7-2.9 倍。

    匹配字段摘要、正文

    #lab#论文/研究#开源生态#数据/训练

星期四

  2. NVIDIA Developer · Generative AI

    TensorRT Edge-LLM 在 Jetson AGX Thor 上完成 MLPerf Edge Agentic 基准测试，速度提升 6.4 倍

    NVIDIA TensorRT Edge-LLM 在单台 Jetson AGX Thor 开发者套件上运行 Qwen3.6-27B，于 MLPerf Inference v6.1 Edge Agentic 基准测试中达到 52.33 tokens/秒，24 分 36 秒完成全部 1,007 轮性能负载，比 llama.cpp 参考实现的 2 小时 37 分钟快 6.4 倍。该结果依托 NVFP4 权重与激活量化、FP8 KV cache、基于树的多 token 预测以及跨智能体轮次的 KV cache 复用，其中约 96% 的提示词 token 由热缓存提供。相关代码位于 TensorRT Edge-LLM release/0.9.1-mlpinf 分支。

    匹配字段摘要、正文

    #lab#评测/基准#端侧#部署/工程

星期二

  1. OpenClaw

    OpenClaw 联合 HuggingFace 等办 Ling-3.0-flash 实战课

    打造你自己的本地 AI 助手 🦞 与 @huggingface、@NVIDIAAI 和 @AntLingAGI 一起参加 Ling-3.0-flash + DGX Spark 实战课程，含工作流演示与问答。 9 月 17 日 10:30 AM SGT / 9 月 16 日 7:30 PM PDT https://t.co/K5iC8KcqNk

    打造你自己的本地 AI 助手 🦞 与 @huggingface、@NVIDIAAI 和 @AntLingAGI 一起参加 Ling-3.0-flash + DGX Spark 实战课程，含工作流演示与问答。 9 月 17 日 10:30 AM SGT / 9 月 16 日 7:30 PM PDT https://t.co/K5iC8KcqNk

    匹配字段摘要、正文

    #company#行业动态#端侧#部署/工程
  2. SemiAnalysis

    机器人该在哪里思考：端侧推理与数据中心推理之争

    SemiAnalysis 分析机器人推理的端侧与数据中心路线之争：当前通用机器人模型仍停留在数十亿参数级，如 Physical Intelligence 的 π0 约 3B、π0.7 为 5B、字节 GR-3 为 4B、NVIDIA DreamZero 为 14B。由于 100Hz 以上的动作与伺服控制回路无法离开本体，而规划层可低至 5Hz，作者认为需要真正智能的通用机器人将部分认知卸载到数据中心 GPU 更具优势。

    匹配字段摘要、正文

    #analysis#现象/趋势#具身智能#推理

星期一

  1. IEEE Spectrum

    OpenAI 如何用自家 LLM 设计 Jalapeño 芯片

    OpenAI 于 8 月 25 日完整发布其首款 AI 加速器芯片 Jalapeño，提供最高 13.4 petaflops 的 4-bit 算力和 232 GB 内存，带宽 15.4 TB/s。该芯片从架构概念到首次流片不到 20 个月，OpenAI 称其端到端延迟相比 Nvidia GB300 最多降低 3.6 倍。设计流程以前端为主，基于开源高级综合工具 XLS，由约 100 人的团队完成，后端物理设计交由 Broadcom。

    匹配字段摘要、正文

    #hot-signal#行业动态#OpenAI#数据/训练
  2. SemiAnalysis

    SemiAnalysis：为什么 4-hi HBM 会胜出

    SemiAnalysis 分析认为，随着推理和强化学习算力占比上升、预训练占比下降，HBM 容量需求正在让位于带宽需求，4-hi HBM 因每 GB 带宽成本更低而成为更优选择。文章指出 Nvidia Rubin Ultra 已将每 GPU 的 HBM 从 288GB 降至 192GB，并测算在 Rubin Ultra NVL576 上运行 Kimi K3 时，8-hi 和 12-hi 带来的吞吐提升低于其系统成本增幅，因此每 token 成本反而高于 4-hi。作者还给出 InferenceX 实测：将 HBM 利用率从 92% 降至 85% 后，并发超过 70 时吞吐下降近 30%，但通过将 KVCache 卸载到 DDR DRAM 可有效缓解容量压力。

    匹配字段摘要、正文

    #analysis#行业动态#数据/训练#部署/工程

星期四

  1. Sakana AI：Blog

    Sakana AI 发布 Fugu Max 与 Fugu Ultra v2 编排模型

    Sakana AI 发布 Fugu Max 和 Fugu Ultra v2 两款编排模型，均通过 OpenAI 兼容 API 提供，已有 Fugu 用户只需改一行参数即可升级。Fugu Max 整合包括 NVIDIA Nemotron 系列在内的开放权重与专用模型池，在 Terminal Bench 2.1、GPQAD、AA-LCR、GDP.pdf、AutomationBench 和内部基准 SWEFish 六个基准上取得最佳总分，定价为每百万输入 token 2 美元、每百万输出 token 6 美元，输出价格比 Sonnet 5、GPT 5.6 Terra 和 Kimi K3 低 40-60%。Fugu Ultra v2 面向复杂多步任务，在 Chartography 上得分 48.3，高于 Opus 5 的 27.3 和 Fable 5 的 29.5，在 DeepSWE 上得分 74.3，且其智能体池中不含 Fable 5、Fable 5.1 或 GPT-6-Astra。

    匹配字段摘要、正文

    #company#产品更新#Agent#部署/工程
  2. Together AI Blog

    Together AI 推出可抢占计算：同款 GPU 半价

    Together AI 为 Together GPU Clusters 推出可抢占计算公开预览，在所有区域的 Kubernetes 集群上线，按需费率的固定 50% 计费，计费粒度低于一小时、每 1 至 2 分钟计量一次。可抢占节点使用相同的 NVIDIA 加速计算并从闲置容量中获取，被回收时最多有 5 分钟排水时间，节点移除后集群会自动回补至目标数量。该容量适合短实验、推理突发和批处理等可中断任务，Slurm 支持、更多区域和计算类型原地转换已在规划中。

    匹配字段摘要、正文

    #company#产品更新#部署/工程#数据/训练

星期三

  1. Cognition 模型 / Devin 博客精选

    Cognition 完成超 20 亿美元 E 轮融资，估值 480 亿美元

    Cognition 宣布完成超 20 亿美元 E 轮融资，估值达 480 亿美元，由 Andreessen Horowitz 和 Accel 领投，Founders Fund、General Catalyst、Avenir 等现有投资方跟投。公司称自 5 月上一轮融资以来，run-rate revenue 已从 4.92 亿美元增长至近 9 亿美元，Devin 被 NVIDIA、GE Aerospace、Citi、Mercedes-Benz、Modal 等公司的工程团队使用。Devin 目前具备 Auto-Triage 事件初查、Security Swarm 漏洞发现与分诊、以及从 Slack、GitHub、Linear 等系统事件触发任务的 Automations 能力。

    匹配字段摘要、正文

    #company#行业动态#Agent#编码

星期二

  1. Interconnects

    最新开源模型盘点第 24 期：Motif-3、GLM-5.3、Hy4-preview 与开源许可证变化

    Interconnects 第 24 期开源模型盘点指出，2026 年西方厂商转向 Apache 2.0，而中国前沿厂商反而收紧许可：智谱 GLM-5.3 从 MIT 改为自定义许可，要求年收入超过 100 亿美元的模型服务商先通过 Z.AI 安全审查，Kimi K3 和 MiniMax M3 也附加了商业协议或收入门槛。本期收录的模型包括 MIT 许可的 Motif-3、小红书 dots-studio 的 dots3-note-prev、Qwen3.8-Flash-Next（125B-A6B，含 51B n-gram embeddings，采用 GDN 与 Qwen Sparse Attention）、以 Ox-Alpha 名义在 OpenRouter 和 OpenCode 上先行试用的 GLM-5.3-Flash、腾讯 Hy4-preview，以及 NVIDIA Nemotron-3.5-Lightning-30B-A3B、蚂蚁 Ling-3.0-flash 和 Qwen3.8-2.4T-A95B。

    匹配字段摘要、正文

    #newsletter#行业动态#开源生态#数据/训练