Zephra 解析边缘 LLM：优势、挑战与解决方案
Zephra 发文讨论在 iPhone 15 Pro 和 NVIDIA Jetson Orin 等边缘设备上部署大语言模型的关键因素，指出内存带宽是核心瓶颈，并提出量化、低秩适配器和实时参数卸载等技术来高效利用本地硬件。其 Zamba 系列模型采用参数共享设计，以降低内存占用和生成下一个 token 所需的 FLOP，从而降低延迟、提升吞吐。
匹配字段摘要、正文
←搜索结果
搜索“NVIDIA”
Ollama 发布 Windows 预览版
Ollama 在 Windows 上推出预览版，可在原生 Windows 环境中拉取、运行和创建大语言模型。该版本内置 GPU 加速，支持 NVIDIA GPU 以及 AVX、AVX2 等 CPU 指令集，无需配置或虚拟化；同时提供完整模型库（含 LLaVA 1.6 等视觉模型，图片可拖入 ollama run）和后台运行的 Ollama API（http://localhost:11434），并保持与其他平台一致的 OpenAI 兼容性。
匹配字段摘要、正文
Ollama 发布官方 Docker 镜像
Ollama 成为 Docker 官方赞助的开源镜像，用户可在 Docker 容器中运行大语言模型，所有交互在本地完成，不向第三方服务发送私有数据。在 Linux 上，Ollama 可在容器内借助 Nvidia GPU 加速运行，需先安装 Nvidia container toolkit；在 Mac 上则需以独立应用方式运行，因为 Docker Desktop 不支持 GPU。容器内可直接运行 Llama 2 等模型，更多模型见 Ollama library。
匹配字段摘要、正文
NVIDIA称Vera CPU提供最高智能体吞吐与速度
2026年11月6日,NVIDIA发布面向AI智能体负载的Vera CPU,并称在100兆瓦数据中心对比中,单颗Vera的性能优于最快的x86 CPU和最节能的x86 CPU。NVIDIA给出的数据是:相比最快的x86 CPU,Vera每瓦可支持1.6倍数量的智能体;相比最节能的x86 CPU,智能体速度提升2倍。Perplexity、DeepInfra、ClickHouse、DuckLabs、Daytona、Modal等早期采用者给出了生产环境测试结果,其中Daytona用Vera在10.8秒内启动1000个智能体沙箱,x86为88.4秒。同日IT之家报道复述了上述数据,并提到Perplexity称运行智能体编码任务快1.5倍并计划投入生产系统。目前尚无后续进展。
匹配字段标题
NVIDIA称Vera CPU提供最高吞吐与最快Agent性能
2026年11月6日,NVIDIA发布面向AI智能体负载的Vera CPU,并称在100兆瓦数据中心对比中,单颗Vera的性能优于最快的x86 CPU和最节能的x86 CPU。NVIDIA给出的数据是:相比最快的x86 CPU,Vera每瓦可支持1.6倍数量的智能体;相比最节能的x86 CPU,智能体速度提升2倍。Perplexity、DeepInfra、ClickHouse、DuckLabs、Daytona、Modal等早期采用者给出了生产环境测试结果,其中Daytona用Vera在10.8秒内启动1000个智能体沙箱,x86为88.4秒。同日IT之家报道复述了上述数据,并提到Perplexity称运行智能体编码任务快1.5倍并计划投入生产系统。目前尚无后续进展。
匹配字段标题
路透社报道约60万块NVIDIA H200滞留香港
路透社11月5日援引知情人士报道,约60万块NVIDIA H200芯片存放在香港,等待运往中国大陆,原因是北京未批准大规模进口。报道称,近几个月中国允许部分H200入境,几家大型互联网公司各获得约1万块。报道还提到,2026年10月底中国大陆一台八卡H200服务器报价超过600万元,约为一年前的三倍;NVIDIA在截至2026年7月26日的季报中披露,因需求下降为H200过剩库存计提4亿美元费用。目前尚无后续发展。
匹配字段标题
NVIDIA为Cosmos 3新增四个开放权重检查点
NVIDIA在Cosmos世界模型平台下新增四个Cosmos 3开放权重检查点,均为Cosmos 3 Nano的后训练版本,含16B可训练参数,采用OpenMDW1.1许可,允许商用与非商用。四个模型分别面向多视角驾驶数据生成、相机与LiDAR同步流式仿真、由模拟器控制生成逼真视频,以及从双臂机器人动作预测视频。原文同时给出四阶段训练配方,覆盖双向适配、teacher forcing、一致性蒸馏与self-forcing。
匹配字段标题
NVIDIA为Cosmos 3新增四个开放权重检查点
NVIDIA在Cosmos世界模型平台下新增四个Cosmos 3开放权重检查点,均为Cosmos 3 Nano的后训练版本,含16B可训练参数,采用OpenMDW1.1许可,允许商用与非商用。四个模型分别面向多视角驾驶数据生成、相机与LiDAR同步流式仿真、由模拟器控制生成逼真视频,以及从双臂机器人动作预测视频。原文同时给出四阶段训练配方,覆盖双向适配、teacher forcing、一致性蒸馏与self-forcing。
匹配字段标题
NVIDIA推出DSX OS配置认证运维Kubernetes GPU集群
2026年11月5日,NVIDIA推出开源软件层DSX OS,用于配置、认证与运维Kubernetes GPU集群。据NVIDIA Developer发布的文章,DSX OS包含AICR、NVCRE和NVSentinel三个Apache 2.0项目:AICR负责版本锁定的集群配置,将配置渲染为Argo CD、Flux、Helm等部署工具的产物并支持漂移检测;NVCRE基于NCCL与训练负载进行就绪认证,通过二分定位可疑节点;NVSentinel负责持续健康监控与故障隔离修复,默认只上报节点状态,启用后可封锁、驱逐并修复故障节点。三者可串联成生命周期闭环,节点加入或修复后自动触发重新验证,通过后才解除调度限制。目前该发布仍为单一来源报道,尚无后续进展。
匹配字段标题
NVIDIA介绍Vera Rubin NVL72五项协同设计
2026年11月5日,NVIDIA介绍Vera Rubin NVL72的五项协同设计,包括NVFP4、Wide-EP、Dynamo、Vera CPU和CMX。NVIDIA Developer文章称,在每GPU 288 GB HBM不变的情况下,该平台在SemiAnalysis AgentX上实现最高30倍于GB300 NVL72的每兆瓦吞吐量。其中NVFP4将模型占用较FP16缩小约3.5倍、较FP8缩小1.8倍,NVFP4 KV cache较FP8再降最多50%;TensorRT-LLM的Wide-EP把专家分散到8块以上GPU,Dynamo将KV cache作为跨GPU、CPU和存储的集群级资源管理。半导体产业纵横11月6日报道同样提及,从Blackwell Ultra到Vera Rubin单颗GPU的HBM容量仅增长约3%,并称在每位用户生成速度125 Token/s条件下,Vera Rubin NVL72相比GB300 NVL72单位成本吞吐量最高提升30倍。目前尚无后续发展。
匹配字段标题
NVIDIA推出DSX OS用于配置认证运维Kubernetes GPU集群
2026年11月5日,NVIDIA推出开源软件层DSX OS,用于配置、认证与运维Kubernetes GPU集群。据NVIDIA Developer发布的文章,DSX OS包含AICR、NVCRE和NVSentinel三个Apache 2.0项目:AICR负责版本锁定的集群配置,将配置渲染为Argo CD、Flux、Helm等部署工具的产物并支持漂移检测;NVCRE基于NCCL与训练负载进行就绪认证,通过二分定位可疑节点;NVSentinel负责持续健康监控与故障隔离修复,默认只上报节点状态,启用后可封锁、驱逐并修复故障节点。三者可串联成生命周期闭环,节点加入或修复后自动触发重新验证,通过后才解除调度限制。目前该发布仍为单一来源报道,尚无后续进展。
匹配字段标题
NVIDIA介绍Vera Rubin NVL72五项协同设计
2026年11月5日,NVIDIA介绍Vera Rubin NVL72的五项协同设计,包括NVFP4、Wide-EP、Dynamo、Vera CPU和CMX。NVIDIA Developer文章称,在每GPU 288 GB HBM不变的情况下,该平台在SemiAnalysis AgentX上实现最高30倍于GB300 NVL72的每兆瓦吞吐量。其中NVFP4将模型占用较FP16缩小约3.5倍、较FP8缩小1.8倍,NVFP4 KV cache较FP8再降最多50%;TensorRT-LLM的Wide-EP把专家分散到8块以上GPU,Dynamo将KV cache作为跨GPU、CPU和存储的集群级资源管理。半导体产业纵横11月6日报道同样提及,从Blackwell Ultra到Vera Rubin单颗GPU的HBM容量仅增长约3%,并称在每位用户生成速度125 Token/s条件下,Vera Rubin NVL72相比GB300 NVL72单位成本吞吐量最高提升30倍。目前尚无后续发展。
匹配字段标题
NVIDIA为GeForce NOW版《霍格沃茨之遗》推送DLSS 5升级
2026年11月5日,NVIDIA为GeForce NOW云游戏平台上的《霍格沃茨之遗》推送DLSS 5与3D-Guided Neural Rendering升级。据NVIDIA Blog同日发布的GeForce NOW周报,此次升级为游戏新增逼真光照与材质细节,同时保留原有几何与纹理。该周报还提到,暴雪《World of Warcraft: Forever》于11月4日上线并登陆GeForce NOW,支持约100个CurseForge插件,新用户可在11月11日前领取首发周访问奖励;11月共有24款游戏加入GeForce NOW库,本周新增8款。目前尚无后续发展信息。
匹配字段标题
NVIDIA为GeForce NOW版《霍格沃茨之遗》推送DLSS 5升级
2026年11月5日,NVIDIA为GeForce NOW云游戏平台上的《霍格沃茨之遗》推送DLSS 5与3D-Guided Neural Rendering升级。据NVIDIA Blog同日发布的GeForce NOW周报,此次升级为游戏新增逼真光照与材质细节,同时保留原有几何与纹理。该周报还提到,暴雪《World of Warcraft: Forever》于11月4日上线并登陆GeForce NOW,支持约100个CurseForge插件,新用户可在11月11日前领取首发周访问奖励;11月共有24款游戏加入GeForce NOW库,本周新增8款。目前尚无后续发展信息。
匹配字段标题
NVIDIA与Databricks为Debezium贡献Zerobus Ingest sink
2026年11月5日,NVIDIA与Databricks联合开发并贡献给开源Debezium项目的Zerobus Ingest sink随Debezium Server 3.7发布。该sink可将CDC事件直接推入Unity Catalog的Delta表,无需中间Kafka集群或拉取式连接器。NVIDIA补充了envelope模式、幂等键以及源offset推进前的持久化确认等投递保障。这一推送式架构让受限于私有网络、禁止入站连接的环境也能安全向外复制数据。目前尚无后续发展。
匹配字段标题
NVIDIA与Databricks为Debezium贡献Zerobus Ingest sink
2026年11月5日,NVIDIA与Databricks联合开发并贡献给开源Debezium项目的Zerobus Ingest sink随Debezium Server 3.7发布。该sink可将CDC事件直接推入Unity Catalog的Delta表,无需中间Kafka集群或拉取式连接器。NVIDIA补充了envelope模式、幂等键以及源offset推进前的持久化确认等投递保障。这一推送式架构让受限于私有网络、禁止入站连接的环境也能安全向外复制数据。目前尚无后续发展。
匹配字段标题
NVIDIA发布AI Factory Operations Agent
NVIDIA发布AI Factory Operations Agent,用于自家DGX SuperPOD运维。该框架通过多个领域子智能体协同,在计算、网络、硬件和调度层之间定位根因,并通过聊天界面给出建议。框架基于NVIDIA NemoClaw blueprint和OpenShell构建,完全本地部署,推理使用本地NVIDIA Nemotron开源模型,运行在DGX H100、DGX B200和DGX GB300生产集群上。框架包含Job Recovery、Hardware、Observability、Research、Kubernetes和Cluster Management等子智能体,并集成web搜索、代码执行和Grafana看板等MCP工具,开发者示例与开源代码已开放。
匹配字段标题
NVIDIA开发AI Factory Operations Agent
NVIDIA发布AI Factory Operations Agent,用于自家DGX SuperPOD运维。该框架通过多个领域子智能体协同,在计算、网络、硬件和调度层之间定位根因,并通过聊天界面给出建议。框架基于NVIDIA NemoClaw blueprint和OpenShell构建,完全本地部署,推理使用本地NVIDIA Nemotron开源模型,运行在DGX H100、DGX B200和DGX GB300生产集群上。框架包含Job Recovery、Hardware、Observability、Research、Kubernetes和Cluster Management等子智能体,并集成web搜索、代码执行和Grafana看板等MCP工具,开发者示例与开源代码已开放。
匹配字段标题
NVIDIA与伙伴扩展面向城市的物理与智能体AI服务
2026年11月3日,NVIDIA宣布与合作伙伴在全球扩展面向城市的物理AI与智能体服务,覆盖居民协助、交通管理、城市规划和工业运营,并让地方政府继续掌控敏感数据的处理与使用。该组合以共享计算基础设施、AI智能体和数字孪生为基础,城市团队可用NVIDIA RTX工作站或小型GPU系统起步。报道提到,ITMAX的SamurAI V2视觉智能体计划到2027年支持超过17,000路摄像头,基于TeraSim的信号配时测试使高峰时段走廊通行时间最多缩短26%。11月4日,LiveX AI发布AI City真人大小AI虚拟人导览亭,已在超过100个站点部署,平台运行在Nvidia RTX Pro 6000 Blackwell Server Edition GPU上,基于Metropolis VSS Blueprint与Cosmos构建视觉AI智能体。同日,Linker Vision在2026巴塞罗那智慧城市博览会上发布Linker AI Nexa平台,融合3DGS、数字孪生与AI Agent,并整合英伟达Metropolis、Cosmos、Omniverse及Nemotron等技术。
匹配字段标题
NVIDIA与伙伴扩展面向城市的物理与智能体AI服务
2026年11月3日,NVIDIA宣布与合作伙伴在全球扩展面向城市的物理AI与智能体服务,覆盖居民协助、交通管理、城市规划和工业运营,并让地方政府继续掌控敏感数据的处理与使用。该组合以共享计算基础设施、AI智能体和数字孪生为基础,城市团队可用NVIDIA RTX工作站或小型GPU系统起步。报道提到,ITMAX的SamurAI V2视觉智能体计划到2027年支持超过17,000路摄像头,基于TeraSim的信号配时测试使高峰时段走廊通行时间最多缩短26%。11月4日,LiveX AI发布AI City真人大小AI虚拟人导览亭,已在超过100个站点部署,平台运行在Nvidia RTX Pro 6000 Blackwell Server Edition GPU上,基于Metropolis VSS Blueprint与Cosmos构建视觉AI智能体。同日,Linker Vision在2026巴塞罗那智慧城市博览会上发布Linker AI Nexa平台,融合3DGS、数字孪生与AI Agent,并整合英伟达Metropolis、Cosmos、Omniverse及Nemotron等技术。
匹配字段标题