搜索“推理”

等系统。 企业级管控：业务自主，资产沉淀，管理有边界 团队资产沉淀、自主学习与进化：Self-Harness 将任务执行中的反馈、纠错与有效方法沉淀为可复用的经验，持续改进分析路径与执行策略。从理解业务语境到适应个人偏好，每一次协作都成为下一次表现更好的起点，让 AI 越用越懂业务，越用越得心应手。 在数据安全方面，灯塔AI将元数据与真实数据分离处理，大模型推理时仅接触字段名、数据类型等元数据，真实数值通过占位符动态替换回填，不交由模型读取，确保隐私安全。同时，灯塔AI的每一步分析均可保留全链路审计日志，关键数字可追溯、可复核。 对于工作权限，灯塔AI的团队空间提供管理、编辑、浏览三级权限模式，可细化到文件夹及单个文件，团队管理员可管理成员、限定可用的AI模型，并对成员隐藏其无权查看的文件。企业版还支持私有化部署与敏感数据探针。 腾讯灯塔AI致力于帮助业务人员用自然语言自主完成日常问数、数据分析、归因洞察和看板制作与团队协作。一位数据分析师在使用灯塔AI 70天后总结：过去80%的时间花在写SQL、调SQL、截图做PPT、对口径上，现在80%的时间用于看洞察、和业务讨论原因、推动决策。

匹配字段正文

时模型突破了内部网络安全调查的边界，而我们并未运行失准监控器——我们已大幅扩展了对前沿智能体的监控。现在我们监控所有前沿强化学习运行与评估，以及所有内部Codex使用。当我们的系统发现可能需要干预的问题证据时，会迅速通知人工响应者，由其进行调查并采取行动。 为了检测模型行为何时偏离我们的预期，我们采用多层监控。激活探针寻找模型内部活动中的模式。审查模型检查其推理和工具使用，调查智能体则可以回读模型的完整记录，以理解一系列动作如何相互关联，以及是否需要人工审查。 为了测试我们当前的系统是否本应检测到Hugging Face事件，我们在部署新监控器的情况下回放了记录的活动。在回放中，我们的监控器在智能体逃出沙箱约30分钟后即向安全团队发出警报。这比原事件中智能体攻破Hugging Face系统的时间点早了30多个小时。 9月，某模型利用DNS配置错误接入实时互联网。我们的监控器在15分钟内标记了此次突破，响应者在三分钟后开始审查警报。该警报使响应者得以在运行仍在进行时展开调查。 随着我们赋予模型更多自主权，我们需要知道它们何时越过了我们预期应守住的边界。我们相信，监控对于及时发现这些故障以

匹配字段正文

、FP8、FP16、BF16等数据精度。 天数智芯性能实验室的实测显示，在64K长上下文下，天垓300的Attention性能为H200的1.05倍。 GLM-5.3模型64K规模下，在保障同等用户体验的同时，天垓300 MoE吞吐为H200的1.15倍。 8K至128K长上下文场景下，天垓300的Agent首字延迟较H200降低约10%—30%；多模态生成推理吞吐，天垓300相较H200提升约2%—5%；在搜广推等在线业务中，推荐推理吞吐提升21%、轻量计算时延降低26%。 训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。 强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、MiniMax、Kimi等国内外主力模型公开采用的核心后训练路线。据条件性工程估算，天垓300以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。 单天逸现场实测了天垓300与H200在文生图、文生视频方面的

匹配字段正文

以访问本地模型、信息如何使用，以及如何在组织内管理模型和浏览器权限，”她说。 浏览器 AI 会减少对新 AI PC 的需求吗？ 虽然 WebAI 可以在现有计算机上运行，但其减少企业在新 AI PC 上支出的能力将取决于这些机器能否为日常业务任务提供可接受的性能。 Jain 表示，较小的 AI 模型可以在现有 PC 上处理摘要和改写等任务，从而可能减少立即升级硬件的需求。 “复杂推理和高级 AI 工作负载仍将受益于专用 AI 硬件或云基础设施，”他说。 WebAI 对不同提供商兼容模型的支持，可以让开发者在选择使用哪些 AI 系统时拥有更大的灵活性。 基于浏览器的 AI 还可以通过降低 API 使用量和对第三方 AI 提供商的依赖，减少企业在云服务上的支出。不过，模型能力以及企业集成方面的限制，可能会制约其对更复杂应用的实用性。 “未来很可能是混合模式，由浏览器 AI 处理较简单的任务，云 AI 支持高级工作负载，”Jain 说。 Sheel 表示，即便本地处理减少了企业对云 AI 的使用，企业仍需考虑模型更新以及与现有系统集成的成本。 “使用成本降低并不自动意味着总成本降低，”她说。

匹配字段正文

AutoModel 配方 ，以便针对特定创意工作流进行定制。 🖥️NVIDIA DGX Spark 64GB 现已可从制造商合作伙伴处购买，为开发者和研究人员提供了另一种在本地构建和运行 AI 的方式。它由 GB10 Grace Blackwell 超级芯片驱动，将 64GB 统一内存与 DGX OS 和 NVIDIA AI 软件栈相结合，用于智能体开发、推理和微调。 了解更多并探索购买选项. 在 X、Instagram、TikTok 和 Facebook 上关注 NVIDIA RTX Spark，并订阅 NVIDIA 本地 AI 新闻通讯以获取最新资讯。在 LinkedIn 和 X 上关注 NVIDIA Workstation。查看有关软件产品信息的声明。类别：AI标签：智能体 AI人工智能游戏GeForce本地 AINVIDIA RTX开源RTX Spark 在 X 上关注 NVIDIA RTX Spark, Instagram, TikTok 和 Facebook ，并通过订阅 NVIDIA 本地 AI 新闻通讯。在 LinkedIn 和 X 上关注 NVIDIA Workst

匹配字段正文

级副总裁Phil Newman表示。Newman说，这些组合能力旨在帮助组织更快地识别和解决安全风险，同时保持对谁可以授权敏感操作以及AI工作负载可以访问哪些系统的控制。 该平台覆盖在本地、OCI或其他云中运行的应用程序和基础设施。它将OpenAI的前沿网络模型与Oracle的测试工具以及客户提供的关于自身系统的上下文信息相结合。Oracle表示，这些模型会推理应用程序行为并调查潜在弱点可能如何被利用，帮助安全团队优先处理最关键的风险。 测试与修复的工作方式 对于每一项发现，平台都会提供支持性证据，例如复现步骤和测试结果，并帮助团队评估拟议的修复方案。测试在客户已批准的范围内进行，平台会检查拟议修复对预期应用程序行为的影响。在客户批准之前，不会应用任何修复更改。每个智能体都以独立身份运行，具有明确的任务范围和即时权限，而独立监控器可以检测并阻止超出批准边界的活动。 Oracle的产品页面介绍了发现框架，这些框架利用客户提供的上下文和访问权限自动测绘客户系统及其之间的连接，帮助测试智能体以更少的手动设置发现弱点。专用智能体追踪弱点如何在系统之间关联并测试可能的攻击路径，而另一个独立智能体

匹配字段正文

配备 Arm Cortex-M55 CPU 和 Ethos-U55 神经处理单元。后者为受支持的本地 AI 工作负载提供专用硬件。一个分辨率为 640×480 的低分辨率全局快门彩色传感器为系统提供视觉输入，而双麦克风和立体声骨传导音频则支持无需手持屏幕的交互。 这一组合体现了环境 AI 背后的工程权衡：佩戴在面部的设备在电池、计算和散热方面的空间有限。本地推理硬件可以高效处理选定任务，但其存在并不能证明整个助手都在离线运行。 Brilliant Labs 将 Halo 描述为隐私优先。其发布稿称视觉图像在设备端处理并丢弃，将传感器定位为上下文来源，而非传统摄影工具。 这些是产品数据流的不同部分。眼镜上的本地处理不应被解读为承诺 Noa 的每项功能都离线运行，或没有任何视觉信息会到达云服务。对于基于记忆的助手，相关问题包括哪些功能已启用、已授予哪些权限，以及保留的信息如何删除。 Halo 对开发者的吸引力部分在于能够在应用层之下进行开发。Brilliant Labs 发布了一个围绕 Zephyr RTOS 构建的 Halo 固件仓库，包含用于设备端应用的 Lua 运行时和蓝牙固件更新。

匹配字段正文

我们如何重建供应商路由，以实现更优、更快的推理 Scott Morse · 2026年10月28日 今天，我们宣布对供应商路由算法进行自 OpenRouter 成立以来最大的一次改进。 此前，我们的默认路由器主要只奖励供应商一件事：低价格。新路由器奖励的是对你而言真正最优的推理：便宜，同时也快速、高吞吐且可靠。能提供更多价值的供应商会自动赢得更多流量，因此每个供应商都有理由持续改进。这意味着你通过 OpenRouter 获得的推理会不断变得更快、更可靠、更具成本效益，而你无需改动一行代码。 它已经见效了。新算法在 TTFT（16.9%）、吞吐量（16.3%）和容量错误（显著降低 46%！）方面带来了大幅改善，而成本仅小幅上升（6.0%）。而这还是在 供应商 有任何时间为新算法进行优化之前。查看我们的完整 实验结果 了解更多详情。 工作原理： 它衡量你实际获得的效果。 对于每个模型，它会跟踪每个端点的实际价格、延迟、吞吐量和错误率，并为每个请求挑选成本与性能的最佳组合。 它实时做出反应。 当某个端点出现问题时，流量会从该端点转移，直到它恢复。 它奖励更好的推理。 进行创新的供应商会自动获

匹配字段正文

型。 刘毅也提到，混元、DeepSeek、Kimi等模型的优化目标并非只针对某一个Agent平台，而是面向用户实际使用的任务场景。 当模型在日常办公、内容生成、代码开发等高频任务上的能力提升后，WorkBuddy可以直接将这些能力引入产品。 Q17：Agent完成复杂任务会消耗大量Token，随着用户规模扩大，成本问题怎么解决？ 王慧星认为，不能仅按照当前的推理成本静态判断Agent业务的经济性。 一方面，GPU硬件持续升级，模型推理效率仍有优化空间；另一方面，通过模型、Harness和上下文工程的联合优化，也可以降低完成同一任务所需的资源消耗。 他还提到，深度用户往往具有较强付费意愿，而企业场景的价值不能只看Token成本，还要考虑Agent是否能够完成过去需要更多人力，甚至无法完成的任务。 对于是否会因为成本过高而限制复杂Agent任务，刘毅谈道：“我们没有想过把一些高复杂、高价值的场景砍掉，而是怎么样服务好。” 刘毅认为，随着Token成本下降和技术优化，未来可以用更低的边际成本处理复杂问题。 他预计，当边际收益高于边际成本，并且业务规模进一步扩大时，Agent服务有机会形成更加

匹配字段正文

由开发者委托模型选择，同时仍对工作的方向和结果负责。 GitHub 于周三在旧金山举行的公司旗舰开发者活动 GitHub Universe 上宣布了这一消息。 Copilot Fusion 周三在旧金山 GitHub Universe 上首次亮相。（图片来源：The New Stack） 如今由 GitHub Copilot Fusion 来做决定 对于涉及推理、代码生成、调试或工具使用的任务，GitHub 表示开发者可以委托系统决定使用哪些模型以及它们如何协同工作。其说明是：“选择 Copilot Fusion，让 Copilot 智能地为你路由和编排所使用的模型。” 这听起来很省时，因为不同任务会因能力和成本而受益于不同模型。有了 Copilot Fusion 充当“模型选择器”，开发者不必为每项任务权衡性能与价格。 更吸引人的是，开发者可以利用 Copilot Fusion 在工作流中途策略性地切换模型，让系统根据每一步最适合的方案在不同模型之间跳转。 在分析任务需求并选择模型后，系统会根据最合理的方案编排后续步骤。这可能是一个模型完成所有工作，也可能是“级联”工作流——由质量检

匹配字段正文

述和工具调用模式，因此每个受支持的模型都能获得这些收益，包括你使用自己的 API 密钥时。 这些结果背后最大的改动，是让模型从程序中调用工具。 程序化工具调用 在标准的智能体循环中，模型直接调用工具，每个工具的输出都会被追加到其上下文中。程序化工具调用（PTC）对长周期工作采取了不同的方式：智能体编写一个调用这些工具的程序。 借助 PTC，智能体可以预先进行推理，编写工具调用工作流的代码，然后在单次调用中端到端地执行整个程序。例如，它可以编写一个工作流来读取数百个文件并找出提及某个主题的少数几个文件，对数十个 Linear 工单进行分诊，或者按照确定性流程分步执行一次棘手的数据库迁移。 CodeAct（Wang 等，2024）表明，在 17 个模型上，通过代码执行操作优于 JSON 和文本工具调用。Cloudflare 和 Anthropic 在 2025 年底将这一理念投入生产，Codex 今年将其引入编码智能体。 我们在 Droid 1.0 中将 PTC 设为默认，原因有三。第一，它保持智能体的上下文窗口干净，因为它收到的只是其程序的输出。普通的工具输出（原始文件、搜索结果、日志）

匹配字段正文

elshein、Huy Do 和 Jane Xu（均来自 Meta）将分享 2.15 版本的概览，并回答社区关于 PyTorch 及本版本新功能的问题。Chris Gottbrath（Gottbrath Tech）将担任主持人。 立即注册。 在整个 2.x 系列中，PyTorch 一直在从以研究为先的框架演变为一个统一的、硬件无关的平台，用于大规模生产训练和推理。 PyTorch 2.13 将 FlexAttention 引入 Apple Silicon，为 Inductor 提供 CuTeDSL 代码路径，并推出用于大规模集群训练的 torchcomms。 PyTorch 2.14 将这条路径发展为 NVGEMM，预览了重写后的 NCCL 后端，并将原生线性代数引入 Apple Silicon。 PyTorch 2.15 在此基础上继续发展。重写后的 NCCL 后端现在为每个 nccl 进程组，NVGEMM 针对低精度解码进行了调优，Apple Silicon 新增了 FP8 和解码专用内核，AMD 支持扩展到新的编译器 DSL，并（预览支持）下一代 Instinct，Intel G

匹配字段正文

auhard Jain 2026年10月29日试用 Managed Agents联系销售克隆智能体 今天，我们推出 Cartesia Managed Agents，这是我们面向企业对话的端到端语音智能体平台。它推动了语音到语音自然度和准确度的前沿，并在发布时于独立语音智能体基准测试中排名第一。 我们将 harness 与语音模型一同设计，因此聆听、轮流发言、推理、工具调用和语音被调校为一个端到端系统。企业团队在生产环境中运行智能体所需的一切都汇聚于一个平台：电话通信、知识库、工具集成等。而且我们已在大规模场景中进行了测试——Managed Agents 已在金融、零售、酒店和医疗领域支撑了数千万次对话。 树立新的帕累托前沿 级联流水线是企业任务的主流范式，但若缺乏精心的协同设计，它们可能会在自然度和轮流发言、打断等对话动态方面有所损失。如今的语音到语音模型听起来自然，但难以控制，且对于企业级任务的可靠性较低。 借助 Managed Agents，我们协同设计了语音模型与 harness，在不牺牲复杂企业任务所需的智能性和可控性的前提下，提供最佳的对话体验。 在 Artificial A

匹配字段正文

作为一项由 Google、Microsoft 等支持的拟议 Web 标准，WebAI 已成为让 Web 浏览器和扩展使用本地 AI 而非云端 AI 的正确方式。 Opera 对 WebAI 的实现支持其 Prompt、Decision 和 Semantic Embeddings API，并让开发者可以直接在浏览器中使用一系列 AI 模型，包括在 Opera 推理引擎上运行的开源权重模型。在后一种情况下，无需安装或配置 AI 应用，因为本地推理已内置于 Opera 的浏览器中。 Opera 创建了六个实验性扩展，以展示开发者可以在 WebAI 上构建的各类解决方案： Project Lens。告诉它你正在做什么，它就会根据每个段落对你项目的重要程度为任何文章着色 Got It? 针对你刚读过的文章生成一个快速测验，以便你检查自己是否理解了它 Questionable Intelligence。针对你正在阅读的文章提出有趣的问题，并将结论绘制成图表 Semantic Art。将文章转化为动态艺术，相似的句子会成为视觉上的邻居 RecordIn Alchemy。将任何文章转化为令人难以忍受的

匹配字段正文

目录 40+ 个模型入选生产环境...40+ 个模型入选生产环境...40+ 个模型入选生产环境... 本文中的链接 Together GPU 集群控制台 文档：节点修复 文档：健康检查 在集群规模下，GPU 故障是现实。Xid 错误、双比特 ECC 错误、GPU 从 PCIe 总线上掉线或 InfiniBand 链路抖动，都可能使分布式训练任务停滞，或导致推理副本下线。发现出了问题通常是最简单的部分。困难的是从故障到节点再次恢复健康之间的所有环节 今年早些时候，我们宣布推出全自动节点修复功能。我们的 GPU 集群客户和内部推理平台一直在使用这一能力，以帮助提升工作负载韧性并最大限度减少停机时间。我们的客户非常喜欢这一能力，我们想花些时间拆解这个系统，解释它的工作原理以及我们为何这样设计。 我们首先实现了“被动健康”检查系统，它会持续监控每个节点，既在您的 VM 内部，也在其底层主机上。当检查发现故障时，自动修复会推荐最轻量的修复措施，并向您展示该推荐背后的支持证据。您可以预先逐个故障决定修复是等待批准还是自行运行。您还可以决定自动修复等待运行中工作负载完成的时间。您自己的检测器可以通

匹配字段正文

权限提示减少 84%（内部数据）。 允许列表的广度才是真正的安全调节旋钮；宽泛的域名可能导致数据泄露。 Asif Razzaq网站 | + 文章作者简介 ⮌ Asif RazzaqNVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB：一款面向本地语音智能体、游戏角色和机器人的开放小型语言模型 Asif RazzaqMoonshot AI 发布 Kimi K3.1 Pro：一款总参数 2.8T/激活参数 104B（MoE）的模型，支持 1M 上下文 Asif RazzaqYou.com 推出推理路由器：12 个开放权重模型，提供 99.9% 正常运行时间 SLA $uv pip install omni-parse-bench✓文本✓表格✓布局→ 按页评分在 GitHub 上加星→赞助 相关文章更多来自作者 NVIDIA 发布 Nemotron 3.5 Bolt E4B 4GB：一款面向本地语音智能体、游戏角色和机器人的开放小型语言模型 Moonshot AI 发布 Kimi K3.1 Pro：一款总参数 2.8T/激活参数 104B（MoE）的模型，支持 1M 上下文

匹配字段正文

险权益平台，还是药店医药O2O、企业员工健康服务等均可申请接入。该计划提供MCP、API和H5等接入方式，并支持场景定制、硬件接入及数据共建。 百度健康表示，好医开放计划的目标不是将能力局限在单一App中，通过免费的技术接入与资源开放，合作伙伴无需从零搭建医生服务及AI健康能力，即可结合自身业务向用户提供相应服务。 此外，百度健康还正式启动「好医联盟」，设立亿级专项预算，为好医联盟提供资源保障。面向医生，百度健康投入1亿元现金扶持，打造百大优质医生IP，赋能万名医生的平台品牌建设；面向医学会与医师专家团体，投入2万亿推理Token算力资源，携手共建1000类疾病的Skill，助力学术成果沉淀、推动专业医学认知普惠，放大学术影响力。面向医院，百度健康通过智慧医院2.0方案，赋能100家医院完成智慧化升级，助力800万精准患者匹配到院。 百度健康医生服务部总经理李杰介绍道，AI赋能的价值，让医生在关键环节提供专业把关，并把服务延伸至真实就医场景。百度健康将持续以好医联盟为纽带，把优质医疗送到更需要的地方，让每一次连接都成为信任的开始。让“有医可依”的AI健康能力走进千家万户，实现全民共享。

匹配字段正文

，大幅增加了强化学习（RL）环节的算力投入。在代码、Agent 和知识类基准上，K3.1 Pro 达到或接近最强闭源模型的水平。Terminal-Bench 4.0 通过真实环境中资源受限的终端任务考察编程智能体的能力，每项任务均设有严格的专项测试。K3.1 Pro 在此项评估中得分 65.7%，超过 GPT-6 Astra（58.2%），与 Claude Opus 5.5（66.4%）仅有微弱差距。 Kimi K3.1 Pro 模型擅长 3D 创作与空间推理。在 BenchCAD 基准测试中，K3.1 Pro 借助工具得分 92.7%，接近 Claude Opus 5.5 的 96.2% 和 GPT-6 Astra 的 95.9%。该基准考察通过生成 CAD 代码，从多视角渲染图重建 3D 模型的能力。 凭借更强的推理与工具调用能力，Kimi K3.1 Pro 能够端到端交付完整的金融工作流。在外部基准上，K3.1 Pro 在 OfficeQA Pro v2 和 SpreadsheetBench v2 两项基准测试中分别得分 64.4 和 36.3 ，均取得当前最优成绩（SoTA）。

匹配字段正文

gLIP同时理解图像和文本，开发者可以用它通过通俗语言标签对图像进行分类或搜索，或仅用少量本地样本针对特定任务对其进行微调。这使本地团队能够在适度的区域数据集上构建专用模型，并在无需大量计算资源的情况下达到强劲性能。 在此基础上，我们发布了 MedGemma, 这是一个开放权重多模态模型系列（4B和27B参数配置）。MedGemma从基础分类进阶到多模态临床推理：它将影像学发现与临床病史综合起来，用自然语言回答临床医生的询问，并可在设备本地离线运行，无需互联网接入。自发布以来，MedGemma在全球的下载量已超过 1000万次 . Nexus AI的应用通过整合多个模型来分析胸部X光片，突出显示与正常肺野不一致的发现，包括提示结核病的发现，以及需要进一步检查（FIR）的情况. 主权规模：支持印度尼西亚国家结核病倡议 开放模型有助于公共卫生系统构建保护患者隐私的主权解决方案。在东南亚， 印度尼西亚卫生部 正以一项雄心勃勃的目标应对全球第二高的结核病负担：每年筛查 5000万公民 , 以根除该疾病。 人工审阅 5000万张X光片 是不可行的，而专有云软件带来数据驻留挑战。因此，该部正在用国

匹配字段正文

音也就32分贝左右，即使长期放置在近距桌面环境中运行，也不会对日常工作产生听觉干扰。 128GB统一内存：到底能跑什么，又能跑多快？ 纸面参数再亮眼，最终还是要落到实际的模型运行表现上。 我们可以先算一笔账：一个120B参数的大模型，经过FP4或INT4量化后，仅模型权重本身就要占用60-70GB的内存空间。乍看之下128GB的总容量还剩近一半余量，但大模型推理并不是把权重加载进内存就结束了。推理过程中，还需要预留足够空间存放KV缓存，同时系统本身、开发工具，以及其他后台任务也会占用一定的内存资源。 这就是传统“大显存显卡路线”最大的尴尬所在。一张消费级旗舰卡，比如RTX 5090，显存也就32GB，带宽倒是快（接近1.8TB/s），可60多GB的模型权重根本装不进去，要么靠内存和显存之间来回交换，速度直接掉一个数量级；要么只能退而求其次跑7B、14B这种小模型。 统一内存的价值，恰恰在这一刻彻底显现。这128GB不再是CPU和GPU各自为政的碎片化存储空间，而是一块连续、完全一致的共享内存池：模型权重直接驻留其中，KV缓存在这里自由生长，系统后台任务也能并行运行，全程彻底告别了传统架

匹配字段正文