←搜索结果

按匹配度 · 共 1374 条结果 清除搜索

星期五

  1. LMSYS Blog

    SGLang 在 NVIDIA GB300 NVL72 上实现最高 25 倍推理性能提升

    SGLang 与 NVIDIA 合作,在 InferenceXv2 基准上于 GB300 NVL72 运行 DeepSeek R1 时相比 H200 实现最高 25 倍性能提升,该对比基于 50 TPS/user 的低延迟场景。借助 NVFP4 GEMM、计算通信重叠和 NVIDIA Dynamo 等优化,SGLang 在 GB200 NVL72 上的性能也在不到 4 个月内提升最高 8 倍。后续将推进 GB300 NVL72 的 MTP 支持及 Qwen 3.5 等模型的调优。

    匹配字段摘要、正文

星期一

  1. 蚂蚁百灵:Developer Blog

    蚂蚁百灵发布并开源 Ling-2.5-1T 即时模型

    蚂蚁百灵发布并开源旗舰级即时模型 Ling-2.5-1T,总参数 1T、激活 63B,预训练语料从前代 20T 扩展至 29T,支持最高 1M token 上下文。模型采用 1:7 的 MLA + Lightning Linear 混合线性注意力架构,引入正确性与过程冗余复合奖励机制,在 AIME 2026 上平均输出约 5890 token 即接近消耗 15k–23K token 的前沿思考模型水平。官方称其在复杂推理与指令遵循上优于 DeepSeek V3.2、Kimi K2.5、GPT 5.2,可适配 Claude Code、OpenCode 等智能体产品,但在复杂智能体交互和长程任务上仍落后于前沿模型。

    匹配字段摘要、正文

星期六

  1. ZDNET · Artificial Intelligence

    2026 年最佳 AI 聊天机器人:ZDNET 实测 ChatGPT、Copilot、Grok 等八款免费产品

    ZDNET 对 ChatGPT、Copilot、Grok、Gemini、Perplexity、Claude、DeepSeek 和 Meta AI 八款免费 AI 聊天机器人进行了 112 项实测,ChatGPT 以综合最高分成为整体最佳。测试涵盖摘要与联网、学术概念解释、数学分析、文化讨论、文学分析、旅行规划、情感支持、翻译、编程和长文故事等文本任务,以及四类图像生成任务。

    匹配字段摘要、正文

星期五

  1. Manus:Blog

    2026 年 7 款最佳 ChatGPT 替代品

    Manus 博客列出 2026 年 7 款最佳 ChatGPT 替代品:Manus AI 主打自主任务与工作流自动化,Claude AI 擅长写作与自然对话,Google Gemini 适合 Google 用户与实时信息,Perplexity AI 适合研究与带来源的准确回答,Microsoft Copilot 面向商业生产力与 Microsoft 365 用户,DeepSeek 是免费且编程与推理较强的选择,Grok 主打实时信息与幽默风格。文章还从主要用途、预算和集成需求三方面给出选择建议。

    匹配字段摘要、正文

星期四

  1. LMSYS Blog

    SGLang 流水线并行:扩展至百万 token 上下文

    SGLang 发布高度优化的流水线并行(PP)实现,通过分块流水线并行、异步 P2P 通信和动态分块机制应对超长上下文推理。在 H20 集群上,PP4 TP8 部署使 DeepSeek-V3.1 的 Prefill 吞吐量达到 TP8 的 3.31 倍,比 TP32 方案高出 30.5%,同时 TTFT 最多降低 67.9%,强扩展效率达 82.8%。该实现兼容 PD 分离与 HiCache。

    匹配字段摘要、正文

星期一

  1. Ollama Blog

    Ollama 与 NVIDIA 合作,在 DGX Spark 上开箱即用运行本地模型

    Ollama 与 NVIDIA 合作,确保最新 NVIDIA DGX Spark 开箱即用、快速高效运行。该设备搭载 NVIDIA GB10 Grace Blackwell Superchip,提供 1 petaFLOP 性能,配备 128GB 内存,可运行 Qwen、DeepSeek、Llama、Mistral、Gemma、Gpt-oss 等模型,也支持上传自定义或微调模型。双方正针对聊天、文档处理、代码任务和多模态工作流优化 Ollama 性能。

    Ollama NVIDIA DGX Spark

    匹配字段摘要、正文

星期五

  1. Ollama Blog

    Ollama 推出云端模型预览,可运行 480B 等大模型

    Ollama 上线云端模型预览,让用户在本地工具中运行个人电脑放不下的大模型,云端不保留用户数据。首批可用模型包括 qwen3-coder:480b-cloud、gpt-oss:120b-cloud、gpt-oss:20b-cloud 和 deepseek-v3.1:671b-cloud,需下载 Ollama v0.12 并登录 ollama.com。云端模型用法与普通模型一致,支持 ls、run、pull、cp,并可通过 Ollama 的 OpenAI 兼容 API 以及 JavaScript、Python、cURL 调用。

    匹配字段摘要、正文

星期一

  1. Vapi Blog

    什么是 Gemma 3?Google 开源权重模型的能力与部署解析

    Vapi 博客介绍 Google 于 2025 年发布的开源权重模型 Gemma 3,它基于 Gemini 2.0 研究,支持文本、图像和视觉输入,可在单 GPU/TPU 上运行,支持 140+ 语言和最高 128k token 上下文,并提供 1B、4B、12B、27B 四种尺寸。文章称 Gemma 3 在人类偏好评测中优于 Llama3-405B 和 DeepSeek-V3,27B 版本在 LMArena Elo 榜得 1338 分,高于 DeepSeek-V3 的 1318 和 o3-mini 的 1304。经量化感知训练后,1B 模型显存占用最低 861 MB(INT4),27B 为 19.9 GB(INT4);该模型已内置在 Vapi 控制台的 LLM 下拉菜单中。

    匹配字段摘要、正文

星期四

  1. Lilian Weng:Lil'Log

    我们为何思考:Lilian Weng 解析测试时计算与 CoT 推理

    Lilian Weng 在 Lil'Log 发文梳理测试时计算与思维链(CoT)推理的近期进展,解释让模型“思考更久”为何有效。文章从心理学双过程理论、计算资源视角和隐变量建模三条路径展开,指出 CoT 让模型按问题难度灵活分配算力,并回顾从 GSM 数据集到 o1-preview、o3 与 DeepSeek R1 技术报告的 RL 训练路线。

    匹配字段摘要、正文

星期二

  1. Prime Intellect精选

    Prime Intellect 发布 INTELLECT-2:首个全球分布式强化学习训练的 32B 参数模型

    Prime Intellect 发布 INTELLECT-2,称其为首个 32B 参数全球去中心化强化学习训练,任何人都可无许可贡献异构算力。该训练以 QwQ-32B 为基座模型,沿用 DeepSeek-R1 的 GRPO 与可验证奖励方法,并配套开源 prime-RL 异步分布式 RL 库、Shardcast 权重分发库和 TOPLOC 可验证推理方案。推理节点可用消费级 GPU,例如 4×RTX 3090 即可参与训练,训练数据已发布在 Hugging Face。

    INTELLECT-2: The First Globally Distributed Reinforcement Learning Training of a 32B Parameter Model

    匹配字段摘要、正文

星期四

  1. Zyphra Research

    Zyphra 推出 ZR1-1.5B:面向数学与代码的小型推理模型

    Zyphra 发布 ZR1-1.5B,一个基于 DeepSeek-R1-Distill-Qwen-1.5B、用强化学习在代码与数学题上训练的小型推理模型。它在 LCB_Generation 上与 Claude3-Opus、Gemma2-27B 持平,在竞赛数学上超过 Qwen2.5-72B,且推理 token 比 R1-Distill-1.5B 少 60%、比 DeepScaleR 少 53.5%。截断到 2048 token 时,其数学评测平均 pass@1 达 40.39%,高于 Qwen-2.5-Math-7B-Instruct 的 37.01%。

    Zyphra 发布 ZR1-1.5B,一个基于 DeepSeek-R1-Distill-Qwen-1.5B、用强化学习在代码与数学题上训练的小型推理模型。它在 LCB Generation 上与 Claude3-Opus、Gemma2-27B 持平,在竞赛数学上超过 Qwen2.5-72B,且推理 token 比 R1-Distill-1.5B 少 60%、比 DeepScaleR 少 53.5%。截断到 2048 token 时,其数学评测平均 pass@1 达 40.39%,高于 Qwen-2.5-Math-7B-Instruct 的 37.01%。

    匹配字段摘要、正文

星期日

  1. antirez 原创博客

    antirez:大语言模型权重是一段历史

    antirez 认为,网页内容正逐年消失,而 DeepSeek V3 等大型模型已是互联网的一种公开、有损压缩视图,虽不精确、有幻觉和缺失,但聊胜于无。他主张在支持 Internet Archive 的同时,应确保公开释放的 LLM 权重不丢失,并让 Archive 进入预训练数据集。

    匹配字段摘要、正文

星期二

  1. METR Blog

    METR:为什么 AI 推理应当可读且忠实

    METR 发文主张 AI 系统的推理过程应当既「可读」(人类能读懂)又「忠实」(真实反映模型的决策过程),认为这有助于发现 AI 错误、检测隐藏议程、监控欺骗行为和识别能力造假。文章指出 OpenAI、Anthropic、xAI、Google DeepMind 和 DeepSeek 都在过去四个月里发布了推理模型,其当前产出的推理已具价值、值得保留。

    匹配字段摘要、正文

星期五

  1. Prime Intellect

    Prime Intellect 融资 1500 万美元,打造开放超智能栈

    Prime Intellect 宣布完成 1500 万美元融资,由 Founders Fund 领投,Menlo Ventures、Andrej Karpathy、Clem Delangue、Dylan Patel、Tri Dao、Emad Mostaque 等参投,累计融资超过 2000 万美元。公司称其 Compute Exchange 已连接开发者、创业公司、云厂商和数据中心,并用 PRIME 框架跨三大洲训练了 10B 参数模型,还发布了 INTELLECT-1、METAGENE-1、INTELLECT-MATH 以及基于 DeepSeek-R1 的合成推理数据集等成果。下一步将扩大算力接入、推出托管评测与专用推理,并继续建设 RL 基础设施。

    $15M to Build The Open Superintelligence Stack

    匹配字段摘要、正文

星期一

  1. antirez 原创博客

    antirez:推理模型本质上仍是大语言模型

    antirez 撰文指出,DeepSeek R1 是纯 decoder-only 自回归模型,仍是下一 token 预测,模型内部没有任何显式符号推理或表示。R1 Zero 无需任何监督微调即可获得类似推理能力,仅靠生成思维链并用强化学习优化奖励函数;S1 论文显示少至 1000 个样本就能让模型构建复杂推理步骤。他认为推理模型本质上仍是大语言模型,曾断言 LLM 是死路的人错了。

    匹配字段摘要、正文

星期五

  1. Ollama Blog

    如何在编辑器内用 Continue 和 Ollama 搭建全开源 AI 代码助手

    Continue 联合创始人 Ty Dunn 介绍了在 VS Code 和 JetBrains 中结合 Ollama 与开源 LLM 搭建本地代码助手的方法。推荐用 Mistral AI 的 Codestral 22B 做自动补全和对话,或用 DeepSeek Coder 6.7B 补全加 Llama 3 8B 对话;配合 nomic-embed-text 嵌入向量驱动 @codebase,并可用团队接受的补全建议微调 StarCoder 2 后推送到 Ollama 模型库。

    Continue and Ollama

    匹配字段摘要、正文

星期二

  1. 事件1 条新闻 · 0 个事实

    消息称DeepSeek V5计划基于昇腾芯片预训练

    2026年11月3日,据《科创板日报》报道,多名产业链人士称,DeepSeek下一代大模型DeepSeek V5计划基于华为昇腾芯片进行预训练;此前昇腾芯片主要用于DeepSeek大模型的推理任务。东方财富同日报道提到,2026年4月DeepSeek-V4发布后,华为称昇腾超节点全系列产品已可全面支持V4系列模型;9月30日DeepSeek开源了面向昇腾算力平台的基础设施组件,涵盖TileLang编译工具、DeepGEMM、FlashMLA、DeepEP等。报道还称,目前国产算力落地仍集中在推理侧,此前昇腾910C集群完成的DeepSeek-V4-Pro全参数后训练不涉及基础预训练。目前尚无DeepSeek或华为官方回应。

    匹配字段标题

  2. 事件5 条新闻 · 1 个事实

    ARC Prize公布DeepSeek V4.1 Flash 1017评测结果

    ARC Prize于2026年11月3日公布DeepSeek V4.1 Flash 1017在ARC-AGI上的验证成绩:ARC-AGI-2为78.1%、每任务0.16美元,ARC-AGI-1为94.5%、每任务0.06美元;ARC-AGI-3在provider adapter harness下为5.8%、成本1.2K美元,标准harness下为0.2%、1.0K美元。ARC Prize称该模型在ARC-AGI-3和ARC-AGI-2上领先开源权重模型,在ARC-AGI-1上追平开源权重模型最好成绩。与2026年9月10日的原版V4.1 Flash相比,1017的ARC-AGI-3半私有集分数从2.68%升至5.81%,公开集从11.05%降至8.97%;在最大推理强度下,其首个动作消耗的推理token在25个公开游戏上平均减少36%,在55个半私有游戏上减少48.6%。

    匹配字段标题

  3. 事实所属事件

    ARC Prize公布DeepSeek V4.1 Flash 1017的ARC-AGI评测结果

    ARC Prize于2026年11月3日公布DeepSeek V4.1 Flash 1017在ARC-AGI上的验证成绩:ARC-AGI-2为78.1%、每任务0.16美元,ARC-AGI-1为94.5%、每任务0.06美元;ARC-AGI-3在provider adapter harness下为5.8%、成本1.2K美元,标准harness下为0.2%、1.0K美元。ARC Prize称该模型在ARC-AGI-3和ARC-AGI-2上领先开源权重模型,在ARC-AGI-1上追平开源权重模型最好成绩。与2026年9月10日的原版V4.1 Flash相比,1017的ARC-AGI-3半私有集分数从2.68%升至5.81%,公开集从11.05%降至8.97%;在最大推理强度下,其首个动作消耗的推理token在25个公开游戏上平均减少36%,在55个半私有游戏上减少48.6%。

    匹配字段标题

    查看事件:ARC Prize公布DeepSeek V4.1 Flash 1017评测结果

星期一

  1. 事件1 条新闻 · 1 个事实

    Unsloth公布DeepSeek-V4.1-Flash-1017 GGUF基准测试结果

    2026年11月2日,Unsloth公布DeepSeek-V4.1-Flash-1017的GGUF量化版本在512K上下文下的基准测试结果,测试覆盖Terminal Bench、DeepSWE等任务,Unsloth称其综合排名最高。其中1-bit Unsloth GGUF在DeepSWE得68.1、Terminal-Bench得72.2、AutomationBench得52.7,比其他量化版本领先10%以上。目前尚无后续进展。

    匹配字段标题