←搜索结果

按匹配度 · 共 2042 条结果 清除搜索

星期一

星期日

  1. 事件3 条新闻 · 1 个事实

    阿里发布Qwen3.8模型权重

    2026年8月26日至27日,阿里发布Qwen3.8-Flash-Next模型权重。据Qwen Blog,该模型为多模态MoE架构,主模型125B参数、额外51B N-gram嵌入参数,每token激活6B,训练成本约为Qwen3.7-Plus的1/9,原生支持262,144 tokens上下文并可通过YaRN扩展至1,000,000 tokens。该模型是Qwen4架构的早期预览,在注意力、残差、嵌入和优化四方面升级,采用GDN+QSA混合注意力、Gated Residual、N-gram Embedding与Muon优化器,权重已在Hugging Face和ModelScope开放;生产版本以qwen3.8-flash名称在QwenCloud提供服务,默认1M上下文并内置官方工具,定价为每百万输入tokens 0.15美元、每百万输出tokens 0.47美元。NVIDIA方面称,其提供SGLang、vLLM和TensorRT LLM的Day 0功能支持,并在GB300 NVL72上验证推理,单GPU吞吐超过16K token/秒、单用户超过200 token/秒;开发者可用NVI

    匹配字段摘要

  2. 事件1 条新闻 · 1 个事实

    SpaceX与英伟达推进轨道算力

    2026年8月25日,SpaceX与NVIDIA合作建设Starmind轨道数据中心,计划采用Vera Rubin NVL72机架,并于2027年第四季度前将首批精简版机架送入太空。每个机架集成72颗芯片,针对轨道环境的辐射与散热需求进行了轻量化调整。分析师估计,目前轨道计算成本超过地面计算的4倍。

    匹配字段摘要

  3. 事件1 条新闻 · 1 个事实

    Groq 3 LPX长上下文推理测速

    2026年8月24日,Artificial Analysis 对 NVIDIA Groq 3 LPX 进行基准测试。在 Gemma 4 31B、100K 上下文测试中,其输出速度中位数达到每秒3431个 Token;在 SPEED-Bench 上,中位速度为每秒4767个输出 Token,P80 为每秒5520个。材料称,其确定性执行、编译器调度芯片间通信,以及细粒度的计算与通信重叠,面向长上下文低延迟推理。

    匹配字段摘要

  4. 事件6 条新闻 · 3 个事实

    Meta发布Muse Glimmer 30B开放权重模型

    2026年8月10日,Meta发布Muse Glimmer 30B开放权重稠密模型,面向本地AI智能体工作负载。据Hugging Face介绍,该模型由2B视觉编码器和28B文本解码器组成,支持图像、无音频视频、多模态工具调用和目标检测,并获得Transformers、llama.cpp及vLLM支持。NVIDIA方面称其上下文窗口120K+,可完整放入单卡显存,覆盖GeForce RTX 5090、DGX Spark、DGX Station和Jetson平台,权重已上线Hugging Face。同日,LMSYS宣布与Meta Superintelligence Labs合作,为Muse Glimmer在SGLang上提供Day-0支持,并针对本地智能体工作流推理优化。8月13日,Unsloth宣布可免费微调该模型,其notebook同时支持GRPO RL训练。

    匹配字段摘要

  5. 事件2 条新闻 · 2 个事实

    Unsloth发布桌面应用并实测2-bit模型

    2026年8月11日,Unsloth发布Unsloth Desktop,称其为首个可在本地运行和训练模型的桌面应用,已上线官网和GitHub。该应用开源,支持Mac、Windows和Linux,覆盖MLX、扩散图像/视频、音频、GGUF,可将Claude Code和Codex接入本地LLM,并支持CPU与多GPU环境(NVIDIA、AMD、Intel、Mac)。官方称训练速度提升2倍、显存占用减少70%,工具调用准确率提高50%并支持自愈与沙箱化代码执行,同时提供私有网页搜索、深度研究、RAG、MCP以及NVFP4、GGUF导出。次日,Unsloth公布2-bit NVIDIA Nemotron 3.5 Lightning工具调用实测结果:仅用22GB显存连续运行10分钟工具调用,引用80多个网站,执行了代码,并搜索了10个真实地点,可通过Unsloth Desktop运行和训练。

    匹配字段摘要

  6. 事件2 条新闻 · 1 个事实

    英伟达推出智能体MoE模型

    2026年8月11日,英伟达发布开放模型Nemotron 3.5 Lightning,面向长时运行智能体的高频、低延迟任务执行。该模型采用MoE架构,总参数量为300亿,每次激活30亿参数。英伟达称,其在PinchBench上的准确率为86%,在准确率相近的情况下,完成1万项任务的速度比Qwen3.6 35B快30%。模型支持推测解码,提供BF16和NVFP4 checkpoint,可从Hugging Face下载,或通过build.nvidia.com试用。

    匹配字段摘要

星期五

星期一

星期三

  1. 事件1 条新闻 · 1 个事实

    LMSYS 将 Ling-3.0-flash 单请求解码优化至 606 tok/s

    2026年8月21日,LMSYS 公布在 4 块 NVIDIA Blackwell GPU 上对 Ling-3.0-flash 的 batch-1 投机解码优化结果。其 NEXTN/MTP 路径将单请求吞吐从 288 tok/s 提升到 606 tok/s,平均 TPOT 从 3.33 ms 降至 1.53 ms。同一技术栈下的 DSpark 置信度调度投机解码器在 1000 请求测试中达到 1120 tok/s、平均 TPOT 0.78 ms、接受长度 9.95,相比 NEXTN 平均 TPOT 低 1.9 倍。LMSYS 说明的优化手段包括主机预运行、PDL 链式调度、算子融合、KDA 重调,以及将 router gate 和 lm_head 从 fp32 改为 bf16。目前该故事尚无后续发展事实。

    2026年8月21日,LMSYS 公布在 4 块 NVIDIA Blackwell GPU 上对 Ling-3.0-flash 的 batch-1 投机解码优化结果。其 NEXTN/MTP 路径将单请求吞吐从 288 tok/s 提升到 606 tok/s,平均 TPOT 从 3.33 ms 降至 1.53 ms。同一技术栈下的 DSpark 置信度调度投机解码器在 1000 请求测试中达到 1120 tok/s、平均 TPOT 0.78 ms、接受长度 9.95,相比 NEXTN 平均 TPOT 低 1.9 倍。LMSYS 说明的优化手段包括主机预运行、PDL 链式调度、算子融合、KDA 重调,以及将 router gate 和 lm head 从 fp32 改为 bf16。目前该故事尚无后续发展事实。

    匹配字段摘要

  2. 事件1 条新闻 · 1 个事实

    LMSYS 发布 Miles v0.1 后训练系统

    2026 年 8 月 18 日,LMSYS 发布 Miles v0.1,定位为面向前沿模型后训练的全栈生产级系统,是首个 Miles 版本的后续。官方说明称,该系统把强化学习训练循环拆分为 SGLang 生成、训练器更新与权重同步三段,支持完全异步 RL、TITO 精确 token 记录、R3 路由重放,以及 NVFP4、MXFP8、FP8 等低精度训练配方。官方同时给出在 64 张 NVIDIA GB300 上训练 GLM-5.2 744B-A40B 终端任务的参考运行:稳定完成 100 步 rollout,单步训练约 4.5 分钟,前缀缓存命中率 96%。目前尚无该版本发布后的进一步有证据发展。

    匹配字段摘要

  3. 事件1 条新闻 · 1 个事实

    OpenAI达成协议使用俄亥俄州数据中心容量

    2026年8月17日,OpenAI宣布达成协议,使用位于俄亥俄州Pike County的PORTS-Pike Technology Data Center算力容量,合作方包括SB Energy、NVIDIA和美国能源部。据OpenAI Newsroom发布的信息,SB Energy将承担为该数据中心服务的全部电网升级和新建输电线路费用,以避免成本转嫁给俄亥俄州及其他地区用户;数据中心采用闭环风冷系统循环用水,预计用水量显著低于历史上Portsmouth气体扩散工厂的用量。项目预计在截至2032年的六年建设期内创造35,000个建筑岗位和2,500个长期运营岗位,并带来8,000万美元初始社区投资,其中OpenAI出资4,000万美元,SB Energy已有4,000万美元承诺。此外,OpenAI将在2026–2027学年向约844,000名符合条件的俄亥俄州高校及技术学校18岁以上学生提供最高8,400万美元的Codex额度。目前尚无后续发展事实。

    匹配字段摘要

  4. 事件1 条新闻 · 1 个事实

    SGLang 与 Miles 为 Qwen3.8-2.4T-A95B 提供 Day-0 支持

    2026年8月12日,SGLang 与 Miles 宣布在 Qwen3.8-2.4T-A95B 发布当天提供 Day-0 支持。据 LMSYS Blog 同日发布的信息,该模型总参数 2.4T、每 token 激活 95B,采用 69 层 GDN 线性注意力与 23 层 GQA 全注意力 3:1 交错的混合架构。团队与 Qwen、阿里百炼、NVIDIA、AMD 合作,Day-0 放出 NVFP4 量化检查点 RadixArk/Qwen3.8-2.4T-A95B-NVFP4,并在 B300 上以 TP8 实现 batch size 1 下 346 tok/s 的 MTP 解码。Miles 侧支持在原生 NVFP4 基座上进行 LoRA 协同训练,用 GRPO 在 GSM8K 上验证了奖励稳定与 train/rollout KL 平稳。目前尚无后续发展事实。

    匹配字段摘要

星期五

星期四

星期三

星期二

星期日

  1. 事件1 条新闻 · 1 个事实

    蚂蚁百灵正式开源Ling-3.0-tiny

    2026年8月11日,蚂蚁百灵正式开源 Ling-3.0-tiny。据官方介绍,这是一款原生混合推理模型,总参数 7.9B,推理时仅激活 1.3B 参数,同步提供 BF16、FP8 和 INT4 三个版本。官方称其在 Artificial Analysis Intelligence Index 获 25 分,Agentic Index 达 16 分,输出速度超过 160 tokens/s。部署方面,模型可在单台 NVIDIA DGX Spark 上完成 FP8 推理,权重约 7.85GB,并已完成 Apple Silicon 的 MacBook 与 Mac mini 本地运行适配。目前该模型已进入开源发布状态,暂无后续进展。

    匹配字段摘要