搜索“编码”

独作为更小的嵌入使用。视觉 transformer 读取卫星数据，Attention Pooler 将输出 token 池化为每块土地一个向量，再由一个线性层将该向量降为 128 个数字。技术报告描述了一种 Matryoshka 式蒸馏，其学生模型是一个单线性层，与主干网络在同一次前向传播中联合训练，报告称这使得蒸馏基本没有额外成本。 报告指出，以 20 米编码器分辨率运行视觉 transformer 和 Attention Pooler 并输出 10 米结果，比以 10 米分辨率运行 transformer 便宜 7.7 倍：每个窗口分别为 308 和 2,378 GMACs。训练使用了与 OlmoEarth v1.2 相同的数据和配方——Sentinel-1、Sentinel-2 和 Landsat-8 观测，以及 WorldCover、WorldCereal、SRTM 和 OpenStreetMap 等地图目标——采用 AdamW 优化器，批大小为 512，训练 667,200 步。 基准测试结果与 PLANTEUR 数据集 Ai2 报告称，在覆盖六大洲的 27 项评测中，将 v

匹配字段正文

、研究人员、企业以及希望在不从零构建一切的情况下试验 AI 的人们运行以开放权重和开源为主的 AI 应用。今年 9 月，英伟达同意以近 130 亿美元收购该公司。（今年早些时候，Hugging Face 还处于 OpenAI 模型发起的一次重大黑客攻击的中心。） DNA 更像计算机代码，而不是自然语言。不过，它不用 0 和 1，而是用 A、C、G 和 T 来编码信息。人类基因组包含 60 亿个这样的字母。尽管人类基因组已被端到端测序，科学家们仍不了解其中大部分是如何运作的。 如今，AI 模型正在帮助研究人员解开其中一些谜团。去年，Google DeepMind 发布了 AlphaGenome，它可以预测 DNA 序列和基因突变的影响，但以数字格式呈现。它还需要更多算力。Evo 2 是由 Arc Institute 和英伟达与学术合作伙伴共同开发的模型，它使用 DNA 的语言，可以从零生成完整的基因组。 Carbon-X 在对话式界面中同时整合了 DNA 和自然语言。可以把它想象成 DNA 版的 ChatGPT。 该团队从现有语言模型入手，扩展其词表，以每六个字母为一组读取 DNA。随后

匹配字段正文

不完整或不相关时，智能体会执行更多搜索、审阅更多文档，在完成任务前消耗额外的推理token。 四种Embed和Rerank变体分别对应不同的部署角色。Nemotron 3.5 Embed 8B BF16定位于面向文本和视觉丰富文档的高质量搜索。1B BF16模型将8B模型的多模态检索能力浓缩到更小的体量中，用于多模态索引和查询服务。1B NVFP4模型对文本编码器和图像编码器均应用NVFP4量化，面向支持硬件上的大规模文档索引和高吞吐检索。Nemotron 3.5 Rerank 8B BF16对查询—文档对进行联合打分，以优化文本和图像候选的相关性排序，为检索增强生成和智能体工作流筛选证据。检索范围涵盖文档文本以及表格、图表、信息图、数据手册和示意图等图像。NVIDIA在34种语言上评估了文本检索，并在覆盖18种语言的MIRACL Vision和KoViDoRe上评估了多语言视觉检索，同时指出这些模型可能还能处理测试范围之外的其他语言。 智能体检索实验 为衡量检索对智能体行为的影响，NVIDIA在ViDoRe v3、BRIGHT和BrowseComp-Plus上评估了Nemotron

匹配字段正文

次的起点？ 有效的方法需要被保留，走过的弯路也需要被识别，承接这件事的，其实是 记忆 。 记忆张量 在这方面的探索，则给出了一份截然不同的答卷——记忆原生。 何为记忆原生？就是将经验的保留、更新和调用，做成模型可以学习的能力。 当记忆在模型中生根发芽，便构成了 记忆原生模型 。 其最新开源发布的 MemT 1.0 系列，就给出了一条颇为具体的路径： 它把经验编码成内部动态状态，再通过训练学习怎样写入、更新和读取，最后让这些状态经由记忆分支参与后续计算。 与外部记忆相比，它不仅能力没打折，未来拓展的天花板也会更高。 这也是记忆原生模型 首次 实现近300B参数规模的工程验证。 好家伙，记忆看不见摸不着，但却实打实成为模型成长的立足根本。 从早期要求模型记住信息，到用好经验，模型对记忆的要求不断升级，也让记忆一步步从幕后走到台前。 MemT 1.0这次直接甩出两个型号： MemT-1.0-Nano 总计36B参数、激活3B，基座用的是“源神”Qwen3.6-35B-A3B； MemT-1.0-Flash 则向上突破，高达288B参数、激活17B，基座是经过进一步后训练的DeepSeek-V

匹配字段正文

、角色位置和交互状态由上游引擎或程序维护，模型负责将简化场景或参考视频转化为精细画面。参考视频提供布局、镜头与运动信息，目标首帧设定外观，文本提示词补充风格与细节，让同一套场景能够呈现写实、二次元等不同视觉效果。 应用方面，EdenLive可用于游戏原型预览、场景与动画预演，以及已有视频的重新渲染。官方还展示了将人类操作视频转换为机器人外观的案例，为具身研究扩展视频样本。配套的Game Prototype Turbo工具则支持通过提示词创建可游玩的简化游戏原型，再接入模型生成精细画面。 不过，部署与授权仍有一定门槛。官方模型页显示，下载全部权重约需210GB空间，核心生成模型权重采用Apache 2.0许可，视觉编码器及FLUX首帧组件另有许可约束，其中FLUX组件限非商业、非生产用途。当前，高频交互、多角色身份保持及长时间生成的视觉一致性仍待改善。 投稿/爆料：tougao@youxituoluo.com 稿件/商务合作： 林南（微信 19250561593） 加入行业交流群：林南（微信 19250561593） 元宇宙数字产业服务平台 下载「陀螺科技」APP，获取前沿深度元宇宙讯息

匹配字段正文

以前跑多智能体或者长上下文任务，最痛苦的就是看着屏幕一秒钟吐几个字，在复杂的代码调试和自我纠错里等得让人抓狂， 而在社区实测中，这只太空兔在后台的生成速度稳定在 85 到 112 词每秒，不仅能在三分钟内单次跑通复杂的 3D 场景与代码构建，更是在多文件工程修复里几乎做到了无感响应。 更耐人寻味的，是这种先在匿名竞技场里打服对手的硬核姿态。 没有铺天盖地的营销预热，直接把模型剥去所有品牌光环丢进全球盲测池，让全世界最苛刻的程序员用真实的工程任务去一票一票投票， 当最终的测试数据证明它在日常编码和长文本理解上完全能硬刚一线梯队时，官方才从容地发了一句太空兔欢迎回来。 这就是未来大模型竞争最健康的形态： 与其在发布会上堆砌虚无缥缈的跑分，不如把推理速度做成光速，把百万上下文做成白菜价，让每一个每天写代码的普通人真真切切感受到效率翻倍的快感。 大家平时在用智能体写代码或者处理长文档时，最在乎的是极速响应还是超大参数的慢思考？ 我发现在日常改 Bug 和快速搭原型的场景里，这种每秒一百词且带百万上下文的极速流，我现在只要用过就根本回不去了哈哈哈😆 https://t.co/QnLxQiR0ZU

匹配字段正文

的速度运行，同时保持大模型的容量。 注意力 解码器有 52 层，隐藏大小为 5,120。大多数层对前 512 个 token 使用滑动窗口注意力；每第六层以及最后一层关注完整上下文。这样就有 43 个滑动窗口层和 9 个全局层。 注意力块内部（两种层类型） 这两种层对位置的处理方式不同。滑动窗口层使用 RoPE，因为在短窗口内相对位置最重要。全局层不使用位置编码。相反，每个查询都乘以一个随可见 token 数量缓慢增长的缩放因子 (1 + (pos + 1) / 2048) 0.1。它起到温度的作用：softmax 在上下文变长时保持其精度，而不是变得平坦。实现中称之为可扩展 softmax 查询缩放。 注意力使用分组查询注意力，有 48 个查询头和 8 个键值头，并对查询和键使用 RMSNorm。一个从层输入计算出的学习 sigmoid 门在输出投影之前缩放每个头的每个通道。 专家混合 前 3 层使用稠密 SwiGLU MLP。其余 49 层将其替换为包含 256 个专家的专家混合块，每个专家是一个中间大小为 2,560 的 SwiGLU MLP，约 39M 参数。专家占模型参数的

匹配字段正文

理复杂任务。其文本输入、文本输出的设计聚焦于这些工作负载，其中代码、工具调用、日志、文档和结构化输出处于核心地位。 Beam 拥有 100 万 token 的上下文窗口，以支持长时间运行的工作流。 Beam 以 Apache 2.0 许可发布，让开发者可以自由检查、定制并基于该模型进行构建。 你可以用 Beam 构建什么 Beam 专为以下工作负载而设计： 编码智能体： 解决软件工程任务、处理代码库，并帮助编写和维护代码。 长时间运行的智能体： 执行多步骤工作流、使用工具，并在延长的操作序列中朝着目标推进。 数学与科学推理： 处理复杂的数学和科学问题。 自定义模型： 针对特定应用微调和定制开源权重模型。 基准测试 开始使用 下载 最新版本的 Ollama 以开始使用 Beam。 ollama run beam:cloud Claude Code ollama launch claude --model beam:cloud Codex ollama launch codex --model beam:cloud OpenCode ollama launch opencode --mod

匹配字段正文

a与Apple携手为Mac带来开放权重AI。 Meta发布了Muse Spark Open的权重，这是一个816B参数模型，可在2台互联的Mac Studio上运行。 Apple针对其MLX框架对该版本进行了调优。每个token仅激活42B参数，因为该模型将每个token路由到256个专家中的8个，因此每一步只读取一小片内存。 容纳整个模型才是难点，因为4位NVFP4版本至少需要700GB的GPU内存。 每台M5 Ultra Mac Studio为其GPU提供高达512GB的统一内存，因此2台机器可容纳该模型，同时1.2TB/s的带宽为每个token提供数据。 在基准测试中，Muse Spark Open以89.2的成绩位居MCP-Atlas工具使用测试榜首，这适合Meta为其打造的编码智能体。 该许可证允许免费商业使用，但要求标注“Built with Muse Spark Open”，此外，12个月收入超过2000万美元的API模型销售商需与Meta另行达成协议。 Apple尚未公布512GB Mac Studio的定价，而由4台各256GB机器组成的集群成本约为38,000美元。

匹配字段正文

大量工程优化：用 CUDA Graph 将 DiT 主干计算预录制、运行时一次性重放；为 RoPE、归一化与 FP8 量化编写融合的专用 GPU kernel，同一层的 Q、K、V 共用一次输入量化；文本条件的 KV 只在 Caption 更新时重算；视频历史 KV 改用环形缓存；自注意力按 KV 窗口切分后并行计算；编解码换用轻量的 TAEHV。最终，文本编码器、DiT 与 VAE 可以全部常驻一张 RTX 5090。 五、Coding Agent：用一个念头，改写一款游戏 Matrix-Game 4.0 最让人兴奋的地方，或许不是它画得多好，而是它有多容易被"改"。 借助编程智能体（Coding Agent），玩家可以在现有游戏代码的基础上，用自然语言定制自己的游戏：从调整地形、布置场景物件，到修改 NPC 的行为与交互逻辑，甚至设计全新的玩法。 创意不再卡在 3D 资产的生产线上，而是可以直接进入"可玩、可迭代"的阶段。 这也正是这条技术路径的现实意义：随着 AI 编程助手快速进步，搭建轻量游戏引擎的成本已经大幅降低。我们也鼓励创作者基于项目提供的游戏代码继续改编与拓展，共同探索

匹配字段正文

好的工具集成进行了训练，能够更有效地使用外部工具和 API。 开放价值观：更严格地遵循《Apertus 宪章》，使模型的价值观和原则更加透明。 训练过程 完整的 Apertus 1.5 训练流程 通过分词器实现多模态 我们在 v1.5 模型中采用早期融合的方式引入多模态：图像和音频以离散 token 的形式与文本 token 进入同一序列，而非使用独立的视觉编码器。图像使用 Emu3.5 分词器进行分词（一张 512×512 的图像变为 1,024 个 token），音频使用 WavTokenizer（每秒 40 个 token）。我们仅扩展了词表，因此架构保持不变，训练速度与纯文本相当。模型能够理解图像和音频，但只生成文本。 预训练 在 Apertus 1.0 的基础上，我们分四个阶段继续预训练： 非配对：文本加上独立的图像和音频，使模型学习新的模态。 配对：图像—说明文字和音频—转写文本配对，使模型将其与语言对齐。 冷却：使用质量更高的数据，包含更多数学和代码内容。 长上下文：窗口从 8k 逐步扩展至 262k tokens。 总体而言，超过一半的训练 token 为纯文本，从而保

匹配字段正文

P90 小于 70 毫秒的测试约束。这为自有部署的容量规划提供参考。 03 从服务器到手机：Ling 3.0 系列的开源实践 Ling-3.1-flash 在对应测试配置中的服务卡数降至 4 卡。面向不同设备与运行框架，还需要社区继续适配。上一代 Ling 3.0 系列已有具体实践： 在单台 DGX Spark 上运行 Ling-3.0-flash ，驱动编码智能体构建、测试小游戏 ； 在 16GB MacBook Air 上运行 Ling-3.0-tiny ，搭建常驻助手； 在 Galaxy A32 4G 上运行 Tiny GGUF ，验证本地推理与工具路由原型 ； 通过 PocketPal 在小米 14T Pro 上使用 Tiny 本地对话。 社区还提供 Flash GGUF 、Tiny GGUF 、Flash MLX 4bit 、Tiny MLX 4bit 、Flash NVFP4 ，以及 Flash-Fin 、Flash-VL 的 GGUF 适配，方便按设备和推理框架选择。 百灵团队根据 Hugging Face 公开仓库的下载读数估算，截至 2026 年 10 月 14 日

匹配字段正文

运行速度和成本表现不够理想。尽管模型能够完成任务，部分任务的实际花费仍明显高于其他模型。这也说明，企业评估模型时，不能只比较每百万token的标价，还要看完成同一任务需要多少调用、耗时多久，以及最终结果是否可用。 Argon的全面开放，让更多开发者和企业有机会检验谷歌展示的能力。但从模型能够完成某项任务，到企业可以稳定、低成本地将其投入生产，中间仍有一段距离。 对谷歌而言，接下来要解决的不只是继续提升模型能力，还包括让模型更容易使用、让复杂任务运行得更稳定，并让实际成本与效率优势真正经得起检验。 据Business Insider于10月10日报道，谷歌员工正在测试Gemini 4的后续版本Barium和Carbon，部分测试者认为其编码能力有所提升。 Vercel首席执行官吉列尔莫·劳赫（Guillermo Rauch）认为，谷歌拥有Transformer技术积累、工程人才和计算资源，不应被低估。 本文来自微信公众号“腾讯科技”，作者：苏扬，编辑：徐青阳，36氪经授权发布。 该文观点仅代表作者本人，36氪平台仅提供信息存储空间服务。 聚焦全球优秀创业者，项目融资率接近97%，领跑行业

匹配字段正文

简短的视频历史、一个动作描述，以及一组带有初始 3D 位置的查询点，模型首先识别所指的物体、查询点以及指令所描述的运动。然后它预测每个点未来的 3D 轨迹。 我们训练了 MolmoMotion 的两个变体： MolmoMotion 架构。Molmo 2 骨干的共享输入由 RGB 观测的图像 token、动作描述的文本 token，以及从 Molmo 2 视觉编码器采样的 2D 查询点特征 token 组成。MolmoMotion-AR 对初始 3D 查询坐标进行编码，并将未来轨迹解码为量化坐标文本，而 MolmoMotion-FM 则直接在连续 3D 坐标空间中表示它们。推出 MolmoMotion-1M 和 PointMotionBench 为了训练 MolmoMotion，我们需要尚不存在的数据：带有与特定物体关联的 3D 点轨迹、并与动作描述配对的大规模视频。现有的 3D 跟踪数据集规模小且领域有限，而互联网视频虽然具备我们为 MolmoMotion 这类预测器所期望的规模和多样性，却不包含 3D 标注。因此，我们构建了一条自动流水线，从无约束视频中提取以物体为基准的 3D 轨迹

匹配字段正文

eta）。如果你是从 Sonnet 4.6 或更早版本，或从 Haiku 4.5 迁移，迁移指南为每个起始模型提供了检查清单。 调优 重新运行你的 effort 扫描 Effort 级别已重新校准，因此同一级别产生的思考量不再与 Sonnet 5 上相同，你原来的设置也不会延续。除非你的工作负载是智能体式的或对延迟敏感，否则请从 high 开始。对于智能体式编码和多步工具使用，对于定义明确的任务请从 medium 开始，对于更难或更长的任务则转向 high。对于聊天和其他对延迟敏感的工作，请从 medium 或 low 开始。仅在你的评估显示质量提升时才使用 xhigh 或 max。 思考会计入 max tokens，因此请留出余量。对于智能体式编码，将 max tokens 设为 128,000（即模型的最大值），并流式传输响应。要减少思考，请降低 effort 级别，因为在系统提示中要求模型少思考并不能可靠地减少思考。 移除 Sonnet 5 的变通方案 现有的 Sonnet 5 提示词应无需更改即可表现良好。如果你的提示词带有变通方案，例如拒绝引导、工具调用重试垫片或“不要偷懒”

匹配字段正文

、梳理信息关联，并以”红黄绿灯”直观展示健康风险，同时支持多报告对比分析，帮助用户更清晰地阅读和整理健康信息。 （注：本能力仅供辅助参考，不能替代专业医生诊断。） 🎬 视频演示（见公众号原文 ） 03 高效视觉节点：更低成本, 更快速度 Ling-3.0-flash-VL 继承了 Ling-3.0-flash 的极速推理与灵活部署优势。模型引入任意分辨率视觉编码器与 VideoRoPE，原生支持图文及视频多模态输入；语言主干沿用 42 层混合架构，交替排列 KDA 与 Gated MLA（比例 5:1）。在 124B 总参数下，单次推理仅激活 5.5B 参数，极大地压缩了算力开销。 无论是实时视频对话中的连续追问，还是跨工具的多轮视觉交互，模型均能保持低延迟响应。在需要反复“观察——行动——验证——修正”的视觉 Agent 工作流中，更快的单步推理与更低的 Token 消耗，意味着明显的效率提升。Ling-3.0-flash-VL 在以下场景有较好体验： 实时视觉交互：打开摄像头边看边聊，模型随画面变化即时回应，对话节奏自然不卡顿； 视觉 Agent 工作流：从识别界面、拆解步骤、执行

匹配字段正文

份。了解如何为你的 AI 应用赋予声音。 分享 Ben's Bites ChatGPT Work 可以从你的电子邮件、消息和文件中学习你的写作风格。 在 Mac 上按住 Shift 并拖动，即可用 Tangerine 转换文件。 异类心智——Jakub Pachocki（OpenAI 首席科学家）谈如何让 AI 的未来掌握在人类手中。 在 macOS 上配合编码智能体使用 Blender。 智能体现在可以通过 USB 控制一台实体 iPhone。 SuperAstra——实时编辑超级任天堂游戏。 Cibby——一款面向实体游戏收藏者的应用。 Doodle Shooter（我很喜欢玩这个），还能把你自己放进《任天堂明星大乱斗 64》里。 一项让 Web 应用在 iOS Safari 中拥有原生质感的技术。 一款写作插件，它会采访你、点评草稿，并保存你学到的东西。 Factory 的 CEO 谈当 AI 编写代码时该招什么样的人。 Mirai 的 Uzu 在 Apple Mac 上运行本地模型的速度提升 2-3 倍。（我是投资人） Baseten 正在创办一个开源 AI 研究实验室。 Co

匹配字段正文

它能够在多轮对话中管理大量顺序工具调用。当工具调用失败或返回意外结果时，它具备从失败中恢复并重试的能力，而不是直接中止。 Muse Glimmer 的架构解析 Muse Glimmer 是一个 30B 稠密模型，由 52 个 transformer 层、分组查询注意力（32 个查询头、2 个 KV 头）以及 SwiGLU 前馈层组成。一个约 1.8B 的感知编码器赋予它原生图像理解能力，与文本处理并行，并支持 128K+ token 的上下文窗口。 Meta 构建此模型的目标是让它能装进 24 GB 显存。同样的设计——较小的 KV 占用、滑动窗口注意力——使其在高并发下服务成本可控。由于权重以 Apache 2.0 许可发布，路径是对称的：在工作站上针对量化版本做原型验证，当需要服务数千个会话时，将同一模型部署到 Fireworks 上。 对智能体而言最重要的细节是注意力模式：大多数层采用 2,048 token 的滑动窗口注意力，每第四层设有一个完整的全局注意力层。配合仅两个 KV 头，这使 KV 缓存保持较小——这正是长上下文智能体在高并发下经济可服务的原因。该模型的架构效率使智

匹配字段正文