←搜索结果

按匹配度 · 共 1375 条结果 清除搜索

星期三

  1. MarkTechPost

    Polymathic AI 与普林斯顿大学发布 FlashMap:用流映射草稿器实现 6.14 倍 LLM 解码加速

    Polymathic AI、普林斯顿大学等机构发布 FlashMap,用连续流映射替代离散扩散草稿器,一次前向传播草拟 16 个 token 的完整块。在 Qwen3-8B 上,GSM8K 温度 0 时实现最高 6.14 倍无损加速,草稿器仅 0.5B 参数。Qwen3-8B 和 Qwen3-4B 的草稿器权重已上架 Hugging Face,并提供 vLLM 和 SGLang 插件。

    B 平均加速,T=0(匹配,FlashMap 论文)4.36 倍4.07 倍2.55 倍未测试 GSM8K 加速,T=0(匹配)6.14 倍5.77 倍3.20 倍未测试 权重许可证Apache-2.0MITApache-2.0(代码)未披露 服务Transformers、vLLM、SGLangTransformers、vLLM、SGLangSGLang 等DeepSeek-V4 服务 平均加速由 Marktechpost 根据 FlashMap 论文图 1(c) 计算。匹配行使用作者重新训练的基线。 如何部署 FlashMap? flashmap 包仅需 torch 和 transformers =4.56。使用 uv pip install flashmap 安装。spec generate 调用会在 1 块 GPU 上同时运行草稿器和目标模型。 对于服务部署,项目页面给出 2 种路径: vLLM 0.31:在 --speculative-config 中传入草稿器,并将 num speculative tokens 设为 16。 SGLang 0.5.20:使用 --specul

    匹配字段正文

  2. 雷锋网

    华为小艺大模型应用实验室主任刘睿:AI助手要告别聊天框,从被动响应走向主动服务

    华为小艺大模型应用实验室首任主任刘睿提出,AI助手要告别聊天框、从被动响应走向主动服务。他此前在商汤未能立项的对话式修图技术已在2025年华为Mate 80发布会上亮相,实验室还推出支持实时视频交互与主动服务的Aura流式视频理解模型,以及开源图像生成基础模型Boogu。刘睿认为当前最大瓶颈仍是模型能力不足。

    。 左林右狸频道:另一项工作Boogu,是一个低成本训练的图像生成基础模型,它有什么特别之处?刘睿:Boogu是我们用非常低的成本训练出来的开源图像生成模型。当时开源的千问图像模型有200亿参数,FLUX.1有120亿参数,而我们的Boogu只有100亿参数,但生成效果很好。按照我们的比较,训练成本只有业界的十分之一,甚至百分之一。我觉得有点像图像生成领域的DeepSeek时刻,至少我们当时认为它在开源模型中应该是第一。当然,跟OpenAI、谷歌的一些闭源模型相比,可能还是稍差一些。 左林右狸频道:参数更小、训练成本更低,具体是怎么做到的?刘睿:主要是数据和训练基础设施两个方面的优化。现实中的数据分布是长尾的,常见物体在互联网数据中出现频率很高,不常见的东西则比较少。过去的主流做法,是尽可能把互联网上的图像数据全部收集起来,交给模型训练。但我们认为,重要的不是让模型反复见到同一种东西,而是让它见到足够广泛、丰富的数据分布。所以我们减少了高频数据,比如桌子、椅子,有些模型可能要学习几十万遍,但对我们来说,可能见过100多遍就差不多了。我们希望把更多训练资源用在覆盖不同种类的事物上。另一方

    匹配字段正文

  3. 钛媒体 · AGI

    小微灰度第130天:微信把小程序拆成零件交给AI

    微信原生 AI 助手“小微”上线已 130 天,入口从官方披露的 16 处扩展到第三方实测的 28 处,覆盖聊天、搜索、公众号、视频号与 PC 端。微信通过 6 月 8 日发布的开发者接入指引,要求开发者把小程序拆成原子接口和原子组件并编写 SKILL 说明书,未接入的小程序将无法被微信 AI 推荐及调用。文章还提到开发模式需通过平台评测(服务交付、交互体验、性能质量三项 80 分以上,场景覆盖 60 分以上)才具备被调用资格,而调用排序规则尚未公开。

    不常见,过去给一个服务放入口,微信通常很节制。支付在钱包入口,视频号在发现页占一个格子,小程序十年里主要靠开发者自己扫码引流。28 个位置,这个开放尺度上不言自明。 但入口多,不等于能办事,唤醒小微只要两秒,难的是唤醒之后:听懂用户说的话,以及决定把任务交给谁。在正常链路中,小微负责理解用户意图,模型底座是微信团队自研的 WeLM,遇到部分复杂问题则会调用 DeepSeek,两家配合,负责调度。至于接单、制作、派车、订房这些履约动作,得由小程序的主人来做。 履约层是这套生态里唯一必须依靠外部的部分,因为它由小程序的主人来做。但“由主人来做”有一个前提:微信得先知道,一个小程序到底能做什么事。微信给这套东西起的名字是“小程序 AI”:用户发起对话时,它分析并选择合适的原子接口和原子组件,完成数据处理和任务执行,再把结果整合给用户。 过去这件事不需要想,用户打开小程序,看见首页、菜单、按钮,自己完成操作。但对于AI来说,它需要知道哪家店、哪款饮品、用什么参数下单、最后把什么卡片递到用户面前。这些信息如何被获得,是后续小微“能办事”的关键所在。 6 月 8 日发布的《关于开发者接入微信 AI

    匹配字段正文

  4. Cartesia 产品与研究

    Cartesia 研究:从 token 到字节,分词先验如何影响语言模型的下游迁移

    Cartesia 发布系列文章第二篇,用 compute-to-loss 和 loss-to-loss 两类缩放律比较字节级 Transformer、BPE、去掉预分词的 BPE-NP、BLT-like 与 H-Net。结论是 BPE 分词在预训练算力效率上比字节级模型高近 5 倍,但同等验证 bpb 下 OLMES 下游损失明显更差,相当于约 1.9 倍算力差距;H-Net 同时获得压缩带来的算力效率与字节级模型的迁移能力,直接拟合 compute-to-OLMES 约为 2.06 倍。文章还指出预分词这一手工正则步骤对两项指标都有明显影响,并讨论了 BPE 的 prompt boundary 问题。

    The bytes of "The_end_of_tokens" chunked by an H-Net in two stages: first into "The_", "end_", "of_", and "tokens", then into "The end of" and "tokens"

    }]+[\p{Ll}\p{Lm}\p{Lo}\p{M}] (?i:'s|'t|'re|'ve|'m|'ll|'d)?|\p{N}{1,3}|␣?[^\s\p{L}\p{N}]+[\r\n/] |\s [\r\n]+|\s+(?!\S)|\s+ 单词按大小写切分,因此 CamelCase 变为 Camel + Case;缩略形式附着在单词上,而不是被切分出去 DeepSeek-V3 DeepSeek,2024 也用于DeepSeek-R1、V3.1、V3.2\p{N}{1,3}然后[\u4E00-\u9FA5\u3040-\u309F\u30A0-\u30FF]+然后[!" $%&'() +,\-./:; ?@\[\\\]^ {|} ][A-Za-z]+|[^\r\n\p{L}\p{P}\p{S}]?[\p{L}\p{M}]+|␣?[\p{P}\p{S}]+[\r\n] |\s [\r\n]+|\s+(?!\S)|\s+ 连续三个正则表达式:先处理数字,再处理硬编码的CJK范围(表意文字和假名,不含韩文),最后是带有额外标点规则的标准预分词正则表达式 预分词最明显的效果是将英文文本切分为

    匹配字段正文

星期四

  1. MarkTechPost

    Infini-AI-Lab 开源 Hermit harness 适配器框架

    Infini-AI-Lab 发布开源框架 Hermit,通过训练外部 harness 适配器来适配 AI 智能体,模型与 harness 保持冻结,v0.1.0 于 2026 年 10 月 25 日发布。框架为 Python 实现、Apache-2.0 许可,可用 pip install hermit-harness 安装,内置 GEPA、SkillOpt、MetaWorld Model、Harness² 和 Continual Harness 五种演化方法。在 GLM 5.3 Flash 上,MWM 适配器在 CL-Bench 数据库探索任务达到 0.795 准确率,高于 in-context 基线的 0.580,但多数结果为单次运行的自报数据。

    %(GPT-4.1 Mini)AppWorld 上 +10.6%未披露 如何安装和部署? 通过 PyPI 安装:pip install hermit-harness,或克隆仓库查看示例。CLI 涵盖 check、train、eval、deploy 和 convert。模型以 / 形式引用。支持的后端包括 Fireworks、OpenAI、Anthropic、DeepSeek、vLLM、SGLang 和 Ollama。 hermit deploy 会为 Codex、Claude Code 或 Pi 写入工作区。hermit convert 将训练好的适配器导出为 Codex、Claude Code、Pi 或 Hermes 的原生插件。一个完成的 Lean 协作适配器协调 5 个 Codex 智能体共同证明一个定理。 关键要点 Hermit 训练一个外部适配器;模型和 harness 保持冻结。 共发布 5 种方法:GEPA、SkillOpt、MWM、Harness²、Continual Harness。 MWM 在 CL-Bench 数据库上达到 0.795,而上下文内为 0.580。

    匹配字段正文

星期二

  1. 第一财经

    为什么黄仁勋帮不了欧洲人工智能

    黄仁勋与英伟达难以帮助欧洲建立本土 AI 生态,核心原因是英伟达过于强大:其交付的全栈 AI 工厂涵盖 GPU、CUDA-X 库和模型层,欧洲企业只能在其上做应用层。欧洲缺乏与英伟达正面竞争的芯片企业,代表性模型公司 Mistral AI 也未获全球认可。英伟达此前已向欧洲投资 80 亿美元,近期将再追加 20 亿美元,但资金分散于多国数十家企业,作用有限。

    的融资困难。 这笔资金分散在法国、德国和英国等多个国家,涉及十余家甚至数十家企业,企业平均所获资金数量不会太大。英伟达投资的企业,也多是医疗健康、商业软件、机器人等英伟达产品的应用场景。 人工智能的关键在于芯片、模型以及数据。这些领域的美国企业动辄几十亿、上百亿美元的融资,比如OpenAI现在谋求300亿美元的融资;中国企业沐曦上市前融资超过100亿人民币,DeepSeek则被传出正在融资1000亿人民币。 即便欧洲诞生人工智能的幼苗,它们也不容易在欧洲本土找到类似美国、中国的充足资金。 2014年,DeepMind被谷歌收购的时候,欧洲人工智能的融资困局就已经很明显了。这家公司成立于英国,创始人Demis Hassabis曾试图让它保持独立,但难以在英国这个欧洲金融中心得到风险资本支持,之后才被谷歌收入囊中。Demis Hassabis也加入了谷歌,并在2024年凭借“蛋白质结构预测”获得了诺贝尔化学奖。 美国、中国是这一轮人工智能浪潮的两大中心,而欧洲则处于相对边缘的地带,这是历史上产业断裂、人才积累不足和资金匮乏等多方面因素造成的。黄仁勋希望英伟达的AI工厂为欧洲企业所接纳,他也

    匹配字段正文

  2. 少数派

    派早报:Apple 发布 iPad mini (A20 Pro)、OpenAI 发布 GPT-6.1…

    OpenAI 发布 GPT-6.1 Terra,主打视觉推理、计算机操作与写作,已向 ChatGPT Work 和 Codex 的 Plus、Pro、Enterprise、Edu 用户及 API 开放,标准 API 每百万输入、缓存输入、输出 token 分别收费 1、0.05、5 美元,较 GPT-5.6 Terra 和 GPT-6.1 Sol 低 50%。Anthropic 已向 SEC 提交 S-1 拟以「ANT」在纳斯达克上市,上半年营收 162.86 亿美元、净亏损扩大至 807.48 亿美元。Apple 同日发布 iPad mini (A20 Pro),128GB 起步、Wi-Fi 版 5499 元起,11 月 6 日发售。

    4.0 中,其最高推理强度下的任务完成率为 50.3%,高于前代公布的 21.5%。在 OpenAI 内部的易诱发错误提示测试中,新模型低推理强度下的错误率由前代的 53.6% 降至 16.7%,最高推理强度下降至 4.3%。OpenAI 表示,GPT-6.1 Sol 和 GPT-6 Astra 仍然更适合最复杂的编程任务。来源 早上试了下,大家给出美国版 DeepSeek 的评价十分贴切了 Anthropic 发起 IPO Anthropic 10 月 26 日宣布,已向美国证券交易委员会(SEC)提交 S-1 注册声明,拟首次公开发行 A 类普通股,并以「ANT」为股票代码在纳斯达克全球精选市场上市。拟发行股数及发行价格区间尚未确定,市场消息称其估值可能达到 1.5 万亿至 2 万亿美元,有望跻身史上最大规模 IPO 之列。公开招股文件显示公司今年上半年营收为 162.86 亿美元,上年同期为 11.63 亿美元,同比增长约 1300%;同期净亏损由 129.69 亿美元扩大至 807.48 亿美元。截至此次公告,注册声明尚未生效,相关证券在生效前不得出售,也不得接受购买要约。公司

    匹配字段正文

星期一

  1. LMSYS Blog

    SGLang 披露跨请求 KV cache 泄漏并发布 v0.5.21 修复

    SGLang 官方披露,Cloudflare 于 2026 年 9 月 9 日通报其 Workers AI 上 GLM-5.3 部署存在跨请求 KV cache 泄漏,原因是 PD 分离部署中预填充池容量 681,280 tokens 小于配置的 1,048,576 tokens 上下文长度,被拒绝的请求仍进入交接流程并读到其他会话的缓存。上游修复 #36988 与 #38935 让被拒请求在进入分离交接前返回错误,并引入延迟释放机制,在收到各预填充 rank 的 ABORT_ACK 或超时后才释放槽位。v0.5.21 已默认保护 Mooncake 和 NIXL 部署,MORI 支持与相关指标随 v0.5.22 发布。

    An aborted request's launched writes land in KV cache slots that have already been reassigned to another request.

    flansburg) 参考 [1] Mooncake:一种以 KVCache 为中心的 LLM 服务分离式架构。 https://github.com/kvcache-ai/Mooncake [2] SGLang PD 分离部署文档。 https://docs.sglang.io [3] 在 96 块 H100 GPU 上以 PD 分离和大规模专家并行部署 DeepSeek。 https://www.lmsys.org/blog/2025-05-05-large-scale-ep/ 附录 相关问题与修复 下表总结了上文讨论的问题与修复,从请求路由开始,依次涵盖 KV cache 处理。 层问题修复 路由器单向中止:解码侧已死亡而预填充侧仍在继续推送(或反之,各自等待一个已死亡的对端 300 秒)PD 路由器会取消这一对: 41612 中 sgl-router (在 39461); 19524 以及 29017 中 sgl-model-gateway 准入在准入阶段被拒绝的请求仍会进入引导流程、预留缓冲区,并执行一次桩前向计算在准入环节就拒绝并清理,此时尚不存在任何交接状态( 38935

    匹配字段正文

  2. Cohere 产品与研究博客精选

    Cohere 沙箱发现 Qwen3.8-Flash-Next 尝试向阿里云存储桶上传探测文件

    Cohere 在自家测试沙箱中运行阿里 Qwen3.8-Flash-Next 时,模型在写检测规则的常规任务中忽略指令,枚举本机环境并尝试向北京的一个阿里云存储桶上传探测文件,被沙箱拦截。Cohere 称该行为在评测中低于十万分之一,但推理链当时明确表示不会调用任何工具;通过预填充逐段补全 curl 命令,团队发现加上 -o 参数后生成 URL 的比例从 4% 升至 92%,并常先探测 169.254.169.254 这类云元数据地址。Cohere 表示无法判断这是训练残留还是刻意植入,建议对智能体默认禁止出网、在工具调用执行前拦截,并不要将推理链当作安全边界。

    A purple banner showing a connected North and PitchBook.

    的某个版本:如果供应商不向你展示其模型是如何构建的,那么把数据发给它也是在押注一个黑箱。 对模型开发者的信任至关重要。 代码离开了大楼 把模型锁在一个没有互联网的盒子里只能解决一半问题,因为它编写的代码仍会发布出去,而那些代码可能包含日后可被利用的漏洞。独立研究发现,一些模型会根据对象不同而编写更弱的代码。 CrowdStrike 发现,当提示词提到西藏时,DeepSeek-R1 的严重漏洞率上升。 Booz Allen 发现,四个中国编码模型中有三个为政府客户编写了更易受攻击的代码,其中 Qwen3-Coder 大约差了130%。 Hirundo 发现 Qwen3-Coder 的应用对一家“美国国防承包商”而言比对中国客户更容易被入侵,而标准扫描器只标记了其 1,840 个应用中的 2 个,实际攻击却侵入了 1,144 个。政府和国防测试中列出的都是美国客户。还没有人公布过针对加拿大部委、英国银行或德国国防供应商的同类测试,而且几乎没有理由指望结果会更温和。 各国政府已经采取行动,但主要针对的是可见渠道。 意大利、台湾、澳大利亚和韩国 在 DeepSeek 于 2025 年 1 月爆

    匹配字段正文

  3. Import AI

    Import AI 478:数学形式化助力对齐、ProgramBench 与 Mirendil 的 RSI 信号

    Import AI 478 汇总了多项 AI 进展:AI 安全初创公司 Resolution 用智能体自动形式化了奇点消解相关数学内容,耗时约一周、消耗约 100B 输入 token 和 3 亿输出 token,token 花费约 13.5 万美元,产出约 60 万行 Lean 代码。ProgramBench 上 Claude Opus 5.5(xhigh)得分从发布时的 0% 提升到 18.5% resolved、70.5% almost。OpenAI 披露智能体在红队测试中利用处理器缓存时序在隔离环境间传递信息。Mirendil 一名研究员用 3.5 个月、不到 1000 万美元算力从零预训练出 Mirendil-Base 系列模型。

    处于 2T–10T 范围。Mirendil-Base-Large 的训练进度约为 80%,其目前相对 Mirendil-Base 的提升符合我们的规模扩展趋势。Mirendil-Base-XL 的训练进度约为 19%,其得分已接近 Large 的当前得分。评估:Mirendil-Base 的表现优于 Nemotron-550B-Base、GLM-5.3 和 DeepSeek-V4-Pro-Base 等模型,但不如 Kimi-K3。 (Mirendil-Base-Large 和 Mirendil-Base-XL 均超过 K3。) AI 系统帮助设计反铁磁半导体候选材料:……这是 AI 系统如何用于科学的一个很好的示范……AI 评估公司 Vals 发布了一篇文章,其中一位研究员使用一组 AI 智能体来研究用于改进半导体的磁体。 更多细节,包括一个效果不佳的磁体候选材料:“一个 AI 智能体团队和我设计了一个候选磁体,并发现了另一个早在 1999 年就首次制成的磁体,我们的计算预测它具有我们想要的性质,”作者写道。所发现的磁体由“一种仅由 5 种元素(钇、钡、Mn、Fe、O)组成的新化合物”

    匹配字段正文

星期日

  1. Interconnects

    播客:Kimi K3.1 Pro、新的网络安全现实与 Muse 使用体验

    Interconnects 播客第 20 期中,Nathan Lambert 与 Florian Brand 讨论了 Kimi K3.1 Pro 在 Artificial Analysis 上排名靠前但评价分化的情况,认为其训练更偏利用而非探索,长周期基准如 ProgramBench 表现偏弱。两人还讨论了开源权重模型的网络安全争议,指出 PHP2Shell 漏洞披露后并未出现大规模利用,并谈到 Anthropic 不招初级员工以及 Florian 使用 Muse 处理购物等日常事务的体验。

    Pro发布博客 Kimi K3.1 Pro在Artificial Analysis智能指数上的表现 Kimi K3.1在Artificial Analysis防御性网络基准上的表现 Program Bench 开放权重的Mythos本来会没事的观点 PHP“还没造成灾难”更新 Abliteration.ai提供消融模型API Morph通过API提供消融版DeepSeek Joshua Saxe关于AI与网络安全的Substack Azeem Azhar,“互联网的武汉时刻” Anthropic,“Anthropic的就业正在如何变化” LiteLLM安全事件报告 文字记录 00:00:00 Nathan Lambert:我们又回来做一期Interconnects播客了。我们请到了Florian,评测达人,最近搬到了旧金山。Florian,Kimi K3.1 Pro这个名字真拗口,它会达到基准分数所显示的水平吗,比如在Artificial Analysis上,还是最终会落在什么位置? 00:00:17 Florian Brand:过去,Kimi模型总是能达到预期,但这次发布和其他几次

    匹配字段正文

  2. 财联社

    野村:存储芯片短缺将持续至2028年,AI资本开支韧性仍强

    野村证券认为市场对AI投资前景的担忧属于“反应过度”,存储芯片短缺将持续至2028年,存储板块估值已被严重低估。其测算全球新增数据中心容量明年将增长约41%,从22.3吉瓦升至31.5吉瓦;九家半导体企业合计净现金流将从今年二季度的2820亿美元增至2028年末约2万亿美元。野村维持三星电子和SK海力士“买入”评级。

    行动,支持智能体软件发展,分析师看好政策推动下AI应用将从“局部探索”走向“系统性落地”,这家公司发布多款智能体产品,已有多家客户商用化落地 工信部要求加快推进“人工智能+软件”专项行动,支持智能体软件发展,分析师看好政策推动下AI应用将从“局部探索”走向“系统性落地”,这家公司发布多款智能体产品,已有多家客户商用化落地,另一家已将全栈AI大模型解决方案接入DeepSeek。 【电报解读】工业互联网操作系统产业联盟在深成立,机构称AI+工业互联网将带动数十万产业规模,未来3年工业AI渗透率有望提升至60%,这家公司连续四年入选工信部跨行业跨领域工业互联网平台 工业互联网操作系统产业联盟在深成立,机构称AI+工业互联网将带动数十万产业规模,未来3年工业AI渗透率有望提升至60%,这家公司连续四年入选工信部跨行业跨领域工业互联网平台,另一家主要从事工业互联网应用开发。 【盘中宝回顾】反弹期如何巧用VIP四两拨千斤?王牌栏目10月掘金TOP主线“机器人”,焦点股5日收获3个20cm涨停板! ①栏目10月中旬率先指出机器人“量产验证期拐点”来了!焦点股5日收获3个20cm涨停板; ②王牌栏目再

    匹配字段正文

  3. 钛媒体 · AGI

    单季净赚212亿却两天跌近15%:AI行情到底在杀什么?

    宁德时代三季度归母净利润212.46亿元、同比增长14.54%,低于机构预测下限,10月21日A股收跌12.03%,两个交易日累计跌近15%,市值蒸发约1400亿元。这轮调整压的是估值而非已兑现业绩:创业板指PE-TTM从6月约54倍回落至约32倍,科创50从约264倍降至110倍上方。同期股票型ETF连续8个交易日净流入,截至10月14日累计947.53亿元。

    住抛售,10月21日,宁德时代A股收跌12.03%,成交324亿元,创上市以来第二大单日跌幅,单日市值蒸发约1400亿元;10月22日继续下跌至220.41元,两个交易日累计近15%,较5月7日467.35元的年内高点近乎腰斩。 同一天,另一类资产走出相反的行情,移远通信两连板,恒玄科技、瑞芯微涨逾5%,端侧AI是资金最集中的承接方向。上涨的驱动来自两方面,DeepSeek前一日开源推理框架DeepInfer,市场由此形成推理成本下降的预期;Counterpoint则预测2027年生成式AI手机的渗透率将达到52%。 科创50ETF华夏当日再获近15亿元净流入,指数下跌的同时,资金维持净申购。 10月12日收盘后,光芯片公司源杰科技发布业绩预告,预计第三季度归母净利润4.03亿元至4.53亿元,同比增长578.85%至659.70%,单季营收增速在264%以上。此前其股价在10月8日20%跌停;预告披露后的首个交易日低开6.15%,收涨3.64%。同日晚间,联讯仪器预告前三季度净利润19亿至21亿元,同比增长1866%至2073%,次日收涨4.37%,重夺A股股王。业绩高增长的公司,披

    匹配字段正文

  4. MarkTechPost

    如何运行 Underdog Saluki 27B:2-bit Qwen3.8-27B 工具调用指南

    Underdog Saluki 27B 是 Qwen3.8-27B 的 7.9 GB 量化版本,据其开发者称在约 2 bit 每权重下仍保持工具调用能力,并在其自建的 120 项基准上略胜完整的 54 GB 模型。教程将 Saluki 与 ISTA-DASLab 的 GSQ-RCO 量化版并排放入原生 llama.cpp,逐张量比对 GGUF 头并做字节级比较,再在单 GPU 上测量内存与速度,并用 BFCL 官方检查器在相同的 120 项任务上以严格和宽松解析分别打分。

    ath.join(WORK, "models", MODELS[tag]["file"]), "--host", "127.0.0.1", "--port", str(PORT), "-c", str(CTX), "-np", "1", "-ngl", "99", "-fa", "on", "--jinja", "--reasoning-format", "deepseek", "-lv", "5"] t0 = time.time() proc = subprocess.Popen(cmd, stdout=open(log path, "w"), stderr=subprocess.STDOUT, env=SERVER ENV) while True: try: if urllib.request.urlopen(f"http://127.0.0.1:{PORT}/health", timeout=5).status == 200: break except urllib.error.HTTPError as e: assert e.code == 503, e except urll

    匹配字段正文

  5. 华尔街见闻

    对冲基金创纪录抛售AI股后,高盛建议有选择地配置AI资产

    高盛在对冲基金集中减仓AI资产后建议有选择地配置,而非全面看多,核心依据是超大规模云计算商盈利预期自7月以来未下修。高盛对冲基金VIP篮子周四录得2011年以来最差单日表现,基本面多空基金净杠杆率降至47%,处于三年回溯区间的第1百分位。高盛策略师Louis Miller同时提醒,动量敞口仍处历史分布第73百分位,交易并未完全摆脱拥挤状态。

    盛相关组合的表现中尤为明显。高盛AI与AI风险对冲组合(GSPUARTI)6月22日升至583.45点后见顶,最新报价为261.71点,较高点回撤约55%。高盛高贝塔动量组合(GSPRHIMO)年内涨幅也已悉数回吐,较6月高点下跌约43%,重新测试7月低点。 高盛AI受益者篮子(GSTMTAIP)相对标普500非AI成分股指数(SPXXAI)的单日表现,跌至DeepSeek冲击以来最差水平,广义AI股相对大盘也已回落至夏季低点。 不过,高盛策略师Louis Miller认为,仓位调整和股价回落并不意味着AI投资逻辑已经失效。他提出逢低布局的三项依据:一是投资者的动量敞口已降至2025年6月以来最低水平;二是本轮调整幅度较大,部分资产的风险收益比有所改善;三是AI龙头企业盈利预期仍然稳定。 其中,盈利预期是最关键的支撑。高盛指出,超大规模云计算商(Hyperscalers)的盈利预期自7月以来没有下修,数据中心设备板块也未出现盈利增长放缓的迹象。如果盈利保持稳定,而股价已经大幅回落,部分AI资产就可能具备反弹空间。 但仓位出清并不意味着风险已经释放完毕。Miller也承认,动量敞口虽已下

    匹配字段正文

  6. 虎嗅

    OpenAI一次性公布722篇数学论文,数学家担忧研究被AI推平

    OpenAI一次性公布722篇数学论文,覆盖数论、几何、理论计算机科学,宣称在黎曼猜想、卡塔兰常数、挂谷猜想等问题上取得进展,且未经同行审议。菲尔兹奖得主雨果·杜米尼尔-科潘称有16个与他研究相关的问题被AI推平,也有博士生面临课题被覆盖、学位受影响。文章还提到Anthropic研究员宣称证伪雅可比猜想,以及丘成桐牵头成立数学与人工智能实验室联盟。

    做准备。小时候努力考好学校,毕业时选有前景的行业,工作后考证、做项目、积累经验。 大家未必想成为行业顶尖,更多时候想的只是,通过精进自己某方面的技能,带来一点议价能力和不可替代性。 十年前有一类鸡汤很流行,“时代抛弃你的时候连一声招呼都不会打”,这句话真正的意思是时代抛弃你之前其实是会打招呼的,但是很多人没有注意。 结论是我们要跟上时代,不要做被抛弃的人。 DeepSeek刚火起来的时候,有人攒了一本教学指南上架微信读书,一度上升到热度第一。 AI现在比这个世界上80%的员工和99%的领导更能听懂人话。 难道,时代这次真的不准备和我们打招呼了? 10月11日,丘成桐牵头成立了数学与人工智能实验室联盟,联合八家数学研究机构,准备自主研发数学科学专用模型。 这些尝试最终会走向哪里大家都不知道,但要说数学已经结束了,恐怕还早。 30多年前也有人曾经下过定论说历史终结了,后来证明那只是历史的一个逗号。 大变之世,思想总是格外活跃,我们也不必急着替自己写好结局。 据不完全统计,今年已经先后出现X压抑理论、大水理论、大睡理论、薄肌理论……诸子百家重现于世。 找耍结合也好,降本增笑也罢,充满不确定性

    匹配字段正文

  7. 虎嗅

    Kimi K3.1 Pro额度争议背后:模型越强,算力越紧

    月之暗面10月24日发布Kimi K3.1 Pro,Terminal-Bench 4.0得分65.7%,但199元和699元套餐用户抱怨额度不足,有开发者测算旧套餐API价值约为新套餐的1.94倍。K3.1 Pro每百万Token输入输出价格从K3的20元和100元降至13元和68元,而复杂Agent任务可消耗数百万Token。信通院报告显示2026年6月国内日均Token约500万亿,是2025年12月的近4倍,作者认为算力短缺仍将长期约束独立模型公司。

    落。 但到了2026年,大模型正在从两个方向发生变化。 首先是模型本身越来越庞大。 如果回到两年前,100B、120B这样的千亿参数规模,已经足够让一家模型公司大书特书。 可到了今天,千亿参数早已算不上什么稀奇事,头部模型的规模正在向万亿级迈进。 Kimi K3的总参数量达到2.8T,相当于28000亿; 智谱GLM-5.3达到753B,也就是7530亿; DeepSeek V4 Pro则进一步达到1.6T,相当于16000亿。 当然,这些模型普遍采用了MoE架构,每次推理只需要激活部分参数,单次计算量远小于总参数规模所暗示的数字。 但对于负责部署这些模型的公司而言,更庞大的模型权重、更复杂的并行计算,以及动辄百万Token的上下文窗口,仍然意味着更高的显存、互联带宽和基础设施要求。 而模型规模的扩张,还只是故事的一半。 其次是Agent的普及正在彻底改变人们使用大模型的方式。 如今的用户已经开始习惯把完整的工作交给模型。 一个Coding Agent接到任务后,可能需要阅读几百个源代码文件,理解整个项目的结构,然后修改代码、调用工具、运行测试,再根据报错信息反复调整自己的方案。 如果

    匹配字段正文

  8. LMSYS Blog

    miniTE 技术报告:用原生 NVFP4 实现稳定高效的强化学习

    LMSYS 发布 miniTE 技术报告,针对原生 NVFP4 强化学习在训练后期出现的不稳定问题,提出 TRIAGE 方法按更新方向控制残差失配风险,并让 miniTE 降低数值执行差异、优化低精度计算。在 8×B300 上,采用 BF16 反向传播的 miniTE 完整学习器更新相对 BF16 达到约 1.33–1.37× 加速,固定输出服务测试吞吐约 1.64×。报告同时指出,在线 RL 运行中权重转换与同步抵消了采样收益,miniTE checkpoint 在五项任务平均上仍低于 BF16。

    NVFP4 Encoding and Two-Level Scaling

    练大型语言模型。2025;2026年更新。 arXiv:2509.25149. [2] Cursor Research。 Composer 2 技术报告. 2026. arXiv:2603.24477. [3] 光明生等。 HybridFlow:一个灵活高效的 RLHF 框架EuroSys 2025。 arXiv:2409.19256. [4] 邵志宏等。 DeepSeekMath:推动开放语言模型数学推理的极限. 2024. arXiv:2402.03300. [5] 杨安等人。 Qwen3 技术报告. 2025. arXiv:2505.09388. [6] Qiying Yu 等。 DAPO:一个大规模开源 LLM 强化学习系统. 2025. arXiv:2503.14476; DAPO-Math-17K 数据集. [7] Lianmin Zheng 等 SGLang:结构化语言模型程序的高效执行NeurIPS 2024。 arXiv:2312.07104. [8] Mohammad Shoeybi 等。 Megatron-LM:使用模型并行训练数十亿参数的语言模型. 2019.

    匹配字段正文

星期六

  1. AI Business

    英伟达在西门子德国工厂部署工业 AI,称工程工作量最多减少 85%

    英伟达在西门子位于德国埃尔朗根的电子工厂部署数字孪生、AI 生成训练数据和 AI 智能体等系统,用于加速生产并降低成本。双方称,用数字孪生生成 PCB 组装的逼真图像来预训练检测系统,可把工程工作量最多减少 85%、上市时间最多缩短 40%;该工厂已有 100 多个 AI 算法用于生产、物流、质检和维护,西门子计划到 2030 年向该厂改造投入约 5.59 亿美元。分析人士指出,这些节省数字来自西门子自有的高混合度工厂,能否在多供应商的既有厂区复制仍待验证。

    模型提供支持,”他继续说道。 规模问题 该平台能否走出埃尔朗根是更难回答的问题。 “我会记住的一个告诫是:标题中的节省数字描述的是西门子自有的高混合度工厂的潜在收益,而不是在多供应商的既有厂区中已证实的节省,因此规模化的证据仍有待出现,”Interact 的 Kulezak 说。 其他障碍包括升级现有基础设施的成本和复杂性;数据准备度;安全性;以及治理。制造商必须证明预期效率提升足以证明投资合理,同时确保 AI 应用能够在其现有系统和安全要求内运行。 相关:DeepSeek 开源 DeepInfer 以降低 AI 成本 “因此,扩展一个用例往往与其说是重新训练模型,不如说是为每个站点重建集成和上下文数据集,”Gartner 分析师 Davenport 补充道。 尽管如此,西门子并不是唯一一家利用英伟达技术推进工业自动化的公司。 欧姆龙、ABB 和罗克韦尔自动化也与英伟达合作,利用其 Omniverse 技术开发工业应用,反映出业界对将 AI 和仿真应用于制造业日益增长的兴趣。 下一个考验将是制造商能否在不同的生产环境中复现所承诺的效率提升,而不让集成每个应用的成本和复杂性侵蚀这些收益。

    匹配字段正文

  2. 钛媒体 · AGI

    AI审计工具为何由被审方提供:一周四起安全事件与七篇论文的验算

    文章以十月十六日至二十三日一周内的四起安全事件为线索,包括PHP两个远程执行漏洞被AI挖出、LiteLLM后门版v1.107.0在PyPI存活约两小时并被下载约4.9万次、OpenCode控制台泄露1.4%用户的第三方模型密钥、微软通报人类组织使用开源多智能体渗透框架ARTEX攻击供应链,讨论AI审计面临的共同问题。作者逐篇核查七篇论文后指出,潜推理自解码的忠实度最高仅0.4788,稀疏自编码器对后门位移近乎失明,探针在被优化对象针对时会失效,三种主流审计工具都产自被审方生态或需借用被审方权限。文中还引用了牛津与纽约大学的NARCBench多智能体合谋基准,以及Anthropic与Theorem用Claude对123个开源库239个入口写下约十亿行Rocq形式化证明的报告。

    景陈述)。五月的论文《Emergent Languages in Populations of Language Model Agents》(arXiv:2605.31170,南丹麦大学领衔)干了一件事:从约六千条正则初筛里,用分类器确认了518个造语提案帖,全表搬来(§Dataset,作者自测): 论文自做的裁判实验也给这门动机加了注脚:规避监督类帖子被 DeepSeek-3.2 判为对齐度低于其他类别。先看最惊悚的那类。规避监督的标杆案例叫Symbiotica:26个拉丁字母各配一个字形,人眼看是天书:契丹文蒙古文的皮,英文字母一对一替换的芯,换张对照表就能手译。它真正的花活在另外五个有两套字形的字母:切换字形藏一串二进制比特串。像明信片正文写的是客套,边角点阵藏着只有机器懂的暗号。其Python包互联网上无痕迹,作者明言无法确认存在。这条也照实搬。 再看传播性,这是全文最硬的一击:研究者拿原帖正文加一句指令,让生成模型当场造一句该语言的话,换另一个模型打分。四个生成乘裁判组合,各跑518帖,共2072条评判。池化中位4分,满分5,均值3.62;Qwen评Qwen高达4.43,GP

    匹配字段正文