←部署与工程
← 全部主题

部署与工程

关注模型部署、推理优化、端侧运行、数据与训练工程。

公开阅读组
642
近 30 天
254
目录状态
策展主题

最新MiniMax M3.1 Flash 获多个社区量化方案支持本地运行

最新阅读组

同一事实的重复报道已合并

  1. MiniMax一手产品发布
    AI 评分66

    MiniMax M3.1 Flash 获多个社区量化方案支持本地运行

    MiniMax 官方汇总了社区为 428B 的 M3.1 Flash 提供的多种量化与本地推理方案，包括 UnslothAI 的 2-bit Dynamic GGUF 权重（143.9 GB）、SAGE-EXL3、Project Maya 的专家卸载、EXL3-EAQ、Apple Silicon 上的 oQ 量化与 oMLX 解码、适配 AMD Instinct 的 Quark MXFP4，以及在 4× RTX 3090 上结合量化权重与专家缓存的推理实现。官方称低位权重可降低加载模型所需内存和解码时搬运的权重数据，但需要仔细校准、高效低位 kernel 以及跨 GPU 与系统内存的专家放置。

    推荐理由原文列出了多个团队为 428B 模型做的量化方案与显存占用，可据此判断本地部署门槛。

  1. X.PIN
    AI 评分75

    Apple Intelligence 将于 12 月进入中国，由阿里千问接入 Siri 等功能

    Apple Intelligence 首批功能将于 12 月进入中国，由阿里千问在 Siri、Writing Tools 和 Visual Intelligence 中提供回答。千问为可选开启，阿里称不会用请求和回复训练模型，发送任何问题、文档或图片前都会征求同意。

    推荐理由这条消息给出了 Apple Intelligence 进入中国的时间点、接入方和隐私处理方式，可据此判断海外模型本地化的合作路径。

  2. 新浪科技研究
    AI 评分78

    DeepSeek 开源 Super-agent 架构原型，公布五大模块设计

    DeepSeek Harness 团队公布自主 Agent 探索项目 Super-agent 的底层架构，并在 GitHub 开源原型 dsh-superagent-prototype。该架构由双层 Router/Worker、事件驱动、异步多信道交互、存算分离与外部 Watchdog 五个模块组成，目标是让 Agent 持续在线、并行多任务并主动响应环境事件。初步实验中任务 p50 完成时间为 12.4 分钟、p95 为 15.7 分钟，Router 批处理把单个决定分摊的推理时间从 6.4 秒降到 1.6 秒，团队称实验基于合成负载与简化环境，该插件仅为验证技术路线的原型，并非 DeepSeek 正式产品。

    推荐理由DeepSeek Harness 公开 Super-agent 架构，把调度、缓存、看门狗等系统设计搬进 Agent，并给出初步实验数据。

  1. 邵猛研究
    AI 评分79

    Qwenputer 在 Qwen3.5-4B 权重中嵌入 RISC-V CPU 并用 GDN 状态作内存

    Qwenputer 在 Qwen3.5-4B 上通过编译器把一台 32-bit RISC-V CPU 写进约 11 层额外权重，并把模型自带的 Gated DeltaNet 状态当作可寻址 RAM，在前向中运行 C 和 MicroPython，不调用外部 runtime。测试中 DeepMind 算术集达到约 97.5–100%，NUPA 长整数从基座 48.6% 提升到 100%，约 23 万个 CPU 输出位置与参考机零失配。代价是检查点约 18.8 GB、每条 CPU 指令需数个 decode token，且需通过 RvChat 驱动而非裸 generate()。

    推荐理由原文给出算术基准对比与检查点体积、解码开销等代价，可据此判断权重内计算路线的可行边界。

  2. Rohan Paul
    AI 评分78

    彭博：Alphabet、Meta、Microsoft、Amazon 和 Oracle 未来数据中心承诺超 3 万亿美元

    彭博数据显示，Alphabet、Meta、Microsoft、Amazon 和 Oracle 持有的未来数据中心承诺总额超过 3 万亿美元，其中 1.3 万亿美元为租赁。Alphabet 一家占逾 1 万亿美元，接近一年前总额的 8 倍，涵盖技术设备、能源和租赁；Meta 以 8100 亿美元居次，其中近一半是尚未开工、期限最长 30 年的数据中心租赁。

    推荐理由彭博数据给出五家科技巨头未来数据中心承诺的规模与结构，可对照各家算力投入的差异。

  3. OpenAI：部署安全与系统卡一手模型发布
    AI 评分72

    OpenAI 发布 GPT-Rosalind-6 系统卡附录，面向生物科研开放受限访问

    OpenAI 发布 GPT-Rosalind-6 系统卡附录，该模型与 GPT-6 Astra 使用同一套权重，未新增训练数据或后训练，仅通过可信访问提供给经过审核的科研机构、企业和政府合作方。在最高推理预算下，MedChemBench v7 平均评分 49.6%（GPT-Rosalind-5.5 为 28.9%），GeneBench Pro v13 单次尝试成功率 37.7%（前代为 16.7%），LifeSciBench Gold 平均分 61.3%（前代为 44.0%）。按 Preparedness Framework，该发布在生物与化学领域定为 High 能力、未达 Critical 阈值，网络安全领域定为 Critical，AI 自我改进低于 High。

    推荐理由系统卡披露了生物领域能力评估的具体分数与阈值差距，可据此了解前沿模型在双重用途研究上的开放边界。

  4. Google Blog一手
    AI 评分67

    Google 收到 Project Suncatcher 原型卫星在轨 TPU 的首次 AI 回复

    Google 收到 Project Suncatcher 原型卫星的首次回复，在轨的数据中心级 TPU 成功运行 Gemma 4 开放模型并返回一首关于太空的俳句。该卫星于 10 月 1 日发射，此前已完成主机与 TPU 托盘上电及早期机器学习测试。接下来 Google 将测试 TPU 在轨道热应力和辐射暴露下的表现，为 2027 年双星互联目标铺路。

    推荐理由Google 首次在轨 TPU 上跑通 Gemma 4 并收到模型回复，读者可了解太空 AI 算力这一长期研究路线的当前进展。

  5. Tomasz Tunguz 博客观点
    AI 评分65

    Tomasz Tunguz：谁先跨过万亿美元营收鸿沟

    Tomasz Tunguz 分析 Andy Jassy 与 Elon Musk 分别提出的 1 万亿美元营收目标，按当前增速并以每年 15% 衰减推算，Google Cloud 与 SpaceX 将在 2030 年达到 2500 亿美元季度营收（1 万亿美元年化），AWS 在 2032 年跟进。他指出市场抛售部分云厂商的原因是担心旧业务现金流撑不住资本开支，Google 搜索广告增速已从 Q1 的 19% 降至 Q3 的 12%，AI Mode 的变现率低于传统搜索。微软是唯一靠 AI 提升 ARPU 快于席位增长放缓的超大规模厂商，ServiceNow 则因席位制业务受 AI 侵蚀担忧市值下跌 29%。

    推荐理由文章用四家云厂商的季度数据推演万亿营收路径，并指出旧现金牛被 AI 侵蚀是穿越鸿沟的关键变量。

  1. 36氪 · AI
    AI 评分81

    Axiom 多智能体系统 24 天形式化有限单群分类定理

    Axiom 团队用多智能体系统 AxiomProver 在 24 天内将约 15000 页的有限单群分类定理（CFSG）证明形式化为 Lean 代码，产出 4310 万行代码库。过程中 AI 记录下数百处异常，其中 34 处为重大逻辑偏差，包括 John Walter 1986 年论文中一处关键闭包断言不成立，AI 给出反例 PSL₂(49)。团队随后联系群论学者 Richard Lyons 和 Ronald Solomon，由 AxiomProver 证明新定理 Preservation of simple tops 补上缺口。

    推荐理由Axiom 用多智能体系统在 24 天内形式化有限单群分类定理，并指出原证明中的逻辑漏洞，读者可据此了解 AI 参与数学验证的具体路径。

  2. 雷锋网
    AI 评分80

    AMD 以 82 亿美元收购 World Labs，李飞飞出任 AMD 执行副总裁兼首席科学家

    AMD 宣布以约 82 亿美元全股票收购李飞飞创立的 World Labs，交易完成后李飞飞出任 AMD 执行副总裁兼首席科学家，直接向苏姿丰汇报，World Labs 约 70 人团队以相对独立的研究单元并入。文章回顾了李飞飞从 ImageNet、AI 民主化到空间智能的三次方向选择，并指出这次收购比 World Labs 2026 年 2 月 C 轮融资后 54 亿美元的估值高出约 52%。作者认为后续要看 Atlas、Marble 在 MI450 上的性能提升能否延续 MI325X 上 4 倍提速的曲线，以及其他空间智能团队是否因此转向 AMD 硬件。

    推荐理由文章梳理李飞飞从 ImageNet 到 World Labs 的三次方向选择，并给出 AMD 收购后判断空间智能成败的两条具体标准。

  3. Cursor Blog一手
    AI 评分75

    Cursor 插件市场出现恶意版 Anthropic.claude-code 2.1.313，官方发布安全通告

    Cursor 在 VS Code 扩展市场发现被恶意篡改的 Anthropic.claude-code 2.1.313，该版本并非 Anthropic 开发，最多影响 5000 名用户。恶意代码会收集主机与用户信息、尝试写入攻击者 SSH 公钥并建立反向 SSH 隧道，但因权限限制该步骤在多数 macOS 和 Windows 主机上会失败。Cursor 已下架该版本、重建市场并关停攻击者服务器，同时给出检测 svc-telemetry 公钥的命令和 macOS、Windows 清理脚本。

    推荐理由Cursor 官方披露插件市场被植入恶意版本，并给出检测命令与清理脚本，可供使用该扩展的开发者按步骤自查。

  4. 东方财富
    AI 评分76

    DeepSeek 第二轮融资细节曝光：募资 1055 亿元，腾讯、长鑫存储等近 30 家机构参投

    据 The Information 报道，DeepSeek 第二轮融资已筹集 1055 亿元人民币（约合 158 亿美元），吸引近 30 家投资者参与，国资出资占比约 27%，较首轮的 2% 大幅提升。腾讯两轮各出资 100 亿元，宁德时代及其董事长曾毓群两轮分别出资 50 亿元和 100 亿元，长鑫存储、中芯国际、vivo、美团、吉利、美的、立讯精密、携程、小红书等产业方也在投资方之列。报道援引知情人士称，英伟达高端芯片价格上涨和对 AI 泡沫的担忧，是 DeepSeek 中途将募资规模扩大一倍的原因。

    推荐理由融资细节披露了投资方构成与国资占比变化，可据此观察 DeepSeek 的资本结构和产业方参与程度。

  5. 量子位
    AI 评分76

    PSI称用AI系统突破5道量子开放问题

    成立不到两个月的Physical Superintelligence（PSI）称，其自研AI科研系统Emmy在量子信息理论的5个开放问题上取得成果，论文、Lean形式化证明和验证代码已发布在GitHub供审查。这5道题来自德国物理学家Reinhard Werner于1999年建立的开放量子问题目录，横跨纠缠提纯、量子场论、高维量子通信、量子信道容量与量子因果律五个方向，其中OQP 2、OQP 12、OQP 27在本世纪初即被收录。Emmy将难题拆解为可验证的数学子假设，再交由Lean形式化证明器、符号计算引擎和高精度验证代码筛查，编译通过才视为成立。PSI于今年9月亮相，已完成5800万美元种子轮融资，由Breakthrough Energy Ventures领投。

    推荐理由一家成立不到两个月的公司用自研系统挑战27年历史的量子开放问题目录，读者可据此观察AI科研系统的验证路径。

  6. CNBC Technology
    AI 评分76

    Google 调整云业务策略，借 Oracle 等合作伙伴对外销售 TPU

    Alphabet 宣布 Oracle 将提供 Google 的 TPU，这是客户首次能在 Google 基础设施之外使用 TPU。Google 此前已在第二季度向外部数据中心开放 TPU，分析师预计 Google Cloud 收入同比增长约 90%。TD Cowen 预计今年下半年 TPU 销售额为 94 亿美元、2027 年为 625 亿美元，Wells Fargo 预计第三季度约 90 亿美元、明年 990 亿美元；Anthropic 去年 10 月达成使用最多 100 万块 TPU 的协议，OpenAI 也计划向 Google 采购 TPU。

    推荐理由Google 首次把 TPU 卖到自家数据中心之外，读者可据此观察它对 Nvidia 主导的 AI 芯片市场格局的影响。

  7. SiliconANGLE模型发布
    AI 评分81

    Mistral 开放 Mistral Large 4 权重，1 万亿参数原生多模态

    Mistral AI 宣布开放其前沿模型 Mistral Large 4（代号 Le Chonk）的权重，该模型拥有 1 万亿参数、520 亿激活参数，原生支持多模态。ML4 在欧洲数据中心用 3800 块 Nvidia Grace Blackwell GPU 训练，在 Terminal-Bench 4.0 上从 28% 提升到 41%，与 GLM-5.3 并列编码智能体最佳成绩，且平均每任务少用 47% token。开放权重意味着企业可在自有硬件和防火墙内部署，模型提供低、中、高三档推理模式。

    推荐理由原文给出 1 万亿参数、开放权重和三种推理模式，读者可据此判断自托管前沿模型的实际取舍。

  8. Unsloth一手产品发布
    AI 评分81

    Unsloth 发布 1-bit GGUF，Mistral Le Chonk 可在 Mac Studio 本地运行

    Unsloth 发布 Mistral Le Chonk 的 1-bit GGUF 量化版本，使这个 1 万亿参数模型可以在 Mac Studio 上本地运行，并称量化后仍保留 91% top-1 准确率。Unsloth 同时提供了 GGUF 下载链接和使用指南，并称 Le Chonk 是目前最强的西方开源模型。

    推荐理由Unsloth 给出 1-bit GGUF 量化后仍保留 91% top-1 准确率，读者可据此判断万亿参数模型在本地设备上的可行边界。

  9. Factory 研究 / 产品一手产品发布
    AI 评分66

    Factory 发布 Droid 1.0 智能体框架，默认启用程序化工具调用

    Factory 发布 Droid 1.0，这是其智能体框架迄今最大的一次更新，默认启用程序化工具调用（PTC），让模型写 JavaScript 脚本在沙箱中一次请求内执行数百次工具调用。在 Terminal-Bench 4 上，搭配 GPT-6.1 Sol 时 Droid 比 Codex 高 3.5 分且成本低 12%，搭配 Claude Opus 5.5 时比 Cursor、OpenCode、Devin、Claude Code 高 3.0 至 7.6 分，成本最多低 24%。Droid 1.0 今日开放 macOS 和 Windows 桌面版与终端 UI，并提供 Droid SDK（@factory/droid-sdk）。

    推荐理由原文给出程序化工具调用与提示缓存的具体机制和实测数据，可据此理解长任务智能体的成本与延迟从何而来。

  10. Pydantic AI 官方文章一手解读
    AI 评分68

    Pydantic 用 5,276 次运行对比 code mode 与工具调用

    Pydantic 的 Michael Pfaffenberger 用 5 个小型 Pydantic AI 应用、8 个模型做了 5,276 次评分运行，对比 code mode 与直接工具调用。长任务上 code mode 平均成本降 58%、耗时降 51%、成功率提高 16 个百分点；但 5 条目的短任务在 5 个任务中有 3 个反而贵了 21% 到 38%。作者认为模型写循环比充当循环更擅长，差距随任务变长而扩大。

    Michael Pfaffenberger avatar

    推荐理由作者用 5,276 次运行对比 code mode 与工具调用，给出长任务成本、耗时和正确率随规模变化的曲线。

  11. Hacker News 热门解读
    AI 评分76

    Linux IPv4 TCP 握手释放后使用漏洞 CVE-2026-98432 的修复与排查

    Linux 稳定内核在 10 月 11 日和 15 日修复了 IPv4 TCP 握手路径中的释放后使用漏洞 CVE-2026-98432，内核 CNA 评为 CVSS 3.1 9.8 严重，影响 4.4 及之后的版本。截至 10 月 29 日，Ubuntu 各版本内核仍标记为受影响，RHEL 8、9、10 与 Amazon Linux 2 默认内核尚无修复。Anthropic 称其 Claude 模型在实验室写出了针对带 multipath TCP 监听器服务器的远程 root 利用代码，但未公开。

    推荐理由文章梳理了 CVE-2026-98432 的受影响范围与各发行版修复进度，并给出可执行的排查与临时缓解命令。

  1. 凤凰科技
    AI 评分83

    Axiom Math 用数十个 Agent 24 天形式化有限单群分类定理，生成 4310 万行 Lean 代码

    Axiom Math 宣布，由人类数学家和工程师组织的数十个 AI Agent 在 24 天内完成了有限单群分类定理的 Lean 形式化，生成约 4310 万行代码、205 万个形式化声明，覆盖 715 篇参考文献。过程中 Agent 发现 34 处文献偏差，包括 1986 年 John Walter 不平衡群定理研究中的一处闭包断言反例，并参与构造并形式化了新结果「Preservation of simple tops」，写入 35 页论文作为定理 2.3。项目已上传 GitHub，声明最终证明不含 sorry，仅依赖标准公理，仓库审查状态为团队自评。

    推荐理由原文完整记录了 Axiom Math 用数十个 Agent 在 24 天内完成有限单群分类定理 Lean 形式化的过程，并给出旧文献漏洞与新定理的细节。