N全部新闻

星期二17 条

  1. 面壁智能 OpenBMB解读
    AI 评分60

    面壁智能 MiniCPM-V 4.7 在 iPhone 上推理速度从 3.38 提升至 20.51 tokens/s

    面壁智能 OpenBMB 转发了一份对 MiniCPM-V 4.7 35B-A3B 在 iPhone 18 Pro Max(12GB RAM)上推理优化的拆解,解码速度从 3.38 tokens/s 提升到 20.51 tokens/s,约为未优化基线的 6.07 倍。优化路径依次为专家预取 6.57、调度与加载优化 11.34、混合精度量化 17.16,再叠加 DSpark 投机解码达到 20.51 tokens/s;该模型总参数 35B、激活约 3B,支持图像、多图与视频理解,大部分权重留在闪存中按需加载。原帖注明这些仍是 OpenBMB 自己的测量数据。

    This new-ish 35B multimodal model went from 3.38 → 20.51 tps on an iPhone. MiniCPM-V 4.7 35B-A3B was updated to decode faster on the iPhone by improving how it moves the model between storage and memory. Constraints 🧠 35B total / ~3B active 📱 iPhone 18 Pro Max — 12GB RAM 👁️ image + multi-image + video understanding Most of those 35B weights don't sit in RAM. The experts can stay in the phone's flash storage and get loaded when they're actually needed. Normally that's slow 🐌 SSD expert loading → 3.38 t/s So OpenBMB built Lookahead Expert Scheduling (LES) It predicts which experts the next layer will probably need and starts loading them while the current layer is still computing. Then they stacked the optimizations: 💾 baseline SSD loading → 3.38 tps 👀 expert lookahead → 6.57 ⚙️ optimized scheduling/loading → 11.34 🗜️ mixed-precision quantization → 17.16 🚀 + DSpark speculative decoding → 20.51 tps That's a 6.07× speedup over the same-phone unoptimized baseline. ⚠️ And these are still OpenBMB's own measurements. Link in ALT

    #行业动态#端侧#推理

  2. 腾讯云开发者社区解读
    AI 评分55

    用暖屿和 DeepSeek 搭建会记事、会主动找人的 QQ 陪聊机器人

    作者介绍用开源项目暖屿(Warm Isle)在自有服务器上搭建 QQ 陪聊机器人,DeepSeek 负责生成回复,NapCat 负责登录 QQ,人设、长期记忆和主动消息由暖屿实现。文中给出 Docker 部署、扫码登录、人设配置和记忆抽取的完整步骤,并列出内存占用、SQLite 备份、群聊默认不处理等实际踩坑点。项目采用 AGPL-3.0 许可,NapCat 与 SnowLuma 协议端禁止商业使用。

    #教程/实践#Agent#开源生态

  3. 邵猛
    AI 评分60

    Uncle Bob 开源 ub-mode Skills,为 coding agent 定三段纪律

    Clean Code 作者 Uncle Bob 开源 Skills「ub-mode」,把 Clean Code 与 TDD 纪律整理成 coding agent 的三段流程:先让改动跑通,再用 CRAP、结构重复和变异测试做对,最后用日志、小提交和上下文卫生收尾。第二段配套 crapper、dryer、mutator 等工具闸门,例如 CRAP 需小于 10、结构重复达到 0.8 就要消除,另有 uml-viewer 查看组件、覆盖、CRAP、变异分与依赖方向。

    #开源/仓库#Agent#编码

  4. 邵猛解读
    AI 评分57

    斯坦福 CS 329Z 第 10 课讲 Terminal-Bench 与 Harbor 的 Agent 评测工程

    斯坦福 CS 329Z 课程第 10 课由 Alex Shaw 与 Ryan Marten 讲解如何用 Terminal-Bench 和 Harbor 把 Agent 评测做成可迭代工程。Terminal-Bench 以终端任务构建社区基准,任务目录由 instruction.md、task.toml、environment/Dockerfile、solution/solve.sh 和 tests/test.sh 组成,verifier 通过程序化检查与 LLM judge 判定环境状态。讲义还给出隔离 agent 与 verifier 环境以防 reward hacking、按主次补丁版本区分重跑与 regrade 的做法。

    CS 329Z: Engineering AI Agents Stanford / Fall 2026 @stanfordnlp https://t.co/ynvpE8PKFE 课程定位:从"模型"到"系统"的工程学 覆盖:简单 LLM 流水线 → 复合 AI 系统 → 自主 Agent。三位讲师的背景也高度互补: @Diyi_Yang(斯坦福 NLP 教授,人机交互与社会计算方向) @michaelryan207(DSPy 核心贡献者,自动评估 AutoMetrics 作者) @jyangballin(SWE-agent / SWE-bench / SWE-smith 作者,软件工程 Agent 领域最重要的研究者之一) # 课程主线:三大工程挑战 贯穿全课的三个核心问题——分解(decomposition)、数据(data)、评估(evaluation)。11 周的内容基本围绕这三条线展开,可以分为五个模块: 模块 1:构建基元(Week 2–3) · LLM 作为构建材料:API/SDK(litellm)、结构化输出、约束生成、解码策略、test-time compute、上下文工程、模型选型与成本/延迟权衡 · RAG:embedding、向量库、分块策略、混合检索、cross-encoder 与 ColBERT 后期交互 · 工具调用:函数调用 API、MCP(Model Context Protocol)、工具设计、代码沙箱、错误处理与重试 模块 2:框架与设计模式(Week 3–5) · 框架层:DSPy(signature / module / optimizer)、LangChain/LangGraph、LlamaIndex,重点是"框架抽象了什么 vs. 你手写了什么" · 设计模式:workflow vs. agent 的分类学,五种可组合 workflow 模式,ReAct / plan-and-execute / reflection,"scaffold(脚手架)本身就是设计决策" · 记忆架构:短期/长期记忆、记忆作为工具动作、文件系统作为外化记忆、跨 Agent 记忆(MemGPT、Mem0、Generative Agents) · 多 Agent 系统:编排模式、handoff 与状态传递,以及一个很有态度的对照阅读——既读 AutoGen,也读《Why Do Multi-Agent LLM Systems Fail?》和 Neubig 的《Don't Sleep on Single-agent Systems》 模块 3:优化(Week 5) · 从提示词到微调的全景:GEPA、MIPROv2、OPRO、TextGrad(提示优化);LoRA/QLoRA、蒸馏、RLHF/DPO(权重优化);test-time scaling(推理算力) · 核心问题是决策框架:什么时候优化 prompt、什么时候优化 weights、什么时候堆推理算力 模块 4:数据与评估(Week 6–8)——最有分量的部分 · 数据:trace、demonstration、feedback 三类数据;训练数据 vs. 评估数据;数据飞轮;合成数据;从 Agent 轨迹构建数据集(SWE-smith) · 评估基础:为什么 eval 难;4 元组框架(request / environment / stopping criteria / scorer);好 benchmark 的性质;tinyBenchmarks · 评估基础设施:三类 grader、LLM-as-judge 的 prompt 设计与已知偏差、pairwise vs. pointwise、非确定性指标 pass@k vs. pass^k、harness 设计 模块 5:安全与前沿(Week 8–11) · 安全:工具访问的隐私风险、prompt injection(含间接注入)、红队、沙箱与权限模型、输出护栏、human-in-the-loop · Coding Agent:SWE-agent、Claude Code、OpenHands 的端到端架构对比 · 主动式 Agent:从 reactive 到 proactive,General User Models(GUM)、Next Action Prediction,以及"Agent 何时应主动、何时应等待"的 mixed-initiative 问题 · 开放问题:多模态/web/计算机使用 Agent、科学 Agent、长时运行架构、生产可观测性(tracing、monitoring、成本管理) # 作业设计:一手建、一手评 HW1:从零构建 Agent 系统(10%) 给定论文库,构建能检索并推理回答科学问题的 Agent。 · Part A:只用 litellm 手写 RAG + 工具调用 + ReAct 式 Agent 循环 · Part B:用 DSPy 重建关键组件,并反思框架抽象了什么 HW2:评估一个 Agent(10%) 给定一个预构建 Agent,设计完整评估套件:代码型 grader、至少一个 LLM-as-judge、用 4 元组框架构建 benchmark 任务、错误分析。

    #教程/实践#Agent#评测/基准

  5. Browser Use一手解读
    AI 评分52

    Browser Use 教程:无 API 网站如何每日登录并下载发票

    Browser Use 发布教程,介绍在没有 API 的供应商门户上自动登录并每日下载发票的三种方案:Playwright 脚本、UiPath 或 Power Automate 等 RPA 工具,以及带保存配置的浏览器智能体。文章给出 Playwright 与 Browser Use Cloud 的完整代码,涵盖复用登录会话、用 1Password 填入 TOTP 验证码、通过 GitHub Actions 定时运行,以及会话过期、2FA 拦截、页面改版和空下载等失败场景的处理方式。作者建议先向供应商索取导出、API 或邮件发票,并提醒先确认门户条款是否允许自动化访问。

    #教程/实践#Agent#部署/工程

  6. 凤凰科技
    AI 评分55

    用户分享 Claude Code 入住安全提示词:90 秒定位隐藏摄像头

    有用户分享了一套 Claude Code 提示词,可在入住酒店或 Airbnb 前扫描隐藏摄像头、蓝牙追踪器和手机可疑程序,据 X 平台用户实测反馈,该方案在 90 秒内定位到浴室镜子后的针孔摄像头。方案将 Claude Code 设为只读的入住安全助手,禁止登录账号、使用默认密码和发起漏洞利用,流程包括用 arp-scan 和 nmap 做 Wi-Fi 扫描、用基于 bleak 的脚本监听蓝牙追踪器特征、用国际特赦组织的 Mobile Verification Toolkit 审计手机,最后输出可疑发现排序表与后续建议。原文也指出局限:网络扫描只能发现处于所连网络中的摄像头,录制到 SD 卡、自建热点或隔离网络之外的设备不会被发现。

    #教程/实践#Agent#Anthropic

  7. Browser Use一手解读
    AI 评分55

    如何用 LLM 从网站提取结构化数据(2026)

    Browser Use 发布教程,介绍用一份 JSON Schema 在多个网站提取结构化数据的流程:静态页面抓取 Markdown 后由 LLM 填充,需要登录或点击的页面交给浏览器智能体。文章给出可靠性清单,包括开启结构化输出、用 Pydantic 或 Zod 校验、缺失字段返回 null、保留 source_url 与原文引用、按稳定键去重、遵守 robots.txt 并抽样核对。文中还对比了 Firecrawl、Crawl4AI、Browser Use、Stagehand 和自建 Fetch+Markdown+LLM 在登录与 JS 流程、Schema 支持、开源与计费上的差异。

    #教程/实践#Agent#部署/工程

  8. AWS Machine Learning一手解读
    AI 评分58

    AWS 详解在 Amazon Bedrock 上使用 OpenAI 模型的提示词缓存模式

    AWS 发布教程,介绍在 Amazon Bedrock 上调用 OpenAI 模型时如何用提示词缓存降低智能体重复读取上下文的成本,区分隐式缓存与显式 prompt_cache_breakpoint 两种方式并建议组合使用。文中给出工具与指令缓存、多轮历史滚动断点、会话中途新增工具、子智能体共享前缀等代码示例,并称在 GPT-6 Astra 的六轮工作负载中隐式缓存降低约 62% 输入成本,显式滚动断点降低约 61%。可缓存前缀需至少 1024 token,缓存写入按正常输入价格的 1.25 倍计费。

    Five growing agent requests, with tools, instructions, and earlier history marked in red and each new turn in yellow.

    #教程/实践#Agent#部署/工程

  9. Guillermo Rauch
    AI 评分55

    Guillermo Rauch 复现 OpenAI 的 CPU 隐蔽通信研究,构建 cpu-chat

    Guillermo Rauch 构建了 cpu-chat,复现 OpenAI 关于利用 CPU 进行隐蔽通信的研究,在无网络的 Firecracker microVM 环境中通过 CPU 争用、缓存驱逐时序和 DRAM 带宽争用三种机制实现通信,可跨多个 CPU 运行,并绕过了 Firecracker 的生产建议(禁用 SMT、禁用 KSM、租户绑定不同核心)。他指出这与 Meltdown/Spectre 类侧信道攻击不同,后者可窃取信息,而这类“低语”技术在真实环境中更难实施,也更容易通过采样硬件计数器和大规模统计数据监测。他还提到 OpenAI 和 Anthropic 的模型拒绝参与这项工作,最终由开放权重模型完成。

    同一事件 · 2 条报道

    #安全/对齐#Agent#部署/工程

  10. 阿里云开发者社区 AI解读
    AI 评分62

    一次 AI 推理到底发生了什么:从参数固定到延迟与吞吐的取舍

    文章解释训练是学出参数、推理是使用参数且不改变参数,一次推理只跑前向传播,不需要损失、梯度和权重更新。文中拆解大语言模型的自回归生成,区分 Prefill 与 Decode 两阶段,前者计算密集并决定首字延迟,后者受显存带宽限制并决定每字间隔。文章还给出 KV cache 占用估算示例,并讨论批处理提升吞吐的收益边界、利用率逼近 100% 时等待时间无界增长,以及聊天场景优先压 TTFT、Agent 场景看端到端延迟。

    #教程/实践#推理#部署/工程

星期一23 条

  1. cnBeta解读
    AI 评分67

    DeepMind 飓风预报模型被美国国家飓风中心纳入官方预报

    Google DeepMind 的 AI 飓风预报模型从去年起被美国国家飓风中心纳入官方预报,到 2025 年大西洋飓风季结束时已成为预测风暴路径和强度最好的模型之一。气象学家指出,该模型在飓风“伊萨亚斯”路径预报上从一开始就判断正确,但在强度预测上不如国家飓风中心的混合预报。与传统物理模型依赖实时大气数据和物理方程不同,AI 模型通过分析数千场历史飓风识别规律,其内部机制对预报员而言仍像黑箱。

    #现象/趋势#DeepMind#Google

  2. 卡尔的 AI 沃茨
    AI 评分62

    六个提示语去除 DeepSeek 新模型与 codex 生成内容的 AI 味

    作者分享 6 条提示语,用于去掉 DeepSeek 新模型和 codex 生成代码动画、网页 UI 时的 AI 味,分别针对重复文案、装饰性套框、颜色滥用、字号与对齐混乱、一屏信息过载和动效无目的等问题。作者称最近在琢磨用 DeepSeek 做出类 Claude Opus 5.5 的代码动画,并预告正在制作的大剪辑 Skill,已能用 DeepSeek 剪出十分钟真人口播。

    #教程/实践#编码#DeepSeek

  3. 阿易 AI Notes
    AI 评分54

    Fatih 上线 Grok Bot 配方库,打包 331 个社区配方

    Awesome ChatGPT Prompts 作者 Fatih 上线了一个 Grok Bot 配方库,据其介绍已打包 331 个现成社区配方,可直接挂进 Grok Bot。作者阿易指出该库把系统指令、例行任务和技能插件三部分封装在一起,覆盖发票催款、副业记账、读书教练等场景。他同时提醒 331 是原作者自报数字,部分一键安装链路尚未跑通,挂载第三方配方时需确认是否会代为对外自动发消息。

    强烈推荐所有天天用 Claude 和 Cursor Codex等AI Agent写代码的铁汁,把这行提示词打印出来贴在屏幕前。 普通人还在用大白话人肉指导步骤,顶级黑客只用一条链条就把边界锁死。 大多数人写 Prompt 的误区, 是要么写几百字像保姆一样教模型一步步改代码,结果上下文全是噪声, 要么一句话说不清楚,让 Agent 到处乱改。  真正让 Claude 零失误交付复杂代码的提示词,整条链路其实极其清晰: 几何约束(四向旋转对称)→ 人数上限(4人)→ 技术栈复用(基于现有的 WebSocket 非音频模块)→ 容错兜底(真人空位由 AI 补齐)  原文就一句话: Add a new map for a four player battle - four way rotational symmetry, up to four AI players, works with the WebSocket non-audio based multiplayer mode so up to four human players can join (any spare slots use AI) 不用教它步骤,把护栏焊死,剩下的全交给模型自己推理。 https://t.co/dH7YshGg0d

    #开源/仓库#Agent#MCP/工具调用

  4. 邵猛解读
    AI 评分60

    三套 Agent Skill 对比:Pocock、Addy Osmani 与 Cursor pstack 怎么选

    邵猛转述 Rob Shocks 视频对三套 Agent Skill 的对比,结论是没有一套通吃:Pocock 关注编码前是否对齐要建什么,Addy Osmani 覆盖 Define 到 Ship 的完整工程流程,Cursor 官方插件 pstack 侧重证明改动真的能跑。Addy 一套约 25 个 skill,含 /spec、/plan、/build、/test、/review、/ship 等命令和多 reviewer 人格。Rob 建议按改动风险分档使用,装全套会占用上下文并容易误触发。

    #现象/趋势#Agent#编码

  5. 阿里云开发者社区 AI解读
    AI 评分58

    LangChain 1.0 核心概念拆解:从链式连接到 Agent 运行时

    文章梳理 LangChain 1.0 与 LangGraph 1.0 同时 GA 后的技术栈分层,说明 create_agent 取代 create_react_agent 并运行在 LangGraph 运行时之上。文中拆解统一模型接口、工具、记忆、中间件等六个核心概念,给出 LangChain 与 LangGraph 的选型边界,并附一个基于 DeepSeek 模型的可运行最小 Agent 示例。

    #教程/实践#Agent#RAG

  6. Hacker News 热门解读
    AI 评分53

    Tasks as Code:把任务工单以 Markdown 移入代码仓库

    Typemill 知识库文章提出 Tasks as Code 做法,把任务和需求写成 Markdown 文件存进 Git 仓库,让 AI 编码智能体在同一处读取需求与代码。文章给出五步流程:描述任务、分析需求、生成实施计划、人工审核批准、实施并回写报告,并建议代码、文档、任务分三个仓库,用 .gitignore 隔离本地克隆。作者还提到可用 Typemill 等支持 Git 同步的界面让产品经理和技术写作者参与,Git 仍负责版本历史。

    #教程/实践#Agent#编码

  7. Hacker News 热门解读
    AI 评分52

    Ubicloud 如何用 vLLM 约束解码把工具调用准确率从 92% 提升到 100%

    Ubicloud 在 vLLM 0.28 上部署 Kimi K2.6 时,工具调用 schema 准确率只有 92%,即每 25 次调用有 2 次失败。vLLM 0.31 将约束解码做成服务端开关,借助 XGrammar 的结构化标签在生成阶段屏蔽非法 token,Ubicloud 开启后 K2VV ToolCall 基准上的准确率升至 100%,并已部署到生产环境。文章还解释了 vLLM 默认关闭该功能的原因,包括部分模型输出偏离 schema、语法转换 bug 以及与投机解码的交互问题。

    #教程/实践#部署/工程#MCP/工具调用

  8. The New Stack解读
    AI 评分60

    MiniMax M3.1 Flash 与 M3 实测对比:成本更低但速度与效果未提升

    作者在 OpenRouter 上用三个智能体任务各跑一次,对比 MiniMax M3.1 Flash 与 M3。两项可评分任务两者得分相同,长上下文任务两者首轮均未给出答案;Flash 估算总成本 0.15 美元,低于 M3 的 0.27 美元,但总耗时 661.6 秒多于 M3 的 465.0 秒。作者认为除成本更低外,这几次运行看不出 Flash 在速度或效果上的改进,并指出三次单轮测试不足以验证 MiniMax 所称的基准表现。

    同一事件 · 19 条报道

    #评测/基准#Agent#推理

  9. Unite.AI解读
    AI 评分62

    计算机使用智能体如何看屏幕、点击并操作软件

    Unite.AI 发文解释计算机使用智能体如何通过截图、无障碍树等感知软件界面,并以点击、输入、滚动等动作完成任务,再读取新状态验证结果。文章对比了这类智能体与传统浏览器自动化、API 和工具调用的差异,指出视觉定位错误、长任务漂移、提示词注入和凭据暴露等失败模式,并建议在隔离环境、最小权限和关键操作确认边界下运行。文中提到 OSWorld 等基准用于评估真实计算机环境中的表现。

    #教程/实践#Agent#MCP/工具调用

  10. 邵猛解读
    AI 评分68

    Claude Code 团队如何做 Code Review:六层检查与快速回滚

    Claude Code 团队在 Claude 写约九成代码、变更量暴涨的前提下没有取消 review,而是把质量问题改写成「哪里可能坏、由哪一层自动或人工接住」,形成 PR 前验证、AI review、安全审查、阻断式自动化、按风险缩放人工批准、merge queue 六层检查,并以快速回滚托底。6–9 月 Claude Code 仓合并 PR 数翻倍以上,需 revert 的占比下降逾 40%;内部「有实质评论」的 PR 约从 16% 升到 54%。文中还给出 CLAUDE.md、REVIEW.md、限轮次只审新 diff 等可迁移做法。

    https://t.co/4Hfk0dYIBI

    #现象/趋势#编码#Agent