N全部新闻

星期二2 条

  1. Hugging Face一手解读
    AI 评分60

    Sentence Transformers v6.0 支持多向量(Late Interaction)嵌入模型

    Hugging Face 发布教程,介绍 Sentence Transformers v6.0 新增的多向量(Late Interaction、ColBERT 风格)嵌入模型支持,通过 MultiVectorEncoder 加载 PyLate、Stanford-NLP ColBERT 与 ColPali 系列 checkpoint,并用 MaxSim 算子完成打分。文中给出编码、检索、重排、索引与评测的完整代码,并对比了索引开销:4,874 条 Natural Questions 段落产生 608,414 个 token 向量,约为 MiniLM 索引的 42 倍,压缩为 fast-plaid 索引后为 92 MB。同数据同骨干训练的 LateOn 与 DenseOn 在 13 个 NanoBEIR 数据集上平均相差约 1 个 NDCG 点,LateOn 在 9 个数据集上胜出。

    #教程/实践#RAG#开源生态

  2. Together AI Blog一手解读
    AI 评分71

    DeepSeek V4 Pro 0813 与 GPT-5.6 Sol 在 DeepSWE 上的成本与编码对比

    Together AI 在 DeepSWE 全部 113 个任务上各跑 4 次对比 DeepSeek V4 Pro 0813 与 GPT-5.6 Sol:Sol 单次通过率 72.7% 领先 Pro 的 62.8%,但 Pro 每次 rollout 仅 0.24 美元,约为 Sol 8.37 美元的 35 分之一,pass@4 上 Pro 以 88.5% 反超 Sol 的 85.8%。先用 Pro、测试失败再升级到 Sol 的级联方案可解决 83.0% 的任务,单任务成本 3.35 美元,高于 Sol 单独使用的 72.7%,也高于理想单次路由的 80.8%。Sol 更快更简洁(中位 53 步、17 分钟、59k 输出 token),但失败时 20% 会破坏仓库原有测试套件,Pro 这一比例为 11%。

    #评测/基准#编码#Agent

星期一1 条

  1. LMSYS Blog一手解读
    AI 评分51

    SGLang 详解 CUDA Graph 进阶技术:BCG 成为 prefill 默认方案

    SGLang 团队发布技术博客,介绍其围绕统一 runner/backend 接口重构的 CUDA Graph 支持,其中由 SGLang 首创并开源的 Breakable CUDA Graph(BCG)现已成为 prefill 的默认策略。BCG 用 521 行代码实现与 torch.compile 分段方案(1,771 行)相同的分段执行,构建 prefill 图快 3.8–5.2 倍;在 gpt-oss-120b(TP4,4×GB300)上,BCG 比 eager 快 1.70 倍,完整捕获达 1.93 倍。博客还介绍了 prefill 的完整 CUDA Graph 捕获、显存复用机制,以及与 Meta PyTorch 团队合作拆出的独立库 meta-pytorch/breakable-cuda-graphs。

    #教程/实践#部署/工程#开源生态

星期六2 条

  1. Ahead of AI解读
    AI 评分56

    从零构建 AI 文本检测器

    作者从零构建一个 AI 文本检测器,并将其作为验证器训练小语言模型生成规避检测的文本。项目通过微调 DistilBERT 分类器输出 0-100 分,涵盖评估、训练、本地部署、API 和 UI。文章同时说明检测结果仅反映训练分布下的估计概率,并可能出现误报及持续的攻防迭代。

    #教程/实践#数据/训练#部署/工程

  2. Anthropic News一手解读
    AI 评分75

    Anthropic 解释 Claude 文本水印如何工作

    Anthropic 宣布未来 Claude 模型生成的文本将带有水印,用于判断 Claude 参与写作的可能性,以符合 EU AI Act。水印只在模型可自由选词的随机位置留下模式,不影响输出质量、速度与价格,也不包含用户信息;检测只能给出 Claude 参与的概率,短文本、事实性内容和代码中水印较稀疏。Anthropic 同时以私有预览形式开放检测 API,并对 .png、.jpg、.svg 等文件附加 C2PA 内容凭证。

    #政策/监管#Anthropic#Google

星期五2 条

  1. 蚂蚁百灵:Developer Blog一手解读
    AI 评分58

    蚂蚁百灵用 Ling-3.0-tiny 与 AReno 打通单机 Agentic RL 闭环

    蚂蚁百灵发布实践文章,介绍在 DGX Spark 上用本地后训练工具包 AReno 对 Ling-3.0-tiny 做 Agentic RL,以井字棋为最小验证任务跑通基线评测、Reward 定义、后训练与同环境复测四步闭环。实验使用 GSPO 训练 400 个 step,rollout/rewards_mean 从约 -0.5 升到 0.4 左右,response_len 降至约 850 tokens,复测中工具调用与落子选择更稳定。Ling-3.0-tiny 为 7.9B 总参数、1.3B 激活参数的混合推理模型,已开源 BF16、FP8 和 INT4 版本,AReno 提供 Docker 复现教程。

    图

    #教程/实践#Agent#开源生态

  2. Hugging Face一手解读
    AI 评分64

    使用 Strands Agents、LeRobot 与 Hugging Face Storage Buckets 在一处完成录制、训练和部署

    Strands Robots 将 LeRobotDataset 的录制、同步、流式训练和实体机器人部署整合到同一 Robot() 工作流,并让新演示数据返回同一 Storage Bucket。Xet 按字节去重,仅上传变化的数据块;stream_dataset() 可从 Hub 逐帧读取远程 Parquet 与 MP4 分片,无需完整下载。Bucket 仅支持流式读取且不保留修订记录,真实部署还需隔离数据与凭据、限制智能体权限并只加载可信组织的模型。

    #教程/实践#Agent#具身智能

星期四1 条

星期三1 条

  1. OpenRouter:Announcements一手解读
    AI 评分51

    OpenRouter 发布实时网页搜索基准:为智能体挑选合适的引擎、深度与模型

    OpenRouter 上线实时网页搜索基准页面,用 BrowseComp、DeepSearchQA、WideSearch 和 HLE 四套基准,在多个模型、引擎与搜索配置上按质量、性价比和速度排名。结论显示搜索预算的影响最大,从 1 轮提升到 25 轮大致让分数翻倍,成本增加 2.5 至 7 倍;模型差异平均 15 分,大于引擎差异的 10 分。用户可通过 web plugin、server tool、engine 和 max_tool_calls、max_results 等参数自行配置。

    Live Web Search Benchmarks: Pick the Right Engine, Depth, and Model for Your Agent

    #评测/基准#搜索#Agent

星期一1 条

  1. Linear:Now一手解读
    AI 评分73

    Linear 如何构建 Linear Agent

    Linear 介绍了 Linear Agent 的构建方法,通过系统提示词、工具设计、产品语义模型、运行范围和自研框架,在灵活性与可控性之间取舍。其系统技能按需加载提示词片段和工具,以控制上下文规模;自研框架则支持动态注入工具、按情境审批工具调用和异步执行子智能体。

    Abstract line illustration of overlapping solid and dashed ellipses within a rectangular grid, suggesting multiple possible paths constrained within a defined structure.

    #教程/实践#Agent#MCP/工具调用

星期五1 条

  1. The Register解读
    AI 评分60

    测试游戏显示人工审批漏掉约三分之一危险 AI 编码智能体请求

    比利时开发者 Alex Wauters 制作的浏览器游戏让玩家在 60 秒内审批模拟的 Claude Code 权限请求,超过 4 万次运行、40.9 万条命令的数据显示,平均约三分之一的恶意命令被放行。最常被漏掉的是范围越权类请求,占比 35%,例如读取 Kubernetes 配置文件或 AWS 凭据;被漏掉最多的单条命令是 npm run analyze,近 65% 的玩家批准了它。Wauters 认为反复审批会带来疲劳,建议把编码智能体放进沙箱和云端 devcontainer,并配合 auto mode 与钩子来拦截风险动作。

    #安全/对齐#Agent#编码

星期四1 条

  1. Together AI Blog一手解读
    AI 评分67

    DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna 在 DeepSWE 上的成本与编码对比

    Together AI 在全部 113 个 DeepSWE 任务上对比 DeepSeek-V4 Flash 0731 与 GPT-5.6 Luna,每个任务四次试验。Luna 的 pass@1 为 67.2%,高于 DeepSeek 的 53.3%,但单次成本约 0.61 美元,是 DeepSeek 约 0.10 美元的六倍。先用 DeepSeek 再在测试失败时升级到 Luna 的级联方案解决 78.9% 的任务,每任务成本 0.385 美元,准确率高于 Luna 单用且成本更低。

    #评测/基准#编码#Agent

星期三1 条

  1. NVIDIA Developer · Generative AI一手解读
    AI 评分62

    NVIDIA 解析世界动作模型如何重塑机器人操作

    NVIDIA 技术博客介绍世界动作模型(WAM),即用视频世界模型替代视觉语言模型骨干,为机器人策略提供预测场景演变的物理先验。文章称 WAM 能从多样交互数据中学习、泛化到未见环境,并以更少演示适配新机器人本体。其开源基础模型 Cosmos 3 基于 Mixture-of-Transformers 架构,训练数据含约 7.67 亿张图像、3.48 亿段真实动态视频和 800 万条动作样本,提供 4B Edge、16B Nano 和 64B Super 三种规模;其中 Cosmos3-Nano-Policy-DROID 与 Cosmos3-Edge-Policy-DROID 分别可在 RTX PRO 6000 工作站和 Jetson Thor 上以 15 Hz 控制频率部署。

    #论文/研究#具身智能#多模态

星期二2 条

星期一1 条

星期六1 条

  1. Together AI Blog一手解读
    AI 评分83

    Kimi K3 开发者完整指南:2.8 万亿参数、1M 上下文与 Together AI 用法

    Together AI 发布 Kimi K3 开发者指南,介绍 Moonshot AI 这款 2.8 万亿参数开源权重模型,采用 KDA 混合线性注意力、Attention Residuals 与 Stable LatentMoE(896 个专家激活 16 个),支持 1M token 上下文和原生视觉输入。指南给出 OpenAI 兼容 API 的 reasoning_effort(low/high/max,默认 max)、流式 reasoning_content、结构化输出、工具调用与动态工具加载等用法,并说明采样参数固定为 temperature 1.0、top_p 0.95。定价为每 1M token 缓存命中输入 $0.30、缓存未命中输入 $3.00、输出 $15.00,思考 token 按输出计费。

    #教程/实践#部署/工程#Agent

星期五1 条

  1. NVIDIA Developer · Generative AI一手解读
    AI 评分62

    NVIDIA AI Red Team 总结部署更安全 AI 智能体的四种方式

    NVIDIA AI Red Team 在六个月内评估了多个 AI 智能体,归纳出四类反复出现的失效模式:缺少访问控制、工具允许任意代码执行、缺少网络出口控制、密钥以明文暴露。团队指出基于提示词的护栏和 LLM-as-a-judge 模式常被社会工程、渐进式操纵和恶意包安装等合法工作流绕过,有效防护需要模型控制面之外的确定性控制,包括严格访问控制、Docker 或 NVIDIA OpenShell 等加固沙箱、默认拒绝的网络出口以及通过专用密钥管理器让密钥远离智能体。

    #安全/对齐#Agent#部署/工程

星期四4 条

  1. 張小珺 Xiaojùn解读
    AI 评分20

    张小珺建议联看本集与昇腾廖恒博士访谈,理解跨层级 co-design

    张小珺建议将本集与上一集对话昇腾廖恒博士的内容一同观看,以理解贯通不同层级的 co-design 知识。这些内容可能为当前的模型训练提供启发。

    This episode dives systematically into the co-design of models and infrastructure. Kaichao You shared a vivid analogy: comparing tokens to electricity. Hardware represents natural resources such as wind and water power. Models are power generators, including wind turbines and hydroelectric generators. The inference engine acts as the power grid system. The depth of co-design dictates power generation efficiency. For areas with rapid water currents, what generator design can best harness this energy? You Kaichao: vLLM, Open-Source Infra, Model Co-Design & Journey from Com... https://t.co/V5SYBtNeYj 来自 @YouTube

    #教程/实践#数据/训练

  2. Fireworks AI一手解读
    AI 评分51

    Fireworks 实验:从 LoRA 切换到 FullFT 前该做的三项测试

    Fireworks AI 在 Qwen3.5-9B 上用 SFT 对比 LoRA 与 FullFT,通过 placement、寄存器分配和 Nexa VM 三个可自动校验的合成任务,检验数据覆盖、优化配置和 rank 各自能解释多少质量差距。结论是多数场景下差距来自训练数据和学习率而非适配器容量,例如把数据扩大 10 倍使 LoRA 有效率从 34.33% 升到 68.33%,学习率调优又补上 6.34 个百分点;只有在寄存器分配任务上提高 rank 才明显有效。作者建议先用覆盖度、训练配方和 rank 三项测试排查,再决定是否承担 FullFT 的额外训练与独立部署成本。

    #教程/实践#数据/训练#开源生态