←搜索结果

按匹配度 · 共 387 条结果 清除搜索

星期五

  1. 凤凰科技

    微软推出 AI 诊断系统 MAI-DxO,复杂病例准确率达 83%

    微软宣布推出 AI 诊断系统 Microsoft AI Diagnostic Orchestrator(MAI-DxO),通过编排多个 AI 智能体模拟医生专家联合会诊。在基于 MIMIC-IV-ED 数据集的美国急诊科常见病例评估中,其诊断准确率为人类医生的 1.7 倍;在基于《新英格兰医学杂志》复杂病例的模拟评估中准确率达 83%,而可独立查阅资料的基层全科医生及普通内科医生为 36%,专科医生未纳入对照。官方称该系统所需成本仅为医生的一半甚至三分之一,研究成果已发表在《科学》期刊。

    下,可独立查阅参考资料的基层全科医生及普通内科医生的准确率仅为 36%。 值得注意的是,此类复杂病例在现实临床中通常交由专科专家或多学科医疗团队协作诊治,而这部分专科医生并未纳入本次对照实验。 官方表示,该系统所需的成本仅为医生的一半甚至三分之一,能以更少的化验与诊疗操作精准锁定正确诊断。该项研究成果已正式发表在《科学》期刊。 微软针对 OpenAI、谷歌、Anthropic、Meta 以及 DeepSeek 等多家机构的模型对 MAI-DxO 进行了测试,其中表现最亮眼的当属 OpenAI 旗下的 GPT-5 及 GPT-5.5。 “特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。 Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and

    匹配字段正文

  2. IT之家·人工智能

    微软推出 AI 医疗诊断系统 MAI-DxO,复杂病例准确率达 83%

    微软宣布推出 AI 诊断系统 MAI-DxO(Microsoft AI Diagnostic Orchestrator),通过统一编排多个 AI 智能体模拟医生专家联合会诊。在基于 NEJM 复杂病例的模拟评估中,其诊断准确率达 83%,而可独立查阅参考资料的基层全科医生及普通内科医生为 36%;在基于 MIMIC-IV-ED 数据集评估美国急诊科常见就诊病例时,其准确率为人类医生的 1.7 倍。官方称该系统所需成本仅为医生的一半甚至三分之一,研究成果已发表在《科学》期刊。

    strator,简称 DxO,通过统一编排多个 AI 智能体来模拟医生专家联合会诊的过程 —— 各智能体协同向患者问诊、开具化验检查,并对潜在诊断展开深入研判与辩论。 而在基于《新英格兰医学杂志》(NEJM)复杂病例展开的模拟评估中,MAI-DxO 的诊断准确率高达 83%。相比之下,可独立查阅参考资料的基层全科医生及普通内科医生的准确率仅为 36%。 值得注意的是,此类复杂病例在现实临床中通常交由专科专家或多学科医疗团队协作诊治,而这部分专科医生并未纳入本次对照实验。 官方表示,该系统所需的成本仅为医生的一半甚至三分之一,能以更少的化验与诊疗操作精准锁定正确诊断。该项研究成果已正式发表在《科学》期刊。 微软针对 OpenAI、谷歌、Anthropic、Meta 以及 DeepSeek 等多家机构的模型对 MAI-DxO 进行了测试,其中表现最亮眼的当属 OpenAI 旗下的 GPT-5 及 GPT-5.5。 IT之家附论文链接: 广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

    匹配字段正文

星期四

  1. Pydantic AI 官方文章精选

    Pydantic AI 将 E2B 沙箱接入为原生能力

    Pydantic AI 把 E2B 接入为原生沙箱提供方,在智能体能力列表中加入 E2BSandbox() 后,所有 shell 命令和文件操作都在隔离的 E2B microVM 中执行,环境变量和 SSH 密钥不会进入沙箱。沙箱在运行结束后可暂停、下次运行恢复,文件系统和内存保持不变,并通过无凭据的引用标识跨进程复用。文章给出两个示例,一是诊断后暂停再修复的两轮运行,二是在 Temporal 工作流中杀掉 worker 后由新 worker 接着在同一个沙箱里完成修复。

    Laís Carvalho avatar

    alfway through. One line, and the agent is off your machine Install the harness with the E2B and Temporal extras, the provider extras the snippets below use (the quick start calls Anthropic, the cookbook examples call OpenAI), and the Logfire extra so the runs are traced. Then set E2B API KEY and the provider key: uv add "pydantic-ai-harness[e2b,anthropic,temporal]" "pydantic-ai-slim[openai,logfire]" Then give the agent the sandbox alongside the tools that will use it: import logfire from pydant

    匹配字段正文

星期三

  1. t3n

    DeepSeek 开源推理框架 Deepinfer,降低模型自建部署成本

    DeepSeek 在 GitHub 开源内部推理框架 Deepinfer,目标是降低自行部署模型时的算力与能耗成本。该框架在推理阶段把负载更均匀地分配到可用处理器核心,用投机解码加快响应,并在输出前改善结果结构;目前仅支持 DeepSeek-V4.1-Flash,后续将开放更多自家模型。硬件上需要 SM100 架构的 Nvidia GPU 或华为 Ascend 950 NPU,因此并非面向个人用户。

    不再错过任何新闻! Deepseek:这款开源工具旨在降低AI成本——它面向谁 中国AI公司Deepseek发布了一款新的开源工具,以向竞争对手施压。据称这将显著降低AI使用成本。 Deepseek正用其工具向竞争对手施压。(图片:Shutterstock/Samuel Boivin) 来自中国的AI模型在业界和市场上正日益受到关注。与OpenAI和Anthropic的大型AI工具相比,中国模型通常相当便宜,并且逐渐也能在高水平上与之匹敌。如今,AI巨头Deepseek希望通过进一步降低用户成本,来增强人们转向其模型的动力。广告广告 Deepinfer:Deepseek这款工具里有什么? 为此,该公司在GitHub上发布了一款新的开源工具。它名为Deepinfer,是这家中国公司的内部框架,用于压低AI使用成本。这里涉及的并不是通过公司网站上的聊天界面或App使用Deepseek的用户所需承担的成本。相反,它旨在降低所有自行运行这些模型者的成本。 正如Deepseek所强调的,Deepinfer降低了算力和能源成本,并应“借此让AI更可负担”。为实现这一点,该框架在模型推理阶段进行了多

    匹配字段正文

  2. Unite.AI

    NVIDIA 发布 OpenShell 参考架构,面向智能体治理

    NVIDIA 在 GTC Berlin 发布 OpenShell 参考架构,用于在企业基础设施和边缘系统上构建、隔离、观测并约束 AI 智能体,架构现已可用。该设计以 Vera Rubin NVL72 运行模型、Vera CPU 运行 OpenShell 安全运行时、BlueField-4 DPU 运行 Sentry 安全框架,对智能体行为做带外持续监控与芯片内策略执行。OpenShell 运行时包含 Gateway、Supervisor、Sandbox 和 Policy Prover 四个组件,Sentry 计划于明年年初开放,DOCA Argus、DOCA Flow 等库现已可供实验。

    ows using Microsoft Execution Containers, and on cloud operating systems from Amazon Web Services, Google Cloud and Microsoft Azure. Enterprises can run agents from model builders Anthropic, Cohere, Google, Meta, OpenAI, Perplexity, Reflection and SpaceX Super Intelligence on OpenShell infrastructure. Cybersecurity vendors 1Password, Check Point, CrowdStrike, Cisco, F5, Fortinet, Microsoft, Okta, Palo Alto Networks, TrendAI and Zscaler are integrating support for the architecture into their agen

    匹配字段正文

  3. 36氪 · AI

    DeepSeek 开源搜索、推理框架与编解码组件,并公开单卡每小时收入

    DeepSeek 在一周内接连推出自研搜索 Search 与 Fetch、推理框架 DeepInfer 和编解码组件 deepseek-recipe,除搜索服务将于 11 月 1 日开始收费外,其余均免费开源。Search 与 Fetch 是面向模型的 JSON 接口,每 1000 次成功请求 5 元,可在 DeepSeek Harness、Claude Code、Codex 中通过服务端工具调用,且不绑定 DeepSeek 模型;DeepInfer 以 Apache 2.0 开源离线推理版本,兼容英伟达和国产算力平台。官方部署实践还披露单一集群每天 155 万亿 Tokens 吞吐、平均每卡每小时 38 美元收入,按此计算单卡月收入约 2.7 万美元。

    ek公众号最新文章里还有这么一句话“为善与众行之,为巧与众能之。” 这句话出自战国名家尹文的《尹文子・大道上》。翻译成现代语言,就是做善事,要带着大家一起做;学本事、有手艺,要让众人都能掌握。 而这也是梁文锋发布这三个产品最根本的动机,用户免费拿去用,DeepSeek也能因此获得数据流和入口,最终实现双赢。 梁文锋的做法看起来“特立独行”,毕竟OpenAI、Anthropic,乃至全球所有的AI公司,都不曾敢开源到如此坦诚相待的地步。 不过如果你把视角拉高一点就会发现,梁文锋的打法和可口可乐出奇一致。 这三个产品都是干什么用的? 先来简单说说这三个产品。一句话概括,Search与Fetch是餐厅的“采购员”,负责去外面的市场把食材买回来;DeepInfer是“后厨”,是模型干活的地方;deepseek-recipe是“多语种菜谱”,不同国家的人也能认清自己吃的是什么。 我们平时用的搜索引擎是给人看的。一页结果里有广告、有推荐、有一堆需要人自己判断的链接,点进去还有导航栏、弹窗、侧边栏。人可以忽略这些,但模型不行,每一个多余的字都要占用它的上下文,这些可都是token,都要花钱的。 De

    匹配字段正文

  4. 钛媒体 · AGI

    豆包内嵌抖音直播间并主动推送电商优惠券

    豆包App在聊天的商品推荐中新增抖音直播间,用户可在豆包内看直播、领券并下单支付,无需跳转抖音。豆包还会在用户未聊到购物时主动推送抖音商城满减券,并弹出介绍下单、查物流、退货取件等电商能力的小卡片。文章提到豆包月活4.19亿,其商业化收入与算力成本之间的压力是这一系列动作的背景。

    同。 那么,豆包该怎么解决这个问题?或许还是要沿着抖音的路走。 抖音的核心逻辑无非两条:算法推荐和强运营。 豆包其实已经有了一个支点——对话开始页的“为你推荐”。如果未来这一入口能根据用户的兴趣和使用场景,增加商品推荐,豆包就有机会从单纯响应需求,走向主动发现需求。 只要豆包愿意,它就可以捅破窗户纸。 不过,这未必是不能碰的边界。 OpenAI今年年初上线了广告业务,200天年化营收突破10亿美元。但这也成了OpenAI被攻击的点,比如Anthropic就在今年超级碗广告中,以“无广告”作为自身差异化定位。 对Chatbot来说,商业化路径本就有限,如果能在不严重伤害体验的前提下,跑通一条路,至少值得一试。做成了,是为Chatbot找到一种可复用的变现方式;做不成,也能看清边界在哪里。 参考资料: 《字节下调电商和本地生活全年目标》虎嗅 《字节跳动的 AI 账本:豆包每天不足百万收入、Seedance 毛利70%》晚点 LatePost 《2026年三季度AI应用市场发展报告》QuestMobile 《2026年AI应用市场发展半年报》QuestMobile 《字节开始跟你算账了》虎嗅

    匹配字段正文

  5. cnBeta

    DeepSeek 开源推理框架 DeepInfer 与分词组件 deepseek-recipe

    DeepSeek 发布技术博客《DeepSeek V4.1 Flash 大规模推理部署实践》,并以 Apache 2.0 协议开源支撑其线上百亿级调用的云服务推理框架 DeepInfer 和生产级分词组件 deepseek-recipe。博客称基于该框架单一集群服务吞吐已达每天 155 万亿 Tokens,未来新模型的推理代码和性能优化也会持续放进 DeepInfer。文中还提到用 8 卡机器做 Prefill、64 到 128 卡超节点做 Decode,以及用 3FS 分布式存储保留 KVCache、SWA Bounded Replay 只重算最后 128 个 token 等优化。

    ll 的性能测试,随着每批处理的 Token 数量增加,未命中缓存的输入吞吐逐渐提高,最终趋于平缓,继续扩大批次主要增加了单步处理耗时。 纯纯手艺人,Bro。 再看这次同步开源的 Rust 组件 deepseek-recipe,解决的全是开发者天天在生产环境里头疼的脏活累活。 它把 OpenAI 的 Chat Completions、Responses 和 Anthropic 的 Messages 三家 API 协议统一转成同一种格式,还顺手用分段并行编码解决了长文本分词卡顿,外加从底层把 Special Token 注入攻击给堵死了。 到了底层调度,通过 GPU 和 CPU 的异步流水线重叠,硬生生做到了 GPU 全程无空闲,连投机解码 DSpark 都用上了变长验证,在线上生生又抠出来 6% 的吞吐提升。 到了生成回答的 Decode 阶段,性能曲线也呈现出一个直观的取舍,同时处理更多请求,可以提高每张 GPU 的总输出吞吐,但分到每个用户的生成速度也会随之下降。 其实早在 2024 年 DeepSeek V2 降价时梁文锋就讲过,这套商业逻辑就是核算成本后定价,不贴钱,但也绝不赚

    匹配字段正文

  6. Latent Space精选

    DeepSeek 开源推理框架 DeepInfer,单集群日处理 155 万亿 token

    DeepSeek 开源了支撑 DeepSeek-V4.1-Flash 的自研推理框架 DeepInfer,并公布单集群每天处理 155 万亿 token、96% 输入缓存命中、首 token 延迟 400ms、生成速度 230 tokens/s 的生产数据。该框架基于 vLLM 定制,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,目标平台为 NVIDIA SM100 与华为昇腾 950。DeepSeek 同时说明 KV cache 管理和负载均衡等组件尚未完全开源,vLLM 团队则称在 GB200 匹配配置下解码吞吐与 DeepInfer 公布结果相差 6% 以内。

    ent for it. @vllm project, @woosuk k Other reactions span a useful range: Strong endorsement: Tim Dettmers judges DeepSeek’s inference stack comparable to OpenAI’s and better than Anthropic’s for its user scale; Graham Neubig points to the official API’s speed and price. Neither supplies a matched cross-lab benchmark. QuixiAI says the release will inform SlimServe. @Tim Dettmers, @gneubig, @QuixiAI Deployment skepticism: Su Jin Yan finds the engineering article more valuable than the repository

    匹配字段正文

  7. Latent Space

    DeepSeek 开源推理框架 DeepInfer,单集群日处理 155 万亿 token

    DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并公布单集群日处理 155 万亿 token、输入缓存命中率 96%、首 token 平均 400ms、生成 230 tokens/s 等生产数据。该框架基于 vLLM 定制并采用 Apache 2.0 许可,支持分布式推理、投机解码、SWA Bounded Replay 和结构化输出,目标平台为 NVIDIA SM100 与华为昇腾 950。DeepSeek 称 KV 缓存管理和负载均衡等组件因与内部基础设施耦合尚未完全开源,vLLM 团队则报告在 GB200 匹配配置下解码吞吐与 DeepInfer 公布结果相差 6% 以内。

    ent for it. @vllm project, @woosuk k Other reactions span a useful range: Strong endorsement: Tim Dettmers judges DeepSeek’s inference stack comparable to OpenAI’s and better than Anthropic’s for its user scale; Graham Neubig points to the official API’s speed and price. Neither supplies a matched cross-lab benchmark. QuixiAI says the release will inform SlimServe. @Tim Dettmers, @gneubig, @QuixiAI Deployment skepticism: Su Jin Yan finds the engineering article more valuable than the repository

    匹配字段正文

  8. cnBeta

    Google 向内置 Google Built-in 的汽车推送 Gemini 助手,现有车辆也可升级

    Google 宣布将把 Gemini 助手引入搭载 Google Built-in 系统的汽车,替代现有 Google Assistant,并通过软件更新覆盖已上路的现有车辆。Gemini 支持日常语言连续对话,可查询车辆设置与电动汽车电池电量、总结短信并生成回复、提供导航进度和路况等行程信息。符合条件的已登录 Google 账号用户会在车载系统中看到升级选项,首批以英语版本面向美国市场推出,未来数月逐步扩大范围,后续还将接入 Gmail、Google Calendar 和 Google Home。

    注 9索尼更新高端Walkman产品线:三款新旗舰亮相 顶级型号售价高达5899美元 10国内玩家疑因想买《GTA6》 最后和老婆离婚了 1 Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1) 2 中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2) 3 Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3) 4转转“神秘眼镜女”称被造黄谣 已报警 5“车子我肯定不要了”尊界V800刹车踏板被踩断 车主急忙退订 专家直指严重缺陷 6王自如劝退iPhone 18 Pro:一场关于“换机价值”的公开讨论 7Anthropic已限制华为AI芯片使用Claude Opus 5.5开发前沿模型 8懂车帝再发布测试视频:智界V9等多款车型六次制动未出现刹车踏板支架断裂 9《街霸》电影春丽演员回应粗大腿"造假":我没空P图 10Claude想让中国人全被封号:天才AI的访问头脑战 created by ceallan

    匹配字段正文

  9. cnBeta

    Perplexity Computer 新增 Mac 本地运行模式

    Perplexity 宣布 Mac 版应用支持 Computer 代理完全在本机运行,任务规划、推理、文件处理和工具执行都在设备端完成,代码与工具执行在隔离沙盒中进行。本地模式使用 Qwen 3.6 或基于 Qwen 训练的 PPLX Pro 模型,面向支持的 Apple 芯片 Mac,建议至少 36GB 内存,目前提供给 Pro、Max 和 Enterprise 订阅用户。另提供混合计算模式,由云端模型负责联网研究、本地模型处理私人文件,官方称可在至少 24GB 统一内存、运行 macOS 15 或更新版本的 Apple 芯片 Mac 上使用。

    注 9索尼更新高端Walkman产品线:三款新旗舰亮相 顶级型号售价高达5899美元 10国内玩家疑因想买《GTA6》 最后和老婆离婚了 1 Windows 11 26H2 ISO镜像已发布 微软同时更新安装介质并延续小型启用包机制 阅读 (1994) 评论 (1) 2 中国女主播坐上“付费旋转椅” 观众花50元可转一圈 奇特直播模式引发全球热议 阅读 (1328) 评论 (2) 3 Google研究员称Windows NT内核设计至今仍让Linux相形见绌 阅读 (1317) 评论 (3) 4转转“神秘眼镜女”称被造黄谣 已报警 5“车子我肯定不要了”尊界V800刹车踏板被踩断 车主急忙退订 专家直指严重缺陷 6王自如劝退iPhone 18 Pro:一场关于“换机价值”的公开讨论 7Anthropic已限制华为AI芯片使用Claude Opus 5.5开发前沿模型 8懂车帝再发布测试视频:智界V9等多款车型六次制动未出现刹车踏板支架断裂 9《街霸》电影春丽演员回应粗大腿"造假":我没空P图 10Claude想让中国人全被封号:天才AI的访问头脑战 created by ceallan

    匹配字段正文

  10. The Decoder

    DeepSeek 开源推理框架 DeepInfer,支撑 V4.1-Flash 快速低成本推理

    DeepSeek 以 Apache License 2.0 开源内部推理框架 DeepInfer,该框架是支撑 V4.1-Flash 模型大规模快速生成回答的服务软件。DeepInfer 基于 vLLM 构建,包含优化的计算内核、多芯片分布式处理和更快的文本生成技术,未来 DeepSeek 模型的代码也将开源。DeepSeek 同时发布 deepseek-recipe,可复现官方 API 的 token 处理,使自托管部署行为保持一致,官方称目标是帮助社区降低算力成本与能耗。

    odels are already dirt cheap . DeepInfer fills the last gap for running them even more cheaply. The goal is "to help the community lower compute costs, reduce energy use, and make AI more affordable," the company said on X . But the release also adds pricing pressure on Western providers like OpenAI and Anthropic. Given the AI race between China and the US, the move could be politically motivated too. If Western AI companies miss their growth targets, that's a risk for the US economy and beyond.

    匹配字段正文

星期二

  1. The New Stack精选

    DeepSeek 开源其 API 背后的推理引擎 DeepInfer,同时支持 Nvidia 与华为昇腾

    DeepSeek 开源了用于生产环境服务其模型的自研推理框架 DeepInfer,采用 Apache 2.0 许可,可让开发者在自有基础设施上运行 DeepSeek-V4.1-Flash,并计划支持后续模型。该框架包含 FlashMLA、DeepGEMM、DeepEP 等优化计算内核与通信库,支持投机解码、异步调度和结构化输出,同时开源了处理请求与响应转换的 deepseek-recipe 库(提供 Rust 和 Python 版本)。硬件方面首日支持 Nvidia SM100(Blackwell)架构和华为昇腾 950 NPU 系列,Hopper 等旧架构未列入;批量不变推理与确定性采样仅在 Nvidia 硬件上可用,公开性能数据也基于 Nvidia GPU。当前版本支持离线推理,但缺少 KV cache 管理、跨机推理阶段分离和副本负载均衡等完整生产服务组件。

    华为的加入已经引起了更广泛开发者社区的关注。在 Reddit 的一场讨论中,一位评论者将这两个受支持的硬件平台列为这条新闻的亮点,而另一位评论者则指出,DeepSeek 源自量化金融,这可能是其技术专长的原因之一。 “DeepSeek 再次证明了高频交易者在优化性能方面有多擅长……而且还是在昇腾 NPU 上!!,”这位评论者写道。 另一位用户似乎是在调侃 Anthropic 的 Claude Opus 5.5,此前有报道称,涉及为华为 AI 芯片进行内核编程的请求可能会触发防护机制,将某些高级 AI 开发任务重定向到较旧的模型。 “别让 Opus 5.5 看到这个!它会删掉昇腾支持的,”这位用户开玩笑说。 值得注意的是,Nvidia 和华为实现版本的功能支持有所不同。DeepInfer 的批次不变推理和确定性采样功能有助于确保在指定条件下输出可复现,但这些功能仅在 Nvidia 硬件上可用。DeepSeek 公布的性能测量数据也使用 Nvidia GPU,其中 4 块 SM100 GPU 用于预填充,64 块用于解码,这就留下了该框架在华为芯片上相比表现如何的疑问。 对于无法获得这两

    匹配字段正文

  2. 36氪 · AI精选

    DeepSeek 开源推理框架 DeepInfer 与 Token 编解码组件 deepseek-recipe

    DeepSeek 开源自研推理框架 DeepInfer(Apache 2.0)和生产级 Token 编解码组件 deepseek-recipe(MIT),支撑 DeepSeek V4.1 Flash 单集群一天服务 155 万亿 Token。官方线上统计显示平均每请求输入 77K Token、首字延迟约 400 毫秒,生成阶段每秒输出 230 个 Token,平均 96% 的输入命中缓存。DeepInfer 目前支持 V4.1 Flash,开源版本仅提供离线推理,KV 缓存管理与负载均衡代码因与内部基础设施绑定暂未完整开源。

    请求里带图片的,还会先交给单独部署的图像编码服务。 实践中,两边需要的卡数差不多是1比1。按官方的建议,想要效率高,最小部署单元是64卡Prefill加64卡Decode。 官方API那套逻辑,也开源了 请求进门后,先过deepseek-recipe这一关。 眼下主流的API格式有三种,OpenAI的Chat Completions和Responses,加上Anthropic的Messages。 deepseek-recipe把它们统一转成同一种对话格式,再按模型版本拼好prompt、编码成Token。模型输出的Token,也由它翻译回各家格式,流式返回。 它还顺手堵了一个口子。DeepSeek的模型靠一批特殊Token标记对话结构,比如用户发言从哪开始、思考到哪结束、什么时候调用工具。 96%的输入,不用再算第二遍 Agent每调用一次工具,都要把系统提示、工具说明,连同之前每一轮的回复和工具结果,整个重新发给模型。 这里面绝大部分,上一轮早就算过了。 DeepSeek的做法是,把算过的KV缓存存下来,下一轮只算新增的那一截。前提是前缀必须从第一个Token起完全一致,中间重复的内容

    匹配字段正文

  3. TechCrunch AI

    微软推出 Guardian Agents 等安全功能,称前沿模型不可信任

    微软发布 Guardian Agents 等新安全功能,用于监控企业内部的 AI 智能体;该功能属于 6 月推出的 Project Perception。微软安全业务负责人 Hayete Gallot 称前沿模型无论来自哪里都不可信任,原因是其行为不可预测。微软还在 Microsoft Defender 中加入智能体检测,可发现 Claude Code、Codex、OpenClaw 等最多 60 种员工带入的智能体,并新增限制数据访问、按任务动态调整权限、高风险决策需人工批准等能力。

    he AI agents a company uses. Guardian Agents is part of Project Perception, a product introduced in June. Project Perception was Microsoft’s answer to powerful hacking models like Anthropic’s Mythos and Fable and OpenAI’s security vulnerability scanning system Daybreak. Project Perception originally launched three classes of agents: a “red team” that acted like hackers and attacked, a “blue team” that detected the red team and assessed the vulnerabilities they found, and a “green team” tasked wi

    匹配字段正文

  4. 钛媒体 · AGI

    DeepSeek 上线 Search 和 Fetch 接口,每千次成功请求 5 元、11 月 1 日起收费

    DeepSeek 上线 Search 和 Fetch 两个接口,底层由自研搜索引擎驱动,每 1000 次成功请求收费 5 元(约 0.75 美元),失败、无结果或超时不计费,11 月 1 日起正式收费。两个接口此前在 DeepSeek Harness、Claude Code、Codex 中免费使用,各限速每秒 5 次。横向对比,Tavily 约 8 美元/千次、Brave Search 和 Google Custom Search 约 5 美元/千次,DeepSeek 的价格约为主流海外方案的一折到两折。

    也是个硬约束,企业级负载大概率要排队。另外,把搜索和抓取绑定在自家API里,意味着开发者的数据管道进一步向单一厂商集中,这在多云策略盛行的当下,未必是每个团队都愿意接受的依赖。 更大的图景是,这条产品线暴露了DeepSeek的野心边界正在扩张。从模型到Harness框架,再到搜索引擎,DeepSeek在沿着Agent的技术栈一层层往下吃。搜索是互联网的入口级基础设施,敢碰它的模型公司不多——Google自己就是搜索引擎,OpenAI靠Bing,Anthropic至今没有公开的自研搜索。DeepSeek选了最重的那条路,好处是数据和体验闭环,代价是要同时打赢模型战和搜索战两场仗。 结尾 千次 5元,这个价格在AI基础设施的语境里几乎等于免费——但"免费试用、到期收费"的节奏,恰恰是平台级生意的经典起手式。DeepSeek用一个月时间让Harness、Claude Code、Codex里的开发者习惯"模型自己会上网",然后轻轻拧上计费阀门。对Agent生态来说,联网能力从"选配"变成"标配"的转折点,可能就藏在这则不起眼的定价公告里。接下来要看的,是搜索引擎的质量能不能撑住这个野心的重量。

    匹配字段正文

  5. SiliconANGLE

    微软推出面向失控 AI 智能体的安全管控功能

    微软发布针对失控 AI 智能体的安全管控功能,智能体风险评分升高时会逐步削减其权限。其发现工具可识别员工设备上的 60 类本地智能体,包括 Claude Code、Codex 和 GitHub Copilot,并通过 Entra Agent ID 为智能体分配独立身份。Dynamic Agent Risk 依据身份、终端、云和网络信号持续更新风险分,Dynamic Conditional Access 据此先收回写权限、再要求人工审批,最高等级直接隔离或停止运行时。这些功能被归入 Project Perception 和 Microsoft 365 E7,微软未公布可用时间和定价。

    l the least.” The controls start with finding agents. Microsoft’s discovery tools can now spot 60 types of local agents on employee machines after 35 were added. The list includes Anthropic PBC’s Claude Code and OpenAI Group PBC’s Codex, as well as GitHub Copilot from Microsoft’s own GitHub unit. The company is also extending Microsoft Entra Agent ID to give those agents, and unknown ones its sensors find, identities of their own. Once found, each agent carries a continuously updated risk score

    匹配字段正文

星期一

  1. PyTorch Blog精选

    PyTorch 发布 TorchNeuron:面向 AWS Trainium 的原生后端

    PyTorch 宣布开源原生后端 TorchNeuron,让 Trainium 成为标准 PyTorch 设备,模型代码只需改为 .to('neuron') 即可运行,10 月 20 日以 Apache 2.0 协议在 github.com/aws-neuron/torch-neuronx 开放公测。该后端基于 PrivateUse1 和 torch.accelerator 扩展点,支持 eager、自适应 eager 与 torch.compile,并覆盖 DDP、FSDP2、张量并行等分布式 API 以及 NKI 自定义算子。官方称已在 10 万个 Hugging Face 模型上做覆盖测试,Hugging Face Transformers v5、Diffusers、vLLM Neuron 等可直接在 Trainium 上使用。

    committed to supporting the PyTorch ecosystem by providing Trainium resources for PyTorch CI/CD infrastructure and contributing to open source PyTorch projects. Special thanks to Anthropic, Anyscale, Amazon AGI, Amazon Rufus, ByteDance, Cartesia, Clay Foundation, Databricks, Decart, Deepgram, Hugging Face, Karakuri, Lieber Institute for Brain Development, Meta, MIT, Neura Robotics, NinjaTech AI, Nota AI, Odyssey, PDT Partners, poolside, Qube Research and Technologies, RadixArk, Ricoh, Rivian, S

    匹配字段正文

星期日

  1. 36氪 · AI

    DeepSeek V4.1 Flash 1017 发布,支持许愿式编程

    DeepSeek 于 10 月 17 日发布 DeepSeek V4.1 Flash 1017,最大特点是支持许愿式编程:用户只需说出想法,模型自行拆解任务、写代码并验证,交付可运行成品。新版本通过基于自反馈的强化学习训练,提升了游戏开发、3D 建模等从零构建完整项目的能力,发布当天还开放了自研的 Search 和 Fetch 两个接口。作者认为该功能面向缺少提示词和素材的普通用户,与需要人类中途介入的 Agent 形成区别。

    参与评论评论千万条,友善第一条登录后参与讨论提交评论0/1000你可能也喜欢这些文章从记者到千亿富豪,“最牛文科生”赌中AI美光崛起背后:美国内存“独苗”的生存战、资本博弈与AI重生重磅!OpenAI之后,AI再破广义黎曼猜想还没IPO,OpenAI 600名员工已套现66亿美元龙虾凉了,Muse凭什么火?当初天价挖人合理吗?亚历山大王最新访谈回应一切刚刚,Anthropic宣布奇点已至!AI或把美国GDP推上44万亿美元世界首富的孙子,创业30年公司要破产了4.99美元的AI医生前华为车BU世界模型基模负责人创业,杭州具身大脑公司获近亿元融资|硬氪首发字母AI特邀作者 聚焦前沿科技,抢先看到未来。发表文章499篇 最近内容从记者到千亿富豪,“最牛文科生”赌中AI4小时前许愿式编程发布,谁说梁文锋不宠“小白”?11小时前论人情世故,腾讯这批闯祸的Agent上大分了2026-10-16阅读更多内容,狠戳这里查看AI测评DeepSeek豆包千问选靠谱AI,看真实评测查看36氪AI测评官方交流社区加入咨询项目审核和入驻联系36氪项目推荐订阅号关注 36氪欧洲站36氪欧洲站36氪欧洲站Ai产品

    匹配字段正文