2026年10月20日,Sierra宣布与Stripe合作,让客户在同一通电话中与Sierra的AI智能体对话、完成付款并收到收据,无需跳转其他系统或发送支付链接。支付时智能体切换到安全支付模式,客户通过电话键盘输入卡号,信息直接交由Stripe处理,智能体本身不接触原始卡数据,完成后智能体回到通话确认交易。Sierra称医疗支付公司Cedar是首批通过该集成在电话中收款的企业之一,其智能体Kora在患者发起支付的电话中,71.3%最终支付成功。Sierra平台同时上架Stripe App Marketplace,企业无需单独开发集成即可接入。双方还在与Meta等伙伴推进Personal Agent Protocol中个人智能体代付的规范。
匹配字段摘要
Google于2026年10月20日发布基于TorchTPU的vLLM与SGLang原生PyTorch后端推理引擎,分别与Inferact、RadixArk合作开发。官方表示,两个引擎已在预览客户的生产环境中运行;在Ironwood TPU(TPU 7x)上运行Qwen 3.5时,高并发配置下每百万token成本为2.01美分,并已在SemiAnalysis InferenceX的AgentX赛道提交结果。功能方面,引擎支持前缀缓存与KV cache卸载、投机解码、分离式服务以及图像视频输入的多模态模型;SGLang-TorchTPU已在Meta生产环境使用。目前尚无后续独立发展事实。
匹配字段摘要
2026年10月19日,Google发布LiteRT Tensor API,允许开发者在C++中逐算子构建端侧模型计算图。据Google Developers Blog介绍,同一份代码可经LiteRT运行在CPU、GPU(ML Drift)和NPU上,也可不经模型文件直接通过XNNPACK在CPU运行。官方用该API手写SAM 2并部署到浏览器WebGPU,称在MacBook Pro上比Apple MLX快约1.5倍,输出掩码与Meta PyTorch参考逐像素一致。该API还支持从.safetensors直接加载权重,并让预处理、推理与后处理通过共享加速器缓冲区串联,避免数据回传CPU。目前尚无后续发展事实。
匹配字段摘要
Google与Meta的PyTorch团队合作推出开源项目TorchTPU,为Google TPU提供原生PyTorch后端,迁移只需把model.to("cuda")改为model.to("tpu")。项目支持eager与torch.compile两种模式,新增DeferAndFuse eager模式,覆盖约450个Aten算子,并已在4,917个Hugging Face模型上验证开箱运行,其中Tier 1通过率98%、Tier 2相对GPU数值一致性97%。官方称其已用于部分Google Cloud大客户的推理与训练生产负载,并集成vLLM、SGLang、TorchTitan、Ray和TorchRec。后续报道称,在PyTorch Conference North America 2026上,Google开源了TorchTPU,运行时不再依赖JAX,现有负载只需少量代码改动即可迁移;PyTorch方面指出,TorchTPU默认的Skinny Collectives方案在分布式负载下相比优化方案约有30–40%的端到端性能损失,追求峰值性能仍需Pallas kernel及vLLM-T
匹配字段摘要
2026年10月15日,Figma 宣布 code layers 进入公开测试,并向所有方案开放。据 Figma 官方发布的信息,同日还有多项面向智能体协作的功能推进:Specs 在 Web、桌面和移动端开始公开测试,Payload 集成到 Figma Make 并将在未来几周向所有账号开放,Figma agent 转为正式可用,Figma MCP 支持在已有 AI 工具中生成 code layers 和操作 Specs,并新增 OpenCode、Dia、JetBrains Junie、Meta Muse 等 20 个 MCP 合作集成;设计系统方面,guidelines 进入公开测试、code sources 进入封闭测试,均面向所有付费方案。另有报道称,Figma 在 Config India 2026 上发布这批面向编码、内容管理和部署的 AI 工具,用户可从现有 Figma 设计、GitHub 仓库或通过 MCP 接入的外部编码智能体创建 code layers;CEO Dylan Field 表示对于流量极高的产品 Figma 不会承担其托管费用,但未说明定价档位和流量阈值,
匹配字段摘要
2026年10月13日,Workday 在拉斯维加斯 Workday Rising 大会上宣布,其 Trusted Agent Platform 实现无头化(headless),向外部 AI 智能体开放 HR 与财务数据。据 The New Stack 报道,MCP 服务器、对实时 Workday 数据的 SQL 访问以及智能体共享运行时正式可用,客户可在 Anthropic、Google、Meta、Mistral、Nvidia 和 OpenAI 的模型上运行自有智能体。其 MCP 服务器 Agent-Ready Tools 随 Workday Extend AI 提供,目前包含 275 个读取工具和 54 个写入或删除工具;用户以本人 Workday 凭证登录,智能体无法访问其账号权限之外的数据。Workday 称,过去四个月客户已用 Developer Agent 和 Agent-Ready Tools 构建了 500 多个智能体和 6000 多个应用。目前尚无进一步有证据的发展。
匹配字段摘要
2026年10月9日,Sierra发布fleming-1模型,可实时分析通话语音、判断来电者是否为AI智能体,并默认采取保守策略以避免误标真人。该模型适用于任何基于Sierra构建的语音智能体,只需开启即可使用。同日Sierra还宣布正与行业伙伴共同开发开放标准Personal Agent Protocol,让个人智能体获得经授权的企业对接方式。10月10日,Sierra发布Personal Agent Protocol草案(代号Poppy),并公布新增35家设计伙伴,包括OpenAI、Visa、Mastercard、PayPal、Target、Notion、Cloudflare、ElevenLabs等。该协议定义发现、会话、登录、跨渠道统一会话和任务执行五个模块,基于OAuth、JWT、HTTPS、OpenAPI和MCP构建,商家可通过现有网站、API或自有智能体与个人智能体协作。Sierra称此前已与Meta、Genesys、Shopify、Stripe、Walmart等宣布该协议,现邀请更多公司阅读草案并参与设计。
匹配字段摘要
2026年10月9日,ElevenLabs在ElevenAgents中发布合成语音检测功能。该功能可在通话最初几秒分析来电者语音,判定其为真人还是AI生成,企业可据此设置规则,例如优先服务真人客户、限制AI来电者的交互范围,或在敏感操作前拦截克隆语音。该功能运行在实时音频流上,不依赖音频是否带有ElevenLabs水印。同日,ElevenLabs以设计伙伴身份加入由Meta和Sierra主导的Personal Agent Protocol工作组,参与制定个人智能体向企业表明身份、代表对象及可执行操作的规范。目前该检测功能面向由Forward Deployed Engineering团队支持的企业客户开放,本月晚些时候将作为ElevenAgents内的可配置选项向更广泛的企业客户提供。
匹配字段摘要
2026年10月3日,Perplexity开源了七项模型、推理工具与安全项目。据当时报道,其中包括多模态决策模型pplx-decider-v1-27b,在11项基准上平均85.7%,领先Jev;上下文嵌入向量模型pplx-embed-v2-context-9b-preview,在ConTEB和turbopuffer context-bench上表现最佳;面向Apple silicon的本地推理引擎Lily,用Rust加自定义metal kernel实现,在M5 Max上prefill比MLX-LM快1.23倍、decode快1.35倍;以及0.6B端侧PII分类器PII-Tracer及配套PII-TRACE基准、面向深度研究智能体的WANDR基准、笔记本与工作站智能体检测响应工具Numbat、只读供应链扫描器Bumblebee。2026年10月7日,Perplexity宣布其决策模型在Hugging Face Decision Index上登顶,并称该模型为开放权重。
匹配字段摘要
2026年5月7日,Prime Intellect宣布其训练平台Lab结束beta测试并正式开放。该平台面向自我改进智能体,将任务定义、harness、评测、奖励信号训练、rollout检查、adapter部署和推理整合到一处,以环境为基本单元。其中Hosted Training负责大规模强化学习,按token计费而非按集群小时计费。正式版首批支持来自NVIDIA、OpenAI、Meta和Qwen的14个模型,参数规模在1B到70B之间。据披露,beta期间已有数百名用户运行超过10,000次训练任务,训练完成的LoRA adapter可通过Prime Inference以OpenAI兼容API部署。
匹配字段摘要
2024年7月23日,vLLM宣布支持Meta Llama 3.1系列模型,可运行完整的128K上下文窗口,并通过分块预填充控制内存占用。针对Llama 3.1 405B,vLLM提供FP8、流水线并行、张量并行和CPU卸载支持。在没有InfiniBand的16 GPU环境中,2路流水线并行结合8路张量并行,相比16路张量并行实现了6.6倍性能提升。
匹配字段摘要
2026年10月8日,Google AI Edge 团队以 Apache 2.0 协议开源端侧 GPU 计算引擎 ML Drift。该引擎抽象 OpenGL ES、OpenCL、Metal 和 WebGPU,是 LiteRT 的核心 GPU 加速引擎,也可作为独立库使用。相比旧版 TFLite GPU delegate,它引入张量虚拟化统一 shader、可扩展自定义算子框架、5D 张量支持和针对 LLM 的阶段性优化,并新增 Windows 和 Linux 桌面预览。官方称 Gemma 基准中内存开销最多降低 12%,YouTube Shorts 平均帧延迟最多降低 40%,Google Photos 提速最多 2 秒,Adobe Lightroom 与 Photoshop 端侧性能最多提升 30%,Snapchat 镜头模型延迟改善 30%。旧版 TFLite GPU delegate 将不再获得新功能更新。目前尚无后续发展事实。
匹配字段摘要
2026年6月11日,Ollama 更新其 MLX 引擎,新增对 NVIDIA NVFP4 格式的支持。据 Ollama Blog 当日发布的信息,该引擎被称为其在 Apple Silicon 上的最高性能表现,模型响应更快、占用内存更少。在 Gemma 4 12B 上,相比 q4_K_M,新格式约将量化质量损失减半;同时通过 Metal kernel 融合等优化,输出速度最高提升 20%。此外,本次更新新增快照系统,可为多智能体、思考型模型和分支重试保存模型状态,避免重复处理相同上下文。目前该更新已随官方博客发布,暂无后续发展事实。
2026年6月11日,Ollama 更新其 MLX 引擎,新增对 NVIDIA NVFP4 格式的支持。据 Ollama Blog 当日发布的信息,该引擎被称为其在 Apple Silicon 上的最高性能表现,模型响应更快、占用内存更少。在 Gemma 4 12B 上,相比 q4 K M,新格式约将量化质量损失减半;同时通过 Metal kernel 融合等优化,输出速度最高提升 20%。此外,本次更新新增快照系统,可为多智能体、思考型模型和分支重试保存模型状态,避免重复处理相同上下文。目前该更新已随官方博客发布,暂无后续发展事实。
匹配字段摘要
Unsloth 发布 Meta Muse Glimmer 30B免费微调notebook
English translation is being prepared.
匹配字段摘要
vLLM 新增支持 Meta Llama 3.1系列模型
English translation is being prepared.
匹配字段摘要
NVIDIA 发布开源软件层 DSX OS，包含 AICR、NVCRE 和 NVSentinel 三个 Apache 2.0 项目，分别负责版本锁定的集群配置、基于 NCCL 与训练负载的就绪认证、以及持续健康监控与故障隔离修复。AICR 将配置渲染为 Argo CD、Flux、Helm 等部署工具的产物并支持漂移检测，NVCRE 通过二分定位可疑节点，NVSentinel 默认只上报节点状态、启用后可封锁、驱逐并修复故障节点。三者可串联成生命周期闭环，节点加入或修复后自动触发重新验证，通过后才解除调度限制。
据验证结果以及任何剩余的测试，移除或保留调度门禁。通过： 在不再有其他测试占用该节点后，移除已配置的门禁。 重试后失败： 保持节点封锁。 表 1. 节点验证职责、操作与结果 认证会指明要测试的节点、要运行的类别，以及判定测试通过或失败的阈值： apiVersion: nvcre.nvidia.com/v1alpha1 kind: Certification metadata: name: gpu-cluster-cert spec: target: nodeSelector: nvidia.com/gpu.present: "true" categories: - domain: communication variant: nccl-all-reduce - domain: training variant: nemotron5-8b options: thresholds: busBandwidthGBps: "value = 300" nvcrectl certification run --cert-file certification.yaml --wait nvcrectl
匹配字段正文
Hugging Face 发布端侧 TTS 模型 Phonon，提供约 65 MB 和 75 MB 两个尺寸，覆盖英语、法语、德语、西班牙语和葡萄牙语，内置 100 多个音色。其中 Phonon 31m 仅支持英语并以 Apache 2.0 开源，可用于商业产品；Phonon 40m 覆盖五种语言但采用非商业许可。官方称其在 Open TTS Leaderboard 的德语和西班牙语可懂度排名第一，并在 CPU 流式首包延迟基准上领先，配套推理框架 ptts 支持 CPU、GPU 和 NPU 等 10 余种后端。
体积最高达其 100 倍的模型同台竞技。 速度是 Phonon 真正大放异彩的地方，这些模型在 CPU 流式首包音频时间基准上位居榜首。 推理 我们专门为 Phonon 构建了一个新的推理框架 ptts。ptts 的目标是在各种设备上获得最佳性能，因此支持 10 多种后端：CPU（Intel、Arm、WebAssembly）、GPU（CUDA、Vulkan、Metal、WebGPU）和 NPU（Apple Core ML、Snapdragon®）。 Phonon 也从 v5.21 起在 🤗 Transformers 中作为其参考 PyTorch 实现提供。ptts 在设备上运行单一流，而 Transformers 则面向 GPU 吞吐量：批量生成、全图 torch.compile，例如用于大规模合成语音数据集。作为原生 PyTorch 实现，它是进一步构建的基础，无论你是要将 Phonon 集成到你自己的技术栈中，还是研究模型本身。 它属于 Pocket TTS 系列，因此我们首先将 Pocket TTS 加入了 Transformers。Phonon 作为模块化模型构建在其上：约 2
匹配字段正文
NVIDIA 发布开源工作负载级恢复服务 NVIDIA Recovery，通过应用日志、GPU 指标和调度器信号检测训练中断，并按检测、归因、隔离、重启或停止四阶段循环处理。该服务以 Apache 2.0 许可在 dsx-ai-factory/NVIDIA-Recovery 仓库开放，Slurm 集成通过 Helm chart 部署的 Advisor Controller 实现，支持集群内和 SSH 两种模式。新部署默认处于监控模式，只输出恢复建议不执行调度动作；7 月 9 日至 10 月 9 日在一个训练集群上的监控覆盖每天近 200 个任务，记录约 8,550 次异常检测，平均检测与恢复动作延迟分别为 69 秒和 94 秒。
启无法触及的空白。当与 NVIDIA Attribution 配合使用时，它会接收丰富的跨层诊断结论，从而充实持久审计轨迹。 差距的代价 在集群规模下，单个GPU的罕见故障会不断累积。即使每块GPU在某一天无故障运行的概率为99.9%，一个跨越10,000块GPU的作业当天不中断完成的概率也只有 0.99910,000 ≈ 0.005%。这解释了为什么，在 Meta 对 24,000 块 A100 GPU 进行的为期 11 个月的研究硬件故障中断的任务不足1%，但这些任务却占用了19%的GPU运行时间：规模最大、运行时间最长的任务面临的风险最高。 NVIDIA Recovery 可自动完成集群内各训练工作负载的恢复，无论小型还是大型分布式运行都适用。在许多较小的作业中，中断会不断累积，加重运维负担。在大型作业中，每次中断影响的 GPU 更多，放大了恢复的计算成本。自动恢复可同时应对这两项挑战。 我们的生产环境观察结果凸显了对这种高效、自动化恢复的需求，它需要能够扩展到集群中的各类工作负载：从7月9日到10月9日，在一个训练集群上运行的NVIDIA Recovery监控每天覆盖近200个
匹配字段正文
NVIDIA 发布面向物理 AI 的 Cosmos Framework 和 Cosmos NIM，前者提供训练、强化学习、优化与推理的模块化工具和智能体技能，后者以容器形式提供加速推理服务。Cosmos 3 Nano 仿真配方可从已发布 checkpoint 生成同步的相机视频与 LiDAR 观测，覆盖自动驾驶、机器人和手术场景。NIM 通过量化、投机解码和 KV-cache 感知路由，在 H200 上实测约 2–3 倍加速，Cosmos3-Nano 生成任务在 BF16 下需 58 GiB 显存。
F PROFILE=latency \ -v "$LOCAL NIM CACHE:/opt/nim/.cache" \ "$NIM IMAGE" 等待就绪（约几分钟），然后检查所选模型和配置： curl -fsS http://localhost:8000/v1/health/ready curl -fsS http://localhost:8000/v1/metadata | python3 -m json.tool 要检查启动进度，请运行 docker logs -f cosmos3-generator 在另一个终端中。现在你可以开始生成了。 选择延迟或吞吐量： 延迟 （默认）: 优先更快完成单个请求。选择它进行交互式实验；受支持的多 GPU 配置会在单个请求中同时使用多个 GPU。 吞吐量: 随时间推移优先完成更多请求。选择它用于数据集生成或并发用户；独立副本并行处理请求。 设置 NIM PERF PROFILE 在容器启动时。这些设置适用于 Generator；吞吐量优势需要并发请求。延迟模式支持 1、2、4 或 8 块 GPU，而吞吐量模式需要 2、4 或 8 块兼容 GPU
匹配字段正文
天数智芯首次实机演示通用GPU天垓300和端侧算力终端TY1200，并预告标称算力600T的下一代端侧产品TY2000。天垓300有144GB显存，在64K长上下文下Attention性能为H200的1.05倍，GLM-5.3模型下MoE吞吐为H200的1.15倍；TY1200为300 TOPS INT8稠密算力，实测TPS超越英伟达Thor T5000。天垓300 IXL144超节点在单机柜集成144颗GPU、聚合约10.1TB显存，每百万有效Token成本较国际主流方案降低约40%。
下，天垓300的Agent首字延迟较H200降低约10%—30%；多模态生成推理吞吐，天垓300相较H200提升约2%—5%；在搜广推等在线业务中，推荐推理吞吐提升21%、轻量计算时延降低26%。 训练方面，在基于Qwen3-32B模型的8卡整机FP8精度训练演示中，天垓300每卡有效吞吐达到H100的1.33倍。 强化学习已成为OpenAI、Google、Meta、xAI以及DeepSeek、Qwen、MiniMax、Kimi等国内外主力模型公开采用的核心后训练路线。据条件性工程估算，天垓300以1024张卡对已有预训练基座开展一次强化学习，在40B激活参数的中心情景下，约26天可完成约1T总参数MoE模型的500亿生成Token强化学习任务。 单天逸现场实测了天垓300与H200在文生图、文生视频方面的性能。 其生成了“一个亚麻发色、穿白色连衣裙的女生在冰面行走，赛博朋克风格”的图片，天垓300 4秒就生成了第一张图片。 此外，其现场生成了“豆包穿着骑士装迎娶奶龙”的视频。天垓300的吞吐量为0.628，相比H200更高，且任务的完成速度、服务端的推理速度更快。 在规模化交付层面，
匹配字段正文