Fireworks 发布 Ultra-fast 推理预览与 Sovereign 私有部署
Fireworks Announces Faster Agent Inference and Sovereign Deployment
Fireworks 在首届 Forge 大会上发布多项企业 AI 产品,其中 Ultra-fast 推理预览称在 DeepSeek V4.1 Flash 上达到最高 1500 tokens/s,30 轮智能体基准的完成时间从一分钟降到八秒。面向可延迟任务,Background Mode 以半价运行;Nexus 支持在 Codex、Claude Desktop 和 OpenCode 中路由模型,Pro 版每月 8 美元起。Fireworks Sovereign 以私有预览形式把推理引擎部署到客户自有基础设施,官方称相同硬件吞吐提升 20% 至 50%。
正文 · AI 翻译
Fireworks于2026年11月3日在首届年度Forge大会上发布了一系列企业AI产品,其中以Ultra-fast推理预览领衔,该公司称其在DeepSeek V4.1 Flash上最高达到每秒1,500个token,同时还推出了用于模型路由、评估、专用服务以及面向客户自有基础设施的Fireworks Sovereign私有预览的工具。
让推理速度与成本匹配工作负载
Ultra-fast已在NVIDIA Blackwell GPU上进入公开预览,专为多步骤智能体设计,因为在这类场景中,每次模型调用都会增加等待结果的时间。Fireworks报告称,借助Ultra-fast,其30轮智能体基准的完成时间从一分钟降至八秒。该能力面向时间敏感型工作,而对于可以等待的任务,则提供更便宜的选项。
对于可容忍延迟的工作,Background Mode以半价运行符合条件的任务,例如评估数据生成和夜间研究。多日Prompt Caching针对重复上下文的成本。更高的无服务器速率限制和Elastic Burst已全面可用,适用于更繁忙的工作负载;当存在闲置容量时,Elastic Burst可以突破客户的正常使用上限,而无需更改代码或定价。
Fireworks于2026年9月14日对DeepSeek V4.1 Flash进行的一项基准测试显示了重复上下文为何重要。在其DeepSWE运行中,99.6%的输入token为缓存命中,缓存命中费用占账单的60%。这一构成使重复上下文成为长时间运行智能体的重要成本目标,而不是将生成的输出视为唯一的支出来源。
同样的成本主题也延伸到模型专用化。Ember-1于2026年9月23日作为无服务器Research Preview推出,在Fireworks的评估中,其在质量相当的情况下比Kimi K3少用约40%的token。它可在无服务器和专用部署中使用。
Nexus Desktop与订阅定价
Fireworks Nexus在现有编码和协作工具内跨开放和封闭模型进行路由,使用个性化模型选择和缓存感知。它还为组织集中提供支出可见性和控制。Nexus Desktop与现有的Nexus CLI一同发布,Nexus可在Codex应用、Claude Desktop和OpenCode中运行。
新的Nexus Pro套餐起价为每月8美元,Teams套餐起价为每席位每月10美元。企业套餐增加了单点登录、治理、共享预算和访问控制。
Nexus Desktop文档列出了适用于Apple silicon和Intel Mac的通用macOS版本,Linux和Windows支持即将推出。CLI可在macOS和Linux上运行,通过Git Bash提供有限的Windows支持。桌面连接包括ChatGPT、Claude Code、Cursor IDE、VS Code和OpenCode,而Claude Desktop支持被描述为有限。
评估与专用模型服务
No Eval目前处于私有预览阶段,它利用生产系统的追踪和产品信号为特定任务构建评估。这些评估旨在揭示模型弱点,并显示后续训练是否能解决这些问题,从而应对原本可能需要数周数据标注和评分的工作。
专用模型推理进入公开预览,用于在Fireworks的共享无服务器池上服务LoRA适配器,最初支持GLM 5.3 Flash。客户按基础模型的无服务器价格按token付费,无需创建部署。加载适配器、保持其加载状态以及空闲时间均不收取服务费用,而训练则单独计费。
对于GLM 5.3 Flash,文档列出的费率为每百万输入token 0.15美元、每百万缓存输入token 0.03美元和每百万输出token 0.50美元。
该预览支持最高LoRA秩为64,每个账户最多可为该基础模型加载三个适配器。Fireworks文档说明加载时间低于五分钟,首次请求最多可能需要一分钟,后续请求大约为基础模型延迟,预览期间不提供延迟保证。
适配器运行在与其他客户适配器共享的GPU上。对于需要一致延迟、隔离GPU、特定区域或更高精度服务的工作负载,建议使用专用部署;无服务器则面向实验和突发流量。
企业控制与Sovereign部署
模型治理、支出控制和可导出的审计日志现已全面可用。集中账户管理、区域数据控制和客户管理加密仍处于预览阶段。
Fireworks Sovereign处于私有预览阶段,在客户的云、neocloud或数据中心运行该公司的推理引擎。推理和训练保留在客户环境中,并受其安全和变更控制政策约束。Fireworks报告称在客户环境中管理着超过25,000块GPU。
该运营模式在双方之间划分责任。Fireworks 负责集群资格认证、模型部署,并处理升级、监控、性能调优和事件响应,而客户保留架构与策略的所有权。客户负责管理入口、负载均衡、DNS、TLS 证书和经批准的出站路由。Fireworks 的控制平面使用专用的可审计凭证,出站流量仅限于模型权重和镜像拉取以及运营遥测。
Fireworks 表示,Sovereign 在相同硬件上可提供高出 20% 至 50% 的吞吐量,每硬件美元对应的 token 数约为 2.3 倍。可选的混合溢出功能会在集群饱和时,将符合条件的工作负载迁移到客户批准区域内的 Fireworks Cloud,并在需求下降时将其返回客户 GPU,且使用相同的 API。
Forge 系列将模型选择、推理经济性和基础设施控制纳入同一项企业决策。核心前提是每种选项都带有不同的运行条件:无服务器适配器无需专用容量,但在共享 GPU 上运行且不提供预览延迟保证;而 Sovereign 则将客户自有基础设施与由 Fireworks 运营的服务栈相结合。