搜索“DeepSeek”

Together AI上线DeepSeek V4 Pro

Together AI 上线 DeepSeek V4 Pro推理服务

查看事件：Together AI上线DeepSeek V4 Pro

LMSYS 宣布 SGLang 与 Miles 发布日支持 DeepSeek-V4

2026年4月25日,LMSYS 宣布 SGLang 与 Miles 在 DeepSeek-V4 发布当天提供推理与 RL 训练支持,覆盖 1.6T Pro 和 284B Flash 两个版本。针对 DeepSeek-V4 的混合稀疏注意力、mHC 和 FP4 专家权重,团队引入 ShadowRadix 前缀缓存、HiSparse CPU 扩展 KV、MTP 投机解码等机制,并集成 FlashMLA、FlashInfer TRTLLM-Gen MoE、DeepGEMM Mega MoE 等内核。RL 侧 Miles 支持 DP/TP/SP/EP/PP/CP 六种并行策略与 FP8 训练,已在 32 张 GB300 上完成 285B 模型训练,首步 rollout 与训练 log-prob 偏差约 0.023。目前尚无后续发展事实。

Ollama Cloud 接入 Fly.io Sprites 沙箱

2026年10月13日,Ollama Cloud 接入 Fly.io Sprites 沙箱,可在其完整 Linux 虚拟机中运行,Claude Code、Codex 和 Gemini CLI 开箱即用。据 Ollama Blog 同日发布的信息,此次合作新增 Ollama Connector,让 Sprite 通过 Fly.io 网关调用 kimi-k3、glm-5.3 和 deepseek-v4.1-flash 等云端模型。API key 由 Fly.io 加密保存,Sprite 只持有网关 URL 和连接 ID,因此无法泄露密钥。新连接器默认屏蔽所有 Sprite,可按标签、名称前缀或全部开放,调用仅限 Sprite 内部发起。目前尚无后续发展事实。

LMSYS 宣布 SGLang 与 Miles 在发布日支持 DeepSeek-V4

LMSYS 宣布 SGLang 与 Miles 在发布日支持 DeepSeek-V4 的推理与 RL 训练

查看事件：LMSYS 宣布 SGLang 与 Miles 发布日支持 DeepSeek-V4

Together AI推出Together Compiler

2026年11月4日,Together AI发布Together Compiler(TKCC),这是一个用高吞吐智能体持续优化推理负载的编译系统。官方称其在不到24小时内于Kimi K3、GLM 5.3、MiniMax M3.1-Flash、DeepSeek v4.1-Flash等前沿开源模型上实现TPS提升;两篇官方博文分别给出最高2.6倍与1.3-3倍的表述。该系统在SemiAnalysis的InferenceX低延迟基准上取得MiniMax M3.1-Flash 1111 TPS、DeepSeek v4.1-Flash 1205 TPS的当前最好成绩,并在Llama 1B batch size 1场景比开源megakernel高1.7倍。TKCC依靠持久化引擎热加载候选前向计算和快慢两级引擎平衡吞吐与保真度,实验吞吐比基线智能体优化系统高252倍,目前已用于服务每天数万亿token。

OpenRouter上线Particle-1模型

OpenRouter上线了Particle-1模型。据Particle报告,该模型基于DeepSeek V4.1 Flash后训练,在四个编码基准上比DeepSeek V4.1 Flash少用28–52%的输出token,平均少用约45%token,准确率接近基座模型。其定价为每百万输入token 0.25美元、每百万输出token 1美元,上下文窗口1.05M。目前尚无后续发展。

豆包工作向企业客户开放三方大模型服务

2026年10月29日,豆包工作向团队订阅版和企业订阅版客户开放三方大模型服务,首批接入Kimi 3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash等系列模型。据雷锋网当日报道,该功能上线后默认开启,企业无需另行向模型厂商采购或额外申请,按用量扣除企业已有的AI点数;企业可按成员、部门、群组或全员划定可用范围,并指定模型在豆包电脑端、豆包工作电脑端、豆包移动端、豆包网页端及飞书内豆包工作等场景中生效。10月30日,华尔街见闻报道称,字节跳动旗下豆包工作此次开放后,企业可直接用已有AI点数调用,无需另行采购API;该报道同时提到腾讯WorkBuddy已接入混元、GLM、MiniMax、Kimi、DeepSeek等模型,并指出多模型接入后平台还需在Harness层面协调上下文长度、工具调用和成本。目前该服务已面向上述企业客户开放。

Prime Intellect发布Prime Mega MoE训练内核

Prime Intellect 发布 Prime Mega MoE 训练内核。该内核在 DeepSeek 开源 DeepGEMM 库的 Mega MoE 内核基础上补上了融合且重叠的反向传播,使其可用于训练而非仅推理。在 prime-rl 训练器中,Qwen3 MoE 模型的完整训练步比基线快 32% 至 34%,比 TorchTitan 快 48% 至 55%;单层前向最高提速 3.11 倍(12.0 ms 降至 3.9 ms),但 Qwen3-235B-A22B 的反向仅提速 1.24 倍。该内核支持 BF16、Blackwell 上的 MXFP8 和 Hopper 上的 blockwise FP8,以 Apache 2.0 随 prime-rl 发布,通过 mega_moe 分发后端启用。

Cognition推出编码基准FrontierCode 2.0

2026年10月28日,Cognition推出编程基准FrontierCode 2.0,用于评估模型产出的代码能否真正合并,最高分的Opus 5.5也仅得45%,基准远未饱和。据Cognition博客,相比1.1版本,参考解平均多改67%的文件、89%的代码行,代码库规模大25%,任务覆盖仓库增加55%、阻断性评分标准增加43%;DeepSeek V4.1 Flash从43.9%降至19.3%,Kimi K3从44.2%降至17.7%。同日,Artificial Analysis发布Intelligence Index v5,将FrontierCode 2.0列为新增基准之一,60%评测基于私有测试集或留出答案,Claude Opus 5.5(max)以58分居首。

OpenBMB开源ForgeKernel,此前表示期待Forge系列更多成果

2026年10月28日,面壁智能OpenBMB转发Yuxuan Li发布的ForgeKernel内核优化框架消息,并表示期待后续论文和Forge系列的更多成果。该框架属于Forge系列,据称在NVIDIA SOL-ExecBench(FlashInfer-Bench)和华为CANN-Bench上测试均排名第一。10月30日,面壁智能宣布开源ForgeKernel,其智能体在约22小时内完成42轮迭代、产出32个内核版本,在NVIDIA B200上对DeepSeek V4.1 FlashMLA Prefill实现1.098倍性能,472微秒对比基线518微秒。开源内容包括优化后的融合预填充内核、论文中覆盖attention、Gated DeltaNet、Kimi Delta Attention、GEMM和卷积的内核,以及可用于优化自有内核的ForgeKernel harness。

豆包工作向企业客户开放三方大模型服务

2026年10月29日,豆包工作向团队订阅版和企业订阅版客户开放三方大模型服务,首批接入Kimi 3.1 Pro、GLM 5.3、DeepSeek V4.1 Flash等系列模型。据雷锋网当日报道,该功能上线后默认开启,企业无需另行向模型厂商采购或额外申请,按用量扣除企业已有的AI点数;企业可按成员、部门、群组或全员划定可用范围,并指定模型在豆包电脑端、豆包工作电脑端、豆包移动端、豆包网页端及飞书内豆包工作等场景中生效。10月30日,华尔街见闻报道称,字节跳动旗下豆包工作此次开放后,企业可直接用已有AI点数调用,无需另行采购API;该报道同时提到腾讯WorkBuddy已接入混元、GLM、MiniMax、Kimi、DeepSeek等模型,并指出多模型接入后平台还需在Harness层面协调上下文长度、工具调用和成本。目前该服务已面向上述企业客户开放。

查看事件：豆包工作向企业客户开放三方大模型服务

LMSYS发布SGLang AWS Trainium插件Beta

2026年10月22日,LMSYS与AWS合作发布SGLang Trainium插件Beta,该插件基于新发布的TorchNeuron构建,在Trainium2和Trainium3上支持LLM推理服务与RL rollout生成。初始覆盖Qwen3(dense)、Qwen3-MoE-30B-A3B、DeepSeek-V2-Lite、GLM-4和GLM-5.2/5.3,并支持数据并行、张量并行、专家并行、Radix Cache、BF16/FP8和异步调度。首次端到端异构RL运行中,SGLang在Trainium3上为Qwen3-MoE-30B-A3B生成rollout,Miles在单台H200节点上用Megatron训练GRPO策略。Beta目前仅限少量团队参与。次日,Amazon宣布开源TorchNeuron,这是一个把PyTorch代码转换为可在AWS Trainium上执行的操作的后端,已在其他加速器上运行的PyTorch代码几乎无需改动即可迁移。

Modal推出LLM训练库Modal Dojo

Modal于2026年10月21日发布LLM训练库Modal Dojo。据Modal官方工程博客介绍,该库提供调好的默认配方、可改参数和开箱即用的指标观测面板,支持从5亿到数万亿参数的模型;它基于Miles、Slime等开源框架构建,可从Hugging Face加载数据集,并通过CLI让智能体查询运行状态、日志和轨迹。同一来源还称,Axiom Bio已用它启动64k上下文的DeepSeek V4.1 Flash训练,运行在64张B300上。目前尚无后续独立发展事实。

RadixArk SGLang团队开源SGLang-TorchTPU

RadixArk 的 SGLang 团队开源了 SGLang-TorchTPU。据 LMSYS Blog 2026 年 10 月 20 日发布的信息,该团队联合 Google 和 Meta 推出这一基于 PyTorch 的原生后端,把 SGLang 的完整服务栈带到 Google Cloud TPU,并已在 Meta 大规模生产环境使用。首发支持 Muse Spark Open、GLM-5.3、Kimi K3、DeepSeek V4、Qwen3.8、Gemma 4 等模型,覆盖投机解码、KV cache 卸载、PD 分离和 FP8 KV cache 等功能。团队还用 TorchTitan 与 Miles 在单台 4 芯片 TPU v7x 上完成 Qwen3-4B 的 GRPO 训练,奖励曲线与 6 张 H200 基线在随机波动范围内一致。目前尚无后续发展事实。

aipoch_ai 开源发布 Open-Science 桌面应用

2026年10月15日,aipoch_ai 开源发布 Open-Science 桌面应用。据 Testing Catalog 10月17日报道,该应用名为 Open-Science V 1.0.0,让 AI 智能体承担读论文、用 Python 和 R 分析数据等科研任务;支持 OpenAI、Anthropic、DeepSeek 等模型及本地模型,项目可导出为 .science 文件在另一台电脑打开续做,默认将文件、项目和研究记录保存在本地,支持 macOS、Windows 和 Linux,源码采用 Apache 2.0 许可。官方示例中,智能体分析了 278 名乳腺癌患者的公开数据,检验肿瘤内免疫细胞排布是否有助于预测生存,任何人都能打开该文件查看每张图背后的代码并 fork 出新运行。Rohan Paul 10月20日报道称,该工作台支持 Python 或 R notebook、AlphaFold2 和 ESM-2 等科学技能,以及 PubChem、GTEx、cBioPortal 等数据库连接,每个输出存为不可变、带校验和的版本,并提供溯源视图和隔离回放;智能体引擎可选 Claude

Inworld 推出面向消费级 AI 应用的推理 API

2026年10月15日,Inworld 推出 Inworld Inference,一个面向消费级 AI 应用的 LLM 推理 API。据 Testing Catalog 报道,该 API 支持 Gemma 4、GLM、DeepSeek 和 MiMo 等开源模型。官方称在 Gemma 4 26B 上首 token 中位延迟为 0.17 秒,对比 OpenRouter 上其他供应商中位值 0.61 秒快 3.6 倍;95 分位为 0.31 秒对 2.42 秒,快 7.8 倍。开发者还可设置首个模型失败或耗时过长时自动切换到备用模型。目前尚无后续发展事实。

智谱在ZCode开启GLM-5.3 HighSpeed测试

2026年10月12日,智谱在其AI编程工具ZCode中开启高速旗舰模型GLM-5.3 HighSpeed的测试。据智东西报道,AI编程博主Leo称已灰度到该模型,输出速度超过490 tokens/s;作为对比,AI Ping数据显示DeepSeek V4.1 Flash官方API输出速度为121.34 tokens/s,智谱官方GLM-5.3 API为70.84 tokens/s。该模型目前只对ZCode订阅用户随机开放,没有明确的内测申请入口,拥有100万token上下文窗口,最多可一次性输出131072个token。目前尚无进一步有证据的发展。

Lovart发布2.0版本并推出个人设计Agent Arti

Lovart于2026年10月19日发布2.0版本,并推出个人设计Agent“Arti”。据智东西同日报道,Arti能记住用户的设计习惯与审美,并全天候在线执行定时设计任务;其具备画布巡检、设计调研、自动更新记忆、自进化技能和反馈改稿等能力,其中画布巡检和调研的主动触发需升级会员。报道还称,智东西用Arti为DeepSeek设计了一版鲸系男性二次元形象,并测试了Q版立绘、调研报告插入对话和按巡检意见改稿等流程。目前该消息来自单一来源报道,尚无后续发展事实。

LMSYS推出SGLang低延迟模式,NVIDIA与AMD GPU推理提速

LMSYS于2026年10月18日发布SGLang Low-Latency Mode,通过插件框架把专用kernel接入SGLang,在NVIDIA和AMD GPU上降低推理延迟。据LMSYS Blog介绍,在四块NVIDIA GB300上回放AgentX trace,单并发会话的P90每用户token生成速度从671.2提升到928.4 tokens/s,为1.38倍;在四块AMD MI355X上四并发会话从331.6提升到516.0 tokens/s,为1.56倍。NVIDIA侧kernel位于sgl-nvidia-mega,AMD侧位于sgl-amd-mono,均针对DeepSeek-V4.1-Flash与DSpark的验证和草稿执行做优化。目前尚无后续发展事实。

Hao AI Lab 推出开源机器人智能体框架 ORA

2026年10月16日,Hao AI Lab 发布开源机器人智能体框架 ORA(Open Robot-Use Agents),由 DeepSeek V4.1-Flash 驱动,仅凭视觉输入零样本操作机器人,无需 VLA。据其公布,ORA 在 RoboTwin 上取得 69.2%、LIBERO-Pro 上 81.4%,与使用 GPT-5.5 或 Opus-4.7 的 RPent 系统同场对比;带任务专属记忆的 RPent 在 RoboTwin 为 62.4%/58.4%,用 Opus-4.7 在 LIBERO-Pro 为 82.4%。同一框架已通过机器人卡片适配 ARX X5、ALOHA 和 Franka,并在低成本机械臂上完成拉开抽屉把手、把糖果棒放进盒子的初步实机测试。按 DeepSeek 非高峰 API 价格估算,每个成功案例的模型成本约 0.30 至 0.35 美元,包含失败尝试;40 个展示片段平均 0.13 美元。目前尚无后续发展事实。