vLLM Semantic Router 开源 Decision 3.0 多模态决策模型系列
vLLM 社区孵化的 vLLM Semantic Router 推出并开源 Decision 3.0 系列多模态决策模型,共 d3、d3-flash、d3-mini、d3-nano、d3-lite、d3-edge 六款,参数规模覆盖 0.6B 至 27B,权重已在 Hugging Face 开源。旗舰 d3 基于 Qwen3.8-27B 打造,支持输入多张图片和视频,其余 5 款基于不同参数规模的 Qwen3.5。在 Jev Decision Index 0.3.1 榜单中,d3 文本决策指数 64.7 分、公开集 65.5 分位列文本榜第一,超过 Jev 的 60.1 分,视觉榜得分 71.6 分同样第一。团队数据显示,单张 AMD Instinct MI325X GPU 上 d3 处理文本请求延迟中位数 55 毫秒,含图片请求 273 毫秒,10 秒视频请求 553 毫秒。
匹配字段标题、摘要、正文
