vLLM 推出 IO Processor 插件框架,支持地理空间与多模态输出处理
vLLM 新增 IO Processor 插件框架,使非文本模型能在同一服务实例内完成输入预处理和输出后处理,并接入 TerraTorch 地理空间模型。插件目前用于 pooling 模型,每个 vLLM 实例可加载一个插件;Prithvi 示例可接收卫星图像 URL,并返回 base64 编码的 GeoTIFF 洪水区域预测图。相关改动尚未进入当时最新的 v0.10.1.1,复现实例需安装最新代码。

匹配字段标题


