Sentence Transformers v6.0 支持多向量(Late Interaction)嵌入模型
Hugging Face 发布教程,介绍 Sentence Transformers v6.0 新增的多向量(Late Interaction、ColBERT 风格)嵌入模型支持,通过 MultiVectorEncoder 加载 PyLate、Stanford-NLP ColBERT 与 ColPali 系列 checkpoint,并用 MaxSim 算子完成打分。文中给出编码、检索、重排、索引与评测的完整代码,并对比了索引开销:4,874 条 Natural Questions 段落产生 608,414 个 token 向量,约为 MiniLM 索引的 42 倍,压缩为 fast-plaid 索引后为 92 MB。同数据同骨干训练的 LateOn 与 DenseOn 在 13 个 NanoBEIR 数据集上平均相差约 1 个 NDCG 点,LateOn 在 9 个数据集上胜出。
#教程/实践#RAG#开源生态


