Google DeepMind 发布 EmbeddingGemma 2 多模态嵌入模型
Google DeepMind 发布 EmbeddingGemma 2,这是面向端侧的多模态嵌入模型,可将文本、图像、音频和视频映射到统一嵌入空间。模型基于 Gemma 4 架构,采用 Apache 2.0 许可,参数量 7.4 亿,文本任务最低 2.7 亿参数,可选视觉(1.7 亿)和音频(3 亿)编码器。它支持 8K token 上下文窗口,是 EmbeddingGemma 1 的 4 倍,可处理约 5.5 分钟音频、29 张图片或 58 帧视频;借助 MRL 可将输出向量从 768 维截断至 512、256 或 128 维,最多减少 6 倍存储占用。在 MTEB Code 上得分从 68.76 提升至 78.68,模型权重已在 Hugging Face 和 Kaggle 开放下载。

匹配字段标题、摘要、正文


