Google DeepMind发布开放多模态嵌入模型EmbeddingGemma 2

Google DeepMind 于 2026 年 10 月 6 日发布了嵌入（embedding）模型 EmbeddingGemma 2。嵌入模型会把一段内容转换成代表其含义的一串数字，即向量；含义相近的内容会得到相近的向量。借助这种方式，搜索、文档检索和相似内容归类等任务无需依赖关键词匹配。新模型可以把文本（包括代码）、图像、视频和音频映射到同一个共享空间，例如用一句文字查询就能找到视频中的某个片段或一段录音。模型文件以 Apache 2.0 许可证开放下载。

据 Google 公告介绍，该模型专为手机、笔记本电脑等设备设计，无需把数据发送到外部即可运行。示例用途包括在设备上搜索照片和视频库、基于本地文件作答的本地 RAG（检索增强生成）系统、代码库语义搜索以及内容分类。EmbeddingGemma 2 是去年发布的纯文本模型 EmbeddingGemma 的后续版本，基于 Gemma 4 架构构建。

按需加载的模块化设计

据模型卡介绍，EmbeddingGemma 2 共有 7.4 亿个参数，其中文本部分 2.7 亿，视觉编码器 1.7 亿，音频编码器 3 亿。由于视觉和音频编码器可以分别加载，只处理文本的应用只需使用 2.7 亿参数的部分；文本加图像约需 4.4 亿参数，文本加音频约需 5.7 亿参数。Google 表示，在 Pixel 11 Pro 手机上，量化版本仅处理文本时约占用 191 MB 内存，完整多模态模型约占用 567 MB。

该模型支持 100 多种语言，输出 768 维向量。借助名为 Matryoshka 表示学习的训练方法，这些向量可以缩短到 512、256 或 128 维；较短的向量占用更少的存储空间，也能加快搜索速度。上下文窗口，即模型一次能读取的输入量，为 8K 词元（token）。据模型卡介绍，单独输入时可容纳约 29 张图像、58 个视频帧或最长约 5.5 分钟的音频。文本、图像和视频可以混合在同一个输入中并生成一个向量，例如一条商品信息可以连同其描述、照片和演示视频一起建立索引。

Google 公布的评测结果

根据 Google 公布的结果，该模型在代码检索基准 MTEB Code 上把初代 EmbeddingGemma 的 68.76 分提升到 78.68 分，多语言文本基准 MTEB 的得分则从 61.15 提高到 61.36。该公司表示，在参数量低于 10 亿的多模态嵌入模型中，它在 MTEB Code 和音频基准 MAEB 上取得最高分，并在图像、视频、文档和音频任务上超过了一些规模是其两倍以上的专用模型。

本地运行方式

模型文件已在 Hugging Face（google/embeddinggemma-2）和 Kaggle 上发布。在 Python 中，借助 sentence-transformers 库只需几行代码即可使用：运行 pip install -U sentence-transformers transformers 后，用 SentenceTransformer("google/embeddinggemma-2") 加载模型，并为搜索查询和文档分别使用对应的任务前缀。据公告介绍，Ollama、llama.cpp（GGUF 文件）、LM Studio、MLX、vLLM 和 SGLang 也已支持该模型。它还可以通过 transformers.js 和 WebGPU 在浏览器中运行，并借助 Google AI Edge 的 MediaPipe 和 LiteRT 在 Android 设备上运行。公告还提到了 Unsloth 微调指南以及与 Qdrant 向量数据库的配合使用。模型卡建议在推理时使用 bfloat16 或 float32；使用 float16 时，模型可能在不报错的情况下输出错误结果。

模型卡指出，该模型支持 100 多种语言，但在各语言上的表现可能并不一致，因此在处理中文等非英文内容前，最好先用自己的样例进行测试。把向量缩短到 128 维会明显降低多模态任务的质量。该模型没有经过生成式模型那样的安全调优，过滤有害内容等防护措施需要由基于它开发应用的开发者自行实施。Google 宣布该模型将“很快”登陆 Gemini Enterprise Agent Platform 的 Model Garden。想要更全面地了解该模型，也请关注独立研究人员的评估。

来源：Google：EmbeddingGemma 2 发布公告、Hugging Face：google/embeddinggemma-2 模型卡。