← 返回 Sardaana AI
谷歌 DeepMind 发布 EmbeddingGemma 2:把文本、代码、图像、视频和音频放进同一检索空间的小型开放模型
EmbeddingGemma 2 拥有 7.4 亿参数,可在手机上运行,采用 Apache 2.0 许可。应用可借此在本地、无需上传云端,例如用一段语音备忘录找到某个视频片段。
谷歌 DeepMind 于 2026 年 10 月 6 日 发布开放 嵌入模型 EmbeddingGemma 2——这类模型把内容转换成向量,供应用检索和匹配。谷歌称,第一代 EmbeddingGemma(2025 年,仅支持文本)下载量已超过 2000 万次。
新在哪里
- 五种输入,一个空间: 文本、代码、图像、视频和音频被映射到共享的 768 维 向量空间,例如可以用语音备忘录找到视频片段,或用文字查询检索数小时的录音。
- 小巧且模块化: 总参数 7.4 亿——2.7 亿参数的文本模型,加上 1.7 亿参数的视觉编码器和 3 亿参数的音频编码器。开发者可只加载所需部分(仅文本和代码为 2.7 亿)。
- 基于 Gemma 4 架构,采用允许商用的 Apache 2.0 许可;权重已在 Hugging Face 和 Kaggle 上发布。
- 上下文窗口 8192 个 token,是第一代的四倍。向量可截短到 512、256 或 128 维以节省存储。
- 谷歌称,MTEB Code 得分从 68.76 提升到 78.68,并称在 10 亿参数以下的多模态嵌入模型中成绩领先。
- 谷歌表示,在 Pixel 11 Pro 上经量化后,纯文本版本约需 191 MB 运行内存,完整多模态模型约需 567 MB。
谷歌列出的局限
模型卡指出,EmbeddingGemma 2 未 经过训练后的安全对齐;在其支持的 100 多种语言之间表现可能不均;应以 bfloat16 或 float32 运行,因为 float16 可能产生错误的嵌入。基准数据均来自谷歌自身。