谷歌于10月7日正式推出EmbeddingGemma 2,该模型基于Gemma 4架构开发,采用Apache 2.0许可发布,总参数为7.4亿,将嵌入能力从文本扩展到代码、图像、视频、音频,可统一映射到同一个嵌入空间。
模型采用模块化设计,纯文本任务仅需2.7亿参数,可按需添加1.7亿参数的视觉编码器和3亿参数的音频编码器。借助Matryoshka表示学习,开发者可将输出向量从768维截断至512、256或128维,本地向量数据库存储和内存占用最高可缩减6倍。
量化后在谷歌Pixel 11 Pro上,纯文本权重仅需约191MB运行内存,完整多模态模型约需567MB。模型配备8K Token上下文窗口,比初代大4倍,可在本地处理最长5.5分钟音频、29张图像、58个视频帧;MTEB Code测试成绩从68.76提升至78.68。
开发者可在Hugging Face和Kaggle下载模型权重,通过Google AI Edge MediaPipe开发跨平台应用,或使用LiteRT、transformers.js、WebGPU等方案,并兼容transformers、Ollama、LMStudio等工具。
