EmbeddingGemma 2 icon

EmbeddingGemma 2

EmbeddingGemma 2 是 Google DeepMind 開放且輕量的多模態嵌入模型,將文字、程式碼、圖片、影片與音訊映射至共享嵌入空間,協助開發者打造注重隱私的本機搜尋、語意檢索、程式碼索引與裝置端 RAG 工作流程。

EmbeddingGemma 2

概覽

EmbeddingGemma 2 是 Google DeepMind 開放且輕量的多模態嵌入模型。它會將文字、程式碼、圖片、影片與音訊的組合轉換至統一嵌入空間,讓應用程式能跨媒體類型尋找語意相關內容,而不僅依賴精確關鍵字。

此模型針對注重隱私的裝置端工作流程而設計,例如本機媒體搜尋、程式碼庫索引、語意檢索與檢索增強生成。其模組化架構、可設定的向量維度與 8K token 上下文視窗,旨在協助開發者將多模態檢索整合至資源受限的本機環境。

主要功能

原生多模態嵌入

將文字、程式碼、圖片、影片與音訊映射至同一共享嵌入空間,支援不同媒體類型之間的語意比較。

裝置端推論

採用專為本機推論設計的 7.4 億參數架構;來源回報,在 Google Pixel 11 Pro 上,量化後的純文字權重約需 191 MB,而完整多模態模型約需 567 MB。

模組化模型設計

支援約 2.7 億參數的純文字設定,並可選用 1.7 億參數的視覺編碼器與 3 億參數的音訊編碼器,以處理多模態工作負載。

延伸上下文

提供 8K token 的上下文視窗,可直接在本機硬體上支援最長 5.5 分鐘的音訊、29 張圖片、58 個影片畫格,或交錯組合。

彈性向量大小

Matryoshka Representation Learning 可將向量從 768 維截短至 512、256 或 128 維;根據來源,這可讓本機向量資料庫與記憶體需求最多降低六倍。

開放的開發者生態系

此模型採用 Apache 2.0 授權發布,可搭配 Google AI Edge MediaPipe、LiteRT、transformers.js 與 WebGPU 等瀏覽器工具,以及 Google 列出的多個模型服務框架使用。

使用情境

  • 私密媒體搜尋

    在本機嵌入檔案、圖片、錄音與其他個人媒體,接著透過文字或圖片查詢檢索相關項目,而不必將來源內容傳送至遠端服務。

  • 音訊與影片片段檢索

    透過輸入文字描述或使用音訊查詢,搜尋長時間錄音或影片集合,以找出語意相關的片段。

  • 程式碼庫索引

    為本機儲存庫建立索引,並支援語意程式碼搜尋或程式碼代理檢索。來源回報,在 MTEB Code 上相較第一代 EmbeddingGemma 提升 9.92 分。

  • 裝置端 RAG

    使用 EmbeddingGemma 2 進行本機檢索,並搭配 Gemma 4 在多模態裝置端 RAG 管線中進行上下文推理。

  • 本機分類與路由

    在 MediaPipe Decision Task API 工作流程中使用多模態上下文,以進行分類、路由與預測性決策引擎處理。

Pros and Cons

Pros

  • 在同一共享空間中結合文字、程式碼、圖片、影片與音訊嵌入。
  • 專為離線或本機處理而設計,可減少資料傳輸並支援對隱私敏感的工作流程。
  • 提供模組化編碼器與可選向量維度,以因應不同的資源預算。
  • 支援本機搜尋、多模態檢索與裝置端 RAG 工作流程。
  • 採用對商業使用限制寬鬆的 Apache 2.0 授權發布。

Cons

  • 來源提供發布階段的資訊,但未詳細說明 API 行為、支援的作業系統版本、延遲基準或操作限制。
  • 完整多模態推論比純文字設定需要更多資源;來源回報完整模型的作用中 RAM 顯著較高。
  • 未提供定價與服務條款;模型採 Apache 2.0 授權發布本身並未涵蓋所有部署或託管考量。

FAQ

什麼是 EmbeddingGemma 2?

EmbeddingGemma 2 會將文字、程式碼、圖片、影片與音訊映射至共享嵌入空間,讓應用程式能透過語意相似度比較及檢索不同媒體類型。

EmbeddingGemma 2 可以在裝置端執行嗎?

此模型可在本機硬體上執行,並針對裝置端推論而設計。Google 回報,在 Google Pixel 11 Pro 上,量化後的純文字權重約需 191 MB 的作用中 RAM,而完整多模態模型約需 567 MB。

開發者如何開始使用 EmbeddingGemma 2?

開發者可以從 Hugging Face 和 Kaggle 下載模型權重。來源也列出 Google AI Edge MediaPipe、LiteRT、transformers.js、WebGPU、transformers、sentence-transformers、MLX、vLLM、llama.cpp、SGLang、Ollama 和 LMStudio,作為支援的開發或服務工具與環境。

EmbeddingGemma 2 支援哪些嵌入維度?

此模型支援可動態縮減的輸出向量,能使用 Matryoshka Representation Learning 將維度從 768 降至 512、256 或 128。來源說明,這可讓本機向量資料庫的儲存空間與記憶體使用量最多降低六倍。

EmbeddingGemma 2 的費用是多少?

發布文章未提供定價資訊。文章指出,此模型採用商業使用限制寬鬆的 Apache 2.0 授權發布,但使用者應查閱模型卡與相關文件,以了解適用條款與使用細節。

Quick Facts

類別
開發者工具;AI 嵌入模型
開發者
Google DeepMind
參數量
完整模型 7.4 億
上下文視窗
8K token
授權
Apache 2.0
模型來源
Hugging Face 和 Kaggle