BGE-M3 嵌入模型現已登陸 Novita AI

理解嵌入
理解 BAAI/bge-m3 嵌入模型
為什麼嵌入很重要？
嵌入的用途
如何在 Novita AI 上使用 BAAI/bge-m3 模型
常見問題

重點摘要

嵌入模型： 嵌入模型是將複雜數據轉換為數值表示的關鍵，使 AI 能夠高效理解和處理資訊。

BAAI/bge-m3： bge-m3 模型提供多功能性，支援超過 100 種語言，並能處理短文本和長文件（最多 8192 個 token）。其多功能性和效率使其成為各類 AI 任務的理想選擇。

功能強大的 bge-m3 嵌入模型現已在 Novita AI 上線，僅需＄0.01/百萬 token。立即在 Novita AI 開始免費試用！

嵌入是現代機器學習的基石，使 AI 系統能夠高效理解和處理複雜數據。本文將深入探討什麼是嵌入、為何它們至關重要、如何應用，以及像 BAAI/bge-m3 這樣的先進模型如何提升嵌入能力以推動創新。

理解嵌入

嵌入是複雜的數值表示，使機器學習和 AI 系統能夠理解複雜的知識領域。它們將現實世界的物件轉換為數學表示，捕捉數據中的內在屬性和關係。

向量表示

嵌入的核心在於向量的概念。機器學習模型以數值方式處理資訊。向量——多維空間中的一組數值——使模型能夠識別分散數據點之間的相似性。這種數值表示至關重要，因為嵌入向量專門將非數值資訊編碼成機器學習系統可以處理和關聯的數值序列。

來源：Qdrant

嵌入是如何建立的？

工程師透過神經網路生成嵌入，過程如下：

輸入準備：將向量化樣本輸入神經網路。
學習模式：神經網路辨識數據中的模式，從中學習以對未見過的數據做出準確預測。
微調：對模型進行微調，以將輸入特徵適當地映射到所需的維度空間。
獨立運作：嵌入獨立運作，使機器學習模型能夠根據向量化表示生成推薦。
持續優化：定期使用新數據監控和微調模型，以保持準確性和適應性。

來源：LinkedIn

選擇嵌入的評估指標

評估維度	說明
檢索性能	透過評估模型檢索相關資訊能力的任務來衡量。
語義理解	衡量模型在詞彙、短語和句子層級捕捉語義資訊的能力。
特定任務性能	評估在 NLP 任務（如分類、聚類和相似度計算）中的表現。
模型大小	在模型大小與性能之間取得平衡，以利擴展。
泛化能力	測試模型在未見過數據上的表現，以適應新場景。

理解 BAAI/bge-m3 嵌入模型

模型名稱	baai/bge-m3
輸入/輸出價格（Novita）	輸入：$0.01/百萬 token
上下文大小	8192
額外參數	嵌入模型：1024 維度
主要特色	多功能性：支援稠密檢索、多向量檢索和稀疏檢索。
	多語言：支援超過 100 種語言。
	多粒度：處理從短句到長文件（最多 8192 個 token）的輸入。
	同時生成 token 權重和稠密嵌入。

下圖展示了與 mE5（最佳基準）及 OpenAI 近期發布的向量模型 API 的性能比較。整體而言，使用三種檢索方法組合的 BGE-M3(ALL) 在三項評估中均取得全面領先，而用於稠密檢索的 BGE-M3(Dense) 在多語言和跨語言檢索任務中展現顯著優勢。

MKQA 上的跨語言檢索性能（以 Recall@100 衡量），來源：Hugging Face

MIRACL 開發集上的多語言檢索性能（以 nDCG@10 衡量），來源：Hugging Face

MLDR 測試集上的多語言長文件檢索評估（以 nDCG@10 衡量），來源：Hugging Face

為什麼嵌入很重要？

增強的數據理解：嵌入透過簡化表示同時保留語義和句法關係，讓深度學習模型更好地理解真實世界數據。
降維：它們將高維數據轉換為低維空間，顯著減少處理原始數據所需的計算資源和時間。
提升數據品質：嵌入在訓練大型語言模型 (LLM) 時提升數據品質。
促成創新應用：它們為新的深度學習和生成式 AI 應用奠定基礎。
優化機器學習任務：嵌入廣泛用作文件分類、情感分析和機器翻譯等任務的特徵。透過提供豐富且壓縮的數據表示，它們提升了機器學習演算法的性能。

嵌入的用途

搜尋：根據與查詢的相關性對結果進行排序。
聚類：根據相似性對文本字串進行分組。
推薦：建議具有相關文本字串的項目。
異常檢測：識別與其他項目相似度極低的離群值。
多樣性衡量：分析相似性分佈以衡量多樣性。
分類：根據最相似的標籤對文本字串進行分類。
問答：使用基於嵌入的搜尋來檢索答案。
程式碼搜尋：使用嵌入在程式碼庫中進行高效搜尋。
數據視覺化：轉換和視覺化高維數據。

如何在 Novita AI 上使用 BAAI/bge-m3 模型

Novita AI 是一個 AI 雲端平台，為開發者提供簡單的 API 以便輕鬆部署 AI 模型，同時也提供經濟實惠且可靠的 GPU 雲端服務，用於建構和擴展。

步驟 1：登入並存取模型庫

登入您的帳戶，然後點擊 模型庫 按鈕。

立即試用 bge-m3！

步驟 2：選擇模型並開始免費試用

瀏覽可用選項，選擇適合您需求的模型。

步驟 3：取得您的 API 金鑰

為驗證 API，我們將提供一個新的 API 金鑰。進入「設定」頁面，您可以按圖中指示複製 API 金鑰。

步驟 4：安裝 API

使用您程式語言專屬的套件管理器安裝 API。

安裝完成後，將必要的函式庫匯入您的開發環境。使用您的 API 金鑰初始化 API，開始與 Novita AI LLM 互動。以下是供 Python 使用者使用的聊天補全 API 範例。

from openai import OpenAI
import json
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<Your API Key>",
)
model = "baai/bge-m3"
def get_embeddings(text, model="baai/bge-m3", encoding_format="float"):
    response = client.embeddings.create(
        model=model,
        input=text,
        encoding_format=encoding_format
    )
    return response
# Example usage
text = "The quick brown fox jumped over the lazy dog"
result = get_embeddings(text)
print(json.dumps(result.model_dump(), indent=2))

註冊 Novita AI 即可獲得 $0.5 額度，讓您輕鬆開始！

若免費額度用完，您可以付費繼續使用。

嵌入在機器學習中扮演關鍵角色，使模型能夠有效理解和處理複雜數據。像 BAAI/bge-m3 這樣的高階模型透過多功能性和廣泛的語言支援進一步提升這些能力，成為推動 AI 創新不可或缺的工具。

常見問題

什麼是嵌入？

嵌入是一種技術，用於將輸入數據轉換為低維空間中的數值向量。

為什麼嵌入很重要？

嵌入簡化了數據表示，保留了語義和句法關係，使深度學習模型能夠更有效地理解真實世界數據。

什麼是混合檢索？BAAI/bge-m3 如何支援它？

混合檢索結合了嵌入檢索和稀疏檢索方法，BAAI/bge-m3 支援這種方法以提升檢索性能。您可以在 Novita AI 上使用它！

Novita AI 是一個一站式雲端平台，助力您的 AI 抱負。整合 API、無伺服器、GPU 實例——您需要的經濟高效工具。無需基礎設施，免費開始，實現您的 AI 願景。

BGE-M3 嵌入模型現已登陸 Novita AI

重點摘要

理解嵌入