Qwen3 Embedding 8B 現已於 Novita AI 上線:搜尋體驗再進化

Qwen3 Embedding 8B 現已於 Novita AI 上線:搜尋體驗再進化

傳統搜尋引擎高度依賴關鍵字比對,往往忽略了使用者查詢背後真正的意圖或上下文。嵌入模型(Embedding model)徹底改變了這個流程,能將查詢與文件轉換為捕捉深層語意的密集向量。即使關鍵字不完全相符,也能提供高度相關且具上下文感知能力的檢索結果。

現在,強大的 Qwen3 Embedding 8B 模型已於 Novita AI 上線,支援長輸入、多語言理解以及指令感知自訂功能,為搜尋、推薦及知識管理應用樹立了新標竿。

立即使用 Novita AI 建構!

什麼是嵌入模型?

嵌入模型是一種機器學習技術,能將單詞、圖片或音訊等高維度複雜資料轉換為低維度的數值向量。這些向量捕捉了資料點之間的語意關係,讓模型能更有效地處理與分析資料。

vector embedding

圖片來源:Qdrant

嵌入模型解決了哪些問題?

嵌入技術透過將查詢與文件表示為向量,實現有效的語意搜尋,從而解決 RAG(檢索增強生成)系統中檢索最相關資料以改善生成的問題。

rag

圖片來源:部落格

1. 電子商務搜尋與推薦
Instacart 和淘寶等平台運用基於嵌入的檢索系統來改善產品搜尋與推薦。透過理解產品與使用者查詢之間的語意關係,即使未使用特定關鍵字,系統也能推薦符合使用者偏好的商品。

2. 內容探索
媒體平台利用嵌入技術,根據使用者行為與偏好推薦文章、影片或音樂。例如,若使用者閱讀了一篇關於太空探索的文章,系統可能會推薦天文學或火箭技術的相關內容。

3. 企業知識管理
組織使用嵌入模型促進內部文件和知識庫的語意搜尋。即使搜尋詞與文件內容不完全吻合,員工也能有效找到相關資訊。

4. 客服聊天機器人
嵌入模型透過讓聊天機器人更有效地理解與回應使用者查詢來增強其能力。透過將使用者問題對應到知識庫中語意相似的答案,聊天機器人能提供正確且符合情境的回覆。

評估嵌入模型

以下指標與任務類別是評估及比較嵌入模型在不同應用中表現的關鍵。透過分析模型在這些領域的表現,研究人員與從業者可選擇最適合其需求的模型。

  • 平均(任務): 模型在所有評估任務中的平均表現,顯示整體通用性。
  • 平均(類型): 在不同任務類型或資料格式(例如句子對句子、段落對段落)上的平均表現。
  • 雙語文本探勘: 尋找不同語言中互為翻譯的句子對,對多語語料庫非常重要。
  • 分類: 將預定義標籤指派給文本,例如情緒或主題分類。
  • 聚類: 在無標籤情況下將相似文本分組,以發現主題或結構。
  • 實例檢索: 針對查詢檢索特定相關文件,用於搜尋或推薦。
  • 多類別分類: 將輸入分為三個以上類別,例如新聞主題。
  • 配對分類: 判斷文本對之間的關係,例如是否重複或換句話說。
  • 重新排序: 重新排列候選清單(例如搜尋結果)以改善相關性。
  • 檢索: 根據查詢從大型語料庫中取得相關文件或段落。

Qwen 3 Embedding 模型是什麼?

模型 參數量 層數 序列長度 嵌入維度 支援 MRL 指令感知
Qwen3 Embedding 0.6B 0.6B 28 32K 1024
Qwen3 Embedding 4B 4B 36 32K 2560
Qwen3 Embedding 8B 8B 36 32K 4096
  • Qwen3 Embedding 模型提供三種規格:小型(0.6B)、中型(4B)與大型(8B)。
  • 所有模型皆支援 長達 32,000 個 token 的輸入序列,適合處理長文件或程式碼。
  • 較大型模型擁有 更多層數(36 vs 28)以及更大的嵌入維度(最高 4096),能捕捉更豐富的語意資訊。
  • 支援多語言表示學習(MRL),可在多種語言中有效進行嵌入。
  • 所有模型皆具備 指令感知 能力,能回應特定任務指令或提示,提升自訂性與下游表現。

此外,Qwen3 還提供重新排序模型,幫助重新排列查詢結果,提供最相關的答案。

Qwen 3 Embedding 8B 的主要特色

qwen 3 8b key features

Qwen 3 Embedding 8B 的能力表現

benchmark of embedding models

你可以在這個排行榜查看嵌入模型的評測結果!

如何使用 Qwen 3 Embedding 8B?

Novita AI 是一個 AI 雲端平台,為開發者提供簡單的 API 來部署 AI 模型,同時也提供平價可靠的 GPU 雲端服務,用於建構與擴展應用。

除了 Qwen 3 Embedding 8B 之外,Novita AI 也提供免費的 bge-m3 模型,支援開源社群的發展!

步驟 1:登入並進入模型庫

登入您的帳戶,然後點選 「模型庫」 按鈕。

Log In and Access the Model Library

立即試用 Qwen 3 Embedding 8B!

步驟 2:選擇模型並開始免費試用

瀏覽可用選項,選擇符合您需求的模型。

qwen 3 embedding 8b model list

步驟 3:取得您的 API 金鑰

為了進行 API 驗證,我們會提供您一組新的 API 金鑰。進入 「設定」 頁面,即可依照圖片指示複製 API 金鑰。

get api key

步驟 4:安裝 API

使用您程式語言專用的套件管理器安裝 API。

安裝完成後,將必要的函式庫匯入您的開發環境。使用 API 金鑰初始化 API,即可開始與 Novita AI 模型互動。以下是使用 Python 呼叫聊天補全 API 的範例。

from openai import OpenAI
import json
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<Your API Key>",
)
model = "qwen/qwen3-embedding-8b"
def get_embeddings(text, model="qwen/qwen3-embedding-8b", encoding_format="float"):
    response = client.embeddings.create(
        model=model,
        input=text,
        encoding_format=encoding_format
    )
    return response
# 使用範例
text = "The quick brown fox jumped over the lazy dog"
result = get_embeddings(text)
print(json.dumps(result.model_dump(), indent=2))
  

Qwen3 Embedding 系列 提供可擴展、指令感知且支援多語言的模型(0.6B、4B 與 8B 參數量),支援長序列並具備業界領先的表現。憑藉靈活的自訂能力與專屬的重新排序模型,Qwen3 Embedding 系列非常適合需要高效且準確語意理解的各種實際應用場景。

常見問題

什麼是嵌入?

嵌入是一種將輸入資料轉換為低維度空間中數值向量的技術。

嵌入模型解決了哪些問題?

它們能實現語意搜尋與檢索,透過理解查詢與文件的意義,提升搜尋引擎、推薦系統、客服等方面的相關性。

Qwen3 Embedding 模型是什麼?

Qwen3-Embedding 是一個包含三種模型(0.6B、4B 與 8B 參數量)的系列,支援長輸入(最高 32K token)、多語言表示學習以及指令感知,可進行自訂任務。其中 8B 模型在 MTEB 排行榜上以 70.58 分領先!您可以在 Novita AI 上使用它!

Novita AI 是一個全方位雲端平台,助力您的 AI 願景。整合 API、無伺服器、GPU 執行個體——您需要的低成本工具。無需管理基礎設施,免費開始,讓您的 AI 夢想成真。

推薦閱讀