立即推薦朋友，**你們兩人皆可獲得 $10 LLM API 額度 **，最高可享 $500 總獎勵！
Llama 3.2 1B、Qwen2.5 7B、Qwen 3（0.6B、1.7B、4B）、GLM 4 — 全部現已於 Novita AI 上線，無須花費即可加速您的專案！
重排序模型（Reranker model）在 AI 搜尋系統中扮演關鍵角色，透過優化初始檢索結果的排序來提升準確度。
Qwen 3 Reranker 8B 在多語言與程式碼相關任務上展現了卓越的基準測試表現。透過 Novita AI 的 API 平台輕鬆存取，開發者現在可以有效率地將強大的重排序功能整合到應用程式中。
什麼是重排序模型（Reranker Model）？
重排序模型是一種專門的 AI 模型，根據文件與特定查詢的相關性，對初始檢索到的一組文件或項目進行重新排序。通常，在初始檢索階段（使用 BM25 或基於 Embedding 的搜尋等方法）之後，重排序模型會更精確地評估前 K 個結果，以確保最相關的項目被優先呈現。
圖片來源：mongodb
重排序模型是對查詢與檢索文件分配相關性分數的模型。透過根據相關性對文件進行評分，重排序模型能夠選出初始檢索文件中最相關的子集，從而提升檢索準確度。
重排序模型解決的問題
- 提升相關性：優化初始搜尋結果，使其更符合使用者意圖。
- 減少雜訊：過濾掉較不相關的項目，提升資訊品質。
- 改善 RAG 系統：在 RAG 流程中，確保產生回應時使用的是最相關的文件。
如何評估重排序模型
- MTEB-R：來自 MTEB（大規模文字嵌入基準）的英文檢索任務。
- CMTEB-R：來自 MTEB 的中文檢索任務（重點評估中文語言的表現）。
- MMTEB-R：多語言檢索任務（跨多種語言進行評估）。
- MLDR：多語言長文件檢索（測試各種語言中的長文本檢索能力）。
- MTEB-Code：程式碼相關檢索任務的基準測試（例如程式碼搜尋、理解）。
- FollowIR：衡量模型在搜尋查詢中遵循複雜使用者指令的能力。
重排序模型 vs. Embedding 模型
| 方面 | Embedding 模型 | 重排序模型 |
|---|---|---|
| 功能 | 基於向量相似度檢索文件 | 根據相關性重新排序檢索到的文件 |
| 效率 | 高（適合大規模檢索） | 較低（用於對較小集合重新排序） |
| 準確度 | 中等 | 高 |
| 使用案例 | 初始檢索 | 檢索後的精煉 |
什麼是 Qwen 3 Reranker 模型？
| 模型 | 大小 | 層數 | 序列長度 | 指令感知 |
| Qwen3-Reranker-0.6B | 28 | 32K | 32K | 是 |
| Qwen3-Reranker-4B | 4B | 36 | 32K | 是 |
| Qwen3-Reranker-8B | 8B | 36 | 32K | 是 |
Qwen 3 Reranker 模型如何運作？
圖片來源：Qwen
Embedding
目標：將文字轉換為向量，以便有效率地搜尋與比較。
-
輸入：
{指令} + {查詢} / {文件} [EOS]- 模型以組合輸入格式看到 查詢 與 文件。
-
它會通過 Qwen3 模型，並在結尾（
[EOS]處）取用一個隱藏狀態（類似「摘要向量」）。 -
該向量即成為 embedding — 一種以數字表示文本的方式，以便我們能與其他文本 ** 進行比較**。
Reranker
目標：給出一個智慧分數，說明文件與查詢的匹配程度。
-
輸入：
{指令} + {查詢} + {文件} Assistant:- 這是一個更詳細的輸入 — Qwen3 能同時看到查詢與文件，像是 並排閱讀 兩者。
-
模型使用 跨編碼器（cross-encoder）設定，深度比較兩個文本。
-
然後，LM head（語言模型頭）給出一個分數（例如「是」的機率）。
- 這個分數告訴我們：「這份文件與查詢的相關性如何？」
Qwen 3 Reranker 模型的基準測試
| 模型 | 參數量 | MTEB-R | CMTEB-R | MMTEB-R | MLDR | MTEB-Code | FollowIR |
|---|---|---|---|---|---|---|---|
| Jina-multilingual-reranker-v2-base | 0.3B | 58.22 | 63.37 | 63.73 | 39.66 | 58.98 | -0.68 |
| gte-multilingual-reranker-base | 0.3B | 59.51 | 74.08 | 59.44 | 66.33 | 54.18 | -1.64 |
| BGE-reranker-v2-m3 | 0.6B | 57.03 | 72.16 | 58.36 | 59.51 | 41.38 | -0.01 |
| Qwen3-Reranker-0.6B | 0.6B | 65.80 | 71.31 | 66.36 | 67.28 | 73.42 | 5.41 |
| Qwen3-Reranker-4B | 4B | 69.76 | 75.94 | 72.74 | 69.97 | 81.20 | 14.84 |
| Qwen3-Reranker-8B | 8B | 69.02 | 77.45 | 72.94 | 70.19 | 81.22 | 8.05 |
您可以在這個排行榜上查看 embedding 模型的評估結果！
如何存取 Qwen 3 Reranker 模型？
Novita AI 是一個 AI 雲端平台，為開發者提供使用簡單 API 部署 AI 模型的簡易途徑，同時也提供價格實惠且可靠的 GPU 雲端供您建構與擴展。
除了 Qwen 3 Reranker 8B 與 Embedding 8B 之外，Novita AI 也提供免費的 bge-m3 以支援開源社群的發展！
步驟 1：登入並存取模型庫
登入您的帳戶，然後點擊 模型庫 按鈕。
步驟 2：選擇您的模型並開始免費試用
瀏覽可用的選項，選擇符合您需求的模型。
步驟 3：取得您的 API 金鑰
為了進行 API 身分驗證，我們將提供您一組新的 API 金鑰。進入「設定」頁面，您可以依照圖片指示複製 API 金鑰。
步驟 4：安裝 API
使用您程式語言專屬的套件管理器來安裝 API。
安裝完成後，將所需的程式庫匯入您的開發環境。使用您的 API 金鑰初始化 API，以便開始與 Novita AI 模型互動。以下是一個為 Python 使用者提供的使用對話補全 API 的範例。
from openai import OpenAI
base_url = "https://api.novita.ai/v3/openai"
api_key = "<Your API Key>"
model = "qwen/qwen3-reranker-8b"
client = OpenAI(
base_url=base_url,
api_key=api_key,
)
stream = True # or False
max_tokens = 1000
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
extra_body={
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
隨著 AI 應用對使用者意圖的理解要求越來越精確，重排序模型已成為提供更智慧搜尋結果的必備工具。作為初始檢索後的第二層智慧，重排序模型透過更深入的語境分析來微調文件排序。**Qwen 3 Reranker 系列 ** 在這一領域樹立了新的標竿，在語言、長文件甚至程式碼檢索任務上都展現了令人印象深刻的表現。透過 Novita AI 簡化的部署方式，開發者無需複雜基礎設施即可利用這些先進模型 — 使得高精確度的檢索比以往任何時候都更容易取得。
常見問題
什麼是重排序模型？
重排序模型透過對檢索到的文件列表進行相關性評分來重新排序，從而提升 AI 搜尋系統的精確度。
重排序模型與 Embedding 模型有何不同？
Embedding 模型：將每個文本轉換為向量，並使用相似度進行比較。
重排序模型：同時讀取查詢與文件，並給出一個智慧相關性分數。
Qwen 3 Reranker 的表現如何？
Qwen3-Reranker-8B 取得了頂尖分數：
MTEB-R：69.02，
CMTEB-R：77.45，
MTEB-Code：81.22
在多個類別中超越了 BGE 和 GTE 等熱門模型。
Novita AI 是一個全方位的雲端平台，助力您的 AI 願景。整合 API、Serverless、GPU 實例 — 符合成本效益的工具。無需基礎設施，免費開始，實現您的 AI 夢想。
