Empfehlen Sie noch heute Ihre Freunde und ihr erhaltet beide 10 $ in LLM-API-Guthaben – das sind bis zu 500 $ an Gesamtbelohnungen, die auf Sie warten!
Llama 3.2 1B, Qwen2.5 7B, Qwen 3 (0.6B, 1.7B, 4B), GLM 4 – alle jetzt auf Novita AI verfügbar, um Ihre Projekte zu beschleunigen, ohne einen Cent auszugeben!
Reranker-Modelle spielen eine entscheidende Rolle bei der Verbesserung der Genauigkeit von KI-Suchsystemen, indem sie die Reihenfolge der ursprünglich abgerufenen Dokumente verfeinern.
Der Qwen 3 Reranker 8B zeigt herausragende Benchmark-Leistungen bei mehrsprachigen und codebasierten Aufgaben. Durch den einfachen Zugriff über die API-Plattform von Novita AI können Entwickler jetzt leistungsstarke Reranking-Funktionen effizient in ihre Anwendungen integrieren.
Was ist ein Reranker-Modell?
Ein Reranker-Modell ist ein spezialisiertes KI-Modell, das eine Reihe von ursprünglich abgerufenen Dokumenten oder Elementen basierend auf ihrer Relevanz für eine bestimmte Abfrage neu ordnet. Typischerweise bewertet ein Reranker nach einer ersten Abrufphase (unter Verwendung von Methoden wie BM25 oder embedding-basierter Suche) die Top-k-Ergebnisse genauer, um sicherzustellen, dass die relevantesten Elemente priorisiert werden.
Von mongodb
Reranker sind Modelle, die Relevanzbewertungen für eine Abfrage und abgerufene Dokumente zuweisen. Durch die Bewertung der Dokumente nach Relevanz verbessern Reranker die Abrufgenauigkeit, indem sie die relevanteste Teilmenge der ursprünglich abgerufenen Dokumente auswählen.
Probleme, die Reranker-Modelle lösen
- Verbesserung der Relevanz: Sie verfeinern die ursprünglichen Suchergebnisse, um sie besser an die Benutzerabsicht anzupassen.
- Rauschreduzierung: Durch das Herausfiltern weniger relevanter Elemente verbessern sie die Qualität der präsentierten Informationen.
- Verbesserung von RAG-Systemen: In RAG-Pipelines stellen Reranker sicher, dass die relevantesten Dokumente zur Generierung von Antworten verwendet werden.
Wie bewertet man Reranker-Modelle?
- MTEB-R: Englische Retrieval-Aufgaben aus dem MTEB (Massive Text Embedding Benchmark).
- CMTEB-R: Chinesische Retrieval-Aufgaben aus MTEB (Schwerpunkt auf chinesischer Sprachleistung).
- MMTEB-R: Mehrsprachige Retrieval-Aufgaben (Bewertung über mehrere Sprachen hinweg).
- MLDR: Mehrsprachiges Long Document Retrieval (testet das Abrufen langer Texte in verschiedenen Sprachen).
- MTEB-Code: Benchmarks für codebezogene Retrieval-Aufgaben (z. B. Codesuche, -verständnis).
- FollowIR: Misst, wie gut Modelle komplexe Benutzeranweisungen in Suchabfragen befolgen.
Reranker-Modelle vs. Embedding-Modelle
| Aspekt | Embedding-Modelle | Reranker-Modelle |
|---|---|---|
| Funktion | Dokumente basierend auf Vektorähnlichkeit abrufen | Abgerufene Dokumente basierend auf Relevanz neu ordnen |
| Effizienz | Hoch (geeignet für groß angelegte Abrufe) | Niedriger (wird für die Neuordnung einer kleineren Menge verwendet) |
| Genauigkeit | Mittel | Hoch |
| Anwendungsfall | Erstmaliger Abruf | Verfeinerung nach dem Abruf |
Was sind die Qwen 3 Reranker-Modelle?
| Modell | Größe | Schichten | Sequenzlänge | Befehlsbewusst |
| Qwen3-Reranker-0.6B | 28 | 32K | 32K | Ja |
| Qwen3-Reranker-4B | 4B | 36 | 32K | Ja |
| Qwen3-Reranker-8B | 8B | 36 | 32K | Ja |
Wie funktionieren die Qwen 3 Reranker-Modelle?
Von Qwen
Embedding
Ziel: Text in einen Vektor umwandeln, damit Sie effizient suchen und vergleichen können.
- Eingabe:
{Anweisung} + {Abfrage} / {Dokument} [EOS]- Das Modell sieht die Abfrage und das Dokument in einem kombinierten Eingabeformat.
- Es durchläuft das Qwen3-Modell und nimmt am Ende (wo
[EOS]ist) einen versteckten Zustand (wie einen „Zusammenfassungsvektor“). - Dieser Vektor wird zum Embedding – eine Möglichkeit, den Text in Zahlen darzustellen, sodass wir ihn mit anderen vergleichen können.
Reranker
Ziel: Eine intelligente Bewertung abgeben, die angibt, wie gut das Dokument zur Abfrage passt.
- Eingabe:
{Anweisung} + {Abfrage} + {Dokument} Assistant:- Dies ist eine detailliertere Eingabe – Qwen3 sieht die Abfrage und das Dokument zusammen, als würde es sie nebeneinander lesen.
- Das Modell verwendet ein Cross-Encoder-Setup, bei dem es die beiden Texte tiefgreifend vergleicht.
- Dann gibt der LM-Head (Language Model Head) eine Bewertung (z. B. Wahrscheinlichkeit von „ja“).
- Diese Bewertung sagt uns: „Wie relevant ist dieses Dokument für die Abfrage?“
Benchmark der Qwen 3 Reranker-Modelle
| Modell | Param | MTEB-R | CMTEB-R | MMTEB-R | MLDR | MTEB-Code | FollowIR |
|---|---|---|---|---|---|---|---|
| Jina-multilingual-reranker-v2-base | 0.3B | 58.22 | 63.37 | 63.73 | 39.66 | 58.98 | -0.68 |
| gte-multilingual-reranker-base | 0.3B | 59.51 | 74.08 | 59.44 | 66.33 | 54.18 | -1.64 |
| BGE-reranker-v2-m3 | 0.6B | 57.03 | 72.16 | 58.36 | 59.51 | 41.38 | -0.01 |
| Qwen3-Reranker-0.6B | 0.6B | 65.80 | 71.31 | 66.36 | 67.28 | 73.42 | 5.41 |
| Qwen3-Reranker-4B | 4B | 69.76 | 75.94 | 72.74 | 69.97 | 81.20 | 14.84 |
| Qwen3-Reranker-8B | 8B | 69.02 | 77.45 | 72.94 | 70.19 | 81.22 | 8.05 |
Die Bewertung der Embedding-Modelle finden Sie auf diesem Leaderboard!
Wie erhalte ich Zugriff auf die Qwen 3 Reranker-Modelle?
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen und gleichzeitig eine erschwingliche und zuverlässige GPU-Cloud für Aufbau und Skalierung bereitstellt.
Zusätzlich zu Qwen 3 Reranker 8B und Embedding 8B bietet Novita AI auch kostenloses bge-m3 an, um die Entwicklung der Open-Source-Community zu unterstützen!
Schritt 1: Anmelden und auf die Modellbibliothek zugreifen
Melden Sie sich in Ihrem Konto an und klicken Sie auf die Schaltfläche Modellbibliothek.
Qwen 3 Reranker 8B jetzt testen!
Schritt 2: Wählen Sie Ihr Modell und starten Sie eine kostenlose Testversion
Durchsuchen Sie die verfügbaren Optionen und wählen Sie das Modell aus, das Ihren Anforderungen entspricht.
Schritt 3: Holen Sie sich Ihren API-Schlüssel
Zur Authentifizierung bei der API stellen wir Ihnen einen neuen API-Schlüssel zur Verfügung. Rufen Sie die Seite „Einstellungen“ auf und kopieren Sie den API-Schlüssel wie im Bild gezeigt.
Schritt 4: Installieren Sie die API
Installieren Sie die API mit dem für Ihre Programmiersprache spezifischen Paketmanager.
Importieren Sie nach der Installation die erforderlichen Bibliotheken in Ihre Entwicklungsumgebung. Initialisieren Sie die API mit Ihrem API-Schlüssel, um mit der Interaktion mit den Novita AI-Modellen zu beginnen. Dies ist ein Beispiel für die Verwendung der Chat-Completions-API für Python-Benutzer.
from openai import OpenAI
base_url = "https://api.novita.ai/v3/openai"
api_key = "<Your API Key>"
model = "qwen/qwen3-reranker-8b"
client = OpenAI(
base_url=base_url,
api_key=api_key,
)
stream = True # or False
max_tokens = 1000
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
extra_body={
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Da KI-Anwendungen ein immer präziseres Verständnis der Benutzerabsicht erfordern, sind Reranking-Modelle zu unverzichtbaren Werkzeugen für intelligentere Suchergebnisse geworden. Als zweite Intelligenzebene nach dem ersten Abruf verfeinern Reranker die Dokumentenranglisten durch tiefergehende kontextuelle Analyse. Die Qwen 3 Reranker-Serie setzt in diesem Bereich einen neuen Maßstab und bietet beeindruckende Leistung bei verschiedenen Sprachen, langen Dokumenten und sogar Code-Retrieval-Aufgaben. Dank der einfachen Bereitstellung über Novita AI können Entwickler diese fortschrittlichen Modelle ohne schwere Infrastruktur nutzen – das macht hochpräzises Retrieval zugänglicher als je zuvor.
Häufig gestellte Fragen
Was ist ein Reranker-Modell?
Ein Reranker ordnet eine Liste abgerufener Dokumente neu, indem er ihre Relevanz für eine Abfrage bewertet und so die Präzision von KI-Suchsystemen verbessert.
Wie unterscheidet sich ein Reranker von einem Embedding-Modell?
Embedding-Modell: Konvertiert jeden Text in einen Vektor und vergleicht sie mittels Ähnlichkeit.
Reranker-Modell: Liest sowohl Abfrage als auch Dokument gemeinsam und gibt eine intelligente Bewertung der Relevanz ab.
Wie schneidet Qwen 3 Reranker ab?
Qwen3-Reranker-8B erzielt Spitzenwerte:
MTEB-R: 69.02,
CMTEB-R: 77.45,
MTEB-Code: 81.22
Es übertrifft beliebte Modelle wie BGE und GTE in mehreren Kategorien.
Novita AI ist die All-in-One-Cloud-Plattform, die Ihre KI-Ambitionen beflügelt. Integrierte APIs, serverlose Funktionen, GPU-Instanzen – die kosteneffizienten Tools, die Sie brauchen. Verzichten Sie auf Infrastruktur, starten Sie kostenlos und machen Sie Ihre KI-Vision zur Realität.
