Qwen 3 pour RAG (llm, embedding, reranking) est une solution IA open source conçue pour la génération augmentée de récupération (RAG). Elle combine trois modèles principaux : les modèles d’embedding pour trouver des documents pertinents, les modèles de reranking pour classer les meilleurs résultats, et un LLM puissant pour générer des réponses claires et précises. Qwen 3 prend en charge les longs contextes, plusieurs langues et est facile à utiliser, ce qui le rend idéal pour construire des systèmes intelligents de recherche et de questions-réponses.
Comment fonctionnent ensemble les modèles LLM, Embedding et Reranking ?
1. Modèles d’Embedding : Comprendre la récupération
Objectif :
Trouver des informations pertinentes dans une grande collection de documents.
Fonctionnement :
- Chaque document (ou fragment de texte) est converti en un vecteur (un tableau de nombres) à l’aide d’un modèle d’embedding (par exemple, OpenAI Ada, Sentence Transformers).
- La requête de l’utilisateur est également convertie en vecteur.
- Le système recherche les vecteurs de documents les plus similaires au vecteur de requête (en utilisant des mesures de similarité comme la similarité cosinus).
- Les N documents les plus similaires sont récupérés.
2. Modèles de Reranking : Améliorer la pertinence
Objectif :
Affiner les résultats de l’étape de récupération par embedding en les classant plus précisément en fonction de leur pertinence par rapport à la requête.
Fonctionnement :
- L’ensemble initial des documents récupérés (par exemple, les 20 premiers) est ensuite évalué à l’aide d’un reranker.
- Les rerankers utilisent souvent des modèles cross-encoder (comme BERT, RoBERTa) qui prennent à la fois la requête et chaque document en entrée et produisent un score de pertinence.
- Les documents les mieux classés sont sélectionnés pour l’étape suivante.
3. LLM (Large Language Model) : Générer des réponses
Objectif :
Générer une réponse cohérente et informative basée sur le contexte récupéré.
Fonctionnement :
- Les documents les mieux classés sont concaténés ou résumés sous forme de « contexte ».
- Le LLM reçoit la question de l’utilisateur et le contexte récupéré comme prompt.
- Le LLM génère une réponse, en citant ou en utilisant idéalement les informations récupérées.
Comment ils fonctionnent tous ensemble (Pipeline RAG)
- L’utilisateur soumet une requête.
- Le modèle d’embedding récupère les documents pertinents.
- Le reranker trie ces documents par pertinence.
- Le LLM utilise les meilleurs documents pour générer une réponse.
Quels sont les modèles Qwen 3 pour RAG ?
Modèle d’Embedding Qwen 3
| Modèle | Taille | Couches | Longueur de séquence | Dimension d’embedding | Support MRL | Instruct Aware |
|---|---|---|---|---|---|---|
| Qwen3 Embedding 0.6B | 0.6B | 28 | 32K | 1024 | Oui | Oui |
| Qwen3 Embedding 4B | 4B | 36 | 32K | 2560 | Oui | Oui |
| Qwen3 Embedding 8B | 8B | 36 | 32K | 4096 | Oui | Oui |
Modèle Reranker Qwen 3
| Modèle | Taille | Couches | Longueur de séquence | Instruct Aware |
|---|---|---|---|---|
| Qwen3-Reranker-0.6B | 0.6B | 32 | 32K | Oui |
| Qwen3-Reranker-4B | 4B | 36 | 32K | Oui |
| Qwen3-Reranker-8B | 8B | 36 | 32K | Oui |
Modèle LLM Qwen 3
| Modèle | Architecture | Paramètres (Total / Activés) | Couches | Têtes d’attention (Q / KV) | Experts (Total / Actifs) | Fenêtre de contexte (tokens) |
|---|---|---|---|---|---|---|
| Qwen3-235B-A22B | MoE | 235B / 22B | 94 | 64 / 4 | 128 / 8 | 32 768 (131 072 avec YaRN) |
| Qwen3-30B-A3B | MoE | 30,5B / 3,3B | 48 | 32 / 4 | 128 / 8 | 32 768 (131 072 avec YaRN) |
| Qwen3-32B | Dense | 32,8B | 64 | 64 / 8 | - | 32 768 (131 072 avec YaRN) |
| Qwen3-14B | Dense | 14,8B | 40 | 40 / 8 | - | 32 768 (131 072 avec YaRN) |
| Qwen3-8B | Dense | 8,2B | 36 | 32 / 8 | - | 32 768 (131 072 avec YaRN) |
| Qwen3-4B | Dense | 4,0B | 36 | 32 / 8 | - | 32 768 (131 072 avec YaRN) |
| Qwen3-1.7B | Dense | 1,7B | 28 | 16 / 8 | - | 32 768 |
| Qwen3-0.6B | Dense | 0,6B | 28 | 16 / 8 | - | 32 768 |
Pourquoi les développeurs passent à Qwen3 pour RAG ?
| Fonctionnalité | Qwen 3 |
|---|---|
| Fenêtre de contexte longue | 32 000 tokens |
| Plusieurs tailles de modèles | 0.6B / 4B / 8B |
| Support multilingue | 100+ langues |
| Architectures avancées | Les modèles Reranker utilisent une architecture cross-encoder / Les modèles Embedding utilisent une architecture bi-encoder |
| Open source | Apache-2.0 |
| Conscience des instructions | Conscient des instructions : prend en charge la compréhension et le suivi d’instructions spécifiques |
Les performances des modèles Qwen 3
Vous pouvez consulter l’évaluation des modèles d’embedding sur ce leaderboard !
Comment accéder aux modèles Qwen 3 ?
Novita AI est une plateforme cloud IA qui offre aux développeurs un moyen simple de déployer des modèles IA via notre API simple, tout en fournissant un cloud GPU abordable et fiable pour construire et passer à l’échelle.
En plus de Qwen 3 Reranker 8B et Embedding 8B, Novita AI propose également bge-m3 gratuitement pour soutenir le développement de la communauté open source !
Étape 1 : Connectez-vous et accédez à la Model Library
Connectez-vous à votre compte et cliquez sur le bouton Model Library.
Essayez les modèles Qwen 3 dès maintenant !
Étape 2 : Choisissez votre modèle et démarrez un essai gratuit
Parcourez les options disponibles et sélectionnez le modèle qui correspond à vos besoins.
Étape 3 : Obtenez votre clé API
Pour vous authentifier auprès de l’API, nous vous fournirons une nouvelle clé API. Rendez-vous sur la page « Settings » (Paramètres) et copiez la clé API comme indiqué sur l’image.
Étape 4 : Installez l’API (Exemple : modèle Qwen 3 Ranker)
Installez l’API à l’aide du gestionnaire de paquets spécifique à votre langage de programmation.
Après l’installation, importez les bibliothèques nécessaires dans votre environnement de développement. Initialisez l’API avec votre clé API pour commencer à interagir avec les modèles de Novita AI. Voici un exemple d’utilisation de l’API chat completions pour les utilisateurs Python.
from openai import OpenAI
base_url = "https://api.novita.ai/v3/openai"
api_key = "<Your API Key>"
model = "qwen/qwen3-reranker-8b"
client = OpenAI(
base_url=base_url,
api_key=api_key,
)
stream = True # or False
max_tokens = 1000
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
extra_body={
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
Alors que les applications IA exigent une compréhension plus précise de l’intention de l’utilisateur, les modèles de reranking sont devenus des outils essentiels pour fournir des résultats de recherche plus intelligents. Agissant comme une deuxième couche d’intelligence après la récupération initiale, les rerankers affinent le classement des documents à l’aide d’une analyse contextuelle plus poussée. La série Qwen 3 Reranker établit une nouvelle référence dans ce domaine, offrant des performances impressionnantes dans plusieurs langues, pour les longs documents et même pour les tâches de récupération de code. Grâce à un déploiement simplifié via Novita AI, les développeurs peuvent exploiter ces modèles avancés sans infrastructure lourde, rendant la récupération de haute précision plus accessible que jamais.
Foire aux questions
Qu’est-ce qu’un modèle de reranking ?
Un reranker réordonne une liste de documents récupérés en évaluant leur pertinence par rapport à une requête, améliorant ainsi la précision dans les systèmes de recherche IA.
En quoi un reranker est-il différent d’un modèle d’embedding ?
Modèle d’embedding : Convertit chaque texte en un vecteur et les compare par similarité.
Modèle de reranking : Lit à la fois la requête et le document ensemble et produit un score intelligent de pertinence.
Quelles sont les performances du Qwen 3 Reranker ?
Qwen3-Reranker-8B atteint des scores de premier plan :
MTEB-R : 69.02,
CMTEB-R : 77.45,
MTEB-Code : 81.22
Il surpasse des modèles populaires comme BGE et GTE dans plusieurs catégories.
Novita AI est la plateforme cloud tout-en-un qui alimente vos ambitions IA. API intégrées, serverless, instance GPU — les outils rentables dont vous avez besoin. Éliminez l’infrastructure, commencez gratuitement et concrétisez votre vision IA.
