Qwen3 Reranker 8B, 이제 Novita AI에서 사용 가능: AI 검색 정확도 향상

Reranker 모델이란?
Qwen 3 Reranker 모델이란?
Qwen 3 Reranker 모델에 접근하는 방법은?

지금 친구를 추천하고 **두 분 모두 $10 상당의 LLM API 크레딧 ** 을 받으세요. 최대 $500 의 총 보상이 여러분을 기다립니다!

Llama 3.2 1B, Qwen2.5 7B, Qwen 3 (0.6B, 1.7B, 4B), GLM 4 — 모두 Novita AI에서 무료로 프로젝트를 강화할 수 있습니다!

Reranker(재순위화) 모델은 초기 검색된 문서의 순서를 정제하여 AI 검색 시스템의 정확도를 높이는 중요한 역할을 합니다.

Qwen 3 Reranker 8B는 다국어 및 코드 기반 작업에서 뛰어난 벤치마크 성능을 보여줍니다. Novita AI의 API 플랫폼을 통해 쉽게 접근할 수 있어, 개발자는 이제 강력한 재순위화 기능을 애플리케이션에 효율적으로 통합할 수 있습니다.

지금 Novita AI로 구축하기

Reranker 모델이란?

Reranker 모델은 특정 쿼리에 대한 관련성을 기준으로 초기 검색된 문서 집합의 순서를 다시 정렬하는 특화된 AI 모델입니다. 일반적으로 초기 검색 단계(BM25 또는 임베딩 기반 검색 등) 후에, Reranker는 상위 k개 결과를 더 정밀하게 평가하여 가장 관련성 높은 항목이 우선순위를 가지도록 합니다.

출처: mongodb

Reranker는 쿼리와 검색된 문서에 관련성 점수를 할당하는 모델입니다. 문서를 관련성에 따라 점수화함으로써, reranker는 초기 검색된 문서 중 가장 관련성 높은 부분 집합을 선택하여 검색 정확도를 향상시킵니다.

Reranker 모델이 해결하는 문제

관련성 향상: 초기 검색 결과를 사용자 의도에 더 잘 맞도록 정제합니다.
노이즈 감소: 관련성이 낮은 항목을 걸러내어 제시되는 정보의 품질을 높입니다.
RAG 시스템 개선: RAG 파이프라인에서 reranker는 응답 생성에 가장 적합한 문서가 사용되도록 보장합니다.

Reranker 모델 평가 방법

MTEB-R: MTEB(대규모 텍스트 임베딩 벤치마크)의 영어 검색 작업.
CMTEB-R: MTEB의 중국어 검색 작업(중국어 성능 중심).
MMTEB-R: 다국어 검색 작업(여러 언어에서 평가).
MLDR: 다국어 장문 검색(다양한 언어의 긴 텍스트 검색 테스트).
MTEB-Code: 코드 관련 검색 작업(예: 코드 검색, 이해)을 위한 벤치마크.
FollowIR: 검색 쿼리에서 복잡한 사용자 지침을 얼마나 잘 따르는지 측정.

Reranker 모델 vs 임베딩 모델

측면	임베딩 모델	Reranker 모델
기능	벡터 유사성을 기반으로 문서 검색	관련성을 기준으로 검색된 문서 재정렬
효율성	높음(대규모 검색에 적합)	낮음(더 작은 집합 재정렬에 사용)
정확도	중간	높음
사용 사례	초기 검색	검색 후 정제

https://youtu.be/1QCwtyQ7Ctc

Qwen 3 Reranker 모델이란?


모델	크기	레이어	시퀀스 길이	Instruct Aware
Qwen3-Reranker-0.6B	28	32K	32K	예
Qwen3-Reranker-4B	4B	36	32K	예
Qwen3-Reranker-8B	8B	36	32K	예

Qwen 3 Reranker 모델의 작동 방식

출처: Qwen

임베딩

목표: 텍스트를 벡터로 변환하여 효율적으로 검색하고 비교합니다.

입력: {Instruction} + {Query} / {Doc} [EOS]
- 모델은 **쿼리 ** 와 문서 를 결합된 입력 형식으로 처리합니다.
Qwen3 모델 을 통과하고, 끝([EOS] 위치)에서 숨겨진 상태(일종의 “요약 벡터”)를 가져옵니다.
이 벡터가 **임베딩 ** 이 됩니다. 즉, 텍스트를 숫자로 표현하여 다른 텍스트와 비교 할 수 있게 합니다.

Reranker

목표: 문서가 쿼리와 얼마나 잘 일치하는지 나타내는 스마트 점수를 제공합니다.

입력: {Instruction} + {Query} + {Doc} Assistant:
- 더 상세한 입력입니다. Qwen3는 쿼리와 문서를 함께 읽으면서 깊이 비교합니다.
모델은 교차 인코더 구조를 사용하여 두 텍스트를 심층 비교합니다.
그런 다음 LM 헤드(언어 모델 헤드)가 점수(예: "yes"의 확률)를 출력합니다.
- 이 점수는 “이 문서가 쿼리에 얼마나 관련성이 있는가?” 를 알려줍니다.

Qwen 3 Reranker 모델의 벤치마크

모델	매개변수	MTEB-R	CMTEB-R	MMTEB-R	MLDR	MTEB-Code	FollowIR
Jina-multilingual-reranker-v2-base	0.3B	58.22	63.37	63.73	39.66	58.98	-0.68
gte-multilingual-reranker-base	0.3B	59.51	74.08	59.44	66.33	54.18	-1.64
BGE-reranker-v2-m3	0.6B	57.03	72.16	58.36	59.51	41.38	-0.01
Qwen3-Reranker-0.6B	0.6B	65.80	71.31	66.36	67.28	73.42	5.41
Qwen3-Reranker-4B	4B	69.76	75.94	72.74	69.97	81.20	14.84
Qwen3-Reranker-8B	8B	69.02	77.45	72.94	70.19	81.22	8.05

임베딩 모델 평가는 리더보드에서 확인하세요!

Qwen 3 Reranker 모델에 접근하는 방법은?

Novita AI는 개발자가 간단한 API를 통해 AI 모델을 쉽게 배포할 수 있도록 지원하는 AI 클라우드 플랫폼입니다. 또한 구축 및 확장에 필요한 저렴하고 신뢰할 수 있는 GPU 클라우드를 제공합니다.

Qwen 3 Reranker 8B 및 Embedding 8B 외에도 Novita AI는 오픈 소스 커뮤니티 개발을 지원하기 위해 무료 bge-m3도 제공합니다!

1단계: 로그인 및 모델 라이브러리에 접속

계정에 로그인하고 Model Library 버튼을 클릭하세요.

지금 Qwen 3 Reranker 8B 사용해보기!

2단계: 모델 선택 및 무료 체험 시작

사용 가능한 옵션을 살펴보고 필요에 맞는 모델을 선택하세요.

3단계: API 키 받기

API 인증을 위해 새 API 키를 제공해 드립니다. “Settings” 페이지로 이동하여 이미지에 표시된 대로 API 키를 복사하세요.

4단계: API 설치

프로그래밍 언어에 맞는 패키지 관리자를 사용하여 API를 설치하세요.

설치 후, 필요한 라이브러리를 개발 환경에 가져오세요. API 키를 사용하여 API를 초기화하면 Novita AI 모델과 상호작용할 수 있습니다. 다음은 Python 사용자를 위한 채팅 완성 API 예제입니다.

from openai import OpenAI

base_url = "https://api.novita.ai/v3/openai"
api_key = "<Your API Key>"
model = "qwen/qwen3-reranker-8b"

client = OpenAI(
    base_url=base_url,
    api_key=api_key,
)

stream = True # or False
max_tokens = 1000

response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    extra_body={
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

AI 애플리케이션이 사용자 의도를 더 정확히 이해해야 함에 따라, reranking 모델은 더 스마트한 검색 결과를 제공하는 필수 도구가 되었습니다. 초기 검색 후 두 번째 지능 계층 역할을 하는 reranker는 더 깊은 문맥 분석을 통해 문서 순위를 세밀하게 조정합니다. **Qwen 3 Reranker 시리즈 ** 는 이 분야에서 새로운 기준을 세우며, 여러 언어, 긴 문서, 심지어 코드 검색 작업에서도 인상적인 성능을 제공합니다. Novita AI 를 통해 배포가 간소화되어 개발자는 무거운 인프라 없이도 고급 모델을 활용할 수 있어, 높은 정확도의 검색이 그 어느 때보다 접근 가능해졌습니다.

자주 묻는 질문

reranker 모델이란 무엇인가요?

Reranker는 검색된 문서 목록을 쿼리와의 관련성에 따라 점수를 매겨 재정렬하여 AI 검색 시스템의 정밀도를 향상시킵니다.

reranker와 임베딩 모델은 어떻게 다른가요?

임베딩 모델: 각 텍스트를 벡터로 변환하고 유사성을 사용하여 비교합니다.
Reranker 모델: 쿼리와 문서를 함께 읽고 관련성에 대한 스마트 점수를 제공합니다.

Qwen 3 Reranker의 성능은 어떤가요?

Qwen3-Reranker-8B 는 최고 수준의 점수를 달성했습니다:
MTEB-R: 69.02,
CMTEB-R: 77.45,
MTEB-Code: 81.22
BGE, GTE 등 인기 모델을 여러 카테고리에서 능가합니다.

Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 비용 효율적인 도구를 제공합니다. 인프라 걱정 없이 무료로 시작하여 AI 비전을 현실로 만드세요.

Qwen3 Reranker 8B, 이제 Novita AI에서 사용 가능: AI 검색 정확도 향상