Novita AI의 Qwen3-VL-30B-A3B: 256K 컨텍스트를 갖춘 고급 비전-언어 모델

Novita AI의 Qwen3-VL-30B-A3B: 256K 컨텍스트를 갖춘 고급 비전-언어 모델

Qwen3-VL-30B-A3B는 300억 개의 파라미터를 사용하여 이미지, 문서, 비디오를 텍스트와 함께 처리합니다. 이 모델은 32개 언어의 OCR부터 256K 컨텍스트를 이용한 수 시간 분량의 비디오 분석까지 모든 것을 처리합니다.

Novita AI는 두 가지 변형을 호스팅합니다. Instruct는 빠르고 직접적인 응답을 제공합니다. Thinking은 복잡한 작업에 대한 추론 과정을 보여줍니다. 두 가지 모두 플레이그라운드나 API를 통해 액세스할 수 있습니다.

Qwen3-VL-30B-A3B 데모 사용해보기

Qwen3-VL-30B-A3B란?

Qwen3-VL-30B-A3B는 알리바바 클라우드의 Qwen 팀에서 개발했습니다. 이 모델은 MoE(Mixture-of-Experts) 아키텍처로, 총 305억 개의 파라미터 중 33억 개가 활성화됩니다. 이 설계는 강력한 성능을 제공하면서도 비용을 관리 가능한 수준으로 유지합니다.

이 모델은 더 작은 Qwen3-VL 변형과 플래그십 Qwen3-VL-235B-A22B 사이에 위치하며, 성능과 효율성의 균형을 맞춥니다. 235B 모델이 가장 까다로운 추론 작업에 탁월한 반면, 30B 변형은 더 낮은 비용과 더 빠른 추론 속도로 유사한 기능을 제공합니다.

주요 업그레이드는 다음과 같습니다:

  • 기본 256K 컨텍스트, 최대 1M 토큰으로 확장 가능
  • 32개 언어 OCR 지원(기존 19개에서 증가)
  • 2D 및 3D 공간 접지
  • GUI 상호작용 기능
  • 시각적 입력을 통한 코드 생성
  • 초 단위 인덱싱을 통한 비디오 이해

두 가지 변형은 서로 다른 요구를 충족합니다. Instruct는 속도에, Thinking은 복잡한 추론에 최적화되어 있습니다.

주요 기능 및 개선 사항

시각적 에이전트 기능

이 모델은 인터페이스 요소를 인식하고 PC 및 모바일 GUI에서 작업을 완료합니다. 버튼의 기능과 앱 탐색 방법을 이해합니다.

시각적 코딩

Qwen3-VL에 스크린샷을 보여주고 작동하는 코드를 얻으세요. 이 모델은 이미지와 비디오에서 Draw.io 다이어그램, HTML, CSS, JavaScript를 생성합니다.

공간 인식

모델은 객체 위치, 시점, 가림을 판단합니다. 2D 접지를 제공하고 공간 추론 및 구현형 AI 애플리케이션을 위한 3D 접지를 가능하게 합니다.

긴 비디오를 위한 확장 컨텍스트

기본 256K 컨텍스트는 1M 토큰으로 확장됩니다. 이 모델은 완전한 리콜로 책과 수 시간 분량의 비디오를 처리합니다. 초 단위 인덱싱을 통해 특정 순간을 질의할 수 있습니다.

고급 OCR

OCR은 이제 32개 언어를 지원합니다. 저조도에서 작동하고, 흐림과 기울어짐을 처리하며, 희귀 문자와 고대 문자를 읽고, 구조를 유지하면서 긴 문서를 분석합니다.

STEM 및 수학 추론

이 모델은 과학, 기술, 공학, 수학 문제에 대한 인과 분석 및 증거 기반 답변에 탁월합니다.

업그레이드된 인식

더 광범위한 사전 학습을 통해 모델은 유명인, 애니메이션 캐릭터, 제품, 랜드마크, 식물, 동물을 인식할 수 있습니다.

모델 아키텍처 및 사양

아키텍처: 통합 ViT 기반 비전 인코더를 사용한 Qwen3VLMoeForConditionalGeneration

핵심 사양:

  • 총 파라미터: 305억 개
  • 활성화 파라미터: 33억 개
  • 컨텍스트 길이: 256K 토큰(기본), 최대 1M까지 확장 가능
  • 지원 형식: JPEG, PNG, WebP, BMP, 비디오

세 가지 아키텍처 혁신:

Interleaved-MRoPE: 위치 임베딩을 통해 시간, 너비, 높이에 걸쳐 전체 주파수를 할당합니다. 이는 장시간 비디오 추론을 개선합니다.

DeepStack: 다중 레벨 ViT 특징을 융합하여 세부 사항을 캡처하고 이미지-텍스트 정렬을 개선합니다.

텍스트-타임스탬프 정렬: 정확하고 타임스탬프가 부여된 이벤트 위치 파악을 제공하여 더 강력한 비디오 시간 모델링을 가능하게 합니다.

Qwen3-VL-30B-A3B-Instruct vs Qwen3-VL-30B-A3B-Thinking

Instruct: 빠르고 직접적

Instruct 변형은 작업 과정을 보여주지 않고 즉시 응답합니다. 속도와 처리량에 최적화되어 있습니다.

사용 사례:

  • 실시간 이미지 분류
  • 문서 OCR 및 텍스트 추출
  • 대규모 콘텐츠 중재
  • 대량 API 호출
  • 간단한 시각적 Q&A

Thinking: 상세한 추론

Thinking 변형은 답변하기 전에 단계별 분석을 보여줍니다. 더 큰 Qwen3-VL-235B-A22B Thinking 변형과 유사하게 복잡한 문제를 논리적 단계로 분해합니다.

사용 사례:

  • 이미지 기반 수학 문제
  • 다단계 시각적 추론
  • 과학 문서 분석
  • 교육 응용
  • 설명 가능성이 필요한 작업

대부분의 프로덕션 워크로드에는 Instruct를 선택하세요. 투명한 추론이 필요하거나 복잡한 분석 작업을 처리해야 할 때는 Thinking으로 전환하세요.

성능 벤치마크

Thinking 변형 결과

Qwen/Qwen3-VL-30B-A3B-Thinking 벤치마크

다음 분야에서 강력한 성능:

  • 수학 추론: MathVista, MathVerse, GeoQA
  • 시각적 Q&A: VQAv2, GQA, TextVQA
  • 문서: DocVQA, InfoVQA, ChartQA
  • 일반 비전: MMMU, MMBench, Seed-Bench
  • 비디오: 시간적 추론 및 비디오 Q&A

Chain-of-thought 추론은 다단계 문제를 논리적 단계로 분해하여 처리합니다.

Instruct 변형 결과

Qwen/Qwen3-VL-30B-A3B-Instruct 벤치마크

균형 잡힌 성능:

  • 비전-언어: 다중 모드 이해 벤치마크
  • 텍스트 작업: 독해 및 언어
  • OCR: 텍스트 추출 정확도
  • 속도: 품질 저하 없이 낮은 지연 시간
  • 언어: 다중 언어 지원

Instruct 변형은 정확도를 유지하면서 더 빠른 추론을 제공합니다. 따라서 속도가 중요할 때 이상적입니다.

무엇을 선택해야 할까

  • Thinking: 상세한 추론, 수학 문제, 설명 가능한 AI
  • Instruct: 빠른 응답, 높은 처리량, 간단한 Q&A

MoE 아키텍처 덕분에 두 변형 모두 더 낮은 비용으로 더 큰 모델과 경쟁할 수 있습니다.

핵심 기능

시각적 이해

이 모델은 짧은 캡션부터 상세한 분석까지 설명을 생성합니다. 객체, 사람, 장면, 공간 관계, 추상적 개념을 식별합니다.

문서 처리

32개 언어 OCR이 저조도, 흐림, 기울어짐과 같은 까다로운 조건에서 작동합니다. 이 모델은 희귀 문자, 고대 문자, 기술 용어를 읽고 문서 구조를 유지합니다.

지원 형식:

  • 스캔 문서 및 PDF
  • 영수증 및 송장
  • 양식 및 표
  • 차트 및 다이어그램
  • 다중 열 레이아웃

시각적 Q&A

특정 질문을 하고 다음에 대한 맥락적 답변을 얻으세요:

  • 객체 개수 및 속성
  • 공간 관계
  • 행동 및 활동
  • 장면 구성
  • 추상적 개념

수학 및 과학

Thinking 변형은 이미지에서 문제를 해결합니다. 방정식을 읽고, 다이어그램을 해석하며, 기하학, 대수학, 응용 문제에 대한 해결책을 보여줍니다.

비디오 분석

256K 컨텍스트(1M 토큰으로 확장 가능)는 수 시간 분량의 비디오를 처리합니다. 초 단위 인덱싱은 시간 경과에 따른 이벤트를 추적합니다.

GUI 상호작용

이 모델은 인터페이스 요소를 인식하고, 기능을 이해하며, 작업을 완료합니다. 이를 통해 시각적 워크플로 자동화가 가능합니다.

시각 자료를 통한 코드

이미지와 비디오에서 Draw.io 다이어그램, HTML, CSS, JavaScript를 생성합니다. UI 목업을 보여주면 작동하는 코드를 얻을 수 있습니다.

공간 추론

공간 작업을 위한 2D 접지 및 3D 접지. 모델은 위치, 시점, 가림을 판단합니다.

실제 응용 분야

전자상거래

사진에서 제품 설명을 생성합니다. 색상, 크기, 재질 속성을 추출합니다. 재고를 자동으로 태깅합니다. 고객 문의를 제품 이미지와 연결합니다.

의료

의료 양식 및 보고서를 처리합니다. 임상 문서에서 구조화된 데이터를 추출합니다. 처방전 이미지를 읽습니다. 필기체 메모와 구조화된 양식을 해석합니다.

교육

교과서 사진에서 과제를 해결하도록 학생을 돕습니다. 다이어그램, 차트, 과학적 그림을 설명합니다. 시각적 과제를 채점합니다. Thinking 변형은 단계별 해결책을 제공합니다.

금융

송장, 영수증, 재무 제표를 처리합니다. 항목별 세부 정보, 합계, 날짜, 공급업체 정보를 추출합니다. 32개 언어 지원으로 다양한 문서 유형을 처리합니다.

고객 지원

다이어그램을 분석하여 제품 매뉴얼에 대한 질문에 답변합니다. 고객 사진에서 문제를 진단합니다. 시각적 에이전트 기능이 사용자를 인터페이스 안내합니다.

콘텐츠 중재

사용자가 업로드한 이미지를 정책 위반 여부로 검사합니다. 객체 탐지를 넘어 맥락을 이해합니다. 시각적 추론이 필요한 에지 케이스를 처리합니다.

연구

과학적 다이어그램을 분석합니다. 차트를 해석합니다. 연구 논문에서 데이터를 추출합니다. 이 모델은 인과 분석을 통한 STEM 및 수학에 탁월합니다.

Novita AI 플랫폼에서 Qwen3-VL-30B-A3B 시작하기

Novita AI는 다양한 기술 수준과 사용 사례에 맞춰 Qwen3-VL-30B-A3B에 액세스할 수 있는 여러 경로를 제공합니다. AI 기능을 탐색하든 프로덕션 애플리케이션을 구축하든, 플랫폼은 필요한 도구를 제공합니다.

플레이그라운드 사용 (지금 바로 사용 가능, 코딩 불필요)

즉시 액세스: 가입하고 몇 초 만에 Qwen3-VL-30B-A3B 실험을 시작하십시오.

대화형 인터페이스: 이미지로 프롬프트를 테스트하고 실시간으로 출력을 시각화합니다.

모델 비교: 특정 사용 사례에 대해 Qwen3-VL-30B-A3B Instruct 및 Thinking 변형을 비교합니다.

플레이그라운드를 사용하면 기술 설정 없이 다양한 프롬프트를 테스트하고 즉시 결과를 볼 수 있습니다. 프로토타이핑, 아이디어 테스트, 모델 기능 이해에 완벽합니다.

API를 통한 통합 (개발자용, 라이브 상태)

Novita AI의 통합 REST API를 사용하여 Qwen3-VL-30B-A3B를 애플리케이션에 연결하세요.

옵션 1: 직접 API 통합

Python 예제:

from openai import OpenAI

client = OpenAI(
    api_key="<Your API Key>",
    base_url="https://api.novita.ai/openai"
)

response = client.chat.completions.create(
    model="qwen/qwen3-vl-30b-a3b-instruct",
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Hello, how are you?"}
    ],
    max_tokens=32768,
    temperature=0.7
)

print(response.choices[0].message.content)

옵션 2: OpenAI Agents SDK를 사용한 다중 에이전트 워크플로

Qwen3-VL-30B-A3B의 고급 기능을 사용하여 정교한 다중 에이전트 시스템을 구축하세요:

플러그 앤 플레이 통합: Qwen3-VL-30B-A3B를 모든 OpenAI Agents 워크플로에 드롭하세요.

고급 에이전트 기능: 시각적 이해와 함께 핸드오프, 라우팅, 도구 통합 지원.

확장 가능한 아키텍처: Qwen3-VL-30B-A3B의 다중 모드 기능과 다른 특화 모델을 결합하는 에이전트 설계.

옵션 3: 타사 플랫폼 연결

개발 도구: OpenAI 호환 API 및 Anthropic 호환 API를 통해 Cursor, Trae, Qwen Code, Cline과 같은 인기 IDE 및 개발 환경과 통합.

오케스트레이션 프레임워크: 공식 커넥터를 사용하여 LangChain, Dify, CrewAI, Langflow 및 기타 AI 오케스트레이션 플랫폼과 연결.

Hugging Face 통합: Novita AI는 Hugging Face의 공식 추론 제공자 역할을 하여 광범위한 생태계 호환성을 보장합니다.

지금 Qwen3-VL-30B-A3B 사용해보기

Qwen3-VL-30B-A3B는 32개 언어 OCR, 256K 컨텍스트 비디오 이해, 공간 추론, GUI 상호작용을 제공합니다. Instruct 및 Thinking 변형 모두 문서 처리, 시각적 Q&A, 복잡한 다중 모드 추론을 위한 프로덕션 준비 성능을 제공합니다.

Novita AI 플레이그라운드에서 Qwen3-VL-30B-A3B 실험을 시작하세요.

Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있도록 하고, 합리적인 가격의 안정적인 GPU 클라우드를 제공하는 AI 클라우드 플랫폼입니다.