Novita AI가 ‘Build Month’ 캠페인을 시작하며, 개발자에게 모든 주요 제품 최대 20% 할인이라는 독점 혜택을 제공합니다!
현대 개발자들은 다이어그램, 스크린샷, 기술 문서 등 시각 중심 입력을 코드 워크플로우에 통합해야 하는 과제에 점점 더 직면하고 있으며, 동시에 낮은 지연 시간과 제어 가능한 비용을 유지해야 합니다. 기존 VLM은 도구 루프 내에서 사용하기엔 너무 느리거나, 실제 엔지니어링 결정을 안내할 만큼 구조화된 추론 능력이 부족합니다.
이 글에서는 ERNIE-4.5-VL-28B-A3B-Thinking이 강력한 시각-언어 추론 벤치마크와 빠른 반복 추론을 가능하게 하는 A3B 아키텍처를 결합하여 이러한 격차를 어떻게 해소하는지 설명하고, 이러한 속성이 도구 증강 코드 워크플로우에 어떻게 적합한지 보여줍니다.
ERNIE-4.5-VL-28B-A3B-Thinking의 아키텍처
28B 밀집 저장소에서 토큰당 30억 개의 파라미터만 활성화하여, 엣지 수준의 추론 비용으로 플래그십 수준의 지능을 달성합니다.
모델 이름의 "A3B"는 Active 3B를 의미하며, 극한의 효율성을 위해 설계된 Mixture-of-Experts(MoE) 아키텍처를 나타냅니다.
-
총 파라미터 수: 28-30 Billion (희소 MoE)
-
활성 파라미터: 3 Billion (토큰당 추론)
-
컨텍스트 윈도우: 128k 토큰
-
핵심 개선 사항:
- 이미지와 함께 생각하기(Thinking with Images): 이미지를 정적 토큰으로 처리하는 표준 VLM과 달리, 이 모델은 이미지 내에서 반복적으로 “확대” 및 "검색"하여 세부 사항을 해결할 수 있습니다.
- GSPO 및 IcePop RL: 고급 강화 학습(Group-based Self-Play Optimization)을 사용하여 MoE 훈련을 안정화하고, 복잡한 논리에 대해 전문가가 올바르게 라우팅되도록 보장합니다.
사례 1 : ERNIE-4.5-VL-28B-A3Bming Thinking with Images
보도 옆 벽에 있는 파란색 배경의 표지판에는 어떤 텍스트가 적혀 있나요?
출처: Baidu
사례: 브리지 회로를 풀어 등가 저항 계산하기
이 예시에서 모델은 간단하지 않은 브리지 회로를 제시받고 노드 A와 B 사이의 등가 저항을 계산하도록 요청받습니다.
출처: Baidu
ERNIE-4.5-VL-28B-A3B-Thinking이 도구 증강 코드 워크플로우를 개선할 수 있는 이유
벤치마크 점수는 STEM 추론, 문서 이해, 시각적 근거 확보에서 일관된 강점을 보여주며, 이는 실제 코드 워크플로우에서 가장 어려운 인지 단계에 직접적으로 대응됩니다.
문서 이해 및 구조화된 추론 벤치마크 전반에 걸쳐 ERNIE-4.5-VL-A3B는 토큰당 활성화되는 파라미터가 훨씬 적음에도 불구하고 Gemini-2.5-Pro 및 GPT-5-High의 95번째 백분위수 범위에 자주 도달하거나 초과합니다.
| 벤치마크 | ERNIE-4.5-VL-A3B | Gemini-2.5-Pro | GPT-5-High | 개발자에게 의미하는 바 |
|---|---|---|---|---|
| MathVista | 82.5 | 82.7 | 81.3 | 신뢰할 수 있는 다단계 기호 추론 |
| MathVerse | 81.0 | 82.9 | 84.1 | 제약 조건 하의 강력한 추상화 |
| MMMU | 72.2 | 81.7 | 84.2 | 멀티모달 문제 분해 |
| ChartQA | 87.1 | 78.3 | 78.2 | 구조화된 데이터 추출 |
| DocVQA (val) | 93.6 | 91.2 | 94.2 | 정밀한 문서 근거 확보 |
| OCRBench | 85.8 | 86.4 | 81.0 | 시각 자료로부터의 강력한 텍스트 인식 |
| CharXiv-DQ | 90.3 | 91.2 | 93.5 | 긴 형식의 기술적 추론 |
| CV-Bench | 83.8 | 84.8 | 85.0 | 시각적 논리 일관성 |
| 평균 (전체) | 73.1 | 75.4 | 76.6 | 소형 모델, 플래그십에 가까운 추론 |
모델은 28B 파라미터를 가지고 있지만, 토큰당 3B만 활성화되어 도구 루프 내에서 반복 호출에 적합한 빠르고 낮은 지연 시간의 추론을 가능하게 합니다.
사용자에게 중요한 주요 특성:
- 활성 파라미터: 토큰당 3B
- 유효 지연 시간: 소형 및 중형 모델과 비슷
- 컨텍스트 길이: 최대 128k 토큰, 시스템 수준 추론 지원
A3B 설계는 다음을 가능하게 합니다:
- 금지할 수 없는 비용으로 빈번한 추론 패스
- 에이전트 워크플로우에서 안정적인 지연 시간
- 항상 켜져 있는 추론 API로 실용적인 배포
지금 ERNIE-4.5-VL-28B-A3B-Thinking 사용해보기!
ERNIE-4.5-VL-28B-A3B-Thinking이 코드 도구 워크플로우 내에서 실제로 하는 일
ERNIE-4.5-VL-28B-A3B-Thinking은 시각을 단순한 특징 추출기가 아닌 추론 입력으로 취급하여 개발자가 스크린샷, 다이어그램, 문서를 코드 워크플로우에 직접 통합할 수 있게 합니다. 이는 OCR과 텍스트 생성의 조합이 아닙니다. 모델은 시각적 구조에 대해 추론하고 이를 의도와 정렬합니다.
1. 다이어그램 및 아키텍처 이해
이 모델은 시스템 다이어그램을 해석하고 시각적 구조를 코드 결정에 관련된 논리적 관계로 변환할 수 있습니다.
VL 기능이 제공하는 것
- 다이어그램에서 구성 요소, 경계, 데이터 흐름 식별
- 시각적 요소를 텍스트 설명과 정렬
- 추론 시 구조적 관계 유지
예시
- 입력: 마이크로서비스 아키텍처 다이어그램 + 짧은 설계 노트
- 출력: 서비스 종속성 및 통신 경로 설명
- 영향: 코드 도구가 전체 코드베이스를 스캔하는 대신 올바른 모듈로 안내됨
2. 스크린샷 기반 코드 컨텍스트 이해
모델은 UI 또는 IDE 스크린샷에 대해 추론하여 기본 논리와 의도를 유추할 수 있습니다.
VL 기능이 제공하는 것
- 스크린샷에서 UI 레이아웃, 로그, 오류 상태 판독
- 시각적 상태를 가능한 코드 경로와 연결
- 불완전하거나 부분적인 텍스트 정보 처리
예시
- 입력: 부분적인 오류 메시지가 있는 실패한 대시보드 스크린샷
- 출력: 프론트엔드-백엔드 불일치 및 관련 API 레이어에 대한 가설
- 영향: 전체 로그 재현 없이 더 빠른 디버깅
3. 문서 중심 코드 추론
이 모델은 텍스트, 표, 시각 자료가 혼합된 기술 문서에서 실행 가능한 논리를 추출하는 데 탁월합니다.
VL 기능이 제공하는 것
- 사양서, PDF, 연구 스타일 문서 파싱
- 그림과 표를 구현 논리와 연결
- 긴 문서에서 정렬 유지
예시
- 입력: 표와 순서도가 포함된 API 사양 PDF
- 출력: 엔드포인트, 제약 조건, 엣지 케이스의 구조화된 요약
- 영향: 코드 생성 도구가 정확하고 근거 있는 이해로 시작
4. 문제 분해를 위한 시각적 추론
시각적 입력은 단순한 인식이 아닌 다단계 추론을 유도하는 데 사용됩니다.
VL 기능이 제공하는 것
- 시각적 문제를 기호 표현으로 변환
- 추론 단계 전반에 걸쳐 일관성 유지
- 구현 전 추상화 지원
예시
- 입력: 데이터 파이프라인 순서도
- 출력: 처리 단계 및 실패 지점의 단계별 분석
- 영향: 광범위한 디버깅 대신 목표 지향적인 도구 호출 가능
지금 ERNIE-4.5-VL-28B-A3B-Thinking 사용해보기!
ERNIE-4.5-VL-28B-A3B-Thinking을 합리적인 가격으로 이용하는 방법은?
Novita AI는 ERNIE-4.5-VL-28B-A3B-Thinking API를 30K 컨텍스트 윈도우로 제공하며, 입력 $0.112, 출력 $0.448의 가격에 구조화된 출력 및 함수 호출을 지원합니다.
1단계: 로그인 및 모델 라이브러리 접속
계정에 로그인하고 Model Library 버튼을 클릭하세요.
2단계: 모델 선택
사용 가능한 옵션을 살펴보고 필요에 맞는 모델을 선택하세요.
지금 ERNIE-4.5-VL-28B-A3B-Thinking 사용해보기!
3단계: 무료 체험 시작
선택한 모델의 기능을 살펴보기 위해 무료 체험을 시작하세요.
4단계: API 키 받기
API 인증을 위해 새로운 API 키를 제공해 드립니다. “Settings” 페이지로 이동하여 이미지에 표시된 대로 API 키를 복사하세요.
from openai import OpenAI
client = OpenAI(
api_key="<Your API Key>",
base_url="https://api.novita.ai/openai"
)
response = client.chat.completions.create(
model="baidu/ernie-4.5-vl-28b-a3b",
messages=[
{"role": "system", "content": "You are a helpful assistant."},
{"role": "user", "content": "Hello, how are you?"}
],
max_tokens=8000,
temperature=0.7
)
print(response.choices[0].message.content)
ERNIE-4.5-VL-28B-A3B-Thinking은 토큰당 3B 파라미터만 활성화하면서 플래그십 수준의 시각-언어 추론 성능을 달성하여 도구 워크플로우 내에서 낮은 지연 시간과 높은 빈도의 추론을 가능하게 합니다. 문서 이해, 시각적 근거 확보, STEM 추론 분야에서 입증된 벤치마크 강점을 바탕으로 구문 엔진이 아닌 추론 조정자 역할을 수행할 수 있습니다. 결과적으로 다이어그램, 스크린샷, 기술 문서를 속도나 비용 효율성 저하 없이 코드 도구에 통합해야 하는 개발자에게 매우 적합합니다.
자주 묻는 질문
ERNIE-4.5-VL-28B-A3B-Thinking은 어떤 종류의 추론 작업에 가장 적합한가요?
ERNIE-4.5-VL-28B-A3B-Thinking은 순수한 구문 수준의 코드 생성보다는 다이어그램 해석, 문서 이해, 구조화된 문제 분해와 같은 시각-언어 추론 작업에 가장 적합합니다.
ERNIE-4.5-VL-28B-A3B-Thinking이 코드 특화 LLM을 대체할 수 있나요?
아니요. ERNIE-4.5-VL-28B-A3B-Thinking은 시각적 이해, 계획 수립, 검증을 처리하여 코드 특화 모델을 보완하도록 설계되었으며, 저수준 코드 실행을 대체하지 않습니다.
ERNIE-4.5-VL-28B-A3B-Thinking의 시각-언어 능력은 OCR 기반 모델과 어떻게 다른가요?
ERNIE-4.5-VL-28B-A3B-Thinking은 시각적 구조와 의도에 대해 추론하여 단순한 텍스트 추출보다는 다이어그램 기반 시스템 이해나 스크린샷 기반 디버깅과 같은 작업을 가능하게 합니다.
Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 필요한 비용 효율적인 도구. 인프라를 제거하고, 무료로 시작하며, AI 비전을 현실로 만드세요.
