Novita AI LLM, API

Novita AI에서 Apodex 1.1 Mini 사용하기: API 퀵스타트 및 가격

Novita AI에서 Apodex 1.1 Mini 사용하기: API 퀵스타트 및 가격

Apodex 1.1 Mini는 OpenAI 호환 API를 통해 Novita AI에서 사용할 수 있습니다. 모델을 apodex/apodex-1.1-mini로 설정하고 https://api.novita.ai/v3/openai로 요청을 보내면, 긴 코딩, 도구 사용 및 에이전트 워크플로에 256K 토큰 컨텍스트를 활용할 수 있습니다. 2026년 10월 1일 기준으로 Novita는 출시 프로모션으로 입력 및 출력 가격을 백만 토큰당 $0로 표시하고 있으므로, 프로덕션 예산에 모델을 반영하기 전에 라이브 모델 페이지를 확인하세요.

Apodex 1.1 Mini란?

Apodex 1.1 Mini는 Apodex 1.1 시리즈의 35B 파라미터 mixture-of-experts 모델입니다. Novita는 이 모델이 Qwen3.5-MoE 아키텍처를 사용하며 TP4 텐서 병렬 처리, 프리픽스 캐시 인식 라우팅, MTP 추측 디코딩을 갖춘 전용 H200 GPU 팜에서 서비스된다고 설명합니다. 이러한 배포 세부 사항은 지연 시간과 처리량을 평가하는 개발자에게 유용한 컨텍스트이지만, 자체 프롬프트와 도구 워크플로를 측정하는 것을 대체하지는 않습니다.

이 모델은 텍스트 입력, 텍스트 출력 채팅 모델입니다. Novita의 서버리스 API를 통해 제공되며 모델 카탈로그에 나열된 chat/completions, Anthropic, Responses 엔드포인트를 지원합니다. 가장 빠른 마이그레이션 경로를 위해 아래에 표시된 OpenAI 호환 chat/completions 엔드포인트를 사용하세요.

Apodex 1.1 Mini 모델 페이지는 현재 모델 상태, 지원 기능 및 플레이그라운드 접근에 대한 최신 정보의 원천입니다.

Apodex 1.1 Mini 사양

사양 값
모델 ID apodex/apodex-1.1-mini
모델 계열 Apodex 1.1
아키텍처 Qwen3.5-MoE
파라미터 수 35B
컨텍스트 창 262,144 토큰 (256K)
최대 출력 262,144 토큰 (256K)
입력 및 출력 텍스트 입력, 텍스트 출력
기능 함수 호출, 구조화된 출력, 추론
API 엔드포인트 Chat Completions, Anthropic, Responses
호스팅 Novita 서버리스 API

Apodex 1.1 Mini의 256K 컨텍스트는 대규모 저장소, 긴 사양 또는 다단계 에이전트 추적과 함께 테스트해야 하는 가장 실용적인 이유입니다. 큰 컨텍스트가 모든 요청에 전체 작업 공간을 포함해야 한다는 의미는 아닙니다. 관련 없는 파일을 정리하고, 도구 결과를 제한하고, 대표적인 입력에서 품질과 지연 시간을 모두 측정하세요.

Apodex 1.1 Mini 호출 방법

Novita API 키가 필요합니다. 키 관리에서 생성하거나 관리하고, 소스 제어에 넣는 대신 환경 변수에 보관하세요.

OpenAI Python 클라이언트 설치

pip install openai

첫 번째 요청 보내기

엔드포인트는 OpenAI와 호환되므로 표준 OpenAI 클라이언트에는 Novita 기본 URL, API 키, 모델 ID만 필요합니다.

import os

from openai import OpenAI


client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/v3/openai",
)

response = client.chat.completions.create(
    model="apodex/apodex-1.1-mini",
    messages=[
        {
            "role": "system",
            "content": "You are a concise coding assistant.",
        },
        {
            "role": "user",
            "content": "Explain why a database index can speed up a query.",
        },
    ],
    max_tokens=512,
)

print(response.choices[0].message.content)

스크립트를 실행하기 전에 키를 설정하세요:

export NOVITA_API_KEY="your_novita_api_key"
python apodex_example.py

원시 HTTP 통합의 경우 동일한 요청은 다음과 같습니다:

curl https://api.novita.ai/v3/openai/chat/completions \
  -H "Authorization: Bearer $NOVITA_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "apodex/apodex-1.1-mini",
    "messages": [
      {"role": "user", "content": "Give me three names for a log parser."}
    ],
    "max_tokens": 128
  }'

더 넓은 요청 형식과 지원되는 클라이언트 패턴은 LLM API 문서를 참조하세요.

스트리밍 응답

채팅 인터페이스의 경우 stream=True로 설정하고 각 델타가 도착할 때 출력하세요. 스트리밍은 애플리케이션이 응답을 수신하는 방식을 변경하며, 모델 ID나 인증 설정은 변경하지 않습니다.

stream = client.chat.completions.create(
    model="apodex/apodex-1.1-mini",
    messages=[{"role": "user", "content": "Write a short commit message for a bug fix."}],
    max_tokens=128,
    stream=True,
)

for chunk in stream:
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)

도구 호출 사용 방법

모델 카탈로그는 네이티브 함수 호출과 구조화된 출력을 지원 기능으로 나열합니다. 도구 정의는 애플리케이션이 수행할 수 있는 작업을 모델에 알려줍니다. 애플리케이션은 여전히 실행, 검증, 권한 및 최종 도구 결과를 관리합니다.

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Get the current weather for a city.",
            "parameters": {
                "type": "object",
                "properties": {
                    "city": {"type": "string"},
                },
                "required": ["city"],
                "additionalProperties": False,
            },
        },
    }
]

response = client.chat.completions.create(
    model="apodex/apodex-1.1-mini",
    messages=[
        {"role": "user", "content": "What's the weather in Seattle?"},
    ],
    tools=tools,
    tool_choice="auto",
)

message = response.choices[0].message
if message.tool_calls:
    tool_call = message.tool_calls[0]
    print(tool_call.function.name)
    print(tool_call.function.arguments)

인자를 신뢰할 수 없는 모델 출력으로 취급하세요. JSON을 파싱하고, 도시를 자체 입력 규칙에 대해 검증하고, 외부 서비스를 호출하기 전에 권한을 확인하고, 후속 요청에서 도구 결과를 다시 보내세요. 모델 생성 인자가 직접 셸 명령, SQL 문 또는 권한 있는 API 호출이 되도록 허용하지 마세요.

모델 페이지는 또한 추론 지원을 나열합니다. 정확한 추론 컨트롤과 응답 동작은 클라이언트와 엔드포인트에 따라 다를 수 있으므로 기본 동작으로 시작하고 공급자별 추론 파라미터에 의존하기 전에 현재 API 문서를 확인하세요.

Apodex 1.1 Mini 비용은 얼마인가요?

2026년 10월 1일 기준으로 Novita의 모델 카탈로그와 가격 페이지는 Apodex 1.1 Mini를 입력 및 출력 토큰 모두 무료로 표시합니다:

사용량 현재 표시 가격
입력 백만 토큰당 $0
출력 백만 토큰당 $0

이는 현재 출시 프로모션이며 영구적인 무료 접근을 보장하지 않습니다. 가격, 요율 제한 및 가용성은 변경될 수 있습니다. 프로덕션 비용을 추정하거나 장기 실행 워크로드를 시작하기 직전에 라이브 Novita 가격 페이지와 Apodex 모델 페이지를 확인하세요.

$0 표시 가격에서도 애플리케이션 수준의 예산과 요율 제한을 설정하세요. 대규모 컨텍스트 요청은 상당한 컴퓨팅을 소비할 수 있으며 계정, 엔드포인트 또는 프로모션 제한이 적용될 수 있습니다. 가능한 경우 API 응답에서 토큰 사용량을 기록하고, 애플리케이션이 지속적인 접근에 의존하는 경우 대체 모델을 구성해 두세요.

누가 사용해야 하나요?

Apodex 1.1 Mini는 다음에 적합한 후보입니다:

  • 긴 파일이나 저장소 컨텍스트를 검사해야 하는 코딩 어시스턴트.
  • 도구를 호출하고 구조화된 데이터를 반환하는 에이전트 워크플로.
  • 256K 컨텍스트 창이 유용하지만 대규모 모델을 자체 호스팅할 필요가 없는 프로토타입.
  • 호스팅 API에서 MoE 추론, 장문 컨텍스트 동작 및 추론 워크플로 평가.

이미지나 오디오 입력, 고정 장기 가격 계약, 또는 Novita가 이 엔드포인트에 나열하지 않는 모델별 기능이 필요한 경우에는 적합하지 않을 수 있습니다. 카탈로그는 현재 텍스트만 입력 및 출력으로 나열하므로 멀티모달 요청은 페이지에 해당 모달리티를 명시적으로 지원하는 모델을 사용해야 합니다.

프로덕션 평가를 위해 실제 프롬프트에서 답변 품질, 도구 호출 유효성, 첫 토큰까지의 시간, 총 지연 시간 및 컨텍스트 트리밍 동작을 비교하세요. 하나의 짧은 프롬프트로는 장문 컨텍스트 모델이 애플리케이션에 적합한지 알 수 없습니다.

자주 묻는 질문

Apodex 1.1 Mini 모델 ID는 무엇인가요?

요청 본문에서 apodex/apodex-1.1-mini를 사용하세요.

Apodex 1.1 Mini는 얼마나 많은 컨텍스트를 지원하나요?

Novita는 모델 및 가격 페이지에 256K로 표시되는 262,144 토큰 컨텍스트 창을 나열합니다. 나열된 최대 출력도 262,144 토큰입니다.

Apodex 1.1 Mini는 Novita AI에서 무료인가요?

입력 및 출력 가격은 현재 2026년 10월 1일 기준으로 백만 토큰당 $0로 표시되어 있습니다. 이를 출시 프로모션으로 간주하고 비용 추정치를 공개하거나 대규모로 배포하기 전에 라이브 가격 페이지를 확인하세요.

함수 호출을 지원하나요?

네. 모델 카탈로그는 함수 호출과 구조화된 출력을 지원 기능으로 나열합니다. 애플리케이션은 여전히 도구 인자를 검증하고 도구를 안전하게 실행해야 합니다.

어떤 API를 먼저 사용해야 하나요?

가장 간단한 통합을 위해 https://api.novita.ai/v3/openai/chat/completions의 OpenAI 호환 Chat Completions 엔드포인트를 사용하세요. 모델 카탈로그에는 Anthropic 및 Responses 엔드포인트도 나열되어 있습니다.

Apodex 1.1 Mini를 어디에서 시도할 수 있나요?

Apodex 1.1 Mini 모델 페이지를 열어 현재 상태를 확인하고 플레이그라운드를 실행하세요.

추천 문서

관련 게시글