Qwen 3 235B A22B Sem Derreter Sua GPU: 3 Maneiras Fáceis de API

Qwen 3 235B A22B Sem Derreter Sua GPU: 3 Maneiras Fáceis de API

Solicite $10 em API de LLM

Principais Destaques

Qwen 3 235B A22B é um poderoso modelo de Mistura de Especialistas (MoE) projetado para tarefas avançadas de raciocínio, codificação e multilíngues.

Executá-lo localmente exige ~1128GB de VRAM — equivalente a 16× A100 ou 16× H100 GPUs — tornando-o inacessível para a maioria dos desenvolvedores individuais.

Como Acessar o Qwen 3 235B A22B via API: 3 Métodos Simples:

  1. Integração Direta com API usando endpoints compatíveis com OpenAI
  2. Fluxos de Trabalho Multi-Agente com OpenAI Agents SDK
  3. Integrações de Terceiros via Hugging Face, LangChain, Dify, e mais

O Qwen 3 235B A22B é um dos modelos de linguagem de grande escala mais capazes disponíveis atualmente, com desempenho de ponta em raciocínio, matemática e tarefas multilíngues. No entanto, com um requisito de VRAM superior a 1 TB, executá-lo localmente é quase impossível para a maioria dos desenvolvedores. Felizmente, o acesso baseado em API torna possível aproveitar esse poder sem a infraestrutura pesada.

O que é o Qwen 3 235B A22B?

Introdução ao Qwen 3 235B A22B

Benchmark do Qwen 3 235B A22B

Benchmark do Qwen 3 235B A22B

De Qwen

Requisitos de Hardware do Qwen 3 235B A22B

Executar o Qwen 3 235B A22B localmente exige ~1128GB de VRAM, equivalente a:

  • 16× A100 (80GB) GPUs
  • ou 16× H100 (80GB) GPUs

Essa configuração está muito além do alcance da maioria dos desenvolvedores individuais ou pequenas equipes.

API é a Escolha Mais Inteligente para a Maioria dos Desenvolvedores

  • Zero configuração ou custos de hardware
  • Acesso instantâneo a modelos de ponta
  • Uso escalável com base nas suas necessidades
  • Atualizações e manutenção contínuas do modelo

Opção 1: Integração Direta com API

Passo 1: Faça Login e Acesse a Biblioteca de Modelos

Faça login na sua conta e clique no botão Model Library.

Faça Login e Acesse a Biblioteca de Modelos

Passo 2: Escolha Seu Modelo

Navegue pelas opções disponíveis e selecione o modelo que atende às suas necessidades.

escolha seu modelo

Passo 3: Inicie Seu Teste Gratuito

Inicie seu teste gratuito para explorar as capacidades do modelo selecionado.

inicie seu teste gratuito

Experimente o Qwen 3 235B A22B Agora!

Passo 4: Obtenha Sua Chave de API

Para autenticar com a API, forneceremos uma nova chave de API. Acesse a página “Settings” e copie a chave de API conforme indicado na imagem.

obtenha a chave de API

Passo 5: Instale a API

Instale a API usando o gerenciador de pacotes específico da sua linguagem de programação.

Após a instalação, importe as bibliotecas necessárias para o seu ambiente de desenvolvimento. Inicialize a API com sua chave de API para começar a interagir com Novita AI LLM. Este é um exemplo de uso da API de chat completions para usuários Python.

from openai import OpenAI
  
from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "qwen/qwen3-235b-a22b-fp8"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

Opção 2: Fluxos de Trabalho Multi-Agente com OpenAI Agents SDK

O OpenAI Agents SDK é uma evolução de nível de produção do projeto SWARM da OpenAI, projetado para simplificar o desenvolvimento de agentes de IA inteligentes, colaborativos e seguros. Em seu núcleo estão agentes baseados em LLM que podem ser configurados com instruções personalizadas, funções e ferramentas externas. O SDK oferece recursos poderosos como conversão automática de função-ferramenta com validação Pydantic, loops de agente embutidos para feedback contínuo de ferramentas, delegação de tarefas multi-agente e proteções de segurança robustas. Os desenvolvedores se beneficiam de orquestração nativa em Python, ferramentas de rastreamento embutidas para depuração e alta personalização — tudo dentro de uma estrutura leve que requer mínimo esforço de aprendizado.

1. Configure seu ambiente Python e instale o Agents SDK.

python -m venv env
source env/bin/activate
pip install openai-agents

2. Configure sua chave de API Novita.

obtenha a chave de API

Vá para o Console e Obtenha 10 Créditos

3. Um Exemplo de Handoffs

import os
from openai import AsyncOpenAI
from agents import (
    Agent,
    Runner,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

BASE_URL = "https://api.novita.ai/v3/openai"
API_KEY = os.getenv("NOVITA_API_KEY")
MODEL_NAME = os.getenv("MODEL_NAME")

# Because Novita not support the responses API so we use the chat completions API instead.
set_default_openai_api("chat_completions")
set_default_openai_client(AsyncOpenAI(base_url=BASE_URL, api_key=API_KEY))
# Disable tracing for this example
# Refer to https://openai.github.io/openai-agents-python/tracing/#external-tracing-processors-list to use the custom spans.
set_tracing_disabled(disabled=True)

agent = Agent(name="Assistant",
              instructions="You are a helpful assistant", model=MODEL_NAME)

result = Runner.run_sync(
    agent, "Write a haiku about recursion in programming.")
print(result.final_output)

# Code within the code,
# Functions calling themselves,
# Infinite loop's dance.

Opção 3: Integração de API Qwen 3 de Terceiros

1.Integração com HuggingFace

Passo 1: Configure as Chaves de API no Hugging Face

  • Acesse o painel de configurações da sua conta para configurar suas chaves de API.
  • Insira suas credenciais de autenticação Novita AI na plataforma Hugging Face.Configure as Chaves de API no Hugging Face

Passo 2: Escolha os Modos de API de Inferência

  • Modo de Chave Personalizada: As chamadas são enviadas diretamente ao provedor de inferência, utilizando sua própria chave de API.
  • Modo HF-Routed: Neste modo, nenhum token de provedor é necessário. Os custos são aplicados à sua conta Hugging Face em vez da conta do provedor.

Passo 3: Clique no botão de configurações e escolha Novita AI como seu provedor de API

deepsite com novita ai

2.Integração de Agente/Framework com Novita AI

Novita AI é um parceiro de primeira classe para muitos frameworks populares de agentes.
Você pode selecionar diretamente Novita como seu provedor dentro das plataformas. Cada um vem com conectores oficiais e guias passo a passo, tornando a integração suave para fluxos de trabalho multi-agente, agentes de chamada de ferramentas e tarefas complexas de orquestração.

3. Integração de API Compatível com OpenAI

Para ferramentas construídas no padrão da API OpenAI, Novita AI oferece uma substituição direta — tudo que você precisa é de uma URL base e uma chave de API. Este método requer zero refatoração e suporta migração instantânea para aplicativos que já usam chamadas compatíveis com OpenAI.

Perguntas Frequentes

O que é o Qwen 3 235B A22B?

Um modelo de linguagem MoE de última geração da Alibaba com 235B parâmetros (22B ativos por passagem direta), excelente em lógica, matemática e tarefas multilíngues.

Por que não consigo executar o Qwen 3 235B A22B localmente?

Ele requer ~1128GB de VRAM — muito além do hardware de nível consumidor. Você precisaria de 16× A100 ou H100 GPUs.

Existe um teste gratuito para usar o Qwen 3 235B A22B?

Sim. Novita AI oferece créditos gratuitos para explorar o modelo antes de se comprometer.

Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer a nuvem de GPU acessível e confiável para construir e escalar.

Leitura Recomendada