Início Rápido da API GLM 5.2 na Novita AI

Início Rápido da API GLM 5.2 na Novita AI

Este guia de início rápido mostra como chamar o GLM 5.2 na Novita AI usando a API de chat compatível com OpenAI. Utilize o ID de modelo verificado zai-org/glm-5.2, a URL base da Novita AI e uma pequena primeira requisição antes de testar a janela de contexto de 1.048.576 tokens, saída máxima de 131.072 tokens, chamada de funções, saídas estruturadas, suporte a raciocínio ou acesso compatível com Anthropic, conforme indicado na listagem atual do modelo.

Pré-requisitos para início rápido com a API GLM 5.2

O GLM 5.2 é o modelo principal da Z.AI para trabalho autônomo de longo horizonte. A página do modelo na Novita AI o descreve como um modelo construído para tarefas sustentadas, como planejamento, execução, otimização iterativa, codificação e entrega de resultados de nível profissional. Para desenvolvedores, o ponto prático é simples: o GLM 5.2 não é apenas mais um modelo de chat curto. Ele é posicionado para fluxos de trabalho onde o modelo precisa de contexto suficiente para manter uma tarefa grande, base de código, conjunto de documentos ou estado de agente em vista.

Na Novita AI, o GLM 5.2 é disponibilizado por meio de APIs de modelo serverless. Isso é importante se você deseja avaliar o modelo sem montar infraestrutura de GPU, rotear tráfego por uma pilha de inferência personalizada ou gerenciar o serviço de contexto longo por conta própria. Você usa a chave de API da Novita AI, o endpoint compatível com OpenAI e o ID de modelo exato:

zai-org/glm-5.2

O guia da API LLM da Novita AI atual documenta a abordagem compatível com OpenAI da plataforma para tarefas de chat e conclusão. A referência da API de chat documenta o caminho REST usado nos exemplos abaixo:

https://api.novita.ai/openai/v1/chat/completions

Use a página do modelo para obter detalhes específicos do modelo, como tamanho do contexto, saída máxima, preços, modalidades e famílias de endpoint suportadas. Use a referência da API para parâmetros de requisição, autenticação, streaming e estrutura de mensagens de chat.

Especificações e preços da API GLM 5.2

A listagem atual do GLM 5.2 na Novita AI mostra um modelo serverless de texto para texto com contexto longo e suporte a recursos orientados a agentes.

Campo Valor atual na Novita AI
Nome de exibição GLM 5.2
ID do modelo na API zai-org/glm-5.2
Caminho de acesso Serverless
Janela de contexto 1.048.576 tokens
Saída máxima 131.072 tokens
Modalidades de entrada Texto
Modalidades de saída Texto
Famílias de endpoint chat/completions, endpoint compatível com Anthropic
Chamada de funções Suportada
Saídas estruturadas Suportadas
Raciocínio Suportado
Preço de entrada US$ 1,40 por milhão de tokens
Preço de entrada com leitura em cache US$ 0,26 por milhão de tokens
Preço de saída US$ 4,40 por milhão de tokens

Os preços são listados por milhão de tokens. Para uma estimativa rápida, multiplique os tokens do prompt pela taxa de entrada e os tokens gerados pela taxa de saída. O preço com leitura em cache pode reduzir custos quando sua aplicação envia repetidamente o mesmo contexto reutilizável, como um prompt de sistema, esquema de ferramenta, bloco de política ou resumo de repositório estável.

Por exemplo, uma requisição com 100.000 tokens de entrada não armazenados em cache e 5.000 tokens de saída seria estimada como:

Componente Cálculo Custo estimado
Entrada 0,1 milhão de tokens x US$ 1,40 US$ 0,14
Saída 0,005 milhão de tokens x US$ 4,40 US$ 0,022
Total Entrada + saída US$ 0,162

Esta é apenas uma estimativa simples com base na taxa de tokens. O custo em produção também depende do reuso do prompt, novas tentativas, truncamento, comportamento de streaming, tamanho da resposta e se sua aplicação inclui repetidamente grandes blocos de contexto que poderiam ser armazenados em cache ou resumidos.

Como fazer sua primeira requisição à API GLM 5.2

Comece com um prompt pequeno antes de testar a janela de contexto completa de 1M tokens. Isso fornece uma base limpa para autenticação, roteamento do modelo, formato da resposta e latência.

Instale o SDK Python da OpenAI e armazene sua chave da Novita AI em uma variável de ambiente:

pip install openai
export NOVITA_API_KEY="SUA_CHAVE_NOVITA_API"

Em seguida, chame o GLM 5.2 com a URL base da Novita AI:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

response = client.chat.completions.create(
    model="zai-org/glm-5.2",
    messages=[
        {
            "role": "system",
            "content": "Você é um assistente prático de arquitetura de software.",
        },
        {
            "role": "user",
            "content": "Revise este plano de migração e liste as etapas de maior risco.",
        },
    ],
    max_tokens=1200,
    temperature=0.3,
)

print(response.choices[0].message.content)

Se preferir uma chamada REST direta, use o caminho de chat:

curl --request POST \
  --url https://api.novita.ai/openai/v1/chat/completions \
  --header "Authorization: Bearer $NOVITA_API_KEY" \
  --header "Content-Type: application/json" \
  --data '{
    "model": "zai-org/glm-5.2",
    "messages": [
      {
        "role": "system",
        "content": "Você é um revisor de engenharia conciso."
      },
      {
        "role": "user",
        "content": "Crie uma lista de verificação de riscos de lançamento para uma alteração na API de pagamentos."
      }
    ],
    "max_tokens": 1200,
    "temperature": 0.3
  }'

Para respostas mais longas, ative o streaming para que sua aplicação possa começar a receber tokens antes que a conclusão completa seja finalizada:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

stream = client.chat.completions.create(
    model="zai-org/glm-5.2",
    messages=[
        {
            "role": "user",
            "content": "Elabore um plano em fases para refatorar um monolito em serviços.",
        }
    ],
    max_tokens=2000,
    temperature=0.3,
    stream=True,
)

for chunk in stream:
    delta = chunk.choices[0].delta.content
    if delta:
        print(delta, end="")

Mantenha as chaves de API fora do controle de versão, defina valores explícitos de max_tokens e registre dados de uso quando disponíveis. Modelos de contexto longo facilitam o envio de prompts muito grandes, portanto, o controle de custos começa com a medição dos tokens de prompt e conclusão desde o primeiro protótipo.

Quando usar o GLM 5.2

O GLM 5.2 é uma ótima escolha quando sua tarefa é grande demais para um contexto de chat normal ou quando o modelo precisa coordenar várias etapas com ferramentas, arquivos ou saídas estruturadas.

Bons alvos de avaliação incluem:

  • Análise de repositório: peça ao modelo para revisar notas de arquitetura, mapas de arquivos, descrições de dependências e trechos de código selecionados em uma única requisição.
  • Agentes de codificação: mantenha objetivos da tarefa, restrições, esquemas de ferramentas, decisões anteriores e notas de trabalho no contexto enquanto o agente itera.
  • Síntese de documentos longos: resuma políticas, especificações técnicas, contratos, notas de pesquisa ou documentos de produto sem dividir agressivamente.
  • Planejamento de migração: forneça ao modelo um mapa do sistema, restrições, plano de implantação e registro de riscos, depois peça lacunas ou problemas de sequenciamento.
  • Extração estruturada: combine documentos fonte longos com um esquema JSON rigoroso para sistemas downstream.

O GLM 5.2 não é automaticamente o modelo certo para toda requisição. Para classificação curta, chat básico, extração simples ou tráfego de alto volume e baixa latência, compare modelos menores na biblioteca de modelos da Novita AI e as taxas atuais na página de preços da Novita AI. Um modelo de 1M de tokens é mais valioso quando você realmente precisa do contexto, do teto de saída ou dos recursos orientados a agentes.

Chamada de funções e saídas estruturadas

A listagem do GLM 5.2 mostra suporte a chamada de funções e saídas estruturadas. Esses recursos são úteis quando o modelo deve retornar algo que sua aplicação possa usar, não apenas texto.

A chamada de funções é adequada quando sua aplicação expõe ferramentas controladas, como:

  • recuperar um registro de cliente,
  • abrir um ticket,
  • verificar o status de implantação,
  • pesquisar uma base de conhecimento interna,
  • calcular um orçamento,
  • ou rotear uma requisição para um serviço especializado.

Aqui está um padrão mínimo de chamada de ferramenta:

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["NOVITA_API_KEY"],
    base_url="https://api.novita.ai/openai",
)

tools = [
    {
        "type": "function",
        "function": {
            "name": "create_release_ticket",
            "description": "Cria um ticket de lançamento após a revisão de riscos.",
            "parameters": {
                "type": "object",
                "properties": {
                    "title": {"type": "string"},
                    "risk_level": {
                        "type": "string",
                        "enum": ["low", "medium", "high"],
                    },
                    "summary": {"type": "string"},
                },
                "required": ["title", "risk_level", "summary"],
            },
        },
    }
]

response = client.chat.completions.create(
    model="zai-org/glm-5.2",
    messages=[
        {
            "role": "user",
            "content": "Avalie este lançamento e crie um ticket se o risco for médio ou alto.",
        }
    ],
    tools=tools,
    tool_choice="auto",
    max_tokens=1000,
)

print(response.choices[0].message)

Saídas estruturadas são úteis quando você deseja que a resposta se encaixe em um esquema previsível. Mesmo ao solicitar JSON, mantenha a validação em sua aplicação. Trate a saída do modelo como um candidato gerado, faça o parsing, valide os campos obrigatórios e lide com erros usando um prompt de reparo ou um caminho alternativo.

Para mais informações sobre design de ferramentas, consulte o guia da Novita AI sobre chamada de funções e saídas estruturadas e o guia focado no GLM sobre chamada de funções do GLM.

Notas de produção para uso de contexto longo

A janela de contexto principal é o teto, não o modo operacional padrão. Uma requisição de 1.048.576 tokens pode ser útil, mas a maioria das aplicações deve subir gradualmente até esse tamanho.

Comece com estes controles:

  • Faça um orçamento do prompt: separe instruções estáveis, entrada volátil do usuário, resultados de recuperação e esquemas de ferramentas para que você possa ver qual parte está impulsionando a contagem de tokens.
  • Use recuperação antes de preenchimento total: envie primeiro os arquivos ou passagens mais relevantes e expanda o contexto somente quando a tarefa precisar de mais evidências.
  • Limite o comprimento da saída: o GLM 5.2 suporta uma saída máxima alta, mas a maioria dos fluxos de trabalho não precisa de 131.072 tokens gerados. Defina max_tokens para o menor valor útil.
  • Faça streaming de respostas longas: o streaming melhora a experiência do usuário e permite que seu serviço lide com conclusões longas de forma mais elegante.
  • Valide resultados estruturados: esquemas reduzem a ambiguidade, mas sua aplicação ainda precisa de verificações de parser, novas tentativas e tratamento claro de erros.
  • Acompanhe oportunidades de cache: blocos de contexto repetidos podem ser caros se enviados como entrada nova a cada vez. Identifique prompts, políticas e definições de ferramentas reutilizáveis desde o início.
  • Mantenha um fallback com modelo menor: muitos sistemas de roteamento usam um modelo menor para casos fáceis e reservam modelos de contexto longo para tarefas que precisam de toda a sua capacidade.

Para agentes de codificação, um padrão prático é manter o contexto durável do projeto fora do prompt, recuperar apenas os arquivos relevantes para a tarefa atual e pedir ao GLM 5.2 que produza um plano limitado ou uma revisão de patch, em vez de um ensaio aberto. Isso mantém os custos legíveis enquanto ainda fornece ao modelo contexto suficiente para raciocinar sobre as partes do sistema que importam.

Perguntas frequentes

O GLM 5.2 está disponível na Novita AI?

Sim. O GLM 5.2 está listado na Novita AI como um modelo serverless com o ID de modelo na API zai-org/glm-5.2.

Qual é a janela de contexto do GLM 5.2 na Novita AI?

A listagem atual da Novita AI mostra uma janela de contexto de 1.048.576 tokens para o GLM 5.2.

Qual é a saída máxima do GLM 5.2?

A listagem atual da Novita AI mostra uma saída máxima de 131.072 tokens para o GLM 5.2. Defina um valor menor para max_tokens a menos que seu fluxo de trabalho realmente precise de uma resposta muito longa.

Quanto custa o GLM 5.2 na Novita AI?

A página de preços atual lista o GLM 5.2 a US$ 1,40 por milhão de tokens de entrada, US$ 0,26 por milhão de tokens de entrada com leitura em cache e US$ 4,40 por milhão de tokens de saída.

O GLM 5.2 suporta chamada de funções?

Sim. A listagem atual do GLM 5.2 mostra suporte a chamada de funções. Use-o quando o modelo deve escolher entre ferramentas controladas da aplicação em vez de retornar apenas texto em linguagem natural.

O GLM 5.2 suporta saídas estruturadas?

Sim. A listagem atual do GLM 5.2 mostra suporte a saídas estruturadas. Valide o JSON gerado ou as respostas em formato de esquema em sua aplicação antes de usá-las downstream.

Artigos recomendados