Llama 4 Maverick na Novita AI Suporta Chamada de Função

Llama 4 Maverick na Novita AI Suporta Chamada de Função

Destaques Principais

A Novita AI apresentou o Llama 4 Maverick! Além disso, esta versão suporta totalmente a chamada de função.

O Llama 4 Maverick combina a arquitetura de ponta 128 Mixture-of-Experts (MoE) com capacidades avançadas multimodais.

Se quiser testar seu desempenho, inicie um teste gratuito diretamente no Novita AI Playground!

Llama 4 Maverick redefine a IA com capacidades superiores de chamada de função, oferecendo desempenho incomparável, interação em tempo real e funcionalidade global através de sua arquitetura avançada.

O que é Chamada de Função?

Chamada de função refere-se à capacidade de um sistema, como um modelo ou aplicação, de invocar ou chamar funções ou serviços externos durante sua execução. Essas funções podem ser APIs, bancos de dados ou outros serviços que realizam tarefas específicas fora do escopo do modelo ou sistema principal.

  • Serviços externos: A função pode interagir com APIs, bancos de dados ou serviços de terceiros (ex.: processadores de pagamento, dados meteorológicos, etc.).
  • Interação em tempo real: A chamada de função ocorre durante a execução, fornecendo dados ou ações ao vivo.
  • Funções predefinidas: Essas funções são tipicamente predefinidas, ou seja, o sistema sabe o que elas farão (ex.: recuperar dados, processar transações).

https://www.youtube.com/watch?v=aqdWSYWC\_LI

Como Funciona a Chamada de Função?

  • O sistema envia uma solicitação para uma função externa (ex.: API ou serviço).
  • A função realiza a tarefa (ex.: buscar dados, processar informações).
  • O resultado é retornado ao sistema, que o utiliza para processamento posterior.

Quais os Benefícios da Chamada de Função?

  • Dados em tempo real: Fornece informações atualizadas ao interagir com fontes externas.
  • Funcionalidade estendida: Permite que o sistema use serviços externos (ex.: processamento de pagamentos, dados meteorológicos).
  • Modularidade: Torna os sistemas mais flexíveis e adaptáveis ao integrar capacidades externas sem reinventar a roda.

Chamada de Função vs. RAG

Exemplo de Chamada de Função:

import requests

def get_weather(city: str):
    # Substitua pela sua chave de API e URL reais
    api_key = "sua_chave_api"
    url = f"http://api.openweathermap.org/data/2.5/weather?q={city}&appid={api_key}&units=metric"

    response = requests.get(url)
    data = response.json()

    if response.status_code == 200:
        temperature = data['main']['temp']
        description = data['weather'][0]['description']
        return f"A temperatura atual em {city} é {temperature}°C com {description}."
    else:
        return "Desculpe, não consegui obter os dados meteorológicos no momento."

# Use a função para obter informações meteorológicas para Nova York
city = "New York"
weather_info = get_weather(city)
print(weather_info)

Exemplo de RAG:

from transformers import pipeline

# Base de conhecimento simulada (poderia ser um banco de dados ou um conjunto maior de dados em uma aplicação real)
knowledge_base = {
    "force majeure": "Força maior refere-se a circunstâncias imprevisíveis que impedem alguém de cumprir um contrato.",
    "breach of contract": "Uma violação de contrato ocorre quando uma das partes não cumpre suas obrigações conforme estabelecido no contrato.",
    "arbitration": "Arbitragem é um método de resolução de disputas fora dos tribunais, onde um árbitro toma uma decisão vinculante."
}

def retrieve_information(query: str):
    # Recupera informações relevantes com base na consulta (poderia ser substituído por uma consulta ao banco de dados ou uma busca mais avançada)
    query = query.lower()
    if query in knowledge_base:
        return knowledge_base[query]
    else:
        return "Desculpe, não encontrei informações relevantes na base de conhecimento."

def generate_answer(query: str):
    # Primeiro, recupera as informações
    retrieved_info = retrieve_information(query)

    # Usa um modelo de geração de texto (ex.: GPT-2) para gerar uma resposta com base nas informações recuperadas
    model = pipeline("text-generation", model="gpt-2")
    answer = model(f"Com base nas informações: {retrieved_info}. Responda à seguinte pergunta: {query}")[0]['generated_text']
    
    return answer

# Consulta do usuário
query = "O que é força maior em um contrato?"
answer = generate_answer(query)
print(answer)

O que é o Llama 4 Maverick?

Categoria Item Detalhes
Informações Básicas Data de Lançamento 5 de abril de 2025
Tamanho do Modelo 400B parâmetros (17B ativos/token)
Código Aberto Sim
Arquitetura 128 Mixture-of-Experts (MoE)
Suporte a Idiomas Idiomas Suportados Pré-treinado em 200 idiomas. Suporta árabe, alemão, espanhol, francês, hindi, indonésio, inglês, italiano, português, tagalo, tailandês e vietnamita.
Multimodal Capacidade Multimodal Entrada: texto multilíngue e imagem; saída: texto multilíngue e código
Treinamento Dados de Treinamento ~22 trilhões de tokens de dados multimodais (alguns do Instagram e Facebook)
Pré-Treinamento MetaP: Configuração Adaptativa de Especialistas + treinamento intermediário
Pós-Treinamento SFT (Dados Fáceis) → RL (Dados Difíceis) → DPO

llama 4 maverick benchmark

Como Usar a Chamada de Função do Llama 4 Maverick via Novita AI

A Novita AI lançou descrições de capacidade de suporte para cada LLM, que você pode visualizar diretamente no [console](https://novita.ai/models-console/?utm_source=blog_llm&utm_medium=article&utm_campaign=/ llama-4-maverick-function-calling/) e na [documentação](https://novita.ai/docs/guides/llm-function-calling/?utm_source=blog_llm&utm_medium=article&utm_campaign= llama-4-maverick-function-calling).

llama 4 function calling

supports model

Escolha seu Modelo

1. Inicialize o Cliente

Primeiro, você precisa inicializar o cliente com sua chave de API Novita.

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # Obtenha a chave da API Novita AI em: https://novita.ai/settings/key-management.
    api_key="<SUA CHAVE API Novita AI>",
)

model = "meta-llama/llama-4-maverick-17b-128e-instruct-fp8"
  • Defina a Função a Ser Chamada

Em seguida, defina a função Python que o modelo pode chamar. Neste exemplo, é uma função para obter informações meteorológicas.

# Exemplo de função para simular a busca de dados meteorológicos.
def get_weather(location):
    """Recupera o clima atual para um determinado local."""
    print("Chamando função get_weather com local: ", location)
    # Em uma aplicação real, você chamaria uma API meteorológica externa aqui.
    # Este é um exemplo simplificado que retorna dados fixos.
    return json.dumps({"location": location, "temperature": "60 graus Fahrenheit"})

2. Construa a Solicitação de API com Ferramentas e Mensagem do Usuário

Agora, crie a solicitação de API para o endpoint Novita. Esta solicitação inclui o parâmetro tools, definindo as funções que o modelo pode usar, e a mensagem do usuário.

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "Obter o clima de um local, o usuário deve fornecer um local primeiro",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "A cidade e estado, ex.: São Francisco, CA"
                    }
                },
                "required": ["location"]
            },
        }
    },
]

messages = [
    {
        "role": "user",
        "content": "Qual é o clima em São Francisco?"
    }
]

# Vamos enviar a solicitação e imprimir a resposta.
response = client.chat.completions.create(
    model=model,
    messages=messages,
    tools=tools,
)

# Verifique se a resposta contém chamadas de ferramenta se estiver em produção.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())

3. Saída

{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}

4. Responda com o Resultado da Chamada de Função e Obtenha a Resposta Final

O próximo passo é processar a chamada de função, executar a função get_weather e enviar o resultado de volta ao modelo para gerar a resposta final ao usuário.

# Certifique-se de que tool_call está definido a partir da etapa anterior
if tool_call:
    # Estenda o histórico da conversa com a mensagem de chamada de ferramenta do assistente
    messages.append(response.choices[0].message)

    function_name = tool_call.function.name
    if function_name == "get_weather":
        function_args = json.loads(tool_call.function.arguments)
        # Execute a função e obtenha a resposta
        function_response = get_weather(
            location=function_args.get("location"))
        # Adicione a resposta da função às mensagens
        messages.append(
            {
                "tool_call_id": tool_call.id,
                "role": "tool",
                "content": function_response,
            }
        )

    # Obtenha a resposta final do modelo, agora com o resultado da função
    answer_response = client.chat.completions.create(
        model=model,
        messages=messages,
        # Nota: Não inclua o parâmetro tools aqui.
    )
    print(answer_response.choices[0].message)

5. Saída

{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}

Com seu design de ponta e integração perfeita através da Novita AI, o Llama 4 Maverick supera outros modelos, fornecendo uma solução poderosa, confiável e flexível para aplicações modernas impulsionadas por IA.

Perguntas Frequentes

O que é chamada de função?

Permite que LLMs acionem ferramentas ou APIs externas para realizar tarefas e recuperar dados.

Como o Llama 4 Maverick funciona com chamada de função?

O Llama 4 Maverick simplifica integrações de sistemas em tempo real via Novita AI.

O que torna o Llama 4 Maverick superior?

O Llama 4 Maverick possui 400B parâmetros, 128 Mixture-of-Experts e capacidades multilíngues e multimodais robustas, tornando-o mais poderoso e versátil que outros modelos.

Novita AI é a plataforma completa em nuvem que impulsiona suas ambições de IA. APIs integradas, serverless, instância GPU — as ferramentas econômicas que você precisa. Elimine infraestrutura, comece gratuitamente e torne sua visão de IA realidade.

Leitura Recomendada