Points clés
Novita AI a introduit Llama 4 Maverick ! De plus, cette version prend pleinement en charge l’appel de fonctions (function calling).
Llama 4 Maverick associe une architecture 128 Mixture-of-Experts (MoE) de pointe à des capacités multimodales avancées.
Si vous souhaitez tester ses performances, lancez un essai gratuit directement sur Novita AI Playground !
Llama 4 Maverick redéfinit l’IA avec des capacités d’appel de fonctions supérieures, offrant des performances inégalées, une interaction en temps réel et une fonctionnalité globale grâce à son architecture avancée.
Qu’est-ce que l’appel de fonctions ?
L’appel de fonctions désigne la capacité d’un système, tel qu’un modèle ou une application, à invoquer ou à appeler des fonctions ou services externes lors de son exécution. Ces fonctions peuvent être des API, des bases de données ou d’autres services qui effectuent des tâches spécifiques hors du champ du modèle ou du système principal.
- Services externes : La fonction peut interagir avec des API, des bases de données ou des services tiers (par exemple, processeurs de paiement, données météorologiques, etc.).
- Interaction en temps réel : L’appel de fonction a lieu pendant l’exécution, fournissant des données ou des actions en direct.
- Fonctions prédéfinies : Ces fonctions sont généralement prédéfinies, ce qui signifie que le système sait ce qu’elles feront (par exemple, récupérer des données, traiter des transactions).
https://www.youtube.com/watch?v=aqdWSYWC\_LI
Comment fonctionne l’appel de fonctions ?
- Le système envoie une requête à une fonction externe (par exemple, une API ou un service).
- La fonction exécute la tâche (par exemple, récupérer des données, traiter des informations).
- Le résultat est renvoyé au système, qui l’utilise pour un traitement ultérieur.
Quels sont les avantages de l’appel de fonctions ?
- Données en temps réel : Fournit des informations à jour en interagissant avec des sources externes.
- Fonctionnalités étendues : Permet au système d’utiliser des services externes (par exemple, traitement des paiements, données météorologiques).
- Modularité : Rend les systèmes plus flexibles et adaptables en intégrant des capacités externes sans réinventer la roue.
Appel de fonctions vs RAG
Exemple d’appel de fonctions :
import requests
def get_weather(city: str):
# Remplacez par votre clé API et votre URL réelles
api_key = "your_api_key"
url = f"http://api.openweathermap.org/data/2.5/weather?q={city}&appid={api_key}&units=metric"
response = requests.get(url)
data = response.json()
if response.status_code == 200:
temperature = data['main']['temp']
description = data['weather'][0]['description']
return f"The current temperature in {city} is {temperature}°C with {description}."
else:
return "Sorry, I couldn't fetch the weather data at the moment."
# Utilisez la fonction pour obtenir des informations météo pour New York
city = "New York"
weather_info = get_weather(city)
print(weather_info)
Exemple RAG :
from transformers import pipeline
# Base de connaissances simulée (pourrait être une base de données ou un jeu de données plus volumineux dans une application réelle)
knowledge_base = {
"force majeure": "Force Majeure refers to unforeseeable circumstances that prevent someone from fulfilling a contract.",
"breach of contract": "A breach of contract occurs when one party fails to perform its obligations as outlined in the contract.",
"arbitration": "Arbitration is a method of resolving disputes outside the courts, where an arbitrator makes a binding decision."
}
def retrieve_information(query: str):
# Récupère les informations pertinentes en fonction de la requête (peut être remplacé par une requête de base de données ou une recherche plus avancée)
query = query.lower()
if query in knowledge_base:
return knowledge_base[query]
else:
return "Sorry, I couldn't find any relevant information in the knowledge base."
def generate_answer(query: str):
# Récupère d'abord les informations
retrieved_info = retrieve_information(query)
# Utilise un modèle de génération de texte (par exemple, GPT-2) pour générer une réponse basée sur les informations récupérées
model = pipeline("text-generation", model="gpt-2")
answer = model(f"Based on the information: {retrieved_info}. Answer the following question: {query}")[0]['generated_text']
return answer
# Requête utilisateur
query = "What is force majeure in a contract?"
answer = generate_answer(query)
print(answer)
Qu’est-ce que Llama 4 Maverick ?
| Catégorie | Élément | Détails |
|---|---|---|
| Informations de base | Date de publication | 5 avril 2025 |
| Taille du modèle | 400B paramètres (17B actifs/token) | |
| Open Source | Ouvert | |
| Architecture | 128 Mixture-of-Experts (MoE) | |
| Support linguistique | Langues supportées | Pré-entraîné sur 200 langues. Prend en charge l’arabe, l’anglais, le français, l’allemand, l’hindi, l’indonésien, l’italien, le portugais, l’espagnol, le tagalog, le thaï et le vietnamien. |
| Multimodal | Capacité multimodale | Entrée : texte multilingue et image ; sortie : texte multilingue et code |
| Entraînement | Données d’entraînement | ~22 billions de tokens de données multimodales (dont certaines provenant d’Instagram et Facebook) |
| Pré-entraînement | MetaP : Configuration adaptative des experts + entraînement intermédiaire | |
| Post-entraînement | SFT (données faciles) → RL (données difficiles) → DPO |
Comment utiliser l’appel de fonctions de Llama 4 Maverick via Novita AI
Novita AI a mis en place des descriptions des capacités prises en charge pour chaque LLM, que vous pouvez consulter directement dans la [console](https://novita.ai/models-console/?utm_source=blog_llm&utm_medium=article&utm_campaign=/ llama-4-maverick-function-calling/) et la [documentation](https://novita.ai/docs/guides/llm-function-calling/?utm_source=blog_llm&utm_medium=article&utm_campaign= llama-4-maverick-function-calling).
1. Initialiser le client
Tout d’abord, vous devez initialiser le client avec votre clé API Novita.
from openai import OpenAI
import json
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Obtenez la clé API Novita AI depuis : https://novita.ai/settings/key-management.
api_key="<YOUR Novita AI API Key>",
)
model = "meta-llama/llama-4-maverick-17b-128e-instruct-fp8"
- Définir la fonction à appeler
Ensuite, définissez la fonction Python que le modèle peut appeler. Dans cet exemple, il s’agit d’une fonction pour obtenir les informations météorologiques.
# Exemple de fonction pour simuler la récupération de données météo.
def get_weather(location):
"""Retrieves the current weather for a given location."""
print("Calling get_weather function with location: ", location)
# Dans une application réelle, vous appelleriez une API météo externe ici.
# Ceci est un exemple simplifié renvoyant des données codées en dur.
return json.dumps({"location": location, "temperature": "60 degrees Fahrenheit"})
2. Construire la requête API avec les outils et le message utilisateur
Créez maintenant la requête API vers le point de terminaison Novita. Cette requête inclut le paramètre tools, définissant les fonctions que le modèle peut utiliser, et le message de l’utilisateur.
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Get weather of an location, the user shoud supply a location first",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "The city and state, e.g. San Francisco, CA",
}
},
"required": ["location"]
},
}
},
]
messages = [
{
"role": "user",
"content": "What is the weather in San Francisco?"
}
]
# Envoyons la requête et affichons la réponse.
response = client.chat.completions.create(
model=model,
messages=messages,
tools=tools,
)
# Veuillez vérifier si la réponse contient des appels d'outils en production.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())
3. Sortie
{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}
4. Répondre avec le résultat de l’appel de fonction et obtenir la réponse finale
L’étape suivante consiste à traiter l’appel de fonction, exécuter la fonction get_weather et renvoyer le résultat au modèle pour générer la réponse finale à l’utilisateur.
# Assurez-vous que tool_call est défini à partir de l'étape précédente
if tool_call:
# Étendre l'historique de la conversation avec le message d'appel d'outil de l'assistant
messages.append(response.choices[0].message)
function_name = tool_call.function.name
if function_name == "get_weather":
function_args = json.loads(tool_call.function.arguments)
# Exécuter la fonction et obtenir la réponse
function_response = get_weather(
location=function_args.get("location"))
# Ajouter la réponse de la fonction aux messages
messages.append(
{
"tool_call_id": tool_call.id,
"role": "tool",
"content": function_response,
}
)
# Obtenir la réponse finale du modèle, maintenant avec le résultat de la fonction
answer_response = client.chat.completions.create(
model=model,
messages=messages,
# Note : ne pas inclure le paramètre tools ici.
)
print(answer_response.choices[0].message)
5. Sortie
{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}
Avec sa conception de pointe et son intégration transparente via Novita AI, Llama 4 Maverick surpasse les autres modèles, offrant une solution puissante, fiable et flexible pour les applications modernes pilotées par l’IA.
Foire aux questions
Qu’est-ce que l’appel de fonctions ?
Cela permet aux LLM de déclencher des outils ou API externes pour effectuer des tâches et récupérer des données.
Comment Llama 4 Maverick fonctionne-t-il avec l’appel de fonctions ?
LlLlama 4 Maverick simplifie les intégrations système en temps réel via Novita AI.
Qu’est-ce qui rend Llama 4 Maverick supérieur ?
Llama 4 Maverick dispose de 400B paramètres, de 128 Mixture-of-Experts et de robustes capacités multilingues et multimodales, ce qui le rend plus puissant et polyvalent que les autres modèles.
Novita AI est la plateforme cloud tout-en-un qui dynamise vos ambitions IA. API intégrées, serverless, instances GPU – les outils rentables dont vous avez besoin. Éliminez l’infrastructure, commencez gratuitement et faites de votre vision IA une réalité.
