Points clés
Novita AI a lancé Llama 4 Scout ! De plus, cette version prend entièrement en charge l’appel de fonction.
Si vous souhaitez tester ses performances, lancez un essai gratuit directement sur Novita AI Playground !
L’appel de fonction permet à des LLM comme Llama 4 Scout d’effectuer des tâches concrètes en s’intégrant à des API et des outils externes, transformant les commandes en langage naturel en résultats exploitables.
Qu’est-ce que l’appel de fonction ?
L’appel de fonction représente une avancée majeure dans les capacités des grands modèles de langage (LLM), leur permettant d’interagir avec des outils externes, des API et des sources de données. En convertissant les requêtes en langage naturel en appels de fonction structurés, les LLM peuvent exécuter des actions réelles, récupérer des informations dynamiques et effectuer des calculs complexes au‑delà de leurs capacités natives de génération de texte.
Définition de l’appel de fonction
L’appel de fonction est une méthode structurée qui permet aux LLM d’interfacer des systèmes externes en générant des commandes exécutables à partir des requêtes utilisateur. Contrairement aux sorties traditionnelles des LLM, limitées à la génération de texte, l’appel de fonction permet aux modèles de déclencher des fonctions prédéfinies avec des paramètres spécifiques, d’exécuter ces fonctions via du code externe et d’intégrer les résultats dans des réponses cohérentes.
https://www.youtube.com/watch?v=i-oHvHejdsc&t=429s
Comment fonctionne l’appel de fonction ?
L’appel de fonction implique un processus structuré où un grand modèle de langage (LLM) interprète les requêtes de l’utilisateur pour déterminer quelle fonction prédéfinie exécuter et avec quels paramètres. Voici un aperçu simplifié :
- Requête utilisateur : L’utilisateur soumet une requête au système.
- Interprétation par le LLM : Le LLM analyse la requête pour identifier la fonction et les paramètres appropriés.
- Exécution de la fonction : Le système exécute la fonction avec les paramètres fournis.
- Génération de la réponse : Le résultat est renvoyé au LLM, qui génère une réponse finale intégrant le résultat.
Appel de fonction vs RAG
| Aspect | Appel de fonction | Génération augmentée par récupération (RAG) |
|---|---|---|
| Définition | Appelle des fonctions externes (API, bases de données) pour des tâches en temps réel. | Récupère et synthétise des informations de sources externes pour générer des réponses. |
| Cas d’usage | Interrogation de bases de données, requêtes API, outils externes (ex. paiement). | Systèmes de questions‑réponses récupérant des données pour générer des réponses. |
| Avantages | - Tâches en temps réel - Interaction avec des systèmes externes - Systèmes modulaires |
- Accès à de vastes connaissances - Efficace pour les requêtes complexes - Idéal pour des données à jour |
| Objectif | Invoquer des systèmes ou services externes. | Améliorer la génération en utilisant des connaissances récupérées. |
| Implémentation | Appels externes prédéfinis (ex. API). | Récupère des informations pendant le processus de génération. |
| Flexibilité | Plus flexible pour les interactions en temps réel. | Exploite des connaissances externes/internes pour la génération. |
Comment utiliser l’appel de fonction de Llama 4 Scout via Novita AI
Novita AI a mis en place des descriptions de capacités pour chaque LLM, que vous pouvez consulter directement dans la console et la documentation.
1. Initialiser le client
Tout d’abord, vous devez initialiser le client avec votre clé API Novita.
from openai import OpenAI
import json
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Obtenez la clé API Novita AI depuis : https://novita.ai/settings/key-management.
api_key="<YOUR Novita AI API Key>",
)
model = "meta-llama/llama-4-scout-17b-16e-instruct"
- Définir la fonction à appeler
Ensuite, définissez la fonction Python que le modèle peut appeler. Dans cet exemple, il s’agit d’une fonction pour obtenir des informations météo.
# Exemple de fonction simulant la récupération de données météo.
def get_weather(location):
"""Récupère la météo actuelle pour un lieu donné."""
print("Appel de la fonction get_weather avec le lieu : ", location)
# Dans une application réelle, vous appelleriez ici une API météo externe.
# Ceci est un exemple simplifié renvoyant des données codées en dur.
return json.dumps({"location": location, "temperature": "60 degrés Fahrenheit"})
2. Construire la requête API avec les outils et le message utilisateur
Maintenant, créez la requête API vers le point de terminaison Novita. Cette requête inclut le paramètre tools, définissant les fonctions que le modèle peut utiliser, et le message de l’utilisateur.
tools = [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Obtenir la météo d'un lieu, l'utilisateur doit d'abord fournir un lieu",
"parameters": {
"type": "object",
"properties": {
"location": {
"type": "string",
"description": "La ville et l'état, ex. San Francisco, CA",
}
},
"required": ["location"]
},
}
},
]
messages = [
{
"role": "user",
"content": "Quel temps fait-il à San Francisco ?"
}
]
# Envoyons la requête et affichons la réponse.
response = client.chat.completions.create(
model=model,
messages=messages,
tools=tools,
)
# Veuillez vérifier si la réponse contient des appels d'outils en production.
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())
3. Sortie
{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}
4. Répondre avec le résultat de l’appel de fonction et obtenir la réponse finale
L’étape suivante consiste à traiter l’appel de fonction, exécuter la fonction get_weather et renvoyer le résultat au modèle pour générer la réponse finale à l’utilisateur.
# Assurez-vous que tool_call est défini depuis l'étape précédente
if tool_call:
# Étendre l'historique de la conversation avec le message d'appel d'outil de l'assistant
messages.append(response.choices[0].message)
function_name = tool_call.function.name
if function_name == "get_weather":
function_args = json.loads(tool_call.function.arguments)
# Exécuter la fonction et obtenir la réponse
function_response = get_weather(
location=function_args.get("location"))
# Ajouter la réponse de la fonction aux messages
messages.append(
{
"tool_call_id": tool_call.id,
"role": "tool",
"content": function_response,
}
)
# Obtenir la réponse finale du modèle, maintenant avec le résultat de la fonction
answer_response = client.chat.completions.create(
model=model,
messages=messages,
# Note : ne pas inclure le paramètre tools ici.
)
print(answer_response.choices[0].message)
5. Sortie
{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}
Avec Llama 4 Scout et Novita AI, l’appel de fonction redéfinit les applications des LLM, offrant des solutions dynamiques et en temps réel pour les besoins modernes.
Questions fréquentes
Qu’est-ce que l’appel de fonction ?
Cela permet aux LLM de déclencher des outils ou API externes pour effectuer des tâches et récupérer des données.
Comment Llama 4 Scout fonctionne-t-il avec l’appel de fonction ?
Llama 4 Scout simplifie les intégrations système en temps réel via Novita AI.
L’appel de fonction est-il adapté aux besoins en temps réel ?
Oui, il est parfait pour des tâches comme les appels API ou les requêtes de données dynamiques.
Novita AI est la plateforme cloud tout-en-un qui booste vos ambitions en IA. API intégrées, serverless, instance GPU — les outils rentables dont vous avez besoin. Éliminez l’infrastructure, commencez gratuitement et faites de votre vision IA une réalité.
