GPT OSS sur Novita AI : Accédez aux modèles open-source d'OpenAI via API

Novita AI a le plaisir d’annoncer que GPT OSS – les modèles de langage ouverts révolutionnaires d’OpenAI – est désormais disponible via notre API d’inférence. La famille GPT OSS comprend deux modèles de raisonnement de pointe : gpt-oss-120b et gpt-oss-20b. Les deux sont publiés sous licence Apache 2.0.

Selon OpenAI, cette publication constitue une étape significative dans leur engagement envers l’écosystème open-source, conformément à leur mission déclarée de rendre les avantages de l’IA largement accessibles. Les modèles sont conçus pour les flux de travail agentiques, l’utilisation d’outils et les tâches de raisonnement complexes, ce qui les rend idéaux pour créer des applications d’IA sophistiquées sans les contraintes des systèmes propriétaires.

Novita AI propose GPT OSS aux tarifs suivants :

gpt-oss-120b : 0,10 $ en entrée / 0,50 $ en sortie par million de tokens

gpt-oss-20b : 0,05 $ en entrée / 0,20 $ en sortie par million de tokens

Présentation du modèle et capacités

Les modèles GPT OSS sont des mixtures d’experts (MoE) utilisant un schéma de quantification 4 bits (MXFP4). Cela permet une inférence rapide tout en maintenant une faible utilisation des ressources. Les deux modèles prennent en charge le raisonnement par chaîne de pensée avec des niveaux d’effort de raisonnement ajustables, le suivi d’instructions et les capacités d’utilisation d’outils.

Modèle	Couches	Paramètres totaux	Paramètres actifs par token	Experts totaux	Experts actifs par token	Longueur de contexte
gpt-oss-120b	36	117B	5,1B	128	4	128k
gpt-oss-20b	24	21B	3,6B	32	4	128k

gpt-oss-120b : raisonnement haute performance

Le modèle gpt-oss-120b possède 117B de paramètres totaux avec 5,1B de paramètres actifs. Il atteint une quasi-parité avec OpenAI o4-mini sur les benchmarks de raisonnement fondamentaux tout en fonctionnant efficacement sur une infrastructure optimisée.

Le modèle surpasse OpenAI o3‑mini et égale ou dépasse OpenAI o4-mini en codage de compétition (Codeforces), résolution de problèmes généraux (MMLU et HLE) et appel d’outils (TauBench).

Tester gpt-oss-120b dans le playground

gpt-oss-20b : raisonnement efficace en périphérie

Le modèle gpt-oss-20b contient 21B de paramètres totaux avec 3,6B de paramètres actifs. Il est conçu pour des scénarios de déploiement efficaces. Le modèle 120B tient sur un seul GPU H100, tandis que le modèle 20B fonctionne dans 16 Go de mémoire et est parfait pour le matériel grand public et les applications sur appareil.

Malgré sa taille réduite, il égale ou dépasse OpenAI o3‑mini sur les benchmarks standard, surpassant même ce dernier en mathématiques de compétition (AIME 2024 & 2025) et en requêtes liées à la santé (HealthBench).

Tester gpt-oss-20b dans le playground

Fonctionnalités principales et spécifications techniques

Détails de l’architecture

• 21B et 117B de paramètres totaux avec respectivement 3,6B et 5,1B de paramètres actifs
• Schéma de quantification 4 bits utilisant le format mxfp4, appliqué uniquement sur les poids MoE
• MoE à choix de tokens avec activations SwiGLU et softmax-after-topk pour la sélection des experts
• Attention RoPE avec une longueur de contexte de 128K sur toutes les couches d’attention
• Couches d’attention alternées : motifs de fenêtre glissante de 128 tokens et contexte complet
• Puits d’attention appris par tête pour améliorer les performances sur les longs contextes

Capacités clés

Modèles de raisonnement : Modèles textuels avec chaîne de pensée et niveaux d’effort de raisonnement ajustables (« faible », « moyen », « élevé »)

Prise en charge des outils : Support intégré pour la recherche web, l’exécution de code Python et l’intégration d’outils personnalisés

Sorties structurées : Prise en charge native des formats JSON, XML et autres formats de données structurées avec validation de schéma

Compatibilité avec l’API Responses : Compatibilité totale avec l’API Responses d’OpenAI, l’interface la plus avancée d’OpenAI pour les modèles de chat, conçue pour des interactions plus flexibles et intuitives

Licence Apache 2.0 : Flexibilité maximale pour une utilisation commerciale et de recherche. Selon OpenAI, ils visent à ce que leurs outils soient utilisés de manière sûre, responsable et démocratique, tout en maximisant le contrôle des utilisateurs sur la façon dont ils les utilisent. En utilisant gpt-oss, les utilisateurs acceptent de se conformer à toutes les lois applicables.

Performances des benchmarks

Résultats de l’évaluation de la sécurité

OpenAI a mené des tests de sécurité complets dans le cadre de son cadre de préparation (Preparedness Framework), y compris des tests d’une version de gpt-oss-120b affinée de manière adversarial. Leur méthodologie a été examinée par des experts externes et marque une avancée dans l’établissement de nouvelles normes de sécurité pour les modèles ouverts :

• Évaluations des capacités évolutives : OpenAI a confirmé que le modèle par défaut n’atteint pas leurs seuils indicatifs de capacité élevée dans aucune des trois catégories suivies (capacité biologique et chimique, capacité cybernétique et auto-amélioration de l’IA)
• Tests d’ajustement adversarial : Même avec un ajustement robuste utilisant la pile d’entraînement de pointe d’OpenAI, gpt-oss-120b n’a pas atteint une capacité élevée en matière de risque biologique et chimique ou de risque cybernétique
• Évaluation des risques frontières : Pour la plupart des évaluations, les performances par défaut des modèles ouverts existants se rapprochent des performances ajustées de manière adversarial de gpt-oss-120b
• Examen externe : Le groupe consultatif sur la sécurité (SAG) d’OpenAI a examiné ces tests et a conclu que les modèles répondent aux normes de sécurité

Accès via l’API Novita AI

Novita AI offre un accès complet aux modèles GPT OSS via des endpoints serverless et dédiés, avec une compatibilité totale avec l’API OpenAI.

Tarifs et détails du modèle

Nom du modèle : openai/gpt-oss-120b

• Prix entrée/sortie (Novita AI) :
  • Entrée : 0,10 $ par million de tokens
  • Sortie : 0,50 $ par million de tokens
• Taille du contexte : 131 072
• Essayez-le maintenant : Tester gpt-oss-120b dans le playground

Nom du modèle : openai/gpt-oss-20b

• Prix entrée/sortie (Novita AI) :
  • Entrée : 0,05 $ par million de tokens
  • Sortie : 0,20 $ par million de tokens
• Taille du contexte : 131 072
• Sortie maximale : 32 768
• Essayez-le maintenant : Tester gpt-oss-20b dans le playground

Démarrez avec Novita AI

Utilisez le Playground (sans codage nécessaire)

• Accès instantané : Inscrivez-vous et commencez à expérimenter avec les modèles GPT OSS en quelques secondes
• Interface interactive : Testez des invites de raisonnement complexes et visualisez les sorties de la chaîne de pensée en temps réel
• Comparaison de modèles : Comparez GPT OSS avec d’autres modèles leaders pour votre cas d’utilisation spécifique

Intégration via API (pour les développeurs) Connectez GPT OSS à vos applications avec l’API REST unifiée de Novita AI.

Option 1 : Intégration API directe (exemple Python)

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="",
)

model = "openai/gpt-oss-120b"
stream = True # or False
max_tokens = 65536
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

Fonctionnalités clés :

• API compatible OpenAI pour une intégration transparente
• Contrôle flexible des paramètres pour affiner les réponses
• Prise en charge du streaming pour des réponses en temps réel

Option 2 : Flux de travail multi-agents avec le SDK OpenAI Agents Créez des systèmes multi-agents sophistiqués en utilisant GPT OSS :

• Intégration prête à l’emploi : Utilisez GPT OSS dans n’importe quel flux de travail OpenAI Agents
• Capacités avancées des agents : Prise en charge des transferts, du routage et de l’intégration d’outils avec des performances de raisonnement supérieures
• Architecture évolutive : Concevez des agents qui exploitent les capacités unifiées de raisonnement, de codage et d’action de GPT OSS

Connectez-vous avec des plateformes tierces

• Outils de développement : Intégration transparente avec les IDE et environnements de développement populaires comme Cursor, Trae et Cline via des API compatibles OpenAI
• Frameworks d’orchestration : Connectez-vous avec LangChain, Dify, CrewAI, Langflow et d’autres plateformes d’orchestration IA à l’aide de connecteurs officiels
• Intégration Hugging Face : Novita AI est un fournisseur d’inférence officiel de Hugging Face

Architecture et entraînement du modèle

Pré-entraînement et développement du modèle

Les modèles ont été entraînés en utilisant un mélange d’apprentissage par renforcement et de techniques issues des modèles internes les plus avancés d’OpenAI, notamment o3 et d’autres systèmes frontaliers. Ils ont été largement entraînés à utiliser des outils dans le cadre de leurs efforts de raisonnement.

Optimisation post-entraînement

Apprentissage par renforcement à partir du retour humain (RLHF) : Entraînement complet à l’alignement pour des réponses utiles, inoffensives et honnêtes

Entraînement à la sécurité : Évaluations de sécurité approfondies et tests adversariaux pour garantir un déploiement responsable

Calibrage du raisonnement : Contrôle affiné de l’effort de raisonnement permettant l’optimisation pour différentes complexités de tâche

Innovation technique

Retour historique à l’open-source : Il s’agit du premier modèle de langage ouvert d’OpenAI depuis GPT-2, publié il y a plus de cinq ans, ce qui représente une étape importante dans leur engagement envers l’écosystème open-source

Architecture MoE avancée : Implémentation sophistiquée de mixtures d’experts avec routage par choix de tokens et modèles de sélection d’experts optimisés

Quantification efficace : Quantification native 4 bits utilisant le format mxfp4 permet une inférence rapide tout en maintenant une faible utilisation des ressources, le modèle 120B tenant sur un seul GPU 80 Go et le modèle 20B dans 16 Go de mémoire

Conclusion

Les modèles GPT OSS d’OpenAI représentent une avancée dans l’IA open-source, offrant des capacités de raisonnement de pointe sous licence Apache 2.0. Grâce à l’infrastructure API de Novita AI, les développeurs peuvent accéder à ces modèles puissants via des endpoints serverless et dédiés avec une compatibilité totale avec OpenAI.

Que vous construisiez des flux de travail agentiques, que vous meniez des recherches ou que vous développiez des applications de production, GPT OSS fournit la base pour les solutions d’IA de nouvelle génération. Avec un raisonnement avancé, une prise en charge des outils et une licence flexible, ces modèles créent des opportunités sans précédent pour l’innovation en IA dans tous les secteurs.

Prêt à commencer ? Découvrez instantanément les modèles GPT OSS sur le playground de modèles Novita AI – aucun codage nécessaire. Inscrivez-vous dès aujourd’hui et commencez à construire avec les modèles open-source les plus avancés d’OpenAI.

Novita AI est une plateforme cloud IA qui offre aux développeurs un moyen simple de déployer des modèles d’IA via notre API simple, tout en fournissant également le cloud GPU abordable et fiable pour construire et faire évoluer.