Novita AI Spot GPU Instances ermöglichen Ihnen den Zugriff auf freie GPU-Compute-Kapazität zu deutlich reduzierten Preisen im Vergleich zu On-Demand-Preisen.
Erhalten Sie RTX 4090 GPUs bereits ab 0,18 $/Std. (statt 0,35 $/Std. On-Demand) oder High-Frequency RTX 4090 GPUs für 0,35 $/Std. (statt 0,69 $/Std. On-Demand) – das bedeutet Einsparungen von bis zu 50 % bei derselben leistungsstarken Hardware. Damit sind Spot Instances eine ideale Wahl für ausfalltolerante und flexible Anwendungen.
Ob Sie Machine-Learning-Modelle trainieren, Batch-Inference-Jobs ausführen oder große Datensätze verarbeiten – Spot Instances bieten dieselben leistungsstarken GPU-Fähigkeiten zu einem Bruchteil der Kosten.
Starten Sie Ihre erste Spot Instance jetzt
Wie Spot Instances funktionieren
Spot Instances nutzen die freie GPU-Kapazität von Novita AI. Diese Kapazität wird zu niedrigeren Preisen angeboten, da sie zurückgefordert werden kann, wenn die Nachfrage nach regulären Instanzen steigt. Durch den Einsatz von Spot Instances können Sie Ihre GPU-Compute-Kosten für geeignete Workloads erheblich senken.
Wichtige Eigenschaften
- Variable Verfügbarkeit: Spot Instances können unterbrochen werden, wenn Novita AI die Kapazität zurückbenötigt
- Erhebliche Kosteneinsparungen: Nutzen Sie dieselbe GPU-Leistung zu bis zu 50 % weniger als On-Demand-Preise
- Schutzzeitraum: Jede Spot Instance hat nach dem Start ein 1-stündiges Schutzfenster
- Vorankündigungen: Sie erhalten 1 Stunde vor der Rückforderung eine Unterbrechungsmitteilung, zusätzlich eine 5-minütige Warnung
Preise und verfügbare GPU-Typen
Die Preise für Spot Instances bieten erhebliche Einsparungen. Mit Spot Instances sind RTX 4090 24GB GPUs bereits ab 0,18 $/Std. verfügbar (im Vergleich zu 0,35 $/Std. On-Demand), während High-Frequency RTX 4090 Varianten nur 0,35 $/Std. kosten (statt 0,69 $/Std. On-Demand). Die High-Frequency-Konfiguration beschleunigt die KI-Bildgenerierung um bis zu 150 % durch optimierte CPU-GPU-Koordination.
| GPU-Typ | Spot-Preis | On-Demand-Preis | Einsparung |
|---|---|---|---|
| RTX 4090 (24GB) | 0,18 $/Std. | 0,35 $/Std. | ~49 % |
| RTX 4090 High-Frequency | 0,35 $/Std. | 0,69 $/Std. | ~49 % |
Weitere GPU-Typen werden bald für Spot Instances verfügbar sein, um die Optionen für verschiedene Workload-Anforderungen zu erweitern.
Unterbrechungshandhabung
Schutzzeitraum
Jede Spot Instance ist in der ersten Stunde nach dem Start vor Unterbrechungen geschützt. Während dieses Schutzzeitraums wird Ihre Instanz unabhängig von der Kapazitätsnachfrage nicht zurückgefordert.
Unterbrechungsmitteilungen
Wenn Novita AI die Kapazität einer Spot Instance zurückfordern muss, stellt das System Folgendes bereit:
- Erste Warnung: 1-stündige Vorankündigung vor der Unterbrechung
- Letzte Warnung: 5-minütige Benachrichtigung vor der Beendigung der Instanz
Diese Benachrichtigungen ermöglichen es Ihnen:
- Arbeit zu speichern und Fortschritts-Checkpoints zu setzen
- Daten auf persistenten Speicher zu sichern
- Anwendungen kontrolliert herunterzufahren
- Zu einer anderen Spot- oder On-Demand-Instanz zu migrieren
Best Practices
Ideale Anwendungsfälle
Spot Instances eignen sich am besten für:
- Batch-Verarbeitung und verteiltes Training mit Checkpointing
- Entwicklungs- und Testumgebungen
- Ausfalltolerante oder zustandslose Anwendungen
- Workloads mit flexiblem Zeitrahmen
Vor dem Start
Stellen Sie sicher, dass Ihr Workload:
- Unterbrechungen handhaben und von Checkpoints aus fortsetzen kann
- Entweder innerhalb des 1-stündigen Schutzfensters abgeschlossen werden kann oder potenzielle Unterbrechungen toleriert
Starten Sie Ihre erste Spot Instance in 3 Schritten
Schritt 1: Rufen Sie Ihre Konsole auf
Melden Sie sich in Ihrer Novita AI GPU Console an.
Schritt 2: Wechseln Sie zur Spot-Abrechnung
Ändern Sie im rechten Seitenbereich unter Filter die Abrechnungsmethode auf „Spot“, um die reduzierten Preise zu sehen.
Schritt 3: Bereitstellen
Wählen Sie Ihre GPU-Konfiguration aus und klicken Sie auf „Deploy“.
Das war’s! Ihre Spot Instance startet mit:
- 1-stündigem Schutzzeitraum
- Bis zu 50 % Kosteneinsparungen
- 1-stündiger Vorankündigung bei Unterbrechung
Profi-Tipp: Implementieren Sie Checkpointing in Ihrer Anwendung, um potenzielle Unterbrechungen elegant zu handhaben.
Vergleich mit On-Demand-Instanzen
| Funktion | Spot Instances | On-Demand Instances |
|---|---|---|
| Preisgestaltung | Bis zu 50 % günstiger | Standardtarife |
| Verfügbarkeit | Abhängig von der Kapazität | Immer verfügbar |
| Unterbrechungsrisiko | Kann mit Vorankündigung zurückgefordert werden | Keine Unterbrechungen |
| Schutzzeitraum | 1 Stunde nach dem Start | Dauerhaft |
| Anwendungsfall | Flexible, ausfalltolerante Workloads | Kritische, nicht unterbrechbare Workloads |
Durch die Wahl von Spot Instances für geeignete Workloads können Sie auf dieselben leistungsstarken GPU-Ressourcen zugreifen und gleichzeitig Ihre Compute-Kosten optimieren.
Novita AI ist eine KI-Cloud-Plattform, die Entwicklern eine einfache Möglichkeit bietet, KI-Modelle über unsere einfache API bereitzustellen, und gleichzeitig erschwingliche und zuverlässige GPU-Cloud zum Aufbau und zur Skalierung bereitstellt.
