Novita AI 스팟 GPU 인스턴스를 사용하면 온디맨드 가격보다 크게 할인된 요금으로 여유 GPU 컴퓨팅 용량에 액세스할 수 있습니다.
RTX 4090 GPU를 시간당 $0.18 에 이용 가능합니다(온디맨드 $0.35/시간 대비). 또는 고주파 RTX 4090 GPU를 시간당 $0.35 에 이용할 수 있습니다(온디맨드 $0.69/시간 대비). 동일한 강력한 하드웨어에서 최대 50%를 절약할 수 있어, 스팟 인스턴스는 내결함성 및 유연한 애플리케이션에 이상적인 선택입니다.
머신러닝 모델을 학습하거나, 배치 추론 작업을 실행하거나, 대규모 데이터세트를 처리하는 경우에도 스팟 인스턴스는 비용의 일부만으로 동일한 고성능 GPU 기능을 제공합니다.
스팟 인스턴스 작동 방식
스팟 인스턴스는 Novita AI의 여유 GPU 용량을 활용합니다. 일반 인스턴스에 대한 수요가 증가하면 이 용량을 회수할 수 있기 때문에 더 낮은 가격으로 제공됩니다. 스팟 인스턴스를 사용하면 적합한 워크로드에 대해 GPU 컴퓨팅 비용을 크게 줄일 수 있습니다.
주요 특징
- 가변적 가용성: Novita AI가 용량을 다시 필요로 할 때 스팟 인스턴스가 중단될 수 있습니다.
- 상당한 비용 절감: 동일한 GPU 성능을 온디맨드 가격보다 최대 50% 저렴하게 이용할 수 있습니다.
- 보호 기간: 각 스팟 인스턴스는 시작 후 1시간의 보호 기간이 제공됩니다.
- 사전 통지: 회수 1시간 전에 중단 통지를 받으며, 추가로 5분 전 경고가 제공됩니다.
가격 및 사용 가능한 GPU 유형
스팟 인스턴스 가격은 상당한 비용 절감을 제공합니다. 스팟 인스턴스를 통해 RTX 4090 24GB GPU는 시간당 $0.18 부터 이용 가능하며(온디맨드 $0.35/시간 대비), 고주파 RTX 4090 변형은 시간당 $0.35 에 불과합니다(온디맨드 $0.69/시간 대비). 고주파 구성은 최적화된 CPU-GPU 조정을 통해 AI 이미지 생성 속도를 최대 150%까지 가속화합니다.
| GPU 유형 | 스팟 가격 | 온디맨드 가격 | 절감액 |
|---|---|---|---|
| RTX 4090 (24GB) | $0.18/시간 | $0.35/시간 | ~49% |
| RTX 4090 고주파 | $0.35/시간 | $0.69/시간 | ~49% |
머지않아 추가 GPU 유형을 스팟 인스턴스에서 사용할 수 있게 되어, 다양한 워크로드 요구 사항에 맞는 옵션이 확장될 예정입니다.
중단 처리
보호 기간
모든 스팟 인스턴스는 시작 후 첫 1시간 동안 중단으로부터 보호됩니다. 이 보호 기간 동안에는 용량 요구와 관계없이 인스턴스가 회수되지 않습니다.
중단 통지
Novita AI가 스팟 인스턴스 용량을 회수해야 할 경우 시스템은 다음을 제공합니다:
- 초기 경고: 중단 1시간 전 사전 통지
- 최종 경고: 인스턴스 종료 5분 전 통지
이러한 알림을 통해 다음을 수행할 수 있습니다:
- 작업 저장 및 체크포인트 진행 상황 저장
- 데이터를 영구 스토리지에 백업
- 애플리케이션을 정상적으로 종료
- 다른 스팟 또는 온디맨드 인스턴스로 마이그레이션
모범 사례
이상적인 사용 사례
스팟 인스턴스는 다음에 가장 적합합니다:
- 체크포인팅을 이용한 배치 처리 및 분산 학습
- 개발/테스트 환경
- 내결함성 또는 무상태 애플리케이션
- 유연한 마감일의 워크로드
시작하기 전에
워크로드가 다음을 처리할 수 있는지 확인하세요:
- 중단을 처리하고 체크포인트에서 다시 시작
- 1시간 보호 기간 내에 완료하거나 잠재적 중단을 견딜 수 있어야 함
3단계로 첫 번째 스팟 인스턴스 시작하기
1단계: 콘솔 액세스
Novita AI GPU 콘솔에 로그인하세요.
2단계: 스팟 결제로 전환
오른쪽 사이드바의 **필터 ** 아래에서 ** 결제 방법 **을 “스팟” 으로 변경하면 할인된 가격을 확인할 수 있습니다.
3단계: 배포
GPU 구성을 선택하고 “배포” 를 클릭하세요.
이것으로 끝입니다! 스팟 인스턴스는 다음과 함께 시작됩니다:
- 1시간 보호 기간
- 최대 50% 비용 절감
- 1시간 사전 중단 통지
프로 팁: 애플리케이션에 체크포인팅을 구현하여 잠재적 중단을 원활하게 처리하세요.
온디맨드 인스턴스와의 비교
| 기능 | 스팟 인스턴스 | 온디맨드 인스턴스 |
|---|---|---|
| 가격 | 최대 50% 저렴 | 표준 요금 |
| 가용성 | 용량에 따라 다름 | 항상 사용 가능 |
| 중단 위험 | 통지와 함께 회수 가능 | 중단 없음 |
| 보호 기간 | 시작 후 1시간 | 지속적 |
| 사용 사례 | 유연하고 내결함성 있는 워크로드 | 중요하고 중단 불가능한 워크로드 |
적절한 워크로드에 스팟 인스턴스를 선택하면 동일한 강력한 GPU 리소스에 액세스하면서 컴퓨팅 비용을 최적화할 수 있습니다.
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있도록 지원하는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 합리적이고 안정적인 GPU 클라우드를 제공합니다.
