Novita AI 블로그

간단한 API로 AI 모델을 쉽게 배포하세요.
합리적이고 안정적인 GPU 클라우드에서 구축하고 확장하세요.

카테고리별 게시글 필터링

Novita AI에서 MiniMax M3 API 빠른 시작

Novita AI에서 MiniMax M3 API 빠른 시작

Novita AI에서 MiniMax M3를 사용해 보세요. 확인된 모델 ID, OpenAI 호환 엔드포인트, 계층형 가격, 제한 사항 및 예제가 포함되어 있습니다.

vLLM을 위한 PegaFlow 외부 KV 캐시

vLLM을 위한 PegaFlow 외부 KV 캐시

PegaFlow 외부 KV 캐시는 vLLM 서빙 팀이 재시작, 인스턴스, RDMA 노드 간에 KV 캐시를 보존하고 공유할 수 있도록 돕습니다.