Novita AI 블로그

간단한 API로 AI 모델을 쉽게 배포하세요.
합리적이고 안정적인 GPU 클라우드에서 구축하고 확장하세요.

카테고리별 게시글 필터링

추론적 디코딩이 LLM 추론 정확도를 해칠까?

추론적 디코딩이 LLM 추론 정확도를 해칠까?

Mitchell Stern 등이 2018년에 추론적 디코딩의 프로토타입 개념을 소개했습니다. 이후 이 방법은 Lookahead Decoding, REST, Medusa, EAGLE 등 다양한 접근 방식으로 더욱 발전하고 개선되어...

서버리스 및 컨테이너 엔진

서버리스 및 컨테이너 엔진

소개: 서버리스에 대해 이야기할 때 Kubernetes는 피할 수 없는 주제입니다. 오늘 수업에서는 프라이빗 서버리스 환경을 설정하는 방법을 계속 배워보겠습니다.