주요 내용
DeepSeek R1과 Deepseek R1 Turbo란?
DeepSeek R1: 671B 파라미터 MoE 모델, 128K 컨텍스트.
DeepSeek R1 Turbo: 3배 속도, 함수 호출(function-calling), 60% 할인.
로컬에서 Deepseek R1 사용하기
Ollama를 통한 간단한 로컬 설정.
빠른 명령줄 사용.
API를 통해 Deepseek R1 사용하기
손쉬운 OpenAI 호환 API.
맞춤형 파라미터, 무료 체험 제공.
VSCode 확장 프로그램에서 Deepseek R1 사용하기
Cline 플러그인으로 설치.
VSCode 편집기에서 직접 AI 액세스.
Chatbox를 통해 Deepseek R1 사용하기
빠른 Chatbox API 통합.
간편한 대화형 AI 설정.
클라우드 GPU를 통해 Deepseek R1 사용하기
Novita AI의 GPU 인스턴스(A100).
맞춤형 고성능 배포.
Deepseek R1 Turbo 의 강력한 성능을 경험해 보세요. **3배 빠른 속도 **, 내장된 ** 함수 호출 **, 그리고 독점 60% 할인 을 제공합니다. 로컬 작업, API 통합, 고급 GPU 클라우드 인스턴스 등 어떤 환경에서든 Deepseek R1 Turbo는 효율성과 유연성을 위해 설계되었습니다.
DeepSeek R1과 Deepseek R1 Turbo란?
- 출시일: 2025년 1월 21일
- 모델 규모:
- 주요 특징:
- 모델 크기: 671B 파라미터 (토큰당 37B 활성)
- 토크나이저: 자기 반성 태그가 포함된 향상된 토크나이저
- 지원 언어: 문화 적응이 포함된 다국어
- 멀티모달: 텍스트 전용
- 컨텍스트 창: 128K 토큰
- 저장 형식: Q8/Q5 양자화 지원
- 아키텍처: Mixture of Experts (MoE) + RL 강화 학습 파이프라인
- 훈련 방식: V3 기반 + RL 파이프라인 (SFT → RL → SFT → RL)
- 훈련 데이터: V3 베이스 + RL 최적화 데이터
Novita AI는 DeepSeek R1 Turbo 를 출시했습니다. **3배 처리량 ** 과 **기간 한정 60% 할인 ** 을 제공하며, 이 버전은 함수 호출(function calling) 을 완전히 지원합니다.
Novita AI에서 무료 체험을 시작하세요!
더욱 흥미로운 소식: Novita AI가 OpenRouter에서 DeepSeek R1 API 1위를 차지했습니다.
Deepseek R1 Turbo를 로컬에서 사용하기
1. Ollama 설치
- Ollama 웹사이트를 방문하여 운영체제에 맞는 버전을 다운로드하고 설치합니다.
2. DeepSeek-R1 모델 다운로드
- 터미널을 열고 다음을 실행합니다 (7B 파라미터 버전 예시): bashCopy
ollama run deepseek-r1:7b(다운로드 완료까지 대기; 시간은 네트워크 속도에 따라 다릅니다.)
ollama run deepseek-r1:7b
3. 확인 및 실행
- 설치 확인:
ollama list # 목록에 "deepseek-r1"이 나타나는지 확인
- 모델 시작:
ollama run deepseek-r1:7b
4. 사용 예시
- 질문하기: bashCopy
>>> "양자 컴퓨팅을 쉽게 설명해 주세요." - 코드 생성: bashCopy
>>> "피보나치 수열을 계산하는 Python 함수를 작성해 주세요."
API를 통해 Deepseek R1 Turbo 사용하기
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드도 제공합니다.
1단계: 로그인 및 모델 라이브러리 접속
계정에 로그인하고 Model Library 버튼을 클릭합니다.
지금 DeepSeek R1 Turbo 데모 사용해보기!
2단계: 모델 선택
사용 가능한 옵션을 살펴보고 필요에 맞는 모델을 선택합니다.
3단계: 무료 체험 시작
선택한 모델의 기능을 탐색하려면 무료 체험을 시작하세요.
4단계: API 키 받기
API 인증을 위해 새 API 키를 제공합니다. Settings 페이지로 이동하여 이미지에 표시된 대로 API 키를 복사할 수 있습니다.
5단계: API 설치
프로그래밍 언어에 맞는 패키지 관리자를 사용하여 API를 설치합니다.
설치 후 개발 환경에 필요한 라이브러리를 임포트합니다. API 키로 API를 초기화하여 Novita AI LLM과 상호작용을 시작합니다. 다음은 Python 사용자를 위한 chat completions API 예시입니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek-r1-turbo"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
VSCode 확장 프로그램에서 Deepseek R1 Turbo 사용하기
1단계: VSCode에 Cline 플러그인 설치
- **VSCode를 열고 ** Extensions 패널로 이동합니다 (또는
Ctrl + Shift + X누름). - 검색창에 “Cline” 을 입력합니다.
- Cline 플러그인의 Install 버튼을 클릭합니다.
- 설치 후 **VSCode 사이드바 ** 에 Cline 아이콘이 나타납니다.
2단계: Cline 플러그인 구성
플러그인이 설치되면 Novita AI의 LLM API에 연결하도록 구성해야 합니다.
- 사이드바에서 Cline 아이콘을 클릭하여 플러그인 인터페이스를 엽니다.
- “OpenAI Compatible” 옵션을 선택합니다. 이 설정은 Novita AI와 같이 OpenAI API 표준을 따르는 API와의 호환성을 보장합니다.
- 구성 필드를 입력합니다.
- Base URL:
https://api.novita.ai/v3/openai입력. - API Key: Novita AI API 키 를 여기에 붙여넣습니다.
- Model Name: 이전에 복사한 모델 이름(예:
deepseek/deepseek-r1)을 붙여넣습니다.
- Base URL:
- 구성이 완료되면 Done 을 클릭합니다.
3단계: 통합 테스트
Cline을 Novita AI API로 구성한 후 통합을 테스트합니다.
- VSCode에서 새 파일이나 기존 파일을 엽니다.
- 입력을 시작하거나 Cline 플러그인 인터페이스를 사용하여 선택한 모델과 상호작용합니다.
- 선택한 모델에서 응답이 생성되는지 확인하여 설정이 성공적으로 완료되었는지 확인합니다.
Chatbox를 통해 Deepseek R1 Turbo 사용하기
1단계: Chatbox 설치
- “Setting” 옵션을 선택합니다. 이 설정은 Novita AI와 같이 OpenAI API 표준을 따르는 API와의 호환성을 보장합니다.
- 구성 필드를 입력합니다.
- Base URL:
https://api.novita.ai/v3/openai입력. - API Key: Novita AI API 키 를 여기에 붙여넣습니다.
- Model Name: 이전에 복사한 모델 이름(예:
deepseek/deepseek-r1-turbo)을 붙여넣습니다.
- Base URL:
- 구성이 완료되면 Done 을 클릭합니다.
클라우드 GPU를 통해 Deepseek R1 Turbo 사용하기
1단계: 계정 등록
Novita AI가 처음이라면 웹사이트에서 계정을 만듭니다. 등록 후 “GPUs” 탭으로 이동하여 사용 가능한 리소스를 살펴보고 여정을 시작하세요.
2단계: 템플릿 및 GPU 서버 탐색
프로젝트 요구에 맞는 템플릿(예: PyTorch, TensorFlow, CUDA)을 선택합니다. 필요에 맞는 버전(예: PyTorch 2.2.1 또는 CUDA 11.8.0)을 선택합니다. 그런 다음 강력한 성능을 제공하는 A100 GPU 서버 구성을 선택하여 VRAM, RAM 및 디스크 용량이 충분한 까다로운 워크로드를 처리합니다.
3단계: 배포 맞춤 설정
템플릿과 GPU를 선택한 후 운영체제 버전(예: CUDA 11.8)과 같은 파라미터를 조정하여 배포 설정을 사용자 지정합니다. 프로젝트의 특정 요구에 맞게 환경을 조정할 수 있습니다.
4단계: 인스턴스 시작
템플릿과 배포 설정을 확정한 후 “Launch Instance” 를 클릭하여 GPU 인스턴스를 설정합니다. 이렇게 하면 환경 설정이 시작되어 AI 작업에 GPU 리소스를 사용할 수 있습니다.
Novita AI: 15개 플랫폼과 통합
Novita AI는 15개 플랫폼과 통합되어 있으며, 자세한 튜토리얼은 문서에서 확인할 수 있습니다.
Novita AI의 DeepSeek R1과 DeepSeek R1 Turbo는 성능, 확장성 및 사용 편의성에 최적화된 고급 차세대 대규모 언어 모델입니다. 강력한 671B 파라미터 아키텍처, 향상된 처리량, 그리고 로컬 배포, API, VSCode 통합, Chatbox 접근성, 클라우드 GPU 인스턴스를 포함한 광범위한 사용자 지정 옵션을 통해 DeepSeek R1 Turbo는 개발자와 기업이 최첨단 AI 기능을 워크플로에 효율적으로 통합할 수 있도록 지원합니다.
자주 묻는 질문
DeepSeek R1 Turbo란 무엇인가요?
DeepSeek R1 Turbo는 DeepSeek R1의 최적화 버전으로, 추론 속도가 3배 빠르고 함수 호출을 지원하며 Novita AI에서 기간 한정 60% 할인을 제공합니다.
DeepSeek R1을 실행하는 데 권장되는 하드웨어는 무엇인가요?
최적의 성능을 위해 NVIDIA H100 또는 A100 GPU와 같은 엔터프라이즈급 GPU를 권장합니다.
DeepSeek R1은 다국어를 지원하나요?
네. 문화적 맥락 적응을 통해 다국어 입력을 지원합니다.
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드를 제공합니다.
