주요 하이라이트
고급 성능: 수학 및 코딩 벤치마크에서 뛰어난 성능을 보입니다.
오픈 소스: 연구, 수정 및 배포가 가능합니다.
비용 효율성: OpenAI의 o1과 비슷한 성능을 훨씬 저렴한 비용으로 제공합니다.
4가지 무료 방법: 온라인 플랫폼, 로컬 실행, API, AI 플레이그라운드
DeepSeek R1은 OpenAI의 o1과 경쟁하도록 설계된 최첨단 추론 모델로, 논리적 추론, 수학, 프로그래밍과 같은 복잡한 작업에서 뛰어난 성능을 보입니다. 오픈 소스 특성과 고급 추론 능력에 중점을 둔 점이 개발자와 기업에게 매우 유용한 도구로 만듭니다. 하지만 R1은 DeepSeek V3에 비해 가격이 더 비쌉니다. 시작을 돕기 위해 DeepSeek R1을 탐색하고 활용할 수 있는 네 가지 무료 방법을 소개합니다.
Deepseek R1 개요
DeepSeek-R1은 논리적 추론, 고급 수학, 프로그래밍이 필요한 작업을 처리하도록 설계되었습니다. 강화 학습과 지도 미세 조정을 결합하여 출력의 명확성과 일관성을 개선한 DeepSeek-R1-Zero를 기반으로 합니다. DeepSeek-R1은 수학, 코드 및 추론 작업에서 OpenAI-o1과 비슷한 성능을 달성합니다.
지금 $20 크레딧을 받고 Deepseek R1 무료 체험을 시작하세요!
주요 기능
- 모델 크기: 671B 파라미터 (토큰당 37B 활성)
- 토크나이저: 자기 반성 태그가 있는 향상된 토크나이저
- 지원 언어: 문화 적응이 포함된 다국어
- 멀티모달: 텍스트 전용
- 컨텍스트 창: 128K 토큰
- 저장 형식: Q8/Q5 양자화 지원
- 아키텍처: Mixture of Experts (MoE) + 강화 학습 강화 학습 파이프라인
- 학습 방법: V3 베이스에 RL 파이프라인 기반 (SFT → RL → SFT → RL)
- 학습 데이터: V3 베이스 + RL 최적화 데이터
성능 벤치마크
DeepSeek-R1은 수학에서 뛰어나 MATH-500에서 97.3%, AIME 2024에서 79.8%의 최고 점수를 달성하여 경쟁사를 능가합니다. 코딩에서는 SWE-bench Verified에서 49.2%, Live Code Bench에서 65.9%로 두드러지며 두 분야 모두에서 뛰어난 전문성을 보여줍니다.
모든 모델은 최대 생성 길이 32,768 토큰으로 평가되며, 특정 샘플링 매개변수(온도 0.6, top-p 0.95, 쿼리당 64개 응답)를 사용하여 벤치마크의 pass@1을 계산합니다.
DeepSeek-R1-Distill 모델
증류(Knowledge Distillation)는 더 큰 모델에서 더 작은 모델로 지식을 전송하는 머신러닝 방법입니다. 목표는 더 큰 모델과 비슷한 성능을 달성할 수 있는 더 효율적인 모델을 개발하는 것입니다.
DeepSeek은 또한 R1의 증류 버전을 출시하여 원래 모델의 기능을 많이 유지하면서도 계산 효율성이 더 높은 더 작은 모델을 제공합니다. 이 모델들은 DeepSeek-R1에서 생성된 데이터를 사용하여 미세 조정되었으며 1.5B에서 70B 파라미터 크기로 제공됩니다.
- deepseek/deepseek-r1-distill-qwen-14b
- deepseek/deepseek-r1-distill-qwen-32b
- deepseek/deepseek-r1-distill-llama-70b
- deepseek/deepseek-r1-distill-llama-8b
출처: DeepSeek의 릴리스 논문
1. 온라인 플랫폼 사용 하여 Deepseek R1 액세스 (예: Novita AI)
Novita AI 플랫폼을 통해 DeepSeek-R1에 액세스할 수 있으며, 모델과 상호작용하는 간단한 방법을 제공합니다. 시작하려면 채팅 페이지로 이동하여 등록하기만 하면 됩니다. 단, 온라인 플랫폼은 이전 세션의 채팅 기록 저장을 지원하지 않습니다.
또한 Novita AI는 파라미터 조정 패널을 제공하여 **최대 토큰 , ** 온도 등과 같은 설정을 사용자의 특정 사용 사례에 맞게 사용자 지정할 수 있습니다.
2. 로컬에서 Deepseek R1 실행
1. Ollama 설치
- Ollama 웹사이트를 방문하여 OS에 맞는 버전을 다운로드하고 설치하세요.
2. DeepSeek-R1 모델 다운로드
- 터미널을 열고 다음 명령어를 실행하세요 (7B 파라미터 버전을 예로 사용): bashCopy
ollama run deepseek-r1:7b(다운로드가 완료될 때까지 기다리세요. 시간은 네트워크 속도에 따라 다릅니다.)
ollama run deepseek-r1:7b
3. 확인 및 실행
- 설치 확인:
ollama list # 목록에 "deepseek-r1"이 나타나는지 확인
- 모델 시작:
ollama run deepseek-r1:7b
4. 사용 예시
- 쿼리 요청: bashCopy
>>> "Explain quantum computing in simple terms." - 코드 생성: bashCopy
>>> "Write a Python function to calculate the Fibonacci sequence."
3. 무료 Deepseek R1 API 액세스 (예: Novita AI)
Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드도 제공합니다.
1단계: 로그인 및 모델 라이브러리 액세스
계정에 로그인하고 모델 라이브러리 버튼을 클릭하세요.
2단계: 모델 선택
사용 가능한 옵션을 살펴보고 필요에 맞는 모델을 선택하세요.
3단계: 무료 체험 시작
선택한 모델의 기능을 탐색하려면 무료 체험을 시작하세요.
4단계: API 키 받기
API 인증을 위해 새 API 키를 제공합니다. “Settings” 페이지로 이동하여 이미지에 표시된 대로 API 키를 복사할 수 있습니다.
5단계: API 설치
프로그래밍 언어에 맞는 패키지 관리자를 사용하여 API를 설치하세요.
설치 후 필요한 라이브러리를 개발 환경에 가져옵니다. API 키로 API를 초기화하여 Novita AI LLM과 상호 작용을 시작합니다. 다음은 Python 사용자를 위한 채팅 완료 API 사용 예시입니다.
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="<YOUR Novita AI API Key>",
)
model = "deepseek/deepseek_r1"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
4. Hugging Face에서 Deepseek R1 실험
1단계: API 키 구성
- 사용자 계정 설정으로 이동하여 API 키를 관리하세요.
- Novita AI의 사용자 지정 API 키를 Hugging Face에 추가하세요.
2단계: 추론 API 모드 선택
- 사용자 키 모드: 호출이 추론 제공자에게 직접 전송되며, 사용자 자신의 API 키를 사용합니다.
- HF 라우팅 모드: 이 모드에서는 제공자 토큰이 필요하지 않습니다. 요금은 제공자 계정 대신 Hugging Face 계정에 청구됩니다.
3단계: 모델 페이지에서 호환 제공자 찾기
- 모델 페이지에는 선택한 모델과 호환되는 타사 추론 제공자가 표시됩니다 (현재 모델과 호환되는 제공자, 사용자 선호도별로 정렬됨).
AI 플레이그라운드에서 실험하는 것은 고급 기술이나 설정 없이 Llama 3 모델의 기능을 탐색할 수 있는 훌륭한 방법입니다. 창의적인 프로젝트에 HuggingChat 을 사용하든, 일상적인 앱에 원활하게 통합되는 Meta AI Web 을 사용하든, 확장된 실험을 위해 Perplexity Labs 를 사용하든, 이 플랫폼들은 모든 수준의 사용자가 최첨단 AI에 접근하고 실용적으로 사용할 수 있게 해줍니다.
자주 묻는 질문
DeepSeek R1이 OpenAI의 o1보다 더 나은가요?
DeepSeek R1은 특히 추론 작업에서 비슷한 성능을 제공하며, 오픈 소스이고 비용 효율적입니다.
DeepSeek R1에 가장 적합한 작업은 무엇인가요?
수학 문제 풀이, 코딩, 산업별 애플리케이션과 같은 추론 집약적 작업입니다.
DeepSeek-R1을 특정 작업이나 산업에 맞게 미세 조정할 수 있나요?
네, 필요한 계산 리소스와 데이터가 있다면 DeepSeek-R1을 특정 작업에 맞게 미세 조정할 수 있습니다.
Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 필요한 비용 효율적인 도구를 제공합니다. 인프라를 없애고 무료로 시작하여 AI 비전을 현실로 만드세요.
