DeepSeek-V3.1이 이제 Novita AI 플랫폼에서 제공되어, 개발자 친화적인 인프라를 통해 DeepSeek의 획기적인 AI 역량을 개발자와 기업에 제공합니다. DeepSeek의 최신 릴리즈는 AI 모델 아키텍처의 큰 발전을 이루었으며, 기존 세대와 차별화되는 혁신적인 하이브리드 사고 시스템을 도입했습니다.
AI 애플리케이션을 개발하거나, 자동화 솔루션을 구축하거나, 고급 AI 역량을 탐색하는 경우, Novita AI의 DeepSeek-V3.1은 최적화된 인프라와 쉬운 통합 옵션으로 개발 프로세스를 단순화합니다.
Novita AI 현재 요금제: 컨텍스트 163840, 입력 토큰 1M당 $0.55, 출력 토큰 1M당 $1.66
DeepSeek V3.1이란 무엇인가요?
DeepSeek V3.1은 사고 모드와 비사고 모드를 모두 지원하는 하이브리드 모델입니다. 이전 버전과 비교해 이번 업그레이드는 여러 측면에서 개선 사항을 가져왔습니다:
- 하이브리드 사고 모드: 채팅 템플릿을 변경하는 것만으로 하나의 모델이 사고 모드와 비사고 모드를 모두 지원합니다.
- 향상된 도구 호출: 사후 학습 최적화를 통해 도구 사용 및 에이전트 작업에서의 모델 성능이 크게 개선되었습니다.
- 향상된 사고 효율성: DeepSeek-V3.1-Think는 DeepSeek-R1-0528과 동등한 답변 품질을 제공하면서 더 빠른 응답 속도를 자랑합니다.
DeepSeek-V3.1은 원본 DeepSeek-V3 보고서에 제시된 방법론을 따라 2단계 장문 컨텍스트 확장 접근법을 통해 원본 V3 베이스 체크포인트를 기반으로 구축된 DeepSeek-V3.1-Base 위에 사후 학습되었습니다. DeepSeek은 추가 장문 문서를 수집하고 두 학습 단계를 모두 크게 확장하여 데이터셋을 늘렸습니다. 32K 확장 단계는 10배 늘어난 630B 토큰으로 확장되었고, 128K 확장 단계는 3.3배 확장된 209B 토큰으로 늘어났습니다. 또한 DeepSeek-V3.1은 마이크로스케일링 데이터 형식과의 호환성을 보장하기 위해 UE8M0 FP8 스케일 데이터 형식을 사용하여 학습되었습니다.
이 671B 파라미터 모델(활성화된 파라미터 37B)은 향상된 128K 컨텍스트 창을 특징으로 하며, 다양한 작업을 처리하고 여러 애플리케이션에서 일관된 결과를 제공하도록 설계되었습니다.
모델 사양
- 총 파라미터 수: 671B
- 활성화된 파라미터 수: 37B
- 컨텍스트 길이: 128K 토큰
- 학습 형식: UE8M0 FP8 스케일 데이터 형식
- 라이선스: MIT 라이선스
- 아키텍처: 하이브리드 사고/비사고 모드 지원
성능 벤치마크
DeepSeek V3.1은 여러 분야에서 뛰어난 성능을 보입니다:
Novita AI 플랫폼에서 DeepSeek V3.1 시작하기
Novita AI를 통해 DeepSeek V3.1에 접근하면 다양한 기술 수준과 사용 사례에 맞춘 여러 경로를 제공합니다. AI 역량을 탐색하는 비즈니스 사용자이거나 프로덕션 애플리케이션을 구축하는 개발자이든, Novita AI는 필요한 도구를 제공합니다.
플레이그라운드 사용 (현재 이용 가능 – 코딩 불필요)
- 즉시 접근: 가입 후 몇 초 만에 DeepSeek V3.1 모델로 실험을 시작할 수 있습니다.
- 인터랙티브 인터페이스: 프롬프트를 테스트하고 출력 결과를 실시간으로 확인할 수 있습니다.
- 모델 비교: 특정 사용 사례에 맞춰 DeepSeek V3.1을 다른 주요 모델과 비교할 수 있습니다.
플레이그라운드를 사용하면 기술 설정 없이 다양한 프롬프트를 테스트하고 즉시 결과를 확인할 수 있습니다. 프로토타이핑, 아이디어 테스트, 전체 구현 전 모델 역량을 파악하기에 완벽합니다.
API를 통한 통합 (운영 중 – 개발자용)
Novita AI의 통합 REST API를 사용해 애플리케이션에 DeepSeek V3.1을 연결하세요.
옵션 1: 직접 API 통합 (Python 예시)
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/openai",
api_key="session_nIoDgfR3KQUuYZQEy7Lkz6Tn7gGQI1XR7fWLdey7IKmv-fgHtCNRN5uc5O6t2TNjo-KXbZNR58dpuYErRi7gcg==",
)
model = "deepseek/deepseek-v3.1"
stream = True # or False
max_tokens = 81920
system_content = "Be a helpful assistant"
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
옵션 2: OpenAI Agents SDK를 활용한 멀티 에이전트 워크플로우
DeepSeek-V3.1의 듀얼 모드 역량을 활용해 정교한 멀티 에이전트 시스템을 구축하세요:
- 플러그 앤 플레이 통합: 모든 OpenAI Agents 워크플로우에서 DeepSeek V3.1을 사용할 수 있습니다.
- 고급 에이전트 역량: 핸드오프, 라우팅, 도구 통합을 지원합니다.
- 확장 가능한 아키텍처: DeepSeek V3.1의 역량을 활용하는 에이전트를 설계할 수 있습니다.
서드파티 플랫폼 연동
개발 도구: OpenAI 호환 API와 Anthropic 호환 API를 통해 Cursor, Trae, Qwen Code, Cline 등 인기 IDE 및 개발 환경과 원활하게 통합할 수 있습니다.
오케스트레이션 프레임워크: 공식 커넥터를 사용해 LangChain, Dify, CrewAI, Langflow 등 다른 AI 오케스트레이션 플랫폼과 연결할 수 있습니다.
Hugging Face 연동: Novita AI는 Hugging Face의 공식 추론 제공자로, 넓은 생태계 호환성을 보장합니다.
결론
Novita AI의 DeepSeek-V3.1은 신뢰할 수 있고 확장 가능한 플랫폼을 통해 개발자와 기업에 DeepSeek의 가장 고급 AI 역량을 제공합니다. 혁신적인 하이브리드 사고 시스템, 향상된 도구 호출 기능, 우수한 성능 벤치마크가 결합되어 실제 애플리케이션에 사용할 수 있는 가장 고급 AI 모델을 탄생시켰습니다.
오늘 우리 플랫폼에서 DeepSeek-V3.1의 획기적인 듀얼 모드 역량을 탐색해 보세요. 차세대 AI가 필요할 때 번개처럼 빠른 응답과 깊이 있는 사고력으로 여러분의 프로젝트를 어떻게 변화시킬 수 있는지 확인해 보세요.
Novita AI는 간단한 API를 사용해 AI 모델을 쉽게 배포할 수 있는 방법을 개발자에게 제공하는 동시에, 구축 및 확장을 위한 저렴하고 신뢰할 수 있는 GPU 클라우드를 제공하는 AI 클라우드 플랫폼입니다.
