DeepSeek-Prover-V2-671B, 이제 Novita AI에서 사용 가능

DeepSeek-Prover-V2-671B, 이제 Novita AI에서 사용 가능

DeepSeek이 수학 관련 증명과 정리를 해결하도록 설계된 AI 모델 Prover를 조용히 업데이트했습니다. DeepSeek-Prover-V2-671B 모델이 이제 Novita AI의 Model API 플랫폼에서 사용 가능합니다! 한정된 기간 동안 모든 신규 사용자는 $10 무료 크레딧을 받아 이 최첨단 자동 정리 증명 모델을 탐색하고 구축할 수 있습니다.

다음은 Novita AI에서의 현재 DeepSeek-Prover-V2-671B 가격입니다:

DeepSeek-Prover-V2-671B: 입력 토큰 100만 개당 0.7$, 출력 토큰 100만 개당 2.5$

수학 워크플로, 연구 및 교육 도구를 지금까지 출시된 가장 진보된 형식 정리 증명 모델 중 하나로 강화하세요. 이제 API 호출 한 번으로 가능합니다.

DeepSeek-Prover 모델 시리즈란?

DeepSeek-Prover 모델 시리즈는 수학 자동 정리 증명의 과제를 해결하기 위해 설계된 최첨단 대형 언어 모델(LLM) 제품군입니다. DeepSeek-AI에서 개발한 이 모델들은 특히 Lean 4 증명 도우미 환경 내에서 형식 수학 증명을 생성, 검증 및 추론하는 데 최적화되어 있습니다.

DeepSeek-Prover가 만들어진 이유는?

GPT-4와 같은 최신 LLM은 수학적 추론에서 인상적이지만, 형식 언어에 대한 고품질 대규모 훈련 데이터 부족으로 형식 증명 작업에 어려움을 겪습니다. DeepSeek-Prover는 수학 경쟁 문제에서 수백만 개의 합성 Lean 4 증명을 자동 생성하고 이 독특한 데이터셋으로 모델을 미세 조정하여 이 문제를 해결합니다.

DeepSeek-Prover는 어떻게 작동하나요?

DeepSeek-Prover 파이프라인은 다음을 포함합니다:

  • 자동 형식화: 자연어 수학 문제를 LLM을 사용하여 형식 Lean 4 문장으로 변환.
  • 품질 필터링: 모델 점수 및 가설 거부를 통해 문장의 논리적 정확성과 수학적 관심도를 필터링.
  • 증명 생성 및 검증: 필터링된 문장을 증명하려 시도하고, 정확하고 검증 가능한 증명이 있는 것만 유지.
  • 반복 훈련: 이 과정을 반복할 때마다 새로운 고품질 증명 데이터를 사용하여 모델을 더 개선.

이 접근 방식을 통해 DeepSeek-Prover 시리즈는 지속적으로 개선되는 모델을 생산하며, 세계 최대의 형식 수학 증명 컬렉션 중 하나로 뒷받침됩니다.

초기 DeepSeek-Prover 모델의 주요 성과 및 이정표

  • 규모: 800만 개 이상의 증명이 포함된 형식 Lean 4 문장이 생성되었습니다.
  • 기술 기반: 방대한 수학 데이터로 사전 훈련되고 합성 증명으로 추가 미세 조정된 DeepSeekMath 7B와 같은 대형 트랜스포머 모델 기반.
  • 최첨단 성능: 형식 정리 증명 벤치마크(예: miniF2F, FIMO)에서 최고 결과를 달성하며 GPT-4 및 기타 특화 모델을 능가.

DeepSeek-Prover-V2-671B란?

DeepSeek-Prover-V2-671B 는 DeepSeek-Prover 시리즈의 주력 모델입니다. 차별화되는 점은 다음과 같습니다:

  • 거대한 규모: 약 6,710억 개의 매개변수로, 형식 수학 및 정리 증명을 위해 설계된 가장 큰 모델 중 하나입니다.
  • FP8 정밀도: DeepSeek-Prover-V2-671B는 원래 FP8(부동소수점 8비트) 정밀도로 훈련 및 출시되었으며, 이는 효율적인 계산과 낮은 메모리 사용량으로 더 빠른 모델 서빙을 가능하게 하면서 높은 성능을 유지하는 최신 형식입니다.
  • 고급 성능: 이 모델은 최첨단 트랜스포머 아키텍처를 사용하며 BF16, FP8_E4M3, F32와 같은 최신 텐서 유형을 지원하여 고성능 연구 및 프로덕션 환경에 적합합니다.
  • 정리 증명에 특화: 방대한 고품질 합성 증명 데이터로 훈련된 이 모델은 복잡한 수학적 추론과 형식 Lean 4 증명 생성에 탁월합니다.

Novita AI에서 DeepSeek-Prover-V2-671B에 액세스하는 방법

Novita AI에서 DeepSeek-Prover-V2-671B를 시작하는 것은 빠르고 간단하며 위험이 없습니다. 추천 프로그램 덕분에 $10 무료 크레딧 을 받게 됩니다. 이는 DeepSeek-Prover-V2-671B의 성능을 충분히 탐색하고, 프로토타입을 구축하며, 선불 비용 없이 첫 번째 사용 사례를 시작하기에 충분한 금액입니다.

플레이그라운드 사용 (코딩 불필요)

  • 즉시 액세스: 가입하고 무료 크레딧을 받은 후 몇 초 안에 DeepSeek-Prover-V2-671B 및 다른 최고 모델로 실험을 시작하세요.
  • 대화형 UI: 프롬프트, 사고 사슬 추론을 테스트하고 결과를 실시간으로 시각화하세요.
  • 모델 비교: DeepSeek-Prover-V2-671B, Llama 4, DeepSeek 등 사이를 쉽게 전환하여 필요에 가장 적합한 모델을 찾으세요.

API 통합 (개발자용)

Novita AI의 통합 REST API를 통해 DeepSeek-Prover-V2-671B를 애플리케이션, 워크플로 또는 챗봇에 원활하게 연결하세요. 모델 가중치나 인프라를 관리할 필요가 없습니다. Novita AI는 다국어 SDK(Python, Node.js, cURL 등)와 고급 사용자를 위한 고급 매개변수 제어를 제공합니다.

옵션 1: 직접 API 통합 (Python 예제)

시작하려면 아래 코드 스니펫을 사용하세요:

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "deepseek/deepseek-prover-v2-671b"
stream = True # or False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

주요 기능:

  • 통합 엔드포인트:/v3/openai는 OpenAI의 Chat Completions API 형식을 지원합니다.
  • 유연한 제어: temperature, top-p, 패널티 등을 조정하여 맞춤형 결과를 얻을 수 있습니다.
  • 스트리밍 및 배치: 원하는 응답 모드를 선택하세요.

옵션 2: OpenAI Agents SDK를 사용한 멀티 에이전트 워크플로

Novita AI를 OpenAI Agents SDK와 통합하여 고급 멀티 에이전트 시스템을 구축하세요:

  • 플러그 앤 플레이: 모든 OpenAI Agents 워크플로에서 Novita AI의 LLM을 사용하세요.
  • 핸드오프, 라우팅 및 도구 사용 지원: 위임, 분류 또는 함수 실행이 가능한 에이전트를 설계하세요. 모든 기능이 Novita AI의 모델로 구동됩니다.
  • Python 통합: SDK를 Novita의 엔드포인트(https://api.novita.ai/v3/openai)로 지정하고 API 키를 사용하기만 하면 됩니다.

타사 플랫폼에서 DeepSeek-Prover-V2-671B API 연결

  • Hugging Face: Novita AI 엔드포인트를 통해 Spaces, 파이프라인 또는 Transformers 라이브러리에서 DeepSeek-Prover-V2-671B를 사용하세요.
  • 에이전트 및 오케스트레이션 프레임워크: 공식 커넥터와 단계별 통합 가이드를 통해 Continue, AnythingLLM, LangChain, DifyLangflow와 같은 파트너 플랫폼에 Novita AI를 쉽게 연결하세요.
  • OpenAI 호환 API: OpenAI API 표준에 맞게 설계된 ClineCursor와 같은 도구와 번거로움 없이 마이그레이션 및 통합할 수 있습니다.

결론

DeepSeek-Prover-V2-671B는 연구자, 개발자, 교육자 모두에게 세계적 수준의 자동 정리 증명을 바로 제공합니다. 지금 사용해보고 싶으신가요? Novita AI에 가입하고, 무료 크레딧을 받은 후, 형식 수학과 AI 기반 증명 생성의 미래를 경험해보세요!

Novita AI 소개

Novita AI는 개발자가 간단한 API를 사용하여 AI 모델을 쉽게 배포할 수 있는 AI 클라우드 플랫폼이며, 구축 및 확장을 위한 저렴하고 안정적인 GPU 클라우드를 제공합니다.