4种方式访问DeepSeek V3 0324？

关键亮点

DeepSeek V3 0324 在逻辑推理、数学问题求解、函数调用准确性以及专业语言能力方面带来了显著提升

你可以在 Novita AI 上开始免费试用！

一个主要亮点是扩展的 128,000 token 上下文窗口，支持更好的长文理解。
定价极具竞争力：每 100 万输入 token 仅需 $0.39，每 100 万输出 token 仅需 $1.3。

DeepSeek 通过发布 DeepSeek-V3-0324 再次拔高了人工智能的标杆，这款开源语言模型显著超越了其前代产品，轻松胜过 GPT-4.5 和 Claude 3.7 Sonnet 等顶级竞品。

什么是 DeepSeek V3 0324？

Deepseek V3 0324 概览

基本信息	发布日期	2025 年 3 月 24 日
	模型大小	671B 参数（每 token 激活 37B）
	开源	开源
	架构	混合专家（MoE）
	能力	支持函数调用
语言支持	支持多语言	增强中文能力
多模态	多模态能力	文本到文本
训练	训练数据	14.8 万亿 token 多样化数据
不同精度下的模型大小	Tensor 类型	BF16/F8_E4M3/F32

Deepseek V3 0324 的关键亮点

前端 Web 开发

• 改进的代码可执行性：
  • 遵循最佳实践，如使用语义化 HTML、保持代码整洁、使用版本控制，以确保可读性和可维护性。
• 更美观的网页和游戏前端：
  • 使用响应式设计和 CSS 框架（如 Sass、Bootstrap）来提升不同设备上的视觉吸引力和布局。

中文写作能力

• 增强的风格与内容质量：
  • 学习并模仿 兰亭序 等优雅文风，提升写作的流畅与优美程度。
• 中长篇写作质量提升：
  • 使用“起、承、转、合”结构，确保写作逻辑清晰、流畅。

功能增强

• 改进的多轮交互式改写：
  • 开发基于自然语言处理的工具，支持多轮对话，增强交互性。
• 优化的翻译质量与书信写作：
  • 使用 DeepSeek 等机器学习模型提升翻译准确性，并为信件提供写作风格建议。

Novita AI 已推出 DeepSeek V3 0324，提供更长的 128000 上下文和出色的价格（$0.39 / 100 万输入 token，$1.3 / 100 万输出 token）

此外，该版本完全支持 函数调用。

你可以在 Novita AI 上开始免费试用！

在本地使用 DeepSeek V3 0324

硬件需求

模型	模型 VRAM	GPU 需求	GPU 需求
Deepseek V3 0324	~1532 GB	24×H100(80×24GB)	1920GB
4-bit 模型	~386 GB	8×H100(80×24GB)	640GB

你也可以采用其他量化方式：

来源：unsloth

分步指南

步骤 1：获取并构建 llama.cpp

1. 克隆仓库并安装依赖：

<code>sudo apt-get update sudo apt-get install -y pciutils build-essential cmake curl libcurl4-openssl-dev git clone https://github.com/ggml-org/llama.cpp</code>

2. 构建 llama.cpp：

<code>make llama.cpp -B llama.cpp/build \ -DBUILD_SHARED_LIBS=OFF -DGGML_CUDA=ON -DLLAMA_CURL=ON</code>

3. 编译二进制文件：

<code>cmake --build llama.cpp/build --config Release -j --clean-first --target llama-quantize llama-cli llama-gguf-split cp llama.cpp/build/bin/llama-* llama.cpp</code>

步骤 2：下载模型

1. 安装所需的 Python 库：

<code>pip install huggingface_hub hf_transfer</code>

2. 下载 DeepSeek-V3-0324 GGUF 模型：

import os
from huggingface_hub import snapshot_download

os.environ["HF_HUB_ENABLE_HF_TRANSFER"] = "1"
snapshot_download(
    repo_id="unsloth/DeepSeek-V3-0324-GGUF",
    local_dir="unsloth/DeepSeek-V3-0324-GGUF",
    allow_patterns=["*UD-Q2_K_XL*"]  # 动态 2.7-bit (230GB)
)

步骤 3：运行模型

根据你的硬件调整参数：

--threads：CPU 线程数（例如高核心 CPU 设为 32）。

--ctx-size：上下文长度（例如大内存设为 16384）。

--n-gpu-layers：卸载到 GPU 的层数。增大可提升性能，但如果 GPU 内存不足则减小。省略此参数表示仅使用 CPU 推理。

通过 API 使用 DeepSeek V3 0324

Novita AI 是一个 AI 云平台，为开发者提供简单 API 来部署 AI 模型，同时提供经济且可靠的 GPU 云用于构建和扩展。

步骤 1：登录并访问模型库

登录你的账户，点击 模型库 按钮。

立即试用 DeepSeek V3 0324 演示！

步骤 2：选择模型

浏览可用选项，选择适合你需求的模型。

步骤 3：开始免费试用

开始免费试用，探索所选模型的功能。

步骤 4：获取 API 密钥

为了对 API 进行身份验证，我们将为你提供一个新的 API 密钥。进入“设置”页面，你可以按图中所示复制 API 密钥。

步骤 5：安装 API

使用你编程语言对应的包管理器安装 API。

安装后，在你的开发环境中导入必要的库。使用你的 API 密钥初始化 API，开始与 Novita AI LLM 交互。这是适用于 Python 用户的聊天补全 API 示例。

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<你的 Novita AI API 密钥>",
)

model = "deepseek/deepseek-v3-0324"
stream = True # 或 False
max_tokens = 2048
system_content = """成为一个有用的助手"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "你好！",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)
  
  

通过 Chatbox 使用 DeepSeek V3 0324

步骤 1：安装 Chatbox

1. 选择 “设置” 选项。此设置可确保与遵循 OpenAI API 标准（如 Novita AI）的 API 兼容。
2. 填写配置字段：
   • Base URL：输入 https://api.novita.ai/v3/openai。
   • API Key：在此粘贴你的 Novita AI API 密钥。
   • Model Name：粘贴你之前复制的模型名称（例如 deepseek/deepseek-v3-0324）。
3. 配置完成后，点击 完成。

通过云 GPU 使用 DeepSeek V3 0324

步骤 1：注册账户

如果你是 Novita AI 的新用户，请先在官网创建一个账户。注册完成后，前往“GPUs”选项卡，探索可用资源并开始你的旅程。

步骤 2：探索模板和 GPU 服务器

首先选择一个符合你项目需求的模板，例如 PyTorch、TensorFlow 或 CUDA。选择适合你的版本，如 PyTorch 2.2.1 或 CUDA 11.8.0。然后选择 A100 GPU 服务器配置，该配置提供强大的性能，足以处理要求苛刻的工作负载，并具备充足的 VRAM、RAM 和磁盘容量。

试用 Novita AI 的高性能 GPU

步骤 3：定制部署

选择模板和 GPU 后，通过调整参数（如操作系统版本，例如 CUDA 11.8）来自定义部署设置。你还可以调整其他配置，使环境更符合项目的特定需求。

步骤 4：启动实例

确定模板和部署设置后，点击“启动实例”来设置你的 GPU 实例。这将开始环境设置，使你能够立即开始使用 GPU 资源进行 AI 任务。

Novita AI 集成 15 个平台

Novita AI 已与 15 个平台集成，详细教程可在文档中找到。

查看你的应用集成是否完成？

DeepSeek V3 0324 代表了 AI 能力的重大进步，以实惠的定价结构提供了高性能。其多语言能力、扩展的上下文窗口以及对函数调用的支持使其成为开发者的多功能工具。无论是本地使用还是通过 Novita AI API，DeepSeek V3 0324 都为各种 AI 任务（从自然语言处理到多模态应用）提供了强大的解决方案。

常见问题

DeepSeek V3 0324 的定价是多少？

定价为每 100 万输入 token $0.39，每 100 万输出 token $1.3，对在 Novita AI 上开发的开发者来说经济高效。

本地运行 DeepSeek V3 0324 需要什么硬件？

该模型需要大量硬件资源，包括约 1532 GB VRAM 和 24 块 H100 GPU（每块 80 GB），总计 1920 GB。

DeepSeek V3 0324 是否支持函数调用？

是的，它完全支持函数调用，使开发者能够将其集成到更复杂的工作流程中。

Novita AI 是一个 AI 云平台，为开发者提供简单 API 来部署 AI 模型，同时提供经济且可靠的 GPU 云用于构建和扩展。

推荐阅读

• 为什么 LLaMA 3.3 70B 的 VRAM 要求对家庭服务器是一个挑战？
• Qwen 2.5 72b vs Llama 3.3 70b：哪个模型适合你的需求？
• Qwen 2.5 vs Llama 3.2 90B：编码与图像推理能力对比分析