ERNIE 4.5 是百度先进的AI模型系列，适用于强大的文本和多模态处理。无论是大规模部署还是轻量级部署，ERNIE 4.5 都能为开发者和企业提供高效的性能和经济的访问方式。无论您处理的是文本、图像还是两者结合，ERNIE 4.5 都可以通过 Web 界面、API 和云平台轻松访问，无需复杂设置。
ERNIE 4.5 简介
ERNIE 4.5 是百度开发的一系列先进AI模型，专注于高效的多模态和文本处理。这些模型在较大变体中使用混合专家（MoE）架构，在较小变体中使用密集架构。它们支持文本和视觉模态，并提供预训练（PT）和基础版本。下表列出了关键模型变体，以及突出ERNIE在AI训练流程中创新的示意图。
| 模型 | 基础 | 活跃 | 类型 | 模态 | 训练 |
|---|---|---|---|---|---|
| ERNIE 4.5 VL 424B A47B | 424B | 47B | MoE | T+V | PT |
| ERNIE 4.5 VL 424B A47B Base | 424B | 47B | MoE | T+V | Base |
| ERNIE 4.5 VL 28B A3B | 28B | 3B | MoE | T+V | PT |
| ERNIE 4.5 VL 28B A3B Base | 28B | 3B | MoE | T+V | Base |
| ERNIE 4.5 VL 28B A3B Thinking | 28B | 3B | MoE | T+V | PT |
| ERNIE 4.5 300B A47B | 300B | 47B | MoE | Text | PT |
| ERNIE 4.5 300B A47B Base | 300B | 47B | MoE | Text | Base |
| ERNIE 4.5 21B A3B | 21B | 3B | MoE | Text | PT |
| ERNIE 4.5 21B A3B Base | 21B | 3B | MoE | Text | Base |
| ERNIE 4.5 21B A3B Thinking | 21B | 3B | MoE | Text | PT |
| ERNIE 4.5 0.3B | 0.3B | – | Dense | Text | PT |
| ERNIE 4.5 0.3B Base | 0.3B | – | Dense | Text | Base |
AI 训练流程：ERNIE 创新亮点
1. 多模态异构 MoE 预训练
采用异构 MoE 结构进行文本与视觉联合预训练，实现模态隔离路由和平衡的多模态损失。
2. 弹性扩展基础设施
混合并行、层次化负载均衡、专家并行、内存优化调度和无损量化，实现高吞吐量和高效推理。
3. 模态特定后训练
针对文本或视觉任务进行微调，支持 SFT、DPO 和 UPO，满足多样化实际应用需求。
性能对比：ERNIE 4.5 vs. GPT-4o
ERNIE 4.5 相比 GPT-4o 性能更优且成本效率极高，是大规模 AI 部署的极具竞争力的选择。以下是在 Novita AI 上的价格！
-
- 每百万输入 token $0.336
- 每百万输出 token $1
-
- 每百万输入 token $0.224
- 每百万输出 token $0.88
-
ERNIE 4.5 21B A3B / ERNIE-4.5-21B-A3B-Thinking
- 每百万输入 token $0.056
- 每百万输出 token $0.224
-
- 每百万输入 token $0.112
- 每百万输出 token $0.448
-
- 每百万输入 token $0.39
- 每百万输出 token $0.39
来自网络
通过百度平台访问 ERNIE 4.5（免费试用）
您可以直接通过百度平台的 Web 界面进行试用，无需任何安装。只需访问网站，即可立即开始免费试用。
或者，您也可以使用 Novita API Playground 在开发者友好的环境中体验 ERNIE 4.5。
本地访问 ERNIE 4.5
使用 Ernie 4.5 需要什么系统配置？
FP16 精度
| 模型 | 参数（活跃） | 所需显存 | 推荐GPU |
|---|---|---|---|
| ERNIE 4.5 VL 424B | 424B（47B 活跃） | ~945 GB | NVIDIA H100 (80GB) × 12 |
| ERNIE 4.5 300B | 300B（47B 活跃） | ~668 GB | NVIDIA H100 (80GB) × 9 |
| ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking | 28B（3B 活跃） | ~80 GB | NVIDIA A100/H100 (80GB) |
| ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking | 21B（3B 活跃） | ~48 GB | NVIDIA RTX 4090 (24GB)×2 |
| ERNIE 4.5 0.3B | 300M | ~2.5 GB | NVIDIA RTX 4090 (8GB) / RTX 3060 (12GB) |
INT4 精度
| 模型 | 参数（活跃） | 所需显存 | 推荐GPU |
|---|---|---|---|
| ERNIE 4.5 VL 424B | 424B（47B 活跃） | ~237 GB | NVIDIA H100 (80GB) × 3 |
| ERNIE 4.5 300B | 300B（47B 活跃） | ~168 GB | NVIDIA H100 (80GB) × 3 |
| ERNIE 4.5 VL 28B / ERNIE 4.5 VL 28B A3B Thinking | 28B（3B 活跃） | ~17 GB | NVIDIA RTX 4090 (24GB) / A10G (24GB) |
| ERNIE 4.5 21B / ERNIE 4.5 21B A3B Thinking | 21B（3B 活跃） | ~13 GB | NVIDIA RTX 4080 (16GB) / A10G (24GB) |
| ERNIE 4.5 0.3B | 300M | ~1.8 GB | 大多数显存 >4GB 的 GPU |
基于官方 ERNIEToolkit 和开源发布：
- 操作系统：强烈推荐 Linux（Ubuntu 或类似系统）。
- 框架：需要 PaddlePaddle（最新版本）。
- 推理/训练：使用 ERNIEKit（基于 PaddlePaddle）。
- 部署可通过 FastDeploy 加速。
- 依赖项：
- Python 3.8+
- CUDA 和 cuDNN 与您的 GPU 配置匹配。
- 对于 PyTorch 环境：模型也可通过
transformers使用trust_remote_code=True获取。
如果购买 GPU 成本过高，您可以使用 Novita AI 经济实惠且可靠的云 GPU 服务。例如，您可以使用 1 个 H100 SXM 80GB 实例（80 GB 显存），每小时仅 $2.56，或扩展至 8 个 GPU，每小时 $20.48。
从 Python 应用程序访问 ERNIE 4.5
-
Hugging Face：在 Spaces、pipeline 中或通过 Novita AI 端点与 Transformers 库一起使用 QERNIE 4.5。
-
Agent 与编排框架：通过官方连接器和逐步集成指南，轻松将 Novita AI 与合作伙伴平台（如 Continue、AnythingLLM、LangChain、Dify 和 Langflow）连接。
-
OpenAI 兼容 API：享受与 Cline 和 Cursor 等工具的无缝迁移和集成，专为 OpenAI API 标准设计。
更多详情请参阅文档
通过 API 访问 ERNIE 4.5
步骤 1：登录并访问模型库
登录您的账户，点击 模型库 按钮。
步骤 2：选择模型
浏览可用选项，选择适合您需求的模型。
步骤 3：开始免费试用
开始免费试用，探索所选模型的能力。
步骤 4：获取 API 密钥
为了进行 API 身份验证，我们将为您提供一个新的 API 密钥。进入“设置”页面，您可以复制 API 密钥，如图所示。
步骤 5：安装 API
使用您编程语言对应的包管理器安装 API。
安装完成后，将必要的库导入您的开发环境。使用您的 API 密钥初始化 API，开始与 Novita AI LLM 交互。这是一个使用聊天补全 API 的 Python 示例。
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
api_key="",
)
model = "baidu/ernie-4.5-300b-a47b-paddle"
stream = True # or False
max_tokens = 6000
system_content = ""Be a helpful assistant""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }
chat_completion_res = client.chat.completions.create(
model=model,
messages=[
{
"role": "system",
"content": system_content,
},
{
"role": "user",
"content": "Hi there!",
}
],
stream=stream,
max_tokens=max_tokens,
temperature=temperature,
top_p=top_p,
presence_penalty=presence_penalty,
frequency_penalty=frequency_penalty,
response_format=response_format,
extra_body={
"top_k": top_k,
"repetition_penalty": repetition_penalty,
"min_p": min_p
}
)
if stream:
for chunk in chat_completion_res:
print(chunk.choices[0].delta.content or "", end="")
else:
print(chat_completion_res.choices[0].message.content)
访问 ERNIE 4.5 的方式灵活且直接——选择最适合您工作流程的方法，从即时 Web 试用、强大的 API 集成到本地部署。凭借卓越的性能和高效的价格，ERNIE 4.5 是下一代 AI 应用的务实之选。
常见问题
ERNIE 4.5 真的比其他大 AI 模型更好吗？
是的，ERNIE 4.5 在大多数基准测试中得分高于 DeepSeek V3 671B，并且与其他顶尖模型具有很强竞争力。
在本地运行 ERNIE 4.5 需要哪些系统配置？
配置要求因模型大小而异，但您需要 Linux 系统、Python 3.8+、PaddlePaddle 以及兼容的 NVIDIA GPU。如果您没有本地硬件，可以使用云 GPU 选项。
运行 ERNIE 4.5 需要多少显存？
运行最大版本的 ERNIE 4.5（如 424B 或 300B）需要极高的显存——数百 GB 和多个高端 GPU。较小或量化版本所需的显存则少得多。
Novita AI 是一款全合一云平台，助力您的 AI 抱负。集成 API、无服务器、GPU 实例——您所需的成本效益工具。消除基础设施，免费开始，让您的 AI 愿景变为现实。
