Llama 4 现已在 Novita AI 上线：释放多模态 MoE 的强大能力

了解 Llama 4 家族
主要特性与能力
性能基准与用例
开始在 Novita AI 上使用 Llama 4
结论

Meta 刚刚发布了其突破性的 Llama 4 模型系列，凭借原生多模态和混合专家（MoE）架构，标志着 AI 能力的重大飞跃。

今天，我们激动地宣布 Llama 4 Scout 和 Llama 4 Maverick 现已通过 Novita AI 上线，企业和开发者可以通过简单的 API 集成来利用这些强大的模型。

Novita AI 以如下定价提供 Llama 4 模型系列的首批成员：

Llama 4 Scout： 输入 $0.1 / M 个 token，输出 $0.5 / M 个 token
Llama 4 Maverick： 输入 $0.2 / M 个 token，输出 $0.85 / M 个 token

了解 Llama 4 家族

Llama 4 版本引入了三种不同的模型，每种模型针对不同的需求和计算约束而设计：

模型	活跃参数	总参数	专家数	上下文长度	核心优势
Llama 4 Scout	17B	109B	16	10M tokens	长上下文、图像定位、可单卡 H100 GPU 运行
Llama 4 Maverick	17B	400B	128	1M tokens	多模态能力卓越、创意写作
Llama 4 Behemoth	288B	~2T	16	—	用于蒸馏的教师模型

Llama 4 Scout 拥有 16 个专家，在其类别中提供了最先进的性能。它支持业界领先的 10M token 上下文长度，非常适合处理大量数据，包括整个代码库或大量文档。

Llama 4 Maverick 是 Meta 的产品主力，包含 128 个专家，可在广泛的任务中提供卓越的性能。它在精确图像理解和创意写作方面表现出色，同时支持高达 1M token 的上下文。

Llama 4 Behemoth 作为 Llama 4 系列的教师模型，拥有 16 个专家。虽然目前尚未公开发布（仍在训练中），但 Behemoth 在多个 STEM 重点基准测试中超越了 GPT-4.5、Claude Sonnet 3.7 和 Gemini 2.0 Pro。

注意： Novita AI 上 Llama 4 Scout 的上下文窗口为 131,072 个 token，而 Llama 4 Maverick 的上下文窗口为 1,048,576 个 token。

主要特性与能力

原生多模态

Llama 4 模型采用早期融合技术，将文本和视觉 token 无缝集成到统一的模型主干中。这使得能够使用大量未标记的文本、图像和视频数据进行联合预训练。

增强的视觉编码器基于 MetaCLIP，但针对 LLM 集成进一步优化，允许模型处理多张图像以及文本提示，无需额外的工程处理。

扩展的上下文长度

Llama 4 最显著的进步之一是支持极长的上下文：

Llama 4 Scout：1000 万个 token
Llama 4 Maverick：100 万个 token

上下文长度的飞跃使得以前不切实际的应用成为可能，例如：

多文档摘要与分析
对大型代码库进行推理
解析大量用户活动以提供个性化体验
在单个提示中处理整个研究档案

多语言与推理能力

Llama 4 模型已在 200 种语言上进行了预训练——其中 12 种语言（包括阿拉伯语、西班牙语、德语和印地语）获得了专门的微调支持。超过 100 种语言各自拥有超过 10 亿个训练 token——多语言覆盖范围是 Llama 3 的 10 倍。

这种广泛的训练使得模型在各种语言上都能表现出色，适用于全球应用。

得益于专门的训练方法，这些模型还展示了增强的推理能力。对于 Maverick，这包括持续在线 RL 策略与自适应数据过滤，重点放在中等到高难度的提示上。

性能基准与用例

基准测试

根据 Meta 官方基准数据，Llama 4 模型在各项任务中均表现出色，如下表所示：

Llama 4 Scout 基准测试

Llama 4 Maverick 基准测试

Llama 4 家族的理想用例

Llama 4 Scout 最适合长上下文应用，而 Llama 4 Maverick 在涉及多模态理解的复杂推理和创意任务中表现出色。以下是基于各自优势的每个模型的理想用例：

Llama 4 Scout：

用于法律或金融分析的多文档摘要
利用大量用户数据进行个性化任务自动化
面向轻量级多模态应用的高效图像处理

立即体验 Llama 4 Scout 演示

Llama 4 Maverick：

带视觉上下文的 multilingual 客户支持
基于多模态输入生成营销内容
结合文本、图表和表格的高级文档智能
具有精确图像理解的创意写作和内容生成

立即体验 Llama 4 Maverick 演示

两种模型在需要多模态理解、对广泛上下文进行推理以及多语言能力的情况下都表现出色。

开始在 Novita AI 上使用 Llama 4

通过 Novita AI 的模型库将 Llama 4 模型集成到您的应用中非常简单，只需要几行代码。以下是入门方法：

设置环境

首先，请确保您拥有来自 Novita AI 的 API 密钥。如果还没有，请注册并通过 Novita AI 仪表板创建一个 API 密钥。

使用 Python 集成

Novita AI 提供与 OpenAI 兼容的端点，方便集成。以下是使用 Python 客户端的简单示例：

from openai import OpenAI
  
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",
)

model = "meta-llama/llama-4-maverick-17b-128e-instruct-fp8"
stream = True # 或 False
max_tokens = 2048
system_content = """Be a helpful assistant"""
temperature = 1
top_p = 1
min_p = 0
top_k = 50
presence_penalty = 0
frequency_penalty = 0
repetition_penalty = 1
response_format = { "type": "text" }

chat_completion_res = client.chat.completions.create(
    model=model,
    messages=[
        {
            "role": "system",
            "content": system_content,
        },
        {
            "role": "user",
            "content": "Hi there!",
        }
    ],
    stream=stream,
    max_tokens=max_tokens,
    temperature=temperature,
    top_p=top_p,
    presence_penalty=presence_penalty,
    frequency_penalty=frequency_penalty,
    response_format=response_format,
    extra_body={
      "top_k": top_k,
      "repetition_penalty": repetition_penalty,
      "min_p": min_p
    }
  )

if stream:
    for chunk in chat_completion_res:
        print(chunk.choices[0].delta.content or "", end="")
else:
    print(chat_completion_res.choices[0].message.content)

如需更多详细示例和全面集成指南，请访问我们的 LLM API 文档。

结论

Llama 4 在 Novita AI 上的亮相，标志着先进 AI 能力民主化的重要里程碑。

凭借原生多模态、超长上下文长度和高效的 MoE 架构，这些模型使得之前不切实际或成本过高的新类型应用成为可能。

无论您是在构建文档处理、多语言通信还是创意内容生成的应用，Llama 4 都提供了创建智能、响应式体验所需的工具。

立即通过 Novita AI 的简单集成流程和竞争性定价开始使用，将 Llama 4 的强大能力带到您的应用和用户中。

关于 Novita AI

Novita AI 是一个 AI 云平台，为开发者提供通过简单 API 部署 AI 模型的便捷方式，同时提供经济实惠且可靠的 GPU 云用于构建和扩展。

Llama 4 现已在 Novita AI 上线：释放多模态 MoE 的强大能力

了解 Llama 4 家族