免费 Qwen 2.5 7B API 现已支持函数调用!

免费 Qwen 2.5 7B API 现已支持函数调用!
  • Qwen 2.5 7B 具备先进的编程与数学能力,改进了指令遵循与结构化文本生成。
  • 该模型支持函数调用。Novita AI 完全免费提供此模型,以支持和贡献开源社区。

免费 API 访问

Novita AI 现已免费提供 Qwen 2.5 7B,为开发者赋能强大的编程、数学与结构化文本生成能力。凭借全面的函数调用支持,该模型在 AI 与现实世界自动化之间架起了桥梁——是轻松构建更智能应用的理想选择。

什么是函数调用?

函数调用是人工智能(特别是大型语言模型 LLM)中的一种能力,它使模型能够与外部函数、工具或 API 交互,以执行超出文本生成的具体任务。模型不会仅仅生成文本,而是根据用户的提示识别何时需要调用某个函数,确定要调用的正确函数,并指定该函数所需的参数。函数的实际执行由外部系统或应用程序处理,而非模型本身。

https://www.youtube.com/watch?v=aqdWSYWC\_LI

函数调用如何工作?

函数调用允许 AI 模型在对话过程中与外部工具、API 或内部函数进行交互。模型不再仅仅生成文本,而是能够 **识别何时需要函数 生成带有结构化参数的正确函数调用 ,并 ** 执行它以获取结果。这弥合了自然语言理解与现实世界行动之间的鸿沟,使模型能够自动执行诸如获取实时数据、管理工作流或触发系统操作等任务。

函数调用的优势有哪些?

  • 现实世界交互:模型可以触发操作,而不仅仅是提供信息。
  • 自动化:简化数据检索、预订、表单提交等流程。
  • 结构化理解:模型将输出组织成预定义格式,减少错误,而非仅依赖文本生成。
  • 增强用例:构建更可靠、更高效的动态应用、助手和系统。
  • 开发者效率:预先知道模型支持函数调用,可以更快地规划集成,无需大量修改。

什么是 Qwen 2.5 7B?

qwen 2.5 7b 介绍

Qwen 2.5 7B 基准测试

qwen 2.5 7b 基准测试

Qwen 2.5 7B 硬件要求

qwen 2.5 7b 硬件要求

如何通过 Novita AI 使用 Qwen 2.5 7B 函数调用

Novita AI 已经为每个 LLM 提供了支持能力描述,您可以直接在[控制台](https://novita.ai/models-console/?utm_source=blog_llm&utm_medium=article&utm_campaign=/ llama-4-maverick-function-calling/)和[文档](https://novita.ai/docs/guides/llm-function-calling/?utm_source=blog_llm&utm_medium=article&utm_campaign= llama-4-maverick-function-calling)中查看。

步骤 1:登录 Novita AI

进入 Novita AI 主页后,点击右上角的 “Log In”“Get Started” 按钮。您可以使用 GoogleGitHubHugging FaceEmail 轻松登录——任您选择!

登录

NOVITA AI 登录

立即尝试 Novita AI!

步骤 2:在控制台中点击“Model API”

登录后,您将进入 Novita 控制台仪表板。在顶部点击 “Model API”。此部分将为您提供可用模型的完整列表,以及其能力的详细信息——包括是否支持 ** 函数调用 ** 和 ** 结构化输出**。

步骤 2:在控制台中点击“Model API”

步骤 3:选择您的模型并查看!

找到您感兴趣的模型,点击它,右侧会出现一个面板。在 “Supported Capabilities” 下,您会立即看到是否支持 ** 函数调用 ** 和 ** 结构化输出**。

选择您的模型

步骤 4:初始化客户端

首先,您需要使用 Novita API 密钥初始化客户端。

from openai import OpenAI
import json

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # 从以下网址获取 Novita AI API 密钥:https://novita.ai/settings/key-management。
    api_key="<您的 Novita AI API 密钥>",
)

model = "deepseek/deepseek_v3"

步骤 5:定义要调用的函数

接下来,定义模型可以调用的 Python 函数。在此示例中,它是一个获取天气信息的函数。

# 示例函数,用于模拟获取天气数据。
def get_weather(location):
    """检索给定位置的当前天气。"""
    print("正在调用 get_weather 函数,位置:", location)
    # 在实际应用中,您需要在此处调用外部天气 API。
    # 这是一个简化示例,返回硬编码数据。
    return json.dumps({"location": location, "temperature": "60 华氏度"})

步骤 6:构建包含工具和用户消息的 API 请求

现在,创建对 Novita 端点的 API 请求。此请求包含 tools 参数,用于定义模型可以使用的函数,以及用户的消息。

tools = [
    {
        "type": "function",
        "function": {
            "name": "get_weather",
            "description": "获取某个位置的天气,用户应先提供一个位置",
            "parameters": {
                "type": "object",
                "properties": {
                    "location": {
                        "type": "string",
                        "description": "城市和州,例如旧金山,CA",
                    }
                },
                "required": ["location"]
            },
        }
    },
]

messages = [
    {
        "role": "user",
        "content": "旧金山的天气怎么样?"
    }
]

# 让我们发送请求并打印响应。
response = client.chat.completions.create(
    model=model,
    messages=messages,
    tools=tools,
)

# 请在生产环境中检查响应是否包含工具调用。
tool_call = response.choices[0].message.tool_calls[0]
print(tool_call.model_dump())

输出:

{'id': '0', 'function': {'arguments': '{"location": "San Francisco, CA"}', 'name': 'get_weather'}, 'type': 'function'}

Novita AI 上的 Qwen 2.5 7B 不仅免费,更是一次颠覆性的革新。借助内置的函数调用,您可以超越文本生成,创建动态、可执行的 AI 解决方案。通过 Novita 免费且易于访问的平台,深入探索 AI 驱动工作流的未来。

常见问题

什么是函数调用?

它让 LLM 能够触发外部工具或 API 来执行任务和检索数据。

为什么开发者应该关注函数调用?

它使 AI 从文本回复者转变为行动执行者——自动化任务、提升应用性能、节省时间。

如何使用 Qwen 2.5 7B 的函数调用?

只需登录 Novita AI,进入“Model API”,选择 Qwen 2.5 7B,查看其函数调用支持情况,然后按照提供的客户端设置和工具定义进行集成即可。

Novita AI 是一站式云平台,助力您的 AI 雄心。集成 API、无服务器、GPU 实例——您所需的成本效益工具。消除基础设施负担,从免费开始,让您的 AI 愿景成为现实。

推荐阅读