English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

使用 ai-gradio 与 Novita AI 的全面指南

作者 / / 合作 / 2 分钟阅读
使用 ai-gradio 与 Novita AI 的全面指南
目录
  1. ai-gradio 的关键特性与功能
  2. ai-gradio 中支持的 Novita AI 模型
  3. 如何安装 ai-gradio
  4. 如何在 ai-gradio 中使用 Novita AI 的 LLM
  5. 结论
  6. 常见问题

AI-gradio 是一个基于 Gradio 构建的 Python 包，它使开发者能够利用 Gradio 直观的框架轻松构建交互式 AI 演示和 API。通过将 AI-Gradio 与 Novita AI 集成，开发者将借助 Novita AI 尖端的大语言模型 (LLM) 释放无与伦比的潜力。本文提供了一份全面指南，帮助您了解如何利用这一强大的组合。

ai-gradio 的关键特性与功能

  • 多提供商支持：无缝连接 15+ 领先的 AI 服务，包括 OpenAI、Google Gemini、Anthropic 等。
  • 文本聊天：构建兼容所有基于文本的 AI 模型的对话界面。
  • 语音聊天：利用 OpenAI 的音频处理能力创建沉浸式语音体验。
  • 视频聊天：通过 Google Gemini 的视频分析技术解锁视觉处理功能。
  • 代码生成：实现带有语法高亮的专业化编程辅助界面。
  • 多模态：在单个界面中处理包括文本、图像和视频在内的多种内容类型。
  • 智能体团队：利用 CrewAI 集成，实现协调 AI 智能体的复杂问题解决。
  • 浏览器自动化：部署能够独立执行复杂互联网任务的智能代理。

ai-gradio 中支持的 Novita AI 模型

  • meta-llama/llama-3.3-70b-instruct
  • meta-llama/llama-3.1-8b-instruct
  • meta-llama/llama-3.1-70b-instruct
  • meta-llama/llama-3-8b-instruct
  • meta-llama/llama-3-70b-instruct
  • meta-llama/llama-3.2-1b-instruct
  • meta-llama/llama-3.2-11b-vision-instruct
  • meta-llama/llama-3.2-3b-instruct
  • meta-llama/llama-3.1-8b-instruct-bf16
  • deepseek/deepseek-r1
  • deepseek/deepseek_v3
  • deepseek/deepseek-r1-distill-llama-70b
  • deepseek/deepseek-r1-distill-qwen-14b
  • deepseek/deepseek-r1-distill-qwen-32b
  • deepseek/deepseek-r1-distill-llama-8b
  • mistralai/mistral-nemo
  • mistralai/mistral-7b-instruct
  • teknium/openhermes-2.5-mistral-7b
  • microsoft/wizardlm-2-8x22b
  • gryphe/mythomax-l2-13b
  • qwen/qwen-2.5-72b-instruct
  • qwen/qwen-2-vl-72b-instruct
  • qwen/qwen-2-7b-instruct

如何安装 ai-gradio

# 安装核心包
pip install ai-gradio

# 安装特定提供商支持
pip install 'ai-gradio[openai]'     # OpenAI 支持
pip install 'ai-gradio[gemini]'     # Google Gemini 支持
pip install 'ai-gradio[anthropic]'  # Anthropic Claude 支持
pip install 'ai-gradio[groq]'       # Groq 支持

# 安装所有提供商
pip install 'ai-gradio[all]'

如何在 ai-gradio 中使用 Novita AI 的 LLM

步骤 1：设置环境变量。

  • 将 NOVITA_API_KEY 设置为你的 Novita API 密钥。
export NOVITA_API_KEY=<your api key>

步骤 2：修改 app.py 入口文件。

import gradio as gr
import ai_gradio
gr.load(
    name='novita:deepseek/deepseek-r1',
    src=ai_gradio.registry,
).launch()

步骤 3：使用 python 运行 app.py 文件。

结论

Novita AI 是这一战略合作的核心基础，它提供强大的基础设施，无缝支持 ai-gradio 所提供的一系列尖端 AI 模型。这一强大的集成将先进的语言 AI 技术民主化，使开发者和企业能够专注于创新解决方案和创意应用，而无需管理复杂的技术基础设施。

常见问题

如何将 Novita AI 的 LLM 集成到我的 AI-Gradio 项目中？

首先注册并获取 Novita AI API 密钥。

我能否通过 AI-Gradio 对 Novita AI 的 LLM 进行微调以适应特定应用？

可以，Novita AI 允许针对专业用例（如客户支持或内容审核）进行模型定制。

我能否扩展基于 AI-Gradio 和 Novita AI LLM 构建的应用？

可以，Novita AI 为高流量应用提供弹性扩展。

限时优惠

Novita AI 现提供 推荐计划，对 Helicone 用户可能是一大福利：如果有兴趣，用户可以分享他们的邀请链接/代码，他们及其推荐人都将获得 $20 积分，可用于 DeepSeek R1 和 V3 API。

关于 Novita AI

Novita AI 是一个 AI 云平台，为开发者提供通过简单 API 部署 AI 模型的简便方式，同时提供经济实惠且可靠的 GPU 云用于构建和扩展。

相关文章