English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

使用 ai-gradio 與 Novita AI：全面指南

作者 / / 合作夥伴 / 2 分鐘閱讀
使用 ai-gradio 與 Novita AI：全面指南
目錄
  1. ai-gradio 的主要特色與功能
  2. ai-gradio 中 Novita AI 支援的模型
  3. 如何安裝 ai-gradio
  4. 如何在 ai-gradio 中使用 Novita AI 的 LLMs
  5. 結論
  6. 常見問題

AI-gradio 是一個基於 Gradio 打造的 Python 套件，讓開發者能夠透過 Gradio 的直覺式框架，輕鬆建構互動式 AI 展示與 API。透過將 AI-Gradio 與 Novita AI 整合，開發者將能借助 Novita AI 最先進的大型語言模型（LLMs）解鎖無與倫比的潛力。本文提供全面指南，協助您學習如何運用這項強大的組合。

ai-gradio 的主要特色與功能

  • 多供應商支援：無縫連接 15 多個領先的 AI 服務，包括 OpenAI、Google Gemini、Anthropic 等。
  • 文字聊天：建構與所有文字型 AI 模型相容的對話介面。
  • 語音聊天：透過 OpenAI 的音訊處理能力，打造沉浸式語音體驗。
  • 影片聊天：透過 Google Gemini 的影片分析技術，解鎖視覺處理功能。
  • 程式碼生成：實作具備語法高亮的專業程式輔助介面。
  • 多模態：在單一介面中處理文字、圖片與影片等多種內容類型。
  • 代理團隊：利用 CrewAI 整合，透過協同 AI 代理解決複雜問題。
  • 瀏覽器自動化：部署能夠獨立執行複雜網路任務的智慧代理。

ai-gradio 中 Novita AI 支援的模型

  • meta-llama/llama-3.3-70b-instruct
  • meta-llama/llama-3.1-8b-instruct
  • meta-llama/llama-3.1-70b-instruct
  • meta-llama/llama-3-8b-instruct
  • meta-llama/llama-3-70b-instruct
  • meta-llama/llama-3.2-1b-instruct
  • meta-llama/llama-3.2-11b-vision-instruct
  • meta-llama/llama-3.2-3b-instruct
  • meta-llama/llama-3.1-8b-instruct-bf16
  • deepseek/deepseek-r1
  • deepseek/deepseek_v3
  • deepseek/deepseek-r1-distill-llama-70b
  • deepseek/deepseek-r1-distill-qwen-14b
  • deepseek/deepseek-r1-distill-qwen-32b
  • deepseek/deepseek-r1-distill-llama-8b
  • mistralai/mistral-nemo
  • mistralai/mistral-7b-instruct
  • teknium/openhermes-2.5-mistral-7b
  • microsoft/wizardlm-2-8x22b
  • gryphe/mythomax-l2-13b
  • qwen/qwen-2.5-72b-instruct
  • qwen/qwen-2-vl-72b-instruct
  • qwen/qwen-2-7b-instruct

如何安裝 ai-gradio

# Install core package
pip install ai-gradio

# Install with specific provider support
pip install 'ai-gradio[openai]'     # OpenAI support
pip install 'ai-gradio[gemini]'     # Google Gemini support
pip install 'ai-gradio[anthropic]'  # Anthropic Claude support
pip install 'ai-gradio[groq]'       # Groq support

# Install all providers
pip install 'ai-gradio[all]'

如何在 ai-gradio 中使用 Novita AI 的 LLMs

步驟 1：設定環境變數

  • 將 NOVITA_API_KEY 設為您的 Novita API 金鑰。
export NOVITA_API_KEY=<your api key>

步驟 2：修改 app.py 進入點檔案

import gradio as gr
import ai_gradio
gr.load(
    name='novita:deepseek/deepseek-r1',
    src=ai_gradio.registry,
).launch()

步驟 3：使用 python 執行 app.py 檔案

結論

Novita AI 是此策略合作夥伴關係的關鍵基礎，提供穩健的基礎設施，無縫支援 ai-gradio 所提供的廣泛尖端 AI 模型。這項強大的整合讓先進語言 AI 技術得以普及，使開發者與企業能夠專注於創新解決方案與創意應用，無需負擔管理複雜技術基礎設施的負擔。

常見問題

** 如何將 Novita AI 的 LLMs 整合到我的 AI-Gradio 專案中？**

首先註冊取得 Novita AI API 金鑰。

** 我能否透過 AI-Gradio 針對特殊應用微調 Novita AI 的 LLMs？**

可以，Novita AI 允許針對特定使用案例（例如客戶支援或內容審核）進行模型自訂。

** 我能否擴展以 AI-Gradio 和 Novita AI 的 LLMs 建構的應用程式？**

可以，Novita AI 為高流量應用提供彈性擴展。

限時優惠

Novita AI 目前推出 推薦計畫，這項權益對 Helicone 使用者可能有所幫助：若有興趣，使用者可分享邀請連結/代碼，雙方皆可獲得 $20 額度，用於 DeepSeek R1 與 V3 API。

關於 Novita AI

Novita AI 是一個 AI 雲端平台，為開發者提供透過簡單 API 部署 AI 模型的便捷方式，同時也提供經濟實惠且可靠的 GPU 雲端服務，用於建構與擴展。

相關文章