Novita AI теперь поддерживает OpenAI Agents SDK!

Novita AI теперь поддерживает OpenAI Agents SDK!

Система трассировки OpenAI Agents SDK обеспечивает видимость AI-процессов, фиксируя важные события, чтобы помочь разработчикам эффективно отслеживать и отлаживать свои приложения.

Что такое OpenAI Agents SDK?

OpenAI Agents SDK — это инструментарий Python, который упрощает разработку AI-агентов. Эта готовая к продакшену эволюция проекта SWARM от OpenAI предоставляет функции для создания интеллектуальных, совместных и безопасных AI-систем. В основе лежат агенты на базе LLM, настраиваемые с помощью конкретных инструкций и инструментов, поддерживающие пользовательские роли и совместимые как с моделями OpenAI (o1, o3-mini, gpt-4o), так и со сторонними моделями с OpenAI-совместимыми API.

Ключевые возможности OpenAI Agents SDK

Инструменты и функциональные расширения:

  • Function Calling: преобразуйте функции Python в инструменты с помощью декоратора @function_tool, с автоматической генерацией схем и валидацией Pydantic
  • Встроенный цикл агента: обрабатывайте вызовы инструментов, обратную связь о результатах и циклы задач для бесшовного взаимодействия между агентами и LLM
  • Передача задач (Handoffs): позволяет агентам делегировать задачи другим специализированным агентам, обеспечивая многоагентное взаимодействие

Механизмы безопасности и мониторинга:

  • Guardrails: проверка входных данных предотвращает вредоносный контент, а валидация выходных данных обеспечивает качество и уместность ответов
  • Инструменты трассировки: встроенная функция трассировки визуализирует и контролирует весь поток агента, помогая в отладке и оптимизации

Удобные для разработчиков функции:

  • Python-нативные методы: используйте возможности языка Python для оркестрации и объединения агентов в цепочки, уменьшая необходимость изучать новые абстракции
  • Высокая настраиваемость: предоставляет пользовательские инструменты, типы структурированного вывода и возможности интеграции с внешними LLM-провайдерами
  • Легковесный дизайн: простой, но мощный набор примитивов, требующий минимального порога входа

Преимущества OpenAI Agents SDK

Эффективность разработки

  • Упрощает процессы настройки, оптимизирует разработку агентных приложений и снижает порог входа в разработку AI-агентов

Расширенные возможности системы:

  • Поддерживает выполнение сложных задач и эффективное многоагентное взаимодействие
  • Создает специализированные системы совместной работы для решения сложных задач
  • Интегрирует внешние LLM-модели для большей гибкости

Безопасность и надежность:

  • Guardrails обеспечивают безопасное взаимодействие с AI
  • Повышают надежность и корректность поведения AI-агентных систем
  • Упрощают подготовку AI-агентных приложений к производственным средам

Анализ и оптимизация:

  • Система трассировки дает представление о поведении агентов
  • Улучшает анализ пользовательских паттернов и выявление узких мест
  • Расширяет возможности отладки и оптимизации рабочих процессов

Пример использования OpenAI Agents SDK

Шаг 1: Настройка агента

Инициализируйте агента, создав виртуального ассистента с именем AccountingAssistant и четкими инструкциями для его работы.

Шаг 2: Интеграция инструментов

Интегрируйте необходимые инструменты, включая:

  • Инструмент веб-поиска: получение обновлений по налогам.
  • API-вызовы: анализ финансовой отчетности.
  • Инструмент поиска файлов: поиск соответствующих документов.

Шаг 3: Определение задач

Разбейте рабочий процесс на конкретные задачи:

  • Задача 1: Получить последние обновления по налогам.
  • Задача 2: Проанализировать финансовые данные с помощью API.
  • Задача 3: Сформировать отчеты на основе последних данных.

Шаг 4: Выполнение задач

Выполняйте задачи последовательно или параллельно. Например:

Runner.run_sync(agent, "Generate a report based on the latest tax laws and financial data.")

Шаг 5: Мониторинг и отладка

Используйте инструменты трассировки для мониторинга выполнения задач и выявления потенциальных проблем для отладки.

Как интегрировать Novita AI с OpenAI Agents SDK?

1. Настройте окружение Python и установите Agents SDK.

python -m venv env
source env/bin/activate
pip install openai-agents

2. Настройте ваш Novita API-ключ.

получить api-ключ

Перейдите в консоль и получите бесплатные кредиты

3. Пример Handoffs

import os
from openai import AsyncOpenAI
from agents import (
    Agent,
    Runner,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

BASE_URL = "https://api.novita.ai/v3/openai"
API_KEY = os.getenv("NOVITA_API_KEY")
MODEL_NAME = os.getenv("MODEL_NAME")

# Because Novita not support the responses API so we use the chat completions API instead.
set_default_openai_api("chat_completions")
set_default_openai_client(AsyncOpenAI(base_url=BASE_URL, api_key=API_KEY))
# Disable tracing for this example
# Refer to https://openai.github.io/openai-agents-python/tracing/#external-tracing-processors-list to use the custom spans.
set_tracing_disabled(disabled=True)

agent = Agent(name="Assistant",
              instructions="You are a helpful assistant", model=MODEL_NAME)

result = Runner.run_sync(
    agent, "Write a haiku about recursion in programming.")
print(result.final_output)

# Code within the code,
# Functions calling themselves,
# Infinite loop's dance.

Благодаря гибким возможностям трассировки разработчики могут отслеживать поведение агентов как с помощью встроенных функций, так и сторонних интеграций, обеспечивая лучшую производительность и надежность.

Часто задаваемые вопросы

Какие LLM-модели я могу использовать с OpenAI Agents SDK?

Совместимо с моделями OpenAI (o1, o3-mini, gpt-4o) и сторонними моделями с OpenAI-совместимыми API, такими как Novita AI.

Как OpenAI Agents SDK обрабатывает интеграцию инструментов?

Преобразуйте функции Python в инструменты с помощью декоратора @function_tool с автоматической генерацией схем и валидацией Pydantic.

Подходит ли OpenAI Agents SDK для производственных сред?

Да, он включает функции безопасности, такие как guardrails, комплексную трассировку и возможности мониторинга.

Novita AI — это AI-облачная платформа, которая предлагает разработчикам простой способ развертывания AI-моделей с помощью нашего простого API, а также предоставляет доступное и надежное GPU-облако для создания и масштабирования.

Рекомендуемое чтение