Novita AI теперь поддерживает OpenAI Agents SDK!

Novita AI теперь поддерживает OpenAI Agents SDK!

Система трассировки OpenAI Agents SDK обеспечивает видимость AI-рабочих процессов, захватывая важные события, чтобы помочь разработчикам эффективно мониторить и отлаживать свои приложения.

Что такое OpenAI Agents SDK?

OpenAI Agents SDK — это инструментарий на Python, который упрощает разработку AI-агентов. Эта эволюция проекта SWARM от OpenAI, готовая к производству, предоставляет функции для создания интеллектуальных, совместных и безопасных AI-систем. В основе лежат агенты на основе LLM, настраиваемые с помощью конкретных инструкций и инструментов, поддерживающие пользовательские роли и совместимые как с моделями OpenAI (o1, o3-mini, gpt-4o), так и со сторонними моделями с API, совместимыми с OpenAI.

Ключевые функции OpenAI Agents SDK

Инструменты и функциональные расширения:

  • Вызов функций: Преобразование функций Python в инструменты с помощью декоратора @function_tool, с автоматической генерацией схемы и проверкой Pydantic
  • Встроенный цикл агента: Обработка вызовов инструментов, обратная связь по результатам и циклы задач для бесшовного взаимодействия между агентами и LLM
  • Передача задач: Позволяет агентам делегировать задачи другим специализированным агентам, обеспечивая многоагентное взаимодействие

Механизмы безопасности и мониторинга:

  • Ограничения (Guardrails): Фильтрация ввода предотвращает вредоносный контент, а проверка вывода гарантирует качество и уместность ответов
  • Инструменты трассировки: Встроенная функциональность трассировки визуализирует и контролирует весь поток работы агента, помогая в отладке и оптимизации

Функции, удобные для разработчиков:

  • Нативные методы Python: Использование возможностей языка Python для оркестрации и цепочек агентов, что снижает необходимость изучения новых абстракций
  • Высокая настраиваемость: Предоставляет пользовательские инструменты, типы структурированного вывода и возможности интеграции с внешними LLM-провайдерами
  • Легковесный дизайн: Простой, но мощный набор примитивов, требующий минимального обучения

Преимущества OpenAI Agents SDK

Эффективность разработки

  • Упрощает процессы настройки, оптимизирует разработку приложений-агентов и снижает порог входа в разработку AI-агентов

Расширенные возможности системы:

  • Поддерживает выполнение сложных задач и эффективное многоагентное взаимодействие
  • Создает специализированные системы совместной работы для решения сложных проблем
  • Интегрирует внешние LLM-модели для большей гибкости

Безопасность и надежность:

  • Ограничения гарантируют безопасное взаимодействие с AI
  • Повышает надежность системы AI-агентов и уместность поведения
  • Упрощает подготовку AI-агентных приложений к производственной среде

Анализ и оптимизация:

  • Система трассировки предоставляет информацию о поведении агента
  • Улучшает анализ пользовательских шаблонов и выявление узких мест
  • Расширяет возможности отладки и оптимизации рабочих процессов

Пример использования OpenAI Agents SDK

Шаг 1: Настройка агента

Инициализируйте агента, создав виртуального помощника с именем AccountingAssistant и четкими инструкциями для его функциональности.

Шаг 2: Интеграция инструментов

Интегрируйте основные инструменты, включая:

  • Инструмент веб-поиска: получение налоговых обновлений.
  • API-вызовы: анализ финансовой отчетности.
  • Инструмент поиска файлов: поиск соответствующих документов.

Шаг 3: Определение задач

Разбейте рабочий процесс на конкретные задачи:

  • Задача 1: Получить последние налоговые обновления.
  • Задача 2: Проанализировать финансовые данные с помощью API.
  • Задача 3: Сгенерировать отчеты на основе последних данных.

Шаг 4: Выполнение задач

Запускайте задачи последовательно или параллельно. Например:

Runner.run_sync(agent, "Сгенерируй отчет на основе последних налоговых законов и финансовых данных.")

Шаг 5: Мониторинг и отладка

Используйте инструменты трассировки для мониторинга выполнения задач и выявления потенциальных проблем для отладки.

Как интегрировать Novita AI с OpenAI Agents SDK?

1. Настройте окружение Python и установите Agents SDK.

python -m venv env
source env/bin/activate
pip install openai-agents

2. Настройте ваш API-ключ Novita.

получить api ключ

Перейдите в консоль и получите бесплатные кредиты

3. Пример передачи задач (Handoffs)

import os
from openai import AsyncOpenAI
from agents import (
    Agent,
    Runner,
    set_default_openai_api,
    set_default_openai_client,
    set_tracing_disabled,
)

BASE_URL = "https://api.novita.ai/v3/openai"
API_KEY = os.getenv("NOVITA_API_KEY")
MODEL_NAME = os.getenv("MODEL_NAME")

# Поскольку Novita не поддерживает responses API, мы используем chat completions API.
set_default_openai_api("chat_completions")
set_default_openai_client(AsyncOpenAI(base_url=BASE_URL, api_key=API_KEY))
# Отключаем трассировку для этого примера
# Обратитесь к https://openai.github.io/openai-agents-python/tracing/#external-tracing-processors-list для использования пользовательских span.
set_tracing_disabled(disabled=True)

agent = Agent(name="Assistant",
              instructions="Вы полезный ассистент", model=MODEL_NAME)

result = Runner.run_sync(
    agent, "Напиши хайку о рекурсии в программировании.")
print(result.final_output)

# Код внутри кода,
# Функции, вызывающие себя,
# Танец бесконечного цикла.

Благодаря гибким возможностям трассировки разработчики могут отслеживать поведение агентов как с помощью встроенной функциональности, так и через сторонние интеграции, обеспечивая лучшую производительность и надежность.

Часто задаваемые вопросы

Какие LLM-модели можно использовать с OpenAI Agents SDK?

Совместим с моделями OpenAI (o1, o3-mini, gpt-4o) и сторонними моделями с API, совместимыми с OpenAI, такими как Novita AI.

Как OpenAI Agents SDK обрабатывает интеграцию инструментов?

Преобразует функции Python в инструменты с помощью декоратора @function_tool с автоматической генерацией схемы и проверкой Pydantic.

Подходит ли OpenAI Agents SDK для производственной среды?

Да, он включает функции безопасности, такие как ограничения (guardrails), всестороннюю трассировку и возможности мониторинга.

Novita AI — это облачная AI-платформа, которая предлагает разработчикам простой способ развертывания AI-моделей с помощью нашего простого API, а также предоставляет доступное и надежное GPU-облако для создания и масштабирования.

Рекомендуемое чтение