- Пробел в инфраструктуре, сдерживающий развитие ИИ-агентов
- Novita Agent Runtime: специализированное решение для ИИ-агентов
- Ключевые возможности Novita Agent Runtime
- От кода до облака за три шага
- Работает со всеми основными ИИ-фреймворками
- Прозрачное ценообразование по факту использования с поминутной тарификацией
- Начните создавать промышленные ИИ-агенты уже сейчас
Создание ИИ-агентов становится все проще. Их развертывание в промышленных масштабах остается серьезной проблемой. Традиционная инфраструктура, такая как контейнеры, виртуальные машины и бессерверные функции, была разработана для обычных веб-приложений. Она не соответствует уникальным требованиям рабочих нагрузок ИИ-агентов.
Novita Agent Runtime закрывает этот пробел, предоставляя специализированную бессерверную инфраструктуру для развертывания ИИ-агентов. Построенный на основе песочницы агентов Novita, он поддерживает рабочие процессы LangGraph, многоагентные системы Microsoft AutoGen и пользовательские реализации. Разверните ваши существующие агенты в промышленную эксплуатацию с минимальными изменениями кода и без необходимости управления инфраструктурой.
Пробел в инфраструктуре, сдерживающий развитие ИИ-агентов
| Функция | Песочница агентов | Контейнер | Бессерверные функции | Виртуальная машина |
| Время запуска | <200 мс (MicroVM) | Секунды | 1 с | 30+ секунд |
| Изоляция безопасности | Сильная (MicroVM) | Слабая (общее ядро) | Сильная | Сильная |
| Сохранение состояния | Мгновенная приостановка/возобновление | Поддерживается | Без состояния | Медленное восстановление из снимка |
| Максимальное время выполнения | Часы | Неограниченно | Обычно лимит 15 минут | Неограниченно |
| Опыт разработчика | API, оптимизированные для агентов | Универсальные API | API уровня функций | API уровня инфраструктуры |
Песочница агентов Novita сочетает запуск за миллисекунды, изоляцию MicroVM, выполнение с сохранением состояния и API, ориентированные на агентов. Novita Agent Runtime, построенный на основе Песочницы агентов, позволяет развертывать существующих агентов в этой инфраструктуре с минимальными изменениями кода.
Novita Agent Runtime: специализированное решение для ИИ-агентов
Novita Agent Runtime — это легкий набор инструментов для бессерверного развертывания, не зависящий от фреймворков, построенный на архитектуре, совместимой с AgentCore. Он позволяет безопасно и эффективно развертывать существующих ИИ-агентов в промышленную эксплуатацию без необходимости глубоких знаний DevOps или управления инфраструктурой.
Набор инструментов поддерживает как взаимодействия в реальном времени, так и долго выполняющиеся рабочие нагрузки: от conversational-интерфейсов, требующих времени отклика менее секунды, до сложных задач рассуждения, на выполнение которых может уходить несколько часов.
Novita Agent Runtime включает SDK и инструменты CLI. SDK предоставляет API на основе декораторов для публикации вашего агента в виде стандартного HTTP-сервиса и методы программного вызова агентов. CLI позволяет выполнять настройку и развертывание в экосистеме Песочницы агентов Novita в один клик.
Ключевые возможности Novita Agent Runtime
Не зависит от фреймворка. Novita Agent Runtime работает с LangGraph, Microsoft AutoGen, Google ADK, OpenAI Agents SDK, CrewAI и пользовательскими реализациями. Используйте предпочитаемый фреймворк без привязки к инфраструктуре.
Не зависит от модели. Среда выполнения не зависит от выбора модели. Она работает с Novita AI, Anthropic Claude, Google Gemini, OpenAI и любым другим провайдером.
Холодный старт менее 200 мс. Технология легкой виртуализации обеспечивает скорость запуска, близкую к контейнерной, с изоляцией окружения на уровне оборудования. Даже первые запросы получают ответ менее чем за секунду.
Полная изоляция сессий. Каждая пользовательская сессия выполняется в выделенной MicroVM с изолированными ресурсами CPU, памяти и файловой системы. После завершения сессии вся MicroVM завершает работу, а память очищается.
Выполнение в течение нескольких часов. Платформа поддерживает долго выполняющиеся рабочие нагрузки, длящиеся несколько часов, что позволяет реализовывать сложное рассуждение агентов, асинхронные рабочие процессы и многоагентное взаимодействие.
Плата по факту использования. Платите только за то, что используете. Масштабируйте от прототипа до промышленной эксплуатации без переплаты за неиспользуемую мощность и без забот о планировании ресурсов.
От кода до облака за три шага
Шаг 1: Интеграция SDK. Добавьте несколько строк кода в существующую реализацию вашего агента, используя API SDK на основе декораторов. SDK автоматически обрабатывает маршрутизацию запросов, форматирование ответов и проверки работоспособности.
from novita_sandbox.agent_runtime import AgentRuntimeApp
app = AgentRuntimeApp()
@app.entrypoint
def my_agent(request: dict):
# Agent business logic
return {"result": "..."}
Шаг 2: Развертывание одной командой. Используйте CLI для настройки и развертывания вашего агента:
# Configure your agent
novita-sandbox-cli agent configure
# Deploy to cloud
novita-sandbox-cli agent launch
CLI генерирует Dockerfile и конфигурационный файл .novita-agent.yaml, собирает шаблон вашей песочницы и загружает его, после чего генерирует ID агента в формате <agent_name>-<template_id>.
Шаг 3: Вызов вашего агента. После развертывания вызовите вашего агента через CLI для быстрого тестирования:
# Quick test with CLI
novita-sandbox-cli agent invoke "Hello, Agent!"
Или вызовите программно через SDK:
import json
from novita_sandbox.agent_runtime import AgentRuntimeCliendevet
client = AgentRuntimeClient(api_key="your-api-key")
# Prepare request data (converted to a JSON string and encoded as bytes)
payload = json.dumps({"prompt": "Hello, Agent!"}).encode()
response = await client.invoke_agent_runtime(
agentId="agent-xxxxx",
payload=payload
)
Каждый вызов создает изолированный экземпляр песочницы, выполняет агента в этом безопасном окружении и возвращает результат.
Подробное пошаговое руководство с примерами кода см. в Руководстве по быстрому старту. Полные инструкции по установке см. в Руководстве по установке.
Работает со всеми основными ИИ-фреймворками
Все интеграции с фреймворками следуют единому шаблону: инициализируйте AgentRuntimeApp, настройте ваш фреймворк, определите точку входа с декоратором и запустите приложение. SDK бесшовно работает с LangGraph, OpenAI Agents SDK, Microsoft AutoGen, Google ADK и пользовательскими реализациями.
from novita_sandbox.agent_runtime import AgentRuntimeApp
# 1. Create Agent Runtime application instance
app = AgentRuntimeApp()
# 2. Initialize your Agent framework
# 3. Define entry point with decorator
@app.entrypoint
def agent_invocation(request: dict) -> dict:
"""
Args:
request: Request data, typically contains fields like prompt
Returns:
Response data dictionary
"""
prompt = request.get("prompt", "")
# Call your Agent framework
result = your_agent.run(prompt)
return {"result": result}
# 4. Run the application
if __name__ == "__main__":
app.run()
Подробные примеры интеграции см. в Руководстве по интеграции с фреймворками агентов. С расширенными функциями, включая потоковые ответы, многоходовые диалоги и управление переменными окружения, можно ознакомиться в документации по расширенным функциям.
Прозрачное ценообразование по факту использования с поминутной тарификацией
Novita Agent Runtime использует потребленческое ценообразование с поминутной тарификацией.
ЦП
| vCPUs | Цена за единицу (за секунду) |
| 1× CPU | $0.00000784/s |
| 2× CPU | $0.00001568/s |
| 3× CPU | $0.00002352/s |
| 4× CPU | $0.00003136/s |
| 5× CPU | $0.0000392/s |
| 6× CPU | $0.00004704/s |
| 7× CPU | $0.00005488/s |
| 8× CPU | $0.00006272/s |
Память
| Память | Цена за единицу |
| Допустимые значения: кратные 512 MiB, от 512 MiB до 8192 MiB (за ГиБ / s) | $0.00000256 / ГиБ / s |
| 512 MiB | $0.00000128 / s |
| 1 ГиБ | $0.00000256 / s |
| 2 ГиБ | $0.00000512 / s |
Хранилище: Каждый аккаунт включает 60 ГБ бесплатного хранилища. Дополнительное хранилище тарифицируется по $0.000072/GB/h.
Начните создавать промышленные ИИ-агенты уже сейчас
Novita Agent Runtime убирает сложность инфраструктуры, которая традиционно замедляет развертывание ИИ-агентов. Специализированная бессерверная инфраструктура с холодным стартом менее 200 мс, полной изоляцией сессий и гибкостью фреймворков позволяет командам разработчиков сосредоточиться на создании интеллектуального поведения агентов, а не на управлении инфраструктурой.
Начните работу уже сегодня, установив SDK и CLI, после чего разверните вашего первого агента за несколько минут. Для дополнительной поддержки присоединяйтесь к сообществу Novita AI в Discord или свяжитесь с нашей командой продаж.
О Novita AI
Novita AI — это облачная ИИ-платформа, которая предлагает разработчикам простой способ развертывания ИИ-моделей с использованием нашего простого API, а также предоставляет доступное и надежное облако GPU для разработки и масштабирования.
