Блог Novita AI

Легко разворачивайте AI-модели с помощью простого API.
Создавайте и масштабируйте проекты в надежном и доступном GPU-облаке.

Фильтровать статьи по категории

vLLM x Novita AI: Chord W4A16 INT4 MoE Kernel для Kimi K2.x

vLLM x Novita AI: Chord W4A16 INT4 MoE Kernel для Kimi K2.x

Chord от Novita AI — это CUDA-ядро W4A16 INT4 MoE для Kimi K2.x с индексированным и групповым SM90-путями, совместимыми с Humming для работы в vLLM.

Семейство Ling-3.0 на Novita AI: полное сравнение линейки и какой вариант использовать

Семейство Ling-3.0 на Novita AI: полное сравнение линейки и какой вариант использовать

Сравните четыре модели Ling-3.0 на Novita AI по назначению, активным параметрам, контексту, модальностям и текущим ценам, чтобы выбрать подходящий бессерверный вариант.

Сравнение LLM API сервисов: прямой, унифицированный, шлюз или самостоятельное размещение

Сравнение LLM API сервисов: прямой, унифицированный, шлюз или самостоятельное размещение

Сравнение четырёх типов LLM API сервисов и случаев их применения: прямые API провайдеров, унифицированные API, шлюзы или самостоятельно размещённые конечные точки открытых моделей.