Novita AI 博客

使用简单 API 轻松部署 AI 模型。
在高性价比、稳定可靠的 GPU 云上构建和扩展。

按分类筛选文章

Kubernetes 工作负载中 GPU 资源的动态分配

Kubernetes 工作负载中 GPU 资源的动态分配

目前,要在 Kubernetes (k8s) 中调度 GPU Pod,需要实施多种扩展方案,包括 Device Plugin、Extended Resource、scheduler extender、scheduler framework 或开发新的调度器。这些方案通常依赖 nodeSelector 或 nodeAffinity 来选择提供特定...