全球领先的 AI 云平台 Novita AI 欣然宣布与 vLLM 达成战略合作。vLLM 是大语言模型（LLM）领域具有开创性的开源推理引擎。此次合作标志着双方朝着推动 AI 创新、促进开源社区发展的共同使命迈出了重要一步。
vLLM 以其突破性的 PagedAttention 算法而闻名，该算法在推理过程中显著提升了大语言模型的性能与效率。这项技术使 vLLM 成为开发者信赖的解决方案，在公有云、模型提供商以及 AI 驱动应用中提供内存优化的推理能力。通过开源自身技术，vLLM 让开发者能够更便捷地使用尖端 AI 工具，从而简化工作流程、降低运营成本。
“vLLM 的 PagedAttention 算法凸显了开源 AI 的变革潜力，”Novita AI 联合创始人兼 COO Junyu Huang 表示。“通过本次合作，我们旨在帮助开发者和组织充分释放这些进步为 AI 部署带来的效率与机遇。”
作为合作的一部分，Novita AI 为 vLLM 提供高性能计算资源，用于测试、基准测试、研发等，以支持 vLLM 的成长。这一协作使得 vLLM 的能力得以持续优化，确保其工具适用于广泛应用场景，并为开发者提供部署大语言模型最高效的方式。
使用 Novita AI 平台的开发者可以轻松部署 LLaMA 3.1 等开源大语言模型，并充分利用 vLLM 先进的推理能力。这简化了开发流程，加速了应用部署，帮助组织轻松扩展其 AI 解决方案。
“此次合作标志着我们长期致力于加速 AI 进步、为开发者提供尖端工具以实现规模化创新的开端。”Junyu Huang 表示。
这一合作反映了 Novita AI 与 vLLM 共同赋能开发者、推进开源 AI 的坚定承诺。通过将 Novita AI 可扩展的 GPU 云基础设施与 vLLM 最先进的推理引擎相结合，双方旨在为开发者提供创建有影响力 AI 解决方案所需的工具和资源。同时，这一努力也致力于培育充满活力的开源生态系统，鼓励技术创新，最终推动跨行业开创性 AI 应用的开发。
Junyu Huang 强调：“这次合作不仅仅是协作，更是我们共同使命的见证——推进开源 AI，为全球开发者创造新机遇。”
关于 Novita AI
Novita AI 是一个 AI 云平台，为开发者提供通过简单 API 部署 AI 模型的便捷方式，同时提供经济实惠且可靠的 GPU 云来构建和扩展应用。
通过支持用于 LLM 推理和服务的开源库（例如 vLLM，一个快速且易于使用的库），Novita AI 正在助力塑造 AI 的未来，并推动整个行业的创新。
