Novita AI 部落格

使用簡單 API 輕鬆部署 AI 模型。
在高性價比、穩定可靠的 GPU 雲端上建置與擴展。

依分類篩選文章

在 Novita AI 上使用 CUDA:全面指南

在 Novita AI 上使用 CUDA:全面指南

隨著人工智慧的快速發展,GPU 已成為各大企業軍備競賽的焦點。擁有更多 GPU 意味著更強大的計算能力,能夠加速 AI 的訓練與推理。

如何使用 Novita AI 部署 Llama 3.1 405B

如何使用 Novita AI 部署 Llama 3.1 405B

前言 Llama3.1 的發佈立刻引發全球關注,這是開源模型首次在特定指標上接近甚至超越專屬模型。本文介紹使用 Novita AI GPU 實例從頭部署 Llama3.1-405B 模型的方法與步驟。特別提醒,從頭部署大型模型耗時費力,若想避開繁瑣工作並直接使用 Llama3.1-405B 模型,可以尋找業界優秀的模型託管平台,以 OpenAI...