Novita AI 部落格

使用簡單 API 輕鬆部署 AI 模型。
在高性價比、穩定可靠的 GPU 雲端上建置與擴展。

依分類篩選文章

如何使用 Novita AI 部署 Llama 3.1 405B

如何使用 Novita AI 部署 Llama 3.1 405B

前言 Llama3.1 的發佈立刻引發全球關注,這是開源模型首次在特定指標上接近甚至超越專屬模型。本文介紹使用 Novita AI GPU 實例從頭部署 Llama3.1-405B 模型的方法與步驟。特別提醒,從頭部署大型模型耗時費力,若想避開繁瑣工作並直接使用 Llama3.1-405B 模型,可以尋找業界優秀的模型託管平台,以 OpenAI...

從 Docker 到 Kubernetes

從 Docker 到 Kubernetes

容器無疑已成為近年來的技術流行語。容器化技術的出現與崛起,以及由此衍生的微服務架構、DevOps 和雲原生概念,對軟體行業產生了深遠影響。