#### 主要亮點
**Llama 3.2 90B 優勢：**
一個多模態大型語言模型（LLM），擅長圖像推理與理解，同時在文字任務上亦有良好表現。
**Qwen 2.5 72B 優勢：**
以文字為基礎的 LLM，專注於編碼、數學、指令遵循及長文本處理的強大表現。
支援 29 種語言
如果您想針對自己的使用案例評估 Qwen 2.5 72B — 註冊後，[Novita A](https://novita.ai/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3.2-90b-vs-qwen-2.5-72b)[I](https://novita.ai/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3-3-70b-vs-claude-3-5-sonnet) 會提供 0.5 美元儲值讓您立即開始使用！
在大型語言模型（LLM）快速演進的領域中，兩個值得關注的競爭者脫穎而出：Meta 的 Llama 3.2 90B 與 Qwen 的 Qwen 2.5 72B。雖然這兩個模型都代表了 AI 的重大進步，但它們滿足不同的需求與使用案例。本文提供實用、資訊性且技術性的模型比較，檢視其架構、能力、效能與資源需求。此比較旨在幫助開發人員和研究人員針對其特定專案做出明智的模型選擇。
## 模型基本介紹
為了開始比較，我們先了解每個模型的基本特徵。
### Llama 3.2 90B
* 發布日期：2024 年 9 月 25 日
* 其他模型：
* [meta-llama/llama-3.2-1b-instruct](https://novita.ai/model-api/product/llm-api/playground/meta-llama-llama-3.2-1b-instruct/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3.2-90b-vs-qwen-2.5-72b)
* [meta-llama/llama-3.2-3b-instruct](https://novita.ai/model-api/product/llm-api/playground/meta-llama-llama-3.2-3b-instruct/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3.2-90b-vs-qwen-2.5-72b)
* [meta-llama/llama-3.2-11b-vision-instruct](https://novita.ai/model-api/product/llm-api/playground/meta-llama-llama-3.2-11b-vision-instruct/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3.2-90b-vs-qwen-2.5-72b)
* 主要特點：
* 多模態模型，支援文字和圖像輸入
* 支援英語、德語、法語、義大利語、葡萄牙語、印地語、西班牙語和泰語
### Qwen 2.5 72B
* 發布日期：2024 年 9 月 19 日（Qwen 2.5 系列）
* 模型規模：
* [qwen/qwen-2.5-72b-instruct](https://novita.ai/model-api/product/llm-api/playground/meta-llama-llama-3.3-70b-instruct/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3.2-90b-vs-qwen-2.5-72b)
* 主要特點：
* 在編碼與數學方面效能提升
* 增強的指令遵循能力
* 長文本生成能力，最高可達 8K tokens
* 支援超過 29 種語言的強大多語言能力
## 模型比較
## 速度比較
如果您想自行測試，可以在 Novita AI 網站上開始免費試用。
### 速度比較
資料來源： [artificialanalysis](https://artificialanalysis.ai/models/gemma-2-9b?models_selected=llama-3-3-instruct-70b%2Cgemma-2-9b#speed)
### 成本比較
資料來源： [artificialanalysis](https://artificialanalysis.ai/models/gemma-2-9b?models_selected=llama-3-3-instruct-70b%2Cgemma-2-9b#speed)
總而言之，Qwen2.5 72B 在總回應時間、定價和輸出速度方面表現較佳，而 Llama 3.2 90B 在延遲方面表現較好。
## 基準測試比較
現在我們已經確立了每個模型的基本特徵，讓我們深入探討它們在各項基準測試中的表現。此比較將有助於說明它們在不同領域的優勢。
|基準測試指標|Llama 3.2 90B (vision)|Qwen 2.5 72b|
|---|---|---|
|MMLU|84|86.8|
|HumanEval|80|59.1|
|MATH|65|83.1|
總結來看，Qwen 2.5 72b 在 MMLU 和 MATH 基準測試中表現較佳，而 Llama 3.2 90B (vision) 在 HumanEval 上表現出色。此外，Qwen 2.5 的專用版本，即 Qwen 2.5-Coder 和 Qwen 2.5-Math，可能分別在程式設計和數學相關任務上提供更卓越的效能。不同模型在不同任務上的表現差異顯著，因此應根據手頭任務的具體需求來選擇模型。
如果您想了解更多關於 Llama 3.3 基準測試的知識，可以查看以下文章：
* [Llama 3.3 基準測試：關鍵優勢與應用洞察](/llama-3-3-benchmark-key-advantages-and-application-insights/)。
如果您想查看更多 Llama 3.3 與其他模型的比較，可以參考這些文章：
* [Qwen 2.5 72b vs Llama 3.3 70b：哪個模型符合您的需求？](/qwen-2-5-72b-vs-llama-3-3-70b-which-model-suits-your-needs/)
* [Llama 3.1 70b vs. Llama 3.3 70b：效能更好、價格更高](/llama-3-1-70b-vs-llama-3-3-70b-better-performance-higher-price/)
* [Llama 3.3 70B 真的能與 Llama 3.1 405B 相提並論嗎？](/llama-3-3-70b-vs-llama-3-1-405b/)
## 應用與使用案例
**Llama 3.2 90B：**
* 圖像理解與推理
* 圖像標題生成
* 包含圖表和圖形的文檔層級理解
* 視覺定位任務
* 附帶視覺輸入的即時語言翻譯
**Qwen 2.5 72B：**
* 多語言聊天機器人與助理
* 編碼協助與程式碼生成
* 合成數據生成
* 多語言內容創作與本地化
* 知識型應用，如問答系統
## 透過 Novita AI 進行存取與部署
### 步驟 1：登入並存取模型庫
登入您的帳戶，然後點擊 **模型庫** 按鈕。
### 步驟 2：選擇您的模型
瀏覽可用選項，並選擇適合您需求的模型。
### 步驟 3：開始免費試用
開始免費試用，以探索所選模型的能力。
### 步驟 4：取得您的 API 金鑰
為了進行 API 驗證，我們會提供您一個新的 API 金鑰。進入「設定」頁面，您可以按照圖示複製 API 金鑰。
### 步驟 5：安裝 API
使用您程式語言專屬的套件管理器安裝 API。
安裝完成後，將必要的函式庫匯入您的開發環境。使用您的 API 金鑰初始化 API，開始與 Novita AI LLM 互動。以下是適用於 Python 使用者的聊天補全 API 使用範例。
from openai import OpenAI
client = OpenAI( base_url=“https://api.novita.ai/v3/openai”, # 取得 Novita AI API 金鑰，請參考：https://novita.ai/docs/get-started/quickstart.html#_2-manage-api-key。 api_key=“<您的 Novita AI API 金鑰>”, )
model = “qwen/qwen-2.5-72B” stream = True # 或 False max_tokens = 512
chat_completion_res = client.chat.completions.create( model=model, messages=[ { “role”: “system”, “content”: “扮演一個有用的助手。”, }, { “role”: “user”, “content”: “你好！”, } ], stream=stream, max_tokens=max_tokens, )
if stream: for chunk in chat_completion_res: print(chunk.choices[0].delta.content or “”) else: print(chat_completion_res.choices[0].message.content)
> 註冊後，Novita AI 會提供 0.5 美元儲值讓您立即開始使用！
>
> 如果免費儲值用完，您可以付費繼續使用。
Llama 3.3 70B 和 Llama 3.2 90B 都為不同的使用案例提供了獨特優勢。Llama 3.3 在需要強大多語言能力和指令遵循的文字任務中表現出色，並強調效率；而 Llama 3.2 則在涉及圖像理解的多模態應用中大放異彩。
#### 常見問題
*******Llama 3.3 與 Llama 3.2 有何不同？*******
Llama 3.3 針對文字任務進行最佳化，在多語言能力上表現優異；而 Llama 3.2 則是多模態模型，可同時處理圖像和文字。
*****Llama 3.3 能否在標準開發者硬體上執行？*******
是的，它專為常見 GPU 和開發者級別的工作站設計。這篇經過潤飾的文章提供了兩個模型的詳盡比較，同時保持上下文與結構的清晰度。
> *[Novita AI](https://novita.ai/?utm_source=blog_llm&utm_medium=article&utm_campaign=llama-3.2-90b-vs-qwen-2.5-72b) 是一個一體化雲端平台，助力您的 AI 抱負。整合 API、無伺服器、GPU 實例——您所需的經濟實惠工具。消除基礎設施負擔，免費開始，讓您的 AI 願景成真。*
#### **推薦閱讀**
* [如何在本地或透過 API 存取 Llama 3.3 70b：完整指南](/how-to-access-llama-3-3/)
* [Llama 3.2 VS Claude 3.5：哪個 AI 模型適合您的專案？](/llama-3-2-vs-claude-3-5-which-ai-model-suits-your-project/)
* [Llama 3.2 Vision：釋放多模態開源 AI 的力量](/llama-3-2-vision-unleashing-multimodal-open-source-ai-power/)
