在我們的部落格中，探索思維鏈（CoT）提示如何從算術推理到常識推理和符號推理，在各種領域中增強大型語言模型（LLMs）的表現。
簡介
大型語言模型（LLMs）已徹底改變了人工智慧的格局，在理解和生成自然語言方面展現出無與倫比的能力。然而，它們在執行複雜推理任務方面的熟練度一直是廣泛研究的焦點。在這一領域中，一個有前景的方法是思維鏈（Chain-of-Thought，簡稱 CoT）提示。本文深入探討 CoT 提示的細節及其對 LLMs 未來發展方向的影響。
根據近期一篇論文所述，CoT 提示是一種旨在引導 LLMs 闡明其推理過程的策略。這需要提供模型一組範例，其中推理路徑以少量樣本（few-shot）的方式明確呈現。期望 LLM 在回應提示時能模仿類似的推理軌跡。這種方法已顯示出能顯著提升模型在需要複雜推理的任務中的效能。
CoT 提示的主要優勢在於它能增強 LLMs 在算術、常識和符號推理任務中的表現。研究表明，特別是在約 1000 億參數的模型上，效能有顯著提升。相反地，較小的模型則傾向於產生不合邏輯的思維鏈，導致準確度低於傳統提示技術。
理解思維鏈提示
本質上，CoT 提示涉及引導 LLM 進行逐步思考。這包括向模型提供一個闡述推理過程的少量樣本範例。模型隨後需在回應提示時遵循類似的思維鏈。這種方法對於需要在生成回應之前進行一系列推理步驟的複雜任務特別有效。
以下是一個使用少量樣本策略的 CoT 提示範例：
以下是大型語言模型（由 novita.ai 提供）的回答：
CoT 提示也可以擴展到零樣本（zero-shot）情境。在這種情況下，它會在初始提示中添加類似「讓我們逐步處理這個問題」的短語，這可以補充少量樣本提示。這個小小的添加已被證明能有效提升模型在提示缺乏足夠範例可參考的任務中的效能。
手動 CoT 的挑戰
儘管手動 CoT 取得了顯著成就，但手動建立示範仍存在障礙。不同的任務需要不同的示範，而建立有效的示範可能需要耗費大量心力。為了克服這個挑戰，研究人員提倡一種自動化的 CoT 提示方法，稱為 Auto-CoT。這種方法利用帶有「讓我們逐步處理這個問題」提示的 LLMs，自動為示範生成推理鏈。
多樣性在 Auto-CoT 中的角色
研究中的一個關鍵發現強調了在自動建構示範中多樣性的重要性。研究人員觀察到，自動生成的推理鏈經常包含錯誤。為了減輕這些錯誤的影響，他們引入了一種名為 Auto-CoT 的自動化 CoT 提示技術。Auto-CoT 選擇具有不同屬性的問題，並生成推理鏈來形成示範。透過利用多樣性，Auto-CoT 致力於提升自動建構示範的品質。
思維鏈提示的益處
使用大型語言模型（LLMs）進行思維鏈（CoT）提示能帶來許多優勢，促進更有效且高效的互動。以下是關鍵益處：
- 提升精準度：CoT 提示引導模型通過一系列提示，顯著提高獲得準確且相關回應的可能性。這種結構化方法有助於 refine 模型的理解，從而產生更精確的輸出。
- 改善控制：鏈為與 LLMs 互動提供了結構化框架，使用戶能對模型的輸出擁有更大的控制權。透過遵循一系列提示，使用者可以將對話引導至預期方向，降低產生意外或不相關結果的風險。
- 一致的上下文保留：鏈中的自適應學習確保在整個對話過程中一致地保留上下文。這種上下文的保留促進了更連貫且有意義的互動，因為模型保持對進行中對話的記憶。
- 效率：CoT 提示簡化了互動過程，透過消除多次輸入的需求來節省時間。使用者可以更有效地獲得特定結果，特別是在針對 LLM 提示的特定目標時。
- 增強的推理能力：CoT 提示鼓勵 LLMs 一次專注於解決一個問題，而不是同時考慮整個挑戰。這種方法增強了 LLMs 的推理能力，促進了更系統化且實用的問題解決過程。
思維鏈提示的類型
在思維鏈（CoT）提示領域，出現了兩種有效的策略，兩者對於增強與大型語言模型（LLMs）的互動都至關重要。現在，讓我們探索這些方法的細節：
多模態 CoT
多模態 CoT 提示透過整合多種輸入模式（包括圖像、音頻或視頻），為傳統的文字型互動注入了動態元素。
使用者透過提供多模態提示來啟動鏈，為 LLM 提供更複雜的上下文來解釋和處理。後續提示可以進一步納入各種模態，促進對使用者輸入的更深入理解。不同模態的加入增強了上下文，使模型能更好地掌握使用者意圖的細微差別。多模態輸入可以從 LLM 引出更具想像力的回應，擴大生成多樣化且上下文相關的內容的範圍。
如果您想了解更多關於多模態語言模型的資訊，可以查看我們的部落格：大型多模態模型（LMMs）：AI 世界的巨大飛躍
最少到最多提示
最少到最多提示（Least-to-Most Prompting）是一種策略，從最簡潔的提示開始鏈，並在後續提示中逐步增加複雜性。互動從一個基本且廣泛的提示開始，使模型能夠提供初始回應。隨著鏈的展開，使用者可以逐步引入更多細節、規格或複雜性，引導模型產生更細緻且精確的輸出。這種漸進式方法有助於逐步增強模型的理解力，降低互動初期誤解的風險。
最少到最多提示使使用者能夠根據模型的初始回應來調整任務的複雜性，確保更個人化且實用的互動。
Auto-CoT 實作
Auto-CoT 包含兩個主要步驟：
- 將來自給定資料集的問題分割成八個集群——使用 sentence-BERT 對問題進行編碼，然後根據餘弦相似度建立集群。
- 從每個集群中選擇一個代表性問題，並使用 Zero-Shot-CoT 和簡單的啟發式方法來建立其推理鏈——這些啟發式方法包括避免選擇超過 60 個 token 的問題，或超過五個步驟的推理鏈。這些啟發式方法旨在提高自動生成回應的準確性。
思維鏈提示的應用
思維鏈（CoT）提示在多個領域中都有應用，凸顯了其在增強大型語言模型（LLMs）能力方面的多功能性。以下是幾個值得注意的應用以及範例：
算術推理
語言模型解決數學文字題的難度是眾所周知的。透過與 5400 億參數的語言模型整合，CoT 提示在 MultiArith 和 GSM8K 等基準測試中達到了與之相當或更優的表現。使用 CoT，該模型能有效處理算術推理任務，尤其是在較大模型規模下表現出色。這個應用突顯了 CoT 在提升數學問題解決能力方面的潛力。
常識推理
CoT 對提升語言模型在常識領域推理能力的影響在此應用中顯而易見。常識推理任務涉及基於一般知識來理解物理和人類互動，這對自然語言理解系統而言可能具有挑戰性。CoT 提示在 CommonsenseQA、StrategyQA、日期理解和體育理解等任務中證明有效。雖然模型大小通常會影響表現，但 CoT 引入了額外的增強，尤其對體育理解任務有顯著幫助。
符號推理
符號推理任務通常對語言模型構成障礙，特別是在使用標準提示方法時。然而，CoT 提示使 LLMs 能夠以令人印象深刻的解決率來處理諸如最後字母串聯和硬幣翻轉等任務。它促進了符號推理，並有助於長度泛化，使模型能在推理過程中處理更長的輸入。這個應用凸顯了 CoT 在增強模型執行複雜符號推理任務能力方面的巨大潛力。
問答（QA）
CoT 提示透過將複雜問題分解為邏輯步驟來增強問答（QA）。這種方法幫助模型理解問題的結構及其元素之間的相互聯繫。CoT 促進了多跳推理，其中模型迭代地從各種來源收集並整合資訊。這種迭代過程導致更佳的推論和更精確的答案。透過闡明推理步驟，CoT 也減少了回應中的常見錯誤和偏見。CoT 在 QA 中的應用強調了其在解構複雜問題方面的有效性，從而促進語言模型中更好的推理和理解。
限制與未來方向
儘管 CoT 提示具有潛力，但它並非沒有缺點。首先，它僅在約 1000 億參數的模型上展現出效能提升。相反地，較小的模型通常會產生不合理的思維鏈，導致準確度低於傳統提示方法。此外，CoT 提示帶來的效能提升通常與模型大小相關。
儘管存在這些限制，CoT 提示標誌著在增強 LLMs 推理能力方面的一個顯著進步。後續的研究工作很可能將專注於完善這種方法，並探索在各類任務和模型規模上增強其有效性的途徑。
結論
思維鏈（CoT）提示代表了人工智慧領域的一項重大突破，特別是在增強大型語言模型（LLMs）的推理能力方面。透過提示這些模型闡明其推理過程，CoT 已展現出在提升需要算術、常識和符號推理的複雜任務表現方面的潛力。儘管有其限制，CoT 為 LLMs 的未來發展帶來了有前景的前景。
當我們不斷突破 LLM 的能力邊界時，像 CoT 提示這樣的技術將變得不可或缺。透過促進逐步思考的方法並鼓勵解釋推理，我們不僅能提升模型在複雜任務上的表現，還能獲得對其內部機制的寶貴見解。儘管實現完全推理的 LLM 的道路仍然漫長，但像 CoT 提示這樣的方法無疑使我們走上了正確的軌道。
novita.ai，一站式平台，為無限創意提供超過 100 種 API。從圖像生成、語言處理到音訊增強和影片操縱，按使用量付費，價格低廉，讓您在建立自己的產品時無需處理 GPU 維護的麻煩。立即免費試用。
推薦閱讀
