English Arabic 简体中文 繁體中文 Français Deutsch 日本語 한국어 Português Русский Español

理解小型模型作為大型語言模型的寶貴插件

作者 / / 9 分鐘閱讀
理解小型模型作為大型語言模型的寶貴插件

簡介

在快速發展的人工智慧領域中，大型語言模型（LLMs）與其較小模型之間的互動是一個關於協同與創新的故事。GPT-3 和 GPT-4 等大型語言模型令人嘆為觀止的能力，卻被一系列限制所包圍——模型權重存取受限、巨大的運算需求，以及情境學習（ICL）的限制。然而，在這些限制之中存在著一個突破口，即小型模型可以作為插件介入，為更個人化且高效的應用搭建橋樑。本文將探討在大型語言模型的廣闊領域中整合小型模型作為插件的必要性與影響，解析超級情境學習（SuperICL）的概念及其實際影響。

理解大型語言模型與小型模型

大型語言模型與小型模型的差異

大型語言模型是一種先進的人工智慧系統，旨在處理和理解大量的自然語言資料。LLMs 通常擁有大量參數，從數億到數十億不等。這使得它們能夠捕捉語言中的複雜模式與關係，從而實現語言翻譯、文本摘要、問答與內容生成等進階功能。LLMs 在大型資料集上進行訓練，隨著規模擴大，可能展現出複雜的行為與「湧現能力」，儘管這個概念仍存有爭議（如史丹佛研究所的討論所述）。

相較之下，小型模型的參數較少，複雜度也較低。它們在能力與可有效處理的任務範圍上可能較為有限。小型模型通常用於特定或較不複雜的任務，因為它們對運算資源與資料集的需求較低。雖然它們在特定應用中非常高效且有效，但通常不具備 LLMs 那樣細膩的理解力或處理多樣語言任務的能力。

最佳開源大型語言模型有哪些？

  • BERT：由 Google 開發，BERT 是具開創性的 LLM，對自然語言處理產生了革命性影響，廣泛應用於 Google 搜尋，並啟發了許多專門模型。
  • Falcon 180B：由阿聯酋技術創新研究所開發的 LLM，擁有 1800 億參數，擅長文本生成與處理；其較小的版本 Falcon-40B 亦因語言理解能力而獲認可。
  • GPT-NeoX 與 GPT-J：EleutherAI 的開源 LLM，分別有 200 億與 60 億參數，在諸多領域展現高效能，並促進 AI 民主化。
  • LLaMA 3：Meta AI 的多功能 LLM，參數量從 70 億到 700 億不等，針對自然語言生成進行最佳化，並以開源授權提供客製化選項，開發者可透過 API 使用。例如 Novita AI 通常為 AI 新創公司提供 LLaMA 3 API。
  • BLOOM：由 Hugging Face 協同開發的開源 LLM，擁有 1760 億參數，專為多語言與程式語言文本生成設計，注重透明度與可存取性。
  • Vicuna 13-B：基於 LLaMA 13B 微調的開源對話模型，擅長處理跨行業聊天機器人應用中的長篇對話，展現先進的對話式 AI 能力。

為什麼需要小型模型作為大型語言模型的插件？

模型權重存取受限

  • GPT-3 與 GPT-4 等 LLMs 是各種自然語言處理（NLP）任務的強大工具。然而，由於智慧財產權與安全考量，這些模型的實際權重參數通常不會公開分享。
  • 若無法存取模型權重，就無法進行內部微調（即調整模型參數以更適應特定任務或資料集）。

龐大的模型規模

  • LLMs 通常非常龐大，擁有數十億參數，因此資源密集。訓練甚至微調這類模型的硬體需求超出大多數個人與小型組織的能力範圍。
  • 龐大規模也意味著將這些模型轉移至不同硬體或在運算能力有限的環境中使用相當困難。

情境學習（ICL）的限制

  • ICL 是一種技術，將少量標註範例與輸入一同提供，幫助模型進行預測。該方法允許模型從範例提供的上下文中學習。
  • 然而，ICL 受限於 LLM 可處理的上下文長度。如果上下文過長，可能超出模型容量，模型將無法有效利用所有提供的範例。
  • 當有大量監督資料可用時，這個限制尤其成問題，因為 ICL 只能利用其中的一小部分（受限於上下文長度）。

為了解決這些問題，一些學者提出了超級情境學習（SuperICL），該方法結合了 LLMs 的優勢與本地微調的小型模型。小型模型（或插件）在特定任務資料上進行微調，並在 LLM 的通用能力與任務特定需求之間搭建橋樑。這種方法能實現更有效的知識轉移，提升監督式任務的效能，從而克服 ICL 的限制以及 LLMs 規模龐大且難以存取的挑戰。

人們如何發現小型模型是大型語言模型的寶貴插件？

在本節中，我們將探討由加州大學聖地牙哥分校與 Microsoft 的 Canwen Xu、Yichong Xu、Shuohang Wang、Yang Liu、Chenguang Zhu 和 Julian McAuley 所發表的論文「Small Models are Valuable Plug-ins for Large Language Models」。如同往常，如果您對研究細節不感興趣，可以跳過本節直接閱讀下一部分。

方法

基於前一節討論的 LLM 限制，作者提出了 SuperICL，將 LLMs 與本地微調的小型插件模型結合。首先，插件模型在任務特定監督資料集上進行微調。接著，插件模型對該資料集中的訓練範例進行預測，並附帶信心分數。這些預測與測試輸入一起作為上下文提供給 LLM。LLM 利用這個上下文進行最終預測，並可選擇生成解釋來說明其推理過程。

實驗設計

他們在自然語言理解任務的 GLUE 基準測試以及零樣本跨語言遷移的 XNLI 上進行評估。使用 GPT-3.5 作為 LLM，RoBERTa-Large/XLM-R 作為插件模型。將 SuperICL 與僅使用 GPT-3.5 ICL 以及僅使用插件模型的基線進行比較。

結果

在 GLUE 基準測試上，SuperICL 在單獨使用 GPT-3.5 ICL 或插件模型時均表現更佳。在 XNLI 資料集上，SuperICL 在大多數語言上優於 XLM-R，展現了有效的零樣本遷移。消融研究顯示了 SuperICL 方法中每個組成部分的重要性。

總結

SuperICL 透過結合 LLMs 與在任務資料上微調的小型插件模型的優勢，實現了卓越的效能。它透過將語言理解與任務特定知識吸收分離，解決了常規 ICL 的不穩定問題。此外，SuperICL 增強了小型模型的能力，例如擴展其多語言覆蓋範圍。它也透過允許 LLM 在覆寫插件預測時生成解釋，提供了可解釋性。

小型模型作為大型語言模型插件的實際案例

客製化客戶服務聊天機器人

特定領域的小型模型可以進行微調，以理解特定行業的術語與情境，然後作為插件整合到大型聊天機器人框架中，提供更準確且相關的回應。

醫療診斷輔助

針對病歷與醫學文獻訓練的小型模型可以作為 LLM 的插件，協助醫生進行病情診斷、建議治療方案並更準確地解讀醫學檢驗。

法律文件分析

在法律文件上微調的小型模型可用於增強 LLM 解析與理解法律合約的能力，提供摘要，並標示潛在問題或條款。

語言翻譯

對於資源匱乏的語言，可用可用資料訓練小型模型，然後作為 LLM 的插件，提升翻譯品質並更好地處理細微差別。

教育工具

針對教育內容調整的小型模型可與 LLM 整合，建立智慧型家教系統，為學生提供個人化的回饋與解釋。

內容審查

針對特定類型內容（如仇恨言論、露骨內容）訓練的小型模型，可用於增強 LLM 在社交媒體平台上審查使用者生成內容的能力。

健康照護監測

針對病患資料模式訓練的小型模型，當與能夠處理與分析更大資料集的 LLM 整合時，可提供早期預警或對潛在健康問題的洞察。

這些應用展示了將小型模型的專門知識與 LLM 的廣泛理解相結合，如何在各種專業與個人情境中帶來更高效、準確且客製化的解決方案。

如何執行 SuperICL 的程式碼

以下程式碼引用自 https://github.com/JetRunner/SuperICL?tab=readme-ov-file。您可以透過該連結找到所有提到的 Python 腳本。

設定流程

1 安裝必要套件：使用 pip 套件管理器安裝 requirements.txt 中列出的所有必要套件。

pip install -r requirements.txt

2 設定 OpenAI API 金鑰：

  • 複製範例設定檔以建立您自己的設定檔：cp api_config_example.py api_config.py。
  • 使用 vi 等文字編輯器編輯新建立的 api_config.py 檔案，插入您的 OpenAI API 金鑰。

執行不同任務的程式碼

1 GLUE 基準測試：

  • 使用指定參數執行 run_glue.py 腳本，在 GLUE 基準測試上執行模型。
  • 包含 --model_path 指向模型位置、--model_name 指定模型識別碼，以及 --dataset 指定 GLUE 任務。
  • 若要啟用模型預測的解釋，請加上 --explanation 標記。
python run_glue.py \
--model_path roberta-large-mnli \
--model_name RoBERTa-Large \
--dataset mnli-m \
--explanation  # 加上此標記以啟用解釋
  • 所有支援的任務請參閱提供的說明文件。

2 XNLI 基準測試：

  • 使用指定參數執行 run_xnli.py 腳本，進行跨語言自然語言推論任務。
  • 指定 --model_path 到模型目錄、--model_name 模型名稱，以及 --lang 列出資料集中包含的語言。
python run_xnli.py \
--model_path /path/to/model \
--model_name XLM-V \
--lang en,ar,bg,de,el,es,fr,hi,ru,sw,th,tr,ur,vi,zh

其他資訊

有關腳本的所有可用參數，請參閱程式碼倉庫。

引用

如果您在研究中使用此作品，請引用如下：

@article{xu2023small,
  title={Small Models are Valuable Plug-ins for Large Language Models},
  author={Xu, Canwen and Xu, Yichong and Wang, Shuohang and Liu, Yang and Zhu, Chenguang and McAuley, Julian},
  journal={arXiv preprint arXiv:2305.08848},
  year={2023}
}

小型模型作為大型語言模型插件的限制

依賴於插件模型的效能

SuperICL 的整體效能仍然仰賴本地微調的插件模型品質。如果插件模型在任務上表現不佳，可能會限制 SuperICL 的有效性。

運算成本

微調插件模型需要足夠的運算資源。對於非常大型的監督資料集，小型研究團隊或個人可能無法負擔這個微調過程。

任務通用性

實驗主要聚焦於 GLUE 基準測試中的自然語言理解任務。雖然結果令人期待，但仍需更多評估來確認 SuperICL 在生成、摘要、翻譯等其他 NLP 任務上的有效性。

跨任務遷移

目前尚不清楚單一插件模型在一個任務上微調後，能否在 SuperICL 中有效推廣並為完全不同的任務提供有效上下文。

多語言限制

雖然 SuperICL 增強了多語言能力，但其跨語言能力仍根本上受限於插件模型（如 XLM-R）原有的多語言能力。

結論

如 SuperICL 所示，將小型模型作為插件與 LLMs 整合，為大規模 AI 的固有局限性提供了一個有說服力的解決方案。透過增強 LLMs 的能力，我們為更細膩、高效且廣泛適用的 AI 系統鋪平了道路。然而，對插件效能的依賴、運算成本及任務通用性等挑戰仍然存在，這需要我們以平衡的方式來善用這種協同效應。

敬請期待探索 AI 學術界的最新發現！

Novita AI 是一個一站式平台，為無限創造力提供超過 100 個 API。從圖像生成、語言處理到音訊增強與影片編輯，按量計費價格低廉，讓您無需煩惱 GPU 維護，專注於構建自己的產品。立即免費試用。

相關文章