소개
인공지능이 급속도로 진화하는 환경에서 대형 언어 모델(LLM)과 그보다 작은 모델 간의 상호작용은 시너지와 혁신의 이야기입니다. GPT-3 및 GPT-4와 같은 LLM의 뛰어난 능력은 경외감을 불러일으키지만, 모델 가중치의 제한된 접근성, 막대한 계산 요구, 그리고 상황 내 학습(ICL)의 제약이라는 한계의 요새에 갇혀 있습니다.
그러나 이러한 한계 속에는 틈이 있으며, 소형 모델이 플러그인으로 진입하여 더 개인화되고 효율적인 애플리케이션으로 가는 다리를 제공할 기회가 있습니다. 이 블로그는 LLM의 광범위한 영역 내에서 소형 모델을 플러그인으로 통합하는 필요성과 영향을 깊이 파고들며, Super In-Context Learning(SuperICL)의 개념과 실제적 파급 효과를 탐구합니다.
LLM과 소형 모델 이해하기
LLM과 소형 모델의 차이점
대형 언어 모델은 대량의 자연어 데이터를 처리하고 이해하도록 설계된 정교한 AI 시스템입니다. LLM은 일반적으로 수억에서 수십억에 이르는 방대한 수의 매개변수를 가지고 있습니다. 이를 통해 언어 내의 복잡한 패턴과 관계를 포착하여 언어 번역, 텍스트 요약, 질문 응답, 콘텐츠 생성과 같은 고급 기능을 가능하게 합니다. LLM은 대규모 데이터 세트로 훈련되며 크기가 커짐에 따라 복잡한 행동과 '창발적 능력’을 나타낼 수 있습니다. 다만 후자의 개념은 스탠포드 연구에서 논의된 바와 같이 논란의 여지가 있습니다.
반대로, 소형 모델은 더 적은 매개변수를 가지며 덜 복잡합니다. 능력과 효과적으로 수행할 수 있는 작업의 범위에서 더 제한적일 수 있습니다. 소형 모델은 계산 요구 사항이 낮고 데이터 세트 요구 사항이 적기 때문에 일반적으로 더 구체적이거나 덜 복잡한 작업에 사용됩니다. 특정 애플리케이션에 매우 효율적이고 효과적일 수 있지만, 일반적으로 LLM과 같은 수준의 미묘한 이해나 다양한 언어 작업을 처리하는 능력을 갖추고 있지는 않습니다.
최고의 오픈소스 LLM은 무엇인가요?
- BERT: Google이 개발한 BERT는 자연어 처리에 혁신적인 영향을 미친 선구적인 LLM으로, 전 세계 Google 검색에서 사용되며 수많은 특화 모델에 영감을 주었습니다.
- Falcon 180B: 아랍에미리트 기술 혁신 연구소의 1800억 매개변수 LLM으로, 텍스트 생성 및 처리에 탁월하며, 언어 이해로도 인정받는 소형 버전 Falcon-40B도 있습니다.
- GPT-NeoX 및 GPT-J: EleutherAI의 오픈소스 LLM으로 각각 200억 및 60억 매개변수를 가지며, 다양한 분야에서 높은 성능을 제공하고 AI 민주화를 촉진합니다.
- LLaMA 3: Meta AI의 다목적 LLM으로 70억에서 700억 매개변수 범위이며, 자연어 생성에 최적화되어 있고 오픈소스 라이선스를 통해 사용자 정의가 가능하며, 개발자를 위한 API를 제공합니다. Novita AI와 같은 회사는 일반적으로 AI 스타트업을 위해 LLaMA 3 API를 제공합니다.
- BLOOM: Hugging Face의 공동 노력으로 만들어진 1760억 매개변수의 오픈소스 LLM으로, 다국어 및 프로그래밍 언어 텍스트 생성을 위해 설계되었으며 투명성과 접근성을 우선시합니다.
- Vicuna 13-B: LLaMa 13B에서 미세 조정된 이 오픈소스 대화형 모델은 다양한 산업의 챗봇 애플리케이션에서 긴 대화를 처리하는 데 능숙하며, 고급 대화형 AI 능력을 보여줍니다.
대형 언어 모델을 위한 소형 모델 플러그인이 필요한 이유는 무엇인가요?
모델 가중치의 제한된 접근성
- GPT-3 및 GPT-4와 같은 LLM은 다양한 자연어 처리 작업을 위한 강력한 도구입니다. 그러나 이러한 모델의 실제 가중치 매개변수는 일반적으로 지적 재산권 및 보안 문제로 인해 공개적으로 공유되지 않습니다.
- 모델 가중치에 접근할 수 없으면 모델의 매개변수를 특정 작업이나 데이터 세트에 맞게 조정하는 사내 미세 조정을 수행할 수 없습니다.
막대한 모델 크기
- LLM은 일반적으로 수십억 개의 매개변수를 가진 매우 큰 모델로, 자원 집약적입니다. 이러한 모델을 훈련하거나 미세 조정하는 데 필요한 하드웨어 요구 사항은 대부분의 개인과 소규모 조직이 감당하기 어렵습니다.
- 큰 크기는 또한 이러한 모델을 다른 하드웨어로 전송하거나 계산 능력이 제한된 환경에서 사용하는 것을 어렵게 만듭니다.
상황 내 학습(ICL)의 한계
- ICL은 입력과 함께 몇 가지 레이블이 지정된 예제를 제공하여 모델이 예측을 내리도록 돕는 기술입니다. 이 방법은 모델이 예제에서 제공된 맥락을 통해 학습할 수 있게 합니다.
- 그러나 ICL은 LLM이 처리할 수 있는 컨텍스트 길이에 의해 제한됩니다. 컨텍스트가 너무 길면 모델의 용량을 초과할 수 있으며, 모델은 제공된 모든 예제를 효과적으로 활용할 수 없습니다.
- 이 제한은 사용 가능한 지도 데이터가 많을 때 특히 문제가 됩니다. 컨텍스트 길이 제약으로 인해 ICL은 그 중 극히 일부만 사용할 수 있기 때문입니다.
이러한 문제를 해결하기 위해 일부 학자들은 LLM의 장점과 로컬에서 미세 조정된 소형 모델을 결합하는 Super In-Context Learning(SuperICL)을 제안합니다. 소형 모델, 즉 플러그인은 작업별 데이터로 미세 조정되며, LLM의 일반적인 능력과 당면한 작업의 특정 요구 사항 사이의 다리를 제공합니다. 이 접근 방식은 ICL의 한계와 LLM의 크기 및 접근 불가능성과 관련된 문제를 극복하여 지도 학습 작업에서 더 효과적인 지식 전이와 성능 향상을 가능하게 합니다.
사람들은 어떻게 소형 모델이 대형 언어 모델의 가치 있는 플러그인이라는 것을 발견했나요?
이 섹션에서는 캘리포니아 대학교 샌디에이고와 마이크로소프트의 Canwen Xu, Yichong Xu, Shuohang Wang, Yang Liu, Chenguang Zhu, Julian McAuley가 작성한 "Small Models are Valuable Plug-ins for Large Language Models"라는 제목의 논문에 대해 논의하겠습니다. 항상 그렇듯이, 연구 세부 사항에 관심이 없다면 다음 섹션으로 건너뛰어도 좋습니다.
방법
앞서 논의한 LLM의 한계를 인식하여, 저자들은 LLM과 로컬에서 미세 조정된 소형 플러그인 모델을 결합하는 SuperICL을 제안합니다. 플러그인 모델은 먼저 작업별 지도 데이터 세트에서 미세 조정됩니다. 그런 다음 이 데이터 세트의 훈련 예제에 대해 신뢰도 점수를 포함한 예측을 수행합니다. 이러한 예측은 테스트 입력과 함께 컨텍스트로 LLM에 제공됩니다. LLM은 이 컨텍스트를 활용하여 최종 예측을 수행하고 선택적으로 추론에 대한 설명을 생성할 수 있습니다.
실험 설계
자연어 이해 작업의 GLUE 벤치마크와 제로샷 교차 언어 전이의 XNLI에서 평가합니다. LLM으로 GPT-3.5를 사용하고 플러그인 모델로 RoBERTa-Large/XLM-R을 사용합니다. SuperICL은 GPT-3.5를 사용한 ICL 및 플러그인 모델 단독 사용 기준선과 비교됩니다.
결과
SuperICL은 GLUE 벤치마크에서 GPT-3.5 ICL과 플러그인 모델을 각각 능가합니다. XNLI 데이터 세트에서 SuperICL은 대부분의 언어에 대해 XLM-R보다 향상된 성능을 보여 효과적인 제로샷 전이를 입증합니다. 제거 연구는 SuperICL 접근 방식에서 각 구성 요소의 중요성을 보여줍니다.
요약
SuperICL은 작업 데이터로 미세 조정된 LLM과 소형 플러그인 모델의 장점을 결합하여 우수한 성능을 달성합니다. 언어 이해를 작업별 지식 흡수와 분리함으로써 일반 ICL의 불안정성 문제를 해결합니다. 또한 SuperICL은 다국어 범위 확장과 같은 소형 모델의 능력을 향상시킵니다. LLM이 플러그인 예측을 무시할 때 설명을 생성할 수 있도록 하여 해석 가능성도 제공합니다.
소형 모델이 대형 언어 모델의 플러그인으로 사용되는 실제 사례
맞춤형 고객 서비스 챗봇
소형 도메인별 모델은 특정 산업의 용어와 맥락을 이해하도록 미세 조정된 후 대형 챗봇 프레임워크에서 플러그인으로 사용되어 더 정확하고 관련성 높은 응답을 제공할 수 있습니다.
의료 진단 지원
의료 기록과 문헌으로 훈련된 소형 모델은 LLM의 플러그인 역할을 하여 의사가 질병을 진단하고 치료법을 제안하며 의료 검사를 더 정확하게 해석하는 것을 도울 수 있습니다.
법률 문서 분석
법률 문서로 미세 조정된 소형 모델은 LLM이 법률 계약을 분석하고 이해하는 데 활용되어 요약을 제공하고 잠재적 문제나 조항을 강조할 수 있습니다.
언어 번역
저자원 언어의 경우, 소형 모델을 사용 가능한 데이터로 훈련시킨 후 LLM의 플러그인으로 사용하여 번역 품질을 개선하고 미묘한 차이를 더 잘 처리할 수 있습니다.
교육 도구
교육 콘텐츠에 맞춤화된 소형 모델은 LLM과 통합되어 학생들에게 맞춤형 피드백과 설명을 제공하는 지능형 교수 시스템을 만들 수 있습니다.
콘텐츠 모니터링
특정 유형의 콘텐츠(예: 혐오 발언, 노골적 콘텐츠)를 탐지하도록 훈련된 소형 모델은 소셜 미디어 플랫폼에서 사용자 생성 콘텐츠를 모니터링하는 LLM의 능력을 향상시키는 데 사용될 수 있습니다.
헬스케어 모니터링
환자 데이터의 패턴을 인식하도록 훈련된 소형 모델은 대규모 데이터 세트를 처리하고 분석할 수 있는 LLM과 통합될 때 잠재적 건강 문제에 대한 조기 경고나 통찰력을 제공하는 데 사용될 수 있습니다.
이러한 응용 프로그램은 소형 모델의 특화된 지식과 LLM의 광범위한 이해를 결합함으로써 다양한 전문적 및 개인적 맥락에서 더 효율적이고 정확하며 맞춤화된 솔루션을 제공할 수 있음을 보여줍니다.
SuperICL 코드 실행 방법
아래 제시된 코드는 https://github.com/JetRunner/SuperICL?tab=readme-ov-file에서 인용되었습니다. 이 링크에서 아래 언급된 모든 Python 스크립트를 찾을 수 있습니다.
설정 과정
1 필요한 패키지 설치: pip 패키지 관리자를 사용하여 requirements.txt 파일에 나열된 모든 필수 패키지를 설치합니다.
pip install -r requirements.txt
2 OpenAI API 키 구성:
- 예제 구성 파일을 복사하여 자신만의 구성 파일을 만듭니다:
cp api_config_example.py api_config.py. vi와 같은 텍스트 편집기를 사용하여 새로 생성된api_config.py파일을 편집하여 OpenAI API 키를 입력합니다.
다양한 작업에 대한 코드 실행
1 GLUE 벤치마크:
- 지정된 매개변수와 함께
run_glue.py스크립트를 실행하여 GLUE 벤치마크에서 모델을 실행합니다. --model_path는 모델 위치를 가리키고,--model_name은 모델 식별자,--dataset은 GLUE 작업을 지정합니다.- 모델 예측에 대한 설명을 활성화하려면
--explanation플래그를 추가합니다.
python run_glue.py \
--model_path roberta-large-mnli \
--model_name RoBERTa-Large \
--dataset mnli-m \
--explanation # 설명을 위해 이 플래그를 추가합니다.
- 지원되는 모든 작업에 대해서는 제공된 문서를 참조하십시오.
2 XNLI 벤치마크:
- 교차 언어 자연어 추론 작업을 위해 지정된 매개변수와 함께
run_xnli.py스크립트를 실행합니다. --model_path는 모델 디렉토리,--model_name은 모델 이름,--lang은 데이터 세트에 포함된 언어 목록을 지정합니다.
python run_xnli.py \
--model_path /path/to/model \
--model_name XLM-V \
--lang en,ar,bg,de,el,es,fr,hi,ru,sw,th,tr,ur,vi,zh
추가 정보
스크립트의 모든 사용 가능한 매개변수에 대해서는 코드 저장소를 참조하십시오.
인용
귀하의 연구에서 이 작업을 사용하는 경우 다음과 같이 인용하십시오:
@article{xu2023small,
title={Small Models are Valuable Plug-ins for Large Language Models},
author={Xu, Canwen and Xu, Yichong and Wang, Shuohang and Liu, Yang and Zhu, Chenguang and McAuley, Julian},
journal={arXiv preprint arXiv:2305.08848},
year={2023}
}
대형 언어 모델을 위한 소형 모델 플러그인의 한계
플러그인 모델 성능에 대한 의존성
SuperICL의 전반적인 성능은 여전히 로컬에서 미세 조정된 플러그인 모델의 품질에 의존합니다. 플러그인 모델이 작업에서 성능이 저조하면 SuperICL의 효과가 제한될 수 있습니다.
계산 비용
플러그인 모델을 미세 조정하려면 충분한 계산 자원에 대한 접근이 필요합니다. 매우 큰 지도 데이터 세트의 경우, 이러한 미세 조정은 소규모 연구 그룹이나 개인에게 엄청나게 비용이 많이 들 수 있습니다.
작업 일반화 가능성
실험은 GLUE 벤치마크의 자연어 이해 작업에 초점을 맞추고 있습니다. 유망하지만, 생성, 요약, 번역 등 다른 NLP 작업에 대한 SuperICL의 효과를 평가하기 위해 더 많은 평가가 필요합니다.
교차 작업 전이
하나의 작업에 미세 조정된 단일 플러그인 모델이 SuperICL과 함께 사용될 때 완전히 다른 작업에 대해 얼마나 잘 일반화되고 효과적인 컨텍스트를 제공할 수 있는지는 불분명합니다.
다국어 능력의 한계
SuperICL이 다국어 능력을 향상시키지만, 교차 언어 능력은 여전히 XLM-R과 같은 플러그인 모델의 원래 다국어 능력에 근본적으로 제한됩니다.
결론
SuperICL이 입증한 것처럼 소형 모델을 LLM의 플러그인으로 통합하는 것은 대규모 AI의 고유한 한계에 대한 매력적인 해결책을 제공합니다. LLM의 능력을 보강함으로써 우리는 더 세밀하고 효율적이며 광범위하게 적용 가능한 AI 시스템으로 가는 길을 열어갑니다. 그러나 플러그인 성능에 대한 의존성, 계산 비용, 작업 일반화 가능성과 같은 과제는 여전히 존재하며, 이러한 시너지를 활용하는 데 균형 잡힌 접근 방식이 필요합니다.
AI 학계의 최신 연구 결과를 계속 지켜봐 주십시오!
Novita AI는 무한한 창의성을 위한 원스톱 플랫폼으로, 100개 이상의 API에 접근할 수 있습니다. 이미지 생성, 언어 처리, 오디오 향상, 비디오 조작에 이르기까지 저렴한 종량제 요금제로 GPU 유지 관리의 번거로움 없이 자체 제품을 구축할 수 있습니다. 지금 무료로 사용해 보세요.
