주요 하이라이트
- 포괄적인 다국어 지원: Llama 3.1은 8개 언어를 뛰어난 수준으로 처리하여 글로벌 다국어 애플리케이션에 이상적입니다.
- 대규모 및 연산 효율성: 4050억 개의 파라미터를 갖춘 Llama 3.1은 과도한 리소스 없이 고성능을 위해 연산 최적화되었습니다.
- 벤치마크 전반의 최첨단 성능: 코딩, 수학, 장문 맥락 작업에서 탁월한 성능을 보이며 GPT-4와 같은 최고 모델과 경쟁합니다.
- 향상된 모델 아키텍처 및 정렬: DPO와 같은 고급 기법으로 출력을 인간 선호도에 맞춰 신뢰성을 높입니다.
- 오픈소스 접근성: Meta는 Llama 3.1에 대한 오픈 액세스를 제공하여 AI 분야의 협업과 혁신을 촉진합니다.
- 타의 추종을 불허하는 코딩 및 추론 능력: 이 모델은 코딩 및 복잡한 문제 해결 작업에서 최고 성능을 제공합니다.
소개
빠르게 변화하는 인공지능(AI) 세계에서 대규모 언어 모델(LLM)은 최신 기술 중 일부를 대표합니다. 방대한 양의 데이터로 훈련된 이 모델들은 사람이 쓴 것 같은 텍스트를 이해하고 생성하는 데 매우 능숙합니다. 이 블로그 게시물은 Meta의 Llama 3.1 논문을 탐구하여 NLP 분야의 기본 모델로서 설계, 기능 및 중요성을 명확히 살펴볼 것입니다.
Llama 3.1 개요
Meta의 최신 플래그십 언어 모델인 Llama 3.1은 4050억 개의 파라미터로 Meta의 AI 발전에 대한 헌신을 보여줍니다. 다양한 작업과 언어에서 뛰어난 성능을 발휘하며 Meta의 연구와 혁신을 기반으로 한 새로운 모델의 길을 열어줍니다.
모델 정보
Meta Llama 3.1 제품군에는 8B, 70B 및 405B 크기의 다국어 대규모 언어 모델(LLM)이 포함되어 있으며, 생성적 텍스트 작업을 위해 사전 훈련되고 미세 조정되었습니다. 이러한 텍스트 전용 Llama 3.1 모델은 다국어 대화 애플리케이션에서 뛰어나며 많은 업계 벤치마크를 능가합니다.
이 모델은 공식적으로 영어, 독일어, 프랑스어, 이탈리아어, 포르투갈어, 힌디어, 스페인어, 태국어 등 8개 언어를 지원합니다. 기본 훈련은 이러한 언어 이상의 기능을 시사합니다.
모델 아키텍처
Llama 3.1은 최적화된 트랜스포머 아키텍처를 기반으로 구축된 자기회귀 언어 모델입니다. 향상된 버전은 지도 미세 조정(SFT)과 인간 피드백을 통한 강화 학습(RLHF)을 통해 정제되어 유용성과 안전성에 대한 인간의 기준에 맞춰 조정되었습니다.
Llama 3.1의 차별점
Llama 3.1은 여러 중요한 측면에서 이전 버전 및 경쟁사와 차별화됩니다:
- 규모: 4050억 개의 파라미터로 이전 모델보다 훨씬 큽니다. Llama 3.1 논문에 따르면, “우리는 이전 Llama 모델보다 훨씬 더 큰 규모로 모델을 훈련했습니다. 플래그십 언어 모델은 3.8 × 10²⁵ FLOPs를 사용했으며, 이는 가장 큰 Llama 2 버전보다 거의 50배 많은 양입니다.”
- 연산 최적 크기: 4050억 개의 파라미터 선택은 스케일링 법칙에 따라 전략적으로 이루어졌으며, Llama 3.1 논문에서는 “이 크기는 우리의 데이터와 훈련 예산을 고려할 때 스케일링 법칙에 따라 연산 최적입니다.”라고 밝혔습니다.
- 다국어 능력: Llama 3.1은 다양한 벤치마크에서 GPT-4와 같은 최고 AI 모델과 경쟁하며, Llama 3.1 논문은 “실험 평가 결과 플래그십 모델이 다양한 작업에서 GPT-4와 같은 선도적인 언어 모델과 일치하며 최첨단 성능에 근접함을 시사합니다.”라고 말합니다.
Llama 3.1 논문 접근 및 이해
Llama 3.1 논문은 오픈소스 AI 커뮤니티의 이정표로, 강력한 대규모 언어 모델(LLM)에 대한 통찰력을 제공합니다. 모델의 아키텍처, 훈련 프로세스 및 성능을 설명하여 LLM과 그 기능, 애플리케이션 및 한계를 이해하는 데 학습과 혁신을 촉진합니다.
- Llama 3.1 논문의 가치: Llama 3.1 논문은 AI 전문가에게 필수적이며, 모델 설계, 인간 중심 성능 평가, 안전 및 정렬 접근 방식에 대한 심층적인 통찰력을 제공하여 AI 시스템의 투명성과 신뢰를 촉진합니다.
- Llama 3.1 논문 PDF 다운로드: Meta의 개방형 과학에 대한 헌신은 Llama 3.1 논문을 PDF 형식으로 무료로 제공하여 접근성을 높이고 AI 연구에 대한 더 넓은 참여를 장려합니다.
의도된 사용
Llama 3.1은 강력한 언어 모델을 글로벌 연구자에게 제공하여 AI 연구에 혁명을 일으킵니다. 고급 언어 능력은 챗봇 및 AI 시스템을 개선하여 고객 서비스, 교육 및 의료 분야에서 더 나은 의사소통을 가능하게 하는 실제 애플리케이션에 도움이 됩니다.
의도된 사용 사례
Llama 3.1은 여러 언어로 상업 및 연구 애플리케이션 모두에 사용되도록 설계되었습니다. 명령어 튜닝된 텍스트 전용 모델은 특히 어시스턴트와 같은 채팅 기능에 사용되며, 사전 훈련된 모델은 다양한 자연어 생성 작업에 적응할 수 있을 만큼 다재다능합니다. 또한 Llama 3.1 모델 컬렉션은 합성 데이터 생성 및 증류를 포함한 출력을 사용하여 다른 모델을 향상시킬 수 있습니다. Llama 3.1 커뮤니티 라이선스는 이러한 다양한 사용 사례를 지원합니다.
사용 방법
이 저장소에는 Meta-Llama-3.1–70B의 두 가지 버전이 포함되어 있으며, 하나는 transformers와 호환되고 다른 하나는 원본 Llama 코드베이스와 호환됩니다.
Transformers와 함께 사용
transformers >= 4.43.0부터 Transformers 파이프라인 추상화를 사용하거나 generate() 함수와 함께 Auto 클래스를 사용하여 대화 추론을 수행할 수 있습니다.
pip install --upgrade transformers를 실행하여 transformers 설치를 업그레이드하십시오.
import transformers
import torch
model_id = “meta-llama/Meta-Llama-3.1-70B”
pipeline = transformers.pipeline(
pipeline(“Hey how are you doing today?”)
Llama 3.1의 훈련 데이터셋
Llama 3.1 사전 훈련 데이터셋은 다양한 일반 도메인의 신중하게 선별되고 균형 잡힌 혼합물로, 고품질의 다양한 훈련 입력을 보장하기 위해 세심하게 처리되었습니다.
사전 훈련 데이터
데이터셋 구성은 네 가지 주요 단계로 이루어집니다:
- 품질 필터링: CLIP 점수와 같은 휴리스틱 측정을 사용하여 비영어 및 저품질 캡션을 제거합니다.
- 지각적 중복 제거: 내부 SSCD 복사 탐지 모델이 대규모로 이미지를 중복 제거하여 중복 그룹당 하나의 이미지-텍스트 쌍을 유지합니다.
- 재샘플링: 다양성을 보장하기 위해 고품질 텍스트 소스에서 n-gram을 생성하고 빈도에 따라 데이터를 재샘플링합니다.
- 광학 문자 인식(OCR): 독점 OCR 파이프라인을 사용하여 이미지 내 텍스트를 추출하고 캡션과 결합합니다.
문서 이해를 강화하기 위해 데이터셋에는 다음도 포함됩니다:
- 문서 변환: 문서 페이지를 이미지로 렌더링하고 텍스트 쌍을 제공합니다.
- 콘텐츠 안전: 지각 해싱과 같은 기술을 사용하여 CSAM과 같은 안전하지 않은 콘텐츠를 제거합니다.
- 데이터셋은 약 3억 5천만 개의 이미지-캡션 쌍으로 정제되고, 시각적 근거, 스크린샷 파싱, 질문-답변 쌍, 합성 캡션, 합성 생성 구조화된 이미지 등 다양한 소스에서 추가 1억 5천만 개의 예제로 보강됩니다.
사후 훈련 데이터
SFT 데이터:
- 이미지용: 학술 데이터셋이 템플릿과 LLM 재작성을 통해 질문-답변 쌍으로 변환됩니다. 인간 주석자는 다중 모드 데이터에서 다양한 대화를 생성하여 모델 생성 콘텐츠를 향상시킵니다.
- 합성 데이터용: 이미지의 텍스트 표현을 텍스트 입력 LLM과 함께 사용하여 해당 이미지에 대한 질문-답변 쌍을 만듭니다. 이 과정은 질문-답변 텍스트와 테이블 데이터를 캡션 및 OCR 추출을 사용하여 합성 이미지로 변환하고 대화 데이터를 생성합니다.
- 비디오용: 주석이 달린 학술 데이터셋이 텍스트 명령과 질문에 대한 대상 응답으로 변환됩니다. 인간은 단일 프레임 이상의 맥락이 필요한 복잡한 질문과 답변으로 비디오에 주석을 답니다.
선호도 데이터:
데이터셋에는 7점 척도에서 “선택됨” 또는 “거부됨”으로 평가된 모델 출력이 포함되며, 선호도 및 수정에 대한 인간 주석이 포함됩니다. 합성 선호도 쌍은 텍스트 전용 LLM을 사용하여 미세 조정 데이터셋에 오류를 도입하고, 선택되지 않은 고품질 응답에서 거부 샘플링을 통해 부정적 샘플을 생성합니다.
Llama 3.1에 DPO 적용
Meta는 Llama 3.1의 사후 훈련 과정에서 중요한 부분으로 직접 선호도 최적화(DPO)를 구현하여 모델을 인간 선호도에 더 잘 맞추었습니다. 다음은 이 과정이 어떻게 수행되었는지에 대한 설명입니다:
초기 설정:
- 이전 정렬 라운드에서 가장 성공적인 모델을 기반으로 인간 주석 선호도 데이터에 대한 훈련으로 시작합니다.
- 주요 목표는 훈련 데이터가 각 주기에서 최적화되는 정책 모델의 분포와 밀접하게 일치하도록 하여 점진적으로 모델 성능을 향상시키는 것입니다.
- 선호도 데이터 수집:
- 선호도 데이터는 각 프롬프트에 대해 여러 모델 생성 응답을 평가하는 인간 주석자로부터 수집됩니다. 이러한 평가는 응답의 품질과 선호도를 기반으로 하며, 편집됨 > 선택됨 > 거부됨과 같은 명확한 순위가 있습니다.
- 이 데이터는 다양한 선호도 수준(훨씬 좋음, 좋음, 약간 좋음, 약간 더 좋음)으로 분류된 응답을 포함하며, 선택된 응답을 더욱 정제하기 위해 편집된 응답이 포함되기도 합니다.
Llama 3.1 실험
Llama 3.1의 비전 실험은 이미지 및 비디오 인식 성능을 평가합니다. 음성 실험은 음성 인식 능력을 보여줍니다. 결과는 모델의 회복력과 AI 분야의 잠재적 애플리케이션을 강조합니다.
Llama 3.1의 비전 실험
이미지 인식 결과
- Llama 3-V 405B 모델은 모든 벤치마크에서 GPT-4V를 능가하지만 Gemini 1.5 Pro 및 Claude 3.5 Sonnet에 비해 약간 뒤처집니다.
- 문서 이해 작업에서 특히 강점을 보입니다.
비디오 인식 결과
- Llama 3은 비디오 인식에서 뛰어나며, 특히 8B 및 70B 파라미터 모델이 평가되었습니다.
- PerceptionTest에서 매우 우수한 성능을 보여 복잡한 시간적 추론 능력이 강력함을 나타냅니다.
- ActivityNet-QA와 같은 긴 형식 활동 이해 작업에서 Llama 3은 최대 64프레임만 처리하지만 강력한 결과를 제공합니다. 즉, 3분 비디오의 경우 모델이 3초마다 한 프레임만 처리합니다.
Llama 3.1의 음성 실험
실시간 스트리밍 텍스트-음성(TTS) 시스템이 이제 Llama 3의 일부가 되어 디코딩 중에 음성 파형을 생성합니다. 이 TTS 시스템은 Llama 3 임베딩을 사용하여 추론 중 지연 시간, 정확성 및 자연스러움을 개선합니다.
어닐링이란 무엇이며 어떻게 작동하나요?
Llama 3.1과 같은 대규모 언어 모델 훈련에는 ‘어닐링’이 포함되는데, 이는 더 나은 작업 성능을 위해 모델을 미세 조정합니다. 이 용어는 금속을 가열하고 천천히 냉각하여 강화하는 야금학에서 차용되었습니다.
Llama 3.1의 어닐링 과정은 여러 주요 구성 요소로 구성됩니다:
- 학습률의 점진적 감소: 학습률을 체계적으로 0까지 감소시켜 파라미터를 안정화하고 과적합을 최소화하여 일반화를 향상시킵니다.
- 고품질 데이터 업샘플링: 훈련 데이터 혼합을 조정하여 고품질 소스를 우선시함으로써 모델 성능과 정확성을 향상시킵니다.
- Polyak 평균화: 이 기술은 어닐링 중 다양한 체크포인트의 파라미터를 평균화하여 안정적인 사전 훈련 모델을 만듭니다.
전반적으로 어닐링 과정은 부드러운 수렴을 보장하고 더 작은 파라미터 업데이트를 통해 안정성을 향상시키며 새로운 데이터에 대한 일반화에 잘 갖춰진 강력하고 정확한 모델을 만듭니다.
Llama 3.1의 코딩, 다국어 능력 등 향상
Llama 3.1의 기능을 향상시키기 위해 코딩, 다국어 능력, 수학 추론, 장문 맥락 처리, 도구 사용, 정확성 및 조종 가능성에 대한 추가 훈련에 중점을 두었습니다. 인간 평가 및 주석을 통해 이러한 최적화된 기능에서 최고 품질의 성능을 보장했습니다.
Llama 3.1의 코딩 능력
Llama 3.1은 다양한 코딩 벤치마크에서 강력한 성능을 보여줍니다. 평가는 N 세대에 걸친 단위 테스트 세트의 성공률을 측정하는 pass@N 메트릭을 사용합니다. 주요 결과는 다음과 같습니다:
Python 코드 생성:
- HumanEval: Llama 3 8B 72.6±6.8, 70B 80.5±6.1, 405B 89.0±4.8
- MBPP: Llama 3 8B 60.8±4.3, 70B 75.4±3.8, 405B 78.8±3.6
- HumanEval+: Llama 3 8B 67.1±7.2, 70B 74.4±6.7, 405B 82.3±5.8
다중 프로그래밍 언어 코드 생성:
- 평가는 HumanEval 및 MBPP의 문제를 C++, Java, PHP, TypeScript, C# 등 다양한 프로그래밍 언어로 번역한 MultiPL-E를 사용하여 수행됩니다.
- HumanEval in C++: Llama 3 8B 52.8 ±7.7, Llama 3 405B 82.0 ±5.9
- MBPP in C++: Llama 3 8B 53.7 ±4.9, Llama 3 405B 67.5 ±4.6
Llama 3.1의 수학 및 추론 능력
Llama 3.1은 다양한 수학 및 추론 벤치마크에서 놀라운 성능을 보여주며 이러한 분야에서의 능력을 강조합니다. 다음은 평가의 주요 결과입니다:
GSM8K (8-shot, Chain of Thought — CoT):
- Llama 3 8B: 57.2±2.7
- Llama 3 70B: 83.0±7.4
- Llama 3 405B: 90.0±5.9
MATH (0-shot, CoT):
- Llama 3 8B: 20.3±1.1
- Llama 3 70B: 41.4±1.4
- Llama 3 405B: 53.8±1.4
ARC Challenge (0-shot):
- Llama 3 8B: 79.7±2.3
- Llama 3 70B: 92.9±1.5
- Llama 3 405B: 96.1±1.1
Meta는 Llama 3.1의 수학 및 추론 능력을 향상시키는 데 여러 과제에 직면했습니다:
- 프롬프트 부족
- Ground Truth 사고 사슬 부족
- 잘못된 중간 단계
- 모델에게 외부 도구 사용 가르치기
- 훈련과 추론 간의 차이
장문 맥락 시나리오에서 Llama 3.1 성능
Llama 3.1은 장문 맥락 벤치마크에서 뛰어나며 긴 문서에서 정보를 효율적으로 처리하고 검색하는 능력을 보여줍니다. 주요 평가 결과는 다음과 같습니다:
- Needle-in-a-Haystack: 긴 문서에서 숨겨진 정보를 검색하는 데 100% 성공률을 달성하고 Multi-needle 변형에서는 거의 완벽한 결과를 보입니다.
- ZeroSCROLLS: 405B 및 70B 모델은 긴 텍스트에 대한 자연어 이해에서 경쟁사와 일치하거나 능가합니다.
- InfiniteBench: 405B 모델은 장문 맥락 이해가 필요한 작업에서 모든 경쟁사를 능가하며, 특히 소설에 대한 질문 응답(En.QA)에서 두드러집니다.
LLaMA 3.1 논문을 검토한 후, 그 학문적 기여는 실제 시나리오에서 빛을 발합니다. LLM API는 학문적 이론과 실제 구현을 효율적으로 연결하여 개발자의 복잡한 연구를 단순화합니다. LLM API가 어떻게 이를 달성하는지 살펴보겠습니다.
Novita.AI에서 Llama 3.1 변형 사용
Novita AI는 Llama 3.1 모델을 관리하기 위한 강력한 플랫폼으로, 직관적인 인터페이스와 강력한 API를 제공하여 실제 애플리케이션에 통합을 단순화합니다. 시스템 관리를 자동화하고 리소스를 효율적으로 확장하며 보안과 데이터 개인 정보 보호를 우선시하면서 높은 성능을 보장합니다. 고급 LLM에 대한 쉬운 액세스를 가능하게 함으로써 Novita AI는 개발자와 기업이 AI 프로젝트를 가속화하고 다양한 산업에서 혁신을 주도할 수 있도록 지원합니다.
Novita.AI에서 LLM API를 배포하는 방법은?
Novita AI에서 Llama 3.1 API를 사용하여 강력한 언어 처리 애플리케이션을 개발하려면 다음의 체계적인 단계를 주의 깊게 따르십시오. 이 상세 가이드는 고급 AI 플랫폼을 찾는 현대 개발자의 요구를 충족하는 원활하고 효율적인 프로세스를 보장합니다.
1단계: Novita AI에 가입하고 로그인합니다.
**2단계 **: Novita AI의 대시보드 탭으로 이동하여 API 키를 얻습니다. 새 키를 생성할 수도 있습니다.
3단계: ** 키 관리 페이지**에 도달한 후 “복사”를 클릭하여 키를 쉽게 검색합니다.
4단계: LLM API 참조로 이동하여 Novita AI가 제공하는 “APIs”와 “Models”를 확인합니다.
5단계: 요구 사항에 가장 적합한 모델을 선택합니다. 개발 환경을 설정하고 콘텐츠, 역할, 이름, 상세 프롬프트 등 설정을 조정합니다.
6단계: 여러 테스트를 수행하여 API의 일관된 성능을 확인합니다.
Novita AI에서 LLM Playground를 체험하는 방법은?
Novita AI에서 LLM API를 공식적으로 배포하기 전에 LLM Playground에서 탐색하고 실험할 수 있습니다. 개발자에게 무료 사용 할당량을 제공합니다. 다음으로 시작하는 과정을 단계별로 안내하겠습니다.
**1단계 **: Playground 액세스: 메뉴의 Products 탭으로 이동하여 Model API를 선택하고 LLM API를 선택하여 탐색을 시작합니다.
2단계: 다양한 모델 선택: 평가 요구에 가장 적합한 llama 모델을 선택합니다.
3단계: 프롬프트 입력 및 출력 생성: 지정된 필드에 사용할 프롬프트를 입력합니다. 이 영역은 모델이 처리할 텍스트나 질문을 입력하는 곳입니다.
결론
Llama 3.1 논문은 여러 영역에서 놀라운 능력을 가진 새로운 모델에 대해 설명합니다. 모델 구축 방식부터 테스트 결과 및 사용 용도까지 모든 것을 다룹니다. 이 가이드는 기술 애호가와 연구자에게 유용한 정보를 제공합니다. 더 자세히 알아보려면 Llama 3.1 논문 PDF를 확인하십시오. 이는 수학, 추론 능력 및 다양한 언어 작업 능력을 이해하는 데 도움이 될 것입니다. Llama 3.1은 AI 작동 방식을 바꿀 잠재력을 가지고 있습니다. Novita.AI의 다양한 버전은 이 기술을 사용할 수 있는 훌륭한 기회를 제공합니다. Llama 3.1로 고급 AI를 탐구하여 주목할 만한 변화를 경험하십시오.
자주 묻는 질문
Llama 3.1을 창의적인 콘텐츠 생성에 사용할 수 있나요?
네, Llama 3.1은 창의적인 콘텐츠를 생성할 수 있습니다. 생성형 AI 기능을 통해 시, 대본, 심지어 음악 등 다양한 유형의 텍스트를 만들 수 있어 다양한 창의적 용도에서 다재다능함을 보여줍니다.
Llama 3.1은 사용자 개인 정보 및 데이터 보안을 어떻게 처리하나요?
Llama 3.1은 Llama Guard 기능을 통해 사용자 개인 정보와 데이터 보안을 보장하여 책임 있는 AI 사용을 촉진합니다. 오용을 방지하고 윤리적 선택을 지원하며 데이터 안전을 위해 암호화를 사용합니다.
Llama 3.1이 GPT-4보다 더 나은가요?
코딩 작업에서 정확성과 효율성을 우선시한다면 Llama 3이 더 나은 선택일 수 있습니다.
Llama 3.1 405B란 무엇인가요?
8B, 70B 및 405B 파라미터를 갖춘 Llama 3.1 모델은 업계 벤치마크에서 최고 성능을 보여주며 생성형 AI 애플리케이션에 새로운 기능을 제공합니다.
Llama가 중요한 이유는 무엇인가요?
Llama는 인상적인 능력과 개방적 접근성을 제공하는 중요한 AI 발전입니다. 그 출시는 AI 연구를 민주화하여 창의성과 협업을 촉진하고 다양한 분야에서 혁신을 주도합니다.
Originally published at Novita AI
Novita AI 는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 통합 API, 서버리스, GPU 인스턴스 — 필요한 비용 효율적인 도구. 인프라를 없애고 무료로 시작하여 AI 비전을 현실로 만드세요.
추천 자료
