소개
대규모 언어 모델은 어떻게 개발될까? 의료 분야에서 어떻게 활용될 수 있을까? 의료 분야에서 인기 있는 LLM은 무엇일까? 의료용 LLM을 직접 학습시키는 방법은 무엇일까? LLM의 한계는 무엇일까? 이 블로그에서 이러한 질문들을 하나씩 살펴보겠습니다.
대규모 언어 모델은 어떻게 개발되나?
대규모 언어 모델(LLM)의 개발에는 몇 가지 주요 구성 요소가 포함됩니다 (Thirunavukarasu et al., 2023):
모델 아키텍처
LLM은 일반적으로 딥러닝 기술을 활용하여 텍스트 학습 데이터 내 단어 간의 복잡한 연관 관계를 표현하는 신경망 아키텍처를 사용합니다. 가장 잘 알려진 아키텍처는 GPT(Generative Pre-trained Transformer)와 같은 모델에 사용되는 Transformer입니다.
학습 데이터
LLM은 웹사이트, 책, 기사 등 다양한 출처에서 수집된 수십억 개의 단어로 구성된 방대한 데이터셋으로 학습됩니다. 예를 들어 GPT-3는 Common Crawl 웹 페이지, WebText, 책, Wikipedia로 구성된 45테라바이트 데이터셋으로 학습되었습니다.
사전 학습
초기 학습 과정을 사전 학습이라고 하며, 일반적으로 비지도 학습입니다. 이 과정에서 모델은 이전 단어를 기반으로 시퀀스의 다음 단어를 예측하는 언어 모델링 작업을 학습합니다. 일반적인 사전 학습 접근법으로는 인과 언어 모델링, 마스크 언어 모델링, 노이즈 제거 오토인코더 등이 있습니다.
모델 확장
LLM이 커지고(더 많은 파라미터) 더 큰 데이터셋과 증가하는 컴퓨팅 자원으로 학습됨에 따라, few-shot 및 zero-shot 능력이 향상되어 특정 작업에 대한 학습 데이터가 거의 없거나 전혀 없어도 보지 못한 작업에서 우수한 성능을 보입니다.
미세 조정
사전 학습 후 LLM은 특정 작업이나 데이터셋에 대해 성능을 최적화하기 위해 미세 조정 과정을 거칩니다. ChatGPT의 경우, 미세 조정은 GPT-3를 인간의 프롬프트와 응답에 노출시키고, 인간 피드백 강화 학습(RLHF)을 사용하여 응답 품질을 개선하는 방식으로 이루어졌습니다. 의료용 LLM의 경우, 의사 시험 문제를 사용한 질문-응답 미세 조정이나 임상 노트를 사용한 요약 미세 조정이 이루어집니다.
지속적 학습
ChatGPT와 같은 일부 LLM 애플리케이션은 배포되어 사용자와 상호작용하면서 지속적인 학습과 미세 조정을 거쳐 실제 데이터와 피드백으로부터 학습하고 개선될 수 있습니다.
의료 분야에서 대규모 언어 모델은 어떻게 활용될 수 있나?
Thirunavukarasu et al. (2023)은 대규모 언어 모델(LLM)이 의료 분야에서 사용되거나 잠재적으로 활용될 수 있는 몇 가지 시나리오와 애플리케이션을 논의합니다:
임상 의사 결정 지원
ChatGPT와 같은 LLM은 의사 면허 시험에서 합격 점수를 달성하는 능력을 보여주었으며, 이는 임상 의사 결정과 의료 제공자에 대한 진단/치료 권장 사항 제공에 활용될 가능성을 시사합니다.
환자 교육
LLM은 환자의 건강 상태와 배경에 맞춰 개인화된 환자 교육 자료, 지침, 설명을 평이한 언어로 생성하는 데 사용될 수 있습니다.
의학 연구
LLM은 과학 문헌 요약, 가설 생성, 데이터 분석, 연구 논문 및 보조금 신청서 작성 지원 등을 통해 연구자를 도울 수 있습니다.
의학 교육
LLM은 의대생과 연수생을 위한 가상 튜터 또는 조교로 활용되어 질문 응답, 지식 강화, 시험 연습을 돕는 방안이 탐구되고 있습니다.
임상 문서화
LLM은 환자-제공자 대화를 기반으로 노트 작성 및 기록 요약과 같은 임상 문서화의 일부를 자동화하여 효율성을 높일 수 있습니다.
생물의학 질문 응답
LLM은 방대한 의학 지식 기반에서 정보를 신속하게 검색하고 종합하여 임상 질문에 답변할 수 있습니다.
의료 코딩 및 청구
LLM은 임상 노트를 이해하고 이를 표준 코드에 매핑하여 환자 진료 기록을 정확하게 코딩하는 데 도움을 줄 수 있습니다.
의료 분야에서 인기 있는 LLM은 무엇인가?
GPT(Generative Pretrained Transformer) 시리즈:
- GPT-3: 약 1750억 개의 파라미터를 가진 대규모 모델로, 인간과 유사한 텍스트를 생성하는 능력으로 유명하며 다양한 작업에 미세 조정되었습니다.
- GPT-4: 해당 글 당시 최신 버전으로, 이미지, 텍스트, 오디오 등 멀티모달 입력 처리를 포함한 향상된 기능을 갖추고 있습니다.
BERT(Bidirectional Encoder Representations from Transformers):
- BioBERT: 생의학 문헌에 사전 학습되어 생의학 텍스트 마이닝에 특화되었습니다.
- PubMedBERT: BioBERT와 유사하지만 PubMed 초록에 특화 학습되었습니다.
- ClinicalBERT: 임상 노트에 맞게 조정되었으며 전자 건강 기록으로 학습되었습니다.
PaLM(Pathways Language Model):
- Flan-PaLM: 의료 질문 응답을 위해 미세 조정된 PaLM 버전으로, 최첨단 결과를 달성했습니다.
- Med-PaLM: 임상 지식, 과학적 합의 및 의학적 추론 능력을 보여주는 명령어 튜닝 모델입니다.
BioGPT:
- PubMed 초록에 사전 학습된 모델로, 질문 응답, 관계 추출, 문서 분류 등의 작업을 수행합니다.
BioMedLM(이전 명칭 PubMedGPT):
- PubMed 초록과 전체 텍스트 모두에 사전 학습되어 생의학 LLM의 발전을 보여줍니다.
LLaMA(LLMs for Academic Medicine):
- 다양한 크기의 오픈소스 모델 제품군으로, 학술 및 의료 애플리케이션을 위해 설계되었습니다.
임상 기초 모델(Clinical Foundation Models):
- 전자 건강 기록 데이터를 사용하여 처음부터 학습된 모델로, 더 적은 레이블 데이터가 필요하고 멀티모달 데이터를 효과적으로 처리할 수 있습니다.
InstructGPT:
- 명령어를 따르도록 미세 조정되었으며 의료 유용성에 대해 평가된 모델입니다.
Megatron-LM:
- NVIDIA가 개발한 대규모 언어 모델로, 크기와 컴퓨팅 요구 사항으로 유명합니다.
의료용 LLM을 직접 학습시키는 방법은?
1단계: API 선택 및 설정
커스텀 모델 학습을 지원하는 API를 선택하세요. 예를 들어 Novita AI LLM API는 Llama 3 8B 및 70B를 포함한 강력한 사전 학습 모델과 커스터마이징 도구를 제공합니다. Novita AI는 OpenAI API 표준과의 호환성을 제공하여 기존 애플리케이션에 더 쉽게 통합할 수 있습니다.
API를 통합하기 전에 사용 가능한 LLM의 성능을 평가하여 자신의 의료 LLM에 대한 기대치에 부합하는 모델을 결정해야 합니다.
2단계: 데이터 수집 및 준비
특정 도메인(예: 임상 노트, 연구 논문, 의학 문헌)과 관련된 대규모 의료 텍스트 데이터셋을 수집하세요. 데이터셋이 모델이 이해해야 하는 언어와 주제를 다양하게 대표하도록 하십시오.
3단계: 데이터 전처리
데이터셋을 정리하고 전처리하여 노이즈와 불필요한 정보를 제거하세요. 여기에는 다음이 포함될 수 있습니다:
- 토큰화: 텍스트를 토큰(단어 또는 하위 단어)으로 분할.
- 불용어 제거: 의미에 크게 기여하지 않는 일반적인 단어 제거.
- 텍스트 정규화: 텍스트를 소문자로 변환, 약어 처리 등.
4단계: 사전 학습 모델 미세 조정
대부분의 LLM API는 특정 데이터셋에서 미세 조정할 수 있는 사전 학습 모델을 제공합니다. 미세 조정에는 다음이 포함됩니다:
- API의 사전 학습된 가중치로 모델 초기화.
- API의 학습 인터페이스에 데이터셋 제공.
- 배치 크기, 학습률, 에폭 수 등 매개변수 지정.
5단계: 학습 진행 상황 모니터링
미세 조정 중 손실 및 정확도와 같은 지표를 모니터링하여 모델 성능을 평가하세요. 필요한 경우 하이퍼파라미터를 조정하여 성능을 개선하세요.
6단계: 모델 성능 평가
학습이 완료되면 별도의 검증 데이터셋에서 모델을 평가하여 일반화 능력과 정확도를 평가하세요. 특정 작업과 관련된 지표(예: 분류 작업의 정확도, F1 점수)를 사용하세요.
7단계: 반복적 개선
다음과 같은 방법으로 모델을 반복적으로 개선하세요:
- 추가 데이터로 미세 조정.
- 하이퍼파라미터 조정.
- 모델 평가 피드백 통합.
8단계: 배포 및 사용
만족스러운 성능을 달성한 후 API를 통해 모델을 추론용으로 배포하세요. 배포가 의료 애플리케이션에 대한 규제 또는 윤리 지침을 준수하는지 확인하십시오.
9단계: 유지 관리 및 업데이트
새로운 데이터로 모델을 정기적으로 업데이트하여 최신 상태를 유지하고 시간이 지남에 따라 성능을 개선하세요. 드리프트를 모니터링하고 필요에 따라 재학습하십시오.
고려 사항:
- 윤리 및 법적 고려 사항: 데이터 개인정보 보호법(예: HIPAA), 윤리 지침, 의료 AI 애플리케이션 규정을 준수해야 합니다.
- 리소스 요구 사항: LLM 학습은 리소스 집약적(컴퓨팅 파워, 데이터 저장소)일 수 있으므로 이에 따라 계획하십시오.
- 검증: 의료 애플리케이션의 신뢰성과 안전성을 보장하기 위해 도메인 전문가와 함께 모델 예측을 검증하십시오.
이러한 단계를 따르면 API를 사용하여 자체 의료 LLM을 효과적으로 학습시키고 사전 학습된 기능을 활용하여 의료 분야의 특정 요구에 맞게 사용자 지정할 수 있습니다.
의료 분야에서 대규모 언어 모델의 한계는 무엇인가?
Omiye et al. (2024)과 Thirunavukarasu et al. (2023)은 의료 분야에서 LLM의 다음과 같은 한계를 지적했습니다:
정확성 문제
LLM의 출력은 학습 데이터의 품질과 완전성에 크게 의존합니다. 매우 큰 데이터셋은 완전히 검증될 수 없으며 일부 정보는 구식일 수 있습니다.
도메인 특수성 부족
대부분의 LLM은 의료 분야에 특화되지 않은 일반 데이터로 학습됩니다. 이는 의료 작업에 대해 편향되거나 부정확한 출력을 초래할 수 있습니다.
진정한 이해 부족
LLM은 진정한 이해 없이 학습 데이터의 통계적 패턴을 기반으로 출력을 생성합니다. 터무니없거나 허구적인 응답을 생성할 수 있습니다.
편향 및 공정성 문제
학습 데이터셋은 소수 집단, 장애, 성별 등에 대한 사회적 편향을 인코딩하며 이는 LLM 출력에 반영됩니다.
개인정보 보호 문제
현재 사용 가능한 공개 LLM은 HIPAA를 준수하지 않으므로 환자 기록의 보호된 건강 정보에 직접 노출될 수 없습니다.
설명 가능성 부족
대규모 LLM의 내부 작동 및 추론 프로세스는 불투명한 '블랙박스’이므로 감사 목적으로 특정 출력에 도달하는 방식을 이해하기 어렵습니다.
LLM에 대한 과도한 의존
LLM 출력에 대한 과도한 의존은 윤리적 우려를 불러일으키며, 현명하게 사용되지 않을 경우 의학 연구 및 교육에서 표절을 조장하거나 독창적인 사고를 억제할 수 있습니다.
결론
결론적으로, 대규모 언어 모델(LLM)은 임상 의사 결정 지원부터 의학 교육 및 연구에 이르기까지 의료 애플리케이션에 혁명을 일으킬 상당한 가능성을 제공합니다. 잠재적 이점에도 불구하고 정확성 한계, 편향, 개인정보 보호 문제, 출력의 불투명성과 같은 문제를 해결해야 의료 분야에 책임감 있게 통합될 수 있습니다. AI 연구자, 의료 제공자, 정책 입안자 간의 지속적인 협력은 LLM의 잠재력을 활용하면서 의료 환경에서 윤리적이고 효과적인 배포를 보장하는 데 중요합니다.
참고 문헌
Omiye, J. A., Gui, H., Rezaei, S. J., Zou, J., & Daneshjou, R. (2024). Large Language Models in Medicine: The Potentials and Pitfalls : A Narrative Review. Annals of Internal Medicine, 177(2), 210–220. https://doi.org/10.7326/M23-2772
Thirunavukarasu, A. J., Ting, D. S. J., Elangovan, K., Gutierrez, L., Tan, T. F., & Ting, D. S. W. (2023). Large language models in medicine. Nature Medicine, 29(8), 1930–1940. https://doi.org/10.1038/s41591-023-02448-8
Novita AI는 AI 야망을 실현하는 올인원 클라우드 플랫폼입니다. 원활하게 통합된 API, 서버리스 컴퓨팅, GPU 가속을 통해 AI 기반 비즈니스를 신속하게 구축하고 확장하는 데 필요한 비용 효율적인 도구를 제공합니다. 인프라 관련 문제를 해결하고 무료로 시작하세요 — Novita AI가 여러분의 AI 꿈을 현실로 만듭니다.
