소개
대규모 언어 모델이 임상 지식을 인코딩하면 어떤 일이 일어날까? 이 글에서는 LLM의 의료 분야 이론적 응용, 사용을 제한하는 제약, LLM이 임상 지식을 인코딩할 때의 결과, 현재의 오픈소스 의료 LLM, 그리고 나만의 의료 LLM을 훈련하는 방법에 대해 논의합니다. 의료 분야에서 LLM의 잠재력을 발휘하려면 계속 읽어보세요!
LLM이 임상 작업에 어떻게 도움이 될 수 있을까?
향상된 데이터 해석
대규모 언어 모델(LLM)은 고급 자연어 이해 능력을 제공하여 임상 작업을 크게 향상시킬 수 있습니다. 전자의무기록(EHR) 및 방사선 보고서와 같은 복잡한 의학 텍스트를 해석하여 진단 및 치료 계획에 도움이 되는 중요한 정보를 추출할 수 있습니다.
자동화된 의료 코딩
LLM은 임상 기록에서 환자 상태와 절차를 정확하게 식별하고 분류함으로써 의료 코딩 과정을 간소화하여 의료 전문가의 행정적 부담을 줄일 수 있습니다.
임상 의사 결정 지원
대규모 데이터 세트 내의 패턴과 추세를 분석함으로써 LLM은 증거 기반 권장 사항을 제공하여 임상의가 정보에 입각한 결정을 내릴 수 있도록 지원합니다. 또한 최신 의학 연구를 최신 상태로 유지하여 임상 지침에 실시간 업데이트를 제공할 수 있습니다.
약물 상호작용 확인
LLM은 환자 약물 목록과 의학 문헌을 분석하여 잠재적인 약물 상호작용 및 금기 사항을 이해하고 예측하도록 훈련될 수 있습니다. 이는 환자 안전을 향상시킵니다.
분류 및 증상 확인
원격 의료 및 원격 진료 환경에서 LLM은 환자 증상의 초기 평가자 역할을 하여 예비 진단을 제공하고 환자를 적절한 진료 수준으로 안내할 수 있습니다.
일반 LLM의 의료 분야 응용을 제한하는 이유는 무엇인가?
전문 지식 요구
의학 언어는 매우 기술적이며 문맥에 따라 달라집니다. 일반 LLM은 의학 용어와 임상 개념에 대한 미묘한 이해가 부족하여 해석에 부정확성이 발생할 수 있습니다.
데이터 개인정보 보호 및 보안 문제
임상 데이터는 민감하며 엄격한 규제 보호를 받습니다. 의료 분야에서 LLM을 사용하려면 강력한 데이터 암호화를 보장하고 HIPAA와 같은 의료 특정 규정을 준수해야 합니다.
오정보의 위험
다양한 데이터 세트로 훈련된 LLM은 의도치 않게 잘못된 정보나 구식 의학 조언을 생성할 수 있으며, 이는 임상 환경에서 심각한 결과를 초래할 수 있습니다.
설명 가능성 부족
의료 응용 프로그램에서는 모델 결정의 근거를 이해하는 것이 중요합니다. 일반 LLM은 종종 "블랙박스"로 작동하여 생명이 중요한 상황에서 출력을 설명하고 신뢰하기 어렵게 만듭니다.
윤리적 고려 사항
의학 분야에서 LLM을 사용하면 데이터 편향, 알고리즘 공정성, 환자 치료에 대한 의도치 않은 결과 가능성에 대한 윤리적 질문이 제기됩니다.
계산 리소스 집약도
대규모 LLM을 훈련하고 배포하려면 상당한 계산 리소스가 필요하며, 이는 모든 의료 제공자, 특히 자원이 제한된 환경에서는 실현 가능하지 않을 수 있습니다.
지속적인 모니터링 및 업데이트
의학 지식은 빠르게 진화하므로 LLM의 지식 기반을 최신 상태로 유지하기 위해 지속적인 모니터링과 업데이트가 필요합니다. 이를 위해서는 전담 전문가 팀과 지속 가능한 모델 업데이트 프로세스가 필요합니다.
규제 승인 및 검증
의료 분야에서 사용되는 LLM은 의료 실무에서 안전과 효능에 필요한 표준을 충족하는지 확인하기 위해 엄격한 검증을 거치고 규제 기관의 승인을 받아야 합니다.
LLM을 훌륭한 의사로 훈련시킬 수 있을까?
논문 "Large Language Models Encode Clinical Knowledge"의 저자들은 아마도 "가능성이 있지만 복잡하다"고 답할 것입니다. 항상 그렇듯이, 아래의 학술적 논의에 관심이 없다면 이 결론을 받아들이고 다음 섹션으로 건너뛰세요: 이 기사는 LLM이 의학 지식을 인코딩할 가능성과 임상 환경에서 안전하고 효과적으로 사용하기 위해 극복해야 할 중요한 도전 과제 를 강조합니다.
배경
- 대규모 언어 모델(LLM)은 다양한 작업에서 인상적인 성능을 보여주었지만, 안전이 중요한 임상 환경에서의 효과성은 잘 확립되지 않았습니다.
- 연구자들은 의학 질문에 정확하고 안전하게 답변하는 모델의 성능을 평가하기 위한 포괄적인 벤치마크의 필요성을 강조합니다.
MultiMedQA 벤치마크
- 연구자들은 6개의 기존 의학 질문 응답 데이터 세트와 온라인에서 자주 검색되는 의학 질문을 포함하는 새로운 데이터 세트인 HealthSearchQA를 결합한 벤치마크인 MultiMedQA를 소개합니다.
- 이 벤치마크는 사실성, 이해, 추론, 잠재적 피해, 편향 등 여러 측면에서 모델을 평가하도록 설계되었습니다.
모델 평가
- 저자들은 5400억 개의 매개변수를 가진 LLM인 PaLM과 그 명령어 튜닝 변형인 Flan-PaLM을 MultiMedQA 벤치마크에서 평가합니다.
- 다양한 프롬프트 전략을 사용하여 Flan-PaLM은 객관식 의학 질문 데이터 세트에서 최첨단 정확도를 달성했으며, 미국 의사 면허 시험 스타일의 질문이 포함된 MedQA에서 17%의 상당한 개선을 보였습니다.
인간 평가 프레임워크
- 연구자들은 과학적 합의와의 일치, 피해 가능성, 편향 존재 등 여러 차원에서 모델 답변을 평가하기 위한 인간 평가 프레임워크를 제안합니다.
- 임상의 패널이 모델의 성능을 평가하여 성능이 높은 모델에서도 주요 격차가 있음을 밝혀냈습니다.
명령어 프롬프트 튜닝
- 식별된 격차를 해결하기 위해 저자들은 소수의 예시를 사용하여 LLM을 의료 분야에 더 밀접하게 정렬하는 방법인 "명령어 프롬프트 튜닝"을 소개합니다.
- 결과 모델인 Med-PaLM은 개선된 성능과 안전성을 보여주지만 여전히 임상의 수준에는 미치지 못합니다.
주요 발견
- 연구에 따르면 모델 규모와 명령어 프롬프트 튜닝은 이해, 지식 회상, 추론을 향상시킵니다.
- LLM은 의학 분야에서 사용 가능성을 보여주지만, 인간 평가 결과 한계가 드러나 임상 응용을 위한 안전하고 유용한 LLM을 만들기 위해 견고한 평가 프레임워크와 방법 개발의 필요성을 강조합니다.
한계 및 향후 작업
- 저자들은 MultiMedQA가 다양하지만 완전하지 않다는 점을 인정하며, 더 많은 의학 및 과학 분야와 다국어 평가를 포함하도록 확장할 계획입니다.
- 또한 LLM이 권위 있는 의학 출처에 근거하여 응답하고, 불확실성을 감지하고 전달하며, 여러 언어로 응답하고, 의학 안전 요구 사항에 더 잘 부합해야 할 필요성을 강조합니다.
- 인간 평가 방법 개선과 의료 분야에서 LLM 사용의 공정성과 형평성 고려가 중요한 미래 연구 방향으로 강조됩니다.
사용할 수 있는 오픈소스 의료 LLM이 있나요?
- Med_Gemini-[2D,3D,Polygenic]: Gemini의 다중 모드 의료 기능 향상
- BioBERT: 생의학 텍스트 마이닝 작업을 위해 설계된 생의학 언어 표현 모델
- BioMistral: 생의학 분야에 맞춰진 오픈소스 LLM으로, Mistral을 기반 모델로 사용하고 PubMed Central에서 추가 사전 훈련됨
- MEDITRON-70B: 의료 분야에 적응된 7B 및 70B 매개변수의 오픈소스 LLM 제품군
- PMC-LLaMA: 의학 응용 프로그램을 위해 특별히 설계된 강력한 오픈소스 언어 모델
- MEDALPACA: 의료 대화형 AI 모델 및 훈련 데이터의 오픈소스 컬렉션
- BioMedLM-PubMedGPT: PubMed 초록과 전체 기사만을 사용하여 훈련된 27억 매개변수 GPT 스타일 자기회귀 모델
- Med-PaLM: Google Research의 의료 분야를 위해 설계된 대규모 언어 모델
- PubMedBERT: 생의학 자연어 처리 작업을 위해 특별히 설계된 사전 훈련된 언어 모델
나만의 의료 LLM을 어떻게 훈련시킬 수 있나요?
능숙한 의료 LLM을 훈련하려면 LLM API의 기본 강점과 전문 도메인 지식 및 엄격한 데이터 과학 관행을 결합한 시너지 접근 방식이 필요합니다. 간단히 말해, 대규모 언어 모델이 임상 지식을 인코딩할 수 있도록 해야 합니다. 이 지침을 읽고 나면 나만의 의료 LLM을 훈련하려면 어떤 단계를 거쳐야 하는지 대략적으로 알 수 있을 것입니다.
1단계: 프로토타이핑을 위한 기존 LLM API 활용
기존 LLM API와 상호 작용하여 의료 언어 처리 작업을 프로토타이핑하고 벤치마킹하는 것부터 시작하십시오. Novita AI에서 제공하는 것과 같은 LLM API는 광범위한 코퍼스에서 사전 훈련되고 추가 미세 조정을 통해 전문 분야에 적응할 수 있는 모델에 대한 액세스를 제공합니다.
API를 통합하기 전에 Novita AI는 사용 가능한 LLM의 성능을 확인할 수 있도록 하여 나만의 의료 LLM에 대한 기대치에 부합하는 모델을 결정할 수 있게 합니다.
2단계: 포괄적인 도메인 이해
임상 용어, 진단 절차, 의료 데이터를 규율하는 규제 환경에 대한 숙달을 포함한 의료 도메인에 대한 철저한 이해를 달성하십시오. 이 전문 지식은 유능한 의료 LLM을 훈련하기에 적절하고 풍부한 데이터 세트를 큐레이팅하는 데 필수적입니다.
3단계: 엄격한 데이터 큐레이션 및 주석
다양하고 대표적인 의학 문헌, 비식별화된 전자의무기록(EHR) 및 임상 내러티브 데이터 세트를 확보하십시오. 토큰화, 품사 태깅, 개체 인식을 포함한 엄격한 데이터 전처리 단계를 구현하여 모델 훈련을 위해 데이터를 구조화하십시오. 주석은 도메인 전문가가 수행하여 지도 학습 작업을 위해 데이터 세트가 정확하게 레이블링되도록 해야 합니다.
4단계: 의료 데이터 세트에 대한 맞춤형 사전 훈련
LLM API가 제공하는 기본 아키텍처를 시작점으로 사용하십시오. 그런 다음 큐레이팅된 의료 데이터 세트에서 모델을 추가로 조건화하여 도메인별 사전 훈련 단계를 수행하십시오. 이 프로세스를 도메인 적응 사전 훈련(DAPT)이라고 하며, 모델이 의학 용어와 임상 추론 능력을 획득하도록 촉진합니다.
5단계: 특화된 데이터로 미세 조정
LLM API의 미세 조정 기능을 활용하여 진단 예측, 치료 권장, 방사선 보고서 정보 추출과 같은 특정 의료 작업에 모델을 적응시키십시오. 작업별 데이터 세트로 미세 조정하면 모델이 정확하고 상황에 맞는 응답을 제공하는 능력이 향상됩니다.
6단계: 모델 평가 및 하이퍼파라미터 최적화
정밀도, 재현율, F1 점수, 수신자 조작 특성(ROC) 분석을 포함한 정량적 평가 배터리를 구현하여 모델의 성능을 평가하십시오. 그리드 검색 또는 베이지안 최적화와 같은 기술을 사용한 하이퍼파라미터 최적화에 참여하여 모델의 예측 정확도와 일반화 능력을 향상시키십시오.
7단계: 지속적인 모델 개선 및 지식 업데이트
최신 의학 통찰력과 연구 결과를 통합하기 위한 지속적인 학습 및 모델 업데이트 프로토콜을 수립하십시오. 이는 모델의 지식 기반이 최신 상태로 유지되고 진화하는 의료 환경에 적응하도록 보장합니다.
8단계: 윤리 및 규정 준수 문제 해결
훈련 프로세스가 윤리 기준을 준수하고 건강 보험 이동성 및 책임에 관한 법률(HIPAA)과 같은 의료 규정을 준수하는지 확인하십시오. 강력한 데이터 보호 조치를 구현하고 모델 의사 결정의 투명성을 유지하여 환자 개인정보 보호와 신뢰를 유지하십시오.
결론
임상 작업에서 LLM의 탐구를 마무리하면서, 이 기술이 엄청난 가능성을 가지고 있지만 도전 과제가 없는 것은 아니라는 것이 분명합니다. 이 블로그는 자동화된 의료 코딩에서 분류 및 증상 확인에 이르기까지 LLM이 다양한 의료 작업을 도울 수 있는 혁신적인 방법을 밝혀냈습니다. 그러나 이러한 모델을 임상 실습에 통합하는 길은 전문 지식 요구, 데이터 개인정보 보호 문제, 지속적인 모니터링 및 규제 승인의 필요성과 같은 장애물로 가득 차 있습니다.
의료 분야에서 대규모 언어 모델(LLM)의 전체 잠재력을 활용하는 것은 공동의 지혜와 전문 지식을 요구하는 협력 노력입니다. 기존 의료 LLM 프레임워크를 탐구하거나 필요에 맞게 맞춤형 모델을 제작하는 여정은 흥미롭고 보람차습니다. LLM의 의료 분야 변혁적 능력을 발휘할 때 집단 지성의 시너지를 수용하십시오.
Novita AI는 무한한 창의성을 위한 원스톱 플랫폼으로, 100개 이상의 API에 액세스할 수 있습니다. 이미지 생성, 언어 처리, 오디오 향상, 비디오 조작에 이르기까지 저렴한 종량제 요금제로 GPU 유지 관리의 번거로움에서 벗어나 자신의 제품을 구축할 수 있습니다. 무료로 사용해 보세요.
