Введение
Как разрабатываются большие языковые модели? Как их можно использовать в медицине? Какие популярные LLM существуют в медицине? Как обучить собственную LLM для медицины? Каковы ограничения LLM в медицине? В этом блоге мы по порядку рассмотрим эти вопросы.
Как разрабатываются большие языковые модели?
Разработка больших языковых моделей (LLM) включает несколько ключевых компонентов (Thirunavukarasu et al., 2023):
Архитектура модели
LLM обычно используют нейросетевые архитектуры, применяющие методы глубокого обучения для представления сложных ассоциативных связей между словами в текстовых обучающих данных. Наиболее известной архитектурой является Transformer, используемая в таких моделях, как GPT (Generative Pre-trained Transformer).
Обучающие данные
LLM обучаются на огромных наборах данных, содержащих миллиарды слов из разнообразных источников: веб-сайтов, книг, статей. Например, GPT-3 обучался на наборе данных объемом 45 терабайт, включающем веб-страницы Common Crawl, WebText, книги и Wikipedia.
Предварительное обучение (Pretraining)
Начальный процесс обучения называется предварительным обучением и обычно является неконтролируемым. Он включает обучение модели на задаче языкового моделирования, где модель учится предсказывать следующее слово в последовательности на основе предыдущих. Распространённые подходы к предварительному обучению включают причинное языковое моделирование, маскированное языковое моделирование и денойзинговые автоэнкодеры.
Масштабирование модели
По мере того как LLM становятся больше (больше параметров) и обучаются на более крупных наборах данных с растущими вычислительными ресурсами, у них развиваются улучшенные способности к обучению с несколькими примерами (few-shot) и без примеров (zero-shot), что позволяет им хорошо справляться с невиданными ранее задачами при отсутствии или минимальном количестве специализированных обучающих данных.
Тонкая настройка (Fine-tuning)
После предварительного обучения LLM проходят тонкую настройку, при которой их обучают на конкретных задачах или наборах данных для оптимизации производительности. Для ChatGPT тонкая настройка включала предоставление GPT-3 запросов и ответов от людей, а также использование обучения с подкреплением на основе человеческой обратной связи (RLHF) для улучшения качества ответов. Для LLM в медицине применяют тонкую настройку на вопросно-ответных задачах с использованием медицинских экзаменационных вопросов или на суммаризации с использованием клинических заметок.
Продолженное обучение
Некоторые приложения LLM, такие как ChatGPT, могут проходить продолженное обучение и тонкую настройку по мере развёртывания и взаимодействия с пользователями, что позволяет им учиться и улучшаться на основе реальных данных и обратной связи.
Как можно использовать большие языковые модели в медицине?
Thirunavukarasu et al. (2023) обсуждают несколько сценариев и приложений, в которых большие языковые модели (LLM) уже используются или могут быть потенциально применены в медицине:
Поддержка клинических решений
LLM, такие как ChatGPT, продемонстрировали способность успешно сдавать медицинские лицензионные экзамены, что предполагает их потенциал для использования в клиническом принятии решений и предоставлении диагностических/терапевтических рекомендаций медицинским работникам.
Образование пациентов
LLM могут использоваться для генерации персонализированных учебных материалов для пациентов, инструкций и объяснений на простом языке, адаптированных под состояние здоровья и историю пациента.
Медицинские исследования
LLM могут помогать исследователям, обобщая научную литературу, генерируя гипотезы, анализируя данные и даже помогая в написании научных статей и заявок на гранты.
Медицинское образование
LLM исследуются в качестве виртуальных репетиторов или ассистентов для студентов-медиков и ординаторов, чтобы помогать с ответами на вопросы, закреплением знаний и подготовкой к экзаменам.
Клиническая документация
LLM могут повысить эффективность, автоматизируя аспекты клинической документации, такие как ведение заметок и обобщение записей на основе диалога между пациентом и врачом.
Биомедицинские вопросно-ответные системы
LLM могут быстро извлекать и синтезировать информацию из больших медицинских баз знаний, чтобы отвечать на клинические запросы практикующих врачей.
Медицинское кодирование и выставление счетов
LLM могут помогать в точном кодировании приёмов пациентов для выставления счетов, понимая клинические заметки и сопоставляя их со стандартными кодами.
Какие популярные LLM существуют в медицине?
Серия GPT (Generative Pretrained Transformer):
- GPT-3: Большая модель с примерно 175 миллиардами параметров, известная способностью генерировать человекоподобный текст, была донастроена для различных задач.
- GPT-4: Последняя версия на момент написания статей, с расширенными возможностями, включая обработку мультимодальных данных (изображения, текст, аудио).
BERT (Bidirectional Encoder Representations from Transformers):
- BioBERT: Предварительно обучен на биомедицинской литературе, адаптирован для биомедицинского извлечения информации.
- PubMedBERT: Аналогичен BioBERT, но специально обучен на аннотациях PubMed.
- ClinicalBERT: Адаптирован для клинических заметок, обучен на электронных медицинских картах.
PaLM (Pathways Language Model):
- Flan-PaLM: Донастроенная версия PaLM для медицинских вопросно-ответных задач, достигшая передовых результатов.
- Med-PaLM: Модель, настроенная на инструкции, демонстрирующая способности в области клинических знаний, научного консенсуса и медицинских рассуждений.
BioGPT:
- Модель, предварительно обученная на аннотациях PubMed для задач, включающих ответы на вопросы, извлечение связей и классификацию документов.
BioMedLM (ранее известная как PubMedGPT):
- Предварительно обучена как на аннотациях, так и на полных текстах PubMed, демонстрирует достижения в области биомедицинских LLM.
LLaMA (LLMs for Academic Medicine):
- Семейство моделей с открытым исходным кодом различного размера, предназначенных для академических и медицинских приложений.
Клинические фундаментальные модели (Clinical Foundation Models):
- Модели, обученные с нуля на данных электронных медицинских карт, которые могут требовать меньше размеченных данных и эффективно обрабатывать мультимодальные данные.
InstructGPT:
- Модель, донастроенная для выполнения инструкций; оценивалась на полезность в здравоохранении.
Megatron-LM:
- Крупномасштабная языковая модель, разработанная NVIDIA, известная своими размерами и вычислительными требованиями.
Как обучить собственную LLM в медицине?
Шаг 1: Выберите API и настройте окружение
Выберите API, поддерживающее обучение пользовательских моделей, например Novita AI LLM API, который предоставляет мощные предварительно обученные модели и инструменты для настройки, включая Llama 3 8B и 70B. Novita AI обеспечивает совместимость со стандартом API OpenAI, что упрощает интеграцию в существующие приложения.
Перед интеграцией API следует оценить производительность доступных LLM, чтобы решить, какие из них соответствуют вашим ожиданиям для собственной медицинской LLM.
Шаг 2: Сбор и подготовка данных
Соберите большой набор медицинских текстов, релевантных вашей конкретной области (например, клинические заметки, исследовательские статьи, медицинская литература). Убедитесь, что ваш набор данных разнообразен и представляет язык и темы, которые должна понимать модель.
Шаг 3: Предобработка данных
Очистите и предобработайте набор данных, чтобы удалить шум и нерелевантную информацию. Это может включать:
- Токенизацию: разбиение текста на токены (слова или подслова).
- Удаление стоп-слов: часто встречающихся слов, не несущих большой смысловой нагрузки.
- Нормализацию текста: приведение к нижнему регистру, обработка сокращений и т.д.
Шаг 4: Тонкая настройка предварительно обученной модели
Большинство API LLM предоставляют предварительно обученные модели, которые можно донастроить на вашем наборе данных. Тонкая настройка включает:
- Инициализацию модели весами из предварительно обученной модели от API.
- Передачу вашего набора данных в интерфейс обучения API.
- Указание параметров, таких как размер батча, скорость обучения, количество эпох и т.д.
Шаг 5: Мониторинг процесса обучения
Во время тонкой настройки отслеживайте метрики, такие как потери (loss) и точность, чтобы оценить производительность модели. При необходимости корректируйте гиперпараметры для улучшения результатов.
Шаг 6: Оценка производительности модели
После завершения обучения оцените модель на отдельном валидационном наборе данных, чтобы проверить её способность к обобщению и точность. Используйте метрики, релевантные вашим задачам (например, точность, F1-мера для классификации).
Шаг 7: Итеративное улучшение
Улучшайте модель итеративно:
- Донастройка на дополнительных данных.
- Корректировка гиперпараметров.
- Включение обратной связи от оценки модели.
Шаг 8: Развёртывание и использование
После достижения удовлетворительной производительности разверните модель через API для инференса. Убедитесь, что ваше развёртывание соответствует нормативным и этическим требованиям для медицинских приложений.
Шаг 9: Поддержка и обновление
Регулярно обновляйте модель новыми данными, чтобы поддерживать её актуальность и улучшать производительность с течением времени. Контролируйте дрейф данных и при необходимости переобучайте модель.
Соображения:
- Этические и юридические аспекты: Обеспечьте соблюдение законов о конфиденциальности данных (например, HIPAA), этических норм и правил, регулирующих медицинские приложения ИИ.
- Требуемые ресурсы: Обучение LLM может быть ресурсоёмким (вычислительная мощность, хранилище данных), поэтому планируйте соответствующим образом.
- Валидация: Проверяйте предсказания модели при участии экспертов в предметной области, чтобы обеспечить надёжность и безопасность в медицинских приложениях.
Следуя этим шагам, вы сможете эффективно обучить собственную медицинскую LLM с помощью API, используя его предварительно обученные возможности и настраивая модель под свои конкретные потребности в сфере здравоохранения.
Каковы ограничения больших языковых моделей в медицине?
Omiye et al. (2024) и Thirunavukarasu et al. (2023) отметили следующие ограничения LLM в медицине:
Проблемы точности
Выходные данные LLM сильно зависят от качества и полноты обучающих данных. Очень большие наборы данных невозможно полностью проверить, и некоторая информация может быть устаревшей.
Отсутствие предметной специфичности
Большинство LLM обучаются на общих данных, неспецифичных для сферы здравоохранения. Это может приводить к предвзятым или неверным результатам для медицинских задач.
Отсутствие истинного понимания
LLM генерируют выходные данные на основе статистических закономерностей в обучающих данных, без истинного понимания. Они могут выдавать бессмысленные или вымышленные ответы.
Проблемы предвзятости и справедливости
Обучающие наборы данных кодируют общественные предубеждения против меньшинств, людей с инвалидностью, гендерных групп и т.д., что отражается в выходных данных LLM.
Конфиденциальность
Общедоступные LLM в настоящее время не соответствуют стандартам HIPAA, то есть их нельзя напрямую подвергать воздействию защищённой медицинской информации из записей пациентов.
Отсутствие объяснимости
Внутренние механизмы и процесс рассуждения больших LLM представляют собой непрозрачные «чёрные ящики», что затрудняет понимание того, как они приходят к тем или иным выходным данным для целей аудита.
Чрезмерная опора на LLM
Существуют этические опасения по поводу чрезмерной опоры на выходные данные LLM, что может способствовать плагиату или подавлять оригинальное мышление в медицинских исследованиях и образовании, если их не использовать разумно.
Заключение
В заключение, большие языковые модели (LLM) обещают значительный прогресс в медицинских приложениях — от поддержки клинических решений до медицинского образования и исследований. Несмотря на потенциальные преимущества, для ответственного внедрения в здравоохранение необходимо решить такие проблемы, как ограничения точности, предвзятость, конфиденциальность и непрозрачность выходных данных. Продолжающееся сотрудничество между исследователями ИИ, поставщиками медицинских услуг и разработчиками политики имеет решающее значение для использования потенциала LLM при обеспечении этичного и эффективного применения в медицинских учреждениях.
Ссылки
Omiye, J. A., Gui, H., Rezaei, S. J., Zou, J., & Daneshjou, R. (2024). Large Language Models in Medicine: The Potentials and Pitfalls: A Narrative Review. Annals of Internal Medicine, 177(2), 210–220. https://doi.org/10.7326/M23-2772
Thirunavukarasu, A. J., Ting, D. S. J., Elangovan, K., Gutierrez, L., Tan, T. F., & Ting, D. S. W. (2023). Large language models in medicine. Nature Medicine, 29(8), 1930–1940. https://doi.org/10.1038/s41591-023-02448-8
Novita AI — это универсальная облачная платформа, расширяющая ваши AI-амбиции. Благодаря бесшовно интегрированным API, бессерверным вычислениям и ускорению GPU, мы предоставляем экономически эффективные инструменты, необходимые для быстрого создания и масштабирования вашего бизнеса на основе ИИ. Устраните проблемы с инфраструктурой и начните бесплатно — Novita AI превращает ваши мечты об ИИ в реальность.
