Понимание малых моделей как ценных плагинов для больших языковых моделей

Введение

В быстро развивающемся ландшафте искусственного интеллекта взаимодействие между большими языковыми моделями (LLM) и их более компактными аналогами — это история синергии и инноваций. Огромные возможности LLM, таких как GPT-3 и GPT-4, хотя и впечатляют, заключены в крепость ограничений: ограниченный доступ к весам моделей, огромные вычислительные требования и ограничения обучения в контексте (ICL).

Однако в этих ограничениях есть лазейка — возможность для малых моделей выступить в роли плагинов, предлагая мост к более персонализированным и эффективным приложениям. Этот блог посвящен необходимости и влиянию интеграции малых моделей в качестве плагинов в обширные области LLM, исследуя концепцию Super In-Context Learning (SuperICL) и её реальные последствия.

Понимание LLM и малых моделей

Различия между LLM и малыми моделями

Большая языковая модель — это сложная система ИИ, предназначенная для обработки и понимания больших объемов данных на естественном языке. LLM обычно имеют огромное количество параметров, часто от сотен миллионов до миллиардов. Это позволяет им улавливать сложные закономерности и взаимосвязи в языке, обеспечивая такие продвинутые возможности, как перевод, суммаризация текста, ответы на вопросы и генерация контента. LLM обучаются на больших наборах данных и могут демонстрировать сложное поведение и “эмерджентные способности” по мере увеличения размера, хотя последнее понятие является предметом дискуссий (как обсуждается в исследовании Стэнфорда).

В отличие от этого, малые модели имеют меньше параметров и менее сложны. Они могут быть более ограничены в своих возможностях и спектре задач, которые могут эффективно выполнять. Малые модели обычно используются для более специфических или менее сложных задач из-за более низких вычислительных требований и меньшей потребности в данных. Хотя они могут быть очень эффективны для определенных приложений, в целом они не обладают таким же уровнем тонкого понимания или способностью обрабатывать широкий спектр языковых задач, как LLM.

Лучшие открытые LLM

• BERT: разработанная Google, BERT является новаторской LLM, известной своим преобразующим влиянием на обработку естественного языка, используется в Google Search и вдохновляет множество специализированных моделей.
• Falcon 180B: LLM от Технологического инновационного института ОАЭ со 180 миллиардами параметров, превосходно справляется с генерацией и обработкой текста; меньшая версия Falcon-40B также известна пониманием языка.
• GPT-NeoX и GPT-J: открытые LLM от EleutherAI с 20 и 6 миллиардами параметров соответственно, обеспечивающие высокую производительность в различных областях и способствующие демократизации ИИ.
• LLaMA 3: универсальная LLM от Meta AI с размером от 7 до 70 миллиардов параметров, оптимизирована для генерации естественного языка и настраивается благодаря открытой лицензии; доступны API для разработчиков. Компании, например Novita AI, обычно предлагают API LLaMA 3 для AI-стартапов.
• BLOOM: открытая LLM со 176 миллиардами параметров, совместный проект Hugging Face, предназначенная для генерации текста на многих языках и языках программирования, ставит во главу угла прозрачность и доступность.
• Vicuna 13-B: доработанная на основе LLaMA 13B, эта открытая диалоговая модель отлично справляется с длинными диалогами в чат-ботах различных отраслей, демонстрируя продвинутые возможности диалогового ИИ.

Зачем нам нужны малые модели в качестве плагинов для больших языковых моделей?

Ограниченный доступ к весам модели

• LLM, такие как GPT-3 и GPT-4, являются мощными инструментами для различных задач обработки естественного языка (NLP). Однако фактические весовые параметры этих моделей обычно не публикуются из соображений интеллектуальной собственности и безопасности.
• Без доступа к весам модели невозможно выполнить внутреннюю донастройку, при которой параметры корректируются для лучшего соответствия конкретной задаче или набору данных.

Огромные размеры моделей

• LLM обычно очень большие, с миллиардами параметров, что делает их ресурсоемкими. Требования к оборудованию для обучения или даже донастройки таких моделей недостижимы для большинства частных лиц и небольших организаций.
• Большой размер также означает, что перенос этих моделей на другое оборудование или их использование в средах с ограниченной вычислительной мощностью затруднен.

Ограничения обучения в контексте (ICL)

• ICL — это метод, при котором несколько размеченных примеров предоставляются вместе с входными данными, чтобы помочь модели делать предсказания. Этот метод позволяет модели учиться на контексте, заданном примерами.
• Однако ICL ограничен длиной контекста, которую может обработать LLM. Если контекст слишком длинный, он может превысить емкость модели, и модель не сможет эффективно использовать все предоставленные примеры.
• Это ограничение особенно проблематично при наличии большого объема размеченных данных, так как ICL может использовать лишь небольшую их часть из-за ограничения длины контекста.

Для решения этих проблем некоторые исследователи предлагают Super In-Context Learning (SuperICL), который объединяет сильные стороны LLM с локально донастроенными малыми моделями. Малые модели, или плагины, донастраиваются на данных конкретной задачи и служат мостом между общими возможностями LLM и специфическими требованиями задачи. Такой подход позволяет более эффективно передавать знания и улучшать производительность на размеченных задачах, преодолевая ограничения ICL и проблемы, связанные с размером и недоступностью LLM.

Как люди обнаружили, что малые модели являются ценными плагинами для больших языковых моделей?

В этом разделе мы обсудим статью под названием “Small Models are Valuable Plug-ins for Large Language Models” от Canwen Xu, Yichong Xu, Shuohang Wang, Yang Liu, Chenguang Zhu и Julian McAuley из Калифорнийского университета в Сан-Диего и Microsoft. Как обычно, если детали исследования вам не интересны, можете перейти к следующему разделу.

Метод

Основываясь на признании ограничений LLM, которые мы обсудили в предыдущем разделе, авторы предлагают SuperICL для объединения LLM с локально донастроенными малыми моделями-плагинами. Модель-плагин сначала донастраивается на специфическом для задачи размеченном наборе данных. Затем она делает предсказания с оценками уверенности по обучающим примерам из этого набора. Эти предсказания передаются в качестве контекста LLM вместе с тестовым входом. LLM использует этот контекст для окончательного предсказания и может дополнительно сгенерировать объяснение своего решения.

Дизайн эксперимента

Оценка проводилась на бенчмарке GLUE для задач понимания естественного языка и на XNLI для нулевого кросс-языкового переноса. В качестве LLM использовалась GPT-3.5, а в качестве моделей-плагинов — RoBERTa-Large/XLM-R. SuperICL сравнивался с базовыми методами ICL с GPT-3.5 и использованием только моделей-плагинов.

Результаты

SuperICL превосходит как GPT-3.5 ICL, так и модели-плагины по отдельности на бенчмарке GLUE. На наборе данных XNLI SuperICL улучшает XLM-R для большинства языков, демонстрируя эффективный нулевой кросс-языковой перенос. Абляционное исследование показывает важность каждого компонента в подходе SuperICL.

Итог

SuperICL достигает превосходной производительности, комбинируя сильные стороны LLM и малых моделей-плагинов, донастроенных на данных задачи. Он решает проблему нестабильности обычного ICL, разделяя понимание языка и усвоение знаний, специфичных для задачи. Кроме того, SuperICL расширяет возможности малых моделей, например, увеличивая их мульти-языковое покрытие. Он также обеспечивает интерпретируемость, позволяя LLM генерировать объяснения при переопределении предсказаний плагина.

Реальные примеры малых моделей в качестве плагинов для больших языковых моделей

Настройка чат-ботов для обслуживания клиентов

Небольшие доменно-специфичные модели можно донастроить для понимания терминологии и контекста конкретной отрасли, а затем использовать их как плагины в большой чат-ботной платформе для предоставления более точных и релевантных ответов.

Помощь в медицинской диагностике

Малая модель, обученная на медицинских записях и литературе, может выступать в роли плагина для LLM, помогая врачам диагностировать заболевания, предлагать лечение и более точно интерпретировать медицинские тесты.

Анализ юридических документов

Малые модели, донастроенные на юридических документах, могут использоваться для улучшения LLM в разборе и понимании юридических контрактов, предоставлении сводок и выделении потенциальных проблем или пунктов.

Перевод языка

Для языков с ограниченными ресурсами малые модели можно обучить на доступных данных и затем использовать как плагины в LLM для улучшения качества перевода и лучшего понимания нюансов.

Образовательные инструменты

Малые модели, адаптированные к образовательному контенту, можно интегрировать с LLM для создания интеллектуальных систем репетиторства, которые предоставляют персонализированную обратную связь и объяснения студентам.

Модерация контента

Малые модели, обученные выявлению определенных типов контента (например, язык вражды, откровенный контент), могут использоваться для расширения возможностей LLM по модерации пользовательского контента на платформах социальных сетей.

Мониторинг здравоохранения

Малые модели, обученные распознавать закономерности в данных пациентов, могут предоставлять ранние предупреждения или подсказки о потенциальных проблемах со здоровьем при интеграции с LLM, которая может обрабатывать и анализировать большие наборы данных.

Эти приложения демонстрируют, как сочетание специализированных знаний малых моделей с широким пониманием LLM может привести к более эффективным, точным и адаптированным решениям в различных профессиональных и личных контекстах.

Как запустить код для SuperICL

Код, представленный ниже, взят с https://github.com/JetRunner/SuperICL?tab=readme-ov-file. По этой ссылке вы найдете все упомянутые Python-скрипты.

Установка

1 Установите необходимые пакеты: Используйте менеджер пакетов pip для установки всех пакетов, перечисленных в файле requirements.txt.

pip install -r requirements.txt

2 Настройте ключ OpenAI API:

• Скопируйте пример конфигурационного файла, чтобы создать свой собственный: cp api_config_example.py api_config.py.
• Отредактируйте новый файл api_config.py с помощью текстового редактора, например vi, чтобы вставить ваш ключ OpenAI API.

Запуск кода для разных задач

1 Бенчмарк GLUE:

• Выполните скрипт run_glue.py с указанными параметрами, чтобы запустить модель на бенчмарке GLUE.
• Укажите --model_path, указывающий на расположение модели, --model_name с идентификатором модели и --dataset, задающий задачу GLUE.
• Чтобы включить объяснения для предсказаний модели, добавьте флаг --explanation.

python run_glue.py \
--model_path roberta-large-mnli \
--model_name RoBERTa-Large \
--dataset mnli-m \
--explanation  # Добавьте этот флаг для объяснений

• Для всех поддерживаемых задач обратитесь к предоставленному документу.

2 Бенчмарк XNLI:

• Запустите скрипт run_xnli.py для задач кросс-языкового логического вывода с указанными параметрами.
• Укажите --model_path с путем к каталогу модели, --model_name с именем модели и --lang со списком языков, включенных в набор данных.

python run_xnli.py \
--model_path /path/to/model \
--model_name XLM-V \
--lang en,ar,bg,de,el,es,fr,hi,ru,sw,th,tr,ur,vi,zh

Дополнительная информация

Для получения всех доступных параметров скриптов обратитесь к репозиторию кода.

Цитирование

Если вы используете эту работу в своих исследованиях, пожалуйста, цитируйте её следующим образом:

@article{xu2023small,
  title={Small Models are Valuable Plug-ins for Large Language Models},
  author={Xu, Canwen and Xu, Yichong and Wang, Shuohang and Liu, Yang and Zhu, Chenguang and McAuley, Julian},
  journal={arXiv preprint arXiv:2305.08848},
  year={2023}
}

Ограничения малых моделей в качестве плагинов для больших языковых моделей

Зависимость от производительности модели-плагина

Общая производительность SuperICL по-прежнему зависит от качества локально донастроенной модели-плагина. Если модель-плагин плохо справляется с задачей, это может ограничить эффективность SuperICL.

Вычислительные затраты

Донастройка модели-плагина требует доступа к достаточным вычислительным ресурсам. Для очень больших размеченных наборов данных эта донастройка может стать непомерно дорогой для небольших исследовательских групп или отдельных лиц.

Обобщаемость на другие задачи

Эксперименты сосредоточены на задачах понимания естественного языка из бенчмарка GLUE. Несмотря на многообещающие результаты, требуется дополнительная оценка эффективности SuperICL на других задачах NLP, таких как генерация, суммаризация, перевод и т.д.

Перенос между задачами

Неясно, насколько хорошо одна модель-плагин, донастроенная на одной задаче, может обобщаться и предоставлять эффективный контекст для совершенно другой задачи при использовании с SuperICL.

Ограничения многоязычности

Хотя SuperICL улучшает многоязычность, его кросс-языковые способности по-прежнему принципиально ограничены исходными многоязычными возможностями модели-плагина, такой как XLM-R.

Заключение

Интеграция малых моделей в качестве плагинов с LLM, как продемонстрировано SuperICL, предлагает убедительное решение присущих крупномасштабному ИИ ограничений. Усиливая возможности LLM, мы прокладываем путь к более нюансированным, эффективным и широко применимым системам ИИ. Однако сохраняются такие проблемы, как зависимость от производительности плагина, вычислительные затраты и обобщаемость на другие задачи, что требует сбалансированного подхода к использованию этой синергии.

Следите за новейшими исследованиями в академическом ИИ!

Novita AI — универсальная платформа для безграничного творчества, предоставляющая доступ к 100+ API. От генерации изображений и обработки языка до улучшения аудио и редактирования видео, недорогая модель оплаты по мере использования, которая избавляет от хлопот с обслуживанием GPU при создании собственных продуктов. Попробуйте бесплатно.