Comprender los modelos pequeños como complementos valiosos para modelos de lenguaje grandes

Introducción

En el panorama en rápida evolución de la inteligencia artificial, la interacción entre los modelos de lenguaje grandes (LLMs) y sus contrapartes más pequeñas es una narrativa de sinergia e innovación. Las imponentes capacidades de LLMs como GPT-3 y GPT-4, aunque impresionantes, están envueltas en una fortaleza de limitaciones: accesibilidad limitada a los pesos del modelo, demandas computacionales inmensas y las restricciones del aprendizaje en contexto (ICL).

Sin embargo, dentro de estos confines hay una grieta, una oportunidad para que los modelos pequeños intervengan como complementos, ofreciendo un puente hacia aplicaciones más personalizadas y eficientes. Este blog profundiza en la necesidad y el impacto de integrar modelos pequeños como complementos en los vastos ámbitos de los LLMs, explorando el concepto de Super Aprendizaje en Contexto (SuperICL) y sus repercusiones en el mundo real.

Comprendiendo los LLMs y los Modelos Pequeños

Diferencias entre LLMs y Modelos Pequeños

Un modelo de lenguaje grande (LLM) es un sistema de IA sofisticado diseñado para procesar y comprender grandes volúmenes de datos de lenguaje natural. Los LLMs suelen tener una gran cantidad de parámetros, a menudo desde cientos de millones hasta miles de millones. Esto les permite capturar patrones y relaciones intrincadas dentro del lenguaje, habilitando capacidades avanzadas como la traducción de idiomas, el resumen de textos, la respuesta a preguntas y la generación de contenido. Los LLMs se entrenan en grandes conjuntos de datos y pueden exhibir comportamientos complejos y “habilidades emergentes” a medida que escalan en tamaño, aunque este último concepto está sujeto a debate, como se discute en la investigación de Stanford.

En contraste, los modelos más pequeños tienen menos parámetros y son menos complejos. Pueden ser más limitados en sus capacidades y en la gama de tareas que pueden realizar de manera efectiva. Los modelos pequeños se utilizan típicamente para tareas más específicas o menos complejas debido a sus menores requisitos computacionales y necesidades de conjuntos de datos más pequeños. Aunque pueden ser muy eficientes y efectivos para ciertas aplicaciones, generalmente no poseen el mismo nivel de comprensión matizada ni la capacidad para manejar una amplia variedad de tareas de lenguaje que los LLMs.

¿Cuáles son los Mejores LLMs de Código Abierto?

• BERT: Desarrollado por Google, BERT es un LLM pionero conocido por su impacto transformador en el procesamiento del lenguaje natural, utilizado globalmente en la Búsqueda de Google e inspirando numerosos modelos especializados.
• Falcon 180B: El LLM del Instituto de Innovación Tecnológica de los EAU con 180 mil millones de parámetros, destacado en generación y procesamiento de texto, con una versión más pequeña, Falcon-40B, también reconocida por su comprensión del lenguaje.
• GPT-NeoX y GPT-J: LLMs de código abierto de EleutherAI con 20 mil millones y 6 mil millones de parámetros, respectivamente, ofreciendo alto rendimiento en diversos dominios y promoviendo la democratización de la IA.
• LLaMA 3: El versátil LLM de Meta AI, que va de 7 a 70 mil millones de parámetros, optimizado para la generación de lenguaje natural y personalizable mediante una licencia de código abierto, con APIs disponibles para desarrolladores. Empresas, como Novita AI, suelen ofrecer APIs de LLaMA 3 para startups de IA.
• BLOOM: Un LLM de código abierto con 176 mil millones de parámetros, un esfuerzo colaborativo de Hugging Face, diseñado para la generación de texto multilingüe y en lenguajes de programación, priorizando la transparencia y la accesibilidad.
• Vicuna 13-B: Ajustado a partir de LLaMa 13B, este modelo conversacional de código abierto es hábil para manejar diálogos extendidos en aplicaciones de chatbot en diversas industrias, mostrando capacidades avanzadas de IA conversacional.

¿Por Qué Necesitamos Modelos Pequeños Como Complementos para Modelos de Lenguaje Grandes?

Accesibilidad Limitada de los Pesos del Modelo

• LLMs como GPT-3 y GPT-4 son herramientas poderosas para una variedad de tareas de procesamiento del lenguaje natural (PLN). Sin embargo, los parámetros de peso reales de estos modelos generalmente no se comparten públicamente debido a preocupaciones de propiedad intelectual y seguridad.
• Sin acceso a los pesos del modelo, no es posible realizar un ajuste fino interno donde los parámetros del modelo se ajustan para adaptarse mejor a una tarea o conjunto de datos específico.

Tamaños Inmensos del Modelo

• Los LLMs son típicamente muy grandes, con miles de millones de parámetros, lo que los hace intensivos en recursos. Los requisitos de hardware para entrenar o incluso ajustar dichos modelos están fuera del alcance de la mayoría de las personas y organizaciones pequeñas.
• El gran tamaño también significa que transferir estos modelos a diferentes hardware o usarlos en entornos con capacidad computacional limitada es un desafío.

Limitaciones del Aprendizaje en Contexto (ICL)

• ICL es una técnica donde se proporcionan algunos ejemplos etiquetados junto con la entrada para ayudar al modelo a hacer predicciones. Este método permite que el modelo aprenda del contexto proporcionado por los ejemplos.
• Sin embargo, ICL está limitado por la longitud de contexto que el LLM puede procesar. Si el contexto es demasiado largo, puede exceder la capacidad del modelo y el modelo no podrá utilizar efectivamente todos los ejemplos proporcionados.
• Esta limitación es particularmente problemática cuando hay una gran cantidad de datos supervisados disponibles, ya que ICL solo puede usar un subconjunto pequeño de ellos debido a la restricción de longitud de contexto.

Para abordar estos problemas, algunos académicos proponen el Super Aprendizaje en Contexto (SuperICL), que combina las fortalezas de los LLMs con modelos más pequeños ajustados localmente. Los modelos más pequeños, o complementos, se ajustan en datos específicos de la tarea y proporcionan un puente entre las capacidades generales del LLM y los requisitos específicos de la tarea en cuestión. Este enfoque permite una transferencia de conocimiento más efectiva y un mejor rendimiento en tareas supervisadas, superando las limitaciones de ICL y los desafíos asociados con el tamaño e inaccesibilidad de los LLMs.

¿Cómo Descubrieron las Personas que los Modelos Pequeños Son Complementos Valiosos para Modelos de Lenguaje Grandes?

En esta sección, discutiremos el artículo titulado “Small Models are Valuable Plug-ins for Large Language Models” de Canwen Xu, Yichong Xu, Shuohang Wang, Yang Liu, Chenguang Zhu y Julian McAuley de la Universidad de California, San Diego y Microsoft. Como siempre, si los detalles de la investigación no le interesan, siéntase libre de saltar a la siguiente sección.

Método

Basándose en el reconocimiento de las limitaciones de los LLMs, que hemos discutido en la sección anterior, los autores proponen SuperICL para combinar LLMs con modelos complementarios más pequeños ajustados localmente. El modelo complementario se ajusta primero en el conjunto de datos supervisados específicos de la tarea. Luego hace predicciones con puntuaciones de confianza sobre los ejemplos de entrenamiento de este conjunto de datos. Estas predicciones se proporcionan como contexto al LLM junto con la entrada de prueba. El LLM utiliza este contexto para hacer la predicción final y puede generar opcionalmente una explicación de su razonamiento.

Diseño del Experimento

Evalúan en el benchmark GLUE para tareas de comprensión del lenguaje natural y en XNLI para transferencia multilingüe cero-shot. Se utiliza GPT-3.5 como LLM y RoBERTa-Large/XLM-R como modelos complementarios. SuperICL se compara con líneas base de ICL con GPT-3.5 y usando solo los modelos complementarios.

Resultados

SuperICL supera tanto a GPT-3.5 ICL como a los modelos complementarios individualmente en el benchmark GLUE. En el conjunto de datos XNLI, SuperICL mejora con respecto a XLM-R para la mayoría de los idiomas, demostrando una transferencia cero-shot efectiva. Un estudio de ablación muestra la importancia de cada componente en el enfoque SuperICL.

Resumen

SuperICL logra un rendimiento superior al combinar las fortalezas de los LLMs y los modelos complementarios más pequeños ajustados en datos de la tarea. Aborda el problema de inestabilidad del ICL regular al separar la comprensión del lenguaje de la absorción de conocimiento específico de la tarea. Además, SuperICL mejora las capacidades de modelos más pequeños, como extender su cobertura multilingüe. También proporciona interpretabilidad al permitir que el LLM genere explicaciones al anular las predicciones del complemento.

Casos Reales de Modelos Pequeños Como Complementos para Modelos de Lenguaje Grandes

Chatbots Personalizados de Atención al Cliente

Se pueden ajustar modelos pequeños específicos de dominio para comprender la terminología y el contexto de una industria particular y luego usarlos como complementos en un marco de chatbot grande para proporcionar respuestas más precisas y relevantes.

Asistencia en Diagnóstico Médico

Un modelo pequeño entrenado en registros médicos y literatura puede actuar como complemento de un LLM para ayudar a los médicos a diagnosticar condiciones, sugerir tratamientos e interpretar pruebas médicas con mayor precisión.

Análisis de Documentos Legales

Se pueden utilizar modelos pequeños ajustados en documentos legales para mejorar los LLMs en el análisis y comprensión de contratos legales, proporcionando resúmenes y destacando posibles problemas o cláusulas.

Traducción de Idiomas

Para idiomas con pocos recursos, se pueden entrenar modelos pequeños con los datos disponibles y luego usarlos como complementos en LLMs para mejorar la calidad de la traducción y manejar mejor los matices.

Herramientas Educativas

Se pueden integrar modelos pequeños adaptados al contenido educativo con LLMs para crear sistemas de tutoría inteligentes que proporcionen retroalimentación y explicaciones personalizadas a los estudiantes.

Moderación de Contenido

Se pueden utilizar modelos pequeños entrenados para detectar tipos específicos de contenido (por ejemplo, discurso de odio, contenido explícito) para mejorar las capacidades de los LLMs en la moderación de contenido generado por usuarios en plataformas de redes sociales.

Monitoreo de Salud

Se pueden utilizar modelos pequeños entrenados para reconocer patrones en datos de pacientes para proporcionar alertas tempranas o información sobre posibles problemas de salud cuando se integran con un LLM que puede procesar y analizar conjuntos de datos más grandes.

Estas aplicaciones demuestran cómo la combinación de conocimiento especializado de modelos pequeños con la comprensión amplia de los LLMs puede llevar a soluciones más eficientes, precisas y adaptadas en diversos contextos profesionales y personales.

Cómo Ejecutar Códigos para SuperICL

Estos códigos presentados a continuación se citan de https://github.com/JetRunner/SuperICL?tab=readme-ov-file. Puede encontrar todos los scripts de Python mencionados a continuación con este enlace.

Proceso de Configuración

1 Instalar los Paquetes Necesarios: Use el gestor de paquetes pip para instalar todos los paquetes requeridos listados en el archivo requirements.txt.

pip install -r requirements.txt

2 Configurar la Clave de API de OpenAI:

• Copie el archivo de configuración de ejemplo para crear su propio archivo de configuración: cp api_config_example.py api_config.py.
• Edite el nuevo archivo api_config.py usando un editor de texto como vi para insertar su clave de API de OpenAI.

Ejecutar el Código para Diferentes Tareas

1 Benchmark GLUE:

• Ejecute el script run_glue.py con los parámetros especificados para ejecutar el modelo en el benchmark GLUE.
• Incluya --model_path apuntando a la ubicación del modelo, --model_name con el identificador del modelo, y --dataset especificando la tarea GLUE.
• Para habilitar explicaciones para las predicciones del modelo, agregue la bandera --explanation.

python run_glue.py \
--model_path roberta-large-mnli \
--model_name RoBERTa-Large \
--dataset mnli-m \
--explanation  # Agregue esta bandera para explicaciones

• Para todas las tareas compatibles, consulte la documentación proporcionada.

2 Benchmark XNLI:

• Ejecute el script run_xnli.py para tareas de inferencia de lenguaje natural multilingüe con los parámetros especificados.
• Especifique --model_path al directorio del modelo, --model_name con el nombre del modelo, y --lang para listar los idiomas incluidos en el conjunto de datos.

python run_xnli.py \
--model_path /path/to/model \
--model_name XLM-V \
--lang en,ar,bg,de,el,es,fr,hi,ru,sw,th,tr,ur,vi,zh

Información Adicional

Para todos los parámetros disponibles de los scripts, consulte el repositorio de código.

Citación

Si utiliza este trabajo en su investigación, cítelo de la siguiente manera:

@article{xu2023small,
  title={Small Models are Valuable Plug-ins for Large Language Models},
  author={Xu, Canwen and Xu, Yichong and Wang, Shuohang and Liu, Yang and Zhu, Chenguang and McAuley, Julian},
  journal={arXiv preprint arXiv:2305.08848},
  year={2023}
}

Limitaciones de los Modelos Pequeños Como Complementos para Modelos de Lenguaje Grandes

Dependencia del rendimiento del modelo complementario

El rendimiento general de SuperICL sigue dependiendo de la calidad del modelo complementario ajustado localmente. Si el modelo complementario tiene un rendimiento deficiente en la tarea, puede limitar la efectividad de SuperICL.

Costo computacional

Ajustar el modelo complementario requiere acceso a recursos computacionales suficientes. Para conjuntos de datos supervisados muy grandes, este ajuste puede volverse prohibitivamente costoso para grupos de investigación pequeños o individuos.

Generalización de tareas

Los experimentos se centran en tareas de comprensión del lenguaje natural en el benchmark GLUE. Aunque prometedor, se necesita más evaluación para evaluar la efectividad de SuperICL en otras tareas de PLN como generación, resumen, traducción, etc.

Transferencia entre tareas

No está claro qué tan bien un único modelo complementario ajustado en una tarea puede generalizar y proporcionar contexto efectivo para una tarea completamente diferente cuando se usa con SuperICL.

Límites multilingües

Si bien SuperICL mejora la multilingüidad, sus capacidades multilingües siguen estando fundamentalmente limitadas por las capacidades multilingües originales del modelo complementario como XLM-R.

Conclusión

La integración de modelos pequeños como complementos con LLMs, como lo demuestra SuperICL, ofrece una solución convincente a las limitaciones inherentes de la IA a gran escala. Al aumentar las capacidades de los LLMs, allanamos el camino para sistemas de IA más matizados, eficientes y ampliamente aplicables. Sin embargo, persisten desafíos como la dependencia del rendimiento del complemento, los costos computacionales y la generalización de tareas, instando a un enfoque equilibrado para aprovechar esta sinergia.

¡Manténgase atento para explorar los hallazgos más recientes de la academia de IA!

Novita AI, la plataforma integral para la creatividad ilimitada que le brinda acceso a más de 100 APIs. Desde generación de imágenes y procesamiento de lenguaje hasta mejora de audio y manipulación de video, con pago por uso económico, lo libera de las molestias del mantenimiento de GPU mientras construye sus propios productos. Pruébelo gratis.