Introducción
¿Cómo y por qué los modelos de lenguaje más grandes realizan el aprendizaje en contexto de manera diferente? En este artículo, exploraremos el concepto de “aprendizaje en contexto” (ICL), discutiremos los hallazgos más recientes sobre los comportamientos de aprendizaje en contexto de modelos de diferentes tamaños en inglés sencillo, y profundizaremos en formas de aprovechar los diferentes comportamientos de ICL de los LLM. ¡Si estás interesado, sigue leyendo!
¿Qué es el “Aprendizaje en Contexto”?
El aprendizaje en contexto es una capacidad emocionante que ha surgido del desarrollo de modelos de lenguaje grandes (LLM). Se refiere a la capacidad de estos modelos para desempeñarse bien en tareas nuevas y no vistas basándose únicamente en una breve serie de ejemplos de tareas proporcionados dentro del contexto de entrada. Esto es una hazaña notable, ya que los modelos son capaces de adaptar y aplicar su conocimiento a situaciones novedosas sin requerir actualizaciones o ajustes en sus parámetros subyacentes.
El aspecto clave del aprendizaje en contexto es que el modelo aprovecha la información contextual dada como parte del mensaje de entrada para informar su respuesta, en lugar de depender únicamente de su conocimiento o entrenamiento preexistente. Por ejemplo, si presentas a un modelo de lenguaje algunos ejemplos de cómo resolver ecuaciones lineales, entonces puede usar ese contexto para resolver una nueva ecuación lineal que nunca ha encontrado antes. El modelo es capaz de inferir el patrón subyacente y aplicarlo al nuevo problema, sin necesidad de ser entrenado explícitamente en ese tipo específico de ecuación.
¿Cuáles son los Beneficios del “Aprendizaje en Contexto”?
Versatilidad y Adaptabilidad
- ICL permite que los modelos de lenguaje grandes se apliquen en una amplia gama de tareas y dominios sin necesidad de reentrenamiento extensivo.
- Esto permite que los modelos expandan continuamente sus capacidades aprendiendo nuevas habilidades a través de ICL.
Eficiencia de Muestras
- ICL requiere relativamente pocos ejemplos para aprender nuevas tareas, reduciendo las necesidades de datos en comparación con el aprendizaje supervisado tradicional.
- Esto es valioso cuando los datos etiquetados son escasos o costosos de obtener.
Eficiencia Computacional
- ICL puede realizarse con una sola pasada hacia adelante a través del modelo, sin actualizaciones de parámetros.
- Esta eficiencia computacional es importante para aplicaciones en tiempo real y despliegues con recursos limitados.
Capacidades Emergentes
- Los modelos de lenguaje grandes a menudo pueden desempeñarse bien en tareas no vistas a través de ICL, superando el rendimiento de modelos entrenados explícitamente en esas tareas.
- Esto sugiere que los modelos pueden aprovechar eficazmente la información contextual para resolver nuevos problemas.
Perspectivas sobre el Comportamiento del Modelo
- Comprender ICL puede proporcionar información valiosa sobre cómo los modelos de lenguaje grandes representan y utilizan el conocimiento.
- Esto puede informar el desarrollo de sistemas de IA más robustos y confiables.
Un Gran Hallazgo: Los Modelos de Lenguaje Más Grandes Realizan el Aprendizaje en Contexto de Manera Diferente
El artículo “Larger Language Models Do In-context Learning Differently” de Jerry Wei, Jason Wei, Yi Tay y otros discute si el aprendizaje en contexto se basa más en los priores semánticos del preentrenamiento o en aprender los mapeos de entrada-etiqueta a partir de los ejemplos.
Si los detalles de la investigación no te interesan, simplemente toma esta conclusión y salta a la siguiente sección: cuanto más grande es el modelo de lenguaje, menos dependiente es del prior semántico (el significado inherente y las asociaciones que los modelos de lenguaje aprenden durante el preentrenamiento) y más capaz es de aprender de los contextos de entrada.
Quiero Profundizar
Antecedentes
- Los modelos de lenguaje pueden realizar diversas tareas posteriores a través del aprendizaje en contexto (ICL), donde se les proporcionan algunos ejemplos como parte del mensaje.
- Hay debate sobre si ICL se basa más en los priores semánticos del preentrenamiento o en aprender los mapeos de entrada-etiqueta a partir de los ejemplos.
Configuraciones Teóricas
Los autores investigan dos configuraciones para sondear la interacción entre los priores semánticos y los mapeos de entrada-etiqueta:
- ICL con etiquetas invertidas: las etiquetas en los ejemplos se invierten, obligando a los modelos a anular los priores semánticos.
- ICL con etiquetas semánticamente no relacionadas (SUL-ICL): las etiquetas no están relacionadas semánticamente con la tarea, eliminando los priores semánticos.
Diseño del Experimento
- Se realizaron experimentos en 7 tareas de NLP en 5 familias de modelos (GPT-3, InstructGPT, Codex, PaLM, Flan-PaLM) de diferentes tamaños.
- Evaluar el rendimiento en las configuraciones de ICL regular, ICL con etiquetas invertidas y SUL-ICL.
Hallazgos Clave
- ICL con etiquetas invertidas: los modelos pequeños no pueden anular los priores semánticos, pero los modelos grandes pueden aprender a seguir las etiquetas invertidas de los ejemplos.
- SUL-ICL: los modelos pequeños dependen más de los priores semánticos, mientras que los modelos grandes pueden aprender mapeos de entrada-etiqueta sin priores semánticos.
- La capacidad de anular los priores semánticos y aprender mapeos de entrada-etiqueta surge con la escala del modelo.
- El ajuste por instrucciones fortalece el uso de priores semánticos más que la capacidad de aprender mapeos de entrada-etiqueta.
¿Por Qué los Modelos de Lenguaje Más Grandes Realizan el Aprendizaje en Contexto de Manera Diferente?
Otro artículo “Why Do Larger Language Models Do In-context Learning Differently?” de Zhenmei Shi, Junyi Wei, Zhuoyan Xu y Yingyu Liang analiza las razones detrás de los diferentes rendimientos de aprendizaje en contexto de LLM grandes y pequeños. Aquí ofrecemos dos versiones: Versión en Inglés Sencillo y Versión Profesional. Siéntete libre de elegir la versión que más te convenga.
Prefiero la Versión en Inglés Sencillo
Este artículo explica el “por qué” detrás de los diferentes comportamientos de ICL de los modelos de lenguaje grandes y pequeños:
La razón clave está relacionada con cómo los modelos asignan atención a diferentes características durante el proceso de aprendizaje en contexto.
Los modelos más pequeños tienden a concentrarse más en las características importantes e informativas que son relevantes para la tarea. Enfatizan estas características clave y, por lo tanto, son más robustos al ruido o a la información irrelevante en el contexto de entrada.
En contraste, los modelos de lenguaje más grandes tienen la capacidad de atender a un rango más amplio de características, incluidas aquellas que son menos importantes o incluso ruidosas. Si bien esto les permite capturar más información, también los hace más susceptibles a distraerse con aspectos irrelevantes o ruidosos del contexto de entrada.
Esencialmente, los modelos más grandes cubren un conjunto más amplio de características, tanto relevantes como irrelevantes, mientras que los modelos más pequeños priorizan las características más destacadas. Esta diferencia en la asignación de atención es lo que lleva a una mayor robustez de los modelos más pequeños durante el aprendizaje en contexto en comparación con sus contrapartes más grandes.
Quiero Profundizar
Antecedentes de la Investigación
El artículo examina por qué los modelos de lenguaje grandes (LLM) exhiben comportamientos de aprendizaje en contexto (ICL) diferentes en comparación con los modelos más pequeños. ICL es una importante capacidad emergente de los LLM, donde pueden desempeñarse bien en tareas no vistas basándose en una breve serie de ejemplos de tareas sin actualizar los parámetros del modelo. Estudios recientes han observado que los LLM más grandes tienden a ser más sensibles al ruido en el contexto de prueba, rindiendo peor que los modelos más pequeños.
Configuraciones Teóricas
Para entender este fenómeno, el artículo analiza dos configuraciones estilizadas:
- Regresión lineal con transformadores lineales de una capa y un solo cabezal
- Clasificación de paridad con transformadores de dos capas y múltiples cabezales de atención
El objetivo es proporcionar ideas teóricas sobre cómo el mecanismo de atención y la escala del modelo afectan el comportamiento de ICL.
Para ambas configuraciones, los autores proporcionan soluciones óptimas de forma cerrada y caracterizan cómo difiere el mecanismo de atención entre modelos más pequeños y más grandes.
Diseño del Experimento
Los autores realizan experimentos de aprendizaje en contexto en cinco tareas de NLP prevalentes utilizando varios tamaños de las familias de modelos Llama. Los resultados experimentales se utilizan para corroborar el análisis teórico.
Hallazgos Clave
- Los modelos más pequeños enfatizan las características ocultas importantes, mientras que los modelos más grandes cubren más características, incluidas características menos importantes o ruidosas.
- Los modelos más pequeños son más robustos al ruido de etiquetas y al ruido de entrada durante la evaluación, mientras que los modelos más grandes se distraen más fácilmente con tales ruidos, lo que lleva a un peor rendimiento de ICL.
- El análisis teórico y los resultados experimentales proporcionan información sobre cómo el mecanismo de atención y la escala del modelo afectan el comportamiento de ICL, arrojando luz sobre el funcionamiento interno de los LLM.
Aprovechando los Diferentes Comportamientos de ICL de los LLM
Reconocer estas diferencias matizadas es crucial para seleccionar el modelo adecuado según las características de los datos y los requisitos de la tarea. Como hemos aprendido de dos artículos anteriores, los modelos más pequeños son más robustos a la entrada ruidosa, ya que se centran en características clave y se distraen menos con información irrelevante. Los modelos más grandes, en contraste, sobresalen en tareas que requieren una comprensión integral de diversas características, aprovechando su conocimiento contextual más amplio.
Por lo tanto, para aprovechar los diferentes comportamientos de ICL de los LLM, Novita AI proporciona a los desarrolladores de startups de IA APIs de LLM rentables y de escalado automático con diferentes opciones de modelos LLM.
Con solo unas pocas líneas de código, puedes integrar poderosos LLM en tus productos de IA. Siéntete libre de probar las capacidades de diferentes LLM en Novita AI Playground antes de decidir usar nuestras APIs.
Conclusión
El aprendizaje en contexto es la capacidad de los modelos de lenguaje grandes (LLM) para desempeñarse bien en tareas no vistas basándose en la entrada, es decir, el contexto.
¿Cómo realizan los modelos de lenguaje más grandes el aprendizaje en contexto de manera diferente? Cuanto más grande es el modelo de lenguaje, menos dependiente es del prior semántico y más capaz es de aprender de los contextos de entrada.
¿Por qué realizan los modelos de lenguaje más grandes el aprendizaje en contexto de manera diferente? La razón clave detrás de estas diferencias está relacionada con cómo los modelos asignan atención a diferentes características durante el proceso de aprendizaje en contexto.
Para aprovechar los divergentes comportamientos de aprendizaje en contexto exhibidos por diferentes modelos de lenguaje, implementar una API con diversas selecciones de modelos LLM puede resultar ventajoso.
Novita AI, la plataforma integral para una creatividad sin límites que te brinda acceso a más de 100 APIs. Desde generación de imágenes y procesamiento de lenguaje hasta mejora de audio y manipulación de video, pago por uso económico, te libera de las molestias del mantenimiento de GPU mientras creas tus propios productos. Pruébalo gratis.
