Explora cómo el prompting de Cadena de Pensamiento (CoT) mejora los Modelos de Lenguaje a Gran Escala (LLMs) en diversos ámbitos, desde el razonamiento aritmético hasta el sentido común y el razonamiento simbólico en nuestro blog.
Introducción
Los Modelos de Lenguaje a Gran Escala (LLMs) han transformado el panorama de la inteligencia artificial, ofreciendo capacidades sin precedentes tanto en la comprensión como en la generación de lenguaje natural. Sin embargo, su competencia en la ejecución de tareas de razonamiento complejas ha sido un punto focal de extensa investigación. Un enfoque prometedor en este ámbito es el prompting de Cadena de Pensamiento (CoT). Este artículo profundiza en los matices del prompting CoT y sus repercusiones para la trayectoria futura de los LLMs.
El prompting CoT, tal como se describe en un artículo reciente, es una estrategia diseñada para incitar a los LLMs a dilucidar sus procesos de razonamiento. Esto implica proporcionar al modelo un conjunto de ejemplos donde la vía de razonamiento está explícitamente delineada de manera few-shot. Se espera que el LLM emule una trayectoria de razonamiento similar al responder al prompt. Esta metodología ha demostrado una mejora notable en la eficacia del modelo para tareas que requieren razonamiento complejo.
Una ventaja principal del prompting CoT radica en su capacidad para reforzar el rendimiento de los LLMs en tareas que implican razonamiento aritmético, de sentido común y simbólico. Investigaciones han indicado mejoras sustanciales en el rendimiento, particularmente con modelos que poseen aproximadamente 100 mil millones de parámetros. Por el contrario, los modelos más pequeños han mostrado tendencias a generar cadenas de pensamiento ilógicas, resultando en una precisión disminuida en comparación con las técnicas de prompting convencionales.
Comprendiendo el Prompting de Cadena de Pensamiento
En esencia, el prompting CoT implica dirigir al LLM a pensar paso a paso. Esto implica presentar al modelo un ejemplo few-shot que delinea el proceso de razonamiento. Luego se le solicita al modelo que siga una cadena de pensamiento comparable al formular su respuesta al prompt. Este método resulta particularmente eficaz para tareas intrincadas que demandan una secuencia de pasos de razonamiento antes de generar una respuesta.
Aquí hay un ejemplo de un prompt CoT que utiliza una estrategia few-shot:
Así es como responde el Modelo de Lenguaje a Gran Escala (proporcionado por novita.ai):
El prompting CoT también puede extenderse a un contexto zero-shot. En este escenario, implica añadir una frase como “Abordemos esto paso a paso” al prompt inicial, lo que puede complementar el prompting few-shot. Esta pequeña inclusión ha demostrado ser efectiva para mejorar la eficacia del modelo en tareas donde el prompt carece de ejemplos suficientes.
El Desafío del Manual-CoT
A pesar de los notables logros del Manual-CoT, la creación manual de demostraciones presenta obstáculos. Diversas tareas demandan demostraciones distintas, y crear unas efectivas puede implicar un esfuerzo considerable. Para superar este desafío, los investigadores abogan por un enfoque de prompting CoT automatizado conocido como Auto-CoT. Este método aprovecha los LLMs con el prompt “Abordemos esto paso a paso” para generar de forma autónoma cadenas de razonamiento para las demostraciones.
El Papel de la Diversidad en Auto-CoT
Un hallazgo fundamental del estudio subraya la importancia de la diversidad en la construcción automatizada de demostraciones. Los investigadores observaron que las cadenas de razonamiento generadas automáticamente frecuentemente contienen errores. Para mitigar el impacto de estos errores, introducen una técnica de prompting CoT automatizada llamada Auto-CoT. Auto-CoT selecciona preguntas con atributos diversos y genera cadenas de razonamiento para formular demostraciones. Al aprovechar la diversidad, Auto-CoT se esfuerza por mejorar la calidad de las demostraciones construidas automáticamente.
Beneficios del Prompting de Cadena de Pensamiento
Utilizar el prompting de Cadena de Pensamiento (CoT) con Modelos de Lenguaje a Gran Escala (LLMs) ofrece numerosas ventajas, fomentando interacciones más efectivas y eficientes. Estos son los beneficios clave:
- Precisión Mejorada: El prompting CoT guía al modelo a través de una secuencia de prompts, aumentando notablemente la probabilidad de obtener respuestas precisas y pertinentes. Este enfoque estructurado ayuda a refinar la comprensión del modelo, resultando en salidas más precisas.
- Control Mejorado: Las cadenas proporcionan un marco estructurado para interactuar con los LLMs, otorgando a los usuarios un mayor control sobre las salidas del modelo. Al seguir una secuencia de prompts, los usuarios pueden dirigir la conversación hacia la dirección deseada, minimizando el riesgo de resultados no intencionados o irrelevantes.
- Retención Consistente del Contexto: El aprendizaje adaptativo dentro de las cadenas asegura una preservación consistente del contexto a lo largo de la conversación. Esta retención de contexto fomenta interacciones más coherentes y significativas, ya que el modelo mantiene una memoria del diálogo en curso.
- Eficiencia: El prompting CoT agiliza el proceso de interacción, ahorrando tiempo al evitar la necesidad de múltiples entradas. Los usuarios pueden lograr resultados específicos de manera más eficiente, especialmente cuando buscan un resultado concreto de un prompt de LLM.
- Capacidades de Razonamiento Mejoradas: El prompting CoT anima a los LLMs a centrarse en resolver problemas un paso a la vez, en lugar de considerar todo el desafío simultáneamente. Este enfoque aumenta las capacidades de razonamiento de los LLMs, facilitando un proceso de resolución de problemas más sistemático y práctico.
Tipos de Prompting de Cadena de Pensamiento
En el ámbito del prompting de Cadena de Pensamiento (CoT), han surgido dos estrategias efectivas, ambas cruciales para mejorar las interacciones con los Modelos de Lenguaje a Gran Escala (LLMs). Ahora, exploremos los detalles de estos métodos:
CoT Multimodal
El prompting CoT multimodal inyecta un elemento dinámico en las interacciones textuales convencionales al integrar varios modos de entrada, incluyendo imágenes, audio o video.
Los usuarios inician la Cadena proporcionando un prompt multimodal, presentando un contexto más intrincado para que el LLM lo interprete y aborde. Los prompts de seguimiento pueden incorporar adicionalmente varias modalidades, facilitando una comprensión más profunda de la entrada del usuario. La inclusión de diversas modalidades mejora el contexto, facultando al modelo para captar mejor las sutilezas de la intención del usuario. Las entradas multimodales pueden provocar respuestas más imaginativas del LLM, ampliando el alcance para generar contenido variado y contextualmente pertinente.
Si deseas obtener más información sobre los modelos de lenguaje multimodales, puedes consultar nuestro blog: Large Multimodal Models(LMMs): A Gigantic Leap in AI World
Prompting de Menos a Más
El Prompting de Menos a Más es una estrategia que comienza la cadena con un prompt minimalista y progresivamente aumenta la complejidad en prompts posteriores. La interacción comienza con un prompt básico y amplio, permitiendo al modelo ofrecer una respuesta inicial. A medida que se desarrolla la cadena, los usuarios pueden introducir gradualmente más detalles, especificaciones o complejidades, guiando al modelo hacia una salida más matizada y precisa. Este enfoque incremental facilita una mejora gradual de la comprensión del modelo, mitigando el riesgo de interpretaciones erróneas al inicio de la interacción.
El Prompting de Menos a Más permite a los usuarios ajustar la complejidad de la tarea según la respuesta inicial del modelo, asegurando una interacción más personalizada y pragmática.
Implementación de Auto-CoT
Auto-CoT implica dos pasos principales:
- Segmentar preguntas de un conjunto de datos proporcionado en ocho grupos — se emplea sentence-BERT para codificar las preguntas, después de lo cual se establecen clusters según la similitud de coseno.
- Elegir una pregunta representativa de cada cluster y elaborar su cadena de razonamiento usando Zero-Shot-CoT junto con heurísticas simples — estas heurísticas implican abstenerse de seleccionar preguntas que excedan 60 tokens o cadenas de razonamiento que comprendan más de cinco pasos. Estas heurísticas están diseñadas para aumentar la probabilidad de que la respuesta generada automáticamente sea precisa.
Aplicaciones del Prompting de Cadena de Pensamiento
El Prompting de Cadena de Pensamiento (CoT) encuentra aplicación en diversos dominios, subrayando su versatilidad para aumentar las capacidades de los Modelos de Lenguaje a Gran Escala (LLMs). Aquí hay varias aplicaciones notables junto con ejemplos:
Razonamiento Aritmético
La dificultad de resolver problemas matemáticos con palabras para los modelos de lenguaje es bien conocida. Al integrarse con un modelo de lenguaje de 540 mil millones de parámetros, el prompting CoT logra un rendimiento comparable o superior en benchmarks como MultiArith y GSM8K. Con CoT, el modelo aborda eficazmente tareas de razonamiento aritmético, destacando especialmente con tamaños de modelo más grandes. Esta aplicación subraya la capacidad del CoT para mejorar las capacidades de resolución de problemas matemáticos.
Razonamiento de Sentido Común
El impacto de CoT en la mejora de las habilidades de razonamiento de los modelos de lenguaje en el ámbito del sentido común es evidente en esta aplicación. Las tareas de razonamiento de sentido común, que implican comprender interacciones físicas y humanas basadas en el conocimiento general, pueden ser desafiantes para los sistemas de comprensión del lenguaje natural. El prompting CoT demuestra ser efectivo en tareas como CommonsenseQA, StrategyQA, comprensión de fechas y comprensión deportiva. Si bien el tamaño del modelo generalmente influye en el rendimiento, CoT introduce mejoras adicionales, beneficiando notablemente las tareas de comprensión deportiva.
Razonamiento Simbólico
Las tareas de razonamiento simbólico a menudo presentan obstáculos para los modelos de lenguaje, particularmente con métodos de prompting estándar. Sin embargo, el prompting CoT capacita a los LLMs para abordar tareas como la concatenación de la última letra y lanzamientos de moneda con tasas de resolución impresionantes. Facilita el razonamiento simbólico y ayuda en la generalización de longitud, permitiendo a los modelos manejar entradas más largas durante la inferencia. Esta aplicación resalta el potencial significativo de CoT para mejorar la capacidad de un modelo para ejecutar tareas complejas de razonamiento simbólico.
Respuesta a Preguntas (QA)
El prompting CoT mejora la Respuesta a Preguntas (QA) al descomponer preguntas complejas en pasos lógicos. Esta metodología ayuda al modelo a comprender la estructura de la pregunta y las interconexiones entre sus elementos. CoT promueve el razonamiento multi-salto, donde el modelo recopila e integra iterativamente información de diversas fuentes. Este proceso iterativo resulta en una inferencia mejorada y respuestas más precisas. Al delinear los pasos de razonamiento, CoT también mitiga errores y sesgos comunes en las respuestas. La aplicación de CoT en QA subraya su efectividad para descomponer problemas intrincados, fomentando así un mejor razonamiento y comprensión en los modelos de lenguaje.
Limitaciones y Direcciones Futuras
Aunque el prompting CoT es prometedor, no está exento de inconvenientes. Principalmente, demuestra mejoras de rendimiento únicamente con modelos que tienen alrededor de 100 mil millones de parámetros. Por el contrario, los modelos más pequeños a menudo generan cadenas de pensamiento irracionales, resultando en una precisión disminuida en comparación con los métodos de prompting convencionales. Además, las ganancias de eficacia del prompting CoT generalmente se correlacionan con el tamaño del modelo.
No obstante estas limitaciones, el prompting CoT marca un avance notable en el aumento de la aptitud de razonamiento de los LLMs. Las investigaciones posteriores probablemente se centrarán en perfeccionar este enfoque y explorar vías para reforzar su efectividad en diversas tareas y dimensiones de modelos.
Conclusión
El prompting de Cadena de Pensamiento (CoT) representa un avance significativo en el ámbito de la inteligencia artificial, particularmente en el aumento de las capacidades de razonamiento de los Modelos de Lenguaje a Gran Escala (LLMs). Al incitar a estos modelos a dilucidar su proceso de razonamiento, CoT ha demostrado potencial para mejorar el rendimiento en tareas complejas que demandan razonamiento aritmético, de sentido común y simbólico. A pesar de sus limitaciones, CoT presenta perspectivas prometedoras para la evolución futura de los LLMs.
A medida que empujamos los límites de las capacidades de los LLMs, técnicas como el prompting CoT resultarán indispensables. Al fomentar un enfoque de pensamiento paso a paso y alentar la explicación del razonamiento, no solo mejoramos el rendimiento del modelo en tareas complejas, sino que también obtenemos información invaluable sobre sus mecanismos internos. Si bien el camino para lograr LLMs completamente razonadores sigue siendo largo, metodologías como el prompting CoT sin duda nos sitúan en la trayectoria correcta.
novita.ai, la plataforma integral para la creatividad ilimitada que te brinda acceso a más de 100 APIs. Desde generación de imágenes y procesamiento de lenguaje hasta mejora de audio y manipulación de video, con pago por uso económico, te libera de las molestias del mantenimiento de GPU mientras construyes tus propios productos. Pruébalo gratis.
Lectura recomendada
Novita AI LLM Inference Engine: el mayor rendimiento y la inferencia más económica disponible
