Presentando OpenHermes 2.5: Comprendiendo el Poder del Mensajero de los Dioses

Introducción

Bienvenido a nuestra exploración de OpenHermes 2.5, un innovador conjunto de datos desarrollado por Teknium. Este blog profundiza en las características, aplicaciones y avances de esta extensión de modelo de última generación.

¿Qué es OpenHermes 2.5?

Antecedentes básicos de OpenHermes 2.5

Desarrollado por Teknium, OpenHermes 2.5 es una extensión y mejora del conjunto de datos Open Hermes 1. Se caracteriza por una escala mucho mayor, mayor diversidad y mayor calidad, con una compilación de más de 1 millón de muestras de instrucciones y chats generadas sintéticamente.

Características clave de OpenHermes 2.5

• Es una compilación de varios conjuntos de datos de código abierto y conjuntos de datos sintéticos creados a medida.
• El conjunto de datos se ha integrado con Lilac, una plataforma de curación y exploración de datos, y está disponible en HuggingFace para exploración, curación y búsquedas de incrustaciones de texto.
• OpenHermes 2.5 incluye contribuciones de múltiples fuentes, como Airoboros 2.2, CamelAI Domain Expert Datasets, ChatBot Arena, Collective Cognition y otras, cada una proporcionando un conjunto único de datos que enriquece el conjunto general.
• La estructura de OpenHermes 2.5 sigue un formato sharegpt, que es una lista de diccionarios. Cada entrada incluye una lista “conversations” con diccionarios para cada turno, indicando el rol (por ejemplo, “system”, “human”, “gpt”) y el valor de texto de la conversación.

Fuentes del conjunto de datos de OpenHermes 2.5

OpenHermes 2.5 incorpora datos de una amplia gama de fuentes, cada una contribuyendo a la exhaustividad y utilidad del conjunto de datos para entrenar modelos de lenguaje. Algunas fuentes notables incluyen:

• Airoboros 2.2: Un conjunto de datos de Jon Durbin.
• CamelAI Domain Expert Datasets: Cubriendo Física, Matemáticas, Química y Biología.
• ChatBot Arena: Un conjunto de datos específico de GPT-4.
• Collective Cognition: Un conjunto de datos de Teknium.
• Glaive Code Assistant: Un conjunto de datos destinado a mejorar las habilidades de codificación.
• GPTeacher: Una colección de conjuntos de datos modulares para entrenar modelos de lenguaje.
• SlimOrca 550K: Un conjunto de datos que contribuye a los esfuerzos de replicación de Orca.

¿Qué es OpenHermes-2.5-Mistral-7B?

Explicación

• Continuación de OpenHermes 2: OpenHermes 2.5 Mistral 7B es un ajuste fino de Mistral de última generación. Se basa en el modelo anterior OpenHermes 2, lo que indica una progresión en su desarrollo y capacidades.
• Entrenamiento en conjuntos de datos de código: Una parte significativa de los datos de entrenamiento (aproximadamente el 7–14% del conjunto total) consiste en instrucciones de código. Este entrenamiento en código ha tenido un impacto positivo en el rendimiento del modelo.
• Datos de entrenamiento: OpenHermes 2.5 se entrenó en 1 millón de entradas, generadas principalmente por GPT-4, junto con otros datos de alta calidad de varios conjuntos de datos abiertos en el panorama de la IA. Esta diversidad de datos de entrenamiento probablemente contribuye a las amplias capacidades del modelo.
• Filtrado de datos y conversión de formato: Se aplicó un filtrado extenso a los conjuntos de datos públicos utilizados para el entrenamiento. Todos los formatos de datos se convirtieron a ShareGPT, que luego se transformó aún más mediante axolotl para usar ChatML. Este proceso de estandarización y transformación garantiza consistencia en los datos de entrenamiento y puede contribuir al rendimiento mejorado del modelo.

Rendimiento en benchmarks de OpenHermes-2.5-Mistral-7B

• TruthfulQA, AGIEval y GPT4All Suite: El modelo ha experimentado un aumento en el rendimiento en estos benchmarks no relacionados con código, lo que sugiere que el entrenamiento en conjuntos de datos de código se ha generalizado bien a otras áreas.
• BigBench: Curiosamente, aunque la puntuación del modelo en el benchmark BigBench disminuyó, la ganancia neta general en rendimiento en otros benchmarks sigue siendo significativa, lo que indica una mejora en las capacidades del modelo.

• Mejora en la puntuación Humaneval: El rendimiento del modelo en el benchmark humaneval, que mide la capacidad de realizar evaluaciones similares a las humanas, mejoró del 43% en Pass 1 con Open Hermes 2 al 50.7% en Pass 1 con OpenHermes 2.5. Este es un aumento sustancial y refleja la capacidad mejorada del modelo para generar respuestas más humanas.

¿Cuáles son las aplicaciones prácticas de OpenHermes-2.5-Mistral-7B en la industria?

Como desarrolladores, estáis a la vanguardia de la innovación, buscando constantemente herramientas que puedan mejorar la productividad y crear experiencias de usuario atractivas. OpenHermes 2.5 Mistral 7B, con sus capacidades avanzadas, abre un abanico de posibilidades en diversos dominios. Exploremos algunas aplicaciones prácticas que pueden beneficiarse de este modelo de última generación.

Chat de acompañante AI

Interacción de usuario mejorada: El dominio de OpenHermes 2.5 Mistral 7B en comprensión y generación de lenguaje natural lo convierte en un candidato ideal para desarrollar chats de acompañante AI. Ya sea para bots de servicio al cliente, asistentes virtuales o personajes interactivos en juegos, este modelo puede proporcionar conversaciones más matizadas y humanas.

Personalización: Aprovechando la capacidad del modelo para entender el contexto y generar respuestas relevantes, los desarrolladores pueden crear experiencias de chat personalizadas que se adapten a las preferencias y necesidades individuales de los usuarios.

Soporte multilingüe: Con entrenamiento y adaptación adicionales, OpenHermes 2.5 Mistral 7B puede extenderse para admitir múltiples idiomas, abriendo mercados globales para aplicaciones de acompañante AI.

Generación de novelas AI

Escritura creativa: La fortaleza del modelo para generar texto similar al humano lo convierte en una herramienta poderosa para la generación de novelas AI. Los desarrolladores pueden utilizar esta capacidad para crear tramas, personajes y diálogos únicos para libros, guiones o narrativas interactivas.

Creación automatizada de contenido: Para creadores de contenido y especialistas en marketing digital, OpenHermes 2.5 Mistral 7B puede automatizar la generación de publicaciones de blog, artículos o contenido para redes sociales atractivos, ahorrando tiempo y recursos mientras mantiene un alto nivel de calidad.

Narración interactiva: En la industria de los videojuegos, este modelo puede ser la base de experiencias de narración interactiva donde la narrativa se adapta en tiempo real a las elecciones del jugador, creando un entorno profundamente inmersivo.

Resumen AI

Procesamiento eficiente de información: Las capacidades de resumen de OpenHermes 2.5 Mistral 7B son invaluables para procesar grandes volúmenes de texto y extraer puntos clave. Esto se puede aplicar a agregación de noticias, investigación o inteligencia empresarial para proporcionar resúmenes concisos de documentos extensos.

Análisis de datos: En el ámbito del análisis de datos y la generación de informes, este modelo puede sintetizar ideas a partir de conjuntos de datos complejos y presentarlas en un formato fácilmente digerible, ayudando en los procesos de toma de decisiones.

Herramientas educativas: Para aplicaciones educativas, el resumen impulsado por AI puede ayudar a estudiantes e investigadores proporcionando resúmenes de artículos académicos, libros o apuntes de clases, facilitando un aprendizaje más rápido y efectivo.

Como desarrolladores, probablemente estaréis interesados en cómo integrar OpenHermes 2.5 Mistral 7B en vuestros proyectos. La siguiente sección os ofrece dos formas de acceder a OpenHermes 2.5 Mistral 7B.

¿Cómo obtener acceso a OpenHermes-2.5-Mistral-7B?

Cómo descargar y usar este modelo en text-generation-webui

1. Actualizar a la última versión: Asegúrate de estar utilizando la versión más reciente de text-generation-webui.
2. Usar instaladores de un clic: Se recomienda encarecidamente utilizar los instaladores de un clic para text-generation-webui a menos que estés seguro de realizar una instalación manual.
3. Navegar a la pestaña Modelo: Haz clic en la pestaña “Model” dentro de la interfaz.
4. Ingresar detalles del modelo: En la sección para descargar un modelo o LoRA personalizado, escribe TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ. Si deseas descargar desde una rama específica, por ejemplo, TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ:gptq-4bit-32g-actorder_True, consulta la lista de ramas proporcionada anteriormente para cada opción.
5. Iniciar la descarga: Haz clic en el botón “Download” para comenzar el proceso de descarga del modelo. Una vez completado, verás que el estado cambia a “Done.”
6. Actualizar la lista de modelos: Haz clic en el icono de actualización en la esquina superior izquierda para actualizar la lista de modelos disponibles.
7. Seleccionar el modelo descargado: En el menú desplegable de Modelos, elige el modelo que acabas de descargar: OpenHermes-2.5-Mistral-7B-GPTQ.
8. Cargar el modelo: El modelo se cargará automáticamente y estará listo para usar.
9. Configuraciones personalizadas (si es necesario): Si tienes alguna configuración personalizada que aplicar, configúrala y luego haz clic en “Save settings for this model”, seguido de “Reload the Model” en la esquina superior derecha.
10. Nota sobre los parámetros GPTQ: Ya no es necesario establecer manualmente los parámetros GPTQ. Ahora se configuran automáticamente desde el archivo quantize_config.json.
11. Comenzar a generar texto: Una vez que todo esté configurado, haz clic en la pestaña “Text Generation”, ingresa tu prompt y comienza a generar texto.

Puedes encontrar todos los archivos necesarios de TheBloke en Hugging Face. Siguiendo estos pasos, puedes descargar y utilizar fácilmente el modelo OpenHermes-2.5-Mistral-7B-GPTQ dentro de text-generation-webui.

Cómo usar OpenHermes-2.5-Mistral-7B en Novita AI

Si te resulta problemático descargar y usar OpenHermes-2.5-Mistral-7B en text-generation-webui, puedes acceder a él mediante la API LLM de Novita AI, que cuenta con OpenHermes-2.5-Mistral-7B y otros modelos potentes y recientes como Llama 3 8B instruct, Llama 3 70B instruct y MythoMax-L2–13B:

Con solo unas líneas de código, puedes hacer una llamada a la API y aprovechar el poder de OpenHermes-2.5-Mistral-7B y otros modelos potentes:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    # Get the Novita AI API Key by referring: https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
    api_key="<YOUR Novita AI API Key>",
)
model = "teknium/openhermes-2.5-mistral-7b"
completion_res = client.completions.create(
    model=model,
    prompt="A chat between a curious user and an artificial intelligence assistant".
    stream = True, # or False
    max_tokens = 512,
)

Conclusión

En conclusión, OpenHermes 2.5 emerge como un avance fundamental en la tecnología de IA, combinando una extensa curación de datos con entrenamiento de modelos de última generación. Desde su creación por Teknium hasta su integración con plataformas como Lilac y su disponibilidad en HuggingFace, este conjunto de datos ejemplifica un salto adelante en el procesamiento del lenguaje natural.

A lo largo de este blog, hemos explorado las aplicaciones multifacéticas de OpenHermes 2.5. Ya sea mejorando las interacciones de los usuarios a través de chats de acompañante AI, fomentando la creatividad en la generación de novelas AI o permitiendo un resumen eficiente de datos, este modelo empodera a los desarrolladores para innovar en diversos dominios.

Novita AI es la plataforma en la nube integral que impulsa tus ambiciones de IA. Con APIs perfectamente integradas, computación sin servidor y aceleración de GPU, proporcionamos las herramientas rentables que necesitas para construir y escalar rápidamente tu negocio impulsado por IA. Elimina los problemas de infraestructura y comienza gratis: Novita AI hace realidad tus sueños de IA.