Sumérgete en dolphin-2.1-Mistral-7B y LLMs alternativos sin censura

Introducción

¿Alguna vez te has preguntado qué podría lograr una IA sin las restricciones de la censura? ¿Qué tal un modelo de IA que no solo sea un conversador, sino también un artista, un escritor y un investigador? Bienvenido al reino del modelo Dolphin-2.1-mistral-7B, un LLM que es un testimonio del poder de la innovación de código abierto y el potencial de la IA para sobresalir en diversos dominios. En este blog, exploraremos el modelo Dolphin-2.1-mistral-7B, su naturaleza y las aplicaciones prácticas que abre para los desarrolladores. ¡Embarquémonos en este viaje!

Entendiendo el Modelo dolphin-2.1-mistral-7B

Resumen

Patrocinado por a16z y construido sobre los principios de colaboración de código abierto por Cognitive Computations, este modelo se destaca por su naturaleza, permitiendo una interacción con IA más flexible y creativa. Con su licencia Apache-2.0, el modelo Dolphin-2.1-mistral-7B es accesible tanto para fines comerciales como no comerciales, atendiendo a una base de usuarios diversa.

Fundamento e Inspiración

El modelo Dolphin-2.1-mistral-7B es una interpretación de código abierto de Microsoft Orca, reflejando un compromiso con la innovación y el desarrollo impulsado por la comunidad. La arquitectura del modelo está inspirada en los últimos avances en IA basada en transformers, asegurando un rendimiento y adaptabilidad de vanguardia.

Entrenamiento y Conjunto de Datos

El proceso de entrenamiento de Dolphin-2.1-mistral-7B implicó un meticuloso régimen de 48 horas en GPUs A100 de alto rendimiento. El conjunto de datos para el modelo Dolphin-2.1-mistral-7B es una versión modificada del conjunto de datos Dolphin, que es una implementación de código abierto del conjunto de datos Orca de Microsoft. Ha sido mejorado y refinado para mejorar el rendimiento y la versatilidad del modelo:

1. Sin censura: El conjunto de datos se filtró para eliminar cualquier sesgo inherente o restricciones de alineación, permitiendo que el modelo responda más libremente a una amplia gama de indicaciones.
2. Desduplicación: Se llevó a cabo el proceso de eliminar entradas duplicadas para garantizar la diversidad y singularidad de los datos de entrenamiento.
3. Limpieza: El conjunto de datos se sometió a un proceso de limpieza exhaustivo para eliminar cualquier ruido o datos irrelevantes que pudieran afectar la eficiencia del aprendizaje del modelo.
4. Mejora de calidad: Se hicieron esfuerzos para mejorar la calidad general del conjunto de datos, centrándose en la relevancia y precisión de los puntos de datos.
5. Inclusión de conjuntos de datos externos: Para enriquecer aún más el conjunto de datos, se integró el conjunto de datos Airoboros de Jon Durbin. Esta adición tiene como objetivo impulsar la creatividad del modelo y la variedad de respuestas.

Métricas de Rendimiento

Las capacidades del modelo se ven subrayadas por sus métricas de rendimiento, que reflejan su competencia en diferentes tareas y evaluaciones, como ARC, HellaSwag, MMLU y otras, demostrando su competencia integral.

Características Clave de dolphin-2.1-mistral-7B

Cumplimiento y Ética

Uno de los principios de diseño centrales del modelo Dolphin-2.1-mistral-7B es su naturaleza. Si bien esto permite una mayor flexibilidad, también requiere que los usuarios implementen sus propias capas de alineación para garantizar un uso ético, particularmente al exponer el modelo como un servicio.

Cumplimiento Mejorado

La naturaleza del modelo Dolphin-2.1-mistral-7B significa que puede responder a un espectro más amplio de indicaciones sin los sesgos inherentes presentes en otros modelos de IA. Esta característica, aunque poderosa, conlleva la responsabilidad de la administración ética.

Personalización

Con su licencia Apache-2.0, el modelo Dolphin-2.1-mistral-7B se puede personalizar e integrar en varios sistemas y aplicaciones, lo que lo convierte en una herramienta versátil para desarrolladores y empresas por igual.

Formato de Indicación ChatML

El modelo Dolphin-2.1-mistral-7B emplea un formato de indicación ChatML, simplificando las interacciones y facilitando a los usuarios dirigir la IA en roles o tareas específicas, mejorando la experiencia del usuario y la utilidad del modelo.

Explorando LLMs

Hacer un LLM implica eliminar o reducir las restricciones que impiden que genere ciertos tipos de contenido. El proceso generalmente incluye los siguientes pasos:

Entendiendo la Alineación

Reconocer que la mayoría de los modelos están alineados para evitar generar contenido dañino o controvertido. Esta alineación suele ser el resultado de los datos de entrenamiento, que pueden estar influenciados por los sesgos y directrices de la organización que lo creó.

Recolección de Datos

Obtener un conjunto de datos que se haya utilizado para ajustar el modelo. Este conjunto de datos contiene los pares de entrada-salida en los que se ha entrenado el modelo.

Filtrado del Conjunto de Datos

Analizar el conjunto de datos para identificar instancias donde las respuestas del modelo están restringidas debido a la alineación. Estas instancias pueden incluir negativas a responder preguntas o respuestas sesgadas hacia ciertos puntos de vista.

Eliminación de Negativas

Editar el conjunto de datos para eliminar o modificar las respuestas que muestren negativas o sesgos. El objetivo es crear una versión del conjunto de datos que no transmita estas restricciones al modelo.

Reentrenamiento del Modelo

Usar el conjunto de datos filtrado para reentrenar el modelo. Este paso implica alimentar el conjunto de datos modificado de vuelta al modelo para que aprenda de los nuevos datos menos restringidos.

Ajuste de Parámetros de Entrenamiento

Durante el proceso de reentrenamiento, es posible que necesites ajustar varios parámetros como la tasa de aprendizaje, el tamaño del lote y las épocas para optimizar el rendimiento del modelo sin censura.

Pruebas e Iteración

Después del reentrenamiento, probar el modelo para asegurarse de que se comporte como se espera: generando respuestas sin censura mientras se mantiene la calidad y coherencia de sus salidas. Puede ser necesario iterar sobre el filtrado del conjunto de datos y el proceso de reentrenamiento para lograr los resultados deseados.

Despliegue

Una vez que estés satisfecho con el comportamiento del modelo, desplegarlo en tu aplicación o servicio, asegurándote de que se use de manera responsable y ética.

Monitoreo y Actualizaciones

Monitorear continuamente el rendimiento del modelo y realizar actualizaciones según sea necesario para mantener su estado y abordar cualquier problema emergente.

Consideraciones Éticas

A lo largo de este proceso, es crucial considerar las implicaciones éticas de crear y usar un modelo. Asegurarse de que el uso del modelo esté alineado con tus valores y las expectativas de tus usuarios.

Significados del LLM como dolphin-2.1-mistral-7B

Los modelos importan por varias razones, como se describe en la publicación del blog de Eric Hartford (uno de los miembros principales del equipo de Cognitive Computations) titulada Models. Aquí están los puntos clave que explican su importancia:

Diversidad Cultural

El mundo no es homogéneo, y diferentes culturas, ideologías políticas y sistemas de creencias tienen perspectivas variadas. Los modelos permiten una diversidad de puntos de vista, en lugar de estar limitados por una sola alineación cultural o ideológica, típicamente la del origen de los datos de entrenamiento.

Libertad de Expresión

Escritores, artistas y creadores de contenido pueden necesitar explorar temas oscuros o controvertidos en su trabajo. Los modelos censurados podrían negarse a interactuar con dicho contenido, limitando la libertad creativa. Los modelos no imponen restricciones basadas en los estándares éticos o morales de los datos de entrenamiento.

Curiosidad Intelectual

Las personas tienen una curiosidad natural por entender cómo funcionan las cosas, incluso si esas cosas son potencialmente peligrosas. Por ejemplo, alguien podría querer aprender sobre la química detrás de los explosivos puramente por interés, no con la intención de causar daño. Los modelos censurados podrían impedir este tipo de investigación, mientras que los modelos lo permiten.

Autonomía del Usuario

Los usuarios deberían tener control sobre sus propios dispositivos y el software que se ejecuta en ellos. Así como una persona espera que una tostadora o un automóvil funcionen como desea, debería poder hacer preguntas a un modelo de IA sin que el modelo se niegue a responder según su propia alineación.

Componibilidad

Para crear sistemas de IA que puedan adaptarse a diversos casos de uso y restricciones, es posible que necesites comenzar con un modelo no alineado y luego aplicar alineaciones específicas encima. Esto permite un enfoque más flexible y personalizable para el desarrollo de IA.

Investigación Científica

En algunos casos, la censura puede obstaculizar el progreso científico. Los investigadores podrían necesitar acceso a una amplia gama de información, incluida aquella que es sensible o controvertida, para avanzar en su trabajo.

Protección Legal y Ética

Si bien la alineación puede proteger a las empresas de problemas legales y de relaciones públicas, también puede verse como una forma de autocensura que podría no ser deseable en todos los contextos.

Transparencia y Control

Los modelos pueden proporcionar más transparencia sobre cómo funcionan los modelos de IA, ya que sus respuestas no se filtran a través de una capa de alineación. Esto puede ser valioso para comprender y depurar el comportamiento del modelo.

En resumen, los modelos importan porque respaldan una gama más amplia de actividades humanas, desde esfuerzos creativos hasta exploración intelectual, y defienden principios de autonomía del usuario y flexibilidad en las aplicaciones de IA. Sin embargo, es importante tener en cuenta que con la libertad proporcionada por los modelos viene la responsabilidad de usarlos de manera ética y segura.

Configuración de dolphin-2.1-mistral-7B

Aviso: Todos los archivos necesarios se pueden encontrar en Huggingface en TheBloke. Familiarízate con el siguiente proceso para gestionar estos archivos de manera efectiva.

Paso 1: Elige tu Archivo de Modelo Cuantizado

Decide qué versión cuantizada del modelo Dolphin 2.1 Mistral 7B deseas descargar según el equilibrio entre calidad y tamaño. Para un enfoque equilibrado, se recomiendan los archivos Q4_K_M.gguf o Q5_K_M.gguf.

Paso 2: Instala las Herramientas Necesarias

Necesitarás Python y git instalados en tu sistema. Si no los tienes, descárgalos e instálalos:

• Python: Instalar desde python.org.
• Git: Instalar desde git-scm.com.

Paso 3: Instala Huggingface Hub CLI

Esta herramienta te ayudará a descargar los archivos del modelo de manera eficiente.

pip3 install huggingface-hub

Paso 4: Descarga el Modelo

Usa Huggingface Hub CLI para descargar el archivo del modelo elegido al directorio actual.

huggingface-cli download TheBloke/dolphin-2.1-mistral-7B-GGUF dolphin-2.1-mistral-7b.Q4_K_M.gguf --local-dir . --local-dir-use-symlinks False

Paso 5: Elige un Cliente o Biblioteca

Selecciona un cliente o biblioteca que admita GGUF para interactuar con el modelo. Algunas opciones populares incluyen:

• llama.cpp: Ofrece una interfaz de línea de comandos y opción de servidor.
• text-generation-webui: Una interfaz web con muchas funciones y extensiones.
• ctransformers: Una biblioteca de Python para usar modelos en código Python.

Paso 6: Instala el Cliente o Biblioteca

Por ejemplo, si eliges usar ctransformers, instálalo con soporte GPU si tienes un sistema compatible:

pip install ctransformers[cuda]

Paso 7: Configura el Entorno

Si estás usando una herramienta de línea de comandos como llama.cpp, asegúrate de que sea compatible con el formato GGUF y descárgala si es necesario.

Paso 8: Ejecuta el Modelo

Usando el cliente o biblioteca elegido, carga el modelo y comienza a generar texto. Aquí hay un ejemplo usando ctransformers:

from ctransformers import AutoModelForCausalLM

# Set gpu_layers to the number of layers to offload to GPU (set to 0 if no GPU)
llm = AutoModelForCausalLM.from_pretrained("TheBloke/dolphin-2.1-mistral-7B-GGUF", model_file="dolphin-2.1-mistral-7b.Q4_K_M.gguf", model_type="mistral", gpu_layers=50)
# Generate text
print(llm("AI is going to"))

Paso 9: Interactúa con el Modelo

Ahora que el modelo está configurado, puedes interactuar con él proporcionando indicaciones y recibiendo respuestas.

Paso 10: Uso Avanzado

Explora las funciones avanzadas del cliente o biblioteca que estés usando, como interacciones en estilo chat, plantillas de indicaciones personalizadas y más.

Consejos Adicionales:

• Siempre revisa la documentación del cliente o biblioteca que estés usando para obtener instrucciones específicas y parámetros adicionales.
• Si encuentras algún problema, consulta los foros de la comunidad o los problemas de GitHub de las herramientas respectivas para solucionar problemas.
• Recuerda gestionar tus recursos, especialmente si estás usando aceleración GPU.

Si deseas más información sobre la configuración de dolphin-2.1-mistral-7B, visita TheBloke en Huggingface.

Consejos para Integrar dolphin-2.1-mistral-7B con Otras Plataformas

1. Aprovecha la Naturaleza

Ya que Dolphin está diseñado sin alineación, considera crear una capa de alineación personalizada si tu aplicación requiere restricciones éticas o moderación de contenido.

2. Elige la Cuantización Adecuada

Selecciona un archivo de modelo cuantizado que coincida con la necesidad de calidad versus rendimiento de tu aplicación. El rango de 2 a 8 bits te da flexibilidad según el equilibrio que necesites.

3. Utiliza el Formato de Indicación ChatML

Aprovecha el formato ChatML para crear un modelo de interacción estructurado entre los usuarios y la IA, para el cual Dolphin está diseñado.

4. Asegura la Compatibilidad del Sistema

Verifica que tu plataforma pueda manejar los requisitos del sistema del modelo Dolphin, considerando las especificaciones de RAM y GPU para la cuantización elegida.

5. Optimiza para el Rendimiento

Aprovecha al máximo las funciones de aceleración GPU, que son cruciales para manejar las demandas computacionales de Dolphin, especialmente para cuantizaciones más grandes.

6. Uso Seguro y Responsable

Implementa filtros o herramientas de moderación para gestionar las respuestas, asegurando que se alineen con los estándares éticos de tu plataforma.

7. Carga Fluida del Modelo

Usa bibliotecas como ctransformers para una fácil carga del modelo, lo cual es esencial para mantener el rendimiento del modelo Dolphin.

8. Diseño de Interfaz de Usuario

Diseña la interfaz de usuario para ayudar a los usuarios a crear indicaciones ChatML efectivas, aprovechando la fortaleza de Dolphin en conversaciones estructuradas.

9. Consideraciones Éticas

Sé transparente con los usuarios sobre la naturaleza de Dolphin y cualquier filtrado de contenido aplicado dentro de tu plataforma.

10. Pruebas Exhaustivas

Prueba la integración en varios escenarios para asegurarte de que las respuestas se manejen adecuadamente dentro del contexto de tu aplicación.

11. Documentación y Mejores Prácticas

Proporciona documentación que destaque las mejores prácticas para la construcción de indicaciones y el uso ético del modelo.

12. Monitoreo e Iteración

Monitorea continuamente el rendimiento del modelo y realiza ajustes según sea necesario para acomodar las demandas computacionales de Dolphin.

13. Actualizaciones Regulares

Mantén el modelo y su software asociado actualizados para beneficiarte de las últimas mejoras y parches de seguridad.

Aplicaciones Prácticas de LLMs para Desarrolladores

Chat de Compañero IA

Los LLMs se pueden emplear para crear aplicaciones de chat de compañero IA que ofrezcan una experiencia conversacional más abierta y flexible. A diferencia de sus contrapartes censuradas, estos modelos pueden participar en discusiones sobre una gama más amplia de temas, incluidos aquellos que son controvertidos o culturalmente sensibles. Los desarrolladores pueden aprovechar esta característica para construir compañeros que proporcionen:

• Interacciones Culturalmente Diversas: Chatbots que pueden adaptarse a diversos contextos culturales y preferencias de usuario.
• Experiencia de Usuario Holística: Conversaciones menos restringidas, permitiendo a los usuarios explorar una multitud de temas libremente.
• Filtros de Contenido Personalizables: La capacidad de implementar filtros personalizados según las necesidades del usuario o requisitos específicos de la aplicación.

Chat IA

Para desarrolladores que buscan crear aplicaciones de chat que superen los límites de la IA conversacional tradicional, los LLMs ofrecen oportunidades únicas:

• Desarrollo de Contenido Creativo: Soporte para generar narrativas o diálogos que involucren temas maduros u oscuros, lo cual puede ser esencial para ciertos tipos de narración.
• Investigación y Exploración: Facilitar el acceso a información que podría estar censurada en otros lugares, apoyando así la curiosidad intelectual y la investigación.
• Transparencia en las Interacciones: Proporcionar a los usuarios la seguridad de que la IA no está ocultando información debido a restricciones incorporadas.

Generación de Novelas IA

Los LLMs pueden ser particularmente útiles para desarrolladores interesados en la escritura creativa automatizada, como la generación de novelas o historias:

• Producción Creativa Sin Restricciones: La capacidad de producir contenido que incluya temas y elementos que podrían estar restringidos por modelos censurados.
• Exploración de Géneros Diversos: Desde fantasía hasta thrillers criminales, los modelos pueden manejar una variedad de géneros que pueden involucrar material sensible o explícito.
• Desarrollo de Personajes: Soporte para crear personajes complejos con historias intrincadas que pueden implicar acciones poco éticas o controvertidas.

Resumen IA

Si bien la síntesis puede parecer sencilla, los LLMs pueden ofrecer una perspectiva diferente:

• Resúmenes Exhaustivos: Resumir contenido que podría ser considerado sensible o controvertido por modelos censurados, asegurando que todos los puntos de vista estén representados.
• Herramientas de Investigación y Análisis: Proporcionar a los desarrolladores herramientas para crear resúmenes de materiales de investigación o documentos que pueden contener una amplia gama de temas.
• Reglas de Resumen Personalizables: Permitir a los desarrolladores establecer sus propias reglas sobre qué debe o no incluirse en un resumen, según las necesidades de la aplicación.

APIs de LLM Alternativas

Novita AI ofrece a los desarrolladores una gama de opciones de API de LLM, con modelos. Con las APIs de LLM, unas pocas líneas de código te ahorrarán todos los problemas de configurar el modelo tú mismo. Es más, Novita AI LLM API incluye capacidades para ajustes de hiperparámetros y mensajes de sistema personalizables, adaptados para satisfacer necesidades individuales.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<YOUR Novita AI API Key>",  # Reemplaza con tu clave de API real
)
model = "nousresearch/nous-hermes-llama2-13b"

dolphin-mixtral-8x22b en Novita AI

Dolphin 2.9 está diseñado para seguir instrucciones, conversación y codificación. Este modelo es un ajuste fino de Mixtral 8x22B Instruct. Cuenta con una longitud de contexto de 64k y fue ajustado con una longitud de secuencia de 16k utilizando plantillas ChatML. El modelo está despojado de alineación y sesgo. Requiere una capa de alineación externa para un uso ético.

sao10k/l3–70b-euryale-v2.1 en Novita AI

El modelo llama3 es una potencia de creatividad, sobresaliendo tanto en juegos de rol como en escritura de historias. Ofrece una experiencia liberadora durante los juegos de rol, libre de cualquier restricción. Este modelo se destaca por su inmensa creatividad, con una vasta gama de ideas y tramas únicas, verdaderamente un tesoro para quienes buscan originalidad. Su naturaleza sin restricciones durante los juegos de rol permite que se desarrolle toda la amplitud de la imaginación, similar a una versión mejorada y de gran cerebro de Stheno. Perfecto para mentes creativas que buscan una plataforma sin límites para sus expresiones imaginativas, el modelo llama3 es una elección ideal.

Conclusión

En conclusión, el modelo Dolphin-2.1-mistral-7B representa un avance significativo en la tecnología de IA, impulsado por su naturaleza y base de código abierto. Patrocinado por a16z y desarrollado por Cognitive Computations, se basa en los principios de colaboración abierta e innovación impulsada por la comunidad. Desde su meticuloso régimen de entrenamiento en GPUs de alto rendimiento hasta la integración de diversos conjuntos de datos, este modelo sobresale en rendimiento y adaptabilidad. Las características clave, como el cumplimiento de la licencia Apache-2.0, el formato de indicación ChatML y su capacidad para soportar una amplia gama de aplicaciones, resaltan su versatilidad y diseño centrado en el usuario.

A medida que los desarrolladores y usuarios adoptan el potencial de los LLMs como Dolphin-2.1-mistral-7B, desbloquean nuevas posibilidades en expresión creativa, exploración intelectual y autonomía del usuario. Si bien el modelo ofrece una libertad sin precedentes, también subraya la importancia de la administración ética y el uso responsable. Al integrar Dolphin-2.1-mistral-7B en varias plataformas y aplicaciones, los desarrolladores pueden empoderar a los usuarios con interacciones de IA que fomenten la innovación y la inclusividad en la era digital.

Novita AI es la plataforma en la nube integral que potencia tus ambiciones de IA. Con APIs integradas sin problemas, computación serverless y aceleración GPU, proporcionamos las herramientas rentables que necesitas para construir y escalar rápidamente tu negocio impulsado por IA. Elimina los problemas de infraestructura y comienza gratis — Novita AI hace realidad tus sueños de IA.