Introdução
Bem-vindo à nossa exploração do OpenHermes 2.5, um conjunto de dados inovador desenvolvido pela Teknium. Este blog mergulha nas funcionalidades, aplicações e avanços desta extensão de modelo de ponta.
O que é o Openhermes 2.5?
Contexto Básico do Openhermes 2.5
Desenvolvido pela Teknium, o Openhermes 2.5 é uma extensão e melhoria do conjunto de dados Open Hermes 1. Caracteriza-se por uma escala muito maior, maior diversidade e maior qualidade, com uma compilação de mais de 1 milhão de amostras de instrução e chat geradas sinteticamente.
Principais Funcionalidades do Openhermes 2.5
- É uma compilação de vários conjuntos de dados de código aberto e conjuntos de dados sintéticos criados personalizadamente.
- O conjunto de dados foi integrado ao Lilac, uma plataforma de curadoria e exploração de dados, e está disponível no HuggingFace para exploração, curadoria e pesquisas de embeddings de texto.
- O Openhermes 2.5 inclui contribuições de diversas fontes, como Airoboros 2.2, CamelAI Domain Expert Datasets, ChatBot Arena, Collective Cognition e outros, cada uma fornecendo um conjunto único de dados que enriquece o conjunto de dados geral.
- A estrutura do Openhermes 2.5 segue o formato sharegpt, que é uma lista de dicionários. Cada entrada inclui uma lista “conversations” com dicionários para cada turno, indicando o papel (ex.: “system”, “human”, “gpt”) e o valor de texto da conversa.
Fontes do Conjunto de Dados do OpenHermes 2.5
O OpenHermes 2.5 incorpora dados de uma ampla variedade de fontes, cada uma contribuindo para a abrangência e utilidade do conjunto de dados no treinamento de LLMs. Algumas fontes notáveis incluem:
- Airoboros 2.2: Um conjunto de dados por Jon Durbin.
- CamelAI Domain Expert Datasets: Abrangendo Física, Matemática, Química e Biologia.
- ChatBot Arena: Um conjunto de dados específico do GPT-4.
- Collective Cognition: Um conjunto de dados por Teknium.
- Glaive Code Assistant: Um conjunto de dados voltado para melhorar habilidades de programação.
- GPTeacher: Uma coleção de conjuntos de dados modulares para treinar LLMs.
- SlimOrca 550K: Um conjunto de dados que contribui para os esforços de replicação do Orca.
O que é o OpenHermes-2.5-Mistral-7B?
Explicação
- Continuação do OpenHermes 2: O OpenHermes 2.5 Mistral 7B é um fine-tune de ponta do Mistral. Ele se baseia no modelo anterior OpenHermes 2, indicando uma progressão em seu desenvolvimento e capacidades.
- Treinamento em Conjuntos de Dados de Código: Uma parte significativa dos dados de treinamento (cerca de 7–14% do total) consiste em instruções de código. Esse treinamento em código teve um impacto positivo no desempenho do modelo.
- Dados de Treinamento: O OpenHermes 2.5 foi treinado em 1 milhão de entradas, geradas principalmente pelo GPT-4, junto com outros dados de alta qualidade de vários conjuntos de dados abertos no cenário de IA. Essa diversidade de dados de treinamento provavelmente contribui para as amplas capacidades do modelo.
- Filtragem e Conversão de Formato: Filtragens extensivas foram aplicadas aos conjuntos de dados públicos usados para treinamento. Todos os formatos de dados foram convertidos para ShareGPT, que foram então transformados pelo axolotl para usar ChatML. Esse processo de padronização e transformação garante consistência nos dados de treinamento e pode contribuir para o desempenho aprimorado do modelo.
Desempenho em Benchmarks do OpenHermes-2.5-Mistral-7B
- TruthfulQA, AGIEval e Suíte GPT4All: O modelo obteve um aumento de desempenho nesses benchmarks não relacionados a código, sugerindo que o treinamento em conjuntos de dados de código generalizou bem para outras áreas.
- BigBench: Interessantemente, embora a pontuação do modelo no benchmark BigBench tenha diminuído, o ganho líquido geral em desempenho em outros benchmarks ainda é significativo, indicando uma melhoria nas capacidades do modelo.
- Melhoria na Pontuação Humaneval: O desempenho do modelo no benchmark humaneval, que mede a capacidade do modelo de realizar avaliações semelhantes às humanas, melhorou de 43% no Pass 1 com Open Hermes 2 para 50,7% no Pass 1 com OpenHermes 2.5. Trata-se de um aumento substancial que reflete a capacidade aprimorada do modelo de gerar respostas mais humanas.
Quais são as Aplicações Práticas do OpenHermes-2.5-Mistral-7B na Indústria?
Como desenvolvedores, você está na vanguarda da inovação, buscando constantemente ferramentas que possam aumentar a produtividade e criar experiências de usuário envolventes. O OpenHermes 2.5 Mistral 7B, com suas capacidades avançadas, abre um leque de possibilidades em vários domínios. Vamos explorar algumas aplicações práticas que podem se beneficiar deste modelo de ponta.
Chat de Companheiro de IA
Interação Aprimorada com o Usuário: A proficiência do OpenHermes 2.5 Mistral 7B em compreensão e geração de linguagem natural o torna um candidato ideal para desenvolver chats de companheiros de IA. Seja para bots de atendimento ao cliente, assistentes virtuais ou personagens interativos em jogos, este modelo pode fornecer conversas mais matizadas e humanas.
Personalização: Ao aproveitar a capacidade do modelo de entender o contexto e gerar respostas relevantes, os desenvolvedores podem criar experiências de chat personalizadas que se adaptam às preferências e necessidades individuais do usuário.
Suporte Multilíngue: Com treinamento e adaptação adicionais, o OpenHermes 2.5 Mistral 7B pode ser estendido para suportar vários idiomas, abrindo mercados globais para aplicações de companheiros de IA.
Geração de Romances com IA
Escrita Criativa: A força do modelo na geração de texto semelhante ao humano o torna uma ferramenta poderosa para a geração de romances com IA. Os desenvolvedores podem utilizar essa capacidade para criar enredos, personagens e diálogos únicos para livros, roteiros ou narrativas interativas.
Criação Automatizada de Conteúdo: Para criadores de conteúdo e profissionais de marketing digital, o OpenHermes 2.5 Mistral 7B pode automatizar a geração de postagens de blog, artigos ou conteúdo de mídia social envolventes, economizando tempo e recursos, mantendo um alto nível de qualidade.
Narrativa Interativa: Na indústria de jogos, este modelo pode ser a base de experiências de narrativa interativa onde a narrativa se adapta em tempo real às escolhas do jogador, criando um ambiente profundamente imersivo.
Sumarização com IA
Processamento Eficiente de Informações: As capacidades de sumarização do OpenHermes 2.5 Mistral 7B são inestimáveis para processar grandes volumes de texto e extrair pontos-chave. Isso pode ser aplicado à agregação de notícias, pesquisa ou inteligência de negócios para fornecer resumos concisos de documentos extensos.
Análise de Dados: No âmbito da análise de dados e relatórios, este modelo pode sintetizar insights de conjuntos de dados complexos e apresentá-los em um formato de fácil compreensão, auxiliando nos processos de tomada de decisão.
Ferramentas Educacionais: Para aplicações educacionais, a sumarização com IA pode ajudar estudantes e pesquisadores fornecendo resumos de artigos acadêmicos, livros ou notas de aula, facilitando um aprendizado mais rápido e eficaz.
Como desenvolvedores, você provavelmente estará interessado em como integrar o OpenHermes 2.5 Mistral 7B em seus projetos. A seção a seguir oferece duas maneiras de obter acesso ao OpenHermes 2.5 Mistral 7B.
Como Obter Acesso ao OpenHermes-2.5-Mistral-7B?
Como Baixar e Usar Este Modelo no text-generation-webui?
- Atualize para a Versão Mais Recente: Certifique-se de estar usando a versão mais atual do text-generation-webui.
- Use Instaladores com Um Clique: É altamente recomendável usar os instaladores com um clique para o text-generation-webui, a menos que você tenha confiança para realizar uma instalação manual.
- Navegue até a Aba Model: Clique na aba “Model” dentro da interface.
- Insira os Detalhes do Modelo: Na seção para baixar um modelo personalizado ou LoRA, digite
TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ. Se desejar baixar de uma branch específica, por exemplo,TheBloke/OpenHermes-2.5-Mistral-7B-GPTQ:gptq-4bit-32g-actorder_True, consulte a lista de branches fornecida acima para cada opção. - Inicie o Download: Clique no botão “Download” para iniciar o processo de download do modelo. Assim que for concluído, você verá o status mudar para “Done”.
- Atualize a Lista de Modelos: Clique no ícone de atualização no canto superior esquerdo para atualizar a lista de modelos disponíveis.
- Selecione o Modelo Baixado: No menu suspenso Model, escolha o modelo que você acabou de baixar:
OpenHermes-2.5-Mistral-7B-GPTQ. - Carregue o Modelo: O modelo será carregado automaticamente e estará pronto para uso.
- Configurações Personalizadas (Se Necessário): Se você tiver alguma configuração personalizada para aplicar, configure-as e clique em “Save settings for this model”, seguido por “Reload the Model” no canto superior direito.
- Nota sobre Parâmetros GPTQ: Você não precisa mais definir manualmente os parâmetros GPTQ. Eles agora são configurados automaticamente a partir do arquivo
quantize_config.json. - Inicie a Geração de Texto: Depois que tudo estiver configurado, clique na aba “Text Generation”, insira seu prompt e comece a gerar texto!
Você pode encontrar todos os arquivos necessários do TheBloke no Hugging Face. Seguindo essas etapas, você pode facilmente baixar e utilizar o modelo OpenHermes-2.5-Mistral-7B-GPTQ dentro do text-generation-webui.
Como Usar o OpenHermes-2.5-Mistral-7B na Novita AI?
Se você acha trabalhoso baixar e usar o OpenHermes-2.5-Mistral-7B no text-generation-webui, pode obter acesso através da API LLM da Novita AI, que é equipada com o OpenHermes-2.5-Mistral-7B e outros modelos poderosos e recentes, como Llama 3 8B instruct, Llama 3 70B instruct e MythoMax-L2–13B:
Com apenas algumas linhas de código, você pode fazer uma chamada de API e aproveitar o poder do OpenHermes-2.5-Mistral-7B e de outros modelos poderosos:
from openai import OpenAI
client = OpenAI(
base_url="https://api.novita.ai/v3/openai",
# Get the Novita AI API Key by referring: https://novita.ai/get-started/Quick_Start.html#_3-create-an-api-key
api_key="<YOUR Novita AI API Key>",
)
model = "teknium/openhermes-2.5-mistral-7b"
completion_res = client.completions.create(
model=model,
prompt="A chat between a curious user and an artificial intelligence assistant".
stream = True, # or False
max_tokens = 512,
)
Conclusão
Em conclusão, o OpenHermes 2.5 surge como um avanço fundamental na tecnologia de IA, combinando curadoria extensa de dados com treinamento de modelo de ponta. Desde sua criação pela Teknium até sua integração com plataformas como Lilac e disponibilidade no HuggingFace, este conjunto de dados exemplifica um salto adiante no processamento de linguagem natural.
Ao longo deste blog, exploramos as aplicações multifacetadas do OpenHermes 2.5. Seja melhorando as interações do usuário por meio de chats de companheiros de IA, fomentando a criatividade na geração de romances com IA ou permitindo a sumarização eficiente de dados, este modelo capacita os desenvolvedores a inovar em diversos domínios.
Novita AI é a plataforma de nuvem completa que impulsiona suas ambições de IA. Com APIs perfeitamente integradas, computação serverless e aceleração de GPU, fornecemos as ferramentas econômicas necessárias para construir e escalar rapidamente seu negócio orientado por IA. Elimine as dores de cabeça com infraestrutura e comece gratuitamente — a Novita AI torna seus sonhos de IA realidade.
