Introdução
Temos o prazer de anunciar o suporte da Novita AI para o AnythingLLM, uma poderosa plataforma desktop tudo-em-um que transforma a forma como você interage com grandes modelos de linguagem. Esta integração traz as capacidades avançadas de modelo de linguagem da Novita diretamente para o seu desktop, oferecendo um hub centralizado para todas as suas necessidades de processamento de linguagem.
Uma funcionalidade de destaque do AnythingLLM é sua robusta função de processamento de PDF, que permite aos usuários carregar e analisar PDFs diretamente na plataforma, possibilitando sumarização rápida, extração de informações e análise até dos arquivos PDF mais complexos.
Ao usar a Novita AI com o AnythingLLM, você pode transformar PDFs em insights acionáveis instantaneamente, economizando tempo e aumentando a produtividade – tudo a partir de uma única interface de desktop fácil de usar.
O que é AnythingLLM?
AnythingLLM é uma aplicação full-stack projetada para dar a você a flexibilidade de usar tanto LLMs comerciais quanto LLMs open-source populares, juntamente com soluções de banco de dados vetoriais. Você pode executar esta aplicação localmente ou hospedá-la remotamente, oferecendo um ambiente seguro e privado para interagir de forma inteligente com seus documentos. Ao integrar esses recursos, o AnythingLLM permite que você construa uma interface de chat com IA altamente funcional que lida com tarefas complexas de linguagem sem comprometer a privacidade ou o controle.
Principais Funcionalidades
- Workspace com Estrutura de Thread: Os Workspaces atuam como threads, organizando documentos relacionados em um espaço contido. Cada Workspace isola os documentos dos outros, preservando um contexto único para cada projeto ou tópico.
- Flexibilidade para Pessoas e Empresas: Instale o AnythingLLM e seu conjunto completo de ferramentas como uma única aplicação no seu desktop pessoal. Permissões granulares e controle de acesso para organizações também estão integrados.
- Segurança: O AnythingLLM só se comunica com os serviços que você conecta e pode ser executado totalmente na sua máquina sem conectividade com a internet.
Por que você deve usar AnythingLLM?
- Compatibilidade com Múltiplos Modelos: O AnythingLLM suporta tanto LLMs comerciais como GPT-4o quanto modelos open-source populares como Llama 3.1 8b (a Novita AI ajudará você nisso), permitindo que os usuários selecionem modelos com base no orçamento, necessidades de personalização e preocupações de privacidade.
- Opções de Hospedagem Local e Remota: Pode ser executado totalmente offline em uma máquina local ou hospedado remotamente, oferecendo flexibilidade para manter a segurança dos dados enquanto ainda oferece acessibilidade remota para projetos em equipe.
- Gerenciamento de Workspaces: “Workspaces”, como mencionado acima, atuam como threads isoladas, cada uma organizando documentos relacionados separadamente, o que mantém as informações compartimentadas e permite discussões focadas em projetos ou tópicos específicos sem sobreposição.
- Manipulação Avançada de Documentos (incluindo PDFs): A plataforma pode importar e analisar PDFs, permitindo que os usuários extraiam, sumarizem e interajam com o conteúdo do documento diretamente, tornando-a eficiente para workflows intensivos em pesquisa.
Por exemplo, um chatbot de IA privado e conveniente para documentos pode ser facilmente implantado:
Launch a Private AI Document Chatbot in 10 minutes! | Open Source
Como usar a API LLM da Novita AI no AnythingLLM?
O que é Novita AI?
API, Serverless e Instância GPU em uma única nuvem de IA. Novita AI oferece soluções econômicas e perfeitamente integradas para acelerar seu negócio de IA.
Novita AI LLM API oferece uma solução altamente econômica para desenvolvedores, com alguns dos preços mais baixos da indústria global. Ele implanta modelos modernos como llama-3-70b e llama-3.1-8b-instruct para tarefas de produção de alta velocidade, discussões envolventes e empreendimentos criativos. A plataforma também oferece capacidades de chat não censuradas com modelos populares como microsoft/wizardlm-2-8x22b e gryphe/mythomax-l2-13b.
A integração com o AnythingLLM é facilitada pela compatibilidade com o padrão da API OpenAI, e sua API pode escalar automaticamente para lidar com mudanças na demanda de uso. A Novita AI prioriza a confiabilidade com velocidades de rede rápidas e um compromisso com a confidencialidade dos dados, não armazenando dados de prompt para treinamento de modelos. Os usuários também se beneficiam de um forte suporte da comunidade através de um grupo ativo no Discord, que promove colaboração e assistência entre os usuários.
Passo 1: Acesse Novita.ai e Faça Login
Você pode fazer login na Novita AI com Google ou GitHub, o que criará uma nova conta no seu primeiro login. Alternativamente, você pode se registrar usando seu endereço de e-mail.
Passo 2: Gerencie a Chave da API LLM da Novita AI
A Novita AI protege o acesso à API através de autenticação Bearer, incluindo uma Chave de API no cabeçalho da requisição, como “Authorization: Bearer {Chave da API}”.
Para gerenciar suas chaves, navegue até “Gerenciamento de Chaves” nas configurações. Uma chave padrão é gerada automaticamente no seu primeiro login. Você pode criar chaves adicionais clicando em “+ Adicionar Nova Chave”.
Passo 3: Baixe o AnythingLLM Desktop
Acesse AnythingLLM e baixe a versão mais recente para o seu computador.
Passo 4: Escolha a Novita AI como Provedor de LLM e Insira a Chave da API Novita
Escolha Novita AI na lista de provedores de LLM nas configurações do AnythingLLM. Em seguida, preencha sua chave da API LLM da Novita AI e defina o modelo que deseja usar.
Como instalar o AnythingLLM no Linux localmente?
Para usuários Linux, você pode instalar o AnythingLLM executando este comando no terminal:
curl -fsSL https://s3.us-west-1.amazonaws.com/public.useanything.com/latest/installer.sh | sh
Isso baixará a versão mais recente do AppImage do AnythingLLM, descompactará e criará um link simbólico para executar o AnythingLLM perfeitamente. Esse script descompactará o aplicativo em $HOME/AnythingLLMDesktop.
Você pode iniciar o aplicativo a qualquer momento executando ./AnythingLLMDesktop/start. Isso iniciará o aplicativo com registro completo.
Perguntas Frequentes
Onde os documentos do AnythingLLM são salvos?
Ao usar o AnythingLLM, todos os documentos e dados são armazenados com segurança no dispositivo onde o AnythingLLM é executado, seja uma máquina local ou o AnythingLLM Cloud.
Por que usar AnythingLLM em vez de um LLM AI com um plugin de PDF?
O AnythingLLM concede controle total sobre acesso, permissões e compartilhamento de dados em qualquer LLM e banco de dados vetorial, garantindo flexibilidade e segurança. Ele pode ser executado totalmente offline, dependendo apenas de serviços locais, então a privacidade permanece intacta sem exposição a terceiros.
Como usar modelos de incorporação baixados do hugging face?
Depois de baixar um modelo, provavelmente no formato GGUF, você precisará de um provedor de LLM configurado para executá-lo de forma eficaz. LocalAI e LMStudio oferecem ambientes onde você pode facilmente instalar e executar modelos. Além disso, recomendamos que você experimente a Novita AI, que também fornece modelos para diferentes cenários.
Como usar o AnythingLLM em Docker?
Você pode consultar esta página para saber como armazenar localmente e executar o AnythingLLM no Docker no Windows, MacOS, Linux ou Docker Compose.
Conclusão
Com o suporte da Novita AI para o AnythingLLM, os usuários ganham uma ferramenta poderosa e versátil que combina os modelos de linguagem avançados da Novita com a robusta funcionalidade de gerenciamento de documentos e workspace seguro do AnythingLLM. Esta integração capacita os usuários a analisar PDFs eficientemente, lidar com dados diversos e engajar em interações complexas e organizadas – tudo dentro de um ambiente focado em privacidade que suporta uso local e em nuvem. Seja para pesquisa, criação de conteúdo ou análise de dados, a Novita AI e o AnythingLLM juntos oferecem uma solução abrangente adaptada para atender às necessidades profissionais de IA e manuseio de documentos.
Publicado originalmente em Novita AI
Novita AI é uma plataforma de nuvem de IA que oferece aos desenvolvedores uma maneira fácil de implantar modelos de IA usando nossa API simples, além de fornecer a nuvem GPU acessível e confiável para construir e escalar.
Leitura Recomendada
1.Utilize o Clipboard Conqueror com a Chave da API Novita AI para Produtividade do Desenvolvedor
2.Aproveite os LLMs da Novita AI no LobeChat com sua Chave de API
