Introduction
Nous sommes ravis d’annoncer le support de Novita AI pour AnythingLLM, une puissante plateforme de bureau tout-en-un qui transforme votre façon d’interagir avec les grands modèles de langage. Cette intégration apporte directement sur votre bureau les capacités avancées des modèles de langage de Novita, offrant un hub centralisé pour tous vos besoins de traitement linguistique.
Une fonctionnalité phare d’AnythingLLM est son traitement robuste des PDF, qui permet aux utilisateurs de télécharger et d’analyser des PDF directement dans la plateforme, facilitant ainsi la synthèse rapide, l’extraction d’informations et l’analyse des fichiers PDF les plus complexes.
En utilisant Novita AI avec AnythingLLM, vous pouvez transformer instantanément des PDF en informations exploitables, gagner du temps et améliorer votre productivité – le tout depuis une interface de bureau unique et facile à utiliser.
Qu’est-ce qu’AnythingLLM ?
AnythingLLM est une application full-stack conçue pour vous offrir la flexibilité d’utiliser à la fois des LLM commerciaux et des LLM open-source populaires, ainsi que des solutions de base de données vectorielles. Vous pouvez exécuter cette application localement ou l’héberger à distance, offrant ainsi un environnement sécurisé et privé pour interagir intelligemment avec vos documents. En intégrant ces ressources, AnythingLLM vous permet de construire une interface de chat alimentée par IA très fonctionnelle qui gère des tâches linguistiques complexes sans compromettre la confidentialité ou le contrôle.
Fonctionnalités clés
- Espace de travail structuré par fils de discussion : Les espaces de travail agissent comme des fils de discussion, organisant les documents connexes dans un espace délimité. Chaque espace de travail isole les documents des autres, préservant un contexte unique pour chaque projet ou sujet.
- Flexibilité pour les particuliers et les entreprises : Installez AnythingLLM et sa suite complète d’outils comme une seule application sur votre bureau personnel. Des permissions granulaires et un contrôle d’accès pour les organisations sont également intégrés.
- Sécurité : AnythingLLM ne communique qu’avec les services que vous connectez et peut fonctionner entièrement sur votre machine sans connexion Internet.
Pourquoi devriez-vous utiliser AnythingLLM ?
- Compatibilité multi-modèles : AnythingLLM prend en charge à la fois les LLM commerciaux comme GPT-4o et les modèles open-source populaires comme Llama 3.1 8b (Novita AI vous aidera pour cela), permettant aux utilisateurs de choisir des modèles en fonction du budget, des besoins de personnalisation et des préoccupations de confidentialité.
- Options d’hébergement local et à distance : Il peut fonctionner entièrement hors ligne sur une machine locale ou être hébergé à distance, offrant une flexibilité pour maintenir la sécurité des données tout en offrant un accès à distance pour les projets d’équipe.
- Gestion des espaces de travail : Les « espaces de travail » mentionnés ci-dessus agissent comme des fils de discussion isolés, chacun organisant les documents connexes séparément, ce qui permet de compartimenter les informations et de faciliter des discussions ciblées sur des projets ou sujets spécifiques sans chevauchement.
- Gestion avancée des documents (y compris les PDF) : La plateforme peut importer et analyser des PDF, permettant aux utilisateurs d’extraire, de synthétiser et d’interagir directement avec le contenu des documents, ce qui la rend efficace pour les workflows de recherche intensifs.
Par exemple, un chatbot IA privé pour documents peut être facilement déployé :
Lancez un chatbot IA privé pour documents en 10 minutes ! | Open Source
Comment utiliser l’API LLM de Novita AI sur AnythingLLM ?
Qu’est-ce que Novita AI ?
API, sans serveur et instance GPU dans un seul cloud IA. Novita AI fournit des solutions rentables et intégrées en toute transparence pour accélérer votre activité IA.
L’API LLM de Novita AI offre une solution extrêmement rentable pour les développeurs, avec certains des prix les plus bas de l’industrie mondiale. Elle déploie des modèles tendance comme llama-3-70b et llama-3.1-8b-instruct pour des tâches de production à haute vitesse, des discussions engageantes et des efforts créatifs. La plateforme propose également des capacités de chat non censurées avec des modèles populaires tels que microsoft/wizardlm-2-8x22b et gryphe/mythomax-l2-13b.
L’intégration avec AnythingLLM est simplifiée grâce à la compatibilité avec la norme API OpenAI, et son API peut s’adapter automatiquement aux variations de la demande d’utilisation. Novita AI privilégie la fiabilité avec des vitesses réseau rapides et un engagement en matière de confidentialité des données en ne stockant pas les données de requête pour l’entraînement des modèles. Les utilisateurs bénéficient également d’un fort soutien communautaire via un groupe Discord actif, qui favorise la collaboration et l’assistance entre utilisateurs.
Étape 1 : Allez sur Novita.ai et connectez-vous
Vous pouvez vous connecter sur Novita AI avec Google ou GitHub, ce qui créera un nouveau compte lors de votre première connexion. Vous pouvez également vous inscrire en utilisant votre adresse e-mail.
Étape 2 : Gérez la clé API LLM de Novita AI
Novita AI sécurise l’accès à l’API via une authentification Bearer en incluant une clé API dans l’en-tête de la requête, par exemple « Authorization: Bearer {clé API} ».
Pour gérer vos clés, accédez à « Key Management » dans les paramètres. Une clé par défaut est automatiquement générée lors de votre première connexion. Vous pouvez créer des clés supplémentaires en cliquant sur « + Add New Key ».
Étape 3 : Téléchargez AnythingLLM pour ordinateur de bureau
Rendez-vous sur AnythingLLM et téléchargez la dernière version pour votre ordinateur.
Étape 4 : Choisissez Novita AI comme fournisseur LLM et saisissez la clé API Novita
Sélectionnez Novita AI dans la liste des fournisseurs LLM dans les paramètres d’AnythingLLM. Ensuite, renseignez votre clé API LLM Novita AI et définissez le modèle que vous souhaitez utiliser.
Comment installer AnythingLLM sur Linux localement ?
Pour les utilisateurs Linux, vous pouvez installer AnythingLLM en exécutant cette commande dans le terminal :
curl -fsSL https://s3.us-west-1.amazonaws.com/public.useanything.com/latest/installer.sh | sh
Cette commande téléchargera la dernière version de l’AppImage d’AnythingLLM, la décompressera, puis créera un lien symbolique pour exécuter AnythingLLM en toute transparence. Ce script décompressera l’application dans $HOME/AnythingLLMDesktop.
Vous pouvez démarrer l’application à tout moment en exécutant ./AnythingLLMDesktop/start. Cela lancera l’application avec une journalisation complète.
Questions fréquentes
Où sont sauvegardés les documents sur Anything LLM ?
Lorsque vous utilisez AnythingLLM, tous les documents et données sont stockés en toute sécurité sur l’appareil où AnythingLLM s’exécute, qu’il s’agisse d’une machine locale ou d’AnythingLLM Cloud.
Pourquoi utiliser AnythingLLM plutôt qu’un LLM IA avec un plugin PDF ?
AnythingLLM donne un contrôle complet sur l’accès, les autorisations et le partage de données à travers n’importe quel LLM et base de données vectorielle, garantissant flexibilité et sécurité. Il peut fonctionner entièrement hors ligne, en ne s’appuyant que sur des services locaux, de sorte que la confidentialité reste intacte sans exposition à des tiers.
Comment utiliser les modèles d’embedding téléchargés depuis Hugging Face ?
Une fois que vous avez téléchargé un modèle, probablement au format GGUF, vous aurez besoin d’un fournisseur de LLM configuré pour l’exécuter efficacement. LocalAI et LMStudio offrent tous deux des environnements où vous pouvez facilement installer et exécuter des modèles. De plus, nous vous recommandons d’essayer Novita AI, qui propose également des modèles pour différents scénarios.
Comment utiliser Anything LLM dockerisé ?
Vous pouvez vous référer à cette page pour savoir comment stocker localement et exécuter AnythingLLM dans Docker sur Windows, MacOS, Linux ou Docker Compose.
Conclusion
Avec le support de Novita AI pour AnythingLLM, les utilisateurs bénéficient d’un outil puissant et polyvalent qui combine les modèles de langage avancés de Novita avec la gestion robuste des documents et la fonctionnalité d’espace de travail sécurisé d’AnythingLLM. Cette intégration permet aux utilisateurs d’analyser efficacement des PDF, de traiter diverses données et de s’engager dans des interactions complexes et organisées – le tout dans un environnement axé sur la confidentialité qui prend en charge à la fois l’utilisation locale et dans le cloud. Que ce soit pour la recherche, la création de contenu ou l’analyse de données, Novita AI et AnythingLLM offrent ensemble une solution complète adaptée aux besoins professionnels en matière d’IA et de gestion de documents.
Publié à l’origine sur Novita AI
Novita AI est une plateforme cloud IA qui offre aux développeurs un moyen simple de déployer des modèles IA via notre API simple, tout en fournissant un cloud GPU abordable et fiable pour la construction et le passage à l’échelle.
Lectures recommandées
