引言
我们激动地宣布 Novita AI 现已支持 AnythingLLM，这是一个强大的全合一桌面平台，能够改变您与大型语言模型交互的方式。此次集成将 Novita 的先进语言模型能力直接带到您的桌面，为您所有的语言处理需求提供一个集中枢纽。
AnythingLLM 的一个突出特点是其强大的 PDF 处理功能，它允许用户直接在平台内上传和分析 PDF，能够快速总结、提取信息并分析即便是最复杂的 PDF 文件。
通过将 Novita AI 与 AnythingLLM 配合使用，您可以立即将 PDF 转化为可操作的见解，节省时间并提升生产力——这一切都在一个易于使用的桌面界面中完成。
什么是 AnythingLLM？
AnythingLLM 是一款全栈应用，旨在为您提供使用商业 LLM 和流行开源 LLM 以及向量数据库解决方案的灵活性。您可以在本地运行此应用程序，也可以远程托管，从而提供一个安全、私密的环境，让您与文档进行智能交互。通过集成这些资源，AnythingLLM 允许您构建一个功能强大的 AI 聊天界面，能够处理复杂的语言任务，同时不牺牲隐私或控制权。
主要功能
- 类似线程结构的工作区：工作区就像线程一样，将相关文档组织在一个受控空间中。每个工作区将文档与其他文档隔离，为每个项目或主题保留独特的上下文。
- 个人和企业灵活性：在个人桌面上将 AnythingLLM 及其全套工具作为单一应用程序安装。同时，内置了面向组织的细粒度权限和访问控制。
- 安全性：AnythingLLM 只与您连接的服务通信，并且可以在没有互联网连接的情况下完全在您的机器上运行。
为什么你应该使用 AnythingLLM？
- 多模型兼容性：AnythingLLM 同时支持 GPT-4o 等商业 LLM 和 Llama 3.1 8b 等流行开源模型（Novita AI 将在这方面为您提供帮助），允许用户根据预算、定制需求和隐私顾虑选择模型。
- 本地和远程托管选项：它可以在本地机器上完全离线运行，也可以远程托管，从而灵活地维护数据安全，同时为团队项目提供远程访问能力。
- 工作区管理：如上所述，“工作区”就像隔离的线程，每个工作区分别组织相关文档，从而实现信息隔离，并能够专注于特定项目或主题的讨论，避免重叠。
- 高级文档处理（包括 PDF）：该平台可以导入和分析 PDF，允许用户直接提取、总结和与文档内容交互，这对于研究密集型工作流非常高效。
例如，可以轻松部署一个功能丰富且便捷的私有 AI 文档聊天机器人：
如何在 AnythingLLM 上使用 Novita AI LLM API？
什么是 Novita AI？
API、Serverless 和 GPU 实例，尽在一个 AI 云平台。Novita AI 提供经济高效、无缝集成的解决方案，加速您的 AI 业务。
Novita AI LLM API 为开发者提供极具成本效益的解决方案，价格处于全球行业最低水平。它部署了 llama-3-70b 和 llama-3.1-8b-instruct 等流行模型，用于高速生产任务、深度讨论和创意工作。该平台还支持 uncensored 聊天功能，包含 microsoft/wizardlm-2-8x22b 和 gryphe/mythomax-l2-13b 等流行模型。
通过与 OpenAI API 标准兼容，与 AnythingLLM 的集成变得简单流畅，其 API 可以自动伸缩以适应使用需求的变化。Novita AI 优先考虑可靠性，提供快速网络速度，并通过不存储用于模型训练的提示数据来确保数据保密性。用户还可以通过活跃的 Discord 群组获得强大的社区支持，促进用户之间的协作和帮助。
步骤 1：访问 Novita.ai 并登录
您可以通过 Google 或 GitHub 登录 Novita AI，首次登录时将自动创建新账户。或者，您也可以使用电子邮件地址注册。
步骤 2：管理 Novita AI LLM API Key
Novita AI 通过 Bearer 认证保护 API 访问，方法是在请求头中包含 API Key，例如 “Authorization: Bearer {API Key}”。
要管理您的密钥，请导航至设置中的 “Key Management”。首次登录时会自动生成一个默认密钥。您可以点击 “+ Add New Key” 创建更多密钥。
步骤 3：下载桌面版 AnythingLLM
前往 AnythingLLM 下载适用于您计算机的最新版本。
步骤 4：选择 Novita AI 作为 LLM 提供商并输入 Novita API Key
在 AnythingLLM 设置中，从 LLM 提供商列表中选择 Novita AI。然后填写您的 Novita AI LLM API key，并设置您想要使用的模型。
如何在 Linux 上本地安装 AnythingLLM？
对于 Linux 用户，您可以通过在终端中运行以下命令来安装 AnythingLLM：
curl -fsSL https://s3.us-west-1.amazonaws.com/public.useanything.com/latest/installer.sh | sh
这将下载最新版本的 AnythingLLM AppImage，解包，然后创建一个符号链接以便无缝运行 AnythingLLM。该脚本会将应用解包到 $HOME/AnythingLLMDesktop。
您可以随时运行 ./AnythingLLMDesktop/start 启动应用程序。此命令将以完整日志模式启动应用。
常见问题
AnythingLLM 上的文档保存在哪里？
使用 AnythingLLM 时，所有文档和数据都安全地存储在运行 AnythingLLM 的设备上，无论是本地机器还是 AnythingLLM Cloud。
为什么选择 AnythingLLM 而不是带 PDF 插件的 LLM AI？
AnythingLLM 允许您完全控制跨任何 LLM 和向量数据库的访问、权限和数据共享，确保灵活性和安全性。它可以完全离线运行，仅依赖本地服务，因此隐私不受第三方影响。
如何从 hugging face 下载的嵌入模型？
一旦您下载了模型（通常是 GGUF 格式），您需要一个 LLM 提供商的设置来有效运行它。LocalAI 和 LMStudio 都提供了可以轻松安装和运行模型的环境。此外，我们建议您尝试 Novita AI，它也提供适用于不同场景的模型。
如何使用 Docker 化的 AnythingLLM？
您可以参考此页面了解如何在 Windows、MacOS、Linux 或 Docker Compose 上本地存储并在 Docker 中运行 AnythingLLM。
结论
借助 Novita AI 对 AnythingLLM 的支持，用户获得了一个强大且多功能的工具，结合了 Novita 先进的语言模型与 AnythingLLM 强大的文档管理和安全工作区功能。此集成使用户能够高效分析 PDF、处理多样化数据，并进行复杂且有序的交互——所有这些都在一个支持本地和云使用、注重隐私的环境中进行。无论是用于研究、内容创作还是数据分析，Novita AI 和 AnythingLLM 共同提供了一个全面的解决方案，满足专业的 AI 和文档处理需求。
原文发布于 Novita AI
Novita AI 是一个 AI 云平台，为开发者提供使用我们简单 API 部署 AI 模型的简便方法，同时提供经济实惠且可靠的 GPU 云用于构建和扩展。
推荐阅读
