使用 Helicone 与 Novita AI：全面指南

Novita AI 彻底改变了开发者与多种 AI 工具（包括 Helicone）的交互方式。Helicone 以其面向大型语言模型（LLM）开发者的高级可观测性平台而闻名。因此，这一强大的集成为开发者提供了一个变革性的机会，使他们能够 寻求一个简单的推理平台、强大的 LLM 可观测性以及监控解决方案。本文将深入探讨 Helicone 的功能、与 Novita AI 的集成方式，以及开发者如何从这一强大组合中获益。

什么是 Helicone？

Helicone 是一个一体化的 LLM 可观测性平台，供开发者监控、调试和改进生产就绪的 AI 应用。该平台专注于提供全面的监控解决方案，具备实时日志记录能力，使开发者能够大规模分析和优化他们的 LLM 应用。Helicone 尤为宝贵之处在于它能通过秒级集成支持多个提供商，并且允许用户在不修改代码的情况下，基于生产流量测试提示词变体。

关键特性与功能

Helicone 提供了多个关键特性来改进生产就绪的 LLM 应用：

1. 集中式可观测性：Helicone 提供了一个强大的平台，能够捕获并可视化所有大语言模型（LLM）部署的全面日志和指标。
2. LLM 性能优化：Helicone 通过支持提示词实验、追踪成功率以及促进微调等特性，增强 LLM 性能。
3. 灵活的数据管理：优先考虑数据隐私，Helicone 提供多种部署选项，包括专用实例、混合云集成以及自托管环境。
4. 部署灵活性：Helicone 既支持云托管也支持本地部署选项，利用生产就绪的 HELM 图表确保最高安全性。
5. 企业级安全：具备 SOC2 认证和 HIPAA 合规性，确保敏感数据的安全处理并满足企业安全要求。

设置 Helicone AI 网关

设置 Helicone AI 网关仅需四个步骤：创建账户、生成 API 密钥、选择您偏好的集成方式，以及发送第一个请求。

步骤 1：创建账户

• 创建账户后，继续进行下一步。

步骤 2：生成 API 密钥

• 前往设置：点击左上角的组织，然后从下拉菜单中选择 <mark>Settings</mark>。

• 选择 API 密钥 标签页

• 生成新密钥：点击 <mark>Generate new key</mark>。创建新的 Helicone API 密钥时，您可以启用 <mark>read</mark> 和 <mark>write</mark> 权限。写入密钥可通过 Helicone 代理、反馈或任何其他 Helicone 服务在调用 <mark>POST</mark> 或使用我们的网关时使用。

步骤 3：选择您偏好的集成方式

• 根据您使用的提供商选择下方相应的说明（后续步骤会有所不同）。

步骤 4：发送您的第一个请求

• 一旦我们接收到您的请求，您将在 <mark>Requests</mark> 标签页中看到它们。
• 您还会看到您的 <mark>Dashboard</mark> 已更新，包含了新的请求。

获取 Novita AI API 密钥

生成 Novita AI API 密钥可通过三个步骤完成：前往 Novita AI 并登录、管理 Novita AI LLM API 密钥，以及充值额度。

步骤 1：前往 Novita AI 并登录

• 您可以使用 Google 或 GitHub 登录 Novita AI，首次登录时将创建新账户。或者，您也可以使用电子邮件地址注册。

步骤 2：管理 Novita AI LLM API 密钥

Novita AI 通过 Bearer 认证来保护 API 访问，即在请求头中包含 API 密钥，例如 “Authorization: Bearer {API Key}”。

• 要管理您的密钥，请导航至设置中的 “Key Management”。首次登录时，系统会自动生成一个默认密钥。
• 您可以通过点击 “+ Add New Key” 创建额外的密钥。

步骤 3：充值额度

• Novita AI 为新用户提供带有一定额度的优惠券，方便试用我们的产品。如需增加更多额度，请访问 Billing and Payments 并按照支付方式指南操作。

如何将 Novita AI API 与 Helicone 集成

使用 API 密钥将 Novita AI 与 Helicone 集成是一个简单的过程，分为三个步骤：登录您的 Novita AI 和 Helicone 账户、将 HELICONE_API_KEY 和 NOVITA_API_KEY 设置为环境变量、修改基础 URL 并添加认证头。

步骤 1：登录您的 Novita AI 账户和 Helicone 账户

• 登录 Novita AI 或创建账户。拥有账户后，您可以从控制面板生成 API 密钥。
• 登录 Helicone 或创建账户。拥有账户后，您可以生成 API 密钥。

步骤 2：将 HELICONE_API_KEY 和 NOVITA_API_KEY 设置为环境变量

HELICONE_API_KEY=<your API key>
NOVITA_API_KEY=<your API key>

步骤 3：修改基础 URL 并添加认证头

• 将以下 Novita AI URL 替换为 Helicone 网关 URL：<mark>https://api.novita.ai</mark> -> <mark>https://novita.helicone.ai</mark>

• 然后添加以下认证头：

Authorization: Bearer <your API key>

示例

• 现在，您可以通过一个简单的 fetch 调用访问 Novita AI 上的所有模型：

curl \
  --header 'Authorization: Bearer <NOVITA_API_KEY>' \
  --header 'Content-Type: application/json' \
  --data '{
    "model": "deepseek/deepseek-r1",
    "messages": &#91;
      {
        "role": "user",
        "content": "What language is mostly spoken in Singapore?"
      }
    ]
}' \
  --url https://novita.helicone.ai/v3/chat/completions

有用的链接与资源

为进一步加深您对 Helicone AI 网关与 Novita AI 结合使用的理解，建议探索以下宝贵资源：

• Helicone GitHub

• Helicone 官网与文档

• Helicone Discord

结论

将 Novita AI API 与 Helicone AI 网关集成，为部署、监控和优化 LLM 应用提供了坚实基础，同时兼顾安全性与成本效益。通过将 Helicone 的可观测性平台与 Novita AI 的基础设施相结合，开发者可以获得贯穿整个开发生命周期的全面工具集，用于管理 AI 应用。

常见问题

Helicone 的监控会影响我基于 vLLM 的应用性能吗？

不会，该集成已针对 vLLM 的 PagedAttention 算法进行了优化。

该集成是否兼容开源 LLM？

是的，完全兼容开源 LLM。

我能否监控 GPU 基础设施的资源利用率和成本？

可以，您可以通过 Helicone 追踪资源利用率和成本，同时使用 Novita AI 经济可靠的 GPU 云基础设施。

限时优惠

Novita AI 现在提供 推荐计划，这对 Helicone 用户来说可能是一项福利：如果有人感兴趣，用户可以分享他们的邀请链接/代码，推荐人及其推荐对象都将获得 20 美元额度，用于使用 DeepSeek R1 和 V3 API。

关于 Novita AI

Novita AI 是一个 AI 云平台，为开发者提供通过简单 API 轻松部署 AI 模型的能力，同时还提供经济可靠的 GPU 云用于构建和扩展。