Qwen3 Embedding 8B 现已登陆 Novita AI:搜索进入新层级

Qwen3 Embedding 8B 现已登陆 Novita AI:搜索进入新层级

传统搜索引擎严重依赖关键词匹配,常常忽略用户查询背后的真实意图或语境。嵌入模型通过将查询和文档转换为能够捕捉深层语义的密集向量,彻底改变了这一流程。这使得即使精确关键词不匹配,也能实现高度相关且感知上下文的检索。

如今,强大的 Qwen3 Embedding 8B 模型已在 Novita AI 上线,支持长输入、多语言理解以及指令感知定制,为搜索、推荐和知识管理应用树立了新标准。

立即使用 Novita AI 构建!

什么是嵌入模型?

嵌入模型是一种机器学习技术,它将复杂的、高维的数据(例如文字、图像或音频)转换为低维数值向量。这些向量捕捉数据点之间的语义关系,使模型能够更有效地处理和分析数据。

vector embedding

来源:Qdrant

嵌入模型解决了哪些问题?

在 RAG 系统中,嵌入通过将查询和文档表示为向量,实现了高效的语义搜索,解决了为改善生成效果而检索最相关数据的问题。

rag

来源:博客

1. 电商搜索与推荐
像 Instacart 和淘宝这样的平台利用基于嵌入的检索系统来改善产品搜索和推荐。通过理解产品与用户查询之间的语义关系,这些系统能够推荐符合用户偏好的商品,即使没有使用具体关键词。

2. 内容发现
媒体平台利用嵌入,根据用户行为和偏好推荐文章、视频或音乐。例如,如果用户阅读了一篇关于太空探索的文章,系统可能会推荐天文学或火箭技术等相关内容。

3. 企业知识管理
组织使用嵌入模型在内部文档和知识库中进行语义搜索。这使得员工即使搜索词与文档内容不完全匹配,也能高效找到相关信息。

4. 客服聊天机器人
嵌入模型通过让聊天机器人更有效地理解和响应用户查询来增强其能力。通过将用户问题映射到知识库中语义相似的答案,聊天机器人可以提供准确且符合语境的回复。

评估嵌入模型

这些指标和任务类别对于评估和比较多嵌入模型在不同应用中的性能至关重要。通过分析模型在这些领域的表现,研究人员和从业者可以挑选出最适合特定需求的模型。

  • 均值(任务): 模型在所有评估任务上的平均性能,反映了整体通用性。
  • 均值(类型): 在不同任务类型或数据格式(例如句子到句子、段落到段落)上的平均性能。
  • 跨语言挖掘(Bitext Mining): 在不同语言中找到互为翻译的句子对,对多语言语料库至关重要。
  • 分类(Class.): 为文本分配预定义的标签,如情感或主题分类。
  • 聚类(Clust.): 在没有标签的情况下对相似文本进行分组,以发现主题或结构。
  • 实例检索(Inst. Retri.): 针对查询检索特定相关文档,用于搜索或推荐。
  • 多分类(Multi. Class.): 将输入分类到3个或更多类别,例如新闻主题。
  • 配对分类(Pair. Class.): 判断文本对之间的关系,如重复或释义。
  • 重排序(Rerank): 重新排列候选列表(例如搜索结果)以提高相关性。
  • 检索(Retri.): 基于查询从大型语料库中获取相关文档/片段。

什么是 Qwen 3 Embedding 模型?

模型 参数量 层数 序列长度 嵌入维度 MRL 支持 指令感知
Qwen3 Embedding 0.6B 0.6B 28 32K 1024
Qwen3 Embedding 4B 4B 36 32K 2560
Qwen3 Embedding 8B 8B 36 32K 4096
  • Qwen3 Embedding 模型提供三种尺寸: 小型(0.6B)、中型(4B)和大型(8B)。
  • 所有模型都支持 长达 32,000 个 token 的长输入序列,适合处理长文档或代码。
  • 较大模型拥有 更多层(36 层对比 28 层)、更大的嵌入维度(最高 4096),能够捕捉更丰富的语义信息。
  • 它们都 支持多语言表示学习(MRL),能在多种语言上实现有效嵌入。
  • 所有模型都是 指令感知的,即能够响应特定任务指令或提示,从而提升定制化能力与下游性能。

此外,Qwen3 还提供了一个重排序模型,帮助重新排列查询结果以提供最相关的答案。

Qwen 3 Embedding 8B 的关键特性

qwen 3 8b key features

Qwen 3 Embedding 8B 的能力

benchmark of embedding models

您可以在此排行榜上查看嵌入模型的评估结果!

如何访问 Qwen 3 Embedding 8B?

Novita AI 是一个 AI 云平台,为开发者提供简单的 API 来部署 AI 模型,同时提供经济实惠且可靠的 GPU 云服务用于构建和扩展。

除了 Qwen 3 Embedding 8B,Novita AI 还提供免费的 bge-m3,以支持开源社区的开发!

步骤 1:登录并访问模型库

登录您的账户,点击 模型库 按钮。

Log In and Access the Model Library

立即试用 Qwen 3 Embedding 8B!

步骤 2:选择您的模型并开始免费试用

浏览可用的选项,选择适合您需求的模型。

qwen 3 embedding 8b model list

步骤 3:获取您的 API 密钥

为了对 API 进行身份验证,我们将为您提供一个新的 API 密钥。进入“设置”页面,您可以按照图中所示复制 API 密钥。

get api key

步骤 4:安装 API

使用您所用编程语言对应的包管理器安装 API。

安装完成后,将必要的库导入您的开发环境。使用您的 API 密钥初始化 API,即可开始与 Novita AI 模型交互。以下是 Python 用户使用聊天补全 API 的示例。

from openai import OpenAI
import json
client = OpenAI(
    base_url="https://api.novita.ai/v3/openai",
    api_key="<Your API Key>",
)
model = "qwen/qwen3-embedding-8b"
def get_embeddings(text, model="qwen/qwen3-embedding-8b", encoding_format="float"):
    response = client.embeddings.create(
        model=model,
        input=text,
        encoding_format=encoding_format
    )
    return response
# Example usage
text = "The quick brown fox jumped over the lazy dog"
result = get_embeddings(text)
print(json.dumps(result.model_dump(), indent=2))
  

Qwen3 Embedding 系列 提供可扩展、指令感知且支持多语言的模型(0.6B、4B 和 8B 参数),支持长序列并带来业界领先的性能。通过灵活的定制化功能和专用的重排序模型,Qwen3 Embedding 系列非常适合需要高效、准确语义理解的各种实际应用场景。

常见问题

什么是嵌入?

嵌入是一种将输入数据转换为低维空间中数值向量的技术。

嵌入模型解决了哪些问题?

它们实现了语义搜索和检索,通过理解查询和文档背后的含义,提升了搜索引擎、推荐系统、客户支持等领域的相关性。

什么是 Qwen3 Embedding 模型?

Qwen3-Embedding 是一个包含三个模型(0.6B、4B 和 8B 参数)的系列,支持长输入(最高 32K token)、多语言表示学习和指令感知定制化任务。其中 8B 模型以 70.58 分领跑 MTEB 排行榜!您可以在 Novita AI 上使用它!

Novita AI 是一个一站式云平台,助力您的 AI 梦想。集成 API、无服务器、GPU 实例——您需要的高性价比工具。无需基础设施,免费开始,让您的 AI 愿景成为现实。

推荐阅读