← 中文资源

简体中文版本

向量嵌入

向量嵌入把离散条目映射为稠密向量,使向量空间中的几何距离对应语义相似度。

阅读英文原文

概念定义

向量嵌入是条目的学习式稠密向量表示——可针对词、句子、图像或用户——使得语义相近的条目在所选度量(通常是余弦相似度或点积)下彼此靠近。在共现或对比目标上训练的模型把相关条目放到相邻位置,于是语义搜索、聚类与推荐都转化为向量上的最近邻问题。

为什么重要

关键词搜索在换述与多语言文本上会失败。嵌入让“降低云支出”的查询能匹配讨论“削减基础设施成本”的文档,即使两者没有任何共同词。这构成了语义检索的基础,也是检索增强生成能把语言模型从未训练过的私有文档作为依据的原因。

工程实践

按任务与语言组合挑选模型,每个索引只用一个模型,并把向量与源标识一起存储。若打算用余弦相似度排序,就先归一化向量;按内容哈希缓存嵌入;模型一旦更换就重建整个语料。将向量索引与元数据过滤配合,保证结果既相关又合规。