第8章：Embedding 与向量数据库——RAG 的技术底座

Sat, 13 Jun 2026 00:00:00 +0000

第8章：Embedding 与向量数据库——RAG 的技术底座

系列导读：本章讲 RAG 的"底层基础设施"。选对了 Embedding 模型和向量数据库，后面的优化事半功倍；选错了，上层做再多也救不回来。

一、Embedding 到底做了一件什么事？

Embedding（嵌入）做的事情本质上只有一件：

把一段文本，映射成一个固定长度的浮点数向量。

比如把 “今天天气很好” 转成：[0.023, -0.145, 0.778, …]，长度比如 768 或 1024。

这个映射最关键的性质：语义相近的文本，向量在空间中距离相近。

度量方式通常用余弦相似度：

cos(A, B) = (A·B) / (||A|| × ||B||)

值接近 1 表示高度相似，接近 0 表示无关。

二、如何选择 Embedding 模型？

维度

384 维：轻量，存储省，适合简单场景
768-1024 维：最常用，精度够用
4096+ 维：高精度，适合专业检索

语言

纯中文：BGE 系列（推荐 v1.5 或 M3E 通用版）、智谱 embedding
中英混合：BGE 系列、GTE 系列
多语言：OpenAI text-embedding-3, E5 multilang, GTE multilang

评估方式

千万不要只看 MTEB 排行榜！

在自己的数据上跑模拟测试：

标注一组 “问题 | 期望答案文档” 的配对
用候选 Embedding 模型向量化问题和文档
计算 Top-K 召回率、NDCG
选实际效果最好的，不要迷信榜单第一

关键指标：

Hit@K：正确结果在 Top-K 中的占比
NDCG@K：不仅看命没命中，还看命中位置的排名质量

三、向量数据库：为什么不是普通的字典？

向量数据库和普通数据库的根本区别：

特性	普通数据库	向量数据库
查询方式	精确匹配 / 范围查询	近似最近邻搜索（ANN）
索引结构	B+ Tree / 哈希	HNSW / IVF / DiskANN
数据维度	低维（几十列）	高维（几百到几千列）
准确率	100%	可接受的近似误差（99%+）
速度目标	毫秒级精确查询	毫秒级近似搜索（百万级数据）

在高维空间里，最近邻搜索的复杂度是 O(n)。百万级数据全量扫描太慢了，所以必须做近似搜索。

索引算法简述

算法	核心思想	适用场景
HNSW	构建多层图结构，像跳表一样逐层搜索	内存充足、追求最高召回率
IVF-PQ	先聚类分桶，粗过滤后精计算	磁盘存储、数据量极大
DiskANN	HNSW 的磁盘友好版本，压缩存入 SSD	十亿级数据

四、向量数据库选型矩阵

产品	类型	适用规模	特点
Chroma	开源嵌入式	开发/小项目	零配置上手，嵌入式
Qdrant	开源服务端	中小规模生产	Rust 高性能，API 简洁
Milvus/Zilliz	开源 + 云	大规模/超大规模	云原生设计，字节/阿里在用
Pinecone	全托管云	不想运维	成本稍高，API 极简
pgvector	PostgreSQL 插件	已有 PG 架构	无需引入新组件
Elasticsearch	搜索引擎	ES 集群已有	向量检索是后来补的，性能一般

选型建议：

本地开发/原型阶段：Chroma（零配置）
生产中小规模：Qdrant / pgvector
大规模/云上：Milvus / Pinecone
已有搜索架构扩展：在现有系统（ES/MeiliSearch）外挂向量能力

五、Embedding + 向量库的完整链路

文档 → 切割 → Chunking → Embedding 模型 → 向量 [v1, v2, ...] → 向量数据库写入
                                          ↓
问题 → Embedding 模型（同一个！） → 查询向量 q → 向量库 ANN 搜索 → Top-K 结果 → Rerank → LLM

关键注意：离线存储和在线查询必须用同一个 Embedding 模型。不同模型映射的向量空间不同，交叉使用会导致检索完全失败。

六、生产环境中的高级话题

1. 动态更新

知识库内容更新了怎么办？

增量写入：新文档 chunk → embedding → 插入
删除：按 metadata 标识清理过期 chunk
替换：先删后插（需要事务或软删除策略）

2. 混合搜索

纯向量检索有局限（比如精确匹配产品型号时）。混合搜索 = 向量语义搜索 + 关键词全文搜索，两种结果融合：

最终得分 = α × 向量相似度 + β × BM25 分数

3. 多模态 Embedding

不仅有文本 embedding，还有图片 embedding、音频 embedding。同一语义空间内，“一段描述” 和 “一张图片” 可以互相检索。这就是多模态 RAG 的基础。

七、本章小结

Embedding 是"语义压缩"，让文本变成数学可度量
选模型：以自己业务数据上的召回测试结果为准，不是排行榜
向量库的核心是 ANN 近似搜索，不是精确匹配
选型矩阵覆盖从开发到生产的全链路需求
同一个模型贯穿离线和在线链路是基本原则

思考题

为什么在高维空间里，传统数据结构（B+树、哈希）对最近邻搜索失效？这和高维空间的几何特性有什么关系？
你设计一个 RAG 系统时，会怎么安排 Embedding 模型更新的灰度策略（避免在线查询和离线存储用的模型版本不一致）？

Vector Search on SelfTechHub

第8章：Embedding 与向量数据库——RAG 的技术底座

第8章：Embedding 与向量数据库——RAG 的技术底座

一、Embedding 到底做了一件什么事？

二、如何选择 Embedding 模型？

维度

语言

评估方式

三、向量数据库：为什么不是普通的字典？

索引算法简述

四、向量数据库选型矩阵

五、Embedding + 向量库的完整链路

六、生产环境中的高级话题

1. 动态更新

2. 混合搜索

3. 多模态 Embedding

七、本章小结

思考题