GraphRAG 完全指南
给客服机器人接了向量 RAG,单文档问答很准。直到有人问了一句「我们家产品的最大竞品,是谁创立的公司做的?」——机器人卡壳了。答案明明就在知识库里,只是分散在三篇文档:一篇讲产品、一篇讲竞品、一篇讲那家公司的创始人。向量检索按关键词相似度捞 top-k,第三篇和问题里的词几乎不沾边,直接被漏掉。
这不是模型不够聪明,是朴素 RAG 的结构缺陷:它把每个 chunk 单独编码成向量,chunk 之间没有连接。当答案需要「顺着一个共享实体一路跳过去」时,它连不起点。
一句话概括:GraphRAG 先用 LLM 把文档抽成「实体+关系」的知识图谱,再沿关系边做多跳遍历——它专治向量 RAG 的两大死穴:跨文档的多跳推理(connect the dots)和「整个语料在讲什么」的全局主题概括。代价是建图要逐 chunk 调 LLM,索引成本高 20-100 倍。
这篇给你讲透机制、用一个离线 demo 亲手看到向量 RAG 漏答而 GraphRAG 答对、并给出 2026 年「到底该不该上」的决策规则和省钱路径。
一、先看差异:向量 RAG 为什么「连不起点」
一个具体的多跳问题(demo 里就跑这个):
- 文档 c1:「张三 是 Acme 公司的 CTO。」
- 文档 c2:「Acme 的主要竞争对手是 Globex。」
- 文档 c3:「Globex 由 李四 创立。」
问:「张三所在公司的竞争对手是谁创立的?」 答案是 李四。
向量 RAG 的做法:把问题 embedding,按相似度检索 top-k chunk。问题里有「张三」「公司」「竞争对手」「创立」,能捞到 c1、c2。但答案所在的 c3 和问题关键词几乎不重叠,排不进 top-k,于是被漏掉——模型拿不到「李四」这个事实,只能瞎猜或拒答。
GraphRAG 的做法:先把文档抽成实体关系图,再从「张三」这个锚点实体出发,沿边遍历:
graph LR
A["张三"] -->|"任职于"| B["Acme"]
B -->|"竞争对手"| C["Globex"]
C -->|"创立者"| D["李四"]三跳走到「李四」。关键在于:图谱把散落在不同 chunk 的事实用共享实体连了起来,遍历时不依赖 chunk 和问题的关键词/语义相似度。 这就是「connect the dots」。
| 朴素向量 RAG | GraphRAG | |
|---|---|---|
| 索引单位 | 独立 chunk 的向量 | 实体 + 关系构成的图 |
| 检索方式 | 相似度 top-k | 沿关系边多跳遍历 |
| 多跳问题 | 常漏(关键词对不上就丢) | 强项 |
| 全局主题概括 | 无能为力 | 社区摘要专治 |
| 溯源引用 | 靠 chunk | 每条边带来源,天然可引 |
| 索引成本 | 只需 embedding | 逐 chunk 调 LLM,高 20-100 倍 |
二、机制拆解:从文档到可遍历的图
Microsoft GraphRAG(论文《From Local to Global》arXiv:2404.16130)的完整管线分两大阶段。
索引阶段(贵,一次性):
- 切 chunk:Microsoft 建议切得比常规更小(50-100 token 而非 1200),让实体共现更密、图更连通。
- LLM 抽实体+关系:逐 chunk 让 LLM 抽出「实体、关系、描述」。这是成本大头——每 chunk 要 4-6 次 LLM 调用,占索引成本约 75%。
- 合并去重:把跨 chunk 的同名实体、重复子图合并。
- Leiden 社区检测:把图层级化地切成一个个「社区」(紧密相关的实体簇)。Leiden 比 Louvain 更好,修了「社区不连通」的 bug。
- 社区摘要预生成:给每一层每个社区,用 LLM 预先写一段摘要。
查询阶段(分两种模式):
| 模式 | 回答什么 | 怎么做 |
|---|---|---|
| Local search | 具体事实问题(多跳) | 锚定实体 → 沿关系边遍历取子图 → 综合作答 |
| Global search | 「整个语料在讲什么主题」 | 把某一层所有社区摘要 map-reduce 过一遍 LLM |
记住这条分工:local search 回答「谁创立了竞品」这种可锚定实体的具体问题;global search 回答「这批文档的核心主题有哪些」这种得纵览全局的问题——后者正是向量 RAG 彻底无能为力的地方。
Microsoft 自己的评测:在百万 token 语料的全局「意义构建」问题上,GraphRAG 在 72-83% 的全面性和 62-82% 的多样性对比中胜过朴素 RAG(LLM-as-judge,属厂商自评,看趋势)。
三、动手:离线看到向量 RAG 漏答、GraphRAG 答对
配套代码在 graphrag,完全离线(用手写三元组模拟 LLM 的抽取结果,聚焦机制本身),go run . 直接跑。
朴素 RAG 用关键词重叠冒充向量相似度,检索 top-2:
// naiveRAG 返回与 query 关键词重叠最高的 topK 个 chunk。
func naiveRAG(query string, topK int) []chunk {
qs := tokenSet(query)
// ... 按 overlap(qs, chunk) 排序取 topK ...
}
跑出来它只捞到 c1,漏掉了含答案的 c3:
是否包含答案所在的 c3(李四)? false
→ c3「Globex 由李四创立」和问题里的词几乎不重叠,被漏掉了。
GraphRAG 侧,先有「LLM 抽出的」三元组(这里手写模拟),再做多跳遍历:
// 模拟 LLM 逐 chunk 抽取的结果(真实系统这一步烧钱:每 chunk 4-6 次 LLM 调用)。
var graph = []triple{
{"张三", "任职于", "Acme", "c1"},
{"Acme", "竞争对手", "Globex", "c2"},
{"Globex", "创立者", "李四", "c3"},
}
// multiHop 按关系路径从起点逐跳遍历——这就是 local search 的核心。
func multiHop(start string, relPath []string) (string, []string) {
cur := start
var trail []string
for _, rel := range relPath {
ns := neighbors(cur, rel) // 沿这条关系边走一跳
if len(ns) == 0 {
return "", trail
}
trail = append(trail, /* 记录这一跳 + 来源 chunk */ ...)
cur = ns[0].obj
}
return cur, trail
}
跑出来三跳连上答案,且每跳自带来源:
第1跳 张三 --任职于--> Acme(来源 c1)
第2跳 Acme --竞争对手--> Globex(来源 c2)
第3跳 Globex --创立者--> 李四(来源 c3)
→ 答案:李四
同一个问题,向量 RAG 漏答、GraphRAG 答对,差异就在「有没有把点连起来」。 而且遍历路径天然是一条带来源的引用链——溯源是 GraphRAG 的附赠好处。
四、绕不开的成本悬崖,以及 2026 的省钱解法
GraphRAG 最大的现实阻力是索引贵:逐 chunk 调 LLM 抽实体,比纯 embedding 贵 20-100 倍。有博客称索引一个 5GB 法律数据集花了约 3.3 万美元(单一轶事,谨慎看待),但方向是对的——60-80% 的系统总成本花在索引而非查询上。
2026 年的省钱路径,按投入产出比排序:
| 手段 | 机制 | 省钱幅度 |
|---|---|---|
| 便宜模型抽取 | 用 GPT-4o-mini 抽实体,只在写社区摘要时用强模型 | 大头 |
| LazyGraphRAG | 索引期不调 LLM,改用名词短语/NLP 抽取,把 LLM 推迟到查询期 | 索引成本≈向量 RAG,约为 GraphRAG 的 0.1% |
| fast-graphrag | 用 PageRank 排图节点优先级 | 号称便宜约 6 倍(厂商口径) |
| DRIFT search | 先用社区摘要给初始答案,再 local search 钻取,避开全量 global 开销 | 省查询成本 |
LazyGraphRAG(Microsoft,2024 底)值得单独点名:它把索引成本压到和向量 RAG 一样(约为完整 GraphRAG 的 0.1%,近千倍降),在全局查询质量上还能打平甚至超过 global search。代价是查询变重——所以它适合一次性/探索性/流式的场景;若你要反复查询、要稳定的溯源引用、要可复用的主题查询,还是值得预先建图。
务实忠告:先用便宜模型跑 50-100 篇文档的试点,再按 ×1.4(不是 ×1.1)外推——因为社区检测的成本随实体数二次增长。
五、决策规则:到底该不该上 GraphRAG
先看最诚实的一个结论。密歇根州立/Meta 的中立评测(统一协议,最可信)发现没有普适赢家:单跳问题(Natural Questions)朴素 RAG 反而略胜(F1 64.8 vs 63.0);多跳问题(MultiHop-RAG)图检索胜(70.3 vs 67.0)。GraphRAG 是「专科升级」,不是「通用更强」。
该上 GraphRAG,当你的问题满足以下任一:
- 需要多跳推理——答案要跨多个文档、沿共享实体连接(「A 的竞品的创始人是谁」)。
- 需要全局主题概括——「这批文档的核心议题有哪些」,向量 RAG 彻底做不了。
- 需要结构化聚合——「统计所有满足某条件的实体」。
- 需要强溯源——每个结论要能追到来源。
别上,继续用向量 RAG,当:
- 语料不大,top-k 就能覆盖大多数问题。
- 问题基本映射到单篇文档(如 HR 政策,每篇一个独立主题,文档间没有实体关联)。
- 答案不需要跨源推理。
最重要的一条工程纪律:先拿真实用户问题在朴素向量库上跑一遍,确认「多跳/连点」瓶颈真实存在,再投入建图的基础设施。别一上来就 graph everything——抽取质量是 GraphRAG 成败的最大变量,抽得糙反而可能比纯 LLM 还差。
六、2026 落地栈
要「社区检测 + 全局摘要」这套:直接用 Microsoft GraphRAG(Leiden + 层级摘要);一次性/探索性负载考虑 LazyGraphRAG。
要「图 + 向量」融合的生产系统:Neo4j 原生栈是共识——Neo4j 把 HNSW 向量索引和图节点放一起(没有图与向量的同步缝),配 neo4j-graphrag-python 的 VectorCypherRetriever 做混合检索,用 LangGraph 编排。
框架选型的 2026 主流是组合式:LlamaIndex 管摄取/检索(Property Graph Index)+ LangGraph 管编排/agent + 独立的 eval 层。轻量自建可看 nano-graphrag(约 1100 行)。
注意坑:fast-graphrag 对 JSON 输出要求严格,7B-8B 本地小模型跑不动(需 GPT-4o-mini 级别),别指望用小模型省这块钱。
小结
GraphRAG 不是向量 RAG 的替代品,而是它的专科补强:向量检索把 chunk 单独编码、「连不起点」,遇到跨文档多跳和全局主题概括就失灵;GraphRAG 先用 LLM 抽实体关系建图,local search 沿边多跳把点连起来、global search 靠社区摘要纵览全局,还天然可溯源。代价是索引贵 20-100 倍,2026 年靠便宜模型抽取、LazyGraphRAG、DRIFT 等把成本压下来。决策纪律最关键:先在朴素向量库上验证「多跳瓶颈」真实存在,再建图——多数负载其实不需要遍历,别为不存在的问题上重型基础设施。
参考资料
| 资料 | 来源 |
|---|---|
| From Local to Global: A GraphRAG Approach | arXiv:2404.16130(Microsoft Research) |
| Microsoft GraphRAG(开源实现) | github.com/microsoft/graphrag |
| GraphRAG 索引方法与概念文档 | microsoft.github.io/graphrag |
| LazyGraphRAG(索引成本≈向量 RAG) | microsoft.com/en-us/research/blog/lazygraphrag-setting-a-new-standard-for-quality-and-cost |
| DRIFT search(global+local 融合) | microsoft.com/en-us/research/blog/introducing-drift-search |
| Neo4j GraphRAG for Python | github.com/neo4j/neo4j-graphrag-python |
| nano-graphrag / fast-graphrag | github.com/gusye1234/nano-graphrag |
| Do You Really Need GraphRAG?(诚实的决策指南) | towardsdatascience.com/do-you-really-need-graphrag |
| 本篇配套代码 | github.com/hua-ri/agent-learning /main/graphrag |