两个问题,两种命运

有一类问题的答案躺在某一份文档里,另一类问题的答案不在任何一份文档里。后者才是检索系统真正的坎。

设想一个 AI 检索系统,喂给它五年的工程文档:设计文档、事故复盘、架构决策记录。有人问「支付重试逻辑归哪个服务管」,它答得又准又带出处,点进去能核对。

换个问题:「所有复盘加起来,哪类故障最常重复出现?」系统开始列出几份文档,理由是这几份里出现了「反复」「频繁」这样的词。它找的是词,不是模式。 提问的人想知道的那件事,一个字也没拿到。

两个问题从外面看长得一样,结构上却是相反的。第一个的答案躺在某一份具体文档里,这正是相似度检索被造出来干的活。第二个的答案不在任何一份文档里,它是两百份复盘加起来才浮现的一个分布,横跨整个语料,不占据任何一个可以被「取回」的位置。

微软的 GraphRAG 文档给这两类起了名字:前者叫局部问题,后者叫全局问题。

向量检索押的赌

标准检索押的是一个赌:能回答问题的那段文字,读起来会跟问题很像。

RAG(检索增强生成,先从资料堆里捞几段相关文字,再让 AI 照着这几段作答)的流程很短。把文档切成几百到几千个 token(AI 计量文字的单位,一个 token 大约是大半个英文单词)的小段,每段过一遍嵌入模型,变成一串数字,也就是向量。意思接近的两段话,数字上也挨得近。

提问的时候,问题用同样的方式变成一串数字,系统取出离它最近的那几段原文,连同问题一起塞给模型作答。

整套设计压在一个假设上:能回答问题的那段文字,读起来会跟问题很像。 大多数时候这个假设成立。「支付重试逻辑归哪个服务管」这句话里的词,跟当初记下这条归属的架构决策记录里的词高度重合,两串数字自然靠得近,捞回来的文档也真能被读者点开核对。

全局问题崩在同一个地方。「最常重复」这个短语也会被变成一串数字,系统只能返回离它最近的东西。在一堆事故报告里,离它最近的是那些恰好用了「反复」「频繁」字样的文档,词汇上的巧合,不是答案。这种结果通常被归到「模型爱胡编」头上,但实际发生的是:检索捞回来一堆跟问题关系不大的材料,模型照着它们写出了一段通顺的话。

切块 每份文档切成几百到几千 token 的小段 变成一串数字 每段过一遍嵌入模型 进索引 意思相近的段落, 数字上也挨得近 问题同样处理 提问也被转成一串数字 取最近的几段 连同问题塞进提示词, 模型照着作答 整条链路只在一个前提下成立: 能回答问题的那段文字, 读起来像问题。
标准 RAG 的全部流程只有五步,成败压在最后一跳「离得近」上。出自微软 GraphRAG 文档所描述的基线检索流程。

窗口开大也没用

微软实测过把上下文开到 6.4 万 token,全局问题上的差距照样没补上。

一个很自然的反驳:现在上下文窗口这么大,把文档一股脑全塞进去不就行了。微软正好测了这件事,拿 GraphRAG 跟向量检索比,后者一次分别塞进 8000 和 64000 个 token 的上下文。6.4 万 token 大概是一本中等厚度的书。

结果是,在全局问题上,窗口开大并没有把差距补上。完整度、角度的丰富程度、支撑材料的质量,这三项上向量检索仍然落后。

多塞材料不等于多理解材料。捞回来的还是那些词面上相像的段落,只是数量更多了。

把关系本身存下来

知识图谱存的不是文字,是「谁和谁是什么关系」,这恰好是切块丢掉的那部分。

要跨过这道坎,系统必须记住文档之间的关系,而不是把每一段当成互不相干的文字。知识图谱(把文字里的人、事、物抽成一个个节点,再把它们之间的关系连成线)就是记这个的一种方式。

图里存两种东西。实体是语料在谈论的那些名词:人、服务、团队、事故、决策;关系是实体之间带类型的连线。两者都各带一句白话描述。

拿一句复盘原话举例:支付团队在 3 月 3 日部署新的重试处理器之后,结账服务开始返回超时。抽取之后得到三个实体,结账服务、支付团队、重试处理器,外加两条关系:团队部署了这个处理器,以及这次部署发生在超时之前。

几千句话各自贡献几个节点和几条边之后,会浮现出任何单份文档都没写过的路径。某位工程师的名字出现在一份设计文档里,某个服务出现在第二份里,某起事故记在第三份里。从这位工程师走到那起事故,路是通的,只是要穿过中间两个节点。

图数据库厂商 Neo4j 的文档把这张图拆成两层:一层记文档和它的切块之间的从属,一层记文档所描述的那些东西之间的关系。多数 GraphRAG 系统两层都建,查询时一起用。

部署了 上线早于 记录在 在设计文档里写了 开始返回 支付团队 复盘里提到的团队 新的重试处理器 3 月 3 日上线 某位工程师 名字只出现在设计文档里 结账服务 出问题的服务 超时故障 上线之后开始出现 事故复盘文档 这句话的出处
从「某位工程师」走到「超时故障」这条路,三份文档各写了一段,没有哪一份写全过——这正是切块存法会丢掉的东西。

LinkedIn 拿它改了客服

LinkedIn 客服团队把工单检索改建在知识图谱上之后,生产环境里每个问题的解决时间中位数降了 28.6%。

这不是纸上推演。LinkedIn 的客服团队在 2024 年的 SIGIR(信息检索领域的顶级学术会议)上公布了结果。他们的支持工单原本按纯文本存,这么一存,每张工单内部的结构和工单与工单之间的关联全丢了。

把检索改建在一张同时保留这两样东西的知识图谱上之后,衡量「正确结果排得多靠前」的那个指标提高了 77.6%,生产环境里每个问题的解决时间中位数降了 28.6%。

第二个数字是真实发生在客服台前的:同样一批人,同样的工单量,处理一个问题的时间少了将近三成。

+77.6% 正确结果的排位提升幅度 -28.6% 工单解决时间中位数降幅
LinkedIn 客服团队把支持工单检索改建在知识图谱上后的两项实测结果,2024 年 SIGIR 会议论文。

钱都花在抽取上

建这张图要让大模型把整个语料读两遍,光是第一遍抽取,就占掉索引总成本的大约 75%。

从原始文档建出这张图是一条流水线,成本高度集中在其中一环。微软记录的索引流程走六个阶段:从切块开始,中间夹着两遍大模型,第一遍逐段抽实体和关系,第二遍做合并,最后聚类、给每个社区生成报告,连同原文段落一起写进向量库。

合并那步为什么贵,举个数就明白:一个服务在两百份文档里被提到,抽取阶段就会产出两百条各写各的描述。 每一条都得跟另外一百九十九条对齐,压成一句连贯的话,这张图才能用。

微软的文档估计,光抽取这一步就占掉索引总成本的大约 75%。抽取质量还依赖针对具体领域调过的提示词,换个行业,提示词得重调。

有人试过绕开这笔钱。FastGraphRAG 把抽取环节的大模型换成传统的自然语言处理方法,把名词短语当实体,把同一块文字里共同出现当关系。索引便宜得多,图里的噪声也多得多。

还有个细节值得记住:每一个抽出来的实体和关系,都留着一个指回原文段落的指针。答案能标出「这句话来自哪份文档的哪一段」,靠的就是它。

切成文本单元 和普通检索一样,先切块 第一遍大模型:抽取 抽出实体与关系,各带一句描述 第二格大约吃掉 索引总成本的 75%。 第二遍大模型:合并 同名实体的几百条描述压成一条 聚类成社区 图被反复切分成大小不同的团 给每个社区写报告 报告与原文段落一起进向量库
微软记录的索引流水线,成本几乎全压在第二格的抽取上。原文六个阶段中的可选环节(抽取时间限定的事实陈述)已并入第二格呈现。

答案先于问题写好

在没人提问的时候,系统就把「这堆文档合起来在说什么」写成了一份份摘要。全局问题能被回答,全靠这一步。

一张实体关系图能回答「谁和谁有关」,但要回答「整堆文档合起来说明了什么」,还得在上面加一层。

GraphRAG 对这张图跑分层的 Leiden 聚类(把连得紧密的节点自动归成一团,再把大团反复切成小团)。切到团的规模小于某个阈值为止,结果是一个有好几层的层级结构。第 0 层只有少数几个大团,每个覆盖一大片;越往下团越多,每个覆盖的范围越窄。

对每一层里的每一个团,大模型都会写一份报告:这个团大致在讲什么,关键的实体、关系和事实是哪些。报告还会再被压成一版更短的,供提问时快速调用。

这一步才是全局问题变得可回答的原因。 一群文档合起来在说什么,在索引阶段就被写成了文字,远在有人提问之前。等全局问题来了,回答它所需要的材料已经是现成的文本。

用哪一层的报告来回答,是个有真实代价的选择。微软的文档直说:答案质量受这个选择影响很大。层次越深,报告越细,答案越扎实,但报告数量也越多,时间和 token 都更贵。

两条检索路

问句里有没有点名一个具体对象,决定系统走哪条路。两条路的机制毫无共同之处。

图和报告都躺在硬盘上之后,检索可以走两条结构完全不同的路。

局部搜索先拿问题去匹配实体描述,找到几个入口实体,然后从每个入口同时向五个方向扩:

  1. 提到这个实体的原文段落
  2. 包含它的社区报告
  3. 跟它直接相连的邻居实体
  4. 构成这些连接的关系本身
  5. 挂在它身上的事实陈述

五路捞回来的候选各自排序、各自筛掉一批,活下来的被装进一个事先定好大小的上下文窗口。扩展有边界,排序有明确规则,它更像一次结构化的收集加排序,而不是在图里漫无目的地找路。

全局搜索压根不碰实体图。它取某一层的全部社区报告,切成一批批,还要把批次顺序打乱;每一批交给大模型读一遍,产出一份中间答案,其中每个要点都带一个重要性评分;最后再跑一次,把所有批次里评分最高的要点收拢,写成最终答案。

回到开头那两个问题就清楚了。「重试逻辑归哪个服务管」点名了一个具体对象,局部搜索定位它、围着它展开;「哪类故障最常重复」谁也没点名,只能让全局搜索把覆盖全语料的现成报告汇总一遍。

还有一种叫 DRIFT 的混合模式:先拿问题跟最相关的几份社区报告比,给出一个粗答案外加几个追问,再用局部搜索去回答这些追问。GraphRAG 也保留了最朴素的向量检索模式,有些问题,那个才是对的工具。答案回来得空泛还是精准,往往不怪模型,怪走错了模式。

一个问题 先看它有没有点名具体对象 问句里点了名 问句里没点名 局部搜索 碰实体图 定位入口 匹配到的入口实体 拿问题比对实体描述 同时向五个方向扩 扩到的材料 原文段落、邻居实体、关系、事实 排序筛选后装进一个上下文窗口 全局搜索 完全不碰实体图 打乱后分批读,每个要点打分 某一层的全部社区报告 索引时就写好的现成文本 收拢评分最高的要点 最终答案 两条路的共同出口
「重试逻辑归哪个服务管」走左边,「哪类故障最常重复」走右边。分岔点只有一个:问句里有没有一个具体对象。

便宜一千倍的版本

微软自己的后续方案 LazyGraphRAG 把索引成本砍到完整版的千分之一,全局问答质量没掉。

成本决定一项能力值不值得买。标准 RAG 两头都便宜:建索引时过一遍嵌入模型,查询时找一次最近邻。GraphRAG 把钱重新分配了,索引阶段吃下两遍大模型,加上每一层每一个社区的报告生成;查询阶段则分叉,局部搜索很便宜,全局搜索要为一个问题把一大堆报告喂给大模型跑一遍。

更麻烦的是,这个索引是派生出来的东西,会过期。新文档进来,受影响的部分要重新抽取、重新聚类、重新总结,而且图长大之后,社区的层级本身可能变形。语料天天变的话,这就成了一项长期的运维负担。

微软自己的后续工作直接冲着成本去。LazyGraphRAG 用传统语言处理方法建索引,完全跳过总结环节,把所有大模型的活推迟到提问那一刻。结果是索引成本跟普通向量检索持平,只有完整版 GraphRAG 的千分之一;全局问答质量跟全局搜索相当,单次查询成本却降到不足原来的七百分之一。

微软仍然不主张所有部署都换成它。给出的理由是:那些预先写好的实体、关系和社区报告,价值不止于回答问题,人会直接去读它们、传它们。

0.1% 索引成本,相对完整 GraphRAG 不到 1/700 全局问答的单次查询成本
微软后续方案 LazyGraphRAG 把大模型的活全推迟到提问那一刻后的两项成本结果,全局问答质量与原版相当。

它治不了胡编

GraphRAG 被测出来的优势是答得更全、出处更实,不是每句话更准。忠实度这一项上,它和普通 RAG 打平。

微软自己的评测给出两条结论,其中一条常被略过。第一条:局部问题上普通向量检索仍然更强,答案跟问题长得像、待在某一片具体文字里,这正是它的主场。第二条:GraphRAG 被测出来的优势在于完整度、角度的丰富程度和支撑材料的质量,而在忠实度这一项上,它和基线 RAG 得分相当。

第二条决定了一个常见问题的答案。有人问 GraphRAG 是不是能减少 AI 胡编,证据支持的是它覆盖得更全、出处给得更好,但没有支持「每一句话更准确」。这两件事经常被混为一谈。

既然不同类型的问题偏爱不同的检索方式,在系统建成时就锁死一种,等于放弃了其余几种。agentic RAG(让一个大模型先判断这是什么类型的问题,再挑检索策略、执行、最后综合结果)就是冲着这个约束去的。可选的策略可以包括:局部问题走向量检索,全语料的问题走全局搜索,结构化数据查数据库,时效性问题去搜网页。工具框架 LlamaIndex 记录了一种两层做法:先选查哪个索引,再在选中的索引里选用哪种检索方法。

代价也实在。每个问题头上多一次大模型调用,延迟和单次花费都涨;更难办的是排错,一个糟糕的答案,可能来自一次执行得完美无缺、只是策略选错了的检索。

对大多数团队,真正该做的判断是这个:先数一数,你的问题里有多少是「这个归谁管」。如果绝大多数都是,那么两遍大模型、一份会过期的索引、一笔持续的运维,买来的可能是你并不需要的能力。GraphRAG 不是 RAG 的升级版,它是另一类问题的答案。

微软测出来的优势 答得更完整、角度更多、 给出的支撑材料更实 并没有测出来的优势 单条陈述更准确。 忠实度上它与基线 RAG 得分相当
证据支持的是覆盖和出处,不是准确率。出自微软自家评测的两条结论。