图形RAG是一个突破性的系统,它将知识图谱与检索增强生成(RAG)相结合,以解决传统RAG方法的局限性。通过利用知识图谱,图形RAG提供了更全面的底层语料库理解,从而实现更准确和更具上下文相关性的响应。

图形RAG的关键方面包括:

1. 索引阶段:在这个阶段,对源文档进行处理,提取实体并用于创建知识图谱。知识图谱表示不同实体之间的关系,然后用于创建不同粒度级别的摘要。

2. 查询阶段:当用户提供查询时,图形RAG会根据查询选择合适的社区(摘要)级别,并检索相关信息。来自多个社区的响应被组合以生成最终答案。

这种方法解决了传统RAG的局限性,如有限的上下文理解和可扩展性问题。通过结合知识图谱,图形RAG可以提供对底层数据更全面的理解,从而产生更准确和连贯的响应。

图形RAG的一个关键优势是它能够处理需要更深入理解实体关系的复杂查询。这使它特别适用于问答、摘要或知识密集型任务。

然而,需要注意的是,运行图形RAG的成本可能高于传统的RAG系统,因为它涉及额外的处理步骤,如实体提取和知识图谱创建。这一成本因素在决定是否在应用程序中实施图形RAG时应该仔细考虑。

总的来说,图形RAG代表了检索增强生成领域的重大进步,它在各种应用中提升语言模型性能的潜力值得探索。

传统的检索增强生成(RAG)是一种方法,语言模型从大型语料库中检索相关文档,以生成更准确和上下文相关的响应。这种方法涉及三个主要步骤:

1. 文档处理和嵌入:原始文档被分成较小的块,使用分块策略。然后为每个块计算嵌入,并存储在向量存储中,这成为知识库。

2. 查询阶段:当用户提出问题时,会计算查询的嵌入,并在向量存储上执行相似性搜索,以检索最相关的块或子文档。

3. 响应生成:检索到的上下文与原始查询结合,输入到大型语言模型中生成最终响应。

然而,这种传统的RAG方法存在几个局限性:

1. 有限的上下文理解:RAG有时会由于过于依赖检索的文档而错过数据中的细微差别。它没有对整个文档的全面概览,因此无法完全理解整体情况。

2. 可扩展性问题:随着语料库的增长,检索过程可能变得效率较低。

3. 集成外部知识源的复杂性:以有意义的方式集成外部知识源可能很复杂和繁琐。

为了解决这些局限性,微软推出了GraphRAG,这是一个将知识图谱与检索增强生成相结合的系统。在下一节中,我们将深入探讨GraphRAG的工作原理。

图形RAG是一种新颖的方法,它将知识图谱与检索增强生成(RAG)相结合,以解决传统RAG系统的局限性。图形RAG过程的关键步骤如下:

1. 索引阶段:

   • 将源文档划分为较小的子文档。
   • 在每个块中,识别实体(如人物、地点、公司),并提取这些实体之间的关系。
   • 使用这些信息创建一个知识图谱,其中实体表示为节点,它们之间的关系表示为边。
   • 然后使用知识图谱检测社区,即密切相关实体的群组。
   • 为每个社区创建不同粒度级别(从全局高层到局部更细粒度)的摘要。

2. 查询阶段:

   • 当收到用户查询时,根据所需的详细程度选择合适的社区级别(全局、中间或局部)。
   • 检索相关社区的摘要,并将这些部分响应组合以生成最终答案。

这种方法相比传统的RAG系统提供了几个优势:

• 改善上下文理解:通过利用知识图谱和社区级别的摘要,图形RAG可以更好地捕捉源文档的整体背景和细微差别,而不仅仅依赖于检索的文档。
• 增强可扩展性:随着语料库的增长,社区级别的摘要可以帮助维持高效的检索和响应生成,从而缓解传统RAG的可扩展性问题。
• 简化集成:基于知识图谱的方法提供了一种更结构化和有意义的方式来集成外部知识源,使该过程更加简单和不那么繁琐。

然而,图形RAG方法也存在一个潜在的缺点:运行系统的成本。索引阶段涉及实体提取、关系识别和社区摘要,这可能是计算密集型的,特别是在使用像GPT-4这样的大型语言模型时,会产生显著的成本。

在提供的示例中,在单本书(《圣诞颂歌》)上运行图形RAG的成本约为7美元,这对于更大的语料库可能过于昂贵。这一成本因素是在决定是否在应用程序中使用图形RAG或传统RAG系统时需要仔细考虑的。

总的来说,图形RAG代表了解决传统RAG系统局限性的创新方法,但需要根据具体要求和项目规模仔细评估成本影响。

要在您的本地机器上设置图形RAG,请按照以下步骤操作:

1. 创建一个Conda虚拟环境:

   conda create -n graphrag python=3.9
   conda activate graphrag
   

2. 安装图形RAG软件包:

   pip install graphrag
   

3. 创建一个测试数据目录:

   mkdir -p rag_test/input
   

4. 下载一个示例数据集,如查尔斯·狄更斯的《圣诞颂歌》文本:

   python -m graphrag.index --root_dir rag_test/input --download_sample_data
   

5. 设置您的工作区变量和配置:

   python -m graphrag.index --root_dir rag_test/input --init_config
   

   这将创建一个settings.yml文件,您可以在其中配置API密钥、模型和其他设置。

6. 运行索引过程以创建知识图谱:

   python -m graphrag.index --root_dir rag_test/input
   

   这一步可能需要一些时间,因为它涉及实体提取、关系识别和社区摘要。

7. 运行示例查询:

   python -m graphrag.query --root_dir rag_test --method global --prompt "这个故事的主要主题是什么?"
   python -m graphrag.query --root_dir rag_test --method local --prompt "斯克鲁奇和鲍勃·克拉奇特之间的关系是什么?"
   

   global方法检索最高层级的信息,而local方法关注特定实体及其关系。

8. 分析成本影响: 索引过程可能很昂贵,特别是在使用像GPT-4这样的大型语言模型时。提供的示例显示,处理一本书的成本约为7美元。在将图形RAG应用于更大的数据集时,请考虑成本影响。

这就是在本地机器上运行图形RAG的基本设置过程。请记得根据您的具体用例自定义配置和提示。

在提供的示例中,使用图形RAG的成本影响是显著的。处理该书并创建图形RAG的总成本约为7美元,这对于大型数据语料库可能过于昂贵。

导致高成本的关键因素有:

1. API请求:图形RAG方法总共发出了570个API请求,主要是针对GPT-4模型。相比之下,传统的RAG方法可能需要更少的API请求。

2. 令牌处理:图形RAG过程涉及处理超过100万个令牌,这也增加了总体成本。

相比之下,传统的RAG系统可能成本较低,因为它不需要图形RAG方法中的实体提取、关系识别和社区摘要等额外步骤。

需要权衡图形RAG提供的改善上下文理解和全面概览,以及其实施的较高成本。根据具体的用例和可用预算,一种方法可能比另一种更合适。

如果处理大型数据语料库,应该仔细评估图形RAG的成本影响。在这种情况下,如果图形RAG提供的改善上下文理解并非关键需求,传统的RAG系统可能是一个更具成本效益的解决方案。

最终,在图形RAG和传统RAG之间的选择将取决于项目的具体需求、可用资源以及性能和成本之间的平衡。

虽然微软的GraphRAG是一个突破性的系统,但它并不是图形RAG方法的唯一实现。还有其他值得探索的显著解决方案:

Lama Index的知识图谱RAG查询引擎

Lama Index是一个流行的开源知识管理平台,它开发了自己的知识图谱RAG查询引擎实现。这种解决方案利用知识图谱的力量来增强大型语言模型的检索和生成能力。

Lama Index的方法侧重于从各种数据源(包括结构化和非结构化数据)构建全面的知识图谱。然后使用这个知识图谱来驱动RAG系统,提供对底层信息更全面的理解。

Neo4j的图形RAG软件包

Neo4j是一家领先的图数据库提供商,它也推出了一个图形RAG软件包。这种解决方案将Neo4j的图数据库功能与检索增强生成(RAG)技术相集成。

通过利用Neo4j高效的图遍历和查询功能,图形RAG软件包旨在解决传统RAG系统的可扩展性和上下文理解限制。这种方法允许更有效地从知识图谱中检索相关信息,从而产生更准确和连贯的响应。

比较这些实现

虽然图形RAG的核心原理在这些解决方案中是共享的,但每个实现可能都有自己独特的特性、优势和权衡。性能、集成的易用性、对不同语言模型的支持以及成本影响等因素可能在不同的图形RAG解决方案之间有所不同。

如果有兴趣,我可以深入比较这些图形RAG实现,突出它们的关键差异,并帮助您确定最适合您特定用例的解决方案。

图形RAG工作得很好,但有一个主要问题就是成本。在提供的示例中,总共发出了570个API请求,使用了GPT-4,处理了超过100万个令牌,导致成本约为7美元。这种成本对于大型数据语料库可能过于昂贵,并且明显高于构建传统RAG系统的成本。

尽管存在成本影响,图形RAG仍然是一种创新的方法,它将知识图谱与检索增强生成(RAG)相结合。它解决了传统RAG系统的一些局限性,如有限的上下文理解和可扩展性问题。

微软并不是唯一一家实现图形RAG系统的公司。其他选择,如Lama Index的知识图谱RAG查询引擎和Neo4j的图形RAG软件包,也可供选择。如果有兴趣,可以进一步创作比较这些不同实现的内容。

总的来说,图形RAG是一项有前景的技术,但在决定是否在自己的应用程序中使用它时,需要仔细考虑成本影响。