技术 综述 RAG 面向大言语模型的检索增强生成

同济大学王昊奋钻研员团队联结复旦大学熊赟传授团队颁布检索增强生成（RAG）综述，从外围范式，关键技术到未来开展趋向对 RAG 启动了片面梳理。这份上班为钻研人员绘制了一幅明晰的 RAG 技术开展蓝图，指出了未来的钻研探求方向。同时，为开发者提供了参考，协助辨识不同技术的优缺陷，并指点如何在多样化的运行场景中最有效地利用这些技术。大型言语模型（LLMs）曾经成为咱们生存和上班的一局部，它们以惊人的多配置性和智能化扭转了咱们与消息的互动方式。

但是，虽然它们的才干令人印象深入，但它们并非无懈可击。这些模型或者会发生误导性的 “ 幻觉 ”，依赖的消息或者 过期，处置特定常识时效率不高，不足专业畛域的深度洞察，同时在推理才干上也有所短少。

无理想环球的运行中，数据须要始终降级以反映最新的开展，生成的内容必定是透明可追溯的，以便控制老本并包全数据隐衷。因此，便捷依赖于这些 “黑盒” 模型是不够的，咱们须要更精细的处置打算来满足这些复杂的需求。

正是在这样的背景下，检索增强生成技术（Retrieval-Augmented Generation，RAG）应时而生，成为 AI 时代的一大趋向。

RAG 经过在言语模型生成答案之前，先从宽泛的文档数据库中检索相关消息，而后应用这些消息来疏导生成环节，极大地优化了内容的准确性和相关性。RAG 有效地 缓解了幻觉疑问 ，提高了 常识降级的速度 ，并增强了内容生成的 可追溯性 ，使得大型言语模型在实践运行中变得愈加 适用和可信 。RAG 的出现无疑是人工智能钻研畛域最激动人心的停顿之一。

本篇综述将带你片面了解 RAG，深化讨论其 外围范式 、 关键技术 及 未来趋向 ，为读者和通常者提供对大型模型以及 RAG 的深化和系统的意识，同时论述检索增强技术的最新停顿和关键应战。

RAG 是什么？

图 1 RAG 技术在 QA 疑问中的案例

一个典型的 RAG 案例如图所示。假设咱们向ChatGPT征询 OpenAI CEO Sam Atlman 在短短几天内突然解雇随后又被停职的事情。因为遭到预训练数据的限度，不足对最近事情的常识，ChatGPT 则示意无法回答。RAG 则经过从外部常识库检索最新的文档摘录来处置这一差距。在这个例子中，它失掉了一系列与征询相关的资讯文章。这些文章，连同最后的疑问，随后被兼并成一个丰盛的揭示，使 ChatGPT 能够综合出一个有依据的回应。

RAG 技术范式开展

RAG 的概念初次于 2020 年被提出，随后进入高速开展。RAG 技术的演进历程如图所示，相关钻研停顿可以明白地划分为数个关键阶段。在早期的预训练阶段，钻研的焦点集中在如何经过预训练模型注入额外的常识，以此增强言语模型的才干。随着 ChatGPT 的面世，关于运用大型模型启动深档次上下文学习的兴味激增，这推进了 RAG 技术在钻研畛域的极速开展。随着 LLMs 的后劲被进一步开发，旨在优化模型的可控性并满足始终演化的需求，RAG 的钻研逐渐聚焦于增强推理才干，并且也探求了在微调环节中的各种改良方法。特意是随着 GPT-4 的颁布，RAG 技术教训了一次性深入的改革。钻研重点开局转移至一种新的融合 RAG 和微调战略的方法，并且继续关注对预训练方法的优化。

图 2 RAG 技术开展的科技树

在 RAG 的技术开展环节中，咱们从技术范式角度，将其总结成如下几个阶段：

豪华（Naive RAG）

前文案例中展现了经典的 RAG 流程，也被称为 Naive RAG。重要包括包括三个基本步骤：

1. 索引 —将文档库宰割成较短的Chunk，并经过编码器构建向量索引。

2. 检索 — 依据疑问和 chunks 的相似度检索相关文档片段。

3. 生成 — 以检索到的上下文为条件，生成疑问的回答。

进阶的 RAG（Advanced RAG）

Naive RAG 在检索品质、照应生成品质以及增强环节中存在多个应战。Advanced RAG 范式随后被提出，并在数据索引、检索前和检索后都启动了额外处置。经过更精细的数据荡涤、设计文档结构和减少元数据等方法优化文本的分歧性、准确性和检索效率。在检索前阶段则可以经常使用疑问的重写、路由和扩大等方式对齐疑问和文档块之间的语义差异。在检索后阶段则可以经过将检索进去的文档库启动重排序防止 “Lost in the Middle ” 现象的出现。或是经过上下文挑选与紧缩的方式缩短窗口长度。

模块化 RAG（Modular RAG）

随着 RAG 技术的进一步开展和演化，新的技术打破了传统的 Naive RAG 检索 — 生成框架，基于此咱们提出模块化 RAG 的概念。在结构上它愈加自在的和灵敏，引入了更多的详细配置模块，例如查问搜查引擎、融合多个回答。技术上将检索与微调、强化学习等技术融合。流程上也对 RAG 模块之间启动设计和编排，出现了多种的 RAG 形式。但是，模块化 RAG 并不是突然出现的，三个范式之间是承袭与开展的相关。Advanced RAG 是 Modular RAG 的一种特例方式，而 Naive RAG 则是 Advanced RAG 的一种特例。

图 3 RAG 范式对比图

如何启动检索增强？

RAG 系统中重要蕴含三个外围局部，区分是 “检索”，“增强” 和 “生成”。正好也对应的 RAG 中的三个首字母。想要构建一个好的 RAG 系统，增强局部是外围，则须要思考三个关键疑问： 检索什么？什么时刻检索？怎样用检索的内容？

检索增强的阶段 ：在预训练、微和谐推理三个阶段中都可以启动检索增强，这选择了外部常识参数化水平的高下，对应所须要的计算资源也不同。

检索增强的数据源 ：增强可以驳回多种方式的数据，包括非结构化的文本数据，如文本段落、短语或单个词汇。此外，也可以应用结构化数据，比如带有索引的文档、三元组数据或子图。另一种路径是不依赖外部消息源，而是充散施展 LLMs 的外在才干，从模型自身生成的内容中检索。

检索增强的环节 ：最后的检索是一次性性环节，在 RAG 开展环节中逐渐出现了迭代检索、递归检索以及交由 LLMs 自行判别检索时辰的自顺应检索方法。

图 4 RAG 外围组件的分类体系

RAG 和微调应该如何选用？

除了 RAG，LLMs 重要优化手腕还包括了揭示工程 (Prompt Engineering)、微调 (Fine-tuning，FT)。他们都有自己共同的特点。依据对外部常识的依赖性和模型调整要求上的不同，各自有适宜的场景。

RAG 就像给模型一本教科书，用于定制的消息检索，十分适宜特定的查问。另一方面，FT 就像一个在校生随着期间的推移内化常识，更适宜模拟特定的结构、格调或格局。FT 可以经过增强基础模型常识、调整输入和传授复杂指令来提高模型的性能和效率。但是，它不那么长于整合新常识或极速迭代新的用例。RAG 和 FT，并不是相互排挤的，它们可以是互补的，联结经常使用或者会发生最佳性能。

图 5 RAG 与其余大模型微调技术对比

如何评价 RAG？

RAG 的评价方法多样，重要包括三个品质评分： 上下文相关性、答案虔诚性和答案相关性 。此外，评价还触及四个关键才干：噪声鲁棒性、拒答才干、消息整合和反理想鲁棒性。这些评价维度结合了传统量化目的和针对 RAG 个性的专门评价规范，虽然这些规范尚未一致。

在评价框架方面，存在如 RGB 和 RECALL 这样的基准测试，以及 RAGAS、ARES 和 TruLens 等智能化评价工具，它们有助于片面权衡 RAG 模型的体现。表中汇总了如何将传统量化目的运行于 RAG 评价以及各种 RAG 评价框架的评价内容，包括评价的对象、维度和目的，为深化了解 RAG 模型的性能和潜在运行提供了贵重消息。

未来 RAG 还有哪些开展前景？

RAG 的开展蒸蒸日上，还有哪些疑问值得进一步去钻研？咱们从三个方面启动展望：

1.RAG 的垂直优化

垂直优化旨在进一步处置 RAG 以前面临的应战；

长下文长度 。检索内容过多，超越窗口限度怎样办 ？假设 LLMs 的上下文窗口不再受限度，RAG 应该如何改良？

鲁棒性 。检索到失误内容怎样处置？怎样对检索进去内容启动过滤和验证？怎样提高模型抗毒、抗噪声的才干。

与微调协同 。如何同时施展 RAG 和 FT 的成果，两者怎样协同，怎样组织，是串行、交替还是端到端？

Scaling-Law ：RAG 模型能否满足Scaling Law？RAG 能否会，或是在什么场景下会出现 Inverse Scaling Law 的现象？

LLM 的角色 。LLMs 可以用于检索（用 LLMs 的生成替代检索或检索 LLMs 记忆）、用于生成、用于评价。如何进一步开掘 LLMs 在 RAG 中的后劲？

工程通常 。如何降落超大规模语料的检索时延？如何保障检索进去内容不被大模型暴露？

2. RAG 的多模态的拓展

如何将 RAG 始终开展的技术和思维拓展到图片、音频、视频或代码等其余模态的数据中？一方面可以增强繁多模态的义务，另一方面可以经过 RAG 的思维将多模态启动融合。

3. RAG 的生态

RAG 的运行曾经不只仅局限于问答系统，其影响力正在扩大到更多畛域。如今，介绍系统、消息抽取和报告生成等多种义务都开局受益于 RAG 技术的运行。与此同时，RAG 技术栈也在井喷。除了已知的Langchain和 LlamaIndex 等工具，市场上涌现出更多针对性的 RAG 工具，例如： 用途定制化 ，满足愈加聚焦场景的需求； 经常使用繁难化 ，进一步降落上手门槛的； 配置专业化 ，逐渐面向消费环境。

图 6 RAG 的生态系统概览

原文链接:​ ​​ ​