Auto Byte

专注未来出行及智能汽车科技

微信扫一扫获取更多资讯

Science AI

关注人工智能与其他前沿技术、基础学科的交叉研究与融合发展

微信扫一扫获取更多资讯

RAG还是微调?微软出了一份特定领域大模型应用建设流程指南

检索增强生成(RAG)和微调(Fine-tuning)是提升大语言模型性能的两种常用方法,那么到底哪种方法更好?在建设特定领域的应用时哪种更高效?微软的这篇论文供你选择时进行参考。

在构建大语言模型应用程序时通常有两种常见的方法来整合专有和特定领域的数据:检索增强生成和微调。检索增强生成通过外部数据增强提示,而微调将额外的知识整合到模型本身中。不过,对这两种方法的优缺点了解的却不够充分。

本文中,来自微软的研究者引入一个新的关注点:为需要特定背景和自适应响应的行业(农业)创建 AI 助手。本文提出了一个全面的大语言模型流程,用于生成高质量的、行业特定的问题和答案。该方法包含一个系统化的过程,包括鉴别和收集涵盖广泛农业主题的相关文档。接着清理和结构化这些文档,以便使用基本的 GPT 模型生成有意义的问答对。生成的问答对随后根据其质量进行评估和筛选。

本文的目标是为特定行业创建有价值的知识资源,以农业为案例研究,最终的目标是能为 LLM 在农业领域的发展做出贡献。

图片

  • 论文地址:https://arxiv.org/pdf/2401.08406.pdf

  • 论文标题:RAG vs Fine-tuning: Pipelines, Tradeoffs, and a Case Study on Agriculture

本文提出的流程旨在生成满足某个行业中专业人员和利益相关者需求的领域特定问题和答案,在该行业中,期望从 AI 助手那里得到的答案应该基于相关的行业特定因素。

本文涉及的是农业研究,目标是生成该特定领域的答案。因此研究的起点是农业数据集,它被输入到三个主要组件中:问答生成、检索增强生成和微调过程。问答生成根据农业数据集中的信息创建问答对,检索增强生成将其用作知识源。生成的数据经过精炼,并用于微调多个模型,其质量通过一组提出的度量标准进行评估。通过这种全面的方法,利用大语言模型的力量,造福农业行业及其他利益相关者。

本文对大语言模型在农业领域的理解做出了一些特殊贡献,这些贡献可以归纳如下:

1、对 LLMs 的全面评估:本文对大语言模型进行了广泛评估,包括 LlaMa2-13B、GPT-4 和 Vicuna,以回答与农业相关的问题。使用了来自主要农业生产国的基准数据集进行评估。本文的分析中,GPT-4 一直表现优于其它模型,但也需要考虑与其微调和推理相关的成本。

2、检索技术和微调对性能的影响:本文研究了检索技术和微调对 LLMs 性能的影响。研究发现,检索增强生成和微调都是提高 LLMs 性能的有效技术。

3、LLMs 在不同行业潜在应用的影响:对于想要建立 RAG 和微调技术在 LLMs 中应用的流程而言,本文走出了开创性的一步,并促进了多个行业之间的创新和合作。

方法

本文第 2 部分详细介绍采用了方法论,包括数据获取过程、信息提取过程、问题和答案生成,以及模型的微调。该方法论围绕着一个旨在生成和评估用于构建领域特定助手的问答对流程展开,如下图 1 所示。

图片

该流程以数据获取开始,这包括从各种高质量的存储库中获取数据,比如政府机构、科学知识数据库,以及必要时使用专有数据。

在完成数据获取后,流程继续从收集的文档中提取信息。这一步骤至关重要,因为它涉及解析复杂且非结构化的 PDF 文件,以恢复其中的内容和结构。下图 2 展示了数据集中一个 PDF 文件的示例。

图片

流程的下一个组成部分是问题和答案生成。这里的目标是生成有上下文基础的高质量问题,准确反映提取文本的内容。本文方法采用了一个框架来控制输入和输出的结构组成,从而增强语言模型生成响应的整体效果。

随后,流程为制定的问题生成答案。此处采用的方法利用了检索增强生成,结合了检索和生成机制的能力,以创建高质量的答案。

最后,流程通过 Q&A 对微调模型。优化过程采用了低秩调整(LoRA)等方法,确保全面理解科学文献的内容和背景,使其成为各个领域或行业的有价值资源。

数据集

研究中评估了经过微调和检索增强生成的语言模型,使用与背景相关的问题和答案数据集,这些数据集来源于三个主要的作物生产国:美国、巴西和印度。本文的案例中,以农业作为工业背景。可用的数据在格式和内容上变化很大,涵盖了法规文件、科学报告、农学考试以及知识数据库等各种类型。

本文从美国农业部、州农业和消费者服务机构等公开可获得的在线文档、手册和报告中收集了信息。

可获得的文档包括了有关作物和牲畜管理、疾病和最佳实践的联邦法规和政策信息,质量保证和出口法规,援助计划的详细信息,以及保险和定价指南。收集的数据总计超过 23,000 个 PDF 文件,包含超过 5000 万个 tokens,涵盖了美国 44 个州。研究者下载并预处理了这些文件,提取了可以用作问答生成流程输入的文本信息。

为了对模型进行基准测试和评估,本文使用了与华盛顿州相关的文档,其中包括 573 个文件,包含超过 200 万个 tokens。如下清单 5 展示了这些文件中的内容示例。

图片

度量标准

本节的主要目的是建立一套全面的度量标准,目的是指导对问答生成过程的质量评估,尤其是对微调和检索增强生成方法的评估。

在开发度量标准时,必须考虑几个关键因素。首先,问题质量中固有的主观性提出了重大挑战。

其次,度量标准必须考虑到问题的相关性、实用性对上下文的依赖性。

第三,需要评估生成问题的多样性和新颖性。强大的问题生成系统应该能够产生涵盖给定内容各个方面的广泛问题。然而,对多样性和新颖性进行量化可能面临着挑战,因为这涉及到评估问题的独特性以及它们与内容、其他生成问题的相似性。

最后,好的问题应该能够基于提供的内容得到回答。评估问题是否可以使用现有信息来准确回答,这需要对内容进行深刻的理解,并具备识别回答问题的相关信息的能力。

这些度量标准在确保模型提供的答案准确、相关且有效地回答问题方面发挥着不可或缺的作用。然而,在专门设计用于评估问题质量的度量标准方面存在显著的缺失。

意识到这一缺失,本文专注于开发旨在评估问题质量的度量标准。考虑到问题在推动有意义的对话和生成有用答案方面的关键作用,确保问题质量与确保答案质量同样重要。

本文开发的度量标准旨在弥补以往研究在这一领域的空缺,提供一种全面评估问题质量的手段,这将对问答生成过程的进展产生显著影响。

问题评估

本文开发的用于评估问题的度量标准如下:

  • 相关性

  • 全局相关性

  • 覆盖范围

  • 重叠度

  • 多样性

  • 详细程度

  • 流畅度

答案评估

由于大语言模型倾向于生成长而详细的、富有信息的对话式回答,因此评估它们生成的答案是具有挑战性的。

本文使用了 AzureML 模型评估,采用以下度量标准来将生成的答案与实际情况进行比较:

  • 一致性:在给定上下文的情况下,比较实际情况与预测之间的一致性。

  • 相关性:衡量答案在上下文中如何有效地回答问题的主要方面。

  • 真实性:定义了答案是否逻辑上符合上下文中包含的信息,并提供一个整数分数来确定答案的真实性。

模型评估

为了评估不同的微调模型,本文使用了 GPT-4 作为评估器。利用 GPT-4 从农业文档中生成了约 270 个问题和答案对,作为实际情况数据集。对于每个微调模型和检索增强生成模型,生成这些问题的答案。

本文对 LLMs 进行了多个不同度量标准的评估:

  • 带有指南的评估:对于每个问答实际情况对,本文提示 GPT-4 生成一个评估指南,列出正确答案应包含的内容。然后,GPT-4 被提示根据评估指南中的标准,为每个答案打分,分数范围从 0 到 1。下面是一个例子:

  • 简洁性:创建了描述简洁和冗长答案可能包含内容的评分表。基于该评分表、实际情况答案和 LLM 答案提示 GPT-4,并要求根据 1 到 5 的分数给出评分。

  • 正确性:本文创建了一个描述完整、部分正确或不正确的答案应包含内容的评分表。基于该评分表、实际情况答案和 LLM 答案提示 GPT-4,并要求给出正确、不正确或部分正确的评分。

实验

本文的实验被划分为几个独立的实验,每个实验都侧重于问答生成和评估、检索增强生成和微调的特定方面。

这些实验探索以下领域:

  • 问答质量

  • 上下文研究

  • 模型到度量的计算

  • 组合生成与分别生成对比

  • 检索消融研究

  • 微调

问答质量

该实验评估了三个大语言模型,即 GPT-3、GPT-3.5 和 GPT-4,在不同上下文设置下生成的问答对的质量。质量评估基于多个指标,包括相关性、覆盖范围、重叠度和多样性。

上下文研究

该实验研究了不同上下文设置对模型生成问答对性能的影响。它在三种上下文设置下评估生成的问答对:无上下文、上下文和外部上下文。表 12 中提供了一个示例。

图片

在无上下文设置中,GPT-4 在三个模型中具有最高的覆盖率和大小的提示,表明它可以涵盖更多的文本部分,但生成的问题更冗长。然而,三个模型在多样性、重叠度、相关性和流畅度方面的数值都相似。

当包含上下文时,与 GPT-3 相比,GPT-3.5 的覆盖率略有增加,而 GPT-4 保持了最高的覆盖率。对于 Size Prompt,GPT-4 具有最大的数值,表明其能够生成更冗长的问题和答案。

在多样性和重叠度方面,三个模型表现相似。对于相关性和流畅度,与其他模型相比,GPT-4 略有增加。

在外部上下文设置中,也有类似的情况。

此外,观察每个模型时,无上下文设置似乎在平均覆盖率、多样性、重叠度、相关性和流畅度方面为 GPT-4 提供了最佳平衡,但生成的问答对较短。上下文设置导致了较长的问答对和其他指标的轻微下降,除了大小。外部上下文设置生成的问答对最长,但保持了平均覆盖率,并在平均相关性和流畅度上略有增加。

总体而言,对于 GPT-4,无上下文设置在平均覆盖率、多样性、重叠度、相关性和流畅度方面似乎提供了最佳平衡,但生成的答案较短。上下文设置导致了更长的提示和其他指标的轻微下降。外部上下文设置生成的提示最长,但保持了平均覆盖率,并在平均相关性和流畅度上略有增加。

因此,在这三者之间的选择将取决于任务的具体要求。如果不考虑提示的长度,则由于更高的相关性和流畅度分数,外部上下文可能是最佳选择。

模型到度量的计算

该实验比较了在用于计算评估问答对质量的度量标准时,GPT-3.5 和 GPT-4 的表现。

总体上,虽然 GPT-4 通常将生成的问答对评价为更具流畅性和上下文真实性,但与 GPT-3.5 的评分相比, 它们的多样性和相关性较低。这些观点对于理解不同模型如何感知和评估生成内容的质量至关重要。

组合生成与单独生成的对比

该实验探讨了单独生成问题和答案与组合生成问题和答案之间的优劣,并侧重于在 token 使用效率方面的比较。

图片

总的来说,仅生成问题的方法提供更好的覆盖范围和较低的多样性,而组合生成方法在重叠度和相关性方面得分更高。在流畅度方面,两种方法表现相似。因此在这两种方法之间的选择将取决于任务的具体要求。

如果目标是覆盖更多信息并保持更多的多样性,那么只生成问题的方法会更受青睐。然而,如果要与源材料保持较高的重叠度,那么组合生成方法将是更好的选择。

检索消融研究

这个实验评估了检索增强生成的检索能力,这是一种通过在问题回答过程中提供额外上下文来增强 LLMs 固有知识的方法。

本文研究了检索的片段数量 (即 top-k) 对结果的影响,并在表 16 中呈现了结果。通过考虑更多的片段,检索增强生成能够更一致地恢复原始摘录。

图片

为确保模型能够处理来自各种地理背景和现象的问题,需要扩展支持文档的语料库,以涵盖各种主题。随着考虑更多文档,预计索引的大小将增加。这可能会在检索过程中增加相似片段之间的碰撞数量,从而阻碍恢复输入问题的相关信息的能力,降低召回率。

微调

该实验评估了微调模型与基础指令微调模型的性能差异。目的在于了解微调对帮助模型学习新知识的潜力。

对于基础模型,本文评估了开源模型 Llama2-13B-chat 和 Vicuna-13B-v1.5-16k。这两个模型相对较小,代表了计算与性能之间的有趣权衡。这两个模型都是 Llama2-13B 的微调版本,使用了不同的方法。

Llama2-13B-chat 通过监督微调和强化学习进行了指令微调。Vicuna-13B-v1.5-16k 是通过在 ShareGPT 数据集上进行监督微调的指令微调版本。此外,本文还评估了基础的 GPT-4,作为一个更大、更昂贵和更强大的替代方案。

对于微调模型,本文直接在农业数据上对 Llama2-13B 进行微调,以便将其性能与为更通用任务进行微调的类似模型进行比较。本文还对 GPT-4 进行微调,以评估微调在非常大的模型上是否仍然有帮助。带有指南的评估结果见表 18。

图片

为全面衡量回答的质量,除了准确性外,本文还评估了回答的简洁性。

图片

表 21 中显示,这些模型并不始终对问题提供完整的回答。例如,有些回答指出土壤流失是一个问题,但并没有提到空气质量。

总的来说,就准确而简洁地回答参考答案而言,性能最好的模型是 Vicuna + 检索增强生成、GPT-4 + 检索增强生成、GPT-4 微调和 GPT-4 微调 + 检索增强生成。这些模型提供了精确性、简洁性和信息深度的平衡混合。

图片

知识发现

本文的研究目标是探索微调对帮助 GPT-4 学习新知识的潜力,这对应用研究至关重要。

为了测试这一点,本文选择了在美国的 50 个州中至少有三个州相似的问题。然后计算了嵌入的余弦相似度,并确定了 1000 个这样的问题列表。这些问题从训练集中删除,使用微调和带有检索增强生成的微调来评估 GPT-4 是否能够根据不同州之间的相似性学习新知识。

图片

更多实验结果请参阅原论文。

产业Fine-tuningRAG微软
2
相关数据
感知技术

知觉或感知是外界刺激作用于感官时,脑对外界的整体的看法和理解,为我们对外界的感官信息进行组织和解释。在认知科学中,也可看作一组程序,包括获取信息、理解信息、筛选信息、组织信息。与感觉不同,知觉反映的是由对象的各样属性及关系构成的整体。

基准技术

一种简单的模型或启发法,用作比较模型效果时的参考点。基准有助于模型开发者针对特定问题量化最低预期效果。

数据库技术

数据库,简而言之可视为电子化的文件柜——存储电子文件的处所,用户可以对文件中的数据运行新增、截取、更新、删除等操作。 所谓“数据库”系以一定方式储存在一起、能予多个用户共享、具有尽可能小的冗余度、与应用程序彼此独立的数据集合。

语料库技术

语料库一词在语言学上意指大量的文本,通常经过整理,具有既定格式与标记;事实上,语料库英文 "text corpus" 的涵意即为"body of text"。

逻辑技术

人工智能领域用逻辑来理解智能推理问题;它可以提供用于分析编程语言的技术,也可用作分析、表征知识或编程的工具。目前人们常用的逻辑分支有命题逻辑(Propositional Logic )以及一阶逻辑(FOL)等谓词逻辑。

生成模型技术

在概率统计理论中, 生成模型是指能够随机生成观测数据的模型,尤其是在给定某些隐含参数的条件下。 它给观测值和标注数据序列指定一个联合概率分布。 在机器学习中,生成模型可以用来直接对数据建模(例如根据某个变量的概率密度函数进行数据采样),也可以用来建立变量间的条件概率分布。

强化学习技术

强化学习是一种试错方法,其目标是让软件智能体在特定环境中能够采取回报最大化的行为。强化学习在马尔可夫决策过程环境中主要使用的技术是动态规划(Dynamic Programming)。流行的强化学习方法包括自适应动态规划(ADP)、时间差分(TD)学习、状态-动作-回报-状态-动作(SARSA)算法、Q 学习、深度强化学习(DQN);其应用包括下棋类游戏、机器人控制和工作调度等。

语言模型技术

语言模型经常使用在许多自然语言处理方面的应用,如语音识别,机器翻译,词性标注,句法分析和资讯检索。由于字词与句子都是任意组合的长度,因此在训练过的语言模型中会出现未曾出现的字串(资料稀疏的问题),也使得在语料库中估算字串的机率变得很困难,这也是要使用近似的平滑n元语法(N-gram)模型之原因。

强生机构

强生公司成立于1886年,是全球最具综合性、业务分布范围广的医疗健康企业之一,业务涉及制药、医疗器材及消费品三大领域。强生坚信健康是活力人生、繁荣社区和不断进步的基础。正因如此,130多年来,公司始终致力于推进健康事业,让人们在每个年龄段和每个人生阶段都保持健康。

http://www.jnj.com/
量化技术

深度学习中的量化是指,用低位宽数字的神经网络近似使用了浮点数的神经网络的过程。

推荐文章
暂无评论
暂无评论~