大家好，我是同学小张，日常分享AI知识和实战案例欢迎点赞+关注👏，持续学习，持续干货输出。+v:jasper_8017一起交流💬，一起进步💪。微信公众号也可搜【同学小张】🙏本站文章一览：前面我们学习了RAG的基本框架并进行了实践，我们也知道使用它的目的是为了改善大模型在一些方面的不足：如训练数据不全、无垂直领域数据、容易出现幻觉等。那么如何评估RAG的效果呢？本文我们来了解一下。文章目录推荐前置阅读0.RAG效果评估的必要性1.RAG评估方法1.1人工评估1.2自动化评估1.2.1.1LangSmith1.2.1.2Langfuse1.2.1.3Trulens1.2.4RAGAS2.常用评估指
什么是RAGLLM会产生误导性的“幻觉”，依赖的信息可能过时，处理特定知识时效率不高，缺乏专业领域的深度洞察，同时在推理能力上也有所欠缺。正是在这样的背景下，检索增强生成技术（Retrieval-AugmentedGeneration，RAG）应时而生，成为AI时代的一大趋势。RAG通过在语言模型生成答案之前，先从广泛的文档数据库中检索相关信息，然后利用这些信息来引导生成过程，极大地提升了内容的准确性和相关性。RAG有效地缓解了幻觉问题，提高了知识更新的速度，并增强了内容生成的可追溯性，使得大型语言模型在实际应用中变得更加实用和可信。一个典型的RAG的例子：这里面主要包括包括三个基本步骤：索引
RAG实战5-自定义prompt在阅读本文之前，先阅读RAG实战4。在RAG实战4中我们分析了LlamaIndex中RAG的执行过程，同时留下了一个尚待解决的问题：LlamaIndex中提供的prompttemplate都是英文的，该如何使用中文的prompttemplate呢？直接看以下代码：importloggingimportsysimporttorchfromllama_index.coreimportPromptTemplate,Settings,StorageContext,load_index_from_storagefromllama_index.core.callbacksi
RAG（Retrieval-AugmentedGeneration）：RAG是一种模型架构，结合了检索（retrieval）和生成（generation）的方法。它使用检索模块从大规模的知识库中检索相关信息，然后使用生成模块生成响应或回答。这种结合检索和生成的方法可以提高模型的语言理解和生成能力。RAG的主要应用场景是问答系统和对话系统。它可以用于构建智能问答机器人、聊天机器人和虚拟助手等，使其能够更好地理解用户的问题，并生成准确和有意义的回答。AGI（ArtificialGeneralIntelligence）：AGI是指人工通用智能，也称为强人工智能。它指的是具有与人类智能相似的广泛认知能
RAG实战4-RAG过程中发生了什么？在RAG实战3中我们介绍了如何追踪哪些文档片段被用于检索增强生成，但我们仍不知道RAG过程中到底发生了什么，为什么大模型能够根据检索出的文档片段进行回复？本文将用一个简单的例子来解释前面的问题。在阅读本文之前，请先阅读RAG实战3。回答：为什么大模型能够根据检索出的文档片段进行回复？先执行以下代码：importloggingimportsysimporttorchfromllama_index.coreimportPromptTemplate,Settings,StorageContext,load_index_from_storagefromllama_
RAG实战2-如何使用LlamaIndex存储和读取embedding向量本文是检索增强生成(Retrieval-augmentedGeneration,RAG)实战1-基于LlamaIndex构建第一个RAG应用的续集，在阅读本文之前请先阅读前篇。在前篇中，我们介绍了如何使用LlamaIndex构建一个非常简单的RAG应用，初步了解了LlamaIndex构建RAG应用的大体流程。在运行前篇的程序时，我们会发现两个令人头痛的问题：使用llama-index-llms-huggingface构建本地大模型时，会花费相当一部分时间。在对文档进行切分，将切分后的片段转化为embedding向量，构建
RAG实战3-如何追踪哪些文档片段被用于检索增强生成本文是RAG实战2-如何使用LlamaIndex存储和读取embedding向量的续集，在阅读本文之前请先阅读前篇。在前篇中，我们介绍了如何使用LlamaIndex存储和读取embedding向量。在本文中，我们将介绍在LlamaIndex中如何获得被用于检索增强生成的文档片段。下面的代码展示了如何使用LlamaIndex追踪哪些文档片段被用于检索增强生成：importloggingimportsysimporttorchfromllama_index.coreimportPromptTemplate,Settings,StorageCont
【导读】随着时间推移，RAG技术已经迅速成为在实际应用中部署大型语言模型（LLMs）的首选方式。本文旨在介绍混合检索和重排序技术的基本原理，解释其对提升RAG系统文档召回效果的作用，并讨论构建生产级RAG应用的复杂性。通过对实验数据评估和测试结果的分析，本文还突出了混合检索+重排序在不同场景下的显著优势。本文精选自《新程序员 007：大模型时代的开发者》，《新程序员007》聚焦开发者成长，其间既有图灵奖得主JosephSifakis、前OpenAI科学家JoelLehman等高瞻远瞩，又有对于开发者们至关重要的成长路径、工程实践及趟坑经验等，欢迎大家点击订阅年卡。作者| 何文斯 张路宇责编|
检索增强生成(Retrieval-augmentedGeneration,RAG)实战1-基于LlamaIndex构建第一个RAG应用本文将介绍如何使用LlamaIndex构建一个非常简单的RAG应用。通过该案例，可以初步了解LlamaIndex构建RAG应用的大体流程。环境准备安装LlamaIndex安装LlamaIndex相关包：pipinstallllama-indexpipinstallllama-index-embeddings-huggingfacepipinstallllama-index-llms-huggingfacellama-index是核心包；llama-index-e
随着开源大型语言模型的性能不断提高，编写和分析代码、推荐、文本摘要和问答(QA)对的性能都有了很大的提高。但是当涉及到QA时，LLM通常会在未训练数据的相关的问题上有所欠缺，很多内部文件都保存在公司内部，以确保合规性、商业秘密或隐私。当查询这些文件时，会使得LLM产生幻觉，产生不相关、捏造或不一致的内容。为了处理这一挑战的一种可用技术是检索增强生成(retrieve-augmentedGeneration,RAG)。它涉及通过在响应生成之前引用其训练数据源之外的权威知识库来增强响应的过程。RAG应用程序包括一个检索系统，用于从语料库中获取相关文档片段，以及一个LLM，用于使用检索到的片段作为上
