CSDN越来越不好用了，降低CSDN发文，本篇后续持续更新会在：Langchain-Chatchat开源库使用的随笔记https://zhuanlan.zhihu.com/p/676061269笔者最近在研究Langchain-Chatchat，所以本篇作为随笔记进行记录。最近核心探索的是知识库的使用，其中关于文档如何进行分块的详细，可以参考笔者的另几篇文章：大模型RAG场景、数据、应用难点与解决（四）RAG分块Chunk技术优劣、技巧、方法汇总（五）原项目地址：Langchain-ChatchatWIKI教程（有点简单）1Chatchat项目结构整个结构是server启动API，然后项目内自
一、环境配置1.安装homebrew 1）HomebrewcomplementsmacOS.（Homebrew使macOS更完整。）Homebrew是macOS的套件管理工具，是高效下载软件的一种方法，相当于Linux下的 yum、apt-get 神器，用于下载存在依赖关系的软件包。通俗地说，Homebrew是类似于MacAppStore的一个软件商店。 2）打开终端Terminal，运行/bin/zsh-c"$(curl-fsSLhttps://gitee.com/cunkai/HomebrewCN/raw/master/Homebrew.sh)" 3）选择下载源4）下载同意
Langchain框架promptinjection注入PromptInjection是一种攻击技术，黑客或恶意攻击者操纵AI模型的输入值，以诱导模型返回非预期的结果Langchain框架LangChain是一个基于大语言模型进行应用开发的框架。所谓大语言模型（LargeLanguageModels,LLMs），是指基于海量语料训练、参数动辄数十亿上百亿的语言模型。除了大家熟知的ChatGPT（由OpenAI研发），还有Google早期研发的BERT、OpenAI的整个GPT系列、Meta近期开源的LLaMA、清华大学的GLM系列、华为的盘古等。LangChain作为一个LLM应用框架，支持调
对大模型的调用通常有以下几种方式：方式一、大模型厂商都会定义http风格的请求接口，在代码中可以直接发起http请求调用；方式二、在开发环境中使用大模型厂商提供的api；方式三、使用开发框架Langchain调用，这个就像java对数据库的调用一样，可以直接用jdbc也可以使用第三方框架，第三方框架调用会封装一些共性问题，比如参数配置，多数据库统一调用方式，连接处理，缓存处理等等，使用第三方框架调用往往会大幅提高开发效率。下面逐一说明几种调用方式方式一:post请求调用，以openai（chatgpt）为例，demo如下，举例代码语言为python，http调用各种语言都有这个能力，个人建议还
在北极的中心地带，圣诞老人的精灵团队面临着巨大的后勤挑战：如何处理来自世界各地儿童的数百万封信件。圣诞老人表情坚定，他决定是时候将人工智能纳入圣诞节行动了。圣诞老人坐在配备了最新人工智能技术的电脑前，开始在JupyterNotebook中编写Python脚本。我们的目标既简单又雄心勃勃：利用生成式人工智能和LLM的力量来解释手写字母并提取必要的数据，并将其组织在Elasticsearch中。安装安装Elasticsearch及Kibana如果你还没有安装好自己的Elasticsearch及Kibana，那么请参考一下的文章来进行安装：如何在Linux，MacOS及Windows上进行安装Ela
一、本机环境1.硬件环境：CPU：锐龙5600X显卡：GTX3070内存：32G注：硬件配置仅为博主的配置，不是最低要求配置，也不是推荐配置。该配置下计算速度约为40tokens/s。实测核显笔记本（i7-1165g7）也能跑，速度3tokens/s。2.软件环境：Windows系统版本：Win11专业版23H2Python版本：3.11Cuda版本：12.3.2VS版本：VS202217.8.3langchain版本：0.0.352llama-cpp-python版本：0.2.27二、安装准备工作1.模型下载大模型有很多种格式，比如Meta官网下载的pth格式，Huggingface下载的g
LangChain系列文章LangChain实现给动物取名字，LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math计算狗的平均年龄LangChain4用向量数据库Faiss存储，读取YouTube的视频文本搜索IndexesforinformationretrieveLangChain5易速鲜花内部问答系统LangChain6根据图片生成推广文案HuggingFace中的image-caption模型LangChain7文本模型TextLangChain和聊天模型ChatL
聊天机器人（Chatbot）开发是一项充满挑战的复杂任务，需要综合运用多种技术和工具。在这一领域中，LLAMA、LangChain和Python的联合形成了一个强大的组合，为Chatbot的设计和实现提供了卓越支持。首先，LLAMA是一款强大的自然语言处理工具，具备先进的语义理解和对话管理功能。它有助于Chatbot更好地理解用户意图，并根据上下文进行智能响应。LLAMA的高度可定制性使得开发者可以根据实际需求灵活调整Chatbot的语言处理能力。LangChain作为一个全栈语言技术平台，为Chatbot提供了丰富的开发资源。它整合了多种语言技术，包括语音识别、文本处理和机器翻译，为Chat
在Langchain-Chatchatv0.1.17版本及以前是有前后端分离的Vue项目的，但是v0.2.0后就没有了。所以本文使用的是Langchain-Chatchatv0.1.17版本中的Vue项目。经过一番折腾终于将Langchain-Chatchatv0.1.17版本前端Vue接口和Langchain-Chatchatv0.2.8后端API接口调通了。一.运行Langchain-Chatchat1.拉取源码 拉取Langchain-Chatchat源码（Langchain-Chatchatv0.2.8），如下所示：gitclonehttps://github.com/chatc
事先说一下，我本地的显卡4070只有12G显存，无法运行本地知识库，我把自己折腾的过程和遇到的坑先记录一下吧，后续如果有算力的话就再跑一遍试试。后续来了：【AI】使用阿里云免费服务器搭建Langchain-Chatchat本地知识库Langchain-Chatchat曾用名Langchain-ChatGLM，是智谱AI的本地知识库项目，其官方介绍如下：🤖️一种利用langchain思想实现的基于本地知识库的问答应用，目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。项目地址：https://github.com/chatchat-space/Langchain-Ch
