草庐IT

Chinese-LangChain

全部标签

开发篇1:使用原生api和Langchain调用大模型

对大模型的调用通常有以下几种方式:方式一、大模型厂商都会定义http风格的请求接口,在代码中可以直接发起http请求调用;方式二、在开发环境中使用大模型厂商提供的api;方式三、使用开发框架Langchain调用,这个就像java对数据库的调用一样,可以直接用jdbc也可以使用第三方框架,第三方框架调用会封装一些共性问题,比如参数配置,多数据库统一调用方式,连接处理,缓存处理等等,使用第三方框架调用往往会大幅提高开发效率。下面逐一说明几种调用方式方式一:post请求调用,以openai(chatgpt)为例,demo如下,举例代码语言为python,http调用各种语言都有这个能力,个人建议还

圣诞老人遇见 GenAI:利用大语言模型、LangChain 和 Elasticsearch 破译手写的圣诞信件

在北极的中心地带,圣诞老人的精灵团队面临着巨大的后勤挑战:如何处理来自世界各地儿童的数百万封信件。圣诞老人表情坚定,他决定是时候将人工智能纳入圣诞节行动了。圣诞老人坐在配备了最新人工智能技术的电脑前,开始在JupyterNotebook中编写Python脚本。我们的目标既简单又雄心勃勃:利用生成式人工智能和LLM的力量来解释手写字母并提取必要的数据,并将其组织在Elasticsearch中。安装安装Elasticsearch及Kibana如果你还没有安装好自己的Elasticsearch及Kibana,那么请参考一下的文章来进行安装:如何在Linux,MacOS及Windows上进行安装Ela

Chinese-llama-2部署踩坑记录

Chinese-llama-2部署踩坑记录1.Chinese-LLaMA-Alpaca-2A.部署a.inference_with_transformers_zhb.textgenerationwebui_zhc.api_calls_zhd.llamacpp_zhe.privategpt_zhf.langchain_zhToolGithub1.Chinese-LLaMA-Alpaca-2A.部署a.inference_with_transformers_zh本地命令行方式交互pythonscripts/inference/inference_hf.py--base_modelmeta-llam

Windows11下私有化部署大语言模型实战 langchain+llama2

一、本机环境1.硬件环境:CPU:锐龙5600X显卡:GTX3070内存:32G注:硬件配置仅为博主的配置,不是最低要求配置,也不是推荐配置。该配置下计算速度约为40tokens/s。实测核显笔记本(i7-1165g7)也能跑,速度3tokens/s。2.软件环境:Windows系统版本:Win11专业版23H2Python版本:3.11Cuda版本:12.3.2VS版本:VS202217.8.3langchain版本:0.0.352llama-cpp-python版本:0.2.27二、安装准备工作1.模型下载大模型有很多种格式,比如Meta官网下载的pth格式,Huggingface下载的g

LangChain 27 AI Agents角色扮演多轮对话解决问题CAMEL

LangChain系列文章LangChain实现给动物取名字,LangChain2模块化prompttemplate并用streamlit生成网站实现给动物取名字LangChain3使用Agent访问Wikipedia和llm-math计算狗的平均年龄LangChain4用向量数据库Faiss存储,读取YouTube的视频文本搜索IndexesforinformationretrieveLangChain5易速鲜花内部问答系统LangChain6根据图片生成推广文案HuggingFace中的image-caption模型LangChain7文本模型TextLangChain和聊天模型ChatL

Chatbot开发三剑客:LLAMA、LangChain和Python

聊天机器人(Chatbot)开发是一项充满挑战的复杂任务,需要综合运用多种技术和工具。在这一领域中,LLAMA、LangChain和Python的联合形成了一个强大的组合,为Chatbot的设计和实现提供了卓越支持。首先,LLAMA是一款强大的自然语言处理工具,具备先进的语义理解和对话管理功能。它有助于Chatbot更好地理解用户意图,并根据上下文进行智能响应。LLAMA的高度可定制性使得开发者可以根据实际需求灵活调整Chatbot的语言处理能力。LangChain作为一个全栈语言技术平台,为Chatbot提供了丰富的开发资源。它整合了多种语言技术,包括语音识别、文本处理和机器翻译,为Chat

梳理Langchain-Chatchat-UI接口文档

  在Langchain-Chatchatv0.1.17版本及以前是有前后端分离的Vue项目的,但是v0.2.0后就没有了。所以本文使用的是Langchain-Chatchatv0.1.17版本中的Vue项目。经过一番折腾终于将Langchain-Chatchatv0.1.17版本前端Vue接口和Langchain-Chatchatv0.2.8后端API接口调通了。一.运行Langchain-Chatchat1.拉取源码  拉取Langchain-Chatchat源码(Langchain-Chatchatv0.2.8),如下所示:gitclonehttps://github.com/chatc

【AI】Langchain-Chatchat搭建本地知识库-未完,先记录踩的坑

事先说一下,我本地的显卡4070只有12G显存,无法运行本地知识库,我把自己折腾的过程和遇到的坑先记录一下吧,后续如果有算力的话就再跑一遍试试。后续来了:【AI】使用阿里云免费服务器搭建Langchain-Chatchat本地知识库Langchain-Chatchat曾用名Langchain-ChatGLM,是智谱AI的本地知识库项目,其官方介绍如下:🤖️一种利用langchain思想实现的基于本地知识库的问答应用,目标期望建立一套对中文场景与开源模型支持友好、可离线运行的知识库问答解决方案。项目地址:https://github.com/chatchat-space/Langchain-Ch

AIGC新岗位新机会解析;GPTs万字教程;28套提示词让人物情绪饱满;爆款AI搜索引擎RAG实践分享;AI独立创始人成长手册;LangChain年度洞察 | ShowMeAI日报

👀日报&周刊合集|🎡生产力工具与行业应用大全|🧡点赞关注评论拜托啦!👀北京互联网法院审理全国首例「AI声音侵权案」,五被告都否认侵权补充一份背景:点击了解事件说明与当前进展⋙AI生成图片著作权侵权第一案、AIGC训练数据集侵权首批案件大模型技术在一年时间里狂飙突进,但相关法律法规和实施细则还不完善,很多领域的「AI第一案」进入法律流程和公众视野。比如👆前段时间的这两个案子,以及最新的AI声音侵权第一案。配音师殷某某发现自己的声音被「魔音工坊App」AI处理并对外出售了,因此以侵害声音权为由将相关五被告起诉到北京互联网法院。12月12日,北京互联网法院首次组成五人合议庭,依法公开审理。五被告均否

matplotlib显示中文字体(mac os) matplotlib display Chinese in mac os

目录 一、总结:四种方法如下        method1(全局设置)        method2(全局设置)        method3(局部设置)        method4(局部设置)二、查看matplotlib中的字体三、 查看电脑的中文字体及导入到matplotlib1.打开应用字体册2.点击左侧的中文字体3.右边显示了很多中文字体,右击字体,选择在访达中访问,就可以查看字体的位置及其名称4.使用字体三、4种方法具体代码示例方法一方法二方法三方法四 一、总结:四种方法如下        method1(全局设置)importmatplotlib.pyplotasplt#后面的方