草庐IT

LLMs之RAG:LangChain-ChatGLM-Webui(一款基于本地知识库(各种文本文档)的自动问答的GUI界面实现)的简介、安装、使用方法之详细攻略

LLMs之RAG:LangChain-ChatGLM-Webui(一款基于本地知识库(各种文本文档)的自动问答的GUI界面实现)的简介、安装、使用方法之详细攻略目录LangChain-ChatGLM-Webui的简介1、支持的模型LangChain-ChatGLM-Webui的安装1、安装T1、直接安装​环境准备启动程序T2、Docker安装(1)、Docker基础环境运行(2)、Docker小白运行2、开启服务:JinaServingAPI(1)、启动服务(2)、执行curl初始化模型命令(3)、执行curl构建向量库命令(4)、执行curl发送指令(5)、DockerAPI服务快速启动La

知识蒸馏(Knowledge Distillation)

 论文:[1503.02531]DistillingtheKnowledgeinaNeuralNetwork(arxiv.org)知识蒸馏是一种模型压缩方法,是一种基于“教师-学生网络思想”的训练方式,由于其简单,有效,并且已经在工业界被广泛应用。知识蒸馏使用的是Teacher—Student模型,其中teacher是“知识”的输出者,student是“知识”的接受者。知识蒸馏的过程分为2个阶段:        ①原始模型训练:训练"Teacher模型",简称为Net-T,它的特点是模型相对复杂,也可以由多个分别训练的模型集成而成。我们对"Teacher模型"不作任何关于模型架构、参数量、是否

【运维知识进阶篇】一篇文章带你搞懂Jumperserver(保姆级教程:安装+用户与用户组+创建资产+授权资产+创建数据库+sudo提权+命令过滤+多因子认证+网域功能+审计台)

本篇文章介绍Jumperserver,包括安装部署,创建用户组,创建用户加入组(Jumperserver用户),创建管理用户(创建密钥管理,和客户端做免密钥登录),创建系统用户(管理用户会把系统用户自动创建到客户端),创建资产(通过ssh免密钥实现连接),授权资产给用户或组,账号推送,创建数据库并进行应用测试,使用两个系统用户测试sudo提权,测试命令过滤加强系统安全性,多因子认证,网域功能。Jumperserver部署很简单,几条命令实现安装部署,使用也都是中文,点点点即可,但是在公司,你要是新接触可能两天都研究不明白,而在我这里,一篇文章即可。目录Jumperserver安装Jumpser

网络编程基础知识(学网编看它就够了)

目录一.网络编程的预备知识   1.网络通信   2.网络协议层次模型   3.常用的与网络相关的设备以及各自的作用   4.网络数据的传输过程   5.互联网地址(IP地址)   6.端口号    7.网络字节序    二.socket套接字    三:什么是TCP的三次握手和四次挥手?四.基础知识总结:五.TCP套接字编程1.TCP套接字编程的流程2.TCP编程的流程 3.socket具体的API函数解析    (1)socket:创建一个套接字    (2)网络地址结构体    (3)IP地址转换函数    (4)整数在主机字节序与网络字节序之间的转换函数   (5)bind      

数据科学、数据科学的应用、以及数据科学所涉及的相关基础知识 Towards Data Science

作者:禅与计算机程序设计艺术1.简介数据科学是一个新兴的、蓬勃发展的领域,并且正在改变着许多行业,如医疗保健、金融、制造等。为了跟上这个时代的步伐,人们需要在数据科学方面取得更加深刻的理解。本文的目的是提供给大家一个全面的学习资源和知识总结,帮助你了解什么是数据科学、数据科学的应用、以及数据科学所涉及的相关基础知识。本文将从以下几个方面进行阐述:数据科学的定义和意义数据科学的应用领域和行业数据科学的相关基础知识(包括统计学、数学、编程语言等)数据科学的一些核心算法使用Python进行数据科学分析的代码示例和数据集展示2.数据科学的定义和意义数据科学的定义并不统一。它可以是指一门研究如何从数据中

【BIOS/UEFI硬件知识储备】内存——主板布线、双通道

主板布线        内存走线方式分为:DirectTopology(直连)、T-Topology(T-Type)、Daisy-ChainTopology(D-Type)。直连的布线就是由CPU直接拉到对应通道的槽位上,独立布线,各个通道互不影响,也就是一个槽就是一个通道。T-Type和D-Type用于一个通道对应两个插槽的情况。T-Type        T-Type的布线是先将内存线路拉到两条内存槽的中间,然后再左右对称分开进入各自的槽内。好处是尽可能的确保同一通道内,两个内存插槽到达CPU的物理距离是等长的,从而尽可能地减少讯号延迟差异。         以2个通道4个插槽为例,理论上

【运维知识高级篇】超详细的Jenkins教程1(安装部署+配置插件+创建自由风格项目+配合gitlab实现Jenkins自动触发)

Jenkins是一个开源软件项目,是基于Java开发的一种持续集成的工具,用于监控持续重复的工作, 旨在提供一个开放易用的平台,使软件的持续集成变成可能,是持续集成的核心,可以与其他软件进行协作,例如,gitlab推送给测试环境代码,可以通过Jenkins省略步骤,实现自动推送,再例如Jenkins可以通过tag传递参数实现发布和代码回滚操作,再例如Jenkins还可以推送代码给SonarQube进行代码质量检测,等等流程,都需要Jenkins的参与。目录Jenkins安装部署Jenkins修改密码Jenkins插件安装 Jenkins创建freestyle-job项目一、创建freestyl

为什么知识管理是 AI 成功的基础?

为AI提供正确的上下文可以提高准确性并减少幻觉。在所有关于人工智能如何彻底改变工作(使日常任务更高效、更可重复,并增加个人努力)的对话中,人们很容易得意忘形:人工智能不能做什么?尽管它的名字叫生成式人工智能,但能够创建图像、代码、文本、音乐等的人工智能,不能从无到有。AI模型根据它们提供的信息进行训练,对于大型语言模型(LLM),这通常意味着大量文本。如果人工智能在准确、最新和组织良好的信息上接受训练,它将倾向于以准确、最新和相关的答案做出回应。麻省理工学院的研究表明,将知识库整合到LLM中往往会提高输出并减少幻觉。这意味着人工智能和机器学习的进步,远非取代对知识管理的需求,实际上使它变得更加

使用OpenAI Assistants三分钟搭建个人知识库AI助手网站

Assistants介绍随着OpenAI将Assistants助手API对外发布,我们搭建个人知识库变的如此简单。开发者将自己的应用通过AssistantsAPI与OpenAI对接,就可以让每一位客户拥有不一般体验的个人知识库。由于Assistants相关API有30+,本文只列举完成一个最小功能闭环涉及的接口。关于Assistants的介绍,这里借用官网的一张图说明对象介绍Assistant(助手)使用OpenAI模型和调用工具的专用AIThread(线程)助手和用户之间的对话会话。线程存储消息并自动处理截断以使内容适合模型的上下文。Message(消息)由助手或用户创建的消息。消息可以包括