草庐IT

nacos总结

全部标签

Linux常用指令总结

Linux内核的官方网站:https://www.kernel.org/目录命令备忘录1.关机/重启/注销2.系统信息和性能查看3.磁盘和分区4.用户和用户组5.网络和进程管理6.常见系统服务命令7.文件和目录操作8.文件查看和处理9.打包和解压10.RPM包管理命令11.YUM包管理命令12.DPKG包管理命令13.APT软件⼯具常用的命令1.不同目录下切换2.进入到某个目录3.显示当前目录中的文件和子目录4.解压缩文件5.创建文件或文件夹6.删除文件或文件夹7.关于终端的常用操作8.打开终端9.建立符号连接(软连接)10.全局查找某一个文件11.关于ip的设置12.关节和重启13.启动和关

大模型推理部署:LLM 七种推理服务框架总结

自从ChatGPT发布以来,国内外的开源大模型如雨后春笋般成长,但是对于很多企业和个人从头训练预训练模型不太现实,即使微调开源大模型也捉襟见肘,那么直接部署这些开源大模型服务于企业业务将会有很大的前景。本文将介绍七中主流的LLM推理和服务开源库。下面首先来总结一下这些框架的特点,如下表所示:LLM推理有很多框架,各有其特点,下面分别介绍一下表中七个框架的关键点:vLLM[1]:适用于大批量Prompt输入,并对推理速度要求高的场景;Textgenerationinference[2]:依赖HuggingFace模型,并且不需要为核心模型增加多个adapter的场景;CTranslate2[3]

关于代码性能优化的总结

  今天同事发开中遇到了一个代码性能优化的问题,原本需求是:从一个数据库中查询某个表数据,存放到datatable中,然后遍历datatable,看这些数据在另一个数据库的表中是否存在,存在的话就要更新,不存在就要插入。  就这个需求本身来说很简单,但是随着数据量的增大,之前通过循环遍历的方式就出现了性能问题。我在思索片刻后,给出的建议是分页查询和利用事务批量提交。1.利用数据库事务批量提交1using(SqlTransactiontransaction=targetConnection.BeginTransaction())2{3foreach(DataRowrowindataTable.R

一文总结 C++ 常量表达式、constexpr 和 const

TLDR修饰变量的时候,可以把constexpr对象当作加强版的const对象:const对象表明值不会改变,但不一定能够在编译期取得结果;constexpr对象不仅值不会改变,而且保证能够在编译期取得结果。如果一个const变量能够在编译期求值,将其改为constexpr能够让代码更清晰易读。constexpr函数可以把运行期计算迁移至编译期,使得程序运行更快(但会增加编译时间)。但如果constexpr函数中存在无法在编译期求值的参数,则constexpr函数和普通一样在运行时求值,此时的返回值不是常量表达式。1.常量表达式和constexprC++11中引入了constexpr关键字。c

线性代数---------学习总结

线性代数之行列式行列式的几条重要的性质1.某两行某两列交换位置之后,值变号2.行列式转置,值不变3.范德蒙德行列式,用不同行的公比做一系列的累乘运算4.把某一行的行列式加到另一行上,利用他们之间的倍数关系,转化成上三角行列式,利用对角线乘积得出行列式的值5.当行列式的某一行有公共因子的时候,可以提供因子,但是一次只能提一个,否则会出现错误6.行列式的某行或某列相等,或者成比例行列式的值为零7.通过观察可以发现,该行列式的第二行可能是某一行的整数倍,这个时候我们就要注意观察第三行,第四行的和,利用行列式的性质简化运算。8.当行列式的某一项是几个代数式的和时,可以拆开进行运算,但是一次也只能拆一个

网诺安全文件上传总结

一、文件上传简介文件上传漏洞是指用户上传了一个可执行的脚本文件(木马、病毒、恶意脚本、webshell等),并通过此脚本文件获得了执行服务器端命令的能力。上传点一般出现在头像、导入数据、上传压缩包等地方,由于程序对用户上传的文件控制不足或处理缺陷,而导致用户可以越过其本身权限向服务器上传可执行的动态脚本文件。原理及危害网站WEB应用都有一些文件上传功能,比如文档、图片、头像、视频上传,当上传功能的实现代码没有严格校验上传文件的后缀和文件类型时,就可以上传任意文件甚至是可执行文件后门。恶意文件传递给解释器去执行,之后就可以在服务器上执行恶意代码,进行数据库执行、服务器文件管理,服务器命令执行等恶

位运算总结(Java)

目录位运算概述位运算符位运算的优先级位运算常见应用1.给定一个数n,判断其二进制表示中的第x位是0还是1 2.将数n的二进制表示中的第x位修改为13.将数n的二进制表示中的第x位修改为04.位图例题:判断字符是否唯一5.提取数n的二进制表示中的最右侧的1(lowbit)6.去掉数n的二进制表示中的最右侧的1例题:位1的个数7.异或(^)运算的运算律例题:只出现一次的数字位运算练习练习1:两整数之和练习2:只出现一次的数字II练习3:只出现一次的数字III练习4:消失的两个数字位运算概述位运算:计算机中的数据在内存中是以二进制形式进行存储的,而位运算是对二进制数进行操作的运算,能够按位对数字进行

【java篇】线程安全问题(大总结)

哎嘿,CSDN的大佬您来啦,这来都来了,浅浅的给个赞呗!!! 系列文章目录线程的创建与主要方法分析和其他基础知识点;可以参考以下文章线程知识点总结_南斋孤鹤的博客-CSDN博客_线程知识(超全)线程知识点、及线程方面的一些理解性问题https://blog.csdn.net/m0_64231944/article/details/124069105?spm=1001.2014.3001.5502目录系列文章目录前言一、什么是线程安全问题?二、为什么会出现线程安全问题呢?三、造成线程安全问题的原因还有那些?2.问题解答:四、那么出了线程安全问题我们如何解决线程安全问题呢?方式一:同步代码块syn

记录nacos远程连接的坑: Waited 3000 milliseconds (plus 4100 nanoseconds delay)

::BladeX2.9.0.RELEASE::inte-dmall:dev::RunningSpringBoot2.3.12.RELEASE::2022-03-1615:06:06.138INFO19224—[main]org.reflections.Reflections:Reflectionstook45mstoscan1urls,producing3keysand6values2022-03-1615:06:06.176INFO19224—[main]org.reflections.Reflections:Reflectionstook18mstoscan1urls,producing4

SpringCloud-Nacos集群搭建

本文详细介绍了如何在SpringCloud环境中搭建Nacos集群,为读者提供了一份清晰而详尽的指南。通过逐步演示每个关键步骤,包括安装、配置以及Nginx的负载均衡设置,读者能够轻松理解并操作整个搭建过程。 一、Nacos集群示意图Nacos(NamingandConfigurationService)是一个用于服务发现、动态配置管理以及可视化服务管理的开源平台。Nacos支持构建弹性的、动态的、易于维护的微服务架构,并为大规模微服务体系的管理提供了完整的解决方案。在Nacos的集群视图中,Nacos可以通过横向扩展的方式构建多个节点,形成一个高可用的集群,以确保系统的稳定性和可靠性。 Na