前言 近期，除了研究ChatGPT背后的各种技术细节不断看论文(至少100篇，100篇目录见此：ChatGPT相关技术必读论文100篇)，还开始研究一系列开源模型(包括各自对应的模型架构、训练方法、训练数据、本地私有化部署、硬件配置要求、微调等细节) 本文一开始是作为此文《ChatGPT技术原理解析：从RL之PPO算法、RLHF到GPT4、instructGPT》的第4部分，但随着研究深入为避免该文篇幅又过长，将把『第4部分开源项目』抽取出来独立成本文，然后不断续写本文直至成了一个系列毕竟我上半年的目标之一，便是把ChatGPT涉及的所有一切关键技术细节，以及相关的开源项目都研究的透透的，故过

文章目录共享空间系统，预定端效果展示（详情点击链接查看）功能点简列：具体实现方案请点击链接查看详情共享空间系统，预定端效果展示（详情点击链接查看）![请添加图片描述](https://img-blog.csdnimg.cn/e0af621921fe45c3a64c7e91949b92da.png功能点简列：1、支持SaaS模式2、支持多代理模式3、支持多商户、合伙分佣4、支持自动清分、对账5、支持多品牌独立运行6、支持小程序独立部署7、支持商户独立收款8、支持订单提醒和远程管理9、支持优惠券配置及抵扣10、会员管理、充值赠送、余额消费11、支持团购券、美团券核销12、智能管控硬件稳定、可靠、安

1.基本概念Lora，英文全称“Low-RankAdaptationofLargeLangurageModels”，直译为大语言模型的低阶适应，这是微软的研究人员为了解决大语言模型微调而开发的一项技术2.作用只要是图片上的特征都可以提取并训练（1）对人物/物品的脸部特征进行复刻（2）生成某一特定风格的图像（3）固定动作特征3.embedding和Lora的区别embedding文件小，保存的信息量小，对人物的还原、对动作的指定、对画风的指定效果一般；Lora文件大，保存的信息量大，对人物的还原、对动作的指定、对画风的指定效果比较好。embedding一般还原的人物为动漫人物，真人一般用Lora

相关博文stable-diffusion-webui的基础功能手动安装，了解代码结构、依赖、模型出处安装成功结果主要参考cuda11.7下载-https://developer.nvidia.com/cuda-toolkit-archivecudnn8.6for11.x:https://developer.nvidia.com/rdp/cudnn-archivedreambooth\lora训练环境：最原始的命令端https://github.com/kohya-ss/sd-scriptsGUI端口https://github.com/bmaltais/kohya_ss环境安装参考：win11

1.用lora配套的大模型效果更好lora训练是根据大模型作为参考，lora是根据那个大模型来训练参数的例如，这里以墨心lora为例，点击示例图片的中的“？”，在Model中就显示出了作者用于训练墨心lora的底模了2.最好使用和作者相同的参数还是以墨心lora为例，可以看到示例图片中有Sampler、Model、CFGscale等参数（1）Sampler——采样方式，在StableDiffusionWebUI中的Samplingmethod中进行选择（2）Model——作者使用的大模型，在StableDiffusionWebUI中的StableDiffusioncheckpoint中进行选择

背景上一篇文章《GPT大语言模型Alpaca-lora本地化部署实践》介绍了斯坦福大学的Alpaca-lora模型的本地化部署，并验证了实际的推理效果。总体感觉其实并不是特别理想，原始Alpaca-lora模型对中文支持并不好，用52k的中文指令集对模型进行fine-tuning之后，效果依然达不到网上说的媲美GPT-3.5的推理效果，验证了那句话：“事不目见耳闻，而臆断其有无，可乎？”在具有3块TeslaP40显卡的服务器上，利用3块GPU显卡加载模型参数和计算，进行一次简单的推理（非数学运算和逻辑运算）也需要大概30s-1min的时间，效率简直慢的惊人。在京东云GPU云主机部署上，虽然推理

模型介绍Alpaca模型是斯坦福大学研发的LLM（LargeLanguageModel，大语言）开源模型，是一个在52K指令上从LLaMA7B（Meta公司开源的7B）模型微调而来，具有70亿的模型参数（模型参数越大，模型的推理能力越强，当然随之训练模型的成本也就越高）。LoRA，英文全称Low-RankAdaptationofLargeLanguageModels，直译为大语言模型的低阶适应，这是微软的研究人员为了解决大语言模型微调而开发的一项技术。如果想让一个预训练大语言模型能够执行特定领域内的任务，一般需要做fine-tuning，但是目前推理效果好的大语言模型参数维度非常非常大，有些甚

前言为了使用开放权重的LLM(大语言模型)，基于自己的训练集，微调模型，会涉及到如下一些技术要点：配置运行环境下载、加载基础模型收集语料、微调训练检验训练效果在实施过程中，遇到不少困难，因此写下这篇文档，做为记录。环境配置1.模型加载-icetk报错(1)问题描述在huggingface的模型库中，大模型会被分散为多个bin文件，在加载这些原始模型时，有些模型(如Chat-GLM)需要安装icetk。这里遇到了第一个问题，使用pip安装icetk和torch两个包后，使用from_pretrained加载模型时会报缺少icetk的情况。但实际情况是这个包已经安装了。查资料的过程中，有人说出现该

目录StableDiffusion模型模型调配模型设置 变分自编码器（VAE）模型 模型调配模型设置  lora模型（原生）（插件）模型调配模型设置  AI生成prompt及模型分享StableDiffusion模型 pastel-mix+对应的VAE StableDiffusion模型国风+Lora模型墨心+疏可走马StableDiffusion模型国风+Lora模型小人书StableDiffusion模型realist+Lora模型 AsianGirlFashion(微博小红书抖音网红穿搭)StableDiffusion模型realist+Lora模型Fashion Girlv5.2Sta

目录一.背景知识1.1StableDiffusion背景知识1.2ControlNet背景知识二.使用方法2.1环境配置2.2运行WebUI三.背景知识3.1StableDiffusion参数详解3.2ControlNet参数详解四.定制化技巧4.1参数技巧五.参考来源设计师们往往对于新出的绘画工具上手比较艰难，本文针对目前比较火热的StableDiffusion+ControlNet指导AI艺术设计的工具使用进行全面讲解。很多人会有预感，未来要么设计师被图形学程序员取代，要么会使用AI工具的设计师取代传统设计师，2023年开始，AI辅助设计甚至主导设计已经成了司空见惯的现象。软硬件环境：OS