2023一年又过去，这一年，AI圈子以一种“狂飙突进”的速度飞速发展，哪怕在这个领域深耕多年的学者们也开始感叹“从没有见过哪个领域在哪一年如同AI领域在2023年这样如此飞速的发展与不断的进化”，毫无疑问，这一年AI，尤其是大模型的爆发将会深刻影响未来我们生活的方方面面。 抱着年终总结，也是对过去的2023这一里程碑式的一年回顾与展望的态度，来自AheadAI的SebastianRaschka博士为我们带来了2023年最值得大家关注，也是最有影响力的十篇AI论文，这里我们就和大家一起，用这十篇工作再次为2023年写下一段注脚（十篇论文不分先后）一、Pythia—大模型该如何训练？ 来自
LoRA是用于训练自定义LLM的高效参数微调技术。本文作者SebastianRaschka通过成百上千次实验，他为使用LoRA和QLoRA对LLM进行微调提供了实用见解，包括节省内存、选择最佳配置等。Sebastia是威斯康星大学麦迪逊分校的统计学助理教授，也是人工智能平台LightningAI的LLM研究员。 （本文由OneFlow编译发布，转载请联系授权。原文：https://lightning.ai/pages/community/lora-insights/）作者| SebastianRaschkaOneFlow编译翻译｜宛子琳、杨婷过去几个月里，我进行了成百上千次有关LoRA的实验。
ChatGLM2-6B微调实践-QLora方案环境部署Lora微调项目部署准备数据集修改训练脚本adapter推理模型合并与量化合并后的模型推理参数调优微调过程中遇到的问题参考：环境部署申请阿里云GPU服务器：CentOS7.664Anaconda3-2023.07-1-Linux-x86_64Python3.11.5GPUNVIDIAA10（显存24G/1core）CPU8vCore/30G安装Anaconda、CUDA、PyTorch参考：ChatGLM2-6B微调实践-P-Tuning方案Lora微调项目部署gitclonehttps://github.com/shuxueslpi/ch
使用QLoRA对Llama2进行微调是我们常用的一个方法，但是在微调时会遇到各种各样的问题，所以在本文中，将尝试以详细注释的方式给出一些常见问题的答案。这些问题是特定于代码的，大多数注释都是针对所涉及的开源库以及所使用的方法和类的问题。导入库对于大模型，第一件事是又多了一些不熟悉的Python库。!pipinstall-qpeft==0.4.0bitsandbytes==0.40.2transformers==4.31.0trl==0.4.7我们必须首先安装accelerate,peft,bitsandbytes,transformers和trl。除了transformers，其他的库都很陌生
介绍科技巨头Meta于2023年7月18日发布了LLaMA2，这是他们最新版本的大型语言模型(LLM)，成为头条新闻。我相信Llama2在进一步推动人工智能技术方面取得了巨大飞跃，人们将关注私人领域未来对聊天机器人的微调将超过一般聊天机器人。1这些尖端模型从2023年1月到2023年7月在大量2万亿代币上进行了训练，在推理、编码、熟练程度和知识测试等各种基准测试中表现出了卓越的性能。这些模型提供三种不同的选项，参数大小为7B、13B和惊人的70B，可免费用于商业和研究用途（英语）。为了满足不同的文本生成需求并促进对这些模型的有效微调，Meta采用了QLoRA（量化LLM的高效微调），这是一种创
LLMs：LLaMAEfficientTuning(一款可高效微调【全参数/LoRA/QLoRA】主流大模型【ChatGLM2/LLaMA2/Baichuan等】的高效工具【预训练+指令监督微调+奖励模型训练+PPO训练+DPO训练】)的简介、安装、使用方法之详细攻略目录相关文章LLMs之ChatGLM：ChatGLMEfficientTuning(一款高效微调ChatGLM-6B/ChatGLM2-6B的工具【LoRA/P-TuningV2/FreezeTuning/全量微调】)的简介、安装、使用方法之详细攻略LLMs：LLaMAEfficientTuning(一款可高效微调【全参数/LoR
LLMs之llama_7b_qlora：源代码解读export_hf_checkpoint.py(模型权重合并文件)将LORA模型的权重合并回原始模型的权重(hf_llama_model+llama_7b_qlora)，并保存到指定的检查点文件中目录
LLMs之llama_7b_qlora：源代码解读inference.py(基于合并后的权重文件进行模型推理)将基于之前合并Lora模型权重后的hl_llama_7b模型进行文本生成(基于用户交互输入的上下文生成新文本)目录
LLMs之llama_7b_qlora：源代码解读inference_qlora.py(模型推理)使用LORA权重来初始化预训练的LLAMA模型来进行文本生成(基于用户交互输入的上下文生成新文本)目录
LoRA:Low-RankAdaptationofLargeLanguageModels动机大模型的参数量都在100B级别，由于算力的吃紧，在这个基础上进行所有参数的微调变得不可能。LoRA正是在这个背景下提出的解决方案。原理虽然模型的参数众多，但其实模型主要依赖低秩维度的内容(lowintrinsicdimension)，由此引出低秩自适应方法lora，通过低秩分解来模拟参数的改变量，从而以极小的参数量来实现大模型的间接训练。LoRA的思想也很简单，在原始PLM旁边增加一个旁路，做一个降维再升维的操作，来模拟所谓的 intrinsicrank 。训练的时候固定PLM的参数，只训练降维矩阵A与
