开源奇迹再一次上演：MistralAI发布了首个开源MoE大模型。几天前，一条磁力链接，瞬间震惊了AI社区。87GB的种子，8x7B的MoE架构，看起来就像一款mini版「开源GPT-4」！无发布会，无宣传视频，一条磁力链接，就让开发者们夜不能寐。这家成立于法国的AI初创公司，在开通官方账号后仅发布了三条内容。6月，MistralAI上线。7页PPT，获得欧洲历史上最大的种子轮融资。9月，Mistral7B发布，号称是当时最强的70亿参数开源模型。12月，类GPT-4架构的开源版本Mistral8x7B发布。几天后，外媒金融时报公布MistralAI最新一轮融资4.15亿美元，估值高达20亿美
「高端」的开源，往往采用最朴素的发布方式。昨天，MistralAI在X平台甩出一条磁力链接，宣布了新的开源动作。没有长篇官方博客，没有刻意加速的Demo，这家公司算是当下大模型领域的「一股清流」。打开一看，发现是接近87GB的种子：参数配置什么样？很多人放弃了周末，第一时间下载运行起来。看上去，Mistral8x7B使用了与GPT-4非常相似的架构，但是「缩小版」： 8个专家总数，而不是16名（减少一半） 每个专家为7B参数，而不是166B（减少24倍）42B总参数（估计）而不是1.8T（减少42倍）与原始GPT-4相同的32K上下文在发布后24小时内，已经有开发者做出了在线体验网站：http
环境微调框架：LLaMA-Efficient-Tuning训练机器：4*RTX3090TI(24G显存)python环境：python3.8,安装requirements.txt依赖包一、Lora微调1、准备数据集2、训练及测试1）创建模型输出目录mkdir-pmodels/llama2_7b_chat/llama-main/train_models/llama2_7b_chat_muti_gpus_01_epoch10/train_model2）创建deepspeed配置文件目录mkdir-pmodels/baichuan2_13b_chat/deepspeed_config3）创建deep
1.简介：组织机构：Meta（Facebook）代码仓：GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型：chinese-alpaca-2-7b-hf、text2vec-large-chinese下载：使用百度网盘和huggingface.co下载硬件环境：暗影精灵7PlusWindows版本：Windows11家庭中文版InsiderPreview22H2内存32GGPU显卡：NvidiaGTX3080Laptop（16G）阅读这篇：https://zhuanlan.zhihu.com/p/644500258LangCha
1.简介：组织机构：Meta（Facebook）代码仓：GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型：llama-2-7b、Chinese-LLaMA-Plus-7B（chinese_llama_plus_lora_7b） 下载：使用download.sh下载硬件环境：暗影精灵7PlusWindows版本：Windows11家庭中文版InsiderPreview22H2内存32GGPU显卡：NvidiaGTX3080Laptop（16G）在https://blog.csdn.net/snmper/article/deta
Mistral7B比Llama2更好的开源大模型Mistral7B是一个70亿参数的语言模型，旨在获得卓越的性能和效率。Mistral7B在所有评估的基准测试中都优于最好的开放13B模型（Llama2），在推理、数学和代码生成方面也优于最好的发布34B模型（Llama1）。Mistral7B模型利用分组查询注意力（GQA）进行更快的推理，再加上滑动窗口注意力（SWA），在降低推理成本的情况下有效处理任意长度的序列。本文学习分组查询注意力（GQA）的论文：GQA:TrainingGeneralizedMulti-QueryTransformerModelsfromMulti-HeadCheckp
OpenAI在九月份为ChatGPT添加了图像输入功能，允许用户使用上传一张或多张图像配合进行对话，这一新兴功能的背后是一个被OpenAI称为GPT4-Vision的多模态（vision-language）大模型。鉴于OpenAI对「闭源」的坚持，多模态开源社区如雨后春笋般涌出了众多优秀的多模态大模型研究成果，例如两大代表作MiniGPT4和LLaVA已经向用户们展示了多模态对话和推理的无限可能性。在多模态大模型（LargeMulti-modalModels）领域，高效的模态对齐（modalityalignment）是至关重要的，但现有工作中模态对齐的效果却往往受制于缺少大规模的高质量的「图像
AIGC大模型参数的5B、7B是指模型中可训练参数的数量。这里的“B”表示10亿（Billion），即10^9。因此，5B表示50亿个可训练参数，7B表示70亿个可训练参数。这些参数是神经网络中的权重和偏置，它们在训练过程中通过反向传播算法进行更新，以使模型能够更好地拟合训练数据。随着深度学习技术的发展，模型的规模越来越大，参数数量也越来越多。这是因为更大的模型具有更强的表达能力，可以捕捉到更复杂的特征和模式。然而，这也带来了一些问题，如计算资源需求增加、训练时间延长以及过拟合风险提高等。因此，研究人员需要在模型规模和性能之间找到一个平衡点。为了解决这个问题，研究人员提出了许多技术，如模型压缩
1.简介：组织机构：Meta（Facebook）代码仓：GitHub-facebookresearch/llama:InferencecodeforLLaMAmodels模型：LIama-2-7b-hf、Chinese-LLaMA-Plus-2-7B 下载：使用huggingface.co和百度网盘下载硬件环境：暗影精灵7PlusWindows版本：Windows11家庭中文版InsiderPreview22H2内存32GGPU显卡：NvidiaGTX3080Laptop（16G）查看https://github.com/ymcui/Chinese-LLaMA-Alpaca-2新的模型出来了，
使用transformers加载decapoda-research/llama-7b-hf的踩坑记录。ValueError:TokenizerclassLLaMATokenizerdoesnotexistorisnotcurrentlyimported.解决办法：https://github.com/huggingface/transformers/issues/22222将tokenizer_config.json中LLaMATokenizer改为LlamaTokenizer。RecursionError:maximumrecursiondepthexceededwhilegettingth
