10月20日消息，斯坦福大学日前发布了AI基础模型“透明度指标”，其中显示指标最高的是Meta的Lama2，但相关“透明度”也只有54%，因此研究人员认为，市面上几乎所有AI模型，都“缺乏透明度”。据悉，这一研究是由HAI基础模型研究中心（CRFM）的负责人RishiBommasani所主导，调查了海外最流行的10款基础模型：Meta的Llama2、BigScience的BloomZ、OpenAI的GPT-4、StabilityAI的StableDiffusion、AnthropicPBC的Claude、谷歌的PaLM2、Cohere 的Command、AI21Labs的Jurassic-2、
在算力为王的时代，你的GPU可以顺畅的运行大模型（LLM）吗？对于这一问题，很多人都难以给出确切的回答，不知该如何计算GPU内存。因为查看GPU可以处理哪些LLM并不像查看模型大小那么容易，在推理期间（KV缓存）模型会占用大量内存，例如，llama-2-7b的序列长度为1000，需要1GB的额外内存。不仅如此，模型在训练期间，KV缓存、激活和量化都会占用大量内存。我们不禁要问，能不能提前了解上述内存的占用情况。近几日，GitHub上新出现了一个项目，可以帮你计算在训练或推理LLM的过程中需要多少GPU内存，不仅如此，借助该项目，你还能知道详细的内存分布情况、评估采用什么的量化方法、处理的最大上
只需微调一下，大模型支持上下文大小就能从1.6万tokens延长至100万？！还是在只有70亿参数的LLaMA2上。要知道，即使是当前最火的Claude2和GPT-4，支持上下文长度也不过10万和3.2万，超出这个范围大模型就会开始胡言乱语、记不住东西。现在，一项来自复旦大学和上海人工智能实验室的新研究，不仅找到了让一系列大模型提升上下文窗口长度的方法，还发掘出了其中的规律。按照这个规律，只需调整1个超参数，就能确保输出效果的同时，稳定提升大模型外推性能。外推性，指大模型输入长度超过预训练文本长度时，输出表现变化情况。如果外推能力不好，输入长度一旦超过预训练文本长度，大模型就会“胡言乱语”。所
概述这篇文章探讨了利用多视角微调方法提高数学推理的泛化能力。数学推理在相对较小的语言模型中仍然是一个挑战，许多现有方法倾向于依赖庞大但效率低下的大语言模型进行知识蒸馏。研究人员提出了一种避免过度依赖大语言模型的新方法，该方法通过有效利用具有不同注释格式的现有数学问题数据集来进行训练。区别于过去的方法，该方法充分考虑不同的注释格式，并在训练模型时利用它们。模型通过在输入问题后附加不同的指令来灵活地学习生成多种格式的解决方案。实验结果表明，该方法使得LLaMA-7B模型在超越使用知识蒸馏的先前方法和谨慎建立的基准线的同时，实现了更好的表现。该论文提出的研究方法是一种多视角微调方法，能够高效地利用具
什么是Serge？Serge是基于llama.cpp运行Alpaca模型的聊天界面。完全自托管，不需要API密钥。适合4GBRAM并且能在CPU上运行。什么是LLaMA?LLaMA是一种机器学习算法，全称为LaplacianRegularizedLeastSquaresforMultipleKernelLearning。它是一种多核学习方法，可以用于处理多个核函数的数据集，以提高分类或回归的准确性。LLaMA算法利用拉普拉斯正则化技术来平衡不同核函数的贡献，从而提高分类或回归的性能。LLaMA算法已经在许多领域得到了广泛的应用，包括生物信息学、图像识别、自然语言处理等。什么是llama.cpp
导读： 本文介绍了CodeLlama的简介、本地化部署、测试和应用实战方案，帮助学习大语言模型的同学们更好地应用CodeLlama。我们详细讲解了如何将CodeLlama部署到实际应用场景中，并通过实例演示了如何使用CodeLlama进行代码生成和优化。最后，总结了CodeLlama的应用实战经验和注意事项。（有图有真相）：目录一、CodeLlama简介二、CodeLlama性能分析
这篇博客是继《大语言模型之十二SentencePiece扩充LLama2中文词汇》、《大语言模型之十三LLama2中文推理》和《大语言模型之十四-PEFT的LoRA》前面博客演示了中文词汇的扩充以及给予LoRA方法的预训练模型参数合并，并没有给出LoRA模型参数是如何训练得出的。本篇博客将分析LoRA模型是和训练得到的。还是以7B参数量的模型为例。本篇博客依然基于Chinese-LLaMA-Alpaca-2开源项目。pre-traindeepspeedLLM的训练成本较大，需要昂贵的多卡多节点GPU集群，即使拥有集群GPU训练效率往往也达不到50%，各大小公司想要更轻松、快速、经济的训练和部署
LLMs之Colossal-LLaMA-2：Colossal-LLaMA-2的简介、安装、使用方法之详细攻略导读：2023年9月25日，Colossal-AI团队推出了开源模型Colossal-LLaMA-2-7B-base=8.5B的token数据+6.9万词汇+15小时+不到1000美元的训练成本。Colossal-LLaMA-2项目的技术细节，主要核心要点总结如下:>>数据处理阶段。文章提到利用多种中文和英文数据集构建语料库，然后对语料进行预处理，将其转化为jsonl格式进行数据增强。>>词汇表扩充。文章提到将LLaMA-2原有3.2万词汇扩充至6.9万词汇，增加中文词汇覆盖率。同时初始
LLMs之LLaMA-2：基于云端进行一键部署对LLaMA2模型实现推理(基于text-generation-webui)执行对话聊天问答任务、同时微调LLaMA2模型(配置云端环境【A100】→下载数据集【datasets】→加载模型【transformers】→分词→模型训练【peft+SFTTrainer+wandb】→基于HuggingFace实现云端分享)之图文教程详细攻略目录
