一、模型简介            原子大模型Atom由Llama中文社区和原子回声联合打造，在中文大模型评测榜单C-Eval中位居前十（8月21日评测提交时间）。                Atom系列模型包含Atom-7B和Atom-13B，基于Llama2做了中文能力的持续优化。Atom-7B和Atom-7B-Chat目前已完全开源，支持商用，可在HuggingFace仓库获取模型，详情见Atom-7B下载。Atom大模型针对中文做了以下优化：大规模的中文数据预训练原子大模型Atom在Llama2的基础上，采用大规模的中文数据进行持续预训练，包含百科、书籍、博客、新闻、公告、小说、金

本文将介绍如何使用llama.cpp在MacBookPro本地部署运行量化版本的Llama2模型推理，并基于LangChain在本地构建一个简单的文档Q&A应用。本文实验环境为AppleM1芯片+8GB内存。Llama2和llama.cppLlama2是MetaAI开发的Llama大语言模型的迭代版本，提供了7B，13B，70B参数的规格。Llama2和Llama相比在对话场景中有进一步的能力提升，并且在Safety和Helpfulness的平衡上会优于大部分其他模型，包括ChatGPT。重要的是，Llama2具有开源商用许可，因此个人和组织能够更方便地构建自己的大模型应用。为了能够在MacB

本文分享自华为云社区《大模型那么火，教你一键Modelarts玩转开源LlaMA(羊驼)大模型》，作者：码上开花_Lancer。近日， LlaMA(羊驼)这个大模型再次冲上热搜！LLaMA（LargeLanguageModelMetaAI），由MetaAI发布的一个开放且高效的大型基础语言模型，共有7B、13B、33B、65B（650亿）四种版本。其数据集来源都是公开数据集，无任何定制数据集，保证了其工作与开源兼容和可复现，整个训练数据集在token化之后大约包含1.4T的token。关于模型性能，LLaMA的性能非常优异：具有130亿参数的LLaMA模型「在大多数基准上」可以胜过GPT-3（

llama摘要llama在约1.4T的token上，训练出参数量7B到65B的模型，其模型规模如下在仅使用开源数据集的情况下，llama-13B在多数benchmarks上与GPT-3效果相当；llama-65B也与最好的模型（Chinchilla-70B和PALM-540B）打平。在预算有限的条件下，模型最佳性能并不是靠堆叠参数量实现，而是通过在更多的数据上训练较小的模型实现。此外，llama在模型推理上有不错的表现。数据集llama数据集语料都是来自open-source，来源分布如下llama对不同来源的语料的处理方式如下：通用crawl语料1. 句子级别去重2. fasttext去除非

微调命令CUDA_VISIBLE_DEVICES=0python/aaa/LLaMA-Factory/src/train_bash.py\--stagesft\--model_name_or_path/aaa/LLaMA-Factory/models/chatglm2-6b\--do_train\--datasetbbbccc\--templatechatglm2\--finetuning_typelora\--lora_targetquery_key_value\--output_diroutput/dddeee/\--overwrite_cache\--per_device_train_b

大模型现在真的是越来越卷了！11月OpenAI先是用GPTs革了套壳GPT们的命，然后再不惜献祭董事会搏了一波天大的流量。谷歌被逼急了，赶在年底之前仓促发布了超大模型Gemini，卷起了多模态，甚至不惜「视频造假」。就在今天，微软正式发布了曾在11月Ignite大会上预告的Phi-2！凭借着2.7B的参数，「小语言模型（SLM）」Phi-2几乎打穿了所有13B以下的大模型——包括谷歌最新发布的GeminiNano2。通过模型扩展和训练数据管理方面的创新，Phi-2展现了出色的推理和语言理解能力，在复杂的基准测试中，Phi-2的性能可以打平比自己大25倍的模型，甚至略占上风。它用非常「苗条」的尺

背景    随着人工时代的到来及日渐成熟，大模型已慢慢普及，可以为开发与生活提供一定的帮助及提升工作及生产效率。所以在新的时代对于开发者来说需要主动拥抱变化，主动成长。      LLAMA介绍    llama全称：LargeLanguageModelMetaAI是由meta（原facebook）开源的一个聊天对话大模型。根据参数规模，Meta提供了70亿、130亿、330亿和650亿四种不同参数规模的LLaMA模型，并使用20种语言进行了训练。与现有最佳的大型语言模型相比，LLaMA模型在性能上具有竞争力。    官网：https://github.com/facebookresearch

开源奇迹再一次上演：MistralAI发布了首个开源MoE大模型。几天前，一条磁力链接，瞬间震惊了AI社区。87GB的种子，8x7B的MoE架构，看起来就像一款mini版「开源GPT-4」！无发布会，无宣传视频，一条磁力链接，就让开发者们夜不能寐。这家成立于法国的AI初创公司，在开通官方账号后仅发布了三条内容。6月，MistralAI上线。7页PPT，获得欧洲历史上最大的种子轮融资。9月，Mistral7B发布，号称是当时最强的70亿参数开源模型。12月，类GPT-4架构的开源版本Mistral8x7B发布。几天后，外媒金融时报公布MistralAI最新一轮融资4.15亿美元，估值高达20亿美

Paper:《Video-LLaMA:AnInstruction-tunedAudio-VisualLanguageModelforVideoUnderstanding》Authors:HangZhang,XinLi,LidongBing;Affiliation:TheAlibabaDAMOAcademy;Keywords:MultimodalLargeLanguageModels,Cross-modaltraining.研发背景大型语言模型(LLM)在遵循用户意图和指示上表现出了卓越的理解和理解能力，通常，LLM的用户请求和相应的响应都是文本形式的，然而，由于现实世界的信息通常是多模态的，仅

本文来自DataLearnerAI官方网站：重磅！苹果官方发布大模型框架：一个可以充分利用苹果统一内存的新的大模型框架MLX，你的MacBook可以一键运行LLaMA了|数据学习者官方网站(Datalearner)https://www.datalearner.com/blog/1051701871117729苹果刚刚发布了一个全新的机器学习矿机MLX，这是一个类似NumPy数组的框架，目的是可以在苹果的芯片上更加高效地运行各种机器学习模型，当然最主要的目的是大模型。MLX框架简介目前MLX支持的模型和使用方式预训练模型的使用MLX性能实测MLX的相关资源和链接MLX框架简介根据官方的介绍，M