🦉AI新闻🚀开源MoE大模型震惊开源社区摘要：上周末，Mistral开源了一款震惊开源社区的MoE大模型。MoE是一种神经网络架构设计，能够提升大语言模型的性能。通过使用MoE，每个输入token都可以动态路由到专家子模型进行处理，实现更高效的计算和更好的结果。MoE的关键组件包括专家和路由器，专家可以专门处理不同任务或数据的不同部分，而路由器用于确定将哪些输入token分配给哪些专家。MoE在Transformer等大语言模型中发挥重要作用，能够添加可学习参数、利用稀疏矩阵高效计算以及并行计算专家层等。Mistral的7B×8E的开源模型性能已经接近GPT-4，对开源社区产生了巨大影响。🚀大

前言23年12月8日，MistralAI在X平台甩出一条磁力链接(当然，后来很多人打开一看，发现是接近87GB的种子)看上去，Mixtral8x7B的架构此前传闻的GPT-4架构非常相似(很像传闻中GPT-4的同款方案)，但是「缩小版」： 8个专家总数，而不是16名(减少一半) 每个专家为7B参数，而不是166B(减少24倍)42B总参数（估计）而不是1.8T(减少42倍)与原始GPT-4相同的32K上下文在发布后24小时内，已经有开发者做出了在线体验网站：https://replicate.com/nateraw/mixtral-8x7b-32kseqlenOpenAI团队一直对GPT-4的

引言MistralAI，一家法国的初创企业，近期在AI界引发了轰动，刚刚发布了全球首个基于MoE（MixtureofExperts，混合专家）技术的大型语言模型——Mistral-8x7B-MoE。这一里程碑事件标志着AI技术的一个重要突破，尤其是在模型结构和效率上的创新，让它在业界赢得了“超越GPT-4”的评价。huggingface模型下载：https://huggingface.co/DiscoResearch/DiscoLM-mixtral-8x7b-v2AI快站模型免费加速下载：https://aifasthub.com/models/DiscoResearchMistral-8x7

今天，MistralAI正式放出了Mixtral8x7B的技术细节——在大多数基准测试中，Mixtral的表现不仅优于Llama270B，而且推理速度提高了整整6倍！尤其是，它在大多数标准基准测试上与GPT-3.5打平，甚至略胜一筹。新开源的Mixtral8x7B自带了一些出色的表现：比如可以很好地处理32k长度的上下文，支持英语、法语、意大利语、德语和西班牙语，且在代码生成方面表现出强大的性能。另外，它可以微调为指令跟随模型（instruction-followingmodel），在MT-Bench上获得了8.3分的好成绩。467亿参数打平GPT-3.5Mixtral是基于decoder-o