草庐IT

克利斯

全部标签

UC伯克利发布大语言模型排行榜!Vicuna夺冠,清华ChatGLM进前5

最近,来自LMSYSOrg(UC伯克利主导)的研究人员又搞了个大新闻——大语言模型版排位赛!顾名思义,「LLM排位赛」就是让一群大语言模型随机进行battle,并根据它们的Elo得分进行排名。然后,我们就能一眼看出,某个聊天机器人到底是「嘴强王者」还是「最强王者」。划重点:团队还计划把国内和国外的这些「闭源」模型都搞进来,是骡子是马溜溜就知道了!(GPT-3.5现在就已经在匿名竞技场里了)匿名聊天机器人竞技场长下面这样:很明显,模型B回答正确,拿下这局;而模型A连题都没读懂……项目地址:https://arena.lmsys.org/在当前的排行榜中,130亿参数的Vicuna以1169分稳居

单个GPU就能跑!UC伯克利领头,130亿参数「小羊驼」权重公布

3月31日,UC伯克利联手CMU、斯坦福、UCSD和MBZUAI,推出了130亿参数的Vicuna,俗称「小羊驼」(骆马),仅需300美元就能实现ChatGPT90%的性能。​今天,团队正式发布了Vicuna的权重——只需单个GPU就能跑!项目地址:https://github.com/lm-sys/FastChat/#fine-tuning130亿参数,90%匹敌ChatGPTVicuna是通过在ShareGPT收集的用户共享对话上对LLaMA进行微调训练而来,训练成本近300美元。研究人员设计了8个问题类别,包括数学、写作、编码,对Vicuna-13B与其他四个模型进行了性能测试。测试过程

单个GPU就能跑!UC伯克利领头,130亿参数「小羊驼」权重公布

3月31日,UC伯克利联手CMU、斯坦福、UCSD和MBZUAI,推出了130亿参数的Vicuna,俗称「小羊驼」(骆马),仅需300美元就能实现ChatGPT90%的性能。​今天,团队正式发布了Vicuna的权重——只需单个GPU就能跑!项目地址:https://github.com/lm-sys/FastChat/#fine-tuning130亿参数,90%匹敌ChatGPTVicuna是通过在ShareGPT收集的用户共享对话上对LLaMA进行微调训练而来,训练成本近300美元。研究人员设计了8个问题类别,包括数学、写作、编码,对Vicuna-13B与其他四个模型进行了性能测试。测试过程

130亿参数,8个A100训练,UC伯克利发布对话模型Koala

自从Meta发布并开源了LLaMA系列模型,来自斯坦福大学、UC伯克利等机构的研究者们纷纷在LLaMA的基础上进行「二创」,先后推出了Alpaca、Vicuna等多个「羊驼」大模型。羊驼已然成为开源社区的新晋顶流。由于「二创」过于丰富,生物学羊驼属的英文单词都快不够用了,但是用其他动物的名字给大模型命名也是可以的。最近,UC伯克利的伯克利人工智能研究院(BAIR)发布了一个可以在消费级GPU上运行的对话模型Koala(直译为考拉)。Koala使用从网络收集的对话数据对LLaMA模型进行微调。项目地址:​https://bair.berkeley.edu/blog/2023/04/03/koal

130亿参数,8个A100训练,UC伯克利发布对话模型Koala

自从Meta发布并开源了LLaMA系列模型,来自斯坦福大学、UC伯克利等机构的研究者们纷纷在LLaMA的基础上进行「二创」,先后推出了Alpaca、Vicuna等多个「羊驼」大模型。羊驼已然成为开源社区的新晋顶流。由于「二创」过于丰富,生物学羊驼属的英文单词都快不够用了,但是用其他动物的名字给大模型命名也是可以的。最近,UC伯克利的伯克利人工智能研究院(BAIR)发布了一个可以在消费级GPU上运行的对话模型Koala(直译为考拉)。Koala使用从网络收集的对话数据对LLaMA模型进行微调。项目地址:​https://bair.berkeley.edu/blog/2023/04/03/koal

ChatGPT平替「小羊驼」Mac可跑!2行代码单GPU,UC伯克利再发70亿参数开源模型

自从Meta发布「开源版ChatGPT」LLaMA之后,学界可谓是一片狂欢。先是斯坦福提出了70亿参数Alpaca,紧接着又是UC伯克利联手CMU、斯坦福、UCSD和MBZUAI发布的130亿参数Vicuna,在超过90%的情况下实现了与ChatGPT和Bard相匹敌的能力。今天,「卷王」UC伯克利LMSysorg又发布了70亿参数的Vicuna——不仅体积小、效率高、能力强,而且只需两行命令就能在M1/M2芯片的Mac上运行,还能开启GPU加速!项目地址:https://github.com/lm-sys/FastChat/#fine-tuning恰在今天,HuggingFace的研究人员也

ChatGPT平替「小羊驼」Mac可跑!2行代码单GPU,UC伯克利再发70亿参数开源模型

自从Meta发布「开源版ChatGPT」LLaMA之后,学界可谓是一片狂欢。先是斯坦福提出了70亿参数Alpaca,紧接着又是UC伯克利联手CMU、斯坦福、UCSD和MBZUAI发布的130亿参数Vicuna,在超过90%的情况下实现了与ChatGPT和Bard相匹敌的能力。今天,「卷王」UC伯克利LMSysorg又发布了70亿参数的Vicuna——不仅体积小、效率高、能力强,而且只需两行命令就能在M1/M2芯片的Mac上运行,还能开启GPU加速!项目地址:https://github.com/lm-sys/FastChat/#fine-tuning恰在今天,HuggingFace的研究人员也

达摩克利斯之剑:开源软件的合规风险及防控策略

作者简介冯才效,SEAL安全工程师,拥有6年云计算领域经验,先后参与Rancher,Harvester等开源项目。现致力于编写开发者友好型的软件供应链安全检修工具。开源软件运动兴起于上个世纪,近几年在国内愈发活跃,各类开源项目如雨后春笋般涌现。与此同时,大部分企业开始拥抱开源。开源软件的使用避免重复造轮子,提升了产品研发效率,但同时也可能会带来隐藏的风险。开源软件和商业软件不同,开源软件是面向公众开放软件源代码,代码的获取者享受在其许可证授权范围内操作开源软件的权利。不同许可证之间,具体条款可能存在冲突。因此,开源许可证合规是风险防控的重要考虑因素之一。开源软件合规风险知识产权纠纷开源软件并不

达摩克利斯之剑:开源软件的合规风险及防控策略

作者简介冯才效,SEAL安全工程师,拥有6年云计算领域经验,先后参与Rancher,Harvester等开源项目。现致力于编写开发者友好型的软件供应链安全检修工具。开源软件运动兴起于上个世纪,近几年在国内愈发活跃,各类开源项目如雨后春笋般涌现。与此同时,大部分企业开始拥抱开源。开源软件的使用避免重复造轮子,提升了产品研发效率,但同时也可能会带来隐藏的风险。开源软件和商业软件不同,开源软件是面向公众开放软件源代码,代码的获取者享受在其许可证授权范围内操作开源软件的权利。不同许可证之间,具体条款可能存在冲突。因此,开源许可证合规是风险防控的重要考虑因素之一。开源软件合规风险知识产权纠纷开源软件并不