草庐IT

模块化大模型来了!IBM公开WastonX核心架构技术细节

大型语言模型(LLMs)的性能非常强大,但是现有的模型训练和部署成本都很高。而且在不忘记先前知识的前提,扩展它们去学习新的知识也很困难。也很难针对特定的任务去提取出轻量化的模型。最近,来自MIT-IBMWastonAILab、清华大学、Mila的研究人员联合提出了一种新的神经网络架构ModuleFormer,利用模块化来大幅提高大型语言模型的效率和灵活性。ModuleFormer是一种基于稀疏专家混合(SMoE)的模块化架构,包括两种不同类型的模块,即新的stick-breaking注意力专家模块和传统的MLP专家模块。在训练和推理过程中,根据输入的向量,不同的模块会被稀疏地激活。与之前基于S

从 GPT2 到 Stable Diffusion:Elixir 社区迎来了 Hugging Face

上周,Elixir社区向大家宣布,Elixir语言社区新增从GPT2到StableDiffusion的一系列神经网络模型。这些模型得以实现归功于刚刚发布的Bumblebee库。Bumblebee库是使用纯Elixir语言实现的HuggingFaceTransformers库。查看Elixir社区的发布文章:https://news.livebook.dev/announcing-bumblebee-gpt2-stable-diffusion-and-more-in-elixir-3Op73O为了帮助大家使用开始这些模型,Livebook——用于Elixir语言的计算notebook平台团队创建

动动嘴,就能帮你生成代码!焕然一新的代码编辑器:GitHub Copilot X,来了!

公众号关注 “GitHubDaily”设为“星标”,每天带你逛GitHub!上周五,微软给Office全家桶都加上了GPT-4的功能,并带来了焕然一新的产品Microsoft365Copilot。而作为最早一个吃螃蟹的GitHubCopilot,又怎能在这次浪潮中少了它的身影呢。今天,它终于来了。昨天晚上,GitHub官方发推宣布,一款基于AI驱动的、跨时代代码编辑器GitHubCopilotX横空出世,将为开发者带来前所未有的编程体验!已开通了GitHubCopilot的同学,可前往下方链接申请进入waitlist。申请内测:https://github.com/github-copilot

真的来了!百度文心一言APP在哪里下载?跟网页版有什么区别?

此前百度公开宣布文心一言没有APP,所有文心一言APP都是假的。并针对文心一言盗版APP进行举证上诉,还对苹果应用商店起诉。时隔半个多月,今天上午,小宝在文心一言官方网站上看到内测专用APP下载链接,真正的文心一言APP终于来了。文心一言APP从哪里下载?首先,要下载文心一言APP,必须满足一个条件,就是拥有百度文心一言的内测权限。然后,登录文心一言官网,在右上角就可以看到这个下载标签,按照提示操作,即可下载。也可以通过手机登录,直接点进去下载。苹果手机怎么下载文心一言APP?根据官方提示,目前文心一言APP只支持安卓手机下载安装。苹果手机的小伙伴还要再等等。文心一言APP跟网页版有什么区别?

干货 | 6款漏扫工具来了(附工具下载链接)

渗透测试收集信息完成后,就要根据所收集的信息,扫描目标站点可能存在的漏洞了,包括我们之前提到过的如:SQL注入漏洞、跨站脚本漏洞、文件上传漏洞、文件包含漏洞及命令执行漏洞等,通过这些已知的漏洞,来寻找目标站点的突破口,在这之前我们可能就已经接触过许多漏洞靶场,练习过各种漏洞的攻击方法,其实这种练习是不合理的,原因就是缺少了前期的信息收集和漏洞扫描,明确告诉了你站点的所有信息和所存在的漏洞,我们只需要根据具体漏洞,对症下药就可以了,其实对于一次真正意义上的渗透测试来说,这些信息都是需要我们自己去收集的,漏洞也是要我们自己发掘的,今天我们就讲一讲几款比较好用的漏洞扫描工具。一、AWVSAcunet

专属大模型来了!还有ECS降价40%、50款产品免费试用|阿里云峰会亮点一览

4月11日,阿里巴巴集团董事会主席兼CEO、阿里云智能集团CEO张勇在云峰会上表示,阿里巴巴所有产品未来将接入“通义千问”大模型,进行全面改造。自2019年起,阿里即开始进行大模型研究,并在近期推出阶段性的研究成果:通义千问大模型。钉钉、天猫精灵等产品在接入通义千问测试后,变得聪明了很多,像天猫精灵,不仅能回答家里小朋友的各种刁钻问题,还多了一份情感连接,成为更温暖更人性化的智能助手。阿里巴巴决定未来将所有产品接入通义千问,进行全面改造。张勇表示,面向AI时代,所有产品都值得用大模型重做一次,基于这一信念,阿里云希望帮助更多企业用上大模型,让每家企业都能基于“通义千问”,拥有具备自己行业能力的

专属大模型来了!还有ECS降价40%、50款产品免费试用|阿里云峰会亮点一览

4月11日,阿里巴巴集团董事会主席兼CEO、阿里云智能集团CEO张勇在云峰会上表示,阿里巴巴所有产品未来将接入“通义千问”大模型,进行全面改造。自2019年起,阿里即开始进行大模型研究,并在近期推出阶段性的研究成果:通义千问大模型。钉钉、天猫精灵等产品在接入通义千问测试后,变得聪明了很多,像天猫精灵,不仅能回答家里小朋友的各种刁钻问题,还多了一份情感连接,成为更温暖更人性化的智能助手。阿里巴巴决定未来将所有产品接入通义千问,进行全面改造。张勇表示,面向AI时代,所有产品都值得用大模型重做一次,基于这一信念,阿里云希望帮助更多企业用上大模型,让每家企业都能基于“通义千问”,拥有具备自己行业能力的

Windows Copilot,来了!

公众号关注 “GitHubDaily”设为“星标”,每天带你逛GitHub!5月23日,微软2023Build开发者大会正式开幕,跟GoogleI/O和AppleWWDC一样,每年微软都会在Build大会上发布各种新产品。由于最近几个月ChatGPT爆火,微软又是其最大股东,因此本次发布会可以说是备受瞩目,不少互联网从业人员都希望从本场大会中,提前窥探到未来AI时代的身影。过去这段时间,比较关注AIGC领域的同学,应该也能看到,微软一直持续发力,将AIGC能力整合到旗下各个平台,其中包括搜索引擎Bing、浏览器Edge、GitHub和Office全家桶,并且短期内依旧没有放缓的迹象。本次的微软

Keil MDK6要来了,将嵌入式软件开发水平带到新高度,支持跨平台(2023-03-11)

注:这个是MDK6,不是MDK5AC6,属于下一代MDK视频版:https://www.bilibili.com/video/BV16s4y157WFKeilMDK6要来了,将嵌入式软件开发水平带到新高度,支持跨平台一年一度的全球顶级嵌入式会展EmbeddedWorld2023上,MDK6将展示预览版效果,本月14号-16号,也就是下周二到下周四,为期三天,在德国纽伦堡举办。 重大更新主要如下1、支持跨平台,Windows,Linux和macOS。2、KeilStudioCloud继续衔接MDK云端开发方式。3、提升后续Cortex-M55,Cortex-M85高性能芯片的机器学习和DSP性能

Keil MDK6要来了,将嵌入式软件开发水平带到新高度,支持跨平台(2023-03-11)

注:这个是MDK6,不是MDK5AC6,属于下一代MDK视频版:https://www.bilibili.com/video/BV16s4y157WFKeilMDK6要来了,将嵌入式软件开发水平带到新高度,支持跨平台一年一度的全球顶级嵌入式会展EmbeddedWorld2023上,MDK6将展示预览版效果,本月14号-16号,也就是下周二到下周四,为期三天,在德国纽伦堡举办。 重大更新主要如下1、支持跨平台,Windows,Linux和macOS。2、KeilStudioCloud继续衔接MDK云端开发方式。3、提升后续Cortex-M55,Cortex-M85高性能芯片的机器学习和DSP性能