草庐IT

LeCun转赞:在苹果M1/M2芯片上跑LLaMA!130亿参数模型仅需4GB内存

前不久,Meta前脚发布完开源大语言模型LLaMA,后脚就被网友放出了无门槛下载链接,「惨遭」开放。消息一出,圈内瞬间就热闹了起来,大家纷纷开始下载测试。但那些手头没有顶级显卡的朋友们,就只能望模型兴叹了。不过,问题不大。GeorgiGerganov在最近做了一个名为「llama.cpp」的项目——没有GPU也能跑LLaMA。项目地址:https://github.com/ggerganov/llama.cpp是的,这也包括搭载了苹果芯片的Mac。并且还获得了LeCun的转发支持。在M1/M2的Mac上跑LLaMA目前来说,比较全面的教程有两个,分别基于苹果的M1和M2处理器。第一篇:http

LeCun转赞:在苹果M1/M2芯片上跑LLaMA!130亿参数模型仅需4GB内存

前不久,Meta前脚发布完开源大语言模型LLaMA,后脚就被网友放出了无门槛下载链接,「惨遭」开放。消息一出,圈内瞬间就热闹了起来,大家纷纷开始下载测试。但那些手头没有顶级显卡的朋友们,就只能望模型兴叹了。不过,问题不大。GeorgiGerganov在最近做了一个名为「llama.cpp」的项目——没有GPU也能跑LLaMA。项目地址:https://github.com/ggerganov/llama.cpp是的,这也包括搭载了苹果芯片的Mac。并且还获得了LeCun的转发支持。在M1/M2的Mac上跑LLaMA目前来说,比较全面的教程有两个,分别基于苹果的M1和M2处理器。第一篇:http

大容量DDR5时代来临 华擎主板升级:一次插满192GB内存

随着12代酷睿首发支持,DDR5内存进入PC平台已经一年了,8000MHz以上的频率都已经不新鲜,就是容量之前提升不大,单条32GB就很大了,现在单条48GB内存也来了,主板最多可以装下192GB内存,大容量时代开始了。华擎科技宣布旗下700和600系列Intel主板,全线产品均可支持安装单条24GB及48GB容量的DDR5内存。4条内存插槽的主板最高可支持192GB容量;2条插槽的主板型号也可支持最高96GB内存容量,为华擎主板用户提供绝佳的内存扩充性与兼容性。用户按照正常安装步骤即可使用24GB及48GB容量DDR5内存,建议用户更新最新版本BIOS,可使用最新主板功能及系统效能优化。无论

英伟达 GeForce RTX 4060 显卡将配备 AD107 GPU:3072 核、8GB 显存、115W

爆料者 @Kopite7kimi今天给出了NVIDIAGeForceRTX4060桌面显卡的部分规格。据称,普通版RTX4060桌面显卡将会破天荒地使用AD107GPU。但你要知道,NVIDIA之前产品线中的60级显卡大多基于106或104GPU,这还是我们第一次看到基于107GPU的桌面级60级显卡,而且新卡显存还比3060少了4GB。除此之外,之前还有消息称新款RTX4070或 ​​4060Ti将会使用 AD104GPU​​。虽然目前性能还够用的RTX30系列有一定降价,但这4060的“Ti”型号和“非Ti”型号未免差得也太多了。Kopite7kimi表示,NVIDIAGeForceRTX

大容量DDR5时代来临 华擎主板升级:一次插满192GB内存

随着12代酷睿首发支持,DDR5内存进入PC平台已经一年了,8000MHz以上的频率都已经不新鲜,就是容量之前提升不大,单条32GB就很大了,现在单条48GB内存也来了,主板最多可以装下192GB内存,大容量时代开始了。华擎科技宣布旗下700和600系列Intel主板,全线产品均可支持安装单条24GB及48GB容量的DDR5内存。4条内存插槽的主板最高可支持192GB容量;2条插槽的主板型号也可支持最高96GB内存容量,为华擎主板用户提供绝佳的内存扩充性与兼容性。用户按照正常安装步骤即可使用24GB及48GB容量DDR5内存,建议用户更新最新版本BIOS,可使用最新主板功能及系统效能优化。无论

英伟达 GeForce RTX 4060 显卡将配备 AD107 GPU:3072 核、8GB 显存、115W

爆料者 @Kopite7kimi今天给出了NVIDIAGeForceRTX4060桌面显卡的部分规格。据称,普通版RTX4060桌面显卡将会破天荒地使用AD107GPU。但你要知道,NVIDIA之前产品线中的60级显卡大多基于106或104GPU,这还是我们第一次看到基于107GPU的桌面级60级显卡,而且新卡显存还比3060少了4GB。除此之外,之前还有消息称新款RTX4070或 ​​4060Ti将会使用 AD104GPU​​。虽然目前性能还够用的RTX30系列有一定降价,但这4060的“Ti”型号和“非Ti”型号未免差得也太多了。Kopite7kimi表示,NVIDIAGeForceRTX

AI小姐姐比真人还好看? N卡又抓到风口:8GB显存稳定绘图

喊了几年的AI人工智能改变世界,没想到在2023年真的就铺天盖地了。现在流行的AI应用,一个是ChatGPT这样的对话式AI,另一种就是AI画图,而且经常AI画出来的小姐姐比真人还要看,绝对能达到以假乱真的程度。在AI画图方面,之前的门槛很高,不论硬件要求还是软件使用都需要专业知识才能完成,生成图片的时间也要很久。现在Stable-Diffusion、Lora之类的软件已经简化了使用,甚至还有网友整合的一键包,下载解压之后即可使用。Stable-Diffusion不仅使用简单,而且出图速度很快,10-20秒就能生成一张图片,因此成为当前最火的AI绘图应用之一,网上的教程铺天盖地。使用Stabl

AI小姐姐比真人还好看? N卡又抓到风口:8GB显存稳定绘图

喊了几年的AI人工智能改变世界,没想到在2023年真的就铺天盖地了。现在流行的AI应用,一个是ChatGPT这样的对话式AI,另一种就是AI画图,而且经常AI画出来的小姐姐比真人还要看,绝对能达到以假乱真的程度。在AI画图方面,之前的门槛很高,不论硬件要求还是软件使用都需要专业知识才能完成,生成图片的时间也要很久。现在Stable-Diffusion、Lora之类的软件已经简化了使用,甚至还有网友整合的一键包,下载解压之后即可使用。Stable-Diffusion不仅使用简单,而且出图速度很快,10-20秒就能生成一张图片,因此成为当前最火的AI绘图应用之一,网上的教程铺天盖地。使用Stabl

宏碁确认服务器被入侵,黑客挂牌出售盗取的160GB数据

电脑制造商宏碁公司确认,有人入侵了其一台服务器,并在网上出售声称是宏碁机密信息的160GB数据。“我们最近发现了一起未经授权访问我们维修技术人员文档服务器的事件,”宏碁发言人周二说,“目前我们的调查仍在进行中,但没有迹象表明该服务器上存储了任何消费者数据。”据网络犯罪论坛BreachForums上一个化名为Kernelware的黑客周一发布的帖子称,从宏碁窃取的“各种机密资料”共计160GB,包括655个目录和2,869个文件。Kernelware声称窃取的资料包括机密幻灯片和演示文稿、员工技术手册、Windows镜像格式文件、二进制文件、后端基础设施数据、机密产品文档、替换数字产品密钥、IS

宏碁确认服务器被入侵,黑客挂牌出售盗取的160GB数据

电脑制造商宏碁公司确认,有人入侵了其一台服务器,并在网上出售声称是宏碁机密信息的160GB数据。“我们最近发现了一起未经授权访问我们维修技术人员文档服务器的事件,”宏碁发言人周二说,“目前我们的调查仍在进行中,但没有迹象表明该服务器上存储了任何消费者数据。”据网络犯罪论坛BreachForums上一个化名为Kernelware的黑客周一发布的帖子称,从宏碁窃取的“各种机密资料”共计160GB,包括655个目录和2,869个文件。Kernelware声称窃取的资料包括机密幻灯片和演示文稿、员工技术手册、Windows镜像格式文件、二进制文件、后端基础设施数据、机密产品文档、替换数字产品密钥、IS