草庐IT

一块GPU搞定ChatGPT;ML系统入坑指南;理解GPU底层架构

1.跑ChatGPT体量模型,从此只需一块GPU在发展技术,让大模型掌握更多能力的同时,也有人在尝试降低AI所需的算力资源。最近,一种名为FlexGen的技术因为「一块RTX3090跑ChatGPT体量模型」而获得了人们的关注。虽然FlexGen加速后的大模型看起来仍然很慢——跑1750亿参数的语言模型时每秒1个token,但令人印象深刻的是,它已经把不可能变成了可能。传统上,大型语言模型(LLM)推理的高计算和内存要求使人们必须使用多个高端AI加速器进行训练。本研究探索了如何将LLM推理的要求降低到一个消费级GPU并实现实用性能。链接:https://mp.weixin.qq.com/s/Z

Kubernetes ~ k8s 从入门到入坑。

Kubernetes~k8s从入门到入坑。文章目录Kubernetes~k8s从入门到入坑。1.Kubernetes介绍。1.1应用部署方式演变。1.2kubernetes简介。1.3kubernetes组件。1.4kubernetes概念。2.kubernetes集群环境搭建。2.1前置知识点。2.2kubeadm部署方式介绍。2.3安装要求。2.4最终目标。2.5准备环境。2.6环境初始化。2.6.1检查操作系统的版本。2.6.2主机名解析。2.6.3时间同步。2.6.4禁用iptables和firewalld服务。2.6.5禁用selinux。2.6.6禁用swap分区。2.6.7修改l

最好的Vue组件库之Vuetify的入坑指南(持续更新中)

目录   安装Vuetify   文档结构    快速入门    特性        样式和动画         首先先声明,个人不是什么很牛逼的大佬,只是想向那些想入坑Vuetify的前端新手或者嫌文档太长不知如何入手的人提供一些浅显的建议而已,能让你们稍微少走一些弯路就是本文的目的。我其实也只是会用了而已,没有研究得多深,写了一个多么多么复杂得项目,所以如果你觉得我说的是依托答辩的话,也请高抬贵嘴,右上角即可,非常感谢!    本文将会分享自己的对于Vuetify使用的一些见解以及感悟,会有来自官方文档的截图,但是并不意味着是复制粘贴,会有自己的见解的,所以请朋友们放心。    这里放上官

【格院】基于STM32L432KC之入坑MS Lab Part 1

索引一、嵌入式概述二、基础元件2.1、单片机(STM32NUCLEO-L432KC)2.2、面包板2.3、示波器(Oscilloscope)2.3.1、实验室线材介绍2.3.2、示波器用法2.4、万用表2.5、软件2.5.1、介绍2.5.2、建立第一个新项目三、些许感悟四、参考资料一、嵌入式概述作为刚刚学习完C语言的各位小白,一定困惑于如何将其加以应用。那别急,就让我们从MSLab开始吧。MS(MicroelectronicSystems,微电子系统),主要就是通过mbed(手中的这块不便宜的小板子)的内部计算及外界交互来控制其他元件或模块工作。推荐阅读:《ARM快速嵌入式系统原型设计:基于开

就是这么火!Redis也入坑了向量数据库,为生成式AI开发加了一把柴

作者丨ShritamaSaha编译丨诺亚出品|51CTO技术栈(微信号:blog51cto)向量数据库,一个从去年开始火到今年的概念,通常被认为是大模型的记忆海绵。作为一种专门用于存储、管理、查询、检索向量的数据库,向量数据库可以说是大模型落地行业场景必不可少的组成部分。当然也有人曾指出,向量数据库这波热潮有不少炒作成分,到底是虚火还是实火,或许还要等时间验证。不过,这个赛道上入局的玩家已经越来越多了。比如大家耳熟能详的Redis。Redis最近推出了一款名为RedisVectorLibrary的工具,旨在为生成式AI应用开发提供更为高效便捷的支持。该库整合于RedisEnterprise平台

AIGC从入门到入坑01(初学者适用版)

AIGC从入门到入坑系列文章AIGC系列第一章--简述AIGC从入门到入坑系列文章前言学习路径AI时间线人工智能简史AI绘画简史AI名词解释小白从0-1必看5篇资料初学者进阶必读8篇资料总结前言Today,人工智能技术快速发展和广泛应用已经引起大众的兴趣和关注了。特别是作为人工智能重要分支的深度学习,展现出独有的统治力,引领了一场科技革命。作为一名刚毕业的本科生,本身对人工智能感兴趣的我也选择加入这场浪潮中,开坑系列博客,同时作为自己的学习笔记,希望自己能吃透AIGC和AI大模型,探寻一条到AGI的朝圣之路。首先说明一下AIGC、AI大模型和AGI三个名词的解释,正所谓知其然,才知其所以然。A

学会自动化必备工具-Selenium-再想着入坑自动化测试吧

前言随着近些年IT行业的发展,软件测试人才的需求越来越大,也有很多小伙伴在考虑入坑,而软件测试中,收入相对较高的就是自动化了,所以这次就专门为大家简单介绍下自动化测试的必备工具Selenium。Selenium是一款基于Web应用程序的开源测试工具,直接运行在浏览器中,支持Firefox、IE、Chrome等浏览器。同时支持Java、Python等主流语言。框架底层使用Java模拟真实用户对浏览器进行操作。测试脚本执行时,浏览器自动按照脚本代码做出点击,输入,打开,验证等操作,从终端用户的角度测试应用程序。并且Selenium测试直接在浏览器中运行,就像真实用户所做的一样。软件组成 Selen

vite入坑之路:react+vite动态导入报错@vite-ignore的解决方法

正常的动态组件导入方式webpack搭建的项目,不管是react还是vue通常引入动态组件基本这么写:consturl=import(`../pages/${locale}`)//vite不支持orconsturl=import(`../pages/${locale}/index.jsx`)//vite不支持这在vite架构中,一般情况下开发不会有问题,但是使用build打包就会给出警告提示。错误信息:TheabovedynamicimportcannotbeanalyzedbyVite.Seehttps://github.com/rollup/plugins/tree/master/pack

不吹不黑,辩证看待开发者是否需要入坑鸿蒙

前言自打华为2019年发布鸿蒙操作系统以来,网上各种声音百家争鸣。尤其是2023年发布会公布的鸿蒙4.0宣称不再支持Android,更激烈的讨论随之而来。本文没有宏大的叙事,只有基于现实的考量。通过本文,你将了解到:HarmonyOS与OpenHarmony区别华为手机的市场占有率HarmonyOS的市场占有率移动开发现状鸿蒙开发优劣势到底需不需要入坑?1.HarmonyOS与OpenHarmony区别HarmonyOS移动操作系统历史当下移动端两大巨无霸操作系统瓜分了绝大部分市场:iOS是闭源的,只有唯一的一家厂商:Apple。Google开放了Android基础的能力,这些能力集构成了:A

3天赚2000,大学生入坑Python后,在校实现财富自由

考了英语四六级,没办法用英语交流3分钟。考了普通话证书,却没有一个HR关心这个。不喜欢自己的专业,没有好好学。万万没想到,大学四年,学到最有用的东西是驾驶证。这扎心的现实,每一个都让我崩溃!可是,就算是最有用的驾驶证,在想实现财富自由,轻松赚钱上还是无济于事。但是,当我把这个现实告诉我表姐时,她却毫不在意地说:“这有什么,现在流行的是把鸡蛋放在不同的篮子里,搞钱都是靠副业兼职,一个没有副业的打工人是不完整的。”我心想,虽然现在是越来越多人在本职工作外,纷纷探索起了“副业的100种可能性”比如有的在摆摊,有的做自媒体,有的做群演…但是,这些不仅耗时间辛苦还不赚钱!所以赶紧让她告诉我,什么可以轻松