草庐IT

李宏毅2022机器学习HW12解析

准备工作作业十二是使用强化学习,完成LunarLander(月球着陆)任务,训练飞行器月球着陆,作业基于OpenAI的gym框架(只有linux系统可用)。作业过程需要助教代码,关注本公众号,可获得代码(包括解析代码,文末有方法)。提交地址https://ml.ee.ntu.edu.tw/hw12/,有想讨论沟通的同学可进QQ群:156013866。以下为作业解析。SimpleBaseline方法:直接运行助教代码。助教代码使用的方法是PolicyGradient,运行代码的时候,可能会出现版本不兼容的情况,下面代码为我遇到的情况(老代码被注释)和修改方式。代码运行后,最后得到totalrew

【机器学习】李宏毅——Transformer

Transformer具体就是属于Sequence-to-Sequence的模型,而且输出的向量的长度并不能够确定,应用场景如语音辨识、机器翻译,甚至是语音翻译等等,在文字上的话例如聊天机器人、文章摘要等等,在分类问题上如果有问题是一些样本同时属于多个类也可以用这个的方法来求解。只要是输入向量,输出向量都可以用这个模型来求解。那么Seq2seq的大致结构如下:也就是有一个Encoder和一个Decoder,将输入的向量给Encoder进行处理,处理后的结果交给Decoder,由Decoder来决定应该输出一个什么样的向量。Encoder以上便是Encoder的作用,输入一排向量,输出也是一排向

李宏毅2022机器学习HW11解析

准备工作作业十一是域适应(DomainAdaptation),通过训练真实图片得到分类模型,并将其应用到涂鸦图片上进行分类,来获得更高的精准度。作业过程需要助教代码和数据集,关注本公众号,可获得代码和数据集(包括解析代码,文末有方法)。提交地址Kaggle:http://www.kaggle.com/competitions/ml2022-spring-hw11,有想讨论沟通的同学可进QQ群:156013866。以下为作业解析。SimpleBaseline(acc>0.44194)方法:直接运行助教代码。注意在本地或kaggle上运行时候,需要调整相应的文件名称或者路径。代码提交kaggle得

李宏毅2022机器学习HW9解析

准备工作作业九是ExplainableAI(模型的可解释性),需要助教代码和数据集,运行代码过程中保持联网可以自动下载数据集,已经有数据集的情况可关闭助教代码中的下载数据部分。关注本公众号,可获得代码和数据集(文末有方法)。CNN的可解释性该部分使用了5种方法:Lime,SaliencyMap,SmoothGrad,FilterVisualization,IntegratedGradients。我们以下逐个介绍。LimeLime是LocalInterpretableModel AgnosticExplanations的缩写,主要方法是先训练一个线性模型,模型的输入为切块的图片,将其训练为输出与

李宏毅机器学习作业8-异常检测(Anomaly Detection), autoencoder, 残差网络

目录目标和数据集数据集方法论导包Datasetmoduleautoencoder训练加载数据训练函数训练推断解答与讨论fcn浅层模型深层网络cnn残差网络辅助网络目标和数据集使用Unsupervised模型做异常检测:识别给定图像是否和训练图像相似数据集Trainingdata100000humanfacesdata/traingset.npy:100000imagesinannumpyarraywithshape(100000,64,64,3)●TestingdataAbout10000fromthesamedistributionwithtrainingdata(label0)About1

李宏毅2022机器学习HW8解析

准备工作作业八是异常检测(AnomalyDetection),需要助教代码和数据集,运行代码过程中保持联网可以自动下载数据集,已经有数据集的情况可关闭助教代码中的下载数据部分。关注本公众号,可获得代码和数据集(文末有方法)。提交地址Kaggle:www.kaggle.com/competitions/ml2022spring-hw8,有想讨论沟通的同学可进QQ群:156013866。以下为作业解析,详细代码见文末。SimpleBaseline (AUC>0.53150)方法:直接运行助教代码。注意在本地或kaggle上运行时候,需要调整相应的文件名称或者路径。提交kaggle的score是:0

李宏毅2023春季机器学习笔记 - 01生成AI(ChatGPT)

一、引言预设的知识储备要求:数学(微积分、线性代数、机率);编程能力(读写python)这门课专注在深度学习领域deeplearning,事实上深度学习在今天的整个机器学习(ML)的领域使用非常广泛,可以说是最受重视的一项ML技术。这门课可以作为你的机器学习的第一堂课,修完后可以更深入的把这个技术,用在你未来感兴趣的领域。   课程录像和作业: 如果只凭googlecolab可以取得及格的成绩,基本上如果有越多的运算资源,越有机会在这门课取得比较好的成绩。要做机器学习、尤其是深度学习相关的任务,运算资源往往是非常重要的。二、【生成式AI】ChatGPT原理剖析2022.11.30,被公开1.对

ChatGPT原理——李宏毅2023机器学习的学习笔记

本文是本人自学李宏毅老师2023年最新的机器学习视频的学习笔记主要目的是两个方面:1、记录自己的学习过程,给自学过程增加一点“仪式感”~2、通过记录学习过程、总结、提炼,来尽可能使用费曼学习法(给别人讲知识),来加深和巩固自己的学习程度话不多说,让我们跟随李宏毅老师的步伐,开始第一节课:李老师真的很“会”~~他从最近最火热的ChatGPT入手,充分调动起学生的热情。这里,我们可以从常见的对ChatGPT的误解入手,举个栗子~        A说:“把问题丢给ChatGPT,它是怎么产生答案的呀?例如我想问:世界上最高的山峰叫什么?”        B回答:“那肯定是上网搜的,直接把结果抄上去的

李宏毅深度学习笔记——呕心整理版

李宏毅深度学习笔记——呕心整理版闲谈叨叨叨:之前看过吴恩达的一部分课程,所以有一定理论基础,再看李宏毅的课程会有新的理解。我先以有基础的情况写完学习过程,后续再以零基础的角度补充细节概念(估计不会啦,因为懒~)。长篇预警!可以慢慢看。多数只是自己的笔记,不会太有语言的概念解释,建议自己看一遍视频(往后字可能会越来越多,听我慢慢叨咕吧)。笔记只是提供回忆、巩固理解的工具。若有问题,欢迎评论讨论,有时间我会改正哒!经过我多年学习经验(没有啦~),预习真的很重要,其实更多是重复记忆,加深理解。我的建议是先看吴恩达的课程了解机器学习和深度学习的基本知识框架和概念,还有理论推导,理解就可以,这就相当于预

李宏毅深度学习笔记——呕心整理版

李宏毅深度学习笔记——呕心整理版闲谈叨叨叨:之前看过吴恩达的一部分课程,所以有一定理论基础,再看李宏毅的课程会有新的理解。我先以有基础的情况写完学习过程,后续再以零基础的角度补充细节概念(估计不会啦,因为懒~)。长篇预警!可以慢慢看。多数只是自己的笔记,不会太有语言的概念解释,建议自己看一遍视频(往后字可能会越来越多,听我慢慢叨咕吧)。笔记只是提供回忆、巩固理解的工具。若有问题,欢迎评论讨论,有时间我会改正哒!经过我多年学习经验(没有啦~),预习真的很重要,其实更多是重复记忆,加深理解。我的建议是先看吴恩达的课程了解机器学习和深度学习的基本知识框架和概念,还有理论推导,理解就可以,这就相当于预