草庐IT

李宏毅_机器学习_作业4(详解)_HW4 Classify the speakers

本次作业需要学习完transformer后完成!目录标题Task助教样例code解读数据集分析DatasetDataloaderModelLearningratescheduleModelFunctionValidateMainfunctionInferenceMainfunctionofinference样例code得分MediumStrongTransformer->ConformerSelf-attentionpoolingTask做语者辨识任务,一共有600个语者,给了每一个语者的语音feature进行训练,然后通过test_feature进行语者辨识。(本质上还是分类任务Classi

李宏毅2023机器学习作业1--homework1

一、前期准备下载训练数据和测试数据#dropboxlink!wget-Ocovid_train.csvhttps://www.dropbox.com/s/lmy1riadzoy0ahw/covid.train.csv?dl=0!wget-Ocovid_test.csvhttps://www.dropbox.com/s/zalbw42lu4nmhr2/covid.test.csv?dl=0导入包#NumericalOperationsimportmathimportnumpyasnp#numpy操作数据,增加删除查找修改#Reading/WritingDataimportpandasaspd#p

李宏毅2023机器学习作业1--homework1——模型创建

一、导入包importtorch#pytorchimporttorch.nnasnnfromtorch.utils.dataimportDataset,DataLoader,random_split二、配置项方便更新超参数,对模型进行参数调整device='cuda'iftorch.cuda.is_available()else'cpu'config={'seed':5201314,#Yourseednumber,youcanpickyourluckynumber.:)'select_all':False,#Whethertouseallfeatures.'valid_ratio':0.2,#

李宏毅2022机器学习HW4 Speaker Identification上(Dataset &Self-Attention)

Homework4Dataset介绍及处理Datasetintroduction训练数据集metadata.json包括speakers和n_mels,前者表示每个speaker所包含的多条语音信息(每条信息有一个路径feature_path和改条信息的长度mel_len或理解为frame数即可),后者表示滤波器数量,简单理解为特征数即可,由此可知每个.pt语言文件可以表示为大小为mel_len\(\times\)n_mels的矩阵,其中所有文件已规定n_mels为40,不同的是语言信息的长度即mel_len。测试数据集testdata.json包括n_mels和utterances,其中n_

李宏毅2022机器学习HW3 Image Classification

Homework3数据集下载在本地环境下进行实验总是令人安心,但是又苦于网上找不到数据集,虽然kaggle上有数据集但是下载存在问题于是有了一个天才的想法,间接从kaggle上下载(利用output文件夹中的文件是可下载这一机制将数据集从input文件夹拷贝到output文件夹),具体操作如下图等待数据集拷贝到output后,点击输出的蓝色链接即可下载。相关代码由下给出!python-mzipfile-c/kaggle/working/Dataset.zip/kaggle/input/ml2022spring-hw4/Dataset#copy数据集到output文件夹,此过程可能较慢impor

【机器学习】李宏毅-食物图像分类器

李宏毅-食物图像分类器1实验目的掌握使用Pytorch的使用方法:Pytorch的安装以及环境搭建Pytorch处理数据Pytorch计算梯度以及搭建神经网络Pytorch训练模型并使用Pytorch来训练CNN模型,实作一个食物的图像分类器。2实验要求可以使用tensorflow或者pytorch库必须使用CNN实作model不能使用额外dataset禁止使用pre-trainedmodel(只能自己手写CNN)请不要上网寻找label上传格式为csv,第一行必须为Id,Category,第二行开始为预测结果,每行分别为id以及预测的Category,请以逗号分隔请说明你实现的CNN模型,其

[PyTorch][chapter 8][李宏毅深度学习][DNN 训练技巧]

前言:      DNN是神经网络的里面基础核心模型之一.这里面结合DNN介绍一下如何解决深度学习里面过拟合,欠拟合问题目录:   DNN训练常见问题   过拟合处理  欠拟合处理  keras项目一 DNN训练常见问题 我们在深度学习网络训练的时候经常会遇到下面两类问题:     1: 训练集上面很差:欠拟合     2:训练集上面很好,测试集上面很差:过拟合二 过拟合解决过拟合解决方案主要有以下三个处理思路1EarlyStopped2L1L2正规化3Dropout4:增加训练集上面的数据量 2.1 EarlyStopping  方案  这个数据集分为3部分:TrainingData,val

【机器学习】李宏毅-判断年收入

李宏毅-判断年收入1实验目的本次作业的数据是加州大学尔湾分校机器学习作业中下载得到,使用Classification中的生成模型generativemodel以及logisticregression解决二分类问题。根据已有数据,判断该人年收入是否大于5万美元,最终得到预测结果输出到结果文件中比较准确率。2实验要求不可以使用tensorflow或者pytorch库请用概率生成模型generativemodel(分类第一节课)解决本问题请用logisticregression(分类第二节课)解决本问题上传格式为csv,第一行必须为id,label,第二行开始为预测结果,每行分别为id以及预测的la

机器学习笔记:李宏毅 stable diffusion

1基本框架 ①:文字变成向量 ②:喂入噪声+文字encoder,产生中间产物 ③:decoder还原图片2 textencoder 这张图越往右下表示效果越好,可以看到textencoder尺寸越大,对后续生成图片的增益越多3评价图片生成好坏的标准3.1FID 现有一个训练好的CNN模型,可以生成真实影像和生成图像的representation这两组表征的分布越近,效果越好——>我们sample一堆图片,然后生成一组同语义的图片,计算他们分布的distance3.2 CLIP 如果图片和文字是成对的,那么他们的representation越近表示生成的图片效果越好4decoder 训练一个au

李宏毅2022机器学习HW5解析

准备工作作业五是机器翻译,需要助教代码,运行代码过程中保持联网可以自动下载数据集,已经有数据集的情况可关闭助教代码中的下载数据部分。关注本公众号,可获得代码和数据集(文末有方法)。提交地址这次作业在NTU上面提交,需要做一个survey才能提交,不过我当时做了也无法提交,原因未知,所以该作业没法给出提交分数了,关于作业有想讨论的可进QQ群:156013866。数据预处理流程梳理这次作业的数据预处理部分较多,这里梳理下预处理过程,数据集有两个压缩包:ted2020.tgz(包含raw.en,raw.zh两个文件),test.tgz(包含test.en,test.zh两个文件)。第一步将解压后的文