草庐IT

TimesNet

全部标签

【论文笔记合集】TimesNet之TimesBlock详解

本文作者:slience_me文章目录TimesNet之TimesBlock详解1.源代码2.分步详解2.1init部分代码2.2forward部分代码TimesNet之TimesBlock详解1.源代码classTimesBlock(nn.Module):def__init__(self,configs):super(TimesBlock,self).__init__()self.seq_len=configs.seq_lenself.pred_len=configs.pred_lenself.k=configs.top_kself.conv=nn.Sequential(Inception_

【阅读论文】TimesNet短期预测的基本流程梳理

目录前言一、run.py1.args2.train,test二、TimesNet_M4.sh三、exp_short_term_forecasting.py四、train()五、TimesNet.py1.Model2.TimesBlock3.FFT_for_Period前言果然是初入机器学习的新手,对pycharm、pytorch的套路了解得太少,在学习之路上犯了不少错误,走了不少弯路,虽然现在依旧是个新人,但也还是来做个阶段性的总结,也算是成长的证明。还是以TimesNet为例,下面用基于m4数据集(quarterly类别)的shorttermforecasting程序来做说明。一、run.p

TimesNet复现结果

复现环境:RTX3090,22312GB显存,torch=1.8.1+cu111;没改网络结构和超参数,直接训练。结果如下:classification_EthanolConcentration_TimesNet_UEA_ftM_sl96_ll48_pl96_dm32_nh8_el3_dl1_df32_fc1_ebtimeF_dtTrue_Exp_0accuracy:0.30038022813688214classification_FaceDetection_TimesNet_UEA_ftM_sl96_ll48_pl96_dm64_nh8_el3_dl1_df256_fc1_ebtimeF_

TimesNet:时间序列预测的最新模型

2020年发布的N-BEATS、2022年发布的N-HiTS和2023年3月发布的PatchTST开始。N-BEATS和N-HiTS依赖于多层感知器架构,而PatchTST利用了Transformer架构。2023年4月发表了一个新的模型,它在时间序列分析的多个任务中实现了最先进的结果,如预测、imputation、分类和异常检测:TimesNet。TimesNet由Wu、Hu、Liu等人在他们的论文《TimesNet:Temporal2D-VariationModelingForGeneralTimeSeriesAnalysis》中提出。与以前的模型不同,它使用基于cnn的架构来跨不同的任务

论文解读 ——TimesNet 模型

论文解读——TimesNet模型论文一:TEMPORAL2D-VARIATIONMODELINGFORGENERALTIMESERIESANALYSIS论文:https://openreview.net/pdf?id=ju_Uqw384Oqtu文章解读本文是2023年2月ICLR发表出来的一篇关于深度学习的预测模型,该模型围绕时序变化建模展开,设计提出了时序基础模型TimesNet,在长时、短时预测、缺失值填补、异常检测、分类五大任务上实现了全面领先。(这点就比较夸张了,看图)粉色部分代表TimesNet模型在5大领域均处于领先水平。理论部分先看图这张图表示利用傅里叶变换(FFT)求时序序列周

论文笔记:TIMESNET: TEMPORAL 2D-VARIATION MODELINGFOR GENERAL TIME SERIES ANALYSIS

ICLR20231intro时间序列一般是连续记录的,每个时刻只会记录一些标量之前的很多工作着眼于时间维度的变化,以捕捉时间依赖关系——>可以反映出、提取出时间序列的很多内在特征,比如连续性、趋势、周期性等但是现实时间序列数据中的时间序列通常是由很复杂的时间特征组成,不同的时间维度上的变化会糅杂在一起,使得建模时间维度的变化异常困难在深度学习领域,很多模型有很强的建模非线性的能力,因而可以捕获时间序列中一些复杂的时间维度变化。但是他们各有一些弊端RNN:基于马尔可夫假设(t-1时刻的观测影响t时刻的预测),建模连续时刻的时间序列特征这类方法经常难以建模长期时间依赖性同时由于不能并行,效率堪忧T

论文笔记:TIMESNET: TEMPORAL 2D-VARIATION MODELINGFOR GENERAL TIME SERIES ANALYSIS

ICLR20231intro时间序列一般是连续记录的,每个时刻只会记录一些标量之前的很多工作着眼于时间维度的变化,以捕捉时间依赖关系——>可以反映出、提取出时间序列的很多内在特征,比如连续性、趋势、周期性等但是现实时间序列数据中的时间序列通常是由很复杂的时间特征组成,不同的时间维度上的变化会糅杂在一起,使得建模时间维度的变化异常困难在深度学习领域,很多模型有很强的建模非线性的能力,因而可以捕获时间序列中一些复杂的时间维度变化。但是他们各有一些弊端RNN:基于马尔可夫假设(t-1时刻的观测影响t时刻的预测),建模连续时刻的时间序列特征这类方法经常难以建模长期时间依赖性同时由于不能并行,效率堪忧T

TimesNet复现

使用服务器,安装requirements.txt;开始训练不知道为啥,sh脚本文件里写的这么一行代码exportCUDA_VISIBLE_DEVICES=3,导致训练会用cpu,注释掉之后就变成使用gpu了。因为代码有了一些更改,想把更改传到GitHub中,但又怕之后timesnet的GitHub库有更新,所以新建了一个分支:gitbranchsitoholygitcheckoutsitoholy(gitstatus查看是否切换到sitoholy新分支上)gitadd.gitcommit-m''gitpushoriginsitoholy这一过程中想不更新数据集(/dataset目录),所以:t