草庐IT

CNN-LSTM

全部标签

python - Keras - 将注意力机制添加到 LSTM 模型

这个问题在这里已经有了答案:HowtoaddattentionlayertoaBi-LSTM(2个答案)关闭2年前。使用以下代码:model=Sequential()num_features=data.shape[2]num_samples=data.shape[1]model.add(LSTM(16,batch_input_shape=(None,num_samples,num_features),return_sequences=True,activation='tanh'))model.add(PReLU())model.add(Dropout(0.5))model.add(LS

python - 多尺度 CNN 网络 Python Keras

我在PythonKeras中创建了一个多尺度CNN。网络架构类似于图。在这里,相同的图像被馈送到3个具有不同架构的CNN。权重不共享。我写的代码在下面可用。问题是,当我在train_dir中运行10个图像时,网络占用大约40GBRAM,最终被操作系统杀死。这是“内存不足错误”。我在CPU上运行它。知道为什么在Keras中会发生这种情况吗?我正在使用Theano-0.9.0.dev5|Keras-1.2.1|Python2.7.12|OSX塞拉10.12.3(16D32)##Multi-scaleCNNinKerasPython##/image/2H4xD.png#mainCNNmode

python - 将变量添加到 Keras/TensorFlow CNN 密集层

我想知道是否可以将变量添加到卷积神经网络的密集层中(以及来自先前卷积层的连接,会有一个额外的特征集可用于歧视目的)?如果这是可能的,谁能给我指出一个示例/文档来解释如何这样做?我希望使用Keras,但如果Keras限制太多,我很乐意使用TensorFlow。编辑:在这种情况下,我认为这应该起作用的方式是我向神经网络提供一个包含图像和相关特征集的列表(以及在训练相关分类期间)。EDIT2:我想要的架构类似于:____________________________________________________|Conv||Max||Conv||Max|||||Image-->|Laye

python - 喀拉斯 LSTM : a time-series multi-step multi-features forecasting - poor results

我有一个包含全年数据的时间序列数据集(日期是索引)。每15分钟(全年)测量一次数据,这导致每天有96个时间步长。数据已经标准化。变量是相关的。除VAR外的所有变量都是天气指标。VAR在一天和一周内是季节性的(因为它在周末看起来有点不同,但每个周末都差不多)。VAR值是固定的。我想预测接下来两天(提前192步)和接下来7天(提前672步)的VAR值。这是数据集的样本:DateIdxVARdewpthumpresstemp2017-04-1700:00:000.3693970.1550390.3867920.1967210.2388892017-04-1700:15:000.3632140

python - Keras LSTM 输入维度设置

我正在尝试使用keras训练LSTM模型,但我想我在这里出错了。我得到了一个错误ValueError:Errorwhencheckinginput:expectedlstm_17_inputtohave3dimensions,butgotarraywithshape(10000,0,20)虽然我的代码看起来像model=Sequential()model.add(LSTM(256,activation="relu",dropout=0.25,recurrent_dropout=0.25,input_shape=(None,20,64)))model.add(Dense(1,activa

python - 当脚本在更大的数据集上运行时,LSTM 自动编码器没有进展

p_input的形状thisLSTMAutoencoder对于"test.py"是(128,8,1);意思是128组8位数字。我正在尝试使用4组25,000个时间步长(基本上是0秒到25,000秒)使该模型适应基于时间序列的数据。我尝试将此数据集输入到形状为(4,25000,1)的p_input中,但没有出现任何错误。但是,当我运行脚本时,没有得到iter1:0.01727,iter2:0.00983,...我没有从脚本中得到任何打印的反馈,所以我假设有什么东西阻碍了脚本。我还尝试将batch_num更改为4并将step_num更改为25,000直接添加到未经编辑的“test.py”文

python - 在 Keras 中进行批量归一化的双向 LSTM

我想知道如何在Keras中使用批量归一化(BN)实现biLSTM。我知道BN层应该介于线性和非线性之间,即激活。这很容易用CNN或Dense层实现。但是,如何使用biLSTM做到这一点?提前致谢。 最佳答案 如果你想对LSTM的线性输出应用BatchNormalization,你可以这样做fromkeras.modelsimportSequentialfromkeras.layers.recurrentimportLSTMfromkeras.layers.wrappersimportBidirectionalfromkeras.la

python - 使用多个不同长度和多个特征的时间序列时,如何为 LSTM 准备数据?

我有一个来自多个用户(nUsers)的数据集。每个用户在时间上随机采样(每个用户的nSamples是非常数)。每个样本都有许多特征(nFeatures)。例如:nUsers=3--->3个用户nSamples=[32,52,21]--->第一个用户被采样了32次,第二个用户被采样了52次等等。nFeatures=10--->每个样本的特征数量不变。我希望LSTM根据当前特征和同一用户的先前预测生成当前预测。我可以使用LSTM层在Keras中做到这一点吗?我有两个问题:每个用户的数据都有一个不同的时间序列。我该如何整合它?如何处理将先前的预测添加到当前时间特征空间以进行当前预测?感谢您的

基于RNN+CNN实现NLP判别新闻真伪

前言大家好,我是阿光。本专栏整理了《PyTorch深度学习项目实战100例》,内包含了各种不同的深度学习项目,包含项目原理以及源码,每一个项目实例都附带有完整的代码+数据集。正在更新中~✨?我的项目环境:平台:Windows10语言环境:python3.7编译器:PyCharmPyTorch版本:1.8.1?项目专栏:【PyTorch深度学习项目实战100例】一、基于RNN+CNN实现NLP判别新闻真伪在当今时代,传播错误信息已经成为一个真正的问题,许多公司正在采取措施,使普通人认识到传播错误信息的后果。衡量网上发布的新闻的真实性是无法确定的,因为对新闻进行人工分类是很繁琐和耗时的,而且也会有

python - 是否有一些预训练的 LSTM、RNN 或 ANN 模型用于时间序列预测?

我正在尝试解决时间序列预测问题。我尝试了ANN和LSTM,尝试了很多不同的参数,但我所能得到的只是比持久性预测好8%。所以我想知道:既然你可以在keras中保存模型;是否有任何用于时间序列预测的预训练模型(LSTM、RNN或任何其他ANN)?如果是这样,我如何获得它们?Keras里有吗?我的意思是,如果有一个包含预训练模型的网站,那将非常有用,这样人们就不必花太多时间来训练它们。同理,另一个问题:是否可以执行以下操作?1.假设我现在有一个数据集,我用它来训练我的模型。假设一个月后,我将可以访问另一个数据集(对应于相同数据或类似数据,将来可能,但不限于此)。到时候还能继续训练模型吗?这与