草庐IT

test-network

全部标签

物理信息神经网络PINNs : Physics Informed Neural Networks 详解

本博客主要分为两部分:1、PINN模型论文解读2、PINN模型相关总结第一部分:PINN模型论文解读一、摘要基于物理信息的神经网络(Physics-informedNeuralNetwork,简称PINN),是一类用于解决有监督学习任务的神经网络,同时尊重由一般非线性偏微分方程描述的任何给定的物理规律。原理:它不仅能够像传统神经网络一样学习到训练数据样本的分布规律,而且能够学习到数学方程描述的物理定律。优势:与纯数据驱动的神经网络学习相比,PINN在训练过程中施加了物理信息约束,因而能用更少的数据样本学习到更具泛化能力的模型。缺陷:PINN的缺点是较难处理高维数据,低维可以处理,因为所需训练数

标签噪声:综述 Learning from Noisy Labels with Deep Neural Networks: A Survey

原文链接:https://arxiv.org/pdf/2007.08199.pdfgithub链接:GitHub-songhwanjun/Awesome-Noisy-Labels:ASurvey(本文仅做阅读笔记之用,如需了解细节可自行查看原文,翻译不周之处,敬请指正)1.Introduction据统计真实世界的数据集中存在的标注噪声范围在8%到38.5%。深度神经网络(DNN)因为具有很强的拟合能力,所以很容易对噪声标签过拟合。正则化技术(如数据增强,权重衰减,dropout,批次正则化(BN)等)虽然能缓解过拟合问题,但是光靠正则化并不能完全克服过拟合。如fig.1就形象地说明了这个问题:

标签噪声:综述 Learning from Noisy Labels with Deep Neural Networks: A Survey

原文链接:https://arxiv.org/pdf/2007.08199.pdfgithub链接:GitHub-songhwanjun/Awesome-Noisy-Labels:ASurvey(本文仅做阅读笔记之用,如需了解细节可自行查看原文,翻译不周之处,敬请指正)1.Introduction据统计真实世界的数据集中存在的标注噪声范围在8%到38.5%。深度神经网络(DNN)因为具有很强的拟合能力,所以很容易对噪声标签过拟合。正则化技术(如数据增强,权重衰减,dropout,批次正则化(BN)等)虽然能缓解过拟合问题,但是光靠正则化并不能完全克服过拟合。如fig.1就形象地说明了这个问题:

【学习】自注意力机制的改进方法、non-autoregressive sequence generation、point network

机器学习一、如何让自注意机制更有效?1、localattention/truncatedattention2、strideattention3、globalattention4、datadrivingclusteringlearnablepatternsofsinkhornsortingnetwork减少key的数量注意机制attentionmechanismsynthesizer二、non-autoregressivesequencegeneration非自回归序列生成conditionalsequencegeneration条件序列生成问题1、fertility2、sequence-lev

【学习】自注意力机制的改进方法、non-autoregressive sequence generation、point network

机器学习一、如何让自注意机制更有效?1、localattention/truncatedattention2、strideattention3、globalattention4、datadrivingclusteringlearnablepatternsofsinkhornsortingnetwork减少key的数量注意机制attentionmechanismsynthesizer二、non-autoregressivesequencegeneration非自回归序列生成conditionalsequencegeneration条件序列生成问题1、fertility2、sequence-lev

Shell test 命令

Shelltest命令Shell中的test命令用于检查某个条件是否成立,它可以进行数值、字符和文件三个方面的测试。数值测试 参数 说明 -eq 等于则为真 -ne 不等于则为真 -gt 大于则为真 -ge 大于等于则为真 -lt 小于则为真 -le 小于等于则为真 实例num1=100num2=100iftest$[num1]-eq$[num2]then  echo'两

Shell test 命令

Shelltest命令Shell中的test命令用于检查某个条件是否成立,它可以进行数值、字符和文件三个方面的测试。数值测试 参数 说明 -eq 等于则为真 -ne 不等于则为真 -gt 大于则为真 -ge 大于等于则为真 -lt 小于则为真 -le 小于等于则为真 实例num1=100num2=100iftest$[num1]-eq$[num2]then  echo'两

浪涌测试(Surge Test)

(一)什么是浪涌及浪涌的产生因供电线路被雷击,或者一些重型设备开关通断时,产生的仅仅几百万分之一秒时间内的一种剧烈脉冲。具体分为电力系统开关瞬态和雷电瞬态。电力系统开关瞬态:1、主电源系统切换骚扰,例如电容器组的切换;2、配电系统内在仪器附近的轻微开关动作或者负荷变化;3、与开关装置有关的谐振电路,如晶闸管;4、各种系统故障,例如对设备组接地系统的短路和电弧故障。雷电瞬态:1、直接雷击于外部电路(户外),注入的大电流流过接地电阻或外部电路阻抗而产生电压;2、在建筑物内、外导体上产生感应电压和电流的间接雷击(即云层之间或云层中的雷击或击于附近物体的雷击,这种雷击产生的磁场);3、附近直接对地放电

浪涌测试(Surge Test)

(一)什么是浪涌及浪涌的产生因供电线路被雷击,或者一些重型设备开关通断时,产生的仅仅几百万分之一秒时间内的一种剧烈脉冲。具体分为电力系统开关瞬态和雷电瞬态。电力系统开关瞬态:1、主电源系统切换骚扰,例如电容器组的切换;2、配电系统内在仪器附近的轻微开关动作或者负荷变化;3、与开关装置有关的谐振电路,如晶闸管;4、各种系统故障,例如对设备组接地系统的短路和电弧故障。雷电瞬态:1、直接雷击于外部电路(户外),注入的大电流流过接地电阻或外部电路阻抗而产生电压;2、在建筑物内、外导体上产生感应电压和电流的间接雷击(即云层之间或云层中的雷击或击于附近物体的雷击,这种雷击产生的磁场);3、附近直接对地放电

【论文阅读】TranAD: Deep Transformer Networks for Anomaly Detection inMultivariate Time Series Data

 TranAD架构模型构建: ={𝑥1,...,𝑥𝑇},表示一个大小为T的带有时间戳的数据点序列,其中,𝑥𝑡满足特定的时间戳𝑡和𝑥t∈R𝑚,单变量设置是其中𝑚=1的特殊情况。异常检测:给定一个训练输入时间序列,对于长度为的任意时间的测试时间序列,并且与训练序列的模态相同的作为训练序列,我们需要预测Y={𝑦1,.,𝑦},其中𝑦t ∈{0,1}表示测试集下第t个时间戳的数据点是否异常(1表示异常数据点)。异常诊断:基于上述训练和测试时间序列,我们需要预测Y={𝑦1,.,𝑦} 数据预处理:时序数据分析:long-termtrends、locality(short-termtrends)对数据进行了标