CN110633792B - 端到端基于卷积循环神经网络的轴承健康指标构建方法 - Google Patents

Abstract

一种端到端基于卷积循环神经网络的轴承健康指标构建方法，先搭建卷积循环神经网络模型CRNN，得到能衡量轴承退化程度的健康指标CRNN‑HI；然后进行卷积循环神经网络模型CRNN模型训练；最后进行卷积循环神经网络模型CRNN评估；本发明通过整合卷积神经网络CNNs和循环神经网络RNNs的结构优势，利用RNNs编码CNNs输出的特征图的时序信息，一方面消除了CNNs不能编码时序特征和感受野小的缺陷，另一方面也消除了RNNs不能自适应地从原始数据中提取HI相关特征的缺陷，使得CRNN‑HI在轴承健康状态退化评估方面取得了较高的相关性、单调性和准确性；同时本发明构建的CRNN‑HI指标将轴承的非线性退化过程近似表征为随时间变化的线性过程，为滚动轴承的健康状态评估和退化程度的确定提供了方便。

Description

端到端基于卷积循环神经网络的轴承健康指标构建方法

技术领域

本发明属于回转机械故障诊断技术领域，具体涉及一种端到端基于卷积循环神经网络的轴承健康指标构建方法。

背景技术

近年来，随着物联网(IoT)技术和网络协同制造技术的发展，使得研究者能搜集到机械设备的大量状态监测数据,这些数据对于进一步提升智能制造水平显得十分重要。滚动轴承作为回转机械动力装备中关键部件之一，其意外的故障发生很可能会造成巨大的经济损失和灾难性事故。为了解决上述问题，对回转机械轴承部件实行计划性预测性维修显得十分重要，在上述大数据背景下，许多研究学者将注意力转向了基于数据驱动型的故障预示方法研究。

总的来说，数据驱动型故障预示方法主要包含3个步骤：(1)故障相关数据采集；(2)健康指标HI构建；(3)失效时间预测。其中，健康指标HI构建的好坏对于定量评估轴承退化程度的准确性产生至关重要的影响。近几年以大数据分析为中心的人工智能技术在轴承健康指标HI构建领域取得了很大的进步，其典型代表就是基于深度学习DL的方法。基于DL的HI构建方法主要分成两类，第一类是基于卷积神经网络CNNs的方法，其核心是利用CNNs的分层特征学习和分层特征表达能力，自适应地从原始数据如振动信号中学习HI相关的特征，通过网络的权重共享和局部感受野属性，浅层网络能学习到局部特征而高层网络能学习到更加全局和具有丰富语义信息的特征；有人利用一维卷积神经网络为滚动轴承构建了HI指标，并将HI中的毛刺波动现象考虑进去，在相关性和单调性方面取得了很大的性能提升。然而该方法的缺点在于，一方面直接采用分类的CNNs网络结构用于HI的回归，其回归能力比较差；另一方面，CNNs不能编码输入数据的时间序列信息，而该信息对于轴承HI的构建是很重要的。第二类是基于循环神经网络RNNs的方法，其核心是利用RNNs网络能学习长期依赖关系的记忆性去编码输入特征的时序信息，有人通过给RNNs网络输入人工自定义的特征，包括经典的时域特征、频域特征，以及时频域特征，为滚动轴承构建了健康指标RNN-HI。RNN-HI在衡量滚动轴承性能退化方面具有较高的单调性。然而，该类方法的缺陷在于需要人工自定义特征输入到网络中，即需要一定的先验知识，且整个网络不能进行端到端的优化。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供了一种端到端基于卷积循环神经网络的轴承健康指标构建方法，通过整合卷积神经网络和循环神经网络的结构优势，利用RNNs编码CNNs输出的特征图的时序信息，一方面消除了CNNs不能编码时序特征和感受野小的缺陷，另一方面也消除了RNNs不能自适应地从原始数据中提取HI相关特征的缺陷。

为了达到上述目的，本发明采取的技术方案是：

一种端到端基于卷积循环神经网络的轴承健康指标构建方法，包括以下步骤：

1)搭建卷积循环神经网络模型CRNN：卷积循环神经网络模型CRNN的输入为被标准化的原始轴承振动信号数据，卷积循环神经网络模型CRNN包含两个组件，一个组件是用来提取局部特征的卷积神经网络CNNs，由交替堆叠的卷积层和池化层组成，为了加速网络的训练过程和收敛速度，在卷积神经网络CNNs中加入了BatchNorm层和残差连接结构；卷积神经网络CNNs包含4组残差单元，每一个残差单元包含有2个卷积层且每个残差单元对输入的数据均进行降采样，卷积神经网络CNNs的第一个卷积层采用预激活设计，整个卷积层中卷积核的大小均为16；另外一个组件用来提取带有时间序列信息的全局特征，并循环连接上述局部特征的循环神经网络，采用长短期记忆网络LSTM实现，长短期记忆网络LSTM在每一个时刻的输入为卷积神经网络CNNs输出的特征图上的每一个特征点，时间长度等于特征图的维度；长短期记忆网络LSTM在t时刻的输出通过以下公式计算：

f_t＝σ(W_f·[h_t-1,x_t]+b_f) (1)

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (3)

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t⊙tanh(C_t) (6)

其中，h_t-1和x_t分别代表长短期记忆网络LSTM在t-1时刻的隐层状态和t时刻的输入特征；W_f，W_i和W_o分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的权重参数；b_f，b_i和b_o分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的偏置参数；f_t，i_t和o_t分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的激活值；激活函数σ为sigmoid函数；符号tanh表示双曲正切函数；符号⊙和·分别表示逐元素乘法和矩阵乘法；

表示长短期记忆网络LSTM新学习到的特征信息，W_C和b_C分别为相对应的权重参数和偏置参数；C_t表示当前t时刻长短期记忆网络LSTM细胞cell的内部状态；当前时刻隐藏层状态h_t包含了带时间序列信息的全局特征，随后将其通过一个全连接层的非线性映射，从而得到能衡量轴承退化程度的健康指标CRNN-HI；

2)卷积循环神经网络模型CRNN模型训练：卷积循环神经网络模型CRNN的损失函数采用均方根回归误差，训练集χ由滚动轴承的全寿命周期振动信号组成，χ＝{(x_t,y_t)|1≤t≤T}，其中x_t∈R^N,y_t∈[0,1]，N表示采集到的每一个振动信号的数据样本长度，T表示滚动轴承的寿命，y_t是一个实数值，代表在当前时刻t下轴承的残余寿命百分比；卷积循环神经网络模型CRNN的损失函数J通过下式计算：

其中，

是HI的预测值，当某个轴承的

值十分接近0的时候，就表示这个轴承处于失效状态；整个卷积循环神经网络模型CRNN采用反向传播算法BP进行训练，优化器选择为Adam，初始学习率lr设置为0.001，每个batch的样本量大小设置为32；

3)卷积循环神经网络模型CRNN评估，挑选最优的训练过的卷积循环神经网络模型CRNN去预测待评估的滚动轴承的健康指标CRNN-HI，这里采用相关性指标Corr和单调性指标Mono定量评估训练过程中卷积循环神经网络模型CRNN在验证集上的性能，相关性指标Corr衡量了CRNN-HI衰减趋势与设备运行时间之间的相关性，其值计算如下：

符号I_i和t_i分别表示CRNN-HI的值和运行时刻，

单调性指标Mono衡量了CRNN-HI随时间递增或递减的趋势，其计算公式如下：

dI表示相邻时刻两个CRNN-HI之间的一阶差分，看出Corr和Mono的值的取值范围均在0到1之间，当最优模型参数选择完毕之后，就将采集到的待分析轴承的振动信号输入到最优模型中，从而得到最优模型的输出，及轴承当前时刻的CRNN-HI值，从而定量评估该滚动轴承的当前退化程度。

本发明的有益效果为：

本发明将卷积神经网络和循环神经网络的结构优势进行结合，构建了端到端的基于卷积循环神经网络的轴承健康指标方法，克服了基于CNNs模型和基于RNNs模型的HI构建方法的缺陷，使得CRNN-HI在轴承健康状态退化评估方面取得了较高的相关性、单调性和准确性。同时，本发明构建的CRNN-HI指标将轴承的非线性退化过程近似表征为随时间变化的线性过程，为滚动轴承的健康状态评估和退化程度的确定提供了方便。

附图说明

图1为本发明提出的卷积循环神经网络模型图。

图2为本发明LSTM神经网络模型的结构示意图。

图3为本发明实施例的应用效果图。

具体实施方式

下面结合附图和实施例对本发明作详细描述。

参照图1，一种端到端基于卷积循环神经网络的轴承健康指标构建方法，包括以下步骤：

1)搭建卷积循环神经网络模型CRNN：卷积循环神经网络模型CRNN的输入为被标准化的原始轴承振动信号数据，卷积循环神经网络模型CRNN包含两个组件，一个组件是用来提取局部特征的卷积神经网络CNNs，由交替堆叠的卷积层和池化层组成，为了加速网络的训练过程和收敛速度，在卷积神经网络CNNs中加入了BatchNorm层和残差连接结构；卷积神经网络CNNs包含4组残差单元，每一个残差单元包含有2个卷积层且每个残差单元对输入的数据均进行降采样，卷积神经网络CNNs的第一个卷积层采用预激活设计，整个卷积层中卷积核的大小均为16；另外一个组件用来提取带有时间序列信息的全局特征，并循环连接上述局部特征的循环神经网络，采用长短期记忆网络LSTM实现，参照图2。长短期记忆网络LSTM在每一个时刻的输入为卷积神经网络CNNs输出的特征图上的每一个特征点，时间长度等于特征图的维度；长短期记忆网络LSTM在t时刻的输出通过以下公式计算：

f_t＝σ(W_f·[h_t-1,x_t]+b_f) (1)

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (3)

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t⊙tanh(C_t) (6)

其中，h_t-1和x_t分别代表长短期记忆网络LSTM在t-1时刻的隐层状态和t时刻的输入特征；W_f，W_i和W_o分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的权重参数；b_f，b_i和b_o分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的偏置参数；f_t，i_t和o_t分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的激活值；激活函数σ为sigmoid函数；符号tanh表示双曲正切函数；符号⊙和·分别表示逐元素乘法和矩阵乘法；

表示长短期记忆网络LSTM新学习到的特征信息，W_C和b_C分别为相对应的权重参数和偏置参数；C_t表示当前t时刻长短期记忆网络LSTM细胞cell的内部状态；当前时刻隐藏层状态h_t包含了带时间序列信息的全局特征，随后将其通过一个全连接层的非线性映射，从而得到能衡量轴承退化程度的健康指标CRNN-HI；

2)卷积循环神经网络模型CRNN模型训练：卷积循环神经网络模型CRNN的损失函数采用均方根回归误差，训练集χ由滚动轴承的全寿命周期振动信号组成，χ＝{(x_t,y_t)|1≤t≤T}，其中x_t∈R^N,y_t∈[0,1]，N表示采集到的每一个振动信号的数据样本长度，T表示滚动轴承的寿命，y_t是一个实数值，代表在当前时刻t下轴承的残余寿命百分比；卷积循环神经网络模型CRNN的损失函数J通过下式计算：

其中，

是HI的预测值，当某个轴承的

值十分接近0的时候，就表示这个轴承处于失效状态；整个卷积循环神经网络模型CRNN采用反向传播算法BP进行训练，优化器选择为Adam，初始学习率lr设置为0.001，每个batch的样本量大小设置为32；

3)卷积循环神经网络模型CRNN评估，挑选最优的训练过的卷积循环神经网络模型CRNN去预测待评估的滚动轴承的健康指标CRNN-HI，这里采用相关性指标Corr和单调性指标Mono定量评估训练过程中卷积循环神经网络模型CRNN在验证集上的性能，相关性指标Corr衡量了CRNN-HI衰减趋势与设备运行时间之间的相关性，其值计算如下：

符号I_i和t_i分别表示CRNN-HI的值和运行时刻，

单调性指标Mono衡量了CRNN-HI随时间递增或递减的趋势，其计算公式如下：

dI表示相邻时刻两个CRNN-HI之间的一阶差分，看出Corr和Mono的值的取值范围均在0到1之间，当最优模型参数选择完毕之后，就将采集到的待分析轴承的振动信号输入到最优模型中，从而得到最优模型的输出，及轴承当前时刻的CRNN-HI值，从而定量评估该滚动轴承的当前退化程度。

本发明已经成功应用在滚动轴承的健康状态评估中，参照图3，该图是本发明在两种运行工况条件下对4个轴承全寿命周期振动数据的健康状态的预测结果，横坐标是运行时间，纵坐标是预测的CRNN-HI的值，由图3可见，CRNN-HI在4个轴承的退化趋势预测上均表现出了较高的相关性和单调性，且将滚动轴承的非线性退化过程表征为了随时间变化的线性过程，即使轴承工作在不同的运行工况条件下。

以上实例只为说明本发明的技术构思和特点，并不能以此限制本发明的保护范围。对于本领域的技术人员来说，凡是根据本发明精神实质所做的等效变换或修饰改进，都应涵盖在本发明的保护范围之内。

Claims (1)

1.一种端到端基于卷积循环神经网络的轴承健康指标构建方法，其特征在于，包括以下步骤：

1)搭建卷积循环神经网络模型CRNN：卷积循环神经网络模型CRNN的输入为被标准化的原始轴承振动信号数据，卷积循环神经网络模型CRNN包含两个组件，一个组件是用来提取局部特征的卷积神经网络CNNs，由交替堆叠的卷积层和池化层组成，为了加速网络的训练过程和收敛速度，在卷积神经网络CNNs中加入了BatchNorm层和残差连接结构；卷积神经网络CNNs包含4组残差单元，每一个残差单元包含有2个卷积层且每个残差单元对输入的数据均进行降采样，卷积神经网络CNNs的第一个卷积层采用预激活设计，整个卷积层中卷积核的大小均为16；另外一个组件用来提取带有时间序列信息的全局特征，并循环连接上述局部特征的循环神经网络，采用长短期记忆网络LSTM实现，长短期记忆网络LSTM在每一个时刻的输入为卷积神经网络CNNs输出的特征图上的每一个特征点，时间长度等于特征图的维度；长短期记忆网络LSTM在t时刻的输出通过以下公式计算：

f_t＝σ(W_f·[h_t-1,x_t]+b_f) (1)

i_t＝σ(W_i·[h_t-1,x_t]+b_i) (3)

o_t＝σ(W_o·[h_t-1,x_t]+b_o) (5)

h_t＝o_t⊙tanh(C_t) (6)

其中，h_t-1和x_t分别代表长短期记忆网络LSTM在t-1时刻的隐层状态和t时刻的输入特征；W_f，W_i和W_o分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的权重参数；b_f，b_i和b_o分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的偏置参数；f_t，i_t和o_t分别表示长短期记忆网络LSTM遗忘门、输入门和输出门的激活值；激活函数σ为sigmoid函数；符号tanh表示双曲正切函数；符号⊙和·分别表示逐元素乘法和矩阵乘法；

表示长短期记忆网络LSTM新学习到的特征信息，W_C和b_C分别为相对应的权重参数和偏置参数；C_t表示当前t时刻长短期记忆网络LSTM细胞cell的内部状态；当前时刻隐藏层状态h_t包含了带时间序列信息的全局特征，随后将其通过一个全连接层的非线性映射，从而得到能衡量轴承退化程度的健康指标CRNN-HI；

2)卷积循环神经网络模型CRNN模型训练：卷积循环神经网络模型CRNN的损失函数采用均方根回归误差，训练集χ由滚动轴承的全寿命周期振动信号组成，χ＝{(x_t,y_t)|1≤t≤T}，其中x_t∈R^N,y_t∈[0,1]，N表示采集到的每一个振动信号的数据样本长度，T表示滚动轴承的寿命，y_t是一个实数值，代表在当前时刻t下轴承的残余寿命百分比；卷积循环神经网络模型CRNN的损失函数J通过下式计算：

其中，

是HI的预测值，当某个轴承的

值十分接近0的时候，就表示这个轴承处于失效状态；整个卷积循环神经网络模型CRNN采用反向传播算法BP进行训练，优化器选择为Adam，初始学习率lr设置为0.001，每个batch的样本量大小设置为32；

3)卷积循环神经网络模型CRNN评估，挑选最优的训练过的卷积循环神经网络模型CRNN去预测待评估的滚动轴承的健康指标CRNN-HI，这里采用相关性指标Corr和单调性指标Mono定量评估训练过程中卷积循环神经网络模型CRNN在验证集上的性能，相关性指标Corr衡量了CRNN-HI衰减趋势与设备运行时间之间的相关性，其值计算如下：

符号I_i和t_i分别表示CRNN-HI的值和运行时刻，

单调性指标Mono衡量了CRNN-HI随时间递增或递减的趋势，其计算公式如下：

dI表示相邻时刻两个CRNN-HI之间的一阶差分，看出Corr和Mono的值的取值范围均在0到1之间，当最优模型参数选择完毕之后，就将采集到的待分析轴承的振动信号输入到最优模型中，从而得到最优模型的输出，及轴承当前时刻的CRNN-HI值，从而定量评估该滚动轴承的当前退化程度。

Images