CN114332474A - 一种飞机发动机关键部位维护时间预测方法 - Google Patents

Abstract

一种飞机发动机关键部位维护时间预测方法，其具体步骤包括：获取飞机发动机数据，分为静态属性数据、动态时序数据、历史时序数据和图像数据；将动态时序数据和历史时序数据拼接得到长时间序列数据x，对x中每一时刻的数据相加得到x′_t；图像数据经过处理得到相应向量p_t，将p_t与x′_t相加后得到编码器输入向量z₀；将z₀送入编码器中得到特征向量，结合编码器中参数向量输出预测特征向量p_out；静态属性数据通过处理得到相应向量s′，将p_out和s′相加输入到全连接网络，得到发动机关键部位预测状态，把预测到存在故障的时间与当前时间相减得到关键部位的预测维护时间。

Description

一种飞机发动机关键部位维护时间预测方法

技术领域

本发明属于深度学习时间序列预测领域，尤其涉及到一种基于长时间序列预测模型的飞机发动机关键部位维护时间预测方法。

背景技术

飞机的健康管理主要是针对其关键部位健康状态进行准确监测、诊断和评估，并制定科学合理的飞机维修策略，在控制维修成本、提高安全率的同时，减少航班延误，保证航班正点率。在技术上，商用飞机发动机在运行时会产生大量异构时序特征数据(各类传感器产生的数据)，和非时序特征数据(生产日期、运行状态、上一次维护时间等)，除了时序数据外有时图像数据能够更直观的反映发动机运行状态，且飞机发动机故障率低，故障时发动机传感器参数样本较少，故研究思路主要在关注利用图像信息和传感器信息组合成新的长时间序列和设计一种基于长时间序列预测模型的飞机发动机关键部位维护时间预测方法。

发明内容

本发明客服了现有技术的不足之处，提出了一种基于长时间序列预测模型的飞机发动机关键部位维护时间预测方法，意在能够利用深度学习、时间序列数据处理等技术，分析传感器数据和发动机图像数据预测飞机发动机关键部位的维护时间。

本发明为达上述发明目的，采用如下技术方案：

一种飞机发动机关键部位维护时间预测方法，其具体步骤包括：

步骤(1)：获取飞机发动机数据，将飞机发动机数据按照特征分为静态属性数据s、动态时序数据e、历史时序数据h_i,i∈[0,n-1]和图像数据p；

步骤(2)：将动态时序数据e和历史时序数据[h₁,h₂,…,h_n]按照飞行场次顺序拼接得到长时间序列数据x，对x中每一时刻的数据分别做嵌入和位置编码后相加得到x′_t，t∈[0,n]；发动机图像数据p经过下采样特征提取网络得到与x′_t长度相同的图像特征向量p_t,t∈[0,n]，将p_t与x′_t对应时间段位置的向量相加后得到编码器输入向量z₀；

步骤(3)：将编码器输入向量z₀送入多头稀疏自注意力编码模块堆叠形成的编码器中得到特征向量z′，结合编码器中的得到的参数向量输出预测特征向量p_out；静态属性数据s通过前馈神经网络得到静态属性特征向量s′，将p_out和s′按元素位置相加作为全连接网络的输入，最终得到未来每一时刻发动机关键部位预测状态，把预测到存在故障的时间与当前时间相减即可得到关键部位的预测维护时间。

进一步，还包括步骤(4)：如果预测维护时间小于警戒值d₁，就将预测信息传递给维修部，并将预测的数据筛选清洗后放入训练数据集用于更新模型。

进一步，步骤(1)中飞机发动机数据获取是从数据库中调取飞机前几次飞行时发动机传感器产生的数据、对应飞机发动机的相关属性参数，并在飞机运行过程中实时采集发动机传感器产生的数据，飞机降落后拍摄飞机发动机外部的图像。

进一步，步骤(1)中静态属性数据s为飞机发动机的相关属性参数，包括前一次维护日期、发动机出厂日期，所述动态时序数据e包括此次飞行传感器记录的发动机振动数据、整体驱动发电机数据、燃油流量等传感器数据，所述历史时序数据h_i,i∈[0,n-1]包括前n次飞行时发动机传感器产生的时序数据，所述图像数据p包括拍摄的飞机发动机外部图像。

进一步，步骤(3)中的编码器是如下进行实现的：

多头稀疏自注意力机制：编码器输入向量z₀中的每一位都为一个数据向量，即

与参数矩阵W_q、W_k、W_v分别相乘后得到查询向量q,键向量k,和值向量v，随机采样U＝L_KlnL_Q个3查询向量q来计算当中每个q的稀疏度量

即

1其中参数矩阵W_q、W_k、W_v的行数等于

的长度，列数分别等于查询向量q,键向量k,和值向量v的长度，并在训练开始时随机初始化矩阵内部参数；d为向量q_i和k_j的长度，L_K为K矩阵中k_j向量的个数，2L_Q为Q矩阵中q_i向量的个数；

选出u＝c·lnL_Q个

值最高的q组成矩阵

矩阵的其余位置置为0，则自注意力计算方式为

将每个自注意力模块同时执行多次并让U每次都为随机采样，形成多头稀疏自注意力机制；

编码器输入向量z₀在输入时经过多个一维卷积将输入降维原来的

将多个不同尺度的数据同时输入对应的网络分支中，最后拼接每个分支的输出得到最终编码结果z′。

进一步，所述多头稀疏自注意力机制中的自注意力蒸馏：在每个子注意力模块后分别连接一个一维卷积和最大池化层将自注意力模块的输出尺寸缩小为原来的一半，即

其中

表示第r个分支上第j个多头稀疏自注意力操作，Conv1d表示在时间维度上执行一维卷积，MaxPool为最大池化层。

进一步，步骤(3)中的解码器是如下进行实现的：

编码器的输出z′与W_v和W_k参数矩阵相乘得到解码器的第一组输入矩阵K和V，从编码器的输入z₀中进行采样得到x_token，并在其之后拼接一个长序列x₀形成解码器的第二组输入[x_token，x₀]，其中x₀中每一位都初始化为0，并且x₀序列的长度与最终预测目标序列长度相同；将[x_token，x₀]输入多头稀疏自注意力模块中计算出Q矩阵，结合第一组输入矩阵K和V形成后续多头自注意力模块的输入；多头自注意力为

多头自注意力模块后接全连接层，解码器最终输出预测特征向量p_out。

进一步，步骤(2)和步骤(3)中的飞机发动机关键部位维护时间预测网络是如下进行训练的：

步骤(3.1)数据准备：训练数据让计算机进行标注，标注信息为飞机发动机关键部位的状态，即(c₁，c₂，c₃，…，c_n)，其中c₁表示可变放气活门的预测状态，c₁＝0表示可变放气活门正常，c₁＝1表示可变放气活门存在故障需要更换，c₂、c₃…相应表示发动机起动机预测状态和燃油计量活门预测状态；将标注数据样本按照8:1:1划分为训练集、验证集、测试集。

步骤(3.2)网络结构设计：算法采用堆叠卷积层组成的下采样特征提取网络提取图像特征并以向量形式表示，利用嵌入和位置编码提升序列数据间的相关性，位置编码表示为：

其中pos是数据在长序列中的位置，2j和2j+1表示不同维度，v_model表示每个数据嵌入后的向量维度，L_x表示输入长时间序列x的的长度；

主干网络利用编码-解码的形式计算长时间序列中每个位置数据与其余位置数据间注意力，最后利用全连接网络预测发动机关键部位状态；

步骤(3.3)训练：输入为动态时序数据e、历史时序数据[h₀,h₁，…，h_n-1]、图像数据p，静态属性数据s，在解码器输入端输入采样数据[x_token,x₀]，学习速率为10^-4，每一个epoch都将学习率降为原来的一半，采用Adam优化器进行优化；

步骤(3.4)模型测试：输入图像数据和时间序列数据，输出发动机关键部位预测状态和预测维护时间。

进一步，步骤(4)中数据筛选、清洗和模型的更新的具体步骤如下：

步骤(4.1)：先用传统方法让计算机自动标注得到第一个训练数据集；

步骤(4.2)：用第一个训练数据集训练出第一个模型，每次模型进行最后一步判断发动机关键部位状态时让传统检测方法共同参与判断；

步骤(4.3)：若深度学习模型和传统检测方法检测结果相同，则将该部分数据放入训练数据集用于后期模型更新；若深度学习模型和传统检测方法检测结果不同，则将该条数据由人工清洗和标注后存入训练数据集，用于模型的更新迭代。

本发明的有益效果：能够利用深度学习、时间序列数据处理等技术，分析传感器数据和发动机图像数据预测飞机发动机关键部位的维护时间，预测效果好。

附图说明

图1是本发明的流程图。

图2是本发明的编码器结构示意图。

图3是本发明的解码器结构示意图。

具体实施方式

下面结合具体实施例来对本发明进行进一步说明，但并不将本发明局限于这些具体实施方式。本领域技术人员应该认识到，本发明涵盖了权利要求书范围内所可能包括的所有备选方案、改进方案和等效方案。

在本发明的描述中，需要理解的是，术语“中心”、“纵向”、“横向”、“长度”、“宽度”、“厚度”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”“内”、“顺时针”、“逆时针”等指示的方位或位置关系为基于附图所示的方位或位置关系，仅是为了便于描述本发明和简化描述，而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作，因此不能理解为对本发明的限制。此外，术语“第一”、“第二”仅用于描述目的，而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此，限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征。在本发明的描述中，除非另有说明，“多个”的含义是两个或两个以上，除非另有明确的限定。

在本发明中，除非另有明确的规定和限定，术语“安装”、“相连”、“连接”、“固定”等术语应做广义理解，例如，可以是固定连接，也可以是可拆卸连接，或一体地连接；可以是机械连接，也可以是电连接；可以是直接相连，也可以通过中间媒介间接相连，可以是两个元件内部的连通。对于本领域的普通技术人员而言，可以根据具体情况理解上述术语在本发明中的具体含义。

在本发明中，除非另有明确的规定和限定，第一特征在第二特征之“上”或之“下”可以包括第一和第二特征直接接触，也可以包括第一和第二特征不是直接接触而是通过它们之间的另外的特征接触。而且，第一特征在第二特征“之上”、“上方”和“上面”包括第一特征在第二特征正上方和斜上方，或仅仅表示第一特征水平高度高于第二特征。第一特征在第二特征“之下”、“下方”和“下面”包括第一特征在第二特征正下方和斜下方，或仅仅表示第一特征水平高度小于第二特征。

参见图1，本实施例提供了一种飞机发动机关键部位维护时间预测方法，具体实现主要包括如下步骤：

步骤(1)：从数据库中调取飞机前几次飞行时发动机传感器产生的数据、对应飞机发动机的相关属性参数。并在飞机运行过程中实时采集发动机传感器产生的数据，飞机降落后拍摄飞机发动机外部的图像。将飞机发动机数据按照特征分为静态属性数据s(飞机发动机的相关属性参数：前一次维护日期、发动机出厂日期等)、动态时序数据e(此次飞行传感器记录的发动机振动数据、整体驱动发电机数据、燃油流量等传感器数据等)、历史时序数据h_i,i∈[0,n-1](前n次飞行时发动机传感器产生的时序数据)和图像数据p(拍摄的飞机发动机外部图像)。

步骤(2)：动态时序数据e和历史时序数据[h₁,h₂,…,h_n]按照飞行场次顺序拼接得到长时间序列数据x，对x中每一时刻的数据分别做嵌入和位置编码后相加得到x′_t,t∈[0,n](此次飞行数据向量加上前n次历史飞行数据向量)。发动机图像数据p经过下采样特征提取网络得到与x′_t长度相同的图像特征向量p_t,t∈[0,n](此次飞机发动机外壳图像特征向量和前n次拍摄的发动机外壳图像特征向量)，将p_t与x′_t对应时间段位置的向量相加后得到编码器输入向量z₀。

步骤(3)：将z₀送入多头稀疏自注意力编码模块堆叠形成的编码器中得到特征向量z′，结合编码器中的得到的参数向量输出预测特征向量p_out。静态属性数据s通过前馈神经网络得到静态属性特征向量s′，将p_out和s′按元素位置相加作为全连接网络的输入，最终得到未来每一时刻发动机关键部位预测状态。把预测到存在故障的时间与当前时间相减即可得到关键部位的预测维护时间(发动机起动机、起动机空气活门、瞬时放气活门等部件剩余飞行小时)。

其中的编码器是如图2所示进行实现的：

多头稀疏自注意力机制：z₀中的每一位都为一个数据向量，即

与参数矩阵W_q、W_k、W_v分别相乘后得到查询向量q,键向量k,和值向量v，随机采样U＝L_KlnL_Q个查询向量q来计算当中每个q的稀疏度量

(用于判断序列中每个元素的q与其他各个k点乘后的分布是否远离平均分布，越远离平均分布

值越大)。即

其中参数矩阵W_q、W_k、W_v的行数等于

的长度，列数分别等于查询向量q,键向量k,和值向量v的长度，并在训练开始时随机初始化矩阵内部参数；d为向量q_i和k_j的长度，L_K为K矩阵中k_j向量的个数，L_Q为Q矩阵中q_i向量的个数；

选出u＝c·lnL_Q个

值最高的q组成矩阵

矩阵的其余位置置为0，则自注意力计算方式为

将每个自注意力模块1同时执行多次并让U每次都为随机采样，形成多头稀疏自注意力机制。z₀在输入时经过多个一维卷积2将输入降维原来的

将多个不同尺度的数据同时输入对应的网络分支中，最后拼接每个分支的输出得到最终编码结果z′。

自注意力蒸馏：在每个子注意力模块1后分别连接一个一维卷积2和最大池化层3将自注意力模块1的输出尺寸缩小为原来的一半，即

其中

表示第r个分支上第j个多头稀疏自注意力操作，Conv1d表示在时间维度上执行一维卷积(卷积核尺寸＝3)，MaxPool为最大池化层。

其中的解码器是如3所示进行实现的：

编码器的输出z′与W_v和W_k参数矩阵相乘得到解码器的第一组输入矩阵K和V。从编码器的输入z₀中进行采样得到x_token，并在其之后拼接一个长序列x₀形成解码器的第二组输入[x_token,x₀]，其中x₀中每一位都初始化为0，并且x₀序列的长度与最终预测目标序列长度相同。将[x_token,x₀]输入多头稀疏自注意力模块4中计算出Q矩阵，结合第一组输入矩阵K和V形成后续多头自注意力模块5的输入。多头自注意力为

多头自注意力模块5后接全连接层6，解码器最终输出预测特征向量p_out。

本实施例步骤(2)和步骤(3)中的飞机发动机关键部位维护时间预测网络是如下进行训练的：

步骤(3.1)数据准备：因为飞机发动机传感器会产生大量数据，人工标注所有数据费时费力，训练数据就让计算机用现有的传统方法标注，标注信息为飞机发动机关键部位的状态，即(c₁,c₂,c₃,…,c_n)，其中c₁表示可变放气活门的预测状态，c₁＝0表示可变放气活门正常，c₁＝1表示可变放气活门存在故障需要更换，c₂、c₃…相应表示发动机起动机预测状态和燃油计量活门预测状态等。将标注数据样本按照8:1:1划分为训练集、验证集、测试集。

步骤(3.2)网络结构设计：算法采用堆叠卷积层组成的下采样特征提取网络提取图像特征并以向量形式表示，利用嵌入和位置编码提升序列数据间的相关性，位置编码表示为：

其中pos是数据在长序列中的位置，2j和2j+1表示不同维度，v_m0del表示每个数据嵌入后的向量维度，L_x表示输入长时间序列x的的长度。

主干网络利用编码-解码的形式计算长时间序列中每个位置数据与其余位置数据间注意力，最后利用全连接网络预测发动机关键部位状态。

步骤(3.3)训练：输入为动态时序数据e、历史时序数据[h₀,h₁,…,h_n-1]、图像数据p，静态属性数据s，在解码器输入端输入采样数据[x_token,x₀]，学习速率为10^-4，每一个epoch都将学习率降为原来的一半，采用Adam优化器进行优化。

步骤(3.4)模型测试：输入图像数据和时间序列数据，输出发动机关键部位预测状态和预测维护时间。

步骤(4)：如果预测维护时间小于警戒值d₁，就将预测信息传递给维修部，并将预测的数据筛选清洗后放入训练数据集用于更新模型。

其中数据筛选、清洗和模型的更新是如下进行的：

飞机每次飞行，发动机传感器都会产生大量数据，人工手动标注费时费力，为了训练第一个模型，先用传统方法让计算机自动标注得到第一个训练数据集。用第一个训练数据集训练出第一个模型，但是由于是用传统方法标注的训练数据集，一直使用会导致模型的效果趋向于传统预测方法，为了提升模型的泛化能力，每次模型进行最后一步判断发动机关键部位状态时让传统检测方法共同参与判断，若深度学习模型和传统检测方法检测结果相同，则将该部分数据放入训练数据集用于后期模型更新；若深度学习模型和传统检测方法检测结果不同，则将该条数据由人工清洗和标注后存入训练数据集，用于模型的更新迭代，以提升模型预测效果。

Claims (9)

1.一种飞机发动机关键部位维护时间预测方法，其具体步骤包括：

步骤(1)：获取飞机发动机数据，将飞机发动机数据按照特征分为静态属性数据s、动态时序数据e、历史时序数据h_i，i∈[0，n-1]和图像数据p；

步骤(2)：将动态时序数据e和历史时序数据[h₁，h₂，...，h_n]按照飞行场次顺序拼接得到长时间序列数据x，对x中每一时刻的数据分别做嵌入和位置编码后相加得到x′_t，t∈[0，n]；发动机图像数据p经过下采样特征提取网络得到与x′_t长度相同的图像特征向量p_t，t∈[0，n]，将p_t与x′_t对应时间段位置的向量相加后得到编码器输入向量z₀；

步骤(3)：将编码器输入向量z₀送入多头稀疏自注意力编码模块堆叠形成的编码器中得到特征向量z′，结合编码器中的得到的参数向量输出预测特征向量p_out；静态属性数据s通过前馈神经网络得到静态属性特征向量s′，将p_out和s′按元素位置相加作为全连接网络的输入，最终得到未来每一时刻发动机关键部位预测状态，把预测到存在故障的时间与当前时间相减即可得到关键部位的预测维护时间。

2.根据权利要求1所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：还包括步骤(4)：如果预测维护时间小于警戒值d₁，就将预测信息传递给维修部，并将预测的数据筛选清洗后放入训练数据集用于更新模型。

3.根据权利要求1所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：步骤(1)中飞机发动机数据获取是从数据库中调取飞机前几次飞行时发动机传感器产生的数据、对应飞机发动机的相关属性参数，并在飞机运行过程中实时采集发动机传感器产生的数据，飞机降落后拍摄飞机发动机外部的图像。

4.根据权利要求2所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：步骤(1)中静态属性数据s为飞机发动机的相关属性参数，包括前一次维护日期、发动机出厂日期，所述动态时序数据e包括此次飞行传感器记录的发动机振动数据、整体驱动发电机数据、燃油流量等传感器数据，所述历史时序数据h_i，i∈[0，n-1]包括前n次飞行时发动机传感器产生的时序数据，所述图像数据p包括拍摄的飞机发动机外部图像。

5.根据权利要求1所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：步骤(3)中的编码器是如下进行实现的：

多头稀疏自注意力机制：编码器输入向量z₀中的每一位都为一个数据向量，即

与参数矩阵W_q、W_k、W_v分别相乘后得到查询向量q，键向量k，和值向量v，随机采样U＝L_KlnL_Q个3查询向量q来计算当中每个q的稀疏度量

即

1其中参数矩阵W_q、W_k、W_v的行数等于

的长度，列数分别等于查询向量q，键向量k，和值向量v的长度，并在训练开始时随机初始化矩阵内部参数；d为向量q_i和k_j的长度，L_K为K矩阵中k_j向量的个数，2L_Q为Q矩阵中q_i向量的个数；

选出u＝c·lnL_Q个

值最高的q组成矩阵

矩阵的其余位置置为0，则自注意力计算方式为

将每个自注意力模块同时执行多次并让U每次都为随机采样，形成多头稀疏自注意力机制；

编码器输入向量z₀在输入时经过多个一维卷积将输入降维原来的

将多个不同尺度的数据同时输入对应的网络分支中，最后拼接每个分支的输出得到最终编码结果z′。

6.根据权利要求5所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：所述多头稀疏自注意力机制中的自注意力蒸馏：在每个子注意力模块后分别连接一个一维卷积和最大池化层将自注意力模块的输出尺寸缩小为原来的一半，即

其中

表示第r个分支上第j个多头稀疏自注意力操作，Convld表示在时间维度上执行一维卷积，MaxPool为最大池化层。

7.根据权利要求5所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：步骤(3)中的解码器是如下进行实现的：

编码器的输出z′与W_v和W_k参数矩阵相乘得到解码器的第一组输入矩阵K和V，从编码器的输入z₀中进行采样得到x_token，并在其之后拼接一个长序列x₀形成解码器的第二组输入[x_token，x₀]，其中x₀中每一位都初始化为0，并且x₀序列的长度与最终预测目标序列长度相同；将[x_token，x₀]输入多头稀疏自注意力模块中计算出Q矩阵，结合第一组输入矩阵K和V形成后续多头自注意力模块的输入；多头自注意力为

多头自注意力模块后接全连接层，解码器最终输出预测特征向量p_out。

8.根据权利要求1所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：，步骤(2)和步骤(3)中的飞机发动机关键部位维护时间预测网络是如下进行训练的：

步骤(3.1)数据准备：训练数据让计算机进行标注，标注信息为飞机发动机关键部位的状态，即(c₁，c₂，c₃，...，c_n)，其中c₁表示可变放气活门的预测状态，c₁＝0表示可变放气活门正常，c₁＝1表示可变放气活门存在故障需要更换，c₂、c₃…相应表示发动机起动机预测状态和燃油计量活门预测状态；将标注数据样本按照8∶1∶1划分为训练集、验证集、测试集。

步骤(3.2)网络结构设计：算法采用堆叠卷积层组成的下采样特征提取网络提取图像特征并以向量形式表示，利用嵌入和位置编码提升序列数据间的相关性，位置编码表示为：

其中pos是数据在长序列中的位置，2j和2j+1表示不同维度，v_model表示每个数据嵌入后的向量维度，L_x表示输入长时间序列x的的长度；

主干网络利用编码-解码的形式计算长时间序列中每个位置数据与其余位置数据间注意力，最后利用全连接网络预测发动机关键部位状态；

步骤(3.3)训练：输入为动态时序数据e、历史时序数据[h₀，h₁，...，h_n-1]、图像数据p，静态属性数据s，在解码器输入端输入采样数据[x_token，x₀]，学习速率为10^-4，每一个epoch都将学习率降为原来的一半，采用Adam优化器进行优化；

步骤(3.4)模型测试：输入图像数据和时间序列数据，输出发动机关键部位预测状态和预测维护时间。

9.根据权利要求2所述的一种飞机发动机关键部位维护时间预测方法，其特征在于：步骤(4)中数据筛选、清洗和模型的更新的具体步骤如下：

步骤(4.1)：先用传统方法让计算机自动标注得到第一个训练数据集；

步骤(4.2)：用第一个训练数据集训练出第一个模型，每次模型进行最后一步判断发动机关键部位状态时让传统检测方法共同参与判断；

步骤(4.3)：若深度学习模型和传统检测方法检测结果相同，则将该部分数据放入训练数据集用于后期模型更新；若深度学习模型和传统检测方法检测结果不同，则将该条数据由人工清洗和标注后存入训练数据集，用于模型的更新迭代。

Images