CN118133435A

CN118133435A - 基于svr与聚类的复杂航天器在轨异常检测方法

Info

Publication number: CN118133435A
Application number: CN202410558971.1A
Authority: CN
Inventors: 伊枭剑; 车尚杰; 许涛; 刘家铭
Original assignee: Yangtze River Delta Research Institute Of Beijing University Of Technology Jiaxing
Current assignee: Yangtze River Delta Research Institute Of Beijing University Of Technology Jiaxing
Priority date: 2024-05-08
Filing date: 2024-05-08
Publication date: 2024-06-04

Abstract

本发明公开了一种基于SVR与聚类的复杂航天器在轨异常检测方法，包括使用格兰杰因果关系建模探索遥测数据中的因果关系，再根据得到的关系图表使用SVR模型对经过主成分分析法处理过的数据进行训练，得到预测值和原始数据的误差，使用聚类方法对误差聚类，并计算每个聚类的中心点和标准差。基于聚类结果，使用偏度、峰度、分位数等统计量自适应地选择异常值的阈值，进一步优化异常检测的效果。本发明避免了手动设定阈值的主观性和不确定性，在跨领域应用时效果更好，适用于多种数据类型和应用场景。

Description

基于SVR与聚类的复杂航天器在轨异常检测方法

技术领域

本发明涉及可靠性工程技术领域，特别涉及一种基于SVR与聚类的复杂航天器在轨异常检测方法。

背景技术

随着航天器在轨数量的增加和种类的多样化，航天器作为一个复杂的系统工程，集成了众多高性能的软件和硬件产品。由于多种因素的影响，如验证不充分、生产加工工艺不足、损伤累积效应等，航天器在其运行时很可能会遇到各种异常事件，例如传感器故障、电池故障和通信故障等。

传统的异常检测方法存在一些局限性，如主观性较强、无法适应不同数据分布等问题。因此，有必要研究更高效、准确的数据异常检测方法。这种方法能够处理复杂的异常事件，并克服传统方法的局限性，以提高异常检测的效率和准确性。

数据驱动的异常检测方法因其具有自适应性、无需先验知识和充分利用数据信息等优势，已经成为研究者们关注的焦点。

因此，如何提供一种基于支持向量回归模型的数据驱动的复杂航天器在轨异常检测方法，通过对遥测数据的处理和分析，实现对异常值的自适应检测是本领域技术人员亟待解决的技术问题。

发明内容

本发明针对上述研究现状和存在的问题，提供了一种基于SVR与聚类的复杂航天器在轨异常检测方法，基于格兰杰（Granger）因果关系与支持向量回归（SVR）模型预测遥测数据的一般表现形式，如稳定形式、周期性振荡、正常峰值、阶跃变化、渐变变化等。结合聚类方法实现了对异常值的自适应检测。

本发明提供的一种基于SVR与聚类的复杂航天器在轨异常检测方法包括如下步骤：

S1：使用Granger分析法分析航天器遥测原始数据之间的因果关系，建立航天器遥测原始数据不同维度间关联关系；

S2：使用PCA方法对具有因果关系的航天器遥测原始数据进行降维处理；

S3：使用SVR算法建立预测模型，应用降维后的、具有因果关系的航天器遥测原始数据对所述预测模型进行训练，获得预训练的预测模型；

S4：利用预训练的预测模型对实时航天器遥测数据进行预测；

S5：使用聚类算法将S4中得到的预测数据点划分为不同的簇，根据簇间距离识别异常点。

优选的，所述S1之前还包括：

对数据集进行前置处理，将航天器遥测原始数据转换为适用于Granger因果关系分析的形式，前置处理包括：中心化、单位根检验、平稳化和求解最大迟延。

优选的，所述S1包括：

两个平稳航天器遥测原始时间序列，Granger因果关系检验估计回归：

其中，为时间序列长度，/>是当前时间点的变量值，/>是过去时间点的变量值，、/>、/>、/>是回归系数，/>、/>为/>、/>内所含白噪声;

如果一个航天器遥测原始时间序列的过去值与当前值具有Granger因果关系，则将所述过去值添加到所述当前值的预测模型中，用于对预测模型的训练。

优选的，所述S3包括：SVR将输入数据映射到高维空间，并在该空间中找到一个超平面来拟合数据，通过学习一个线性或非线性的回归函数来预测输出变量的值。

优选的，所述S3包括：

求解如下最小化问题：

其中，为两个平稳航天器遥测原始时间序列数据，为/>维的权重向量，/>为偏置项，/>表示第/>个样本的松弛变量，/>和/>为超参数，/>为核函数。

优选的，使用交叉验证法选择最优超参数，使用最优超参数重新训练模型。

相较现有技术具有以下有益效果：

本发明研究的核心问题是基于CMG遥测数据的异常检测问题。此类问题具有高维度、未知变量相关性和存在噪声干扰等特征，针对此问题，本发明提出了基于Granger分析、PCA、SVR和聚类方法的完整异常检测流程，为异常检测问题提供了全面的解决方案。

本发明具有自适应性和泛化能力：使用交叉验证方法选择最优超参数，使得异常检测模型具有良好的自适应性和泛化能力。模型能够适应不同数据集和场景，并具备较好的预测能力。

本发明避免了手动设定阈值的主观性和不确定性，在跨领域应用时效果更好，适用于多种数据类型和应用场景。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍。显而易见地，下面描述中的附图仅仅是本发明的实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据提供的附图获得其他的附图。

图1为本发明实施例提供的基于SVR与聚类的复杂航天器在轨异常检测方法流程图；

图2为本发明实施例提供的一段遥测数据Granger因果关系分析结果示意图；

图3为本发明实施例提供的PCA处理之后主成分结果示意图；

图4为本发明实施例提供的四个维度数据的预测结果示意图；

图5为本发明实施例提供的遥测数据异常检测结果示意图；

图6为本发明实施例提供的聚类算法示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

首先对SVR算法的应用局限性进行说明：

SVR是一种强大的回归方法，可用于预测异常数据的表现形式。但其性能受到核函数和正则化参数的选择影响，选择合适的参数需要一定的经验和调节；在处理大规模数据集时的计算复杂性较高，对内存和计算资源要求较大，并且SVR对噪声和异常值比较敏感，可能会导致分类边界的偏移和错误分类。

为了更好的发挥SVR的优势，扬长避短，需要在训练之前对数据进行前置处理，并在获得训练结果之后使用比阈值法更加精确高效的方法对结果进行分类与异常检测，以形成一套完整的异常检测流程。

本发明提供的一种基于SVR与聚类的复杂航天器在轨异常检测方法，如图1所示，本发明结合Granger因果关系分析与PCA对数据集进行前置处理，并在SVR之后使用聚类方法对误差进行聚类以实现异常检测的目标。包括如下步骤：

S1：使用Granger分析法分析航天器遥测原始数据之间的因果关系，建立航天器遥测原始数据不同维度间关联关系。

在一个实施例中，执行S1之前还包括：对数据集进行前置处理，包括中心化（Centering）、单位根检验（Unit Root Testing）、平稳化（Stationarization）、求解最大迟延（Determining Maximum Lag）将原始数据转换为适用于Granger因果关系分析的形式，并进行Granger分析，建立遥测数据不同维度间的关系。

在一个实施例中，S1具体执行过程如下：

设有两个平稳航天器遥测原始时间序列，Granger因果关系检验估计回归：

其中，为时间序列长度，/>是当前时间点的变量值，/>是过去时间点的变量值，、/>、/>、/>是回归系数，/>、/>为/>、/>内所含白噪声。假设如果一个变量的过去值可以提供对当前值的预测能力，那么可以认为前者对后者具有Granger因果关系。此时将过去值添加到预测模型中可以显著提高预测准确性。

需要说明的是，S1中，Granger因果关系的零假设指变量的过去值对于预测另一变量的当前值没有提供额外的信息，即该变量的过去值不是另一变量的因果因素。

例如需要检验变量对于变量/>的Granger因果关系，零假设是：

: 变量/>的过去值对于预测变量/>的当前值没有提供额外的信息，如下式所示：

例如如果拒绝了零假设，意味着变量/>的过去值对于预测变量/>的当前值提供了有意义的额外信息，即存在Granger因果关系。而如果无法拒绝零假设/>，则说明变量的过去值对于预测变量/>的当前值没有提供额外的信息，即不存在Granger因果关系。

示例性地，对一段某航天器一套单框架CMG系统2011年10月1日至2015年3月30日期间的数据集进行Granger因果关系分析，数据集包含信息如表1所示，得到结果如图1所示。

表1 数据集信息表

值得注意的是，在得到的因果关系指标表中存在，/>位置的指标/>，与，/>位置的指标/>没有数量上的对应关系的情况。这是因为Granger因果关系是基于时间序列数据进行推断的，它分析的是变量之间的因果关系在时间上的顺序和延迟。因此，因果关系的强弱和方向可能会在不同的位置产生不同的结果。

这种情况在Granger因果关系分析中是正常的，因为因果关系的存在和强弱可能受到多个因素的影响，包括数据的特性、采样频率、时间延迟等。因此，在因果关系指标表中出现这样的差异是合理的，并且可以提供有关不同变量之间因果关系的更全面的信息。

由图2可得出数据集“2000_CMG_lite.csv”中各维度数据间的因果关系如表2所示。

表2 各维度数据间的因果关系表

观察到出现了例如CMGx框架角速度指令是因，数据的采样时间是果的情况。这种情况是由于以下原因造成的：

（1）数据采样率问题：Granger因果关系分析对数据的采样率要求较高。如果角速度指令的采样率较高，而时间序列的采样率较低，可能导致角速度指令在时间序列上具有较高的解释能力，从而被误认为是因果因素。

（2）模型选择问题：Granger因果关系分析是基于自回归模型的方法，它假设时间序列的因果关系可以通过过去的值来预测未来的值。

（3）数据特性问题：角速度指令和时间序列具有一定的相关性或共同的趋势，使得在Granger因果关系分析中角速度指令被误认为是因果因素。

这些是由于数据本身的特性或领域知识所导致的，并且为追求检测方法的泛化能力，可以认为是正常的情况。

S2：使用PCA方法对具有因果关系的航天器遥测原始数据进行降维处理。

在具体执行时，使用主成分分析法将高维数据映射到低维空间，每个新得到的成分都是原始变量的线性组合，彼此相互独立，并保留了原始变量绝大部分信息。其本质是通过原始变量的相关性，寻求相关变量的替代对象，并且保证转化的信息损失最小。

在一个实施例中，假设有个样本，每个样本有/>个特征，将这些样本从/>维空间中映射到/>维空间/>，使得映射后的数据尽可能地保留原始数据的信息。即找到一组新的坐标轴，使得数据在这组新坐标轴上的投影方差尽可能大，从而达到保留原始数据信息的目的。

对每个特征的所有样本数据进行处理，减去该特征的平均值，保证每个特征的平均值为0，得到一个矩阵：

对矩阵X进行标准化处理，计算每个特征的方差：

使用

对数据进行标准化处理，得到标准化后的矩阵：

计算相关系数：

得到相关系数矩阵：

其中为/>矩阵第/>列样本序列与第/>列的样本序列之间的相关关系，取值为，由相关系数的大小可以判断两样本序列之间的相关性：

其中，时均称为正线性相关。

协方差矩阵是实对称阵，其特征值非负，设其特征值/>，它们对应的正交化的单位特征向量：

原先的各个列代表的指标变量合成向量，记为/>，则有的第/>个主成分为/>。

第个主成分解释的方差占总方差的比例，即第/>个主成分的贡献率/>、与前/>个主成分解释的方差占总方差的累积比例，即累计贡献率/>由下式得出：

其中，是第/>个主成分的特征值，/>是总的主成分数。选取前/>个最大的特征值所对应的特征向量，组成一个大小为/>的矩阵/>，称为主成分矩阵。样本数据/>在主成分矩阵上的投影为/>，得到降维后的数据。主成分数量的选取根据累积贡献率确定，一般要求累积贡献率达到85%以上，以保证新变量能包括原始变量的绝大多数信息。

示例性地，保留经过上一步分析得到的具有因果关系的成分进行PCA处理，得到主成分如图3所示。

处理后的数据是通过线性变换将原有数据投影到主成分上得到的。每个主成分代表了原有数据中的一种特征或变化方向。因此，PCA过后的数据可以反映原有数据的一部分信息，但并不能完全还原原有数据。

观察到数据特征集中在第一个主成分，这是由于第一个主成分通常能够捕捉到数据中最显著的特征和变化，能够很好地解释原始数据的方差，剩下的主成分对数据的变化贡献较小，因此它们的数值变化范围会相对较小。

通过对PCA过后的数据进行逆变换，可以近似地还原原有数据。但由于PCA过程中的信息损失和降维操作，逆变换得到的数据只是原有数据的近似值，并不能完全精确还原原有数据。一般情况下无法通过PCA过后的数据完全恢复原有数据。如果需要使用原有数据，可以在进行PCA之前将原有数据备份保存，以便在需要时可以使用原始数据进行分析和处理。

S3：使用SVR算法建立预测模型，应用降维后的、具有因果关系的航天器遥测原始数据对所述预测模型进行训练，获得预训练的预测模型。取数据集中一部分数据作为该阶段的训练集，使用SVR拟合数据点之间的复杂非线性关系，并用于异常点的预测和判定。取数据集中前6000组数据作为该阶段的训练集。

在一个实施例中，模型可以表示为：

其中，是自变量，/>是核函数，/>是回归系数，/>是偏置项。

在一个实施例中，求解如下最小化问题：

其中，表示第/>个样本的松弛变量，/>是正则化参数，/>是损失函数的指数。求解最小化问题的公式为：

其中，和/>是拉格朗日乘子，/>和/>分别表示第/>个样本的输入和输出。核函数的选择、正则化参数/>与损失函数的指数/>都需要调整以提高模型的性能。

在一个实施例中，使用交叉验证选择最优超参数，通过将数据集划分为训练集和验证集，交叉验证可以评估模型的泛化能力，并选择最优的超参数配置以达到最佳的异常检测效果，使用最优超参数重新训练模型。

具体执行时，对于每个超参数组合，将训练集分成个子集，每次选取其中的/>个子集作为训练集，剩下的一个子集作为验证集，用于评估该组合的性能。将/>次验证的结果求平均值作为该组合的性能评估指标。这个过程称为/>折交叉验证。

在每个超参数组合上执行折交叉验证，得到一个性能指标的平均值，选择具有最佳性能指标的超参数组合作为模型的最优超参数组合。这个过程称为网格搜索（GridSearch）。最后使用训练集和最优超参数组合训练模型，使用测试集评估模型的性能。

示例性地，使用SVR拟合数据点之间的复杂非线性关系，并用于异常点的预测和判定。SVR可以拟合数据点之间的复杂非线性关系，并基于这些关系进行异常点的预测。通过建立异常点的回归模型，可以对新数据点进行预测。为了获得最佳的SVR模型性能，取前6000组数据进行训练，采用交叉验证方法选择最优的超参数。通过将数据集划分为训练集和验证集，交叉验证可以评估模型的泛化能力，并选择最优的超参数配置以达到最佳的异常检测效果。重新训练SVR模型进行数据集的预测。

使用最优超参数重新训练模型，初步对数据集前300组数据进行预测并计算误差值以初步评估模型性能。其分别为框架角度、转子转速、转子电机电流、框架电机电流数据，如图4所示。

观察到在前300组数据样本中，使用SVR进行预测的结果与真实值差值非常小，最大误差控制在0.1以内。

S4：利用预训练的预测模型对实时航天器遥测数据进行预测。SVR将输入数据映射到高维空间，并在该空间中找到一个超平面来拟合数据，从而将非线性问题转化为线性问题，通过学习一个线性或非线性的回归函数来预测输出变量的值。SVR使得预测值与真实值之间的误差最小化，以解决连续型变量预测问题。

示例性地，以CMG框架电机电流数据为例，继续读取后续数据进行预测，模拟实际情况中持续产生的遥测数据。得到一组持续生成的预测值之后，与真实值进行比较，进行后续步骤。

在一个实施例中，S5中，每隔一定数据量进行一次阈值的判定，以减少计算量提高算法的效率，捕捉到数据中的突变或异常行为，并且能够适应数据的动态性，提高检测的准确性和可靠性，易于可视化和分析，观察到聚类的模式和特征。

将数据点划分为K个簇，其中每个簇的数据点与其他簇的数据点之间的距离最小化，之后将与其他簇的数据点距离最远的点作为异常点，如图6所示。

示例性地，在使用SVR模型对真实值进行预测之后，使用基于聚类的算法进行异常检测。聚类算法将数据点划分为不同的簇，并将与其他簇的数据点相距较远的点识别为异常点。结果如图5所示。

图中圈出的点为模型判断为异常的点，此时数据整体基本稳定，经聚类算法归纳出的阈值较小。

本发明设计每隔300组数据进行一次阈值的判定，有以下考虑：

（1）减少计算量：聚类算法通常需要对数据进行迭代计算，并且其计算复杂度较高。将数据分为较小的子集并对每个子集进行聚类分析可以减少整体的计算量，提高算法的效率。

（2）检测变化点：将数据分成较小的子集进行聚类分析可以更容易地检测到数据的变化点。通过每隔一定数量的数据进行聚类分析，可以捕捉到数据中的突变或异常行为。这有助于及时发现可能存在的故障或异常情况。

（3）适应数据的动态性：数据在实际应用中通常是动态变化的，可能存在不同的工况或环境条件。定期进行聚类分析可以根据数据的变化情况来更新阈值，使其能够适应数据的动态性，提高检测的准确性和可靠性。

（4）分析聚类结果：将数据分成较小的子集进行聚类分析可以更好地理解聚类结果。较小的数据集更易于可视化和分析，可以更清楚地观察到聚类的模式和特征。这有助于深入理解数据的结构和行为，并从中提取有用的信息。

以上对本发明所提供的一种基于SVR与聚类的复杂航天器在轨异常检测方法进行了详细介绍，本文中应用了具体个例对本发明的原理及实施方式进行了阐述，以上实施例的说明只是用于帮助理解本发明的方法及其核心思想；同时，对于本领域的一般技术人员，依据本发明的思想，在具体实施方式及应用范围上均会有改变之处，综上，本说明书内容不应理解为对本发明的限制。

在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

Claims

1.一种基于SVR与聚类的复杂航天器在轨异常检测方法，其特征在于：包括如下步骤：

2.根据权利要求1所述的一种基于SVR与聚类的复杂航天器在轨异常检测方法，其特征在于，所述S1之前还包括：

3.根据权利要求1所述的一种基于SVR与聚类的复杂航天器在轨异常检测方法，其特征在于，所述S1包括：

；

其中，为时间序列长度，/>是当前时间点的变量值，/>是过去时间点的变量值， />、、/>、/>是回归系数，/>、/>为/>、/>内所含白噪声；

4.根据权利要求1所述的一种基于SVR与聚类的复杂航天器在轨异常检测方法，其特征在于，所述S3包括：SVR将输入数据映射到高维空间，并在该空间中找到一个超平面来拟合数据，通过学习一个线性或非线性的回归函数来预测输出变量的值。

5.根据权利要求1所述的一种基于SVR与聚类的复杂航天器在轨异常检测方法，其特征在于，所述S3包括：

求解如下最小化问题：

；

其中，为两个平稳航天器遥测原始时间序列数据，/>为维的权重向量，/>为偏置项，/>表示第/>个样本的松弛变量，/>和/>为超参数，/>为核函数。

6.根据权利要求5所述的一种基于SVR与聚类的复杂航天器在轨异常检测方法，其特征在于，使用交叉验证法选择最优超参数，使用最优超参数重新训练模型。