Nothing Special   »   [go: up one dir, main page]

CN112001527A - 多特征融合深度神经网络的工业生产过程目标数据预测方法 - Google Patents

多特征融合深度神经网络的工业生产过程目标数据预测方法 Download PDF

Info

Publication number
CN112001527A
CN112001527A CN202010744152.8A CN202010744152A CN112001527A CN 112001527 A CN112001527 A CN 112001527A CN 202010744152 A CN202010744152 A CN 202010744152A CN 112001527 A CN112001527 A CN 112001527A
Authority
CN
China
Prior art keywords
data
neural network
deep
layer
feature fusion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202010744152.8A
Other languages
English (en)
Other versions
CN112001527B (zh
Inventor
曾九孙
欧阳航
丁克勤
蔡晋辉
姚燕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
China Jiliang University
Original Assignee
China Jiliang University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by China Jiliang University filed Critical China Jiliang University
Priority to CN202010744152.8A priority Critical patent/CN112001527B/zh
Publication of CN112001527A publication Critical patent/CN112001527A/zh
Application granted granted Critical
Publication of CN112001527B publication Critical patent/CN112001527B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/25Fusion techniques
    • G06F18/253Fusion techniques of extracted features
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/084Backpropagation, e.g. using gradient descent
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q50/00Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
    • G06Q50/04Manufacturing
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02PCLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
    • Y02P90/00Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
    • Y02P90/30Computing systems specially adapted for manufacturing

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Artificial Intelligence (AREA)
  • Economics (AREA)
  • Evolutionary Computation (AREA)
  • Human Resources & Organizations (AREA)
  • General Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Marketing (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • General Business, Economics & Management (AREA)
  • Tourism & Hospitality (AREA)
  • Computational Linguistics (AREA)
  • Development Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Primary Health Care (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Evolutionary Biology (AREA)
  • Manufacturing & Machinery (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Game Theory and Decision Science (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Operations Research (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Feedback Control In General (AREA)

Abstract

本发明公开了一种多特征融合深度神经网络的工业生产过程目标数据预测方法。利用传感器通过等间隔采样采集工业设备中与关键变量相关的其他变量时间序列数据,对流程工业中关键变量的时间序列数据进行预测分析;输入到预先设计构建的深度卷积神经网络中进行训练;将关键变量的历史数据按时间步分割好后输入至深度门控循环神经网络学习;利用多特征融合方法,将两个网络得到的输出特征融合再输入到全连接层,通过反向传播优化网络参数,提高预测精度。本发明为工业生产中的过程监测提供了可靠有效的目标变量参数预测,缓解了工业生产中对如铁水含硅量等关键性变量测量的滞后性。

Description

多特征融合深度神经网络的工业生产过程目标数据预测方法
技术领域
本发明属于流程工业生产领域的一种工业参数预测方法,具体涉及一种基于多特征融合的工业生产过程关键参数预测方法。
背景技术
现流程工业系统逐步走向智能化、集成化、自动化程度越来越高,整个工业系统的功能也越来越完善,因此系统内各变量之间的相关性也越来越紧密。同时随着各类传感器的出现,流程工业中可得到的参数越来越多,为工业大数据处理提供了数据来源。然而,流程工业中的关键参数测量依旧存在极大的滞后性,比如高炉炼铁中的铁水含硅量,这一类关键参数往往只能通过软测量的方法获得,传统的直接测量方法存在着极大的滞后性。
通过提前预知流程工业中的关键参数可以对整个工业系统的当前和未来状态有一个推测,这样方便从业人员可以及时发现工业系统中哪些设备存在问题,并方便提前做出操作,稳定系统,预防工业事故的发生。实现流程工业关键参数预测对稳定整体工业系统和工业生产安全具有重大意义。
针对工业过程关键性参数监测,常用的解决方法有两种。一种方法是通过不断研发实时性强、准确度更高的新型仪器用于直接测量。第二种方法就是通过测量与待检测的关键性参数相关联的其他变量,通过统计学或者神经网络的方法得到变量之间的非线性关系用于推算关键性变量,间接得到目标参数。相对于第二种方法,第一种方法存在设备成本高、研发周期长、分析周期长、滞后性严重等问题,使得操作员不能及时了解工业系统的实时状态,造成生产质量下降,能源浪费严重。第二种方法也称之为软测量方法,直接测量易监测的变量,通过学习目标变量与已知变量之间的潜在关系建立预测模型[2],这样就能完成对目标变量的实时预测估计,相对于第一种方法,该方法开发周期短并且成本低。
公告号为CN110400007A的中国实用新型专利,公开了“一种基于改进门控循环神经网络的铁水质量预报方法”,其通过将门控循环神经网络的重置门和更新门合并为单一处置门,减低了模型的复杂程度。但此种方法所用的门控循环神经网络不善于捕捉数据维度的特征,因此数据维度的信息容易被丢失,对于更复杂的流程工业问题以及工况,预测效果并不理想。而本发明通过多特征融合技术,将善于学习数据维度的神经网络结构引入,就可以解决数据维度信息被丢失的问题,最终同时用时间维度特征与数据维度特征获得预测值,进一步提高关键参数的预测精度。
发明内容
为了解决背景技术中存在的技术问题,本发明提供了一种基于多特征融合深度神经网络的流程工业关键参数预测方法,能够对流程工业中的原始时间序列信号进行数据挖掘,学习目标关键参数与易测参数之间的关系并实时预测目标关键参数。
本发明方法适用于流程工业实时系统状态监测,特别是目标关键参数具有很强的序列相关性,所测工业系统状态参数具有很强的惯性,为工业生产中的过程监测提供了可靠有效的目标变量参数预测,缓解了工业生产中对如铁水含硅量等关键性变量测量的滞后性。
本发明采用的技术方案是方法具体包括以下步骤:
本发明方法总体具体包括以下步骤:
步骤1,通过等时间间隔在不同时刻对正常工况下的工业生产过程进行采样获得包含目标变量参数的生产状态数据,生产状态数据进行预处理获得数据集;
步骤2,将数据集输入到多特征融合深度神经网络处理得到目标变量参数的预测结果。
所述方法具体为:
步骤1,通过等时间间隔在不同时刻对正常工况下的工业生产过程进行采样获得生产状态数据,生产状态数据为通过不同传感器检测获得的多变量参数,对采集到的生产状态数据分别按照时刻和按照传感器进行分割,分别时间序列数据和传感器分类数据,作为后续同时输入到包含由两种神经网络的多特征融合深度神经网络的两个数据集;具体可以将目标变量的信号时间序列数据按时序划分成同等长度的各个子数据,每个子数据均包含相同数量的采样点。
所述的生产状态数据是指通过传感器检测获得的变量参数,包括目标变量参数与参考变量参数的数据,目标变量参数是无法通过传感器直接实时准确检测获得的、只能通过传感器滞后检测获得的变量参数,参考变量参数是通过传感器能直接实时准确检测获得的变量参数;
所述的目标数据为无法通过传感器直接实时准确检测获得的、只能通过传感器滞后检测获得的目标变量参数,也是为工业生产过程中的关键参数。目标变量参数通常是指流程工业中难以直接测量的关键参数如铁水含硅量、井底丁烷浓度等。
每一传感器检测获得的为一种变量参数,不同传感器在同一时刻获得的数据为不同的变量参数。
步骤2,多特征融合深度神经网络主要括深度卷积神经网络、深度门控循环神经网络和多特征融合层,深度卷积神经网络、深度门控循环神经网络的输出端均连接到多特征融合层;
2.1、所述的时间序列数据为同一时刻的各个传感器检测直接获得的变量参数,以时间序列数据中的参考变量参数作为输入,以时间序列数据中的传感器滞后检测获得的目标变量参数作为输出一起输入到深度卷积神经网络中进行处理,学习获得同时刻不同变量参数间的关系,得到目标变量参数与生产状态数据的变量参数之间的关系;
2.2、设置时间步,将传感器分类数据中目标变量参数对应的部分按照时间步进行滑窗取样,将取样后的数据输入到单步预测的深度门控循环神经网络中,学习目标变量参数的不同时刻之间的关系,学习时间序列的周期性、趋势性,得到目标变量参数的历史多个时刻数据对当前时刻数据的关系;目标变量为实际滞后测得的传感器测量参数。
2.3、将深度卷积神经网络在最后全连接层之前的输出预测数据和深度门控循环神经网络在最后全连接层之前的输出预测数据共同输入到多特征融合层中,利用多特征融合进行融合,具体是:利用加合层将两个输出预测数据相加并联得到合并特征后的信息,再经过压平层压扁成一维数据后输入最后的全连接层,输出目标变量参数的预测值结果;由此将相同样本数的高维特征数据合并,把数据维度的特征与时间维度的特征全部映射到高维的特征空间中,将这些数据最后输入全连接神经网络中输出最终目标的预测结果。
输出预测数据包括了窗口数、窗口大小,特征维度,几个预测值对应几个窗口数量。
深度卷积神经网络在最后全连接层之前的输出预测数据和深度门控循环神经网络在最后全连接层之前的输出预测数据均为高维特征数据,高维特征是将原始数据映射到一个更高维的空间得到的。
采用上述步骤处理获得两种数据集,输入深度卷积神经网络的数据集的每个数据向量都包含除目标变量参数的参考变量参数,输入深度门控循环神经网络的数据集的每个数据向量都包含需要预测的目标变量参数前固定时间步的历史数据;将数据集分别输入至深度卷积神经网络和深度门控循环网络进行特征提取。经过两个网络后,两部分训练样本都被映射到同维度特征空间,将两部分特征合并,通过一个Flatten层将高维数据压扁成一维输入到全连接层,用于输出目标变量结果。
2.4、将多特征融合层输出的融合特征再输入至最后一层的全连接层中,利用反向传播算法训练深度卷积神经网络与深度门控循环网络,调整深度卷积神经网络与深度门控循环网络的权重参数,实现预测值与真实值的逼近过程,优化获得训练后的深度卷积神经网络与深度门控循环网络;
2.5、利用训练后的深度卷积神经网络与深度门控循环网络结合多特征融合层形成训练后的多特征融合深度神经网络,将待测情况的参考变量参数数据输入到训练后的多特征融合深度神经网络后输出预测获得目标变量参数。
所述的深度卷积神经网络捕捉多变量时间序列数据的数据维度特征数据,深度卷积神经网络在最后全连接层之前的输出预测数据为数据维度特征数据;深度门控循环网络捕捉目标数据的时间维度特征数据,深度门控循环神经网络在最后全连接层之前的输出预测数据为时间维度特征数据。
本发明涉及针对的是工业生产中传感器采集到的周期性信号时间序列数据,包括但不限于高炉喷煤量、氧气含量、炉内压差等高炉炼铁过程中重要变量。
所述的深度卷积神经网络是主要有依次连接的多个卷积块和一个最大池化层构成,每个卷积块均由多个卷积层依次连接构成,时间序列数据先进行归一化处理,以消除各个子序列之间的量纲关系,然后经过时域卷积的各个卷积块处理,被一个可学习的卷积核进行卷积计算,利用激活函数得到特征,映射到特征空间中,计算公式如下:
Ci=f(Wi*Ci-1+bi)
式中,Wi表示第i卷积块的共享权重,与第i-1卷积块的特征Ci-1卷积,*是卷积运算符号,bi是第i卷积块的偏置向量,f()表示非线性激活函数;通过非线性激活函数relu获得第i卷积块的特征Ci
经过各个卷积块的时域卷积处理后,最后最大池化层的输出为目标特征空间的数据维度特征数据。
所述的深度门控循环神经网络是由依次连接的三个门控循环层构成,形成三层门控循环网络。
所述的深度门控循环神经网络包括三层的处理模块:第一处理模块包括第一门控循环层,第一门控循环层依次经重置门和更新门传递到第二处理模块;第二处理模块包括第二门控循环层和第二Dropout层,第二门控循环层依次经重置门和更新门传递到第三处理模块;第三处理模块包括第三门控循环层,第三门控循环层依次经重置门和更新门传递到映射层;第一门控循环层、第二门控循环层和第三门控循环层均主要由依次的门控循环单元构成。映射层作为中间输出层输出原始数据时间维度的高维特征。
所述2.4中,针对;深度卷积神经网络和深度门控循环神经网络,均建立以下损失函数:
Figure BDA0002607758600000051
式中,Loss表示预测值与真实值之间的损失值,m表示一个样本中的采样时间点个数,yi表示第i个真实值,
Figure BDA0002607758600000052
表示第i个预测值;
预测值为网络预测输出的数据,真实值为实际滞后测得的目标变量参数。
以输入数据是样本,深度卷积神经网络中以各个卷积块中的各个卷积层的权重求导值作为样本的梯度,深度门控循环神经网络中是以括第一门控循环层中的门控循环单元的权重求导值作为样本的梯度;深度卷积神经网络和深度门控循环神经网络的网络参数均通过以下梯度更新来调整网络中的权值,优化器是Adam优化器,梯度更新方法如下处理:
Figure BDA0002607758600000053
Figure BDA0002607758600000054
Figure BDA0002607758600000055
Figure BDA0002607758600000056
Figure BDA0002607758600000057
式中,是t时刻速度/动量,
Figure BDA0002607758600000058
是所有样本的平均梯度,是t时刻累计平方梯度,是一阶矩估计的指数衰减率,是二阶矩估计的指数衰减率,
Figure BDA0002607758600000059
为经过偏差修正后的速度,
Figure BDA00026077586000000510
为经过偏差修正后的累计平方梯度,是t时刻的网络参数,是非零参数,具体是一个非常小的数避免分母为0的情况,是学习率,⊙表示哈达玛(Hadamard)积。
当损失函数趋于稳定不再下降后,可以利用测试集数据对整体网络进行性能测试,并用于实际生产过程中提前预测目标变量参数的关键性参数变量。
本发明在具体实施中利用已知多变量信号时间序列数据测试检验多特征融合深度神经网络在预测难以直接测量的流程工业关键参数的性能,并统计预测结果,计算预测准确率。
由此,本发明通过采集多变量时间序列信号,离线训练完整模型,并布置模型到在线测量设备中,从而实现流程工业关键参数预测。具体操作流程如下,首先采集正常生产下的对变量时间序列信号,并利用数据归一化对除目标变量外的过程变量信号处理,以消除各个子序列之间的量纲关系,再将原始数据按固定时间步分割成等采样时间间隔的数据片段。将两组样本数据分别输入到卷积神经网络和门控循环网络训练并获取融合数据维度和时间维度特征的隐藏态数据,接着将包含融合特征的隐藏态数据输入全连接层,以输出指定维度的结果,即目标变量预测结果。通过反向传播算法把预测值与真实值的误差反向传递给两个网络,用于优化离线模型的网络参数,从而提高预测进度,以此实现流程工业关键参数预测。
本发明对流程工业种产生的大数据进行特征提取并融合时间维度和数据维度信息,实现流程工业关键参数预测,能够实现对高炉炼铁、脱丁烷塔工业炼制等流程工业中关键参数预测,包括但不限于铁水含硅量、井底丁烷浓度。
本发明将多变量时间序列大数据进行分解,用以同时输入两个不同的神经网络中,以捕捉原始数据中变量间的潜在关系和目标变量的时间依赖;同时将深度卷积神经网络与深度门控循环神经网络获得的高维特征融合,以利用多特征融合技术,实现预测结果的高准确性。
所述的多特征融合,具体为将深度卷积神经网络与深度门控循环神经网络的映射结果合并到同一个高维特征空间,再将这个特征空间中的信息输入到最后一层的全连接层得到预测值并反向传播误差调整两个网络的参数,使得损失函数尽可能最小。
所述的流程工业参数是指工业生产中传感器采集到的周期性信号时间序列数据,包括但不限于高炉喷煤量、氧气含量、顶层压力、炉顶温度、顶层煤气成分含量等高炉炼铁过程中重要变量。
所述的时间依赖是指目标预测变量的当前值受先前系统状态的影响程度,一般分为长期依赖和短期依赖。
具体实施中,通过将采集到的多变量时间序列数据经过缺省值补全并删去与目标变量相关度低的变量,根据具体的工业系统,设定时间步划分原始数据集成同等长度的子数据。
本发明通过上述方法进行处理能同时兼顾多变量数据中的时间序列信息和变量间的线性与非线性关系,以及多层提取特征避免出现大数据分析时易发生的“维度诅咒”问题,同时保持和提高了目标变量预测的精度,即在实现数据计算简化的同时也具有很好的准确性。
相比传统的时间序列预测方法,本发明采用卷积神经网络与门控循环的深度学习可自发的从给定样本中提取大量的变量间关系和时间特征信息,无需依赖过多的流程工业生产信息。本发明只要提供给模型充分的训练样本集和测试样本集,深度学习模型便能有效的提取样本中包含的特征知识,并自动更新权重从而得到其他变量对关键变量的影响程度,同时从过去的信息中学习到关键变量序列的趋势性和周期性,最终通过输出层得到关键变量当前状态的预测值。通过反向传递误差对模型参数的不断调整优化,以不断提高预测准确率,最终完成流程工业中关键变量的预测。
本发明与现有技术相比具有的有益效果有:
1、通过对除目标变量的其他变量信息归一化处理,降低网络离线训练时间,实现更快的模型更新。
2、通过多特征融合技术,让善于处理数据维度信息的卷积网络发挥最大优势,弥补善于处理时间维度信息的门控循环网络的不足,提高最终网络的预测准确性。
3、通过深度神经网络结构,让卷积神经网络可以学习其他变量与目标变量间的非线性关系,让门控循环神经网络可以学习过去时刻状态与当前时刻状态的非线性关系,最终提高模型处理非线性问题的能力。
4、通过反向传播算法,利用预测值与真实值的误差,将两个网络的权重参数同时更新,降低损失值,实现模型的自主学习。
综合来说,本发明通过多特征融合,实现数据维度和时间维度信息的合并,从而提高神经网络的预测能力,降低流程工业关键参数测量的成本,以此实现流程工业关键参数预测,为流程工业在线监测提供了可靠有效的技术支持。
附图说明
图1为本发明涉及的高炉炼铁结构示意图;
图2为本发明的多特征融合深度神经网络结构图;
图3为本发明的深度卷积神经网络结构图;
图4为本发明的深度门控循环神经网络结构图;
图5为本发明的模型训练集损失值与测试集损失值变化图;
图6为本发明在高炉铁水含硅量的预测结果。
具体实施方式
下面结合附图和实施例对本发明作进一步说明。
按照本发明内容的完整方法实施的实施例及其实施过程如下:
具体实施本发明具体实施的流程工业数据为宝钢炼铁厂的高炉炼铁流程工业生产线所测得的数据实施本发明方法。以预测铁水含硅量的过程为例,基于对数据的具体处理过程,对流程工业关键参数预测做详细描述。
具体实施中,本发明定期使用新的无故障数据去更新模型参数,避免模型因累计误差而失效,预测精度下降。高炉炼铁过程中人为因素、传感器失效导致的异常数据会影响模型预测的准确性,再对训练数据进行质量评估,剔除异常数据和无关变量。
本发明具体实施的流程工业数据为宝钢炼铁厂的高炉炼铁流程工业生产线所测得的数据,但不仅仅局限于此,只要流程工业系统中能够测得与目标关键参数相关的连续变量时间序列数据,均能通过此发明进行流程工业关键参数预测。实验数据集由喷煤量、进风量、透气性、风温、送料速度、炉顶压差、吹氧量这些变量组成。试验过程中铁水生产质量相对稳定,含硅量在0.4到0.6之间浮动,个别特殊情况会在这范围之外。
如图1所示,此流程工业过程实现从铁矿石中炼铁,其中铁水中含有少量杂质,其中含硅量是衡量高炉内温度的重要参数。
此流程工业过程具体如下:将含铁原料(铁矿石)、燃料(煤粉、焦炭)及其他辅助原料按照一定的比例装入高炉炉顶,同时从高炉下部的进风口鼓入来自热风炉的热风,用于辅助焦炭燃烧。高温下碳与高温空气接触反应生成CO和H2。随着原料和燃料在炉内下降,上升的煤气与原料接触,依次发生传热、还原、熔化、脱碳从而生成生铁水,而原料中的其他成分与燃料反应后的产物相结合成炉渣。整个过程同时产生两种副产品——高炉煤气、炉渣。
供料速度、喷煤量、鼓风量、吹氧量等为可控变量,而鼓风温度、炉内压差等变量需要通过传感器测量得到,通过等时间间隔保存可控变量的值,并且等时间间隔采样流程工业中与铁水含硅量相关的变量值,将所有的测量数据文件都以.csv格式保存。
基于上述,本实施例共利用7种与铁水含硅量相关的高炉状态样本数据,变量编号与具体变量名称如表1所示。
表1
Figure BDA0002607758600000081
Figure BDA0002607758600000091
其中表示目标变量参数,ui表示除目标变量外的其他变量参数。如图2所示,实施过程通过对多变量数据进行数据分割,将原数据分成两个数据集方便适应两个深度神经网络的输入需求,对流程工业关键变量预测过程包括如下步骤:
步骤1,利用传感器通过间隔采样采集流程工业系统中与目标变量参数具有高相关性的时间序列信号数据作为训练样本;
步骤2,对时间序列信号数据进行处理获得可输入深度卷积神经网络和深度门控循环网络的训练样本。对除目标变量外的过程变量信号时间序列数据归一化处理,以消除各个子序列之间的量纲关系;并将目标变量的信号时间序列数据按时序划分成同等长度的各个子数据,每个子数据均包含相同数量的采样点,如图2所示;
步骤3,将训练样本的多变量信号时间序列数据采用上述步骤2处理获得两种样本,输入深度卷积神经网络的训练样本每一个样本都包含除关键参数的其他变量值,深度卷积神经网络的结构如图3所示;输入深度门控循环神经网络的训练样本每一个样本都包含需要预测的目标关键参数前固定时间步的历史数据,深度门控循环神经网络结构如图4所示,将两个训练样本分别输入至深度卷积神经网络和深度门控循环网络进行特征提取;最后经过Concatenate层将两个神经网络输出的信息融合到同一个特征空间,将两部分特征合并后通过一个Flatten层将高维数据压扁成一维输入到全连接层,用于输出目标变量结果。
步骤4,经过深度卷积神经网络与深度门控循环神经网络合并特征后,隐藏态输入至全连接网络输出层输出结果,根据反向传递过程中返回的损失值同时调整卷积神经网络与门控循环神经网络中的参数,根据损失函数得到的结果判断网络训练程度的好坏并控制训练的停止。针对高炉炼铁过程的数据,模型训练结果如图5和图6所示。将得到的模型用于智能在线监测装置,利用实时测到的信息预测出流程工业关键参数,操作人员可由此提前对流程工业系统做出调整。
为进行比较,对相同的数据集分别采用传统的深度置信网络(DBN)、长短时记忆神经网络(LSTM)、单独的卷积神经网络(CNN)和门控循环神经网络(GRU)进行模型评估,用均方误差MSE来评估模型预测值与真实值之间的差异,用决定系数R2来评估模型的拟合程度。模型性能评估结果如表2所示。
表2
Figure BDA0002607758600000101
从表2中可知其余方法无论是拟合程度,还是均方误差都没有本发明提出的方法好,并且本发明提出的方法决定系数R2远高于其他方法。由此验证了本发明提出的计算方法的可靠性和实用性。DBN网络也常用与流程工业的目标变量参数预测,但本发明提出的方法在这批数据中相对于DBN网络提高了34.6%。LSTM网络对比GRU网络要更复杂,但在流程工业问题中表现并没有GRU网络出色。在单独使用GRU网络或者CNN网络进行训练测试时,由于两者网络结构的缺陷使得他们不能同时感知数据维度特征与时间维度特征,所以所得拟合结果并不理想,而加入了Concatenate层结构后,可以同时捕捉数据维度特征与时间维度特征,因此将整体网络模型的性能提高,以便于处理更复杂的流程工业情况。
由上述实施可见,本发明提出的方法,基于多特征融合深度神经网络的流程工业关键参数预测方法,能完成对流程工业中关键参数进行预测,并且具有更高的准确性。这表明在此类流程工业中在线健康监测和关键变量预测的可行性。

Claims (6)

1.一种多特征融合深度神经网络的工业生产过程目标数据预测方法,其特征在于:该方法具体包括以下步骤:
步骤1,通过等时间间隔在不同时刻对正常工况下的工业生产过程进行采样获得包含目标变量参数的生产状态数据,生产状态数据进行预处理获得数据集;
步骤2,将数据集输入到多特征融合深度神经网络处理得到目标变量参数的预测结果。
2.根据权利要求1所述的一种多特征融合深度神经网络的工业生产过程目标数据预测方法,其特征在于:所述方法具体为:
步骤1,通过等时间间隔在不同时刻对正常工况下的工业生产过程进行采样获得生产状态数据,生产状态数据为通过不同传感器检测获得的多变量参数,对采集到的生产状态数据分别按照时刻和按照传感器进行分割,分别时间序列数据和传感器分类数据,作为后续同时输入到包含由两种神经网络的多特征融合深度神经网络的两个数据集;所述的生产状态数据是指通过传感器检测获得的变量参数,包括目标变量参数与参考变量参数的数据,目标变量参数是无法通过传感器直接实时准确检测获得的、只能通过传感器滞后检测获得的变量参数,参考变量参数是通过传感器能直接实时准确检测获得的变量参数;
步骤2,多特征融合深度神经网络主要括深度卷积神经网络、深度门控循环神经网络和多特征融合层,深度卷积神经网络、深度门控循环神经网络的输出端均连接到多特征融合层;
2.1、所述的时间序列数据为同一时刻的各个传感器检测直接获得的变量参数,以时间序列数据中的参考变量参数作为输入,以时间序列数据中的目标变量参数作为输出一起输入到深度卷积神经网络中进行处理,学习获得同时刻不同变量参数间的关系,得到目标变量参数与生产状态数据的变量参数之间的关系;
2.2、设置时间步,将传感器分类数据中目标变量参数对应的部分按照时间步进行滑窗取样,将取样后的数据输入到单步预测的深度门控循环神经网络中,学习目标变量参数的不同时刻之间的关系,得到目标变量参数的历史多个时刻数据对当前时刻数据的关系;
2.3、将深度卷积神经网络在最后全连接层之前的输出预测数据和深度门控循环神经网络在最后全连接层之前的输出预测数据共同输入到多特征融合层中,利用多特征融合进行融合,具体是:利用加合层将两个输出预测数据相加并联得到合并特征后的信息,再经过压平层压扁成一维数据后输入最后的全连接层;
2.4、将多特征融合层输出的融合特征再输入至最后一层的全连接层中,利用反向传播算法训练深度卷积神经网络与深度门控循环网络,调整深度卷积神经网络与深度门控循环网络的权重参数,优化获得训练后的深度卷积神经网络与深度门控循环网络;
2.5、利用训练后的深度卷积神经网络与深度门控循环网络结合多特征融合层形成训练后的多特征融合深度神经网络,将待测情况的参考变量参数数据输入到训练后的多特征融合深度神经网络后输出预测获得目标变量参数。
3.根据权利要求2所述的一种多特征融合深度神经网络的工业生产过程目标数据预测方法,其特征在于:所述的深度卷积神经网络捕捉多变量时间序列数据的数据维度特征数据,深度卷积神经网络在最后全连接层之前的输出预测数据为数据维度特征数据;深度门控循环网络捕捉目标数据的时间维度特征数据,深度门控循环神经网络在最后全连接层之前的输出预测数据为时间维度特征数据。
4.根据权利要求2所述的一种多特征融合深度神经网络的工业生产过程目标数据预测方法,其特征在于:所述的深度卷积神经网络是主要有依次连接的多个卷积块和一个最大池化层构成,每个卷积块均由多个卷积层依次连接构成,时间序列数据先进行归一化处理,然后经过时域卷积的各个卷积块处理,利用激活函数得到特征,映射到特征空间中,计算公式如下:
Ci=f(Wi*Ci-1+bi)
式中,Wi表示第i卷积块的共享权重,与第i-1卷积块的特征Ci-1卷积,*是卷积运算符号,bi是第i卷积块的偏置向量,f()表示非线性激活函数;通过非线性激活函数relu获得第i卷积块的特征Ci
经过各个卷积块的时域卷积处理后,最后最大池化层的输出为目标特征空间的数据维度特征数据。
5.根据权利要求2所述的一种多特征融合深度神经网络的工业生产过程目标数据预测方法,其特征在于:所述的深度门控循环神经网络是由依次连接的三个门控循环层构成,形成三层门控循环网络。
6.根据权利要求5所述的一种多特征融合深度神经网络的工业生产过程目标数据预测方法,其特征在于:所述的深度门控循环神经网络包括三层的处理模块:第一处理模块包括第一门控循环层,第一门控循环层依次经重置门和更新门传递到第二处理模块;第二处理模块包括第二门控循环层和第二Dropout层,第二门控循环层依次经重置门和更新门传递到第三处理模块;第三处理模块包括第三门控循环层,第三门控循环层依次经重置门和更新门传递到映射层;第一门控循环层、第二门控循环层和第三门控循环层均主要由依次的门控循环单元构成。
CN202010744152.8A 2020-07-29 2020-07-29 多特征融合深度神经网络的工业生产过程目标数据预测方法 Active CN112001527B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010744152.8A CN112001527B (zh) 2020-07-29 2020-07-29 多特征融合深度神经网络的工业生产过程目标数据预测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010744152.8A CN112001527B (zh) 2020-07-29 2020-07-29 多特征融合深度神经网络的工业生产过程目标数据预测方法

Publications (2)

Publication Number Publication Date
CN112001527A true CN112001527A (zh) 2020-11-27
CN112001527B CN112001527B (zh) 2024-01-30

Family

ID=73463963

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010744152.8A Active CN112001527B (zh) 2020-07-29 2020-07-29 多特征融合深度神经网络的工业生产过程目标数据预测方法

Country Status (1)

Country Link
CN (1) CN112001527B (zh)

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112985096A (zh) * 2021-03-05 2021-06-18 广州东兆信息科技有限公司 一种基于物联网云平台的窑炉陶瓷质量监管系统与方法
CN113009906A (zh) * 2021-03-04 2021-06-22 青岛弯弓信息技术有限公司 一种基于工业互联网的大数据预测分析方法及系统
CN113360851A (zh) * 2021-06-22 2021-09-07 北京邮电大学 一种基于Gap-loss函数的工业流水线生产状态检测方法
CN113642234A (zh) * 2021-08-09 2021-11-12 贵州电网有限责任公司 一种基于多源特征时间卷积深度学习的电网覆冰预测方法
CN114015825A (zh) * 2021-11-09 2022-02-08 上海交通大学 基于注意力机制的高炉热负荷异常状态监测方法
CN114216349A (zh) * 2021-12-06 2022-03-22 浙江大学 一种基于编码解码网络的烧结终点预报方法
CN114332474A (zh) * 2021-11-25 2022-04-12 中国计量大学 一种飞机发动机关键部位维护时间预测方法
CN114519610A (zh) * 2022-02-16 2022-05-20 支付宝(杭州)信息技术有限公司 信息预测方法以及装置
CN114638117A (zh) * 2022-03-29 2022-06-17 施昆宏 一种基于人工智能的数据处理方法、系统及云平台
CN115457367A (zh) * 2022-09-22 2022-12-09 淮阴工学院 一种基于Light-Net的轻量级目标检测方法及系统
CN115713987A (zh) * 2022-11-17 2023-02-24 广州瑞博新材料技术研究有限公司 聚己内酯测试数据分析方法及系统
CN116612836A (zh) * 2023-07-19 2023-08-18 福建德尔科技股份有限公司 三氟甲烷生产的尾气量预测方法和系统
CN117035559A (zh) * 2023-10-08 2023-11-10 国网江苏省电力有限公司电力科学研究院 一种电气设备多参量变送器模拟安装评价方法及系统
CN118276536A (zh) * 2024-05-31 2024-07-02 长春启明菱电车载电子有限公司 一种基于知识图谱的柔性生产控制系统及方法
WO2024174300A1 (zh) * 2023-02-21 2024-08-29 云南中烟工业有限责任公司 一种基于图神经网络的工艺质量时间序列预测方法

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018156314A1 (en) * 2017-02-24 2018-08-30 Qualcomm Incorporated Method and apparatus for multi-dimensional sequence prediction
CN108985376A (zh) * 2018-07-17 2018-12-11 东北大学 一种基于卷积-循环神经网络的回转窑序列工况识别方法
CN111222798A (zh) * 2020-01-13 2020-06-02 湖南师范大学 一种复杂工业过程关键性指标软测量方法
US20200175015A1 (en) * 2018-11-29 2020-06-04 Koninklijke Philips N.V. Crf-based span prediction for fine machine learning comprehension
CN111325112A (zh) * 2020-01-31 2020-06-23 贵州大学 基于深度门控循环单元神经网络的刀具磨损状态监测方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018156314A1 (en) * 2017-02-24 2018-08-30 Qualcomm Incorporated Method and apparatus for multi-dimensional sequence prediction
CN108985376A (zh) * 2018-07-17 2018-12-11 东北大学 一种基于卷积-循环神经网络的回转窑序列工况识别方法
US20200175015A1 (en) * 2018-11-29 2020-06-04 Koninklijke Philips N.V. Crf-based span prediction for fine machine learning comprehension
CN111222798A (zh) * 2020-01-13 2020-06-02 湖南师范大学 一种复杂工业过程关键性指标软测量方法
CN111325112A (zh) * 2020-01-31 2020-06-23 贵州大学 基于深度门控循环单元神经网络的刀具磨损状态监测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
QIANGQIANG NIU等: "A High-performance Web Attack Detection Method based on CNN-GRU Model", 《2020 IEEE 4TH INFORMATION TECHNOLOGY, NETWORKING, ELECTRONIC AND AUTOMATION CONTROL CONFERENCE (ITNEC 2020)》, pages 804 - 808 *
袁小峰: "深度学习在流程工业过程数据建模中的应用", 《智能科学与技术学报》, pages 107 - 115 *

Cited By (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113009906A (zh) * 2021-03-04 2021-06-22 青岛弯弓信息技术有限公司 一种基于工业互联网的大数据预测分析方法及系统
CN112985096B (zh) * 2021-03-05 2021-09-07 广州东兆信息科技有限公司 一种基于物联网云平台的窑炉陶瓷质量监管系统与方法
CN112985096A (zh) * 2021-03-05 2021-06-18 广州东兆信息科技有限公司 一种基于物联网云平台的窑炉陶瓷质量监管系统与方法
CN113360851A (zh) * 2021-06-22 2021-09-07 北京邮电大学 一种基于Gap-loss函数的工业流水线生产状态检测方法
CN113360851B (zh) * 2021-06-22 2023-03-03 北京邮电大学 一种基于Gap-loss函数的工业流水线生产状态检测方法
CN113642234A (zh) * 2021-08-09 2021-11-12 贵州电网有限责任公司 一种基于多源特征时间卷积深度学习的电网覆冰预测方法
CN114015825B (zh) * 2021-11-09 2022-12-06 上海交通大学 基于注意力机制的高炉热负荷异常状态监测方法
CN114015825A (zh) * 2021-11-09 2022-02-08 上海交通大学 基于注意力机制的高炉热负荷异常状态监测方法
CN114332474A (zh) * 2021-11-25 2022-04-12 中国计量大学 一种飞机发动机关键部位维护时间预测方法
CN114332474B (zh) * 2021-11-25 2024-08-27 中国计量大学 一种飞机发动机关键部位维护时间预测方法
CN114216349A (zh) * 2021-12-06 2022-03-22 浙江大学 一种基于编码解码网络的烧结终点预报方法
CN114216349B (zh) * 2021-12-06 2022-09-16 浙江大学 一种基于编码解码网络的烧结终点预报方法
CN114519610A (zh) * 2022-02-16 2022-05-20 支付宝(杭州)信息技术有限公司 信息预测方法以及装置
CN114638117A (zh) * 2022-03-29 2022-06-17 施昆宏 一种基于人工智能的数据处理方法、系统及云平台
CN115457367A (zh) * 2022-09-22 2022-12-09 淮阴工学院 一种基于Light-Net的轻量级目标检测方法及系统
CN115457367B (zh) * 2022-09-22 2023-09-26 淮阴工学院 一种基于Light-Net的轻量级目标检测方法及系统
CN115713987B (zh) * 2022-11-17 2023-06-13 广州瑞博新材料技术研究有限公司 聚己内酯测试数据分析方法及系统
CN115713987A (zh) * 2022-11-17 2023-02-24 广州瑞博新材料技术研究有限公司 聚己内酯测试数据分析方法及系统
WO2024174300A1 (zh) * 2023-02-21 2024-08-29 云南中烟工业有限责任公司 一种基于图神经网络的工艺质量时间序列预测方法
CN116612836A (zh) * 2023-07-19 2023-08-18 福建德尔科技股份有限公司 三氟甲烷生产的尾气量预测方法和系统
CN116612836B (zh) * 2023-07-19 2023-10-03 福建德尔科技股份有限公司 三氟甲烷生产的尾气量预测方法和系统
CN117035559A (zh) * 2023-10-08 2023-11-10 国网江苏省电力有限公司电力科学研究院 一种电气设备多参量变送器模拟安装评价方法及系统
CN117035559B (zh) * 2023-10-08 2024-01-23 国网江苏省电力有限公司电力科学研究院 一种电气设备多参量变送器模拟安装评价方法及系统
CN118276536A (zh) * 2024-05-31 2024-07-02 长春启明菱电车载电子有限公司 一种基于知识图谱的柔性生产控制系统及方法

Also Published As

Publication number Publication date
CN112001527B (zh) 2024-01-30

Similar Documents

Publication Publication Date Title
CN112001527B (zh) 多特征融合深度神经网络的工业生产过程目标数据预测方法
CN109884892B (zh) 基于交叉相关时滞灰色关联分析的流程工业系统预测模型
CN105278520B (zh) 基于t-kprm复杂工业过程运行状态评价方法及应用
CN110066895B (zh) 一种基于Stacking的高炉铁水质量区间预测方法
Yan et al. DSTED: A denoising spatial–temporal encoder–decoder framework for multistep prediction of burn-through point in sintering process
CN109935280B (zh) 一种基于集成学习的高炉铁水质量预测系统及方法
CN105886680B (zh) 一种高炉炼铁过程铁水硅含量动态软测量系统及方法
WO2021093362A1 (zh) 一种蒸发过程出料苛性碱浓度测量装置精度补偿方法
CN106156434A (zh) 基于局部时滞重构的滑动窗时间差‑高斯过程回归建模方法
CN108897354B (zh) 一种基于深度置信网络的铝熔炼过程炉膛温度预测方法
CN114015825B (zh) 基于注意力机制的高炉热负荷异常状态监测方法
CN103729571B (zh) 一种高炉炼铁过程一氧化碳利用率的建模方法
CN111860839A (zh) 基于多信号融合及Adam优化算法的岸桥故障监测方法
CN116432699A (zh) 基于时序图卷积网络的高炉铁水硅含量预测方法
CN115759409A (zh) 多时间模式注意力机制优化lstm模型的水闸形变预测方法
Liu et al. Temporal hypergraph attention network for silicon content prediction in blast furnace
CN111983140B (zh) 一种用于干熄焦生产的一氧化碳测量系统及测量方法
CN112363462A (zh) 一种静-动态协同感知的复杂工业过程运行状态评价方法
CN116244596A (zh) 基于tcn和注意力机制的工业时序数据异常检测方法
CN108709426B (zh) 基于频谱特征双边检测法烧结机漏风故障在线诊断方法
CN111798023A (zh) 一种炼钢烧结生产中综合焦比预测的方法
CN113836813B (zh) 一种基于数据分析的高炉风口漏水检测方法
CN115688865A (zh) 面向脱硫工艺烟气的长短期记忆网络工业软测量方法
CN115512455A (zh) 一种融合机理与模型迁移的加热炉钢坯温度预测方法
Lakshmanan et al. A hybrid modelling approach based on deep learning for the prediction of the silicon content in the blast furnace

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant