CN118568448A - 一种供水管道微生物污染动态监测与消毒响应预测方法 - Google Patents
一种供水管道微生物污染动态监测与消毒响应预测方法 Download PDFInfo
- Publication number
- CN118568448A CN118568448A CN202411061372.5A CN202411061372A CN118568448A CN 118568448 A CN118568448 A CN 118568448A CN 202411061372 A CN202411061372 A CN 202411061372A CN 118568448 A CN118568448 A CN 118568448A
- Authority
- CN
- China
- Prior art keywords
- output
- data
- convolution
- microbial contamination
- water supply
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 96
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 title claims abstract description 76
- 230000000813 microbial effect Effects 0.000 title claims abstract description 67
- 238000011109 contamination Methods 0.000 title claims abstract description 56
- 238000012544 monitoring process Methods 0.000 title claims abstract description 31
- 230000004044 response Effects 0.000 title claims abstract description 23
- 238000004659 sterilization and disinfection Methods 0.000 title claims abstract description 19
- 230000008569 process Effects 0.000 claims abstract description 40
- 230000007246 mechanism Effects 0.000 claims abstract description 33
- 238000012360 testing method Methods 0.000 claims abstract description 15
- 238000012549 training Methods 0.000 claims abstract description 14
- 238000007781 pre-processing Methods 0.000 claims abstract description 7
- 239000011159 matrix material Substances 0.000 claims description 36
- 239000013598 vector Substances 0.000 claims description 30
- 238000004364 calculation method Methods 0.000 claims description 22
- 230000008859 change Effects 0.000 claims description 20
- 230000006870 function Effects 0.000 claims description 19
- 230000007774 longterm Effects 0.000 claims description 9
- 230000004913 activation Effects 0.000 claims description 6
- 230000011218 segmentation Effects 0.000 claims description 4
- 238000004140 cleaning Methods 0.000 claims description 3
- 230000001419 dependent effect Effects 0.000 claims description 3
- 230000002708 enhancing effect Effects 0.000 claims description 3
- 238000000605 extraction Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 244000005700 microbiome Species 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 5
- 241000894006 Bacteria Species 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 241000233866 Fungi Species 0.000 description 2
- 241000700605 Viruses Species 0.000 description 2
- 230000001580 bacterial effect Effects 0.000 description 2
- 230000008901 benefit Effects 0.000 description 2
- 239000000645 desinfectant Substances 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 230000036541 health Effects 0.000 description 2
- 238000010606 normalization Methods 0.000 description 2
- 230000001954 sterilising effect Effects 0.000 description 2
- 208000034817 Waterborne disease Diseases 0.000 description 1
- QVGXLLKOCUKJST-UHFFFAOYSA-N atomic oxygen Chemical compound [O] QVGXLLKOCUKJST-UHFFFAOYSA-N 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000001276 controlling effect Effects 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000004880 explosion Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000033116 oxidation-reduction process Effects 0.000 description 1
- 229910052760 oxygen Inorganic materials 0.000 description 1
- 239000001301 oxygen Substances 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 230000001105 regulatory effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/10—Pre-processing; Data cleansing
- G06F18/15—Statistical pre-processing, e.g. techniques for normalisation or restoring missing data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
- G06N3/0442—Recurrent networks, e.g. Hopfield networks characterised by memory or gating, e.g. long short-term memory [LSTM] or gated recurrent units [GRU]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/0985—Hyperparameter optimisation; Meta-learning; Learning-to-learn
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Probability & Statistics with Applications (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
Abstract
本发明提出了一种供水管道微生物污染动态监测与消毒响应预测方法,涉及微生物污染响应预测领域。本发明提出了供水管道微生物污染预测流程,包括收集微生物污染数据、对微生物污染数据进行预处理、构建供水管道微生物污染预测模型、使用训练集训练供水管道微生物污染预测模型、使用测试集对预测模型进行微生物污染预测测试。供水管道微生物污染预测模型由增强残差卷积模块、GRU模型以及多头混合特征注意力机制模块组成,所述预测模型使用不同尺寸的卷积核捕捉不同尺度的特征,同时捕捉时间序列中的长短期依赖关系,将前两者的输出共同输入到多头混合特征注意力机制模块中,以此来增强预测模型对重要信息的聚焦能力。
Description
技术领域
本发明属于微生物污染响应预测领域,具体涉及一种供水管道微生物污染动态监测与消毒响应预测方法。
背景技术
供水管道作为城市供水系统的关键组成部分,其质量和安全性直接关系到居民的健康和生活质量。供水管道中的微生物污染是供水安全面临的重要威胁之一,微生物污染主要包括细菌、病毒、真菌和原生动物等,这些微生物不仅会导致水质下降,影响水的感官指标,如浑浊度、颜色和气味,还可能引发多种水传播疾病。为应对供水管道微生物污染,需要采取有效的监测和控制措施。传统的水质监测方法主要依赖于定期取样和实验室检测,存在检测周期长、实时性差、不能及时反映污染动态变化的问题。因此,现代供水系统迫切需要一种能够实现实时监测和预警的技术,以便及时采取消毒响应措施,保障供水安全。
随着传感技术和信息技术的发展,基于在线监测和智能预测的供水安全管理系统逐渐成为研究热点,在线微生物传感器技术能够实时监测水中的微生物浓度,结合大数据分析和人工智能算法,可以实现对供水管道微生物污染的动态监测和消毒响应预测。具体而言,通过部署在供水管道中的在线传感器,实时采集水质数据,如微生物浓度、pH值、温度和浑浊度等,利用先进的预测模型对采集数据进行分析和处理,预测未来的污染趋势,并根据预测结果自动调节消毒剂投放量,达到预防和控制微生物污染的目的。为了解决这个问题,本发明提出一种供水管道微生物污染预测模型。
通过对收集到的数据进行预处理操作,得到供水管道微生物污染数据,进而训练预测模型,本发明提出的供水管道微生物污染预测模型由增强残差卷积模块、改进的LSTM网络模型GRU以及多头混合特征注意力机制模块组成,该模型具有较高的预测精度;供水管道微生物污染动态监测与预测方法不仅提高了供水系统的应急响应能力,还能够减少消毒剂的过量使用,降低成本和环境影响,具有重要的应用价值和社会效益。因此,发展一种基于在线监测和智能预测的供水管道微生物污染动态监测与消毒响应预测方法,对于提升供水安全管理水平,保障居民健康具有重要意义。
发明内容
本发明的主要目的在于提供一种供水管道微生物污染动态监测与消毒响应预测方法,旨在构建供水管道微生物污染预测模型,该模型由增强残差卷积模块、改进的LSTM网络模型以及多头混合特征注意力机制模块组成;增强残差卷积模块通过使用不同尺寸的卷积核捕捉不同尺度的特征,同时使用GRU模型捕捉时间序列中的长短期依赖关系,最终前两者的输出共同输入到多头混合特征注意力机制模块中,多头混合特征注意力机制模块结合不同来源的特征输入来增强模型对输入数据中的重要信息的聚焦能力。
为实现上述目的,本发明的技术解决方案是:一种供水管道微生物污染动态监测与消毒响应预测方法,所述方法包括:
S1、收集和监测供水管道中的微生物污染数据,设定采集频率为一小时一次,所述微生物污染数据类型包括微生物浓度、水质参数以及流量参数值;
S2、对所述微生物污染数据进行预处理,所述预处理包括数据清洗、数据标准化以及时间序列分割操作,并将处理后的数据划分为训练集与测试集;
S3、构建供水管道微生物污染预测模型,所述预测模型由增强残差卷积模块ERC、改进的LSTM网络模型GRU以及多头混合特征注意力机制模块HFAttention组成,具体步骤为:
S31、提出增强残差卷积模块ERC,通过一维卷积和维度调整增强特征提取的能力;
S32、提出改进的LSTM网络模型GRU,使用GRU的门控机制优先传递最重要的信息,所述最重要的信息为在长时间序列中需要保留和传递的关键信息;
S33、提出多头混合特征注意力机制模块HFAttention,结合增强残差卷积模块和GRU模块的输出作为HFAttention的特征输入增强预测模型对数据中重要信息的聚焦能力,所述重要信息包括局部特征、长期依赖、时序特征和多维特征之间的关系;
S4、使用训练集训练供水管道微生物污染预测模型,具体包括模型超参数设置和反向传播过程;
S5、使用测试集对预测模型进行微生物污染预测测试,得到预测模型对供水管道微生物污染的预测值。
进一步的,所述步骤S3,S31中,通过使用不同尺寸的卷积核,模型可以捕捉到不同
尺度的特征,对于每一时间步的输入数据的形状为,其中为窗口的大小,为特征的维度;本发明中使用的卷积核个数为,每个卷积核的大小分别分,小卷积核可以捕捉局部的、细粒度的特征,而大卷积核可以捕捉
更广泛的全局模式,卷积核大小为的卷积操作公式如下所示:
式中,ReLU为激活函数,为点乘运算,为该卷积核的偏置项,为输
入数据中截取的子序列,起始于第行数据,结束于行数据,为卷积核大
小为的权重矩阵中第行权重数据,为卷积操作在输入数据时间步上的输
出;
随后将每一层卷积操作的输出进行拼接产生一个卷积操作总的输出,拼接公
式如下:
式中,为矩阵拼接操作,为卷积核大小为的经过卷积操作
后的输出,的形状为;
为了使用残差连接将卷积最后的总输出与卷积操作的输入进行连接,使用卷积核
为的对每一时间步的输入数据进行卷积操作,得到形状为的输出;每
个时间步上经过增强残差卷积模块的输出为,计算公式为所有
时间步的输出组成最终的输出矩阵,的大小为,式中,为样本的数量。
进一步的,所述步骤S3,S32中,使用改进的LSTM模型GRU捕捉时间序列中的长短期
依赖关系,GRU中的初始门、变动门和新记忆内容共同作用于输入数据和之前的隐藏状态,
决定当前时间步的隐藏状态;GRU的输入来自于原始数据,每个时间步经过GRU模
块之后产生一个隐藏状态,具体计算步骤如下:
首先是初始门,控制丢弃多少上一个时间步的隐藏状态信息,将上一个时间步的
隐藏状态与上一个隐藏状态到初始门的权重矩阵作乘积运算,与输入数据到
初始门的权重矩阵和当前时间步的输入数据作乘积运算的结果相加得到最终
初始门的输出结果,具体的计算公式如下:
式中,为逐元素相乘运算,为激活函数,用于将输出限制在[0,
1]之间,为初始门的偏置项,为第个时间步的初始门输出,范围在[0, 1]之间;
其次是变动门,决定从之前的隐藏状态中保留多少信息到当前隐藏状态,将上一
个时间步的隐藏状态与上一个隐藏状态到变动门的权重矩阵作乘积运算,与
输入数据到变动门的权重矩阵和当前时间步的输入数据作乘积运算的结果相
加得到最终变动门的输出结果,具体的计算公式如下:
式中,为变动门的偏置项,为第个时间步的变动门输出,范围在[0,1]之
间;
随后结合初始门与变动门的输出生成新的候选隐藏状态,计算公式如下:
式中,为激活函数,将输出限制在[-1,1]之间,为第个时间步的
候选隐藏状态,是输入数据到候选隐藏状态的权重矩阵,为上一个隐藏状态到候选
隐藏状态的权重矩阵,为候选隐藏状态的偏置;
最后结合变动门和候选隐藏状态,决定当前时间步的最终隐藏状态,该状态
为一层GRU网络的最终输出状态,计算公式如下:
式中,为最终新的隐藏状态的输出;每个时间步GRU模块会生成隐藏状态序
列,最终GRU模块输出进行拼接得到,其内部数据表示为,隐藏状态序列的形状为。
进一步的,所述步骤S3,S33中,提出多头混合特征注意力机制,结合增强残差卷积
模块和GRU模块的输出作为HFAttention的特征输入增强预测模型对数据中重要信息的聚
焦能力,所述重要信息包括局部特征、长期依赖、时序特征和多维特征之间的关系;在混合
特征注意力机制中,将GRU模型的输出作为HFAttention模块中查询向量的输入,其
中包含了时间序列数据中的长短期依赖信息,;将增强残差卷积模块的输出作
为HFAttention模块中键向量与值向量的输入,,经过增强残差卷积
模块后的输出捕捉了输入数据中的局部模式和细节;多头混合特征注意力机制具体实现步
骤如下:
首先计算注意力得分,对于每个头,使用缩放点积计算查询向量和键向量
之间的相似性得分,计算公式如下:
式中,为第个头的查询向量投影矩阵,为第个头的键向量投影矩
阵,为键向量的维度;
对每个头的注意力得分使用函数进行归一化,得到注意力权重,计
算公式如下:
式中,为第个位置和第个头的注意力权重,为激活函数;
随后使用注意力权重对值向量进行加权求和,得到每个注意力头的输出,公式如下:
式中,为第个注意力头的输出,为第个注意力头的值向量投影
矩阵;
最终将所有注意力头的输出进行拼接,并通过线性变换将其变换为最终的输出特征表示,公式表示为:
式中,为最终的多头注意力的输出,为注意
力头个数,为拼接操作;将最终的输出经过前
馈层输出模型的最终预测值。
综上所述,由于采用了上述技术方案,本发明的有益效果是:
本发明中,构建供水管道微生物污染预测模型,该模型由增强残差卷积模块、改进的LSTM网络模型以及多头混合特征注意力机制模块组成;增强残差卷积模块通过使用不同尺寸的卷积核捕捉不同尺度的特征,同时使用GRU模型捕捉时间序列中的长短期依赖关系,最终前两者的输出共同输入到多头混合特征注意力机制模块中,多头混合特征注意力机制模块结合不同来源的特征输入来增强模型对输入数据中的重要信息的聚焦能力。
附图说明
图1为一种供水管道微生物污染动态监测与消毒响应预测方法的步骤流程图。
图2为一种供水管道微生物污染动态监测与消毒响应预测方法中供水管道微生物污染预测模型的流程图。
图3为一种供水管道微生物污染动态监测与消毒响应预测方法中增强残差卷积模块的卷积操作示意图。
图4为一种供水管道微生物污染动态监测与消毒响应预测方法中GRU模块结构图。
图5为一种供水管道微生物污染动态监测与消毒响应预测方法中混合特征注意力机制结构图。
图6为一种供水管道微生物污染动态监测与消毒响应预测方法中供水管道微生物污染预测模型在测试集上的预测值与真实值的拟合图。
图7为实时监测的生物膜细菌的数量变化情况。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例;基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其它实施例,都属于本发明保护的范围。
请参阅图1-图7,本发明提供一种技术方案:一种供水管道微生物污染动态监测与消毒响应预测方法,该方法通过构建供水管道微生物污染预测模型,引入增强残差卷积模块通过使用不同尺寸的卷积核捕捉不同尺度的特征,同时使用GRU模型捕捉时间序列中的长短期依赖关系,最终前两者的输出共同输入到多头混合特征注意力机制模块中,多头混合特征注意力机制模块结合不同来源的特征输入来增强模型对输入数据中的重要信息的聚焦能力。
请参照图1所示,本申请实施例中的一种供水管道微生物污染动态监测与消毒响应预测方法:
收集和监测供水管道中的微生物污染数据,设定采集频率为一小时一次,所述微生物污染数据类型包括微生物浓度、水质参数以及流量参数值。
进一步的,所述步骤S1中,在供水管道的关键节点,水源入口、主要输水管道、二次供水系统、居民区分布点位置部署荧光显微镜传感器传感器、基于PCR技术的微生物检测传感器以及多参数水质监测仪;数据类型中,微生物浓度包括水中的细菌、病毒、真菌和原生动物微生物的浓度,水质参数包括水温、pH值、溶解氧、浊度、电导率、氧化还原电位,流量数据包括道内的水流速和流量;根据供水系统的实际情况和微生物污染的动态变化特征,本发明将数据采集频率设定为一小时,实现传感器的连续监测和数据实时上传,避免数据采集的间断和延迟。
S2、对所述微生物污染数据进行预处理,所述预处理包括数据清洗、数据标准化以及时间序列分割操作,并将处理后的数据划分为训练集与测试集。
进一步的,所述步骤S2中,收集的数据中存在少量且随机分布的缺失值,本发明直接删除包含缺失值的数据点;为了消除不同数据特征之间的量纲差异,使数据在统一的尺度下进行比较,将使用最小-最大标准化操作将数据缩放到[0, 1]范围内,最小-最大标准化公式如下:
式中,为待归一化的数据值,为数据所在的特征值中的最大
值,为数据所在的特征值中的最小值,为经过最小-最大标准化后的
值;
为了生成适合模型训练的数据集,本发明使用滑动窗口法对收集到的数据集进行
时间序列分割,设置窗口长度为,滑动步长为,原始时间序列为
,采用滑动窗口后的数据子序列为,因
为最后一个窗口不会有后续的数据点进行预测,所以子序列的数量可以通过以下公式
计算:
式中,为窗口长度,设置为10,为滑动步长,设置为1,为样本的数量,为200
个;最终将处理之后的数据按照7:3的比例划分为训练集与测试集。
S3、构建供水管道微生物污染预测模型,模型流程如图2所示,所述预测模型由增强残差卷积模块ERC、改进的LSTM网络模型GRU以及多头混合特征注意力机制模块HFAttention组成,具体步骤如下。
S31、提出增强残差卷积模块ERC,通过一维卷积和维度调整增强特征提取的能力。
进一步的,所述步骤S31中,ERC模块结合一维卷积、残差连接和维度调整的卷积操
作,通过使用不同卷积核大小的多层卷积,捕捉多尺度特征,并使用卷积核调整输入
维度,实现残差连接,增强模型的表现力和鲁棒性;具体步骤如下:
对于每一时间步的输入数据的形状为,其中为窗口的大小,
为特征的维度;本发明中使用的卷积核个数为,每个卷积核的大小分别分,卷积操作如图3所示,小卷积核可以捕捉局部的、细粒度的特征,
而大卷积核可以捕捉更广泛的全局模式,卷积核大小为的卷积操作公式如下所示:
式中,ReLU为激活函数,为点乘运算,为该卷积核的偏置项,为输
入数据中截取的子序列,起始于第行数据,结束于行数据,为卷积核大
小为的权重矩阵中第行权重数据,为卷积操作在输入数据时间步上的输
出;
随后将每一层卷积操作的输出进行拼接产生一个卷积操作总的输出,拼接公
式如下:
式中,为矩阵拼接操作,为卷积核大小为的经过卷积操作
后的输出,的形状为;
为了使用残差连接将卷积最后的总输出与卷积操作的输入进行连接,使用卷积核
为的对每一时间步的输入数据进行卷积操作,得到形状为的输出;每
个时间步上经过增强残差卷积模块的输出为,计算公式为所有
时间步的输出组成最终的输出矩阵,的大小为;残差连接帮助缓解梯度消
失问题,同时保留原始输入信息和卷积层提取的特征;
更进一步的,所述步骤S31中,使用一维卷积操作处理多变量时间序列数据具有高效性和简单实现的优势,可以有效捕捉时间依赖关系;结合不同的卷积核大小,模型能够提取多尺度特征,增强特征表示的丰富性和模型的鲁棒性,减少过拟合风险,提高预测精度;通过多层卷积、不同的卷积核大小、池化层和残差连接的综合应用,模型能够更好地处理复杂数据,提升整体性能和适应性。
S32、提出改进的LSTM网络模型GRU,使用GRU的门控机制优先传递最重要的信息,所述最重要的信息为在长时间序列中需要保留和传递的关键信息。
进一步的,所述步骤S32中,使用改进的LSTM模型GRU捕捉时间序列中的长短期依
赖关系,GRU中的初始门、变动门和新记忆内容共同作用于输入数据和之前的隐藏状态,决
定当前时间步的隐藏状态,GRU结构如图4所示;GRU的输入来自于原始数据,每个时间步经过GRU模块之后产生一个隐藏状态,具体计算步骤如下:
首先是初始门,控制丢弃多少上一个时间步的隐藏状态信息,将上一个时间步的
隐藏状态与上一个隐藏状态到初始门的权重矩阵作乘积运算,与输入数据到
初始门的权重矩阵和当前时间步的输入数据作乘积运算的结果相加得到最终
初始门的输出结果,具体的计算公式如下:
式中,为逐元素相乘运算,为激活函数,用于将输出限制在[0,
1]之间,为初始门的偏置项,为第个时间步的初始门输出,范围在[0, 1]之间;
其次是变动门,决定从之前的隐藏状态中保留多少信息到当前隐藏状态,将上一
个时间步的隐藏状态与上一个隐藏状态到变动门的权重矩阵作乘积运算,与
输入数据到变动门的权重矩阵和当前时间步的输入数据作乘积运算的结果相
加得到最终变动门的输出结果,具体的计算公式如下:
式中,为变动门的偏置项,为第个时间步的变动门输出,范围在[0,1]之
间;
随后结合初始门与变动门的输出生成新的候选隐藏状态,计算公式如下:
式中,为激活函数,将输出限制在[-1,1]之间,为第个时间步的
候选隐藏状态,是输入数据到候选隐藏状态的权重矩阵,为上一个隐藏状态到候选
隐藏状态的权重矩阵,为候选隐藏状态的偏置;
最后结合变动门和候选隐藏状态,决定当前时间步的最终隐藏状态,该状态
为一层GRU网络的最终输出状态,计算公式如下:
式中,为最终新的隐藏状态的输出;每个时间步GRU模块会生成隐藏状态序
列,最终GRU模块输出进行拼接得到,其内部数据表示为,隐藏状态序列的形状为。
更进一步的,所述步骤S32中,使用GRU能够有效捕捉时间序列中的长短期依赖关系,门控单元通过使用门机制来控制信息的流动,选择性地保留或遗忘过时的信息,避免了传统RNN中常见的梯度消失和爆炸问题,这种结构使得门控单元在处理长序列时表现出色,并且在许多时间序列预测任务中具有优越的性能。
S33、提出多头混合特征注意力机制模块HFAttention,结合增强残差卷积模块和GRU模块的输出作为HFAttention的特征输入增强预测模型对数据中重要信息的聚焦能力,所述重要信息包括局部特征、长期依赖、时序特征和多维特征之间的关系。
进一步的,所述步骤S33中,使用多头混合特征注意力机制,结合不同来源的特征
输入来增强模型对输入数据中的重要信息的聚焦能力;如图5所示,在混合特征注意力机制
中,将GRU模型的输出作为HFAttention模块中查询向量的输入,其中包含了时间序
列数据中的长短期依赖信息,;将增强残差卷积模块的输出作为HFAttention
模块中键向量与值向量的输入,,经过增强残差卷积模块后的输出
捕捉了输入数据中的局部模式和细节;多头混合特征注意力机制具体实现步骤如下:
首先计算注意力得分,对于每个头,使用缩放点积计算查询向量和键向量
之间的相似性得分,计算公式如下:
式中,为第个头的查询向量投影矩阵,为第个头的键向量投影矩
阵,为键向量的维度;
对每个头的注意力得分使用函数进行归一化,得到注意力权重,计
算公式如下:
式中,为第个位置和第个头的注意力权重,为激活函数;
随后使用注意力权重对值向量进行加权求和,得到每个注意力头的输出,公式如下:
式中,为第个注意力头的输出,为第个注意力头的值向量投影
矩阵;
最终将所有注意力头的输出进行拼接,并通过线性变换将其变换为最终的输出特征表示,公式表示为:
式中,为最终的多头注意力的输出,为注意
力头个数,设置数值为8,为拼接操作。
更进一步的,所述步骤S33中,多头混合特征注意力机制能够同时关注输入数据的多种特征模式,通过多个注意力头从不同的特征子空间中捕捉信息,这种机制增强了模型对复杂数据的理解能力,使得模型可以更细致地分解和处理数据中的局部和全局关系;此外,通过整合来自卷积层的空间特征和GRU的时序特征,模型能够更全面地捕捉数据中的关键信息,从而提升预测和分类的精度。
S4、使用训练集训练供水管道微生物污染预测模型,所述训练包括模型超参数设置和反向传播过程。
进一步的,所述步骤S4中,将所述步骤S33的输出值经过层进行平铺
操作,随后经过层进行最终预测值的输出,本发明中使用均方根误差损失
函数,实现公式如下所示:
式中,为批次样本的总数,在数值上与超参数相同,
为第个样本的真实值,为第个样本模型的预测值,为损失函数值,
用于反向传播调节模型权重信息;模型参数设置为:优化器为,
为512,迭代次数为2000次,学习率为0.0001;训练构建好的供水管道微
生物污染预测模型,使得模型具有较高的预测精度,其可以满足预测未来的微生物污染情
况和消毒响应需求。
S5、使用测试集对预测模型进行微生物污染预测测试,得到预测模型对供水管道微生物污染的预测值。
进一步的,所述步骤S5中,使用测试集测试已经训练好的预测模型,图6为预测模型在测试集上的预测值与真实值的拟合情况,从图中可以看出,随着时间的推移,消毒响应真实值在逐渐升高,模型的预测值也在随之升高,证明模型可以预测未来的微生物污染情况,再结合图7实时监测的生物膜细菌数量情况,发现细菌数量在逐渐升高,可以采取响应的消毒措施。
以上仅是本发明的优选实施方式,应当指出,对于本领域的普通技术人员来说,在不脱离本发明创造构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。
Claims (5)
1.一种供水管道微生物污染动态监测与消毒响应预测方法,其特征在于,包括以下步骤:
S1、收集和监测供水管道中的微生物污染数据,设定采集频率为一小时一次,所述微生物污染数据类型包括微生物浓度、水质参数以及流量参数值;
S2、对所述微生物污染数据进行预处理,所述预处理包括数据清洗、数据标准化以及时间序列分割操作,并将处理后的数据划分为训练集与测试集;
S3、构建供水管道微生物污染预测模型,所述预测模型由增强残差卷积模块ERC、改进的LSTM网络模型GRU以及多头混合特征注意力机制模块HFAttention组成,具体步骤为:
S31、提出增强残差卷积模块ERC,通过一维卷积和维度调整增强特征提取的能力;
S32、提出改进的LSTM网络模型GRU,使用GRU的门控机制优先传递最重要的信息,所述最重要的信息为在长时间序列中需要保留和传递的关键信息;
S33、提出多头混合特征注意力机制模块HFAttention,结合增强残差卷积模块和GRU模块的输出作为HFAttention的特征输入增强预测模型对数据中重要信息的聚焦能力,所述重要信息包括局部特征、长期依赖、时序特征和多维特征之间的关系;
S4、使用训练集训练供水管道微生物污染预测模型,具体包括模型超参数设置和反向传播过程;
S5、使用测试集对预测模型进行微生物污染预测测试,得到预测模型对供水管道微生物污染的预测值。
2.根据权利要求1所述的一种供水管道微生物污染动态监测与消毒响应预测方法,其特征在于,在步骤S3,S31中,通过使用不同尺寸的卷积核,模型捕捉到不同尺度的特征,对于每一时间步的输入数据的形状为,其中为窗口的大小,为特征的维度;本发明中使用的卷积核个数为,每个卷积核的大小分别分,小卷积核捕捉局部的、细粒度的特征,而大卷积核捕捉更广泛的全局模式,卷积核大小为的卷积操作公式如下所示:
式中,ReLU为激活函数,为点乘运算,为该卷积核的偏置项,为输入数据中截取的子序列,起始于第行数据,结束于行数据,为卷积核大小为的权重矩阵中第行权重数据,为卷积操作在输入数据时间步上的输出;
随后将每一层卷积操作的输出进行拼接产生一个卷积操作总的输出,拼接公式如下:
式中,为矩阵拼接操作,为卷积核大小为的经过卷积操作后的输出,的形状为;
为了使用残差连接将卷积最后的总输出与卷积操作的输入进行连接,使用卷积核为的对每一时间步的输入数据进行卷积操作,得到形状为的输出;每个时间步上经过增强残差卷积模块的输出为,计算公式为所有时间步的输出组成最终的输出矩阵,的大小为,式中,为样本的数量。
3.根据权利要求2所述的一种供水管道微生物污染动态监测与消毒响应预测方法,其特征在于,在步骤S3,S32中,使用改进的LSTM模型GRU捕捉时间序列中的长短期依赖关系,GRU中的初始门、变动门和新记忆内容共同作用于输入数据和之前的隐藏状态,决定当前时间步的隐藏状态;GRU的输入来自于原始数据,每个时间步经过GRU模块之后产生一个隐藏状态,具体计算步骤如下:
首先是初始门,将上一个时间步的隐藏状态与上一个隐藏状态到初始门的权重矩阵作乘积运算,与输入数据到初始门的权重矩阵和当前时间步的输入数据作乘积运算的结果相加得到最终初始门的输出结果,具体的计算公式如下:
式中,为逐元素相乘运算,为激活函数,将输出限制在[0,1]之间,为初始门的偏置项,为第个时间步的初始门输出,范围在[0,1]之间;
其次是变动门,将上一个时间步的隐藏状态与上一个隐藏状态到变动门的权重矩阵作乘积运算,与输入数据到变动门的权重矩阵和当前时间步的输入数据作乘积运算的结果相加得到最终变动门的输出结果,具体的计算公式如下:
式中,为变动门的偏置项,为第个时间步的变动门输出,范围在[0,1]之间;
随后结合初始门与变动门的输出生成新的候选隐藏状态,计算公式如下:
式中,为激活函数,将输出限制在[-1,1]之间,为第个时间步的候选隐藏状态,是输入数据到候选隐藏状态的权重矩阵,为上一个隐藏状态到候选隐藏状态的权重矩阵,为候选隐藏状态的偏置;
最后结合变动门和候选隐藏状态,决定当前时间步的最终隐藏状态,该状态为一层GRU网络的最终输出状态,计算公式如下:
式中,为最终新的隐藏状态的输出;每个时间步GRU模块会生成隐藏状态序列,最终GRU模块输出进行拼接得到,其内部数据表示为,隐藏状态序列的形状为。
4.根据权利要求3所述的一种供水管道微生物污染动态监测与消毒响应预测方法,其特征在于,在步骤S3,S33中,提出多头混合特征注意力机制,结合增强残差卷积模块和GRU模块的输出作为HFAttention的特征输入增强预测模型对数据中局部特征、长期依赖、时序特征和多维特征之间的关系的聚焦能力;在混合特征注意力机制中,将GRU模型的输出作为HFAttention模块中查询向量的输入,,其中包含了时间序列数据中的长短期依赖信息;将增强残差卷积模块的输出作为HFAttention模块中键向量与值向量的输入,,经过增强残差卷积模块后的输出捕捉输入数据中的局部模式和细节;多头混合特征注意力机制具体实现步骤如下:
首先计算注意力得分,对于每个头,使用缩放点积计算查询向量和键向量之间的相似性得分,计算公式如下:
式中,为第个头的查询向量投影矩阵,为第个头的键向量投影矩阵,为键向量的维度;
对每个头的注意力得分使用函数进行归一化,得到注意力权重,计算公式如下:
式中,为第个位置和第个头的注意力权重,为激活函数;
随后使用注意力权重对值向量进行加权求和,得到每个注意力头的输出,公式如下:
式中,为第个注意力头的输出,为第个注意力头的值向量投影矩阵;
最终将所有注意力头的输出进行拼接,并通过线性变换将其变换为最终的输出特征表示,公式表示为:
式中,为最终的多头注意力的输出,为注意力头个数,为拼接操作;将最终的输出经过前馈层输出模型的最终预测值。
5.根据权利要求4所述的一种供水管道微生物污染动态监测与消毒响应预测方法,其特征在于,在步骤S4中,将所述步骤S33的输出值经过层进行平铺操作,随后经过层进行最终预测值的输出,本发明中使用均方根误差损失函数,实现公式如下所示:
式中,为批次样本的总数,在数值上与超参数相同,为第个样本的真实值,为第个样本模型的预测值,为损失函数值,用于反向传播调节模型权重信息;模型参数设置为:优化器为,为512,迭代次数为2000次,学习率为0.0001。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202411061372.5A CN118568448A (zh) | 2024-08-05 | 2024-08-05 | 一种供水管道微生物污染动态监测与消毒响应预测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202411061372.5A CN118568448A (zh) | 2024-08-05 | 2024-08-05 | 一种供水管道微生物污染动态监测与消毒响应预测方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN118568448A true CN118568448A (zh) | 2024-08-30 |
Family
ID=92469909
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202411061372.5A Pending CN118568448A (zh) | 2024-08-05 | 2024-08-05 | 一种供水管道微生物污染动态监测与消毒响应预测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN118568448A (zh) |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112085163A (zh) * | 2020-08-26 | 2020-12-15 | 哈尔滨工程大学 | 一种基于注意力增强图卷积神经网络agc和门控循环单元gru的空气质量预测方法 |
CN113837364A (zh) * | 2021-09-17 | 2021-12-24 | 华南师范大学 | 基于残差网络和注意力机制的污水处理软测量方法及系统 |
CN115330082A (zh) * | 2022-09-14 | 2022-11-11 | 重庆邮电大学 | 一种基于注意力机制的lstm网络的pm2.5浓度预测方法 |
CN117114207A (zh) * | 2023-10-23 | 2023-11-24 | 山东科技大学 | 一种海上人员漂移轨迹预测方法 |
WO2024087128A1 (zh) * | 2022-10-24 | 2024-05-02 | 大连理工大学 | 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法 |
-
2024
- 2024-08-05 CN CN202411061372.5A patent/CN118568448A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112085163A (zh) * | 2020-08-26 | 2020-12-15 | 哈尔滨工程大学 | 一种基于注意力增强图卷积神经网络agc和门控循环单元gru的空气质量预测方法 |
CN113837364A (zh) * | 2021-09-17 | 2021-12-24 | 华南师范大学 | 基于残差网络和注意力机制的污水处理软测量方法及系统 |
CN115330082A (zh) * | 2022-09-14 | 2022-11-11 | 重庆邮电大学 | 一种基于注意力机制的lstm网络的pm2.5浓度预测方法 |
WO2024087128A1 (zh) * | 2022-10-24 | 2024-05-02 | 大连理工大学 | 针对航空发动机剩余使用寿命预测的多尺度混杂注意力机制建模方法 |
CN117114207A (zh) * | 2023-10-23 | 2023-11-24 | 山东科技大学 | 一种海上人员漂移轨迹预测方法 |
Non-Patent Citations (6)
Title |
---|
MATLAB武动乾坤: "【GRU回归预测】多头注意力机制卷积神经网络结合门控循环单元CNN-GRU-Mutilhead-Attention预测(多输入单输出)【含Matlab源码 3971期】", Retrieved from the Internet <URL:https://blog.csdn.net/KeepingMatlab/article/details/136286541> * |
刘树春,贺盼等: "《深度实践OCR 基于深度学习的文字识别》", 31 May 2020, 机械工业出版社, pages: 156 - 158 * |
刘祥龙等: "《飞浆PaddlePaddle深度学习实战》", 31 August 2020, 机械工业出版社, pages: 277 - 285 * |
张云峰: "《机器学习算法理论与应用》", 30 June 2022, 中国海洋大学出版社, pages: 186 - 187 * |
林靖皓;秦亮曦;苏永秀;秦川;: "基于自注意力机制的双向门控循环单元和卷积神经网络的芒果产量预测", 计算机应用, no. 1, 10 July 2020 (2020-07-10) * |
赵鹏飞;魏宏安;: "基于深度学习的城市大气PM2.5浓度预测研究", 现代计算机, no. 12, 25 April 2020 (2020-04-25) * |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yun | Prediction model of algal blooms using logistic regression and confusion matrix | |
US20230018125A1 (en) | Processing Multi-Horizon Forecasts For Time Series Data | |
Ding et al. | Research of neural network algorithm based on factor analysis and cluster analysis | |
Chen et al. | Majorities help minorities: Hierarchical structure guided transfer learning for few-shot fault recognition | |
Xu et al. | Global attention mechanism based deep learning for remaining useful life prediction of aero-engine | |
CN115561416A (zh) | 污水处理厂进水水质实时检测方法和装置 | |
CN117787511B (zh) | 一种工厂化高密度水产养殖监测预警方法及其系统 | |
CN115456245A (zh) | 一种感潮河网区溶解氧预测方法 | |
Liu et al. | A novel hybrid model to predict dissolved oxygen for efficient water quality in intensive aquaculture | |
CN117314266A (zh) | 一种基于超图注意力机制的新型科技人才智能评价方法 | |
Wang et al. | Fractional stochastic configuration networks-based nonstationary time series prediction and confidence interval estimation | |
Chang et al. | Soft sensor of the key effluent index in the municipal wastewater treatment process based on transformer | |
CN113838542B (zh) | 化学需氧量智能预测方法和系统 | |
Danti et al. | A methodology to determine the optimal train-set size for autoencoders applied to energy systems | |
CN116884523B (zh) | 一种海洋牧场水质多参数预测方法 | |
CN118351970A (zh) | 一种生态环境pm2.5浓度的预测方法 | |
Xie et al. | Novel deep-learning method based on LSA-Transformer for fault detection and its implementation in penicillin fermentation process | |
CN118568448A (zh) | 一种供水管道微生物污染动态监测与消毒响应预测方法 | |
Yu et al. | A hybrid learning-based model for on-line monitoring and diagnosis of out-of-control signals in multivariate manufacturing processes | |
Kang et al. | Research on forecasting method for effluent ammonia nitrogen concentration based on GRA-TCN | |
Babu et al. | Water quality prediction using neural networks | |
Tran-Quang et al. | Aquaculture environment prediction based on improved lstm deep learning model | |
Zhu et al. | Extreme Risk Measurement of Carbon Market Considering Multifractal Characteristics | |
Ahmed et al. | Assessing the impact of borehole field data on AI-based deep learning models for heating and cooling prediction | |
Zhan et al. | Long Short-term Memory modeling method with monotonicity analysis as constraints base on Spearman coefficient |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |