CN105976330B - 一种嵌入式雾天实时视频稳像方法 - Google Patents
一种嵌入式雾天实时视频稳像方法 Download PDFInfo
- Publication number
- CN105976330B CN105976330B CN201610272906.8A CN201610272906A CN105976330B CN 105976330 B CN105976330 B CN 105976330B CN 201610272906 A CN201610272906 A CN 201610272906A CN 105976330 B CN105976330 B CN 105976330B
- Authority
- CN
- China
- Prior art keywords
- image
- point
- frame
- present frame
- harris
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000006641 stabilisation Effects 0.000 title claims abstract description 10
- 238000011105 stabilization Methods 0.000 title claims abstract description 10
- 238000000034 method Methods 0.000 claims abstract description 39
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 33
- 238000012545 processing Methods 0.000 claims abstract description 16
- 239000011159 matrix material Substances 0.000 claims description 40
- 230000009466 transformation Effects 0.000 claims description 34
- 238000005286 illumination Methods 0.000 claims description 22
- 238000001914 filtration Methods 0.000 claims description 16
- 238000005070 sampling Methods 0.000 claims description 16
- 238000001514 detection method Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 7
- 230000008859 change Effects 0.000 claims description 6
- 238000004364 calculation method Methods 0.000 claims description 5
- HUTDUHSNJYTCAR-UHFFFAOYSA-N ancymidol Chemical compound C1=CC(OC)=CC=C1C(O)(C=1C=NC=NC=1)C1CC1 HUTDUHSNJYTCAR-UHFFFAOYSA-N 0.000 claims description 4
- 230000003287 optical effect Effects 0.000 claims description 4
- 230000001629 suppression Effects 0.000 claims description 4
- 230000002708 enhancing effect Effects 0.000 claims description 3
- 241000208340 Araliaceae Species 0.000 claims description 2
- 235000005035 Panax pseudoginseng ssp. pseudoginseng Nutrition 0.000 claims description 2
- 235000003140 Panax quinquefolius Nutrition 0.000 claims description 2
- 238000000354 decomposition reaction Methods 0.000 claims description 2
- 238000012217 deletion Methods 0.000 claims description 2
- 230000037430 deletion Effects 0.000 claims description 2
- 238000007667 floating Methods 0.000 claims description 2
- 235000008434 ginseng Nutrition 0.000 claims description 2
- 238000005303 weighing Methods 0.000 claims 1
- 238000012544 monitoring process Methods 0.000 abstract description 5
- 230000007423 decrease Effects 0.000 abstract description 3
- 230000000007 visual effect Effects 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 12
- 238000010586 diagram Methods 0.000 description 3
- 238000003672 processing method Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000007850 degeneration Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 2
- 230000006872 improvement Effects 0.000 description 2
- 238000005457 optimization Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- 101100129500 Caenorhabditis elegans max-2 gene Proteins 0.000 description 1
- 206010044565 Tremor Diseases 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004883 computer application Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000010419 fine particle Substances 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 230000005855 radiation Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种嵌入式雾天实时视频稳像的方法,解决雾天视频中存在的抖动和对比度下降的问题。本发明的方法包括如下步骤:A、将基于Harris角点的视频稳像和带颜色恢复的Retinex算法同时应用于嵌入式系统中进行雾天视频处理中。对实时采集到的图像进行YUV空间的基于Harris角点的稳像处理和基于带颜色的多尺度Retinex算法的去雾处理,恢复出清晰无抖动的图像;B、实现了YUV空间上去雾和稳像进行的有效结合,并基于嵌入式系统特性对算法进行了优化。本发明既能够有效消除拍摄视频中的抖动,又能得到清晰景物信息,改善图像的视觉效果,同时能够达到实时的运行速度,从而为实时性监控系统提供很好的应用价值。
Description
技术领域
本发明提供了一种嵌入式雾天实时视频稳像方法,适用于雾天拍摄视频的带有抖动的视频,属于图像信息处理技术的领域。
背景技术
户外监控在雾天拍摄的视频,除了存在由于大气中的微小粒子散射引起的模糊不清的问题外,还会存在抖动的问题,除了影响视频的观察效果外,对于视频的进一步处理或者特征提取都存在影响。因此,对视频进行快速的去雾和去抖处理具有很重要的现实意义。
去雾的方法主要有基于图像增强的处理方法和基于物理模型的图像复原的方法。基于图像复原的方法大多通过McCartney提出的大气散射模型,通过假设一定的先验信息,对退化后的图像进行补偿,从而估算出无雾图像的像素值。此类方法基于雾天图像退化模型,因而恢复出图像较自然,主流算法有He暗通道先验的算法和Tarel的中值滤波算法。基于图像增强的算法目前的主流方法主要是中心邻域Retinex算法的变形或改进。Retinex算法基于色彩恒常性理论,提出通过高斯滤波滤除低频分量,得到图像中的高频分量作为增强后的结果,由于该算法对图像整体的灰度值进行拉伸,可以提高对比度和突出细节,但可能会影响原有的色彩比例,因而提出灰度值拉伸对这一问题进行改善。
论文名:一种颜色保持的彩色增强新算法,期刊:计算机应用,年份:2008。赵权有等人引入了色彩恢复因子对多尺度Retinex算法进行了改善,消除了图像经过MSR处理后存在的颜色偏灰的问题;论文名:基于YUV色彩空间的Retinex夜间图像增强算法,期刊:科学技术与工程,年份:2014。张红颖等人提出了基于YUV空间的Retinex算法用于夜间图像增强算法。
电子稳像的方法中最基本的两个问题是图像序列之间的运动估计和运动补偿,根据采用的运动估计方法不同,可以将电子稳像的方法分为以下几类:灰度投影算法、块匹配法、位平面法、代表点法和特征匹配法等。
论文名:基于HarrisHarris角点与改进Hu矩的电子稳像算法,期刊:计算机工程,年份:2013。该论文提出了利用HarrisHarris角点作为特征点,计算邻域图像改进的Hu矩阵作为对应的特征向量,以放射变换为模型,通过特征点匹配计算补偿参数,恢复稳定视频序列的方法,可以有效解决视频存在旋转、平移和轻微缩放的问题。论文名:VideoStabilization Based on Feature TrajectoryAugmentation and Selection andRobustMesh Grid Warping,期刊:IIar Journal,年份:2015。该论文提出了一种通过构造健壮特征的网格估算运动轨迹的方法,能够得到更稳定的稳像效果,但算法复杂度较高。
专利:一种水面移动平台视觉系统图像分析处理方法,专利号:CN103902972A,年份:2014年。该专利公开了一种水面移动平台视觉系统图像分析处理方法,能够在海雾等恶劣天气实现视频图像的去雾和稳像以及识别,基于SIFT特征进行稳像和识别,通过暗通道的方法实现了去雾处理。专利:一种恶劣天气条件下交通事件监测视频信号预处理方法,专利号:CN103458156A,年份:2013年。该专利公开了一种恶劣天气下交通事件监测信号处理的方法,能够在大风和雾天天气下实现去雾和消除抖动,采用了SIFT特征进行稳像,采用直方图均衡的方法进行去雾处理。
目前通过移动设备拍摄的视频越来越多,但或多或少都存在抖动的问题,而在拍摄过程中很容易受室外天气的影响,尤其是在雾天拍摄的视频,大都存在不清晰和对比度下降等问题,因此结合以上算法的特点,研究出一种雾天实时视频稳像方法,对提高算法的实际应用具有重要意义。
发明内容
本发明的目的是为了解决恶劣天气下拍摄的视频存在模糊和抖动的问题,充分改善视频的视觉效果,从而为实时性监控和视频跟踪、拼接提供更广阔的应用场景。
本发明的技术方案:
一种嵌入式雾天实时视频稳像方法,步骤如下:
A、判断当前帧数是第一帧,若是,则检测当前帧中的Harris角点,从中选取N个强Harris角点,并将Harris角点的位置信息分别保存在Cornerx和Cornery中,输出图像到步骤E进行处理;若不是,则直接进行步骤B的处理;
A1、采集到的视频为YUV空间,Y通道像素即为灰度值,直接进行当前帧图像中Harris角点检测,Harris角点检测的步骤如下:
(1)利用VLIB库中函数VLIB_xyGradientsAndMagnitude()计算当前帧图像L(x,y)在x和y方向上的梯度值Ix,Iy;
(2)将梯度值Ix,Iy作为输入,利用VLIB库中函数VLIB_harrisScore_7x7()计算图像的Harris角点评分值;
(3)然后利用函数VLIB_nonMaxSuppress_3x3_S16()对Harris角点的评分值进行3×3邻域的非极大值抑制,即删除评分值小于thresh的Harris角点,thresh设为12000;
(4)遍历步骤(3)处理后剩余的Harris角点,选取Harris角点之间的距离大于5×5的Euclidian距离的N个角点,则得到了当前帧图像中的Harris角点;
A2、将A1中检测到的Harris角点的横坐标和纵坐标存储在Cornerx和Cornery中;
B、使用前一帧图像作为参考帧,利用Lucas-Kanade光流法跟踪参考帧的角点得到当前帧的Harris角点坐标,然后通过随机采样一致性算法剔除参考帧与当前帧中误匹配的点,求解出相邻两帧图像的变换矩阵detaH;
B1、根据视频连续帧之间的连续性,确定每帧图像的Harris角点也存在连续性,利用函数VLIB_trackFeaturesLucasKanade_7x7()对参考帧的图像坐标进行估计得到当前帧图像的Harris角点坐标Tracex和Tracey;
B2、使用随机采样一致性算法,剔除参考帧和当前帧检测的Harris角点中的误匹配点,具体过程如下:
(1)从参考帧图像和当前帧图像的Harris角点中每次随机选取4个点构成匹配对,代入下式:
(2)然后利用奇异值分解求解出变换模型M,使用变换模型M对当前帧进行变换,计算参考帧中对应的匹配点坐标的Euclidian距离,如果Euclidian距离小于阈值,说明特征点满足模型,则将该特征点加入特征集consensus,并统计特征集个数in,当in大于最优特征集个数in_max时,更新最优特征集,同时更新变换模型M;
(3)迭代次数k加1,当前错误改率p大于允许的错误概率p_badxform,则重复步骤(2),当p小于p_badxform时停止迭代,经过算法筛选后,确定最后的变换模型M和最优特征点集,并得到最优点集个数in_max;
B3、返回变换模型M作为变换矩阵detaH;
C、利用当前帧的边界点和变换矩阵detaH计算当前帧的补偿参数,通过卡尔曼滤波对补偿参数进行平滑,得到当前帧的补偿矩阵motionH;
C1、取当前帧的四个边界点(0,0)、(0,width-1)、(height-1,0)、(width-1,height-1),并标记为边界点CornerA,边界点CornerA和变换矩阵detaH相乘,得到当前帧对应于参考帧中的边界点CornerB;
C2、由边界点CornerB得到当前帧的的水平和垂直偏移量detax、detay,偏转角度detaAngle以及缩放比例zoom;
C3、通过卡尔曼滤波对detax、detay、detaAngle和zoom进行平滑处理,并得到当前帧的补偿矩阵motionH;
D、利用当前帧的变换矩阵detaH和补偿矩阵motionH得到当前帧的全局变换矩阵H,对当前帧的Y、UV进行透视变换,得到当前帧稳像后的图像;判断当前帧数是否能被十整除,是,则按照步骤A中A1、A2的方法更新角点坐标,不是,则保存当前帧的角点坐标;
D1、将变换矩阵detaH和补偿矩阵motionH相乘得到当前帧的全局变换矩阵H;利用全局变换矩阵H对当前帧的图像坐标进行变换,则有:
其中,式中(x,y)为当前图像坐标,(x′,y′)为当前帧变换后所对应的坐标;
D2、变换后得到的(x′,y′)为浮点坐标,对其进行双线性插值得到最后的图像的像素值;另设图像的浮点坐标为(u+α,v+β),其中μ、ν为整数,α,β为[0,1]的浮点数,若u0=u+α,v0=v+β,则在(u0,v0)处的像素值f(u0,v0)表示为:
判断当前帧数是否能被十整除,则按照步骤A中A1、A2的方法更新角点坐标,不是,则保存当前帧的角点坐标;
E、对稳像后的图像Y通道进行下采样,然后进行空域高斯滤波,得到滤波后图像Yf;将滤波后图像Yf进行对数域转换得到Y通道的照度图像Y′;
E1、对稳像后的图像Y通道进行下采样,设下采样后的图像为I(x,y),通过调节高斯核的宽度参数c,选取小、中、大三个不同的尺度(一个小尺度c<50,一个中尺度50<c<100,一个大尺度c>100),分别对应三个高斯核函数F1、F2、F3,使用三个高斯核的算术平均值代替几何平均值,对Y通道则有:
其中,F(x,y)=F1(x,y)+F2(x,y)+F3(x,y)。按照公式(5),将时域滤波转换到空域,对采样后的图像I(x,y)进行高斯滤波后得到图像If(x,y),首先将图像I(x,y)进行傅里叶变换,再与高斯核函数相乘,然后再进行傅里叶逆变换后得到图像If(x,y);
其中,F(u,v)为F(x,y)进行频域变换后的表达式,I(u,v)为I(x,y)进行频域变换后的表达式。
E2、将滤波后的图像If(x,y)进行最近邻插值得到图像Yf,再进行对数域转换得到照度图像Y′(x,y):
Y′(x,y)=log(Y(x,y))-log(Yf(x,y)) (6)
式中,Y′(x,y)为照度图像,Yf(x,y)为If(x,y)插值后的结果。
F、将照度图像Y′进行灰度值拉伸后得到YR,对稳像处理后的图像的色度通道uv进行均衡化处理得到uv′,得到清晰图像;
F1、通过计算得到照度图像Y′的均值μ和方差σ,而得到照度图像的像素值的动态范围的边界值下饱和点Rmin=μ-3σ,上饱和点Rmax=μ+3σ。
F2、滤波后得到的照度图像Y′可能存在暗淡,细节不够突出的问题,因此,需要通过线性拉伸增强对比度,对Y通道进行如下处理:
其中,Y′(x,y)为照度图像,YR(x,y)为最后得到的清晰图像的Y通道图像。
F3、由于有雾图像在色度图像上的像素值都接近128,因此将稳像后的色度通道的图像uv(x,y)按照下式进行线性色度调整后可以提高图像的对比度,更加符合实际情况:
uv′(x,y)=uv(x,y)×3-256 (8)
式中,uv(x,y)为稳像后图像的色度通道,uv′(x,y)为调整后的色度值。
本发明的有益效果:
(1)实现了雾天视频的实时去雾和稳像处理;
(2)本文中算法的复杂度较低,可以进一步应用于实际的实时系统中;
(3)本发明为后续算法的处理奠定了很好的理论基础。
附图说明
图1为算法主流程示意图。
图2为图像稳像处理的流程示意图。
图3为带颜色恢复的多尺度Retinex去雾的流程示意图。
图4为稳像处理过程中随机采样一致性算法的流程图。
具体实施方式
以下结合附图和技术方案,进一步说明本发明的具体实施方式。
一种嵌入式雾天实时视频稳像方法,步骤如下:
A、判断当前帧是否为第一帧,是,则检测当前帧图像中的Harris角点,从中选取256个Harris强角点,并将Harris强角点的位置信息分别保存在Cornerx和Cornery中,输出图像后跳转到步骤E进行处理;不是,则直接进行步骤B的处理;
A1、在进行Harris角点检测时,通过使用VLIB库中的函数VLIB_xyGradientsAndMagnitude()计算梯度,将梯度作为函数VLIB_harrisScore_7x7()的输入,检测出当前帧的Harris角点,得到角点评分值,通过VLIB_nonMaxSuppress_3x3_S16()在3×3的邻域内对Harris角点评分值进行非极大值抑制,删除角点评分值小于12000的角点,遍历剩余的角点,选取256个与周围角点之间Euclidian距离大于5的Harris角点,得到Harris角点中的强角点,Harris强角点的个数、非极大值抑制的阈值的大小和Euclidian距离都可以根据图像的大小进行调节;
A2、将检测到的Harris角点中的强角点的横纵坐标分别保存到Cornerx、Cornery中。
B、使用前一帧图像作为参考帧,利用Lucas-Kanade光流法跟踪参考帧的角点得到当前帧的Harris角点坐标,然后通过随机采样一致性算法剔除参考帧与当前帧中误匹配的点,求解出相邻两帧图像的变换矩阵detaH:
B1、将前一帧图像作为参考帧,利用VLIB库中的光流跟踪函数VLIB_trackFeaturesLucasKanade_7x7()跟踪参考帧中的角点从而对当前帧的Harris角点的位置信息进行估计,设定金字塔的搜索窗口的大小为10×10,最大金字塔层数为5,最大迭代次数为20,结果精确到0.03,搜索范围为全局搜索,最后得到当前帧的Harris角点的位置信息并分别保存在Tracex、Tracey中;
B2、使用随机采样一致性算法,剔除参考帧与当前帧检测的Harris强角点中的误匹配点。设定计算变换特征所需的最小特征点对数为4,允许的错误改率为p_badxform的值为0.005。具体的算法流程如图4所示;
B3、在剔除误匹配点的过程中,求解变换矩阵的过程可以通过最小二乘法替换奇异值分解减小复杂度。
C、利用当前帧的边界点和变换矩阵detaH计算当前帧的补偿参数,通过卡尔曼滤波对补偿参数进行平滑,得到当前帧的补偿矩阵motionH;
C1、在实际操作中,使用了3个卡尔曼滤波器,并分别进行了初始化,初始胡方式如下:定义一个6×2的卡尔曼滤波器对水平和垂直位移进行滤波,并将观测矩阵的对角线元素赋值为1,将状态矩阵的(0,2)、(1,3)、(2,4)、(3,5)赋值为1/30,将(0,4)、(1,5)赋值为1/1800;定义两个个3×1的卡尔曼滤波器对旋转角度和缩放比例进行滤波,并将观测矩阵的对角线元素赋值为1,将状态矩阵的(0,1)、(1,2)、赋值为1/30,将(0,2)赋值为1/1800;
C2、取当前帧的四个边界点(0,0)、(0,width-1)、(height-1,0)、(width-1,height-1)并标记为CornerA,通过使用CornerA和变换矩阵detaH相乘得到当前帧对应于参考帧中的边界点点集CornerB;
C3、由CornerB得到当前帧的水平和垂直偏移量detax、detay,偏转角度detaAngle,缩放比例zoom等;
C3、通过卡尔曼滤波对detax、detay、detaAngle、zoom进行平滑处理,并得到当前帧的补偿矩阵motionH。
D、利用当前帧变换矩阵detaH和补偿矩阵motionH得到当前帧的全局变换矩阵H,并对当前帧的Y、UV通道分别进行透视变换,得到稳像后图像;
D1、对当前帧的坐标按照式(2)进行变换,得到对当前帧补偿后的坐标,将计算好的坐标值事先存储在数组中;
D2、对当前帧图像的坐标按照式(3)进行插值,得到当前帧稳像后的图像;判断当前帧数是否能被十整除,是,则按照步骤A中A1、A2的方法更新角点坐标,不是,则保存当前帧的角点坐标;
E、对稳像处理后的图像Y通道进行下采样得到图像I(x,y),然后进行高斯滤波,将时域高斯滤波转换到空域进行滤波,图像I(x,y)进行傅里叶变换后,与高斯核函数相乘,再进行傅里叶逆变换后得到If(x,y),将I(x,y)进行最近邻插值后得到图像Yf;将图像Yf进行对数域转换得到Y通道的照度图像Y′:
E1、对稳像后的图像进行尺度为2的下采样后得到图像I(x,y),选取三个不同尺度c1=27,c2=85,c3=125的高斯核F1、F2、F3按公式(4)进行平均后得到卷积核F,对图像I(x,y)DSPLIB中的DSP_ifft16x32()进行傅里叶变换后,与高斯核函数相乘,再使用DSP_ifft16x32()进行傅里叶逆变换后得到图像If(x,y),进行最近邻插值后得到图像Yf(x,y),具体见公式(5)。
E2、将滤波后的图像进行对数域转换得到照度图像Y′(x,y),计算方法如式(6)所示;在实际计算过程中,由于已知像素值的范围为0~256,因此进行对数转换的范围也是0~256,为了减少算法复杂度,通常会先建立两个表格计算对数值,分别为LogMapr[256*256]和LogMapa[256*768],则可以通过滤波后的值直接进行查找。
F、将照度图像Y′(x,y)进行灰度值拉伸,对色度图像uv(x,y)进行色度调整,最后得到清晰图像:
F1、通过计算得到照度图像的均值μ和方差σ,进而得到照度图像的像素值的动态范围的边界值下饱和点Rmin=μ-3σ,上饱和点Rmax=μ+3σ,在实际计算过程中可以将动态范围进行适当的调节,方差的系数可以在1.5~3.5之间;
F2、按照公式(7)对照度图像Y′(x,y)进行处理,则可以得到清晰的图像的Y通道图像YR(x,y);
F3、按照公司(8)对图像的色度图像uv(x,y)进行色度调整得到uv′(x,y)。
G、根据实际需求的不同,可以利用下面的方法对视频的处理过程进行优化:
G1、使用编辑器选项进行优化,设置编辑器的优化选项为-O3、-g、-ms;
G2、使用内联函数对乘法和除法运算进行优化,_mpy()实现定点乘法,_mpysp2dp()实现浮点乘法,_min2()和_max2()分别比较最大值和最小值,;
G3、使用“restrict”关键字,对于代码中存储空间不相关的指针或者数组,通过添加restrict关键字可以实现代码优化;
G4、使用#pragma指令优化软件流水,将#pragma MUST_ITERATE()加入双层循环的内层循环中
G5、使用查表法减少计算量,在透视变换中将计算坐标分配为3个720大小的数组存储宽度坐标变换数值,3个576大小的数组存储高度坐标变换数值,节约了逐点存储的空间,也减少了乘法计算的次数。
上述方法的实施平台为达芬奇系列DM8168测试板,DSP主频为1Ghz,ARM主频为1.2Ghz,Ubantu14.0。
对于图像大小为720×576的图像,本发明每隔10帧做一次Harris角点检测,因此平均处理时间为每帧图像90ms,如果将去雾处理同样每隔10帧进行一次滤波处理,平均处理时间为65ms,基本可以实现实时处理。
Claims (1)
1.一种嵌入式雾天实时视频稳像方法,其特征在于,步骤如下:
A、判断当前帧数是否是第一帧,若是,则检测当前帧中的Harris角点,从中选取N个Harris强角点,并将Harris强角点的位置信息分别保存在Cornerx和Cornery中,输出图像到步骤E进行处理;若不是,则直接进行步骤B的处理;
A1、采集到的视频为YUV空间,Y通道像素即为灰度值,直接进行当前帧图像中Harris角点检测,Harris角点检测的步骤如下:
(1)利用VLIB库中函数VLIB_xyGradientsAndMagnitude()计算当前帧图像L(x,y)在x和y方向上的梯度值Ix,Iy;
(2)将梯度值Ix,Iy作为输入,利用VLIB库中函数VLIB_harrisScore_7x7()计算图像的Harris角点评分值;
(3)然后利用函数VLIB_nonMaxSuppress_3x3_S16()对Harris角点的评分值进行3×3邻域的非极大值抑制,即删除评分值小于thresh的Harris角点,thresh设为12000;
(4)遍历步骤(3)处理后剩余的Harris角点,选取Harris角点之间的Euclidian距离大于5×5的N个角点,则得到了当前帧图像中的Harris强角点;
A2、将A1中检测到的Harris强角点的横坐标和纵坐标存储在Cornerx和Cornery中;
B、使用前一帧图像作为参考帧,利用Lucas-Kanade光流法跟踪参考帧的角点得到当前帧的Harris角点坐标,然后通过随机采样一致性算法剔除参考帧与当前帧中误匹配的点,求解出相邻两帧图像的变换矩阵detaH;
B1、根据视频连续帧之间的连续性,确定每帧图像的Harris角点也存在连续性,利用函数VLIB_trackFeaturesLucasKanade_7x7()对参考帧的图像坐标进行估计得到当前帧图像的Harris角点坐标Tracex和Tracey;
B2、使用随机采样一致性算法,剔除参考帧和当前帧检测的Harris角点中的误匹配点,具体过程如下:
(1)从参考帧图像和当前帧图像的Harris角点中每次随机各选取对应的2个点构成匹配对,代入下式:
(2)然后利用奇异值分解求解出变换模型M,使用变换模型M对当前帧进行变换,计算参考帧中对应的匹配点坐标的Euclidian距离,如果Euclidian距离小于阈值,说明特征点满足模型,则将该特征点加入特征集consensus,并统计特征集个数in,当in大于最优特征集个数in_max时,更新最优特征集,同时更新变换模型M;
(3)迭代次数k加1,当前错误概率p大于允许的错误概率p_badxform,则重复步骤(2),当p小于p_badxform时停止迭代,经过算法筛选后,确定最后的变换模型M和最优特征点集,并得到最优点集个数in_max;
B3、返回变换模型M作为变换矩阵detaH;
C、利用当前帧的边界点和变换矩阵detaH计算当前帧的补偿参数,通过卡尔曼滤波对补偿参数进行平滑,得到当前帧的补偿矩阵motionH;
C1、取当前帧的四个边界点(0,0)、(0,width-1)、(height-1,0)、(width-1,height-1),并标记为边界点CornerA,边界点CornerA和变换矩阵detaH相乘,得到当前帧对应于参考帧中的边界点CornerB;
C2、由边界点CornerB得到当前帧的水平和垂直偏移量detax、detay,偏转角度detaAngle以及缩放比例zoom;
C3、通过卡尔曼滤波对detax、detay、detaAngle和zoom进行平滑处理,并得到当前帧的补偿矩阵motionH;
D、利用当前帧的变换矩阵detaH和补偿矩阵motionH得到当前帧的全局变换矩阵H,对当前帧的Y、UV进行透视变换,得到当前帧稳像后的图像;判断当前帧数是否能被十整除,是,则按照步骤A中A1、A2的方法更新角点坐标,不是,则保存当前帧的角点坐标;
D1、将变换矩阵detaH和补偿矩阵motionH相乘得到当前帧的全局变换矩阵H;利用全局变换矩阵H对当前帧的图像坐标进行变换,则有:
其中,式中(x,y)为当前图像坐标,(x′,y′)为当前帧变换后所对应的坐标;
D2、变换后得到的(x′,y′)为浮点坐标,对其进行双线性插值得到最后的图像的像素值;另设图像的浮点坐标为(u+α,v+β),其中μ、ν为整数,α,β为[0,1]的浮点数,若u0=u+α,v0=v+β,则在(u0,v0)处的像素值f(u0,v0)表示为:
判断当前帧数是否能被十整除,是,则按照步骤A中A1、A2的方法更新角点坐标,不是,则保存当前帧的角点坐标;
E、对稳像后的图像Y通道进行下采样,然后进行空域高斯滤波,得到滤波后图像Yf;将滤波后图像Yf进行对数域转换得到Y通道的照度图像Y′;
E1、对稳像后的图像Y通道进行下采样,设下采样后的图像为I(x,y),通过调节高斯核的宽度参数c,选取小、中、大三个不同的尺度,一个小尺度c<50,一个中尺度50<c<100,一个大尺度c>100,分别对应三个高斯核函数F1、F2、F3,使用三个高斯核的算术平均值代替几何平均值,对Y通道则有:
其中,F(x,y)=F1(x,y)+F2(x,y)+F3(x,y);按照公式(5),将时域滤波转换到空域,对采样后的图像I(x,y)进行高斯滤波后得到图像If(x,y),首先将图像I(x,y)进行傅里叶变换,再与高斯核函数相乘,然后再进行傅里叶逆变换后得到图像If(x,y);
其中,F(u,v)为F(x,y)进行频域变换后的表达式,I(u,v)为I(x,y)进行频域变换后的表达式;
E2、将滤波后的图像If(x,y)进行最近邻插值得到图像Yf,再进行对数域转换得到照度图像Y′(x,y):
Y′(x,y)=log(Y(x,y))-log(Yf(x,y)) (6)
式中,Y′(x,y)为照度图像,Yf(x,y)为If(x,y)插值后的结果;
F、将照度图像Y′进行灰度值拉伸后得到YR,对稳像处理后的图像的色度通道uv进行均衡化处理得到uv′,得到清晰图像;
F1、通过计算得到照度图像Y′的均值μ和方差σ,而得到照度图像的像素值的动态范围的边界值下饱和点Rmin=μ-3σ,上饱和点Rmax=μ+3σ;
F2、滤波后得到的照度图像Y′可能存在暗淡,细节不够突出的问题,因此,需要通过线性拉伸增强对比度,对Y通道进行如下处理:
其中,Y′(x,y)为照度图像,YR(x,y)为最后得到的清晰图像的Y通道图像;
F3、由于有雾图像在色度图像上的像素值都接近128,因此将稳像后的色度通道的图像uv(x,y)按照下式进行线性色度调整后可以提高图像的对比度,更加符合实际情况:
uv′(x,y)=uv(x,y)×3-256 (8)
式中,uv(x,y)为稳像后图像的色度通道,uv′(x,y)为调整后的色度值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610272906.8A CN105976330B (zh) | 2016-04-27 | 2016-04-27 | 一种嵌入式雾天实时视频稳像方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610272906.8A CN105976330B (zh) | 2016-04-27 | 2016-04-27 | 一种嵌入式雾天实时视频稳像方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105976330A CN105976330A (zh) | 2016-09-28 |
CN105976330B true CN105976330B (zh) | 2019-04-09 |
Family
ID=56993294
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610272906.8A Active CN105976330B (zh) | 2016-04-27 | 2016-04-27 | 一种嵌入式雾天实时视频稳像方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105976330B (zh) |
Families Citing this family (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106550174B (zh) * | 2016-10-28 | 2019-04-09 | 大连理工大学 | 一种基于单应性矩阵的实时视频稳像方法 |
CN106780365B (zh) * | 2016-11-25 | 2020-03-17 | 阿依瓦(北京)技术有限公司 | 一种基于异构计算的图像去抖动系统 |
CN106780370B (zh) * | 2016-11-25 | 2019-12-20 | 阿依瓦(北京)技术有限公司 | 一种图像去抖动设备及其方法 |
CN106846280A (zh) * | 2017-03-08 | 2017-06-13 | 沈阳工业大学 | 基于离散曲波变换的图像去雾方法 |
CN107729807A (zh) * | 2017-09-05 | 2018-02-23 | 南京理工大学 | 一体化防外破目标识别与智能预警系统 |
CN108090885B (zh) * | 2017-12-20 | 2021-08-27 | 百度在线网络技术(北京)有限公司 | 用于处理图像的方法和装置 |
CN108053382B (zh) * | 2017-12-25 | 2019-04-16 | 北京航空航天大学 | 一种视觉特性去雾稳像探测系统 |
CN108347549B (zh) * | 2018-02-26 | 2020-11-10 | 华东理工大学 | 一种基于视频帧的时间一致性来改善视频抖动的方法 |
CN108765309B (zh) * | 2018-04-26 | 2022-05-17 | 西安汇智信息科技有限公司 | 基于暗通道的线状自适应改进全局大气光的图像去雾方法 |
CN108765317B (zh) * | 2018-05-08 | 2021-08-27 | 北京航空航天大学 | 一种时空一致性与特征中心emd自适应视频稳定的联合优化方法 |
CN109102013B (zh) * | 2018-08-01 | 2022-03-15 | 重庆大学 | 一种适于隧道环境特性的改进freak特征点匹配稳像方法 |
CN110120023A (zh) * | 2019-05-14 | 2019-08-13 | 浙江工大盈码科技发展有限公司 | 一种图像反馈矫正方法 |
CN110677578A (zh) * | 2019-08-14 | 2020-01-10 | 北京理工大学 | 基于仿生眼平台的混合稳像方法和装置 |
CN111192210B (zh) * | 2019-12-23 | 2023-05-26 | 杭州当虹科技股份有限公司 | 一种自适应增强的视频去雾方法 |
CN113905147B (zh) * | 2021-09-30 | 2023-10-03 | 桂林长海发展有限责任公司 | 一种船用监控视频画面去抖方法、装置以及存储介质 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103458156A (zh) * | 2013-08-27 | 2013-12-18 | 宁波海视智能系统有限公司 | 一种恶劣天气条件下交通事件检测视频信号预处理方法 |
CN103902972A (zh) * | 2014-03-21 | 2014-07-02 | 哈尔滨工程大学 | 一种水面移动平台视觉系统图像分析处理方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP1892666A1 (en) * | 2006-08-16 | 2008-02-27 | Toyota Motor Europe NV | A method, an apparatus and a computer-readable medium for processing an image dataset |
-
2016
- 2016-04-27 CN CN201610272906.8A patent/CN105976330B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103458156A (zh) * | 2013-08-27 | 2013-12-18 | 宁波海视智能系统有限公司 | 一种恶劣天气条件下交通事件检测视频信号预处理方法 |
CN103902972A (zh) * | 2014-03-21 | 2014-07-02 | 哈尔滨工程大学 | 一种水面移动平台视觉系统图像分析处理方法 |
Non-Patent Citations (3)
Title |
---|
On-Line Digital Image Stabilization for Translational and Rotational Motion;Qingle Zeng 等;《2011 International Conference on Image Analysis and Signal Processing》;20111023;第266-270页 |
基于YUV色彩空间的Retinex夜间图像增强算法;张红颖 等;《科学技术与工程》;20141031;第14卷(第30期);第71-75页 |
基于角点匹配的电子稳像算法;姚军 等;《光学与光电技术》;20090831;第7卷(第4期);第37-40页 |
Also Published As
Publication number | Publication date |
---|---|
CN105976330A (zh) | 2016-09-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105976330B (zh) | 一种嵌入式雾天实时视频稳像方法 | |
CN108596849B (zh) | 一种基于天空区域分割的单幅图像去雾方法 | |
CN102170574B (zh) | 一种实时视频去雾处理系统 | |
Gao et al. | Sand-dust image restoration based on reversing the blue channel prior | |
CN111079556A (zh) | 一种多时相无人机视频图像变化区域检测及分类方法 | |
CN110163818A (zh) | 一种用于海事无人机的低照度视频图像增强方法 | |
CN114118144A (zh) | 抗干扰的航空遥感图像阴影精准检测方法 | |
CN107798670A (zh) | 一种利用图像引导滤波器的暗原色先验图像去雾方法 | |
CN113344810A (zh) | 基于动态数据分布的图像增强方法 | |
CN106530247A (zh) | 一种基于结构信息的多尺度图像修复算法 | |
Chen et al. | Scene segmentation of remotely sensed images with data augmentation using U-net++ | |
CN117649606A (zh) | 一种基于本征表示模型的高光谱图像阴影去除方法与系统 | |
Yang et al. | CSDM: A cross-scale decomposition method for low-light image enhancement | |
Zhu et al. | Near-infrared and visible fusion for image enhancement based on multi-scale decomposition with rolling WLSF | |
Kumari et al. | A new fast and efficient dehazing and defogging algorithm for single remote sensing images | |
CN104766287A (zh) | 一种基于显著性检测的模糊图像盲复原方法 | |
CN115187688A (zh) | 基于大气光偏振正交盲分离的雾图重构方法及电子设备 | |
Wang et al. | Low-light-level image enhancement algorithm based on integrated networks | |
CN108596928A (zh) | 基于改进高斯-拉普拉斯算子的噪声图像边缘检测方法 | |
CN117830134A (zh) | 基于混合滤波分解和图像融合的红外图像增强方法及系统 | |
Yao et al. | A multi-expose fusion image dehazing based on scene depth information | |
CN116958120A (zh) | 一种基于梯度分布特性的微弱目标信号提取方法 | |
Lee et al. | Joint defogging and demosaicking | |
Song et al. | An adaptive real-time video defogging method based on context-sensitiveness | |
CN116228569A (zh) | 一种用于保留结构及平衡亮度的低质量焊接图像增强方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |