CN114119437A - 一种基于gms的用于改善运动物体畸变的图像拼接方法 - Google Patents
一种基于gms的用于改善运动物体畸变的图像拼接方法 Download PDFInfo
- Publication number
- CN114119437A CN114119437A CN202111328375.7A CN202111328375A CN114119437A CN 114119437 A CN114119437 A CN 114119437A CN 202111328375 A CN202111328375 A CN 202111328375A CN 114119437 A CN114119437 A CN 114119437A
- Authority
- CN
- China
- Prior art keywords
- image
- points
- matching
- images
- matching points
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 50
- 230000009466 transformation Effects 0.000 claims abstract description 46
- 230000004927 fusion Effects 0.000 claims abstract description 39
- 239000011159 matrix material Substances 0.000 claims abstract description 33
- 238000012216 screening Methods 0.000 claims abstract description 13
- 230000011218 segmentation Effects 0.000 claims abstract description 10
- 238000013507 mapping Methods 0.000 claims description 16
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000005286 illumination Methods 0.000 claims description 7
- 238000000605 extraction Methods 0.000 claims description 6
- 238000010586 diagram Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 3
- 238000011160 research Methods 0.000 description 3
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000000844 transformation Methods 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 238000010191 image analysis Methods 0.000 description 1
- 230000005764 inhibitory process Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/32—Indexing scheme for image data processing or generation, in general involving image mosaicing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于GMS的用于改善运动物体畸变的图像拼接方法,步骤包括:在待拼接图像中提取大量且分布均匀的粗匹配点,然后对图像划分网格,对粗匹配点进行筛选,去除粗匹配点中匹配错误的点,得到精匹配点;从每个网格中的精匹配点里随机均匀挑选一部分,得到初始匹配点群,计算其变换矩阵,再利用该矩阵去除精匹配点中运动物体上的匹配点,得到可用于图像拼接的匹配点;通过所得到的匹配点计算两幅图像之间的单应性矩阵进行图像坐标变换。对变换后待拼接的图像做差,得到差值图,对差值图做阈值分割,得到两幅图像之间差值明显的区域。通过计算差值图的能量函数自适应确定图像的融合区域,最后采用渐入渐出法进行融合。
Description
技术邻域
本发明涉及图像拼接技术邻域,更具体的说是涉及一种基于GMS的用于改善运动物体畸变的图像拼接方法。
背景技术
图像拼接是图像处理邻域的一个重要研究问题。图像拼接主要是指将不同视角、不同设备、不同时间点下获取的但其图像区域有部分重叠的图像通过图像配准以及图像融合拼接成具有高分辨率广视角的全景图像。图像拼接在深海勘探、遥感图像处理、声呐图像分析等邻域都有广泛的应用。
图像的特征提取与匹配是图像拼接的第一个也是最为关键的环节。图像的特征提取与匹配是指提取两幅图像之间的特征点并对其进行逐个匹配的过程。图像的特征提取与匹配是图像处理邻域的一个重要研究问题,在目标识别、图像索引、运动跟踪等方面都有广泛的研究。在图像拼接的整个环节中,特征点匹配的实时性与稳定性是衡量特征点匹配方法的两个重要标准。在视频拼接的整个环节中,图像的特征提取与匹配环节几乎占据了程序运行的三分之二的时间,而特征匹配的准确性直接影响图像的拼接效果,因此如何快速、鲁棒、准确的进行特征匹配是图像拼接的关键性问题。
目前常用特征匹配方法有SIFT算法、SURF算法以及ORB算法等。SIFT算法通过构建金字塔尺度空间点来进行特征检测,其鲁棒性好,对于尺度、旋转、平移等变换具有良好的适应能力。SURF算法采用尺寸大小不同的盒子滤波器来构建尺度空间,通过海森矩阵来提取图像中可能的兴趣点,然后在兴趣点周围统计像素水平与垂直方向的haar小波特征确定特征点的方向,SURF算法相对于SIFT算法运算速度快,同样对于尺度旋转、平移等变换也具备良好的适应能力。ORB算法利用FAST算法进行兴趣点检测,FAST算法通过比较像素点周围16个像素点的圆形邻域的像素绝对差值的大小来进行兴趣点检测,采用局部非极大值抑制来确定最后的特征点,然后采用BRIEF对特征点进行描述,ORB特征匹配算法计算速度极快,实时性较好。
就特征匹配精度而言,SURF算法与SIFT算法大致相当,ORB算法精度较差,就特征匹配速度而言,ORB算法匹配速度最快,可以达到实时性匹配,SURF算法较慢,SIFT算法最慢。
但是对于图像拼接而言,这些特征匹配方法所得到的匹配点中不可避免地存在许多误匹配点。较多的误匹配点会导致图像拼接时出现图像变换不准,拼接图像出现畸变的现象,极大地降低了拼接图像的质量。因此需要采用二次精匹配算法,常见的二次精匹配算法有RANSAC算法与GMS算法。
RANSAC算法通过对匹配点随机采样,拟合一个模型,把拟合该模型的点设为内点,不符合该模型的的点设为外点,若该模型得到内点数大于阈值N,则认为得到了一个较好的矩阵模型,然后通过最小二乘法,利用内点集合重新计算模型,使得新计算出的模型尽量满足更多的点,然后直到找出最优的模型,最后通过最优模型来区分正确与错误的匹配点,其计算速度较慢。图像拼接而言,过慢的计算速度,导致图像拼接效率低下。同时对于图像质量较差,所提去的粗匹配点中误匹配点所占比重较高时,RANSAC算法迭代次数将大幅提高,计算效率低下且筛选效果较差。
基于网格运动统计特征的匹配算法(GMS)是一种通过统计大量匹配点的概率分布来区分误匹配点的图像匹配算法,通过统计图像匹配点的邻域中对应匹配点的数量来计算匹配点的置信程度,并以此来区分正确与错误的匹配点。即使在误匹配点多时也能提取出质量较好的匹配点。但是GMS算法虽然匹配精度较高,匹配点常常只分布在局部区域,对于图像拼接而言,若是所提取的特征点分布较为集中,那么在进行图像拼接时,很容易导致特征点较为集中的区域图像拼接效果较好,而特征点较为稀疏的区域图像拼接效果较差。此外,GMS算法无法滤除运动物体上的匹配点,如果将运动物体上的匹配点加入图像坐标变换矩阵的计算,由于运动物体的相对位移同样也会引入误差,导致图像拼接时出现畸变。
对图像进行特征点匹配后,通过所得到的匹配点计算出坐标变换矩阵,将两幅图像中的像素点变换到同一个像素坐标系下,并对两幅图像对应区域进行融合就可以完成图像拼接了。应用在图像拼接上的图像融合算法主要有平均值法、渐入渐出法、最佳缝合线法等方法,平均值法计算简单,应用较为广泛,但是当重叠区域存在运动物体时极易产生重影现象,在重叠区域与非重叠交界处也常常存在由于光照不均引起的拼接交界线。渐入渐出法可以有效的解决拼接图像光照不均的问题但是无法解决运动物体位于重叠区域时的重影问题,最佳缝合线算法可以解决运动物体位于重叠区域时的重影问题但是无法解决图像光照不均的问题。
因此,如何提供一种匹配点分布均匀拼接图像质量高的基于GMS的用于改善运动物体畸变的图像拼接方法是本邻域技术人员亟需解决的问题。
发明内容
有鉴于此,本发明提供了一种基于GMS的用于改善运动物体畸变的图像拼接方法,其目的在于有效解决采用基于网格运动统计特征的匹配算法(GMS)进行图像拼接时特征匹配过程所得到的匹配点分布集中、运动物体上的匹配点影响拼接图像质量的问题以及运动物体位于重叠区域时产生的重影问题。
为了实现上述目的,本发明采用如下技术方案:
一种基于GMS的用于改善运动物体畸变的图像拼接方法,包括以下步骤:
对待拼接图像进行特征点的粗提取与匹配,得到均匀分布的粗匹配点;
利用基于网格运动统计特征的匹配算法GMS将图像划分G×G的大网格,按照网格对图像的粗匹配点进行网格运动统计筛选得到精匹配点;
在每个大网格内随机挑选精匹配点,得到初始匹配点群,计算初始匹配点群的变换矩阵;
利用变换矩阵计算所有精匹配点的特征映射点,计算特征映射点与精匹配点距离,将距离大于阈值的精匹配点筛选出去,所留下的距离小于阈值的精匹配点为图像拼接所需的拼接匹配点;
根据拼接匹配点计算两幅待拼接图像之间的坐标变换矩阵,对待拼接图像进行像素坐标变换;
获取图像融合区域:对坐标变换后的待拼接图像进行绝对差值计算,得到差值图,并对差值图进行阈值分割,逐行对差值图上所有超过像素阈值的像素值进行相加,获取每行的差值权重系数,并进一步获取所有差值权重系数超过差值权重系数阈值的像素值所在行,并针对每个所在行分别获取每行距离重叠区域上边界与下边界的距离;
若离上边界更近则从当前行开始至重叠区域上边界作为上图区域,若离下边界更近则从当前行开始至重叠区域下边界作为下图区域,剩余的中间区域为图像融合区域;
在图像融合区域采用渐入渐出法对图像进行融合。
优选的,其中得到精匹配点的具体方法包括:
(3)设两张待匹配的图像分别为Ia与Ib,采用基于金字塔网格的ORB算法对Ia与Ib进行特征点提取与匹配,若图像Ia有M个特征点,图像Ib有N个特征点,则设两张图像的特征点集合为{M,N},两张图像之间的匹配点对为xi={Ni,Mi};将待匹配图像划分成G×G个网格;
(4)对每个大网格进一步划分为K×K个小网格ai,通过计算小网格ai周围8个邻域小网格中所包含的图像Ia与Ib的特征匹配点个数来计算小网格ai的邻域置信支持度Si;设阈值其中α为超参数,n为小网格ai内所有特征点个数,若Si大于T,则认为小网格ai内的匹配点为所需的精匹配点。
优选的,在每个网格中随机挑选精匹配点,得到初始匹配点集合,计算初始匹配点群的变换矩阵的具体内容包括:
(1)计算各个大网格内所包含的精匹配点个数,若所有大网格中均包含精匹配点,则在每个大网格内随机挑选一个精匹配点,得到初始匹配点群;若存在k个大网格不包含精匹配点,则首先在每个包含精匹配点的大网格内随机挑选一个匹配点,再从整个图像内剩余的精匹配点中随机挑选k个匹配点,得到初始匹配点群;
(2)利用所得到的初始匹配点群,计算初始匹配点群所拟合的变换矩阵;利用该变换矩阵计算所有精匹配点在该变换矩阵下的特征映射点,将映射点与对应匹配点的欧式距离大于阈值的匹配点筛选出去,所留下的欧式距离小于阈值的匹配点为图像拼接所需匹配点。
优选的,针对图像融合中运动物体位于重叠区域时产生的重影问题,通过计算变换后待拼接图像之间的差值,对差值图做阈值分割,得到两幅图像之间差值明显的区域,通过计算阈值图的能量函数自适应确定图像的融合区域,获取图像融合区域,具体内容包括:
(1)将变换后待拼接的两幅图像转换为灰度图像得到Iag(x,y)与Ibg(x,y),并对灰度图像做归一化处理消除光照的影响得到Γag(x,y)与Γbg(x,y),对两幅图像的重叠区域做绝对差值,得到重叠区域的差值图g(x,y);
(2)对差值图做阈值分割,得到两幅图像之间差值明显的区域;
(3)逐行对差值图上所有超过像素阈值的像素值进行相加,得到每行的差值权重系数,取所有行差值权重系数的中位数为差值权重系数阈值,找出所有差值权重超过差值权重系数阈值的所在行;
(4)针对每个所在行分别获取每行距离重叠区域上边界与下边界的距离;若离上边界更近则从该行开始至重叠区域上边界作为上图区域,若离下边界更近则从该行开始至重叠区域下边界作为下图区域,剩余的中间区域为图像融合区域D。
优选的,在图像融合区域采用渐入渐出法对图像进行融合的具体内容包括:
设待拼接的两幅图像Ia与Ib上坐标为(x,y)上的像素值分别为Ia(x,y)与Ib(x,y),则其在融合图像上的点的像素值为:
式中,d为权重因子,由像素与距离边界的距离计算得出,计算方法为:
经由上述的技术方案可知,与现有技术相比,本发明公开提供了一种基于GMS的用于改善运动物体畸变的图像拼接方法,主要用于解决现有的在图像拼接时采用GMS算法进行特征匹配所得到的匹配点分布集中、运动物体上的匹配点影响拼接图像质量以及图像融合时运动物体产生的重问题。针对GMS算法所得到匹配点集中的问题,首先对图像进行特征点提取与匹配,得到分布均匀的粗匹配点,再根据粗匹配点获取精匹配点。针对运动物体上匹配点影响拼接图像质量的问题,在所划分的每个网格中随机挑选一个精匹配点,得到初始点群,计算初始匹配点群的变换矩阵。利用该变换矩阵计算所有精匹配点的特征映射点,计算特征映射点与匹配点距离,筛去运动物体上的匹配点。针对图像融合中运动物体位于重叠区域时产生的重影问题,通过计算变换后待拼接图像之间的差值,对差值图做阈值分割,得到两幅图像之间差值明显的区域,通过计算阈值图的能量函数自适应确定图像的融合区域,最后采用渐入渐出法进行融合,在平衡光照的同时能够有效避开融合区域中的运动物体,从而避免产生重影现象。本发明所提出的图像拼接方法能够拼接出更加精确,图像质量更高的全景图像。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的实施例,对于本邻域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据提供的附图获得其他的附图。
图1附图为本发明提供的一种基于GMS的用于改善运动物体畸变的图像拼接方法流程示意图;
图2附图为本发明提供的一种基于GMS的用于改善运动物体畸变的图像拼接方法中的金字塔网格划分示意图;
图3附图为本发明提供的一种基于GMS的用于改善运动物体畸变的图像拼接方法中的GMS网格划分示意图;
图4附图为本发明提供的一种基于GMS的用于改善运动物体畸变的图像拼接方法中的运动匹配点筛选示意图;
图5附图为本发明提供的一种基于GMS的用于改善运动物体畸变的图像拼接方法中的图像融合示意图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本邻域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
本发明实施例公开了一种基于GMS的用于改善运动物体畸变的图像拼接方法,如图1所示,包括以下步骤:
对待拼接图像进行特征点的粗提取与匹配,得到均匀分布的粗匹配点;
利用基于网格运动统计特征的匹配算法GMS将图像划分G×G的大网格,按照网格对图像的粗匹配点进行网格运动统计筛选得到精匹配点;
在每个大网格中随机挑选精匹配点,得到初始匹配点群,计算初始匹配点群的变换矩阵;
利用变换矩阵计算所有精匹配点的特征映射点,计算特征映射点与精匹配点距离,将距离大于阈值的精匹配点筛选出去,所留下的距离小于阈值的精匹配点为图像拼接所需的拼接匹配点;
根据拼接匹配点计算两幅待拼接图像之间的坐标变换矩阵,对待拼接图像进行像素坐标变换;
获取图像融合区域:对坐标变换后的待拼接图像进行绝对差值计算,得到差值图,并对差值图进行阈值分割,逐行对差值图上所有超过像素阈值的像素值进行相加,获取每行的差值权重系数,并进一步获取所有差值权重系数超过差值权重系数阈值的像素值所在行,并针对每个所在行分别获取每行距离重叠区域上边界与下边界的距离;
若离上边界更近则从当前行开始至重叠区域上边界作为上图区域,若离下边界更近则从当前行开始至重叠区域下边界作为下图区域,剩余的中间区域为图像融合区域;
在图像融合区域采用渐入渐出法对图像进行融合。
为了进一步实施上述技术方案,对待匹配的两幅输入图像采用基于金字塔网格的ORB算法对图像进行特征点提取与匹配,得到均匀分布的粗匹配点;具体包括以下内容:
(1)对于输入图像,先对其构造图像金字塔,先将输入图像扩大一倍,在扩大的图像的基础之上构建高斯金字塔,然后对该尺寸下图像进行高斯模糊,即用高斯卷积核函数对图像进行卷积。
L(x,y,σ)为卷积后图像,G(x,y,σ)为高斯卷积核函数,σ取固定值1.6,以σ、2σ、4σ、8σ取值得到四幅高斯模糊之后的图像组成第一组图像的五层。将第1组最模糊图像图像进行两倍降采样,得到第2组图像的第1幅图像,然后再该图像同样做平滑因子为σ、2σ、4σ、8σ的高斯模糊,得到第二组的五层,以此推类,同组图像尺寸一致但平滑系数不同,构建四组图像,形成高斯图像金字塔
(2)然后在每层金字塔上依照面积将所需特征点数目均摊到金字塔每层的图像上,然后采用Fast方法提取所需数量的兴趣点。以待检测点p为中心,比较点p半径为3的圆周上的16个像素点的灰度绝对差值,若其灰度绝对差值大于阈值则将其作为兴趣点。
(3)为了防止特征点过于集中,对得到的兴趣点其进行非极大值抑制,即计算一个中心点与周围16个点灰度差绝对值的和作为响应分数。
(4)计算一个Harris响应,设该层所需提取的特征点数目为N,为了让特征点分布的更为均匀对于金字塔的每一层划分30*30的网格,单独对每个格子提取响应最大的N/(30*30)角点,如果提取不到点,就降低FAST阈值,保证纹理较弱的区域也能提取到一些FAST角点。
为了进一步实施上述技术方案,将图像成划分G×G个大网格(G可由用户自行根据图像大小需要设定),按照网格对图像的粗匹配点进行网格运动统计筛选得到精匹配点。其具体操作步骤如下所示:
设两张待匹配的图像分别为Ia与Ib,若图像Ia有M个特征点,图像Ib有N个特征点,则设两张图像的特征点集合为{M,N},两张图像之间的匹配点对为xi={Ni,Mi},设匹配点对xi={Ni,Mi}在图像Ia与Ib中的邻域为Ja与Jb。。由于匹配正确的匹配点周围的匹配点是正确的概率较高,而匹配错误的匹配点周围的特征点对应位置匹配错误的概率较小,若匹配点对xi匹配正确,则对于其邻域Ja中的特征点对应匹配到其匹配点的邻域Jb中的概率也较大,若匹配点对xj匹配错误,那么其匹配对应的邻域Ja与Jb的对应匹配点对也较少。为了快速对图像中所有匹配点进行快速筛选将待匹配将图像划分成G×G个网格(G可由用户自行根据图像大小需要设定)
(2)计算每个网格的邻域置信支持度Si。Si通过匹配点对xi的邻域Ja与Ja中对应匹配点个数计算,Si为匹配点个数减1,其计算公式如下:
K表示其G×G个大网格内划分的K×K小网格(一般地,K取9,也可由用户自行根据图像大小需要设定),{ak,bk}是对应小网格区域上匹配点对,为邻域上对应匹配点对{ak,bk}的集合。为了避免很多特征点正好处于网格的边界,因此将网格的长宽各缩进0.5的算法迭代得到分数,以分数最高的来网格来进行计算,即G1{a1,a2...ai},G2{b1,b2...bj},对于G1(待匹配图像Ia中的G×G个大网格)的每个网格ai找出G2(待匹配图像Ib中的G×G个大网格)中与ai中匹配点数最多的bj然后,若bj中的匹配点超过阈值T,则取bj周围的8个网格以及ai周围的8个网格,然后计算对应位置网格匹配点的个数。作为网格ai的邻域置信支持度Si。
(3)设阈值(α为超参数一般取6,也可由用户自行根据图像大小需要设定),n为小网格内所有特征点个数。若对应的小网格ai中对应匹配点个数即邻域置信支持度Si大于阈值T,则认为该网格内的匹配点为正确匹配点,否则视为错误匹配点。
为了进一步实施上述技术方案,在每个网格中随机挑选精匹配点,得到初始匹配点集合,计算初始匹配点群的变换矩阵的具体内容包括:
(1)计算各个大网格内所包含的精匹配点个数,若所有大网格中均包含精匹配点,则在每个大网格内随机挑选一个精匹配点,得到初始匹配点群;若存在k个大网格不包含精匹配点,则首先在每个包含精匹配点的大网格内随机挑选一个匹配点,再从整个图像内剩余的精匹配点中随机挑选k个匹配点,得到初始匹配点群。
(2)利用所得到的初始匹配点群,计算该初始匹配点群所拟合的变换矩阵。
为了进一步实施上述技术方案,利用该变换矩阵计算所有精匹配点在该变换矩阵下的特征映射点,若其匹配点属于运动物体上的特征点,由于运动物体通常存在相对位移,其拓扑属性与其他特征点不同,故运动物体上特征点通过初始匹配点群所拟合的变换矩阵所计算出来的映射点与运动物体上对应匹配点距离较远。因此计算特征点通过变换矩阵变换得到特征映射点与对应匹配点的欧式距离,将映射点与对应匹配点的欧式距离大于阈值d(由用户自行根据图像需要自行设定)的匹配点筛选出去,所留下的欧式距离小于阈值的匹配点为图像拼接所需匹配点。如图4所示。
为了进一步实施上述技术方案,通过所得到的匹配点对计算两幅待拼接图像之间的坐标变换矩阵,以一幅图像为基准,对另一幅图像进行坐标变换。
为了进一步实施上述技术方案,计算变换后的两幅待拼接图像的绝对差值,得到差值图,通过差值图计算出图像融合区域。其具体操作步骤如下所示:
(1)将变换后待拼接的两幅图像转换为灰度图像得到Iag(x,y)与Ibg(x,y),并对灰度图像做归一化处理消除光照的影响得到I`ag(x,y)与I`bg(x,y),对两幅图像的重叠区域做绝对差值,得到重叠区域的差值图g(x,y)。
(2)对差值图做阈值分割,得到两幅图像之间差值明显的区域。
(3)逐行对差值图上所有超过阈值的像素值进行相加,得到每行的差值权重系数,取所有行差值权重系数的中位数为阈值,找出所有差值权重超过阈值的所在行编号。
(4)计算差值权重系数超过阈值的行距离重叠区域上边界与下边界的距离,若离上边界更近则从该行开始至重叠区域上边界作为上图区域,若离下边界更近则从该行开始至重叠区域下边界作为下图区域,计算完后的中间区域为融合区域D。
为了进一步实施上述技术方案,在图像融合区域D采用渐入渐出法对图像进行融合如图5所示。设待拼接的两幅图像Ia与Ib上坐标为(x,y)上的像素值分别为Ia(x,y)与Ib(x,y),则其在融合图像上的点的像素值为:
上式中d为权重因子,由像素与距离边界的距离计算得出,其值计算为:
本发明主要用于解决现有的在图像拼接时采用GMS算法所得到的匹配点分布集中在局部区域、运动物体上的匹配点影响拼接图像质量以及图像融合时运动物体产生的重影问题。
本说明书中各个实施例采用递进的方式描述,每个实施例重点说明的都是与其他实施例的不同之处,各个实施例之间相同相似部分互相参见即可。对于实施例公开的装置而言,由于其与实施例公开的方法相对应,所以描述的比较简单,相关之处参见方法部分说明即可。
对所公开的实施例的上述说明,使本邻域专业技术人员能够实现或使用本发明。对这些实施例的多种修改对本邻域的专业技术人员来说将是显而易见的,本文中所定义的一般原理可以在不脱离本发明的精神或范围的情况下,在其它实施例中实现。因此,本发明将不会被限制于本文所示的这些实施例,而是要符合与本文所公开的原理和新颖特点相一致的最宽的范围。
Claims (5)
1.一种基于GMS的用于改善运动物体畸变的图像拼接方法,其特征在于,包括以下步骤:
对待拼接图像进行特征点的粗提取与匹配,得到均匀分布的粗匹配点;
利用基于网格运动统计特征的匹配算法GMS将图像划分G×G的大网格,按照网格对图像的粗匹配点进行网格运动统计筛选得到精匹配点;
在每个大网格内随机挑选精匹配点,得到初始匹配点群,计算初始匹配点群的变换矩阵;
利用变换矩阵计算所有精匹配点的特征映射点,计算特征映射点与精匹配点距离,将距离大于阈值的精匹配点筛选出去,所留下的距离小于阈值的精匹配点为图像拼接所需的拼接匹配点;
根据拼接匹配点计算两幅待拼接图像之间的坐标变换矩阵,对待拼接图像进行像素坐标变换;
获取图像融合区域:对坐标变换后的待拼接图像进行绝对差值计算,得到差值图,并对差值图进行阈值分割,逐行对差值图上所有超过像素阈值的像素值进行相加,获取每行的差值权重系数,并进一步获取所有差值权重系数超过差值权重系数阈值的像素值所在行,并针对每个所在行分别获取每行距离重叠区域上边界与下边界的距离;
若离上边界更近则从当前行开始至重叠区域上边界作为上图区域,若离下边界更近则从当前行开始至重叠区域下边界作为下图区域,剩余的中间区域为图像融合区域;
在图像融合区域采用渐入渐出法对图像进行融合。
2.根据权利要求1所述的一种基于GMS的用于改善运动物体畸变的图像拼接方法,其特征在于,其中得到精匹配点的具体方法包括:
(1)设两张待匹配的图像分别为Ia与Ib,采用基于金字塔网格的ORB算法对Ia与Ib进行特征点提取与匹配,若图像Ia有M个特征点,图像Ib有N个特征点,则设两张图像的特征点集合为{M,N},两张图像之间的匹配点对为xi={Ni,Mi};将待匹配图像划分成G×G个网格;
3.根据权利要求1所述的一种基于GMS的用于改善运动物体畸变的图像拼接方法,其特征在于,在每个网格中随机挑选精匹配点,得到初始匹配点集合,计算初始匹配点群的变换矩阵的具体内容包括:
(1)计算各个大网格内所包含的精匹配点个数,若所有大网格中均包含精匹配点,则在每个大网格内随机挑选一个精匹配点,得到初始匹配点群;若存在k个大网格不包含精匹配点,则首先在每个包含精匹配点的大网格内随机挑选一个匹配点,再从整个图像内剩余的精匹配点中随机挑选k个匹配点,得到初始匹配点群;
(2)利用所得到的初始匹配点群,计算初始匹配点群所拟合的变换矩阵;利用该变换矩阵计算所有精匹配点在该变换矩阵下的特征映射点,将映射点与对应匹配点的欧式距离大于阈值的匹配点筛选出去,所留下的欧式距离小于阈值的匹配点为图像拼接所需匹配点。
4.根据权利要求1所述的一种基于GMS的用于改善运动物体畸变的图像拼接方法,其特征在于,针对图像融合中运动物体位于重叠区域时产生的重影问题,通过计算变换后待拼接图像之间的差值,对差值图做阈值分割,得到两幅图像之间差值明显的区域,通过计算阈值图的能量函数自适应确定图像的融合区域,获取图像融合区域,具体内容包括:
(1)将变换后待拼接的两幅图像转换为灰度图像得到Iag(x,y)与Ibg(x,y),并对灰度图像做归一化处理消除光照的影响得到Γag(x,y)与Γbg(x,y),对两幅图像的重叠区域做绝对差值,得到重叠区域的差值图g(x,y);
(2)对差值图做阈值分割,得到两幅图像之间差值明显的区域;
(3)逐行对差值图上所有超过像素阈值的像素值进行相加,得到每行的差值权重系数,取所有行差值权重系数的中位数为差值权重系数阈值,找出所有差值权重超过差值权重系数阈值的所在行;
(4)针对每个所在行分别获取每行距离重叠区域上边界与下边界的距离;若离上边界更近则从该行开始至重叠区域上边界作为上图区域,若离下边界更近则从该行开始至重叠区域下边界作为下图区域,剩余的中间区域为图像融合区域D。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111328375.7A CN114119437B (zh) | 2021-11-10 | 2021-11-10 | 一种基于gms的用于改善运动物体畸变的图像拼接方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111328375.7A CN114119437B (zh) | 2021-11-10 | 2021-11-10 | 一种基于gms的用于改善运动物体畸变的图像拼接方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114119437A true CN114119437A (zh) | 2022-03-01 |
CN114119437B CN114119437B (zh) | 2024-05-14 |
Family
ID=80378204
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111328375.7A Active CN114119437B (zh) | 2021-11-10 | 2021-11-10 | 一种基于gms的用于改善运动物体畸变的图像拼接方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114119437B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116109852A (zh) * | 2023-04-13 | 2023-05-12 | 安徽大学 | 一种快速及高精度的特征匹配错误消除方法 |
CN116310447A (zh) * | 2023-05-23 | 2023-06-23 | 维璟(北京)科技有限公司 | 基于计算机视觉的遥感图像变化智能检测方法及系统 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130208997A1 (en) * | 2010-11-02 | 2013-08-15 | Zte Corporation | Method and Apparatus for Combining Panoramic Image |
CN104376548A (zh) * | 2014-11-07 | 2015-02-25 | 中国电子科技集团公司第二十八研究所 | 一种基于改进型surf算法的图像快速拼接方法 |
KR101692227B1 (ko) * | 2015-08-18 | 2017-01-03 | 광운대학교 산학협력단 | Fast를 이용한 파노라마 영상 생성 방법 |
CN109741240A (zh) * | 2018-12-25 | 2019-05-10 | 常熟理工学院 | 一种基于层次聚类的多平面图像拼接方法 |
CN110111248A (zh) * | 2019-03-15 | 2019-08-09 | 西安电子科技大学 | 一种基于特征点的图像拼接方法、虚拟现实系统、照相机 |
CN110992263A (zh) * | 2019-11-27 | 2020-04-10 | 国网山东省电力公司电力科学研究院 | 一种图像拼接方法及系统 |
CN111784576A (zh) * | 2020-06-11 | 2020-10-16 | 长安大学 | 一种基于改进orb特征算法的图像拼接方法 |
-
2021
- 2021-11-10 CN CN202111328375.7A patent/CN114119437B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130208997A1 (en) * | 2010-11-02 | 2013-08-15 | Zte Corporation | Method and Apparatus for Combining Panoramic Image |
CN104376548A (zh) * | 2014-11-07 | 2015-02-25 | 中国电子科技集团公司第二十八研究所 | 一种基于改进型surf算法的图像快速拼接方法 |
KR101692227B1 (ko) * | 2015-08-18 | 2017-01-03 | 광운대학교 산학협력단 | Fast를 이용한 파노라마 영상 생성 방법 |
CN109741240A (zh) * | 2018-12-25 | 2019-05-10 | 常熟理工学院 | 一种基于层次聚类的多平面图像拼接方法 |
CN110111248A (zh) * | 2019-03-15 | 2019-08-09 | 西安电子科技大学 | 一种基于特征点的图像拼接方法、虚拟现实系统、照相机 |
CN110992263A (zh) * | 2019-11-27 | 2020-04-10 | 国网山东省电力公司电力科学研究院 | 一种图像拼接方法及系统 |
CN111784576A (zh) * | 2020-06-11 | 2020-10-16 | 长安大学 | 一种基于改进orb特征算法的图像拼接方法 |
Non-Patent Citations (2)
Title |
---|
丁辉;李丽宏;原钢;: "融合GMS与VCS+GC-RANSAC的图像配准算法", 计算机应用, no. 04, 10 April 2020 (2020-04-10) * |
张静;袁振文;张晓春;李颖;: "基于SIFT特征和误匹配逐次去除的图像拼接", 半导体光电, no. 01, 15 February 2016 (2016-02-15) * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116109852A (zh) * | 2023-04-13 | 2023-05-12 | 安徽大学 | 一种快速及高精度的特征匹配错误消除方法 |
CN116310447A (zh) * | 2023-05-23 | 2023-06-23 | 维璟(北京)科技有限公司 | 基于计算机视觉的遥感图像变化智能检测方法及系统 |
CN116310447B (zh) * | 2023-05-23 | 2023-08-04 | 维璟(北京)科技有限公司 | 基于计算机视觉的遥感图像变化智能检测方法及系统 |
Also Published As
Publication number | Publication date |
---|---|
CN114119437B (zh) | 2024-05-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112819772B (zh) | 一种高精度快速图形检测识别方法 | |
CN111784576B (zh) | 一种基于改进orb特征算法的图像拼接方法 | |
CN109978839B (zh) | 晶圆低纹理缺陷的检测方法 | |
CN106709950B (zh) | 一种基于双目视觉的巡线机器人跨越障碍导线定位方法 | |
CN106934803B (zh) | 电子器件表面缺陷的检测方法及装置 | |
CN111080529A (zh) | 一种加强鲁棒性的无人机航拍图像拼接方法 | |
CN103426182B (zh) | 基于视觉注意机制的电子稳像方法 | |
CN104134200B (zh) | 一种基于改进加权融合的运动场景图像拼接方法 | |
CN113012234B (zh) | 基于平面变换的高精度相机标定方法 | |
CN107945111B (zh) | 一种基于surf特征提取结合cs-lbp描述符的图像拼接方法 | |
CN110992263B (zh) | 一种图像拼接方法及系统 | |
CN108491786B (zh) | 一种基于分级网络和聚类合并的人脸检测方法 | |
CN106960449B (zh) | 基于多特征约束的异源配准方法 | |
CN109118544B (zh) | 基于透视变换的合成孔径成像方法 | |
CN110020995B (zh) | 针对复杂图像的图像拼接方法 | |
CN110414308B (zh) | 一种针对输电线路上动态异物的目标识别方法 | |
CN108550166B (zh) | 一种空间目标图像匹配方法 | |
CN110472521B (zh) | 一种瞳孔定位校准方法及系统 | |
CN108875504B (zh) | 基于神经网络的图像检测方法和图像检测装置 | |
CN109859137B (zh) | 一种广角相机非规则畸变全域校正方法 | |
CN114119437A (zh) | 一种基于gms的用于改善运动物体畸变的图像拼接方法 | |
CN111192194A (zh) | 一种针对幕墙建筑立面的全景图像拼接方法 | |
CN113706591B (zh) | 一种基于点云的表面弱纹理卫星三维重建方法 | |
CN113673515A (zh) | 一种计算机视觉目标检测算法 | |
CN112614167A (zh) | 一种结合单偏光与正交偏光图像的岩石薄片图像对齐方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |