CN106157249A - 基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法 - Google Patents
基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法 Download PDFInfo
- Publication number
- CN106157249A CN106157249A CN201610619604.3A CN201610619604A CN106157249A CN 106157249 A CN106157249 A CN 106157249A CN 201610619604 A CN201610619604 A CN 201610619604A CN 106157249 A CN106157249 A CN 106157249A
- Authority
- CN
- China
- Prior art keywords
- image
- resolution
- neighborhood
- block
- low
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 74
- 230000003287 optical effect Effects 0.000 title claims abstract description 35
- 238000012549 training Methods 0.000 claims abstract description 17
- 238000012545 processing Methods 0.000 claims abstract description 16
- 239000000284 extract Substances 0.000 claims abstract description 15
- 230000009467 reduction Effects 0.000 claims abstract description 8
- 230000008569 process Effects 0.000 claims description 28
- 239000011159 matrix material Substances 0.000 claims description 8
- 230000006870 function Effects 0.000 claims description 6
- 238000005070 sampling Methods 0.000 claims description 5
- 238000003064 k means clustering Methods 0.000 claims description 4
- 238000004364 calculation method Methods 0.000 claims description 3
- 230000008859 change Effects 0.000 claims description 3
- 238000012804 iterative process Methods 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims 1
- 238000003706 image smoothing Methods 0.000 claims 1
- 238000010606 normalization Methods 0.000 claims 1
- 230000001360 synchronised effect Effects 0.000 claims 1
- 230000000694 effects Effects 0.000 description 9
- 230000002159 abnormal effect Effects 0.000 description 6
- 238000002474 experimental method Methods 0.000 description 5
- 230000008901 benefit Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 244000241796 Christia obcordata Species 0.000 description 2
- 241000287531 Psittacidae Species 0.000 description 2
- 230000015556 catabolic process Effects 0.000 description 2
- 238000006731 degradation reaction Methods 0.000 description 2
- 241000287530 Psittaciformes Species 0.000 description 1
- 206010000496 acne Diseases 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000012805 post-processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000011218 segmentation Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4007—Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/213—Feature extraction, e.g. by transforming the feature space; Summarisation; Mappings, e.g. subspace methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/22—Matching criteria, e.g. proximity measures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
- G06F18/232—Non-hierarchical techniques
- G06F18/2321—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions
- G06F18/23213—Non-hierarchical techniques using statistics or function optimisation, e.g. modelling of probability density functions with fixed number of clusters, e.g. K-means clustering
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/40—Extraction of image or video features
- G06V10/50—Extraction of image or video features by performing operations within image blocks; by using histograms, e.g. histogram of oriented gradients [HoG]; by summing image-intensity values; Projection analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Life Sciences & Earth Sciences (AREA)
- Probability & Statistics with Applications (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本发明公开了一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法,包括:先进行离线字典训练学习:对训练图像集中的高/低分辨率图像的亮度分量对应特征学习,提取图像块的方向梯度直方图和梯度特征并进行梯度特征降维处理,分成若干聚类子集形成训练字典。在重建阶段,先将低分辨图进行RGB颜色到YCbCr空间转换,再将色度分量放大并作为重建色度分量,对亮度分量双立方插值放大,提取图像特征并依次匹配若干邻域图像块,计算光流场速度矢量,将若干邻域图像块加权组合作为最终匹配结果。重建图像去模糊,反向投影迭代处理以获得最终重建结果的亮度分量。将重建图像由YCbCr颜色空间转换到RGB颜色空间。本发明图像块匹配更准确,超分辨率重建更有效。
Description
技术领域
本发明属于数字图像处理领域,是一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法。
背景技术
随着信息化时代的发展,人们对数字图像的分辨率的要求越来越高。传统的通过提高成像元件质量来提高分辨率的方法受到工艺水平和成本价格等因素限制而无法持续满足人们的需要。因此以信息处理方式获得高分辨率的图像超分辨率算法逐渐成为现代图像处理领域的一个重要课题。
一般的,图像的退化模型可以表示为:
Y=DHX+n (1)
其中,D是降采样矩阵,H是模糊矩阵,n为噪声项。
目前的超分辨率技术大致可以分为三种类型,分别是基于插值的方法、基于重建的方法以及基于学习的方法。
插值算法主要包括三个步骤:运动估计、非均匀插值、去模糊。其优点在于计算简单,易于实现,可用于实时性场合。但它的缺点主要在于恢复时忽略插值过程引入的误差,由此无法实现整个复原性能的最优化。
基于重建的方法的主要特点在于在约束退化模型的保真项的基础上加入一些正则项来约束高分辨率图像X的解空间,从而克服超分辨率问题的病态性。
基于学习的图像超分辨率方法是最近超分辨率研究的重点和热点。与基于重建的超分辨率方法不同,这类方法使用的先验知识并不是人为定义的,而是通过对大量的高分辨率训练图像的学习而得到。以输入图像为依据,通过事先学习获取的先验知识对输入图像中缺失的高频信息进行搜索匹配补充。目前这一类方法中有代表性的是:Freeman等人通过使用置信传播算法提高邻域一致性约束提出的MRF模型(多重参考模型)方法,Chang等人受来自流形学习的LLE算法(局部线性嵌入算法)的启发而发展起的邻域嵌入方法,Yang等人的稀疏表示算法,等等。这些算法的性能各不相同,但都毫无例外地全部将字典图像块视为一个固定不变的向量,字典图像块并不能在重建过程中动态地调整自身几何结构特征以适应低分辨率输入图像,由此在匹配精度上无法做到更大的提高。且当前大多数算法均不能实现自适应地对邻域匹配有贡献的邻近图像块,无法做到匹配误差的最小化。另外目前的算法在处理图像的低频段信息时过于简单,大多仅仅是减掉自身均值即完成去低频过程,这种方式并不能充分消除来自原图像中低频基本内容的干扰。
发明内容
针对上述问题,本发明提出了一种解决办法,可在算法重建的过程中在线更新调整邻域图像块的几何结构以适应输入图像,并且在邻域匹配时可以发现对最小化匹配误差起作用的潜在邻近图像块,识别并排除邻域内的异常图像块。
为了实现上述目的,本发明提供的一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法,具体包括以下步骤:
S1:首先进行离线字典(数据库)训练学习,对训练图像集中的高分辨率图像和对应的低分辨率图像进行特征学习,并对学习结果进行PCA降维和和K均值聚类处理以形成字典;
S2:将低分辨率输入图像从RGB颜色空间转换到YCbCr颜色空间,进行双三次线性插值以形成初始高分辨率图像mIm,然后提取初始高分辨率图像mIm的亮度分量mIm_Y和色度分量mIm_CbCr;
S3:计算亮度分量mIm_Y的梯度特征,对其提取图像块后进行与步骤S1中相同的PCA降维处理;从亮度分量mIm_Y中提取图像块之后计算方向梯度直方图特征,根据当前输入图像块的方向梯度直方图特征,从字典中选择合适的聚类子集;
S4:从步骤S3选择出的聚类子集中,使用输入图像块的梯度特征,按照稀疏邻域嵌入方式迭代选择若干个邻域,在选择邻域低分辨率图像块的同时确定其对应的权值w;
S5:利用光流法计算步骤S4中选择出的邻域的低分辨率图像块与低分辨率输入图像块之间的光流场速度矢量,并根据光流场速度矢量值迭代调整邻域图像块的几何结构特征;
S6:将步骤S5调整后的每个图像块的梯度特征对应的处理后的邻域高分辨率图像块加权组合后作为最终匹配结果;
S7:将最终匹配结果复制到亮度分量mIm_Y的对应位置,得到高分辨率重建图像的亮度分量;
S8:将步骤S2得到的色度分量mIm_CbCr作为重建图像的色度分量,将步骤S7得到的亮度分量mIm_Y作为重建图像的亮度分量,将重建图像由YCbCr颜色空间转换到RGB颜色空间,即完成单图像超分辨率重建过程。
进一步地,步骤S1具体包括:
S11:将训练集图像从RGB颜色空间转换到YCbCr颜色空间,并将其亮度分量作为高分辨率图像,对高分辨率图像进行降采样和双三次线性插值升采样处理后形成对应的低分辨率图像;
S12:从低分辨率图像中提取图像块后计算HOG特征(方向梯度直方图特征);
S13:使用梯度算子计算低分辨率图像的梯度特征,从梯度特征中提取图像块后使用PCA算法将所有梯度特征图像块进行降维处理,以去除其中的冗余信息和图像噪声;
S14:从步骤S11中高分辨率图像和低分辨率图像中分别提取高分辨率图像块和低分辨率图像块,将其与步骤S12的HOG特征图像块和S13中的梯度特征图像块一起组成字典中的学习样本;
S15:使用K均值方法将步骤S14的处理结果按照HOG特征进行聚类,将学习样本分成若干个聚类子集;
S16:保存步骤S15聚类处理的结果作为重建时的字典。
进一步地,步骤S4具体包括:
S41:根据算法设置的邻域最大个数K确定稀疏邻域嵌入过程中的稀疏度λ;
S42:在选择K个邻域图像块的迭代过程中,计算输入梯度特征图像块与字典学习样本中梯度特征图像块之间的欧氏距离,记录对应欧式距离最小的字典样本的索引,同时根据稀疏度λ更新权值以赋予当前选择出的邻域图像块;之后根据稀疏度和当前邻域更新输入梯度特征图像块以用于下一次迭代;
S43:对步骤S42中得到的所有邻域图像块对应的权值进行降序排序和归一化;
S44:识别步骤S43中权值序列中的异常值,将其赋值为0,以将对应的邻域内异常样本排除在重建过程之外;
S45:根据步骤S44处理后的有效权值的索引,从字典中提取出对应的高样本分辨率图像块和低分辨率图像块。
进一步地,步骤S5具体包括:
S51:在每一次迭代中,将步骤S4中得到的每个邻域低分辨率图像块作为光流法模型中的前一帧图像,将低分辨率输入图像块作为后一帧图像,计算两帧图像的光流场速度矢量(u,v),根据光流场速度矢量(u,v)对邻域低分辨率图像块和高分辨率图像块同步进行运动估计,调整其几何特征结构;
S52:计算调整后的邻域低分辨率图像块与低分辨率输入图像块之间的欧式距离,若欧氏距离为当前迭代过程中的最小值,则暂存此次迭代的邻域高分辨率图像块;
S53:若没有达到设置的迭代次数,则转到步骤S51进行下一次迭代;反之则结束迭代,输出暂存的邻域高分辨图像块。
进一步地,步骤S51具体包括:
S511:标准化邻域低分辨率图像块、邻域高分辨率图像块和低分辨率输入图像块;
S512:根据图像超分辨率重建的一个基本约束:重建后的高分辨率图像经相同降采样过程后应与输入低分辨率图像保持一致,将这一基本约束与一个基于图像平滑假设的先验项结合后,可形成一个能量函数:
其中:
Px=DHdiag(Bhx)
Py=DHdiag(Bhy)
其中,D为降采样矩阵,H为模糊矩阵,Bh为邻域高分辨率图像块,Bhx和Bhy分别为邻域高分辨率图像块沿x方向和沿y方向的梯度,Pl为未标准化的低分辨率输入图像块,α,β分别是Pl的标准差和平均值,Pd为邻域低分辨率图像块与输入图像块之间的差值,Px,Py分别为邻域低分辨率图像块沿x方向和沿y方向的梯度,为先验项,是一个运动先验,以调整图像灰度变化;▽和▽2分别表示梯度操作符和拉普拉斯操作符,μ、λ和η分别是控制各先验成分贡献的调整常数;
S513:最小化能量函数E(u,v)是一个l2范数问题,设定l2范数问题迭代系数w=1.2,w1=1之后,使用迭代法计算光流场速度矢量(u,v)的解的迭代形式为:
本发明所公布的一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法,通过在重建过程中使用光流法计算出的光流场速度矢量动态调整匹配字典图像块的几何特征结构,充分发挥了有限样本数量字典的图像几何特征表现能力,提高了字典学习的有效性和泛化能力;使用稀疏邻域嵌入方式自适应地发现对邻域匹配有贡献的邻近图像块,有助于最小化匹配误差,且能有效发现并排除邻域内的异常字典图像块。在重建之初和字典学习训练期间进行的图像频段分割,可以使有效区分一幅图像的低频基本内容和高频几何结构,在充分摆脱低频内容干扰的前提下进行更有效,匹配更准确的超分辨率重建。
附图说明
通过参考附图会更加清楚地理解本发明的特征和优点,附图是示意性的而不应理解为对本发明进行任何限制,在附图中:
图1示出了本发明实施例中的一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法的步骤流程图;
图2示出了本发明的图像重建过程的总体框架图;
图3~图6分别示出了本发明其他算法在相同条件下处理图像的主观效果;
图3(a)-(e)为各种算法对girl图像的重建效果;
图4(a)-(e)各种算法对Butterfly图像的重建效果;
图5(a)-(e)各种算法对lena图像的重建效果;
图6(a)-(e)各种算法对Parrots图像的重建效果。
具体实施方式
下面将结合附图对本发明的实施例进行详细描述。
如图1所示,本发明提供了一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法,包括以下具体步骤:
S1:通过离线方式的字典训练学习,对预备的训练图像集中的高分辨率图像和对应的低分辨率图像进行高分辨率图像和低分辨率图像对应特征的学习,并使用PCA降维算法和k-means聚类方法进一步处理学习过程采集到地数据,以形成字典。图2是字典学习训练过程的总体框架图。其中:
S11:将训练集图像从RGB颜色空间转换到YCbCr颜色空间,并将其亮度分量作为高分辨率图像,对高分辨率图像进行降采样和双三次线性插值升采样处理后形成对应的低分辨率图像;
S12:从低分辨率图像中提取图像块后计算方向梯度直方图特征;
S13:使用梯度算子计算低分辨率图像的梯度特征,从梯度特征中提取图像块后使用PCA算法将所有梯度特征图像块进行降维处理,以去除其中的冗余信息和图像噪声;
S14:从步骤S11中得到高分辨率图像和低分辨率图像中分别提取高分辨率图像块和低分辨率图像块,并从低分辨率图像对应位置提取HOG特征图像块,将其与步骤S12中的方向梯度直方特征图像块和步骤S13中的梯度特征图像块一起组成字典中的学习样本;
S15:使用k均值聚类方法将步骤S14的处理结果按照HOG特征进行聚类,将学习样本分成若干个聚类子集;
S16:保存步骤S15聚类处理的结果作为重建时的字典。
S2:将低分辨率输入图像从RGB颜色空间转换到YCbCr颜色空间,进行双三次线性插值以形成初始高分辨率图像mIm,然后提取初始高分辨率图像mIm的亮度分量mIm_Y和色度分量mIm_CbCr。
S3:计算亮度分量mIm_Y的梯度特征。从梯度特征中提取图像块后,对其进行与步骤S1相同的PCA算法降维处理。从亮度分量mIm_Y中提取图像块后计算HOG特征。根据当前输入图像块的HOG特征,从字典中选择合适的聚类子集。
S4:从步骤S3选择出的聚类子集中,使用输入图像块的梯度特征,按照邻域嵌入方式迭代选择若干个邻域,在选择邻域低分辨率图像块的同时确定其对应的权值w。其中:
S41:根据算法设置的邻域最大个数K确定稀疏邻域嵌入过程中的稀疏度λ;
S42:在选择K个邻域图像块的迭代过程中,计算输入梯度特征图像块与字典学习样本中梯度特征图像块之间的欧氏距离,记录对应欧式距离最小的字典样本的索引,同时根据稀疏度λ更新权值以赋予当前选择出的邻域;之后根据稀疏度和当前邻域更新输入梯度特征图像块以用于下一次迭代;
S43:对步骤S42中得到的所有邻域对应的权值进行降序排序和归一化;
S44:识别步骤S43中权值序列中的异常值,将其赋值为0,以将对应的邻域内异常样本排除在重建过程之外;
S45:根据S44步骤处理后的有效权值的索引,从字典中提取出对应的高分辨率图像块和低分辨率图像块样本。
S5:利用光流法计算步骤S4中选择出的低分辨邻域图像块与低分辨率输入图像块之间的光流场速度矢量,并根据光流场速度矢量值迭代调整邻域图像块的几何结构特征。其中:
S51:在每次迭代中,将步骤S4中得到的每个邻域图像块作为光流法模型中的前一帧图像,将低分辨率输入图像块作为后一帧图像,计算两帧图像的光流场速度矢量(u,v),根据光流场速度矢量(u,v)对邻域低分辨率图像块和邻域高分辨率图像块同步进行运动估计,调整其几何特征结构;
S511:标准化邻域低分辨率图像块、邻域高分辨率图像块以及低分辨率输入图像块;
S512:计算Pd=低分辨率邻域图像块─输入图像块,计算低分辨率邻域图像块沿x方向和沿y方向的梯度Px,Py。
根据图像超分辨率重建的一个基本约束:重建后的高分辨率图像经相同降采样过程后应与输入低分辨率图像保持一致。将这一基本约束与一个基于图像平滑假设的先验项结合后,可形成一个能量函数:
其中:
Px=DHdiag(Bhx)
Py=DHdiag(Bhy)
其中,D为降采样矩阵,H为模糊矩阵,Bh为高分辨率邻域图像块,Bhx和Bhy分别为高分辨率邻域图像块沿x方向和沿y方向的梯度,Pl为未标准化的低分辨率输入图像块,α,β分别是Pl的标准差和平均值,Pd为低分辨率邻域图像块与输入图像块之间的差值,Px,Py分别为邻域低分辨率图像块沿x方向和沿y方向的梯度,为先验项,是一个运动先验,以调整图像灰度变化;▽和▽2分别表示梯度操作符和拉普拉斯操作符,μ、λ和η是控制各先验成分贡献的调整常数;
S513:最小化能量函数E(u,v)是一个l2范数问题,设定l2范数计算系数w=1.2,w1=1之后,使用迭代法计算光流场速度矢量(u,v)的解的迭代形式为:
S52:计算调整后的低分辨率邻域图像块与低分辨率输入图像块之间的欧式距离,若欧氏距离为当前迭代过程中的最小值,则暂存此次迭代的高分辨率邻域图像块;
S53:若没有达到设置的迭代次数,则转到S51进行下一次迭代,反之则结束迭代,输出暂存的邻域高分辨图像块。
S6:将步骤S5中每个输入图像块对应的处理后的高分辨邻域图像块加权组合后作为最终匹配结果。
S7:将步骤S6中的最终匹配结果复制到亮度分量mIm_Y的对应位置,得到高分辨率重建图像的亮度分量mIm_Y。
S8:将步骤S2得到的色度分量mIm_CbCr作为重建图像的色度分量,将步骤S7得到的亮度分量mIm_Y作为重建图像的亮度分量,将重建结果由YCbCr颜色空间转换到RGB颜色空间,即完成单图像超分辨率重建过程。
图2是上述图像重建过程的总体框架图。
为验证本发明的性能,以下给出了本发明在不同训练图像集的情况下的性能表现和在相同条件下与其他算法性能相比较的结果。
为客观评价本发明算法的有效性,实验选取了6个具有代表性的超分辨率算法作为比较对象,分别是Bicubic(基于插值的超分辨率重建算法)、NE(邻域嵌入算法)、ScSr(基于稀疏表示的超分辨率重建算法)、SPNE(稀疏邻域嵌入图像重建算法)、DPSR(基于可变patch的单图像超分辨率重建算法),并从客观性能参数和主观质量两个方面来比较不同算法的重建特点。本次实验的客观性能参数选择PSNR、SSIM和FSIM三个方面的性能指标,放大倍数为3倍。
表1是不同算法重建图像的性能对比结果。其中每个图像名所对应的三行分别是PSNR、SSIM和FSIM值。
表1 不同算法的性能指标对比表
从表中可以看出,本文提出的算法能够获得比Bicubic算法、NE算法、ScSr算法、SPNE算法和DPSR算法更好的实验性能结果。而且从算法模型复杂性而言,本文所提出的算法的模型更加简单明了,易于实现。
因为客观性能参数是从数学计算的角度评价一幅图像的整体重建性能的,但有时这种评价方法可能与人观察一幅图像时的主观感受之间存在差异。为此,本章列举了几幅实验过程中的图像视觉效果,以从人眼的角度主观评价一幅图像的重建效果质量。
实验中本文算法的比较对象是ScSr算法、SPNE算法和DPSR算法。实验时三种算法采用了相同的训练集,放大倍数均为3倍。图3(a)、图4(a)、图5(a)和图6的(a)分别为原高分辨率图像,图3(b)~(e)、图4(b)~(e)、图5(b)~(e)、和图6(b)~(e)分别是ScSr、SPNE、DPSR和本发明算法的超分辨率重建结果。
如图3~图6中的(c)图所示,SPNE算法产生了更自然的边沿,但却难以避免模糊和块效应,例如在图6(c)中鹦鹉的眼睛处,这是因为字典是固定的,只能有限地支持输入图像块。相同的模糊现象在图4(c)中蝴蝶翅膀的纹理之间也可以更明显地观察到。
SPNE算法由于摒弃了严格固定的邻域个数的限制,能有效减小重建误差,而且采用了一种改进后的迭代反向投影方法,能够获取迭代期间的最佳结果,因此重建效果要更好。与图4(b)中ScSr的Butterfly重建效果相比,SPNE算法在保证蝴蝶翅膀纹理更自然方面做的更好,块效应也得到很好的抑制。但却可能造成一些图像细节内容的丢失,例如图3(c)中头发缝隙中漏出的小疙瘩,与原图像相比,重建图像的这一细节几乎观察不到。
相同的缺陷也发生在DPSR算法的重建图像上,因为DPSR算法的最终变形结果取最后一次迭代数据,由此可能错过变形期间可能出现的最佳变形结果,造成重建效果上的损失,造成性能上的降低。例如在图5(d)的重建图像中lena的帽子上的纹理距离原高分辨率图像仍有一段差距。
本发明中的邻域嵌入选择字典匹配图像块的方式,在选择与输入图像块最匹配的字典样本时可扩大邻域个数到一个相对较大的范围,避免欠拟合或过拟合现象。在基于光流法的调整选择出的高分辨率图像块的几何结构时可充分挖掘字典图像块的表现能力,以摆脱字典图像块几何结构固定的限制,提高匹配图像块与输入图像块在几何结构上的相似度,更进一步提高了重建性能。另外本发明在后处理时使用了一种对图像结构破坏更小的非局部均值滤波算法,因此在重建后的去模糊环节也更胜一筹,这一优点可从图6(e)中鹦鹉眼睛周围的条纹之间的可分辨程度上体会到。而且,相比之下本发明在图像保真程度上做的也很好,这可以从图3(a)-(e)中girl的脸上的斑点看出。其他算法重建结果上这些斑点已经被模糊而无法明显察觉,失掉了这些图形细节内容。
本发明所公布的一种基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法,使用邻域嵌入时能够在查找邻域的同时确定其对应权值,提高了邻域嵌入的效率;通过将光流法模型应用于单图像超分辨率问题,在重建中动态调整匹配字典图像块的几何特征结构,提高了字典图像块的泛化能力。这一系列措施提升了重建匹配的准确性,使重建图像更加自然真实。
以上实施方式仅用于说明本发明,并非对本发明的限制,有关技术领域的普通技术人员在不脱离本发明的精神和范围的情况下,还可以做出各种的改进和变型,因此所有等同的技术方案也属于本发明的范畴,本发明的专利保护范围应由权利要求限定。
Claims (5)
1.基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法,其特征在于,包括以下步骤:
S1:首先进行离线字典训练学习,对训练图像集中的高分辨率图像和对应的低分辨率图像进行特征学习,并对学习结果进行PCA降维和K均值聚类处理以形成字典;
S2:将低分辨率输入图像从RGB颜色空间转换到YCbCr颜色空间,进行双三次线性插值以形成初始高分辨率图像mIm,然后提取初始高分辨率图像mIm的亮度分量mIm_Y和色度分量mIm_CbCr;
S3:计算亮度分量mIm_Y的梯度特征,对其提取图像块后进行与步骤S1中相同的PCA降维处理;从亮度分量mIm_Y中提取图像块之后计算其方向梯度直方图特征,根据当前输入图像块的方向梯度直方图特征,从字典中选择合适的聚类子集;
S4:从步骤S3选择出的聚类子集中,使用输入图像块的梯度特征,按照稀疏邻域嵌入方式迭代选择若干个邻域,在选择邻域低分辨率图像块的同时确定其对应的权值w;
S5:利用光流法计算步骤S4中选择出的邻域低分辨率图像块与低分辨率输入图像块之间的光流场速度矢量,并根据光流场速度矢量值迭代调整邻域图像块的几何结构特征;
S6:将步骤S5调整后的每个输入图像块的梯度特征对应的处理后的邻域高分辨率图像块加权组合后作为最终匹配结果;
S7:将最终匹配结果复制到亮度分量mIm_Y的对应位置,以生成高分辨率重建图像的亮度分量;
S8:将步骤S2得到的色度分量mIm_CbCr作为重建图像的色度分量,将步骤S7得到的亮度分量mIm_Y作为重建图像的亮度分量,将重建图像由YCbCr颜色空间转换到RGB颜色空间,即完成单图像超分辨率重建过程。
2.如权利要求1所述的方法,其特征在于,所述步骤S1进一步包括:
S11:将训练集图像从RGB颜色空间转换到YCbCr颜色空间,并将其亮度分量作为高分辨率图像,对高分辨率图像进行降采样和双三次线性插值升采样处理后得到对应的低分辨率图像;
S12:从低分辨率图像中提取图像块后计算方向梯度直方图特征;
S13:使用梯度算子计算低分辨率图像的梯度特征,从梯度特征中提取图像块后使用PCA算法将所有梯度特征图像块进行降维处理,以去除其中的冗余信息和图像噪声;
S14:从步骤S11中得到的高分辨率图像和低分辨率图像中分别提取高分辨率图像块和低分辨率图像块,将其与步骤S12的方向梯度直方图特征图像块和步骤S13中的梯度特征图像块一起组成字典中的学习样本;
S15:使用K均值聚类方法将步骤S14的处理结果按照方向梯度直方图特征进行聚类,将学习样本分成若干个聚类子集;
S16:保存步骤S15聚类处理的结果作为重建时的字典。
3.如权利要求1所述的方法,其特征在于,所述步骤S4进一步包括:
S41:根据算法设置的邻域最大个数K确定稀疏邻域嵌入过程中的稀疏度λ;
S42:在选择K个邻域图像块的迭代过程中,计算输入梯度特征图像块与字典学习样本中梯度特征图像块之间的欧氏距离,记录对应欧式距离最小的字典样本的索引,同时根据稀疏度λ更新权值以赋予当前选择出的邻域图像块;之后根据稀疏度和当前邻域更新输入梯度特征图像块以用于下一次迭代;
S43:对步骤S42中得到的所有邻域图像块对应的权值进行降序排序和归一化;
S44:识别步骤S43中权值序列中的异常值,将其赋值为0,以将对应的邻域内异常样本排除在重建过程之外;
S45:根据步骤S44处理后的有效权值的索引,从字典中提取出对应的样本高分辨率图像块和低分辨率图像块。
4.如权利要求1所述的方法,其特征在于,所述步骤S5进一步包括:
S51:在每一次迭代中,将步骤S4中得到的每个邻域低分辨率图像块作为光流法模型中的前一帧图像,将低分辨率输入图像块作为后一帧图像,计算两帧图像的光流场速度矢量(u,v),根据光流场速度矢量(u,v)对邻域低分辨率图像块和高分辨率图像块同步进行运动估计,同时调整其几何特征结构;
S52:计算调整后的邻域低分辨率图像块与低分辨率输入图像块之间的欧式距离,若欧氏距离为当前迭代过程中的最小值,则暂存此次迭代的邻域高分辨率图像块;
S53:若没有达到设置的迭代次数,则转到步骤S51进行下一次迭代,反之则退出迭代,输出暂存的邻域高分辨图像块。
5.如权利要求1所述的方法,其特征在于,所述步骤S51进一步包括:
S511:标准化邻域低分辨率图像块、邻域高分辨率图像块和低分辨率输入图像块;
S512:根据图像超分辨率重建的一个基本约束:重建后的高分辨率图像经相同降采样过程后应与输入低分辨率图像保持一致,将这一基本约束与一个基于图像平滑假设的先验项结合后,可形成一个能量函数:
其中:
Px=DHdiag(Bhx)
Py=DHdiag(Bhy)
其中,D为降采样矩阵,H为模糊矩阵,Bh为邻域高分辨率图像块,Bhx和Bhy分别为邻域高分辨率图像块沿x方向和沿y方向的梯度,Pl为未标准化的低分辨率输入图像块,α,β分别是Pl的标准差和平均值,Pd为邻域低分辨率图像块与输入图像块之间的差值,Px,Py分别为邻域低分辨率图像块沿x方向和沿y方向的梯度,为先验项,是一个运动先验,以调整图像灰度变化;▽和▽2分别表示梯度操作符和拉普拉斯操作符,μ、λ和η分别是控制各先验成分贡献的调整常数;
S513:最小化能量函数E(u,v)是一个l2范数问题,设定l2范数问题迭代系数w,w1之后,使用迭代法计算光流场速度矢量(u,v)的解的迭代形式为:
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610619604.3A CN106157249A (zh) | 2016-08-01 | 2016-08-01 | 基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610619604.3A CN106157249A (zh) | 2016-08-01 | 2016-08-01 | 基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN106157249A true CN106157249A (zh) | 2016-11-23 |
Family
ID=57327805
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610619604.3A Pending CN106157249A (zh) | 2016-08-01 | 2016-08-01 | 基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106157249A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106709872A (zh) * | 2016-12-08 | 2017-05-24 | 中国人民解放军国防科学技术大学 | 一种快速图像超分辨率重构方法 |
CN106851105A (zh) * | 2017-03-08 | 2017-06-13 | 吕盼稂 | 一种录制高分辨率运动人脸图像的方法和装置 |
CN109671019A (zh) * | 2018-12-14 | 2019-04-23 | 武汉大学 | 一种基于多目标优化算法和稀疏表达的遥感影像亚像元制图方法 |
CN110503603A (zh) * | 2019-07-18 | 2019-11-26 | 江苏大学 | 一种基于引导上采样获得光场重对焦图像的方法 |
CN111627051A (zh) * | 2019-02-27 | 2020-09-04 | 中强光电股份有限公司 | 电子装置及用以估计光流的方法 |
CN111932463A (zh) * | 2020-08-26 | 2020-11-13 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备及存储介质 |
CN112082915A (zh) * | 2020-08-28 | 2020-12-15 | 西安科技大学 | 一种即插即用型大气颗粒物浓度检测装置及检测方法 |
CN112184549A (zh) * | 2020-09-14 | 2021-01-05 | 阿坝师范学院 | 基于时空变换技术的超分辨图像重建方法 |
WO2021169790A1 (zh) * | 2020-02-28 | 2021-09-02 | 南京林业大学 | 一种基于实用鲁棒pca的图像表示方法 |
CN113409193A (zh) * | 2021-06-18 | 2021-09-17 | 北京印刷学院 | 高光谱图像的超分辨率重建方法和装置 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104504672A (zh) * | 2014-12-27 | 2015-04-08 | 西安电子科技大学 | 基于NormLV特征的低秩稀疏邻域嵌入超分辨方法 |
CN105550988A (zh) * | 2015-12-07 | 2016-05-04 | 天津大学 | 基于改进邻域嵌入和结构自相似性的超分辨率重建算法 |
-
2016
- 2016-08-01 CN CN201610619604.3A patent/CN106157249A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104504672A (zh) * | 2014-12-27 | 2015-04-08 | 西安电子科技大学 | 基于NormLV特征的低秩稀疏邻域嵌入超分辨方法 |
CN105550988A (zh) * | 2015-12-07 | 2016-05-04 | 天津大学 | 基于改进邻域嵌入和结构自相似性的超分辨率重建算法 |
Non-Patent Citations (3)
Title |
---|
ROMAN ZEYDE等: "On Single Image Scale-Up using Sparse-Representation", 《CURVES AND SURFACES. 7TH INTERNATIONAL CONFERENCE》 * |
YU ZHU等: "Single Image Super-resolution using Deformable Patches", 《2014 IEEE CONFERENCE ON COMPUTER VISION AND PATTERN RECOGNITION》 * |
张凯兵: "基于广义稀疏表示的图像超分辨重建方法研究", 《中国博士学位论文全文数据集 信息科技辑》 * |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106709872B (zh) * | 2016-12-08 | 2018-06-29 | 中国人民解放军国防科学技术大学 | 一种快速图像超分辨率重构方法 |
CN106709872A (zh) * | 2016-12-08 | 2017-05-24 | 中国人民解放军国防科学技术大学 | 一种快速图像超分辨率重构方法 |
CN106851105A (zh) * | 2017-03-08 | 2017-06-13 | 吕盼稂 | 一种录制高分辨率运动人脸图像的方法和装置 |
CN109671019B (zh) * | 2018-12-14 | 2022-11-01 | 武汉大学 | 一种基于多目标优化算法和稀疏表达的遥感影像亚像元制图方法 |
CN109671019A (zh) * | 2018-12-14 | 2019-04-23 | 武汉大学 | 一种基于多目标优化算法和稀疏表达的遥感影像亚像元制图方法 |
CN111627051A (zh) * | 2019-02-27 | 2020-09-04 | 中强光电股份有限公司 | 电子装置及用以估计光流的方法 |
CN111627051B (zh) * | 2019-02-27 | 2023-12-15 | 中强光电股份有限公司 | 电子装置及用以估计光流的方法 |
US11532090B2 (en) | 2019-02-27 | 2022-12-20 | Coretronic Corporation | Electronic device and method for estimating optical flow |
TWI725398B (zh) * | 2019-02-27 | 2021-04-21 | 中強光電股份有限公司 | 電子裝置及用以估計光流的方法 |
CN110503603A (zh) * | 2019-07-18 | 2019-11-26 | 江苏大学 | 一种基于引导上采样获得光场重对焦图像的方法 |
CN110503603B (zh) * | 2019-07-18 | 2023-03-31 | 江苏大学 | 一种基于引导上采样获得光场重对焦图像的方法 |
WO2021169790A1 (zh) * | 2020-02-28 | 2021-09-02 | 南京林业大学 | 一种基于实用鲁棒pca的图像表示方法 |
CN111932463B (zh) * | 2020-08-26 | 2023-05-30 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备及存储介质 |
CN111932463A (zh) * | 2020-08-26 | 2020-11-13 | 腾讯科技(深圳)有限公司 | 图像处理方法、装置、设备及存储介质 |
CN112082915A (zh) * | 2020-08-28 | 2020-12-15 | 西安科技大学 | 一种即插即用型大气颗粒物浓度检测装置及检测方法 |
CN112082915B (zh) * | 2020-08-28 | 2024-05-03 | 西安科技大学 | 一种即插即用型大气颗粒物浓度检测装置及检测方法 |
CN112184549A (zh) * | 2020-09-14 | 2021-01-05 | 阿坝师范学院 | 基于时空变换技术的超分辨图像重建方法 |
CN112184549B (zh) * | 2020-09-14 | 2023-06-23 | 阿坝师范学院 | 基于时空变换技术的超分辨图像重建方法 |
CN113409193A (zh) * | 2021-06-18 | 2021-09-17 | 北京印刷学院 | 高光谱图像的超分辨率重建方法和装置 |
CN113409193B (zh) * | 2021-06-18 | 2023-07-04 | 北京印刷学院 | 高光谱图像的超分辨率重建方法和装置 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106157249A (zh) | 基于光流法和稀疏邻域嵌入的单图像超分辨率重建算法 | |
Zamir et al. | Learning enriched features for fast image restoration and enhancement | |
CN109191476B (zh) | 基于U-net网络结构的生物医学图像自动分割新方法 | |
CN108734659B (zh) | 一种基于多尺度标签的亚像素卷积图像超分辨率重建方法 | |
Zhang et al. | Adaptive residual networks for high-quality image restoration | |
CN112150354B (zh) | 联合轮廓增强与去噪统计先验的单幅图像超分辨率方法 | |
CN107610049B (zh) | 基于稀疏正则化技术和加权引导滤波的图像超分辨率方法 | |
CN110443763B (zh) | 一种基于卷积神经网络的图像阴影去除方法 | |
CN106204447A (zh) | 基于总变差分和卷积神经网络的超分辨率重建方法 | |
Gai et al. | Multi-focus image fusion method based on two stage of convolutional neural network | |
Xiong et al. | Unsupervised low-light image enhancement with decoupled networks | |
CN111080591A (zh) | 基于编码解码结构结合残差模块的医学图像分割方法 | |
CN113222875B (zh) | 一种基于色彩恒常性的图像和谐化合成方法 | |
CN116739899A (zh) | 基于saugan网络的图像超分辨率重建方法 | |
CN115115549B (zh) | 多支路融合注意力机制的图像增强模型、方法、设备及存储介质 | |
CN104063856A (zh) | 一种快速超分辨率图像重建方法和装置 | |
CN109636722A (zh) | 一种基于稀疏表示的在线字典学习超分辨率重建的方法 | |
CN110047075A (zh) | 一种基于对抗网络的ct图像分割方法 | |
CN108765287B (zh) | 一种基于非局部均值的图像超分辨率方法 | |
Mikaeli et al. | Single-image super-resolution via patch-based and group-based local smoothness modeling | |
Tan et al. | High dynamic range imaging for dynamic scenes with large-scale motions and severe saturation | |
CN113516604B (zh) | 图像修复方法 | |
CN109741258B (zh) | 基于重建的图像超分辨率方法 | |
CN116091312A (zh) | 一种低对比度图像联合增强和超分辨率重建方法 | |
Susan et al. | Deep learning inpainting model on digital and medical images-a review. |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20161123 |
|
WD01 | Invention patent application deemed withdrawn after publication |