CN110971841B - 图像处理方法、装置、存储介质及电子设备 - Google Patents
图像处理方法、装置、存储介质及电子设备 Download PDFInfo
- Publication number
- CN110971841B CN110971841B CN201911252972.9A CN201911252972A CN110971841B CN 110971841 B CN110971841 B CN 110971841B CN 201911252972 A CN201911252972 A CN 201911252972A CN 110971841 B CN110971841 B CN 110971841B
- Authority
- CN
- China
- Prior art keywords
- sub
- image
- region
- regions
- high dynamic
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 29
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 104
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 104
- 230000011218 segmentation Effects 0.000 claims abstract description 18
- 239000002131 composite material Substances 0.000 claims description 27
- 238000000034 method Methods 0.000 claims description 25
- 239000011159 matrix material Substances 0.000 claims description 14
- 238000004590 computer program Methods 0.000 claims description 12
- 238000009499 grossing Methods 0.000 claims description 10
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 claims description 7
- 238000001914 filtration Methods 0.000 claims description 7
- 230000009466 transformation Effects 0.000 claims description 7
- 238000003709 image segmentation Methods 0.000 claims description 4
- 230000002194 synthesizing effect Effects 0.000 claims description 3
- 230000003044 adaptive effect Effects 0.000 description 12
- 230000007613 environmental effect Effects 0.000 description 7
- 238000010586 diagram Methods 0.000 description 6
- 230000001960 triggered effect Effects 0.000 description 6
- 230000002238 attenuated effect Effects 0.000 description 5
- 238000012706 support-vector machine Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 238000005375 photometry Methods 0.000 description 2
- 230000035945 sensitivity Effects 0.000 description 2
- 230000007704 transition Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/265—Mixing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请实施例公开了一种图像处理方法、装置、存储介质及电子设备,其中,通过获取曝光参数不同的多个图像,然后分别对每一图像进行自适应分割,将每一图像分割为多个子区域,然后将图像内容相同的子区域组合为子区域集,得到多个子区域集,然后分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域,最后根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像。即,本申请实施例中,电子设备通过对图像进行局部区域对齐,从而消除“鬼影”,这样在进行高动态范围合成时,使得高动态范围合成的质量得以提高。
Description
技术领域
本申请涉及图像处理技术领域,具体涉及一种图像处理方法、装置、存储介质及电子设备。
背景技术
目前,人们的生活已离不开智能手机、平板电脑等电子设备,通过这些电子设备所提供的各种各样丰富的功能,使得人们能够随时随地的娱乐、办公等。比如,用户可以使用电子设备进行拍摄,如拍摄图像或录制视频等。因此,电子设备经常需要进行各种图像处理操作。比如,在进行高动态范围合成时,电子设备可以获取同一拍摄场景下多个图像,并将获取到的多个图像对齐后再做高动态范围合成。然而,相关技术在进行图像对齐时,图像对齐的效果仍然较差,影响了高动态范围合成的质量。
发明内容
本申请实施例提供了一种图像处理方法、装置、存储介质及电子设备,能够提高高动态范围合成的质量。
本申请实施例提供图像处理方法,应用于电子设备,该图像处理方法包括:
获取曝光参数不同的多个图像;
分别对每一图像进行自适应分割,将每一图像分割为多个子区域;
将图像内容相同的子区域组合为子区域集,得到多个子区域集;
分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域;
根据所述多个子区域集所对应的高动态合成子区域生成所述多个图像的高动态合成图像。
本申请实施例提供的图像处理装置,应用于电子设备,该图像处理装置包括:
图像获取模块,用于获取曝光参数不同的多个图像,并从所述多个图像中确定出参考图像;
图像分割模块,用于对所述参考图像以及所述多个图像中的其它图像进行自适应分割,将所述参考图像分割为多个第一子区域,以及将所述其它图像分割为多个第二子区域;
区域组合模块,用于将图像内容相同的第二子区域和第一子区域组合为子区域集,得到多个子区域集;
对齐合成模块,用于分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域;
图像生成模块,用于根据所述多个子区域集所对应的高动态合成子区域生成所述参考图像与所述其它图像的高动态合成图像。
本申请实施例提供的存储介质,其上存储有计算机程序,当所述计算机程序被处理器加载时执行如本申请任一实施例提供的图像处理方法。
本申请实施例提供的电子设备,包括处理器和存储器,所述存储器存有计算机程序,所述处理器通过加载所述计算机程序,用于执行如本申请任一实施例提供的图像处理方法。
本申请通过对图像进行局部区域对齐,从而消除“鬼影”,这样在进行高动态范围合成时,使得高动态范围合成的质量得以提高。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的图像处理方法的一流程示意图。
图2是本申请实施例中触发拍摄请求的示例图。
图3是本申请实施例中组合得到子区域集的示例图。
图4是本申请实施例中合成得到高动态合成图像的示意图。
图5是本申请实施例提供的图像处理方法的另一流程示意图。
图6是本申请实施例提供的图像处理装置的一结构示意图。
图7是本申请实施例提供的电子设备的一结构示意图。
具体实施方式
请参照图式,其中相同的组件符号代表相同的组件,本申请的原理是以实施在一适当的运算环境中来举例说明。以下的说明是通过所例示的本申请具体实施例,其不应被视为限制本申请未在此详述的其它具体实施例。
本申请实施例涉及一种图像处理方法、图像处理装置、存储介质以及电子设备,其中,该图像处理方法的执行主体可以是本申请实施例提供的图像处理装置,或者集成了该图像处理装置的电子设备,其中该图像处理装置可以采用硬件或者软件的方式实现。其中,电子设备可以是智能手机、平板电脑、掌上电脑、笔记本电脑、或者台式电脑等配置有处理器而具有处理能力的设备。
请参照图1,图1为本申请实施例提供的图像处理方法的流程示意图,本申请实施例提供的图像处理方法的具体流程可以如下:
在101中,获取曝光参数不同的多个图像。
本申请实施例中,电子设备可以在接收到触发的拍摄请求时,按照不同的曝光参数对拍摄场景进行拍摄,从而获得多个曝光参数不同的图像。其中,拍摄请求可以通过多种方式触发,如通过虚拟按键的方式触发,通过物理按键的方式触发,以及通过语音指令的方式触发等。
比如,请参照图2,用户在操作电子设备启动拍照类应用(比如电子设备的系统应用“相机”)之后,通过移动电子设备,使得电子设备的摄像头对准拍摄场景之后,可以通过点击应用界面提供的“拍照”按键(为虚拟按键)触发拍摄请求。
又比如,用户在操作电子设备启动拍照类应用之后,通过移动电子设备,使得电子设备的摄像头对准拍摄场景之后,可以说出语音指令“拍照”,触发拍摄请求,或者是直接点击电子设备设置的物理拍照按键,触发拍摄请求。
电子设备在接收到触发的拍摄请求之后,即刻响应接收到的拍摄请求,也即是按照不同的曝光参数对拍摄场景进行拍摄,将获取到对应拍摄场景的多个曝光参数不同的图像,其中,这些对应不同曝光参数的图像仅仅是因为曝光参数不同导致图像亮度信息不同,但这些图像的图像内容相同,也即同为拍摄场景的图像内容。其中,曝光参数包括但不限于感光度、快门速度以及光圈大小等。
作为一种可选的实施方式,电子设备在拍摄时,可以依序获取本地预存的N组不同曝光参数,在每次获取到一个曝光参数时,按照获取到的曝光参数,并结合其它拍摄参数对拍摄场景进行拍摄,以此类推,将拍摄得到对应N组不同曝光参数的多个图像。其中,电子设备依序获取预存的不同曝光参数可按照曝光参数导致图像的亮度信息由低到高的顺序获取。此外,拍摄得到的多个图像除曝光参数不同之外,其对应的其它拍摄参数均相同。
比如,电子设备本地预存有两组曝光参数,即第一曝光参数和第二曝光参数,其中,利用第一曝光参数拍摄得到图像的亮度较利用第二曝光参数拍摄得到的亮度低,则在响应接收到的拍摄请求时,首先获取到第一曝光参数,按照第一曝光参数并结合其它拍摄参数对拍摄场景进行拍摄,然后获取到第二曝光参数,按照第二曝光参数并结合其它拍摄参数对拍摄场景进行拍摄。
作为另一种可选的的实施方式,电子设备在拍摄时,可以采用包围曝光的方式对拍摄场景进行拍摄,具体的,首先对拍摄场景进行测光,得到拍摄场景的测光值,再根据预设的测光值和曝光参数的映射关系,确定测光值对应的曝光参数,并按照确定的曝光参数对拍摄场景进行拍摄;之后,在确定的曝光参数的基础上,按照预设的步长值对确定的曝光参数进行提升和衰减,分别按照提升的曝光参数和衰减的曝光参数对拍摄场景进行拍摄,从而得到对应不同曝光参数的多个图像。其中,对于提升和衰减曝光参数的次数不做限制,比如,可以衰减一次,提升一次,这样将得到三个曝光参数不同的图像;又比如,可以衰减两次,提升两次,这样将得到五个曝光参数不同的图像。
在102中,分别对每一图像进行自适应分割,将每一图像分割为多个子区域。
在获取到多个曝光参数不同的图像之后,电子设备按照预设的自适应分割算法对获取到的每一图像进行自适应分割,从而将每一图像分割为多个子区域。应当说明的是,划分得到子区域的个数与图像的实际内容相关,并不为固定值。
其中,对于采用何种自适应分割算法对获取到的图像进行自适应分割,本申请实施例中不做具体限制,可由本领域普通技术人员根据实际需要进行选取。
在103中,将图像内容相同的子区域组合为子区域集,得到多个子区域集。
由上可知,由于获取到的多个图像的整体图像内容相同,在将其分割为多个子区域后,不同图像在对应位置的子区域的图像内容也相同。
本申请实施例中,电子设备进一步将图像内容相同的子区域组合子区域集,由此得到多个子区域集。
比如,请参照图3,假设电子设备共获取到3个图像,分别为图像A、图像B以及图像C,然后,电子设备将图像A、图像B以及图像C均分割为3个区域,其中,图像A被分割为子区域1、子区域2和子区域3,图像B被分割为子区域4、子区域5各子区域6,图像C被分割为子区域7、子区域8和子区域9,然后,图像内容相同的子区域1、子区域4和子区域7被组合为子区域集1,图像内容相同的子区域2、子区域4和子区域8倍组合为子区域集2,图像内容相同的子区域3、子区域6和子区域9被组合为子区域集3。
在104中,分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域。
应当说明的是,虽然图像内容在整体上是相同的,但是可能由于电子设备在拍摄时的移动或者拍摄场景中物体自身的移动,导致图像中细节没有对齐。
因此,电子设备分别对齐每一子区域集。比如,对于每一子区域集,电子设备从中确定出参考子区域,然后将该子区域集中的非参考子区域与参考子区域对齐,从而实现该子区域集的对齐。
在对齐每一子区域集之后,对于每一子区域集,电子设备按照预先设定的高动态范围合成算法进行高动态范围合成,得到每一子区域集对应的高动态合成子区域。
其中,对于采用合成高动态范围合成算法进行高动态范围合成,本申请中不做具体限制,可由本领域普通技术人员根据实际需要进行选取。
在105中,根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像。
本申请实施例中,电子设备得到每一子区域集的高动态合成子区域之后,进一步根据多个子区域集所对应的高动态合成子区域生成获取到的多个图像的高动态合成图像。比如,请结合参照图3和图4,电子设备合成得到子区域集1对应的高动态合成子区域1,合成得到子区域集2对应的高动态合成子区域2,以及合成得到子区域集3对应的高动态合成子区域3,然后,电子设备根据各高动态合成子区域对应的原始子区域在原始图像中的位置,将高动态合成子区域1、高动态合成子区域2以及高动态合成子区域3拼接为一个新的图像,作为获取到的多个图像的高动态合成图像。
由上可知,本申请通过获取曝光参数不同的多个图像,然后分别对每一图像进行自适应分割,将每一图像分割为多个子区域,然后将图像内容相同的子区域组合为子区域集,得到多个子区域集,然后分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域,最后根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像。即,本申请实施例中,电子设备通过对图像进行局部区域对齐,从而消除“鬼影”,这样在进行高动态范围合成时,能够提高合成的质量。
在一实施例中,对齐每一子区域集,包括:
(1)从子区域集中确定出参考子区域;
(2)对参考子区域以及子区域集中的非参考子区域进行特征点识别,得到每一非参考子区域与参考子区域的匹配特征点对;
(3)根据每一非参考子区域对应的匹配特征点对求取单应性矩阵;
(4)根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与参考子区域对齐。
以下以对齐以子区域集的过程为例进行说明。
其中,电子设备首先从子区域集中确定出参考子区域,从而以该参考子区域为基准,将子区域集中的其他子区域与该参考子区域对齐,以实现该子区域集的对齐。应当说明的是,对于如何选取参考子区域,本申请中不做具体限制,比如,可以随机从子区域集中选取一子区域作为参考子区域,又比如,可以从子区域集中确定出清晰度最高的子区域作为参考子区域。
在确定出参考子区域之后,电子设备进一步按照预设的特征点识别算法对参考子区域和子区域集中的非参考子区域进行特征点识别,并对识别出的特征点进行匹配,得到每一非参考子区域与参考子区域的匹配特征点对。其中,对于采用何种特征点识别算法进行特征点识别,本申请中不做具体限制,可由本领域普通技术人员根据实际需要进行选取,包括但不限于SIFT算法和Harris角点算法等。
在匹配得到每一非参考子区域与参考子区域的匹配特征点对之后,电子设备进一步根据每一非参考子区域对应的匹配特征点对求取单应性矩阵,然后,根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与参考子区域对齐,由此实现子区域集的对齐。
在一实施例中,对每一子区域集进行高动态范围合成,包括:
(1)根据子区域集中相同像素位置的亮度信息,获取用于高动态范围合成的权重;
(2)根据前述权重对子区域集进行高动态范围合成。
本申请实施例中,考虑到同一子区域集中各子区域的曝光参数不同,不同子区域在中同一像素位置的亮度信息(比如亮度值)能够反映拍摄场景在不同曝光参数下的差异。因此,电子设备根据子区域集中相同像素位置的亮度信息即可分析得到对子区域集进行高动态范围合成的权重。
在确定出用于高动态范围合成的权重之后,即可根据该权重对子区域集进行高动态范围合成,从而得到对应的高动态合成子区域。
在一实施例中,根据前述权重对子区域集进行高动态范围合成,包括:
(1)对前述权重进行滤波处理,得到滤波后的权重;
(2)根据滤波后的权重对子区域集进行高动态范围合成。
应当说明的是,针对大多数场景仅仅需要对图像中的过曝部分和欠曝部分进行高动态合成,对正常曝光部分合成可能会带来局部细节的丢失等影响。
因此,本申请在进行高动态范围合成时,电子设备首先对权重进行滤波处理,滤除正常曝光部分对应的权重,得到滤波后的权重。然后,根据该滤波后的权重对子区域集进行高动态范围合成,即可得到对应的高动态合成子区域,该高动态合成子区域不仅具有高动态范围,更保留了局部细节。
在一实施例中,根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像之后,还包括:
根据高动态合成图像进行视频编码,得到高动态视频。
本申请实施例中,电子设备在合成得到高动态合成图像之后,还根据该高动态合成图像进行视频编码,以得到高动态合成视频。
其中,对于采用何种视频编码格式进行视频编码,本申请实施例中不做具体限制,可由本领域普通技术人员根据实际需要选取视频编码格式,包括但不限于H.264、H.265、MPEG-4等等。
在一实施例中,根据高动态合成图像进行视频编码,得到高动态视频,包括:
(1)对高动态合成图像进行平滑处理,得到平滑后的高动态合成图像;
(2)根据平滑后的高动态合成图像进行视频编码,得到高动态视频。
本申请实施例中,在根据高动态合成图像进行视频编码时,电子设备首先对高动态合成图像进行平滑处理,以得到平滑后的高动态合成图像。其中,对于采用何种平滑方式,本申请实施例中不做具体限制。
比如,在本申请实施例中,电子设备对于高动态合成图像中对应分割的子区域之间的相邻部分,采用双线性插值的方式来进行平滑处理,以使得高动态合成图像的子区域之间过渡更为平滑。
在一实施例中,获取曝光参数不同的多个图像,包括:
(1)当接收到针对拍摄场景的拍摄请求时,对拍摄场景进行逆光环境识别;
(2)当识别到拍摄场景处于逆光环境时,按照不同曝光参数对拍摄场景进行拍摄,得到曝光参数不同的多个图像。
本申请实施例中,考虑到如逆光环境等明暗相差太大的拍摄场景进行拍摄时,拍摄出来的图像更容易容易丢失明处和/或暗处的细节。因此,电子设备可以在接收到针对拍摄场景的拍摄请求时,对拍摄场景进行逆光环境识别,从而在识别到拍摄场景处于逆光环境时,按照不同曝光参数对拍摄场景进行拍摄,得到曝光参数不同的多个图像,并按照本申请以上实施例中提供的图像局部对齐合成的方式对齐并合成,从而得到拍摄场景的高动态范围图像,具体可参照以上实施例中的相关描述,此处不再赘述。
应当说明的是,对拍摄场景进行逆光环境识别可以通过多种方式实现,作为一种可选的实施方式,可以获取拍摄场景的环境参数,根据获取到的环境参数对拍摄场景进行逆光环境识别。
其中,由于电子设备与拍摄场景处于同一环境下,可以获取电子设备的环境参数,将电子设备的环境参数作为拍摄场景的环境参数。其中,环境参数包括但不限于时间信息,电子设备所处位置的时区信息、位置信息、天气信息,以及电子设备的方位信息等。在获取到拍摄场景的环境参数之后,可以将获取到的这些环境参数输入到预先训练的支持向量机分类器中,由该支持向量机分类器根据输入的环境参数进行分类,以判定拍摄场景是否处于逆光环境中。
作为另一种可选的实施方式,可以获取拍摄场景在预设通道的直方图信息,根据获取到的直方图信息对拍摄场景进行逆光环境识别。
其中,预设通道包括R、G、B三个通道,在获取拍摄场景的直方图信息时,可以获取到拍摄场景的预览图像,再获取预览图像在R、G、B三个通道的直方图信息,将获取到的R、G、B三个通道的直方图信息作为拍摄场景在预设通道的直方图信息。之后,对拍摄场景的直方图信息进行统计,得到统计结果。其中,具体统计不同亮度下的像素数量。在得到统计结果之后,判断统计结果是否满足预设条件,是则判定拍摄场景处于逆光环境,否则判定拍摄场景不处于逆光环境。比如,前述预设条件可以设置为:第一亮度区间和第二亮度区间的像素数量均达到预设数量阈值,且最低亮度小于第一预设亮度阈值和/或最高亮度大于第二预设亮度阈值,其中,预设数量阈值、第一预设亮度阈值和第二预设亮度阈值为经验参数,可由本领域普通技术人员根据实际需要取合适值。
本申请实施例中,当识别到拍摄场景处于逆光环境时,还可以根据当前的逆光程度设置多个不同的曝光参数,从而根据设置的多个不同的曝光参数对对拍摄场景进行拍摄,得到曝光参数不同的多个图像。
其中,逆光程度可由支持向量机分类器在输出拍摄场景是否处于逆光环境的结果,且输出结果为“逆光环境”时,同步输出对应的逆光程度。
电子设备在获取到支持向量机分类器输出的拍摄场景处于逆光环境的结果时,同时获取到支持向量机分类器输出的逆光程度,作为当前的逆光程度。之后,根据预存的逆光程度和曝光参数的映射关系,设置对应当前的逆光程度的多个不同的曝光参数。这样,电子设备在获取多个曝光参数不同的图像时,可以按照设置的多个曝光参数,分别对拍摄场景进行拍摄,得到对应不同曝光参数的多个图像,这样获取到的多个曝光参数不同的图像的亮度信息均不相同,从暗到亮均有,但多个曝光参数不同的图像的图像内容相同,也即同为拍摄场景的图像内容。
请参照图5,本申请提供的图像处理方法的流程还可以为:
在201中,电子设备获取曝光参数不同的多个图像。
本申请实施例中,电子设备可以在接收到触发的拍摄请求时,按照不同的曝光参数对拍摄场景进行拍摄,从而获得多个曝光参数不同的图像。其中,拍摄请求可以通过多种方式触发,如通过虚拟按键的方式触发,通过物理按键的方式触发,以及通过语音指令的方式触发等。
比如,请参照图2,用户在操作电子设备启动拍照类应用(比如电子设备的系统应用“相机”)之后,通过移动电子设备,使得电子设备的摄像头对准拍摄场景之后,可以通过点击应用界面提供的“拍照”按键(为虚拟按键)触发拍摄请求。
又比如,用户在操作电子设备启动拍照类应用之后,通过移动电子设备,使得电子设备的摄像头对准拍摄场景之后,可以说出语音指令“拍照”,触发拍摄请求,或者是直接点击电子设备设置的物理拍照按键,触发拍摄请求。
电子设备在接收到触发的拍摄请求之后,即刻响应接收到的拍摄请求,也即是按照不同的曝光参数对拍摄场景进行拍摄,将获取到对应拍摄场景的多个曝光参数不同的图像,其中,这些对应不同曝光参数的图像仅仅是因为曝光参数不同导致图像亮度信息不同,但这些图像的图像内容相同,也即同为拍摄场景的图像内容。其中,曝光参数包括但不限于感光度、快门速度以及光圈大小等。
作为一种可选的实施方式,电子设备在拍摄时,可以依序获取本地预存的N组不同曝光参数,在每次获取到一个曝光参数时,按照获取到的曝光参数,并结合其它拍摄参数对拍摄场景进行拍摄,以此类推,将拍摄得到对应N组不同曝光参数的多个图像。其中,电子设备依序获取预存的不同曝光参数可按照曝光参数导致图像的亮度信息由低到高的顺序获取。此外,拍摄得到的多个图像除曝光参数不同之外,其对应的其它拍摄参数均相同。
比如,电子设备本地预存有两组曝光参数,即第一曝光参数和第二曝光参数,其中,利用第一曝光参数拍摄得到图像的亮度较利用第二曝光参数拍摄得到的亮度低,则在响应接收到的拍摄请求时,首先获取到第一曝光参数,按照第一曝光参数并结合其它拍摄参数对拍摄场景进行拍摄,然后获取到第二曝光参数,按照第二曝光参数并结合其它拍摄参数对拍摄场景进行拍摄。
作为另一种可选的的实施方式,电子设备在拍摄时,可以采用包围曝光的方式对拍摄场景进行拍摄,具体的,首先对拍摄场景进行测光,得到拍摄场景的测光值,再根据预设的测光值和曝光参数的映射关系,确定测光值对应的曝光参数,并按照确定的曝光参数对拍摄场景进行拍摄;之后,在确定的曝光参数的基础上,按照预设的步长值对确定的曝光参数进行提升和衰减,分别按照提升的曝光参数和衰减的曝光参数对拍摄场景进行拍摄,从而得到对应不同曝光参数的多个图像。其中,对于提升和衰减曝光参数的次数不做限制,比如,可以衰减一次,提升一次,这样将得到三个曝光参数不同的图像;又比如,可以衰减两次,提升两次,这样将得到五个曝光参数不同的图像。
在202中,电子设备分别对每一图像进行自适应分割,将每一图像分割为多个子区域。
在获取到多个曝光参数不同的图像之后,电子设备按照预设的自适应分割算法对获取到的每一图像进行自适应分割,从而将每一图像分割为多个子区域。应当说明的是,划分得到子区域的个数与图像的实际内容相关,并不为固定值。
其中,对于采用何种自适应分割算法对获取到的图像进行自适应分割,本申请实施例中不做具体限制,可由本领域普通技术人员根据实际需要进行选取。
在203中,电子设备将图像内容相同的子区域组合为子区域集,得到多个子区域集。
由上可知,由于获取到的多个图像的整体图像内容相同,在将其分割为多个子区域后,不同图像在对应位置的子区域的图像内容也相同。
本申请实施例中,电子设备进一步将图像内容相同的子区域组合子区域集,由此得到多个子区域集。
比如,请参照图3,假设电子设备共获取到3个图像,分别为图像A、图像B以及图像C,然后,电子设备将图像A、图像B以及图像C均分割为3个区域,其中,图像A被分割为子区域1、子区域2和子区域3,图像B被分割为子区域4、子区域5各子区域6,图像C被分割为子区域7、子区域8和子区域9,然后,图像内容相同的子区域1、子区域4和子区域7被组合为子区域集1,图像内容相同的子区域2、子区域4和子区域8倍组合为子区域集2,图像内容相同的子区域3、子区域6和子区域9被组合为子区域集3。
在204中,对于每一子区域集,电子设备从子区域集中确定出参考子区域,并对参考子区域以及子区域集中的非参考子区域进行特征点识别,得到每一非参考子区域与参考子区域的匹配特征点对,根据每一非参考子区域对应的匹配特征点对求取单应性矩阵,以及根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与参考子区域对齐。
应当说明的是,虽然图像内容在整体上是相同的,但是可能由于电子设备在拍摄时的移动或者拍摄场景中物体自身的移动,导致图像中细节没有对齐。
因此,电子设备分别对齐每一子区域集。其中,电子设备首先从子区域集中确定出参考子区域,从而以该参考子区域为基准,将子区域集中的其他子区域与该参考子区域对齐,以实现该子区域集的对齐。应当说明的是,对于如何选取参考子区域,本申请中不做具体限制,比如,可以随机从子区域集中选取一子区域作为参考子区域,又比如,可以从子区域集中确定出清晰度最高的子区域作为参考子区域。
在确定出参考子区域之后,电子设备进一步按照预设的特征点识别算法对参考子区域和子区域集中的非参考子区域进行特征点识别,并对识别出的特征点进行匹配,得到每一非参考子区域与参考子区域的匹配特征点对。其中,对于采用何种特征点识别算法进行特征点识别,本申请中不做具体限制,可由本领域普通技术人员根据实际需要进行选取,包括但不限于SIFT算法和Harris角点算法等。
在匹配得到每一非参考子区域与参考子区域的匹配特征点对之后,电子设备进一步根据每一非参考子区域对应的匹配特征点对求取单应性矩阵,然后,根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与参考子区域对齐,由此实现子区域集的对齐。
在205中,电子设备根据子区域集中相同像素位置的亮度信息,获取用于高动态范围合成的权重,并对权重进行滤波处理,得到滤波后的权重。
在206中,电子设备根据滤波后的权重对子区域集进行高动态范围合成,得到对应的高动态合成子区域。
本申请实施例中,考虑到同一子区域集中各子区域的曝光参数不同,不同子区域在中同一像素位置的亮度信息(比如亮度值)能够反映拍摄场景在不同曝光参数下的差异。因此,电子设备根据子区域集中相同像素位置的亮度信息即可分析得到对子区域集进行高动态范围合成的权重。
在确定出用于高动态范围合成的权重之后,即可根据该权重对子区域集进行高动态范围合成,从而得到对应的高动态合成子区域。
应当说明的是,针对大多数场景仅仅需要对图像中的过曝部分和欠曝部分进行高动态合成,对正常曝光部分合成可能会带来局部细节的丢失等影响。
因此,本申请在进行高动态范围合成时,电子设备首先对权重进行滤波处理,滤除正常曝光部分对应的权重,得到滤波后的权重。然后,根据该滤波后的权重对子区域集进行高动态范围合成,即可得到对应的高动态合成子区域,该高动态合成子区域不仅具有高动态范围,更保留了局部细节。
在207中,电子设备根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像。
本申请实施例中,电子设备得到每一子区域集的高动态合成子区域之后,进一步根据多个子区域集所对应的高动态合成子区域生成获取到的多个图像的高动态合成图像。比如,请结合参照图3和图4,电子设备合成得到子区域集1对应的高动态合成子区域1,合成得到子区域集2对应的高动态合成子区域2,以及合成得到子区域集3对应的高动态合成子区域3,然后,电子设备根据各高动态合成子区域对应的原始子区域在原始图像中的位置,将高动态合成子区域1、高动态合成子区域2以及高动态合成子区域3拼接为一个新的图像,作为获取到的多个图像的高动态合成图像。
在208中,电子设备对高动态合成图像进行平滑处理,得到平滑后的高动态合成图像。
本申请实施例中,电子设备在得到高动态合成图像之后,还对高动态合成图像进行平滑处理,以得到平滑后的高动态合成图像。其中,对于采用何种平滑方式,本申请实施例中不做具体限制。
比如,在本申请实施例中,电子设备对于高动态合成图像中对应分割的子区域之间的相邻部分,采用双线性插值的方式来进行平滑处理,以使得高动态合成图像的子区域之间过渡更为平滑。
在一实施例中,还提供了一种图像处理装置。请参照图6,图6为本申请实施例提供的图像处理装置的结构示意图。其中该图像处理装置应用于电子设备,该图像处理装置包括图像获取模块301、图像分割模块302、区域组合模块303、对齐合成模块304以及图像生成模块305,如下:
图像获取模块301,用于获取曝光参数不同的多个图像;
图像分割模块302,用于分别对每一图像进行自适应分割,将每一图像分割为多个子区域;
区域组合模块303,用于将图像内容相同的子区域组合为子区域集,得到多个子区域集;
对齐合成模块304,用于分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域;
图像生成模块305,用于根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像。
在一实施例中,在对齐每一子区域集时,对齐合成模块304用于:
从子区域集中确定出参考子区域;
对参考子区域以及子区域集中的非参考子区域进行特征点识别,得到每一非参考子区域与参考子区域的匹配特征点对;
根据每一非参考子区域对应的匹配特征点对求取单应性矩阵;
根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与参考子区域对齐。
在一实施例中,在对每一子区域集进行高动态范围合成时,对齐合成模块304用于:
根据子区域集中相同像素位置的亮度信息,获取用于高动态范围合成的权重;
根据前述权重对子区域集进行高动态范围合成。
在一实施例中,在根据前述权重对子区域集进行高动态范围合成时,用于:
对前述权重进行滤波处理,得到滤波后的权重;
根据滤波后的权重对子区域集进行高动态范围合成。
在一实施例中,本申请提供的图像处理装置还包括视频编码模块,在根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像之后,用于:
根据高动态合成图像进行视频编码,得到高动态视频。
在一实施例中,在根据高动态合成图像进行视频编码,得到高动态视频时,视频编码模块用于:
对高动态合成图像进行平滑处理,得到平滑后的高动态合成图像;
根据平滑后的高动态合成图像进行视频编码,得到高动态视频。
在一实施例中,在获取曝光参数不同的多个图像时,图像获取模块301用于:
当接收到针对拍摄场景的拍摄请求时,对拍摄场景进行逆光环境识别;
当识别到拍摄场景处于逆光环境时,按照不同曝光参数对拍摄场景进行拍摄,得到曝光参数不同的多个图像。
应当说明的是,本申请实施例提供的图像处理装置与上文实施例中的图像处理方法属于同一构思,在图像处理装置上可以运行图像处理方法实施例中提供的任一方法,其具体实现过程详见以上实施例,此处不再赘述。
在一实施例中,还提供一种电子设备,请参照图7,电子设备包括处理器401和存储器402。
本申请实施例中的处理器401是通用处理器,比如ARM架构的处理器。
存储器402中存储有计算机程序,其可以为高速随机存取存储器,还可以为非易失性存储器,比如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件等。相应地,存储器402还可以包括存储器控制器,以提供处理器401对存储器402中计算机程序的访问,实现如下功能:
获取曝光参数不同的多个图像;
分别对每一图像进行自适应分割,将每一图像分割为多个子区域;
将图像内容相同的子区域组合为子区域集,得到多个子区域集;
分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域;
根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像。
在一实施例中,在对齐每一子区域集时,处理器401用于执行:
从子区域集中确定出参考子区域;
对参考子区域以及子区域集中的非参考子区域进行特征点识别,得到每一非参考子区域与参考子区域的匹配特征点对;
根据每一非参考子区域对应的匹配特征点对求取单应性矩阵;
根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与参考子区域对齐。
在一实施例中,在对每一子区域集进行高动态范围合成时,处理器401用于执行:
根据子区域集中相同像素位置的亮度信息,获取用于高动态范围合成的权重;
根据前述权重对子区域集进行高动态范围合成。
在一实施例中,在根据前述权重对子区域集进行高动态范围合成时,处理器401用于执行:
对前述权重进行滤波处理,得到滤波后的权重;
根据滤波后的权重对子区域集进行高动态范围合成。
在一实施例中,在根据多个子区域集所对应的高动态合成子区域生成多个图像的高动态合成图像之后,处理器401还用于执行:
根据高动态合成图像进行视频编码,得到高动态视频。
在一实施例中,在根据高动态合成图像进行视频编码,得到高动态视频时,处理器401用于执行:
对高动态合成图像进行平滑处理,得到平滑后的高动态合成图像;
根据平滑后的高动态合成图像进行视频编码,得到高动态视频。
在一实施例中,在获取曝光参数不同的多个图像时,处理器401用于执行:
当接收到针对拍摄场景的拍摄请求时,对拍摄场景进行逆光环境识别;
当识别到拍摄场景处于逆光环境时,按照不同曝光参数对拍摄场景进行拍摄,得到曝光参数不同的多个图像。
应当说明的是,本申请实施例提供的电子设备与上文实施例中的图像处理方法属于同一构思,在电子设备上可以运行图像处理方法实施例中提供的任一方法,其具体实现过程详见特征提取方法实施例,此处不再赘述。
需要说明的是,对本申请实施例的图像处理方法而言,本领域普通测试人员可以理解实现本申请实施例的图像处理方法的全部或部分流程,是可以通过计算机程序来控制相关的硬件来完成,所述计算机程序可存储于一计算机可读取存储介质中,如存储在电子设备的存储器中,并被该电子设备内的处理器和/或专用语音识别芯片执行,在执行过程中可包括如图像处理方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储器、随机存取记忆体等。
以上对本申请实施例所提供的一种图像处理方法、装置、存储介质及电子设备进行了详细介绍,本文中应用了具体个例对本申请的原理及实施方式进行了阐述,以上实施例的说明只是用于帮助理解本申请的方法及其核心思想;同时,对于本领域的技术人员,依据本申请的思想,在具体实施方式及应用范围上均会有改变之处,综上所述,本说明书内容不应理解为对本申请的限制。
Claims (10)
1.一种图像处理方法,应用于电子设备,其特征在于,包括:
获取曝光参数不同的多个图像;
分别根据每一图像的图像内容对每一图像进行自适应分割,将每一图像分割为多个子区域;
将图像内容相同的子区域组合为子区域集,得到多个子区域集;
分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域;
根据所述多个子区域集所对应的高动态合成子区域生成所述多个图像的高动态合成图像。
2.根据权利要求1所述的图像处理方法,其特征在于,所述对齐每一子区域集,包括:
从所述子区域集中确定出参考子区域;
对所述参考子区域以及所述子区域集中的非参考子区域进行特征点识别,得到每一非参考子区域与所述参考子区域的匹配特征点对;
根据每一非参考子区域对应的匹配特征点对求取单应性矩阵;
根据每一非参考子区域对应的单应性矩阵进行仿射变换,以将每一非参考子区域与所述参考子区域对齐。
3.根据权利要求1所述的图像处理方法,其特征在于,所述对每一子区域集进行高动态范围合成,包括:
根据所述子区域集中相同像素位置的亮度信息,获取用于高动态范围合成的权重;
根据所述权重对所述子区域集进行高动态范围合成。
4.根据权利要求3所述的图像处理方法,其特征在于,所述根据所述权重对所述子区域集进行高动态范围合成,包括:
对所述权重进行滤波处理,得到滤波后的权重;
根据所述滤波后的权重对所述子区域集进行高动态范围合成。
5.根据权利要求1-4任一项所述的图像处理方法,其特征在于,所述根据所述多个子区域集所对应的高动态合成子区域生成所述多个图像的高动态合成图像之后,还包括:
根据所述高动态合成图像进行视频编码,得到高动态视频。
6.根据权利要求5所述的图像处理方法,其特征在于,所述根据所述高动态合成图像进行视频编码,得到高动态视频,包括:
对所述高动态合成图像进行平滑处理,得到平滑后的高动态合成图像;
根据所述平滑后的高动态合成图像进行视频编码,得到高动态视频。
7.根据权利要求1-4任一项所述的图像处理方法,其特征在于,所述获取曝光参数不同的多个图像,包括:
当接收到针对拍摄场景的拍摄请求时,对所述拍摄场景进行逆光环境识别;
当识别到所述拍摄场景处于逆光环境时,按照不同曝光参数对所述拍摄场景进行拍摄,得到曝光参数不同的多个图像。
8.一种图像处理装置,应用于电子设备,其特征在于,包括:
图像获取模块,用于获取曝光参数不同的多个图像;
图像分割模块,用于分别根据每一图像的图像内容对每一图像进行自适应分割,将每一图像分割为多个子区域;
区域组合模块,用于将图像内容相同的子区域组合为子区域集,得到多个子区域集;
对齐合成模块,用于分别对齐每一子区域集,并对每一子区域集进行高动态范围合成,得到对应的高动态合成子区域;
图像生成模块,用于根据所述多个子区域集所对应的高动态合成子区域生成所述多个图像的高动态合成图像。
9.一种存储介质,其上存储有计算机程序,其特征在于,当所述计算机程序被处理器加载时执行如权利要求1至7任一项所述的图像处理方法。
10.一种电子设备,包括处理器和存储器,所述存储器储存有计算机程序,其特征在于,所述处理器通过加载所述计算机程序,用于执行如权利要求1至7任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911252972.9A CN110971841B (zh) | 2019-12-09 | 2019-12-09 | 图像处理方法、装置、存储介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911252972.9A CN110971841B (zh) | 2019-12-09 | 2019-12-09 | 图像处理方法、装置、存储介质及电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110971841A CN110971841A (zh) | 2020-04-07 |
CN110971841B true CN110971841B (zh) | 2022-07-15 |
Family
ID=70033528
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911252972.9A Active CN110971841B (zh) | 2019-12-09 | 2019-12-09 | 图像处理方法、装置、存储介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110971841B (zh) |
Families Citing this family (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111083389B (zh) * | 2019-12-27 | 2021-11-16 | 维沃移动通信有限公司 | 一种拍摄图像的方法和装置 |
CN112017218B (zh) * | 2020-09-09 | 2024-08-02 | 杭州海康威视数字技术股份有限公司 | 一种图像配准方法、装置、电子设备及存储介质 |
CN112822426B (zh) * | 2020-12-30 | 2022-08-30 | 上海掌门科技有限公司 | 一种用于生成高动态范围图像的方法与设备 |
WO2023124201A1 (zh) * | 2021-12-29 | 2023-07-06 | 荣耀终端有限公司 | 图像处理方法与电子设备 |
CN114554050B (zh) * | 2022-02-08 | 2024-02-27 | 维沃移动通信有限公司 | 图像处理方法、装置和设备 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104469176A (zh) * | 2014-12-02 | 2015-03-25 | 安徽拓威科技有限公司 | 智能卡口防眩光装置及其控制方法 |
CN106303269A (zh) * | 2015-12-28 | 2017-01-04 | 北京智谷睿拓技术服务有限公司 | 图像采集控制方法和装置、图像采集设备 |
JP2017195645A (ja) * | 2017-08-07 | 2017-10-26 | 日本電気株式会社 | 映像符号化装置、映像復号装置、映像システム、映像符号化方法、及び映像符号化プログラム |
EP3340165A1 (en) * | 2016-12-20 | 2018-06-27 | Thomson Licensing | Method of color gamut mapping input colors of an input ldr content into output colors forming an output hdr content |
CN109166077A (zh) * | 2018-08-17 | 2019-01-08 | 广州视源电子科技股份有限公司 | 图像对齐方法、装置、可读存储介质及计算机设备 |
CN109242811A (zh) * | 2018-08-16 | 2019-01-18 | 广州视源电子科技股份有限公司 | 一种图像对齐方法及其装置、计算机可读存储介质和计算机设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104144298B (zh) * | 2014-07-16 | 2017-09-19 | 浙江宇视科技有限公司 | 一种宽动态图像合成方法 |
-
2019
- 2019-12-09 CN CN201911252972.9A patent/CN110971841B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104469176A (zh) * | 2014-12-02 | 2015-03-25 | 安徽拓威科技有限公司 | 智能卡口防眩光装置及其控制方法 |
CN106303269A (zh) * | 2015-12-28 | 2017-01-04 | 北京智谷睿拓技术服务有限公司 | 图像采集控制方法和装置、图像采集设备 |
EP3340165A1 (en) * | 2016-12-20 | 2018-06-27 | Thomson Licensing | Method of color gamut mapping input colors of an input ldr content into output colors forming an output hdr content |
JP2017195645A (ja) * | 2017-08-07 | 2017-10-26 | 日本電気株式会社 | 映像符号化装置、映像復号装置、映像システム、映像符号化方法、及び映像符号化プログラム |
CN109242811A (zh) * | 2018-08-16 | 2019-01-18 | 广州视源电子科技股份有限公司 | 一种图像对齐方法及其装置、计算机可读存储介质和计算机设备 |
CN109166077A (zh) * | 2018-08-17 | 2019-01-08 | 广州视源电子科技股份有限公司 | 图像对齐方法、装置、可读存储介质及计算机设备 |
Also Published As
Publication number | Publication date |
---|---|
CN110971841A (zh) | 2020-04-07 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110971841B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN108322646B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US10917571B2 (en) | Image capture device control based on determination of blur value of objects in images | |
EP3457683B1 (en) | Dynamic generation of image of a scene based on removal of undesired object present in the scene | |
CN108335279B (zh) | 图像融合和hdr成像 | |
CN108924420B (zh) | 图像拍摄方法、装置、介质、电子设备及模型训练方法 | |
CN110839129A (zh) | 图像处理方法、装置以及移动终端 | |
CN110620873B (zh) | 设备成像方法、装置、存储介质及电子设备 | |
CN109996009B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN104917973B (zh) | 动态曝光调整方法及其电子装置 | |
CN109729272B (zh) | 一种拍摄控制方法、终端设备及计算机可读存储介质 | |
CN107395957B (zh) | 拍照方法、装置、存储介质及电子设备 | |
CN104754227A (zh) | 一种拍摄视频的方法及装置 | |
CN110035237B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN110290299B (zh) | 成像方法、装置、存储介质及电子设备 | |
CN107623819A (zh) | 一种拍照的方法及移动终端和相关介质产品 | |
US10769416B2 (en) | Image processing method, electronic device and storage medium | |
CN112258380A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN111405185B (zh) | 一种摄像机变倍控制方法、装置、电子设备及存储介质 | |
CN113592753B (zh) | 基于工业相机拍摄的图像的处理方法、装置和计算机设备 | |
CN112367465B (zh) | 图像输出方法、装置及电子设备 | |
CN111192286A (zh) | 一种图像合成方法、电子设备及存储介质 | |
CN114390197A (zh) | 拍摄方法和装置、电子设备及可读存储介质 | |
CN111225144A (zh) | 视频拍摄方法、装置、电子设备及计算机存储介质 | |
CN108495038B (zh) | 图像处理方法、装置、存储介质及电子设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |