CN112907675B - 图像采集设备的标定方法、装置、系统、设备及存储介质 - Google Patents
图像采集设备的标定方法、装置、系统、设备及存储介质 Download PDFInfo
- Publication number
- CN112907675B CN112907675B CN201911135686.4A CN201911135686A CN112907675B CN 112907675 B CN112907675 B CN 112907675B CN 201911135686 A CN201911135686 A CN 201911135686A CN 112907675 B CN112907675 B CN 112907675B
- Authority
- CN
- China
- Prior art keywords
- image
- calibration
- plates
- camera
- calibration plates
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20112—Image segmentation details
- G06T2207/20164—Salient point detection; Corner detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- Length Measuring Devices By Optical Means (AREA)
Abstract
本申请实施例提供一种图像采集设备的标定方法、装置、系统、设备及存储介质。该标定方法包括:获取通过所述图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;分别检测所述多个标定板在所述图像中的角点;基于检测的角点对所述图像采集设备进行标定。本申请实施例的方法在标定过程中,可以节省采集并处理大量图像所耗费的人力物力。
Description
技术领域
本申请实施例涉及计算机视觉技术领域,尤其涉及一种图像采集设备的标定方法、装置、系统、设备及存储介质。
背景技术
随着计算机视觉技术的发展,为了得到更为准确的处理结果,对于数据处理所需的图像精度要求较高。即对于通过相机等图像采集设备采集到的图像的精度要求越来越高。以相机为例,图像精度会受到相机参数的影响。相机参数的精度越高,则图像的还原度会越好,也就意味着采集到的图像精度会越高。相机参数,则是通过相机标定来确定的。
目前已知的相机标定方法,主要是通过采集同一标定板在不同角度、不同距离的多张图像,之后依据这多张图像来完成标定过程。在实际操作过程中,标定人员可以通过多次移动标定板或是通过移动相机来实现多张图像的采集。为了得到较好的标定效果,往往需要采集大量图像用于相机标定,而大量图像的采集过程必然涉及标定人员多次调整标定板的摆放位置、相对于相机的角度等,或是需要标定人员频繁移动相机,以采集到的符合标定要求的大量图像,且后续处理过程需要占用大量处理资源,对采集到的大量图像进行处理,耗费人力物力。
发明内容
本申请实施例提供一种图像采集设备的标定方法、装置、系统、设备及存储介质,以解决标定过程中,需要占用过多人力物力采集并处理大量图像的技术问题。
第一方面,本申请实施例提供一种图像采集设备的标定方法,包括:获取通过所述图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;分别检测所述多个标定板在所述图像中的角点;基于检测的角点对所述图像采集设备进行标定。
可选的,所述图像采集设备为单目相机,所述图像包括通过所述单目相机采集的至少一张图像;所述基于检测的角点对所述图像采集设备进行标定,包括:根据检测的角点确定所述单目相机的内参。
可选的,所述图像采集设备为双目相机,所述图像包括通过所述双目相机的第一摄像头采集的第一图像,以及通过所述双目相机的第二摄像头采集的第二图像;所述基于检测的角点对所述图像采集设备进行标定,包括:将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配,并根据匹配成功的角点确定所述双目相机的内参。
可选的,所述将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配,包括:对所述第一图像和所述第二图像中的多个标定板进行匹配;将所述第一图像与所述第二图像中的多个标定板内的角点进行匹配。
可选的,所述分别检测所述多个标定板在所述图像中的角点,包括:确定所述图像中的候选角点;对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点。
可选的,所述对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点之后,所述方法还包括:基于标定板对格点的直线约束关系,对聚类后的角点位置进行校正。
可选的,所述对所述第一图像和所述第二图像中的多个标定板进行匹配,包括:确定所述第一图像和所述第二图像之间的视差;根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配。
可选的,所述确定所述第一图像和所述第二图像之间的视差,包括:确定所述多个标定板在所述第二图像中相对于在所述第一图像中的整体位移,并将所述整体位移确定为所述视差。
可选的,所述确定所述第一图像和所述第二图像之间的视差,包括:获取所述双目相机的双目视差,并将所述双目相机的双目视差确定为所述第一图像和所述第二图像之间的视差。
可选的,所述根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配,包括:确定所述第一图像中所述多个标定板中每个标定板的预设位置对应的第一位置坐标;根据所述第一位置坐标,以及所述第一图像和所述第二图像之间的视差,在所述第二图像中确定所述预设位置对应的第二位置坐标;确定所述第二图像中所述第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。
可选的,在所述根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配之后,所述方法还包括:根据所述第一图像中的所述检测到的角点坐标与所述视差,确定与所述第一图像中的角点对应的所述第二图像中的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,在所述根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配之后,所述方法还包括:在根据所述第一图像中的所述检测到的角点坐标与所述视差,未确定与所述第一图像中的角点对应的所述第二图像中的角点的情况下,对所述第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述图像采集设备部署在车辆上。
可选的,所述图像采集设备拍摄的图像包括完整的所述多个标定板。
第二方面,本申请实施例提供一种标定装置,包括:获取模块,用于获取通过所述图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;检测模块,用于分别检测所述多个标定板在所述图像中的角点;标定模块,用于基于检测的角点对所述图像采集设备进行标定。
可选的,所述图像采集设备为单目相机,所述图像包括通过所述单目相机采集的至少一张图像;所述标定模块基于检测的角点对所述图像采集设备进行标定时,具体包括:根据检测的角点确定所述单目相机的内参。
可选的,所述图像采集设备为双目相机,所述图像包括通过所述双目相机的第一摄像头采集的第一图像,以及通过所述双目相机的第二摄像头采集的第二图像;所述标定模块基于检测的角点对所述图像采集设备进行标定时,具体包括:将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配,并根据匹配成功的角点确定所述双目相机的内参。
可选的,所述标定模块将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配时,具体包括:对所述第一图像和所述第二图像中的多个标定板进行匹配;将所述第一图像与所述第二图像中的多个标定板内的角点进行匹配。
可选的,所述检测模块,还用于:确定所述图像中的候选角点;对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点。
可选的,所述装置还包括:校正模块,用于基于标定板对格点的直线约束关系,对聚类后的角点位置进行校正。
可选的,所述标定模块,还用于:确定所述第一图像和所述第二图像之间的视差;根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配。
可选的,所述标定模块,还用于:确定所述多个标定板在所述第二图像中相对于在所述第一图像中的整体位移,并将所述整体位移确定为所述视差。
可选的,所述标定模块,还用于:获取所述双目相机的双目视差,并将所述双目相机的双目视差确定为所述第一图像和所述第二图像之间的视差。
可选的,所述标定模块,还用于:确定所述第一图像中所述多个标定板中每个标定板的预设位置对应的第一位置坐标;根据所述第一位置坐标,以及所述第一图像和所述第二图像之间的视差,在所述第二图像中确定所述预设位置对应的第二位置坐标;确定所述第二图像中所述第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。
可选的,所述标定模块还用于:根据所述第一图像中的所述检测到的角点坐标与所述视差,确定与所述第一图像中的角点对应的所述第二图像中的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述标定模块还用于:在根据所述第一图像中的所述检测到的角点坐标与所述视差,未确定与所述第一图像中的角点对应的所述第二图像中的角点的情况下,对所述第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述图像采集设备部署在车辆上。
可选的,所述图像采集设备拍摄的图像包括完整的所述多个标定板。
第三方面,本申请实施例提供一种图像采集设备的标定系统,所述系统包括图像采集设备和多个标定板,所述多个标定板位于所述图像采集设备的视野范围内,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同。
第四方面,本申请实施例提供一种载体,包括:如第二方面所述的标定装置;载体本体;所述标定装置设置在所述载体本体上。
第五方面,本申请实施例提供一种标定设备,包括:存储器;处理器;以及计算机程序;其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现第一方面所述的方法。
第六方面,本申请实施例提供一种计算机可读存储介质,其上存储有计算机程序,所述计算机程序被处理器执行以实现第一方面所述的方法。
第七方面,本申请实施例提供一种计算机程序,包括计算机可读代码,当所述计算机可读代码在设备上运行时,所述设备中的处理器执行用于实现第一方面所述的方法的指令。
本申请实施例提供的一种图像采集设备的标定方法、装置、系统、设备及存储介质,该方法包括:基于通过图像采集设备采集到的图像,进行角点检测,以确定图像所包括的多个标定板的角点,之后基于检测到的角点对图像采集设备进行标定。其中,单张图像中包括多个相互之间不遮挡且位姿信息不同的标定板。
由于图像采集设备是在包含多个标定板的场景下采集到用于标定的图像,且多个标定板不仅位姿信息不同,而且相互之间也不存在遮挡,因此在图像采集过程中可以省去人工移动和/或旋转标定板或是人为移动图像采集设备所耗费的人力。并且,由于单张图像中包括了多个标定板,且每个标定板均可以用于对图像采集设备进行标定的过程,大幅减少了待处理的图像数量,从而节省了处理图像所占用的资源。
此外,由于单张图像所包括的信息量相当于现有技术中多张图像所包括的信息量,也就节省了采集图像所耗费的时间,同时,省去了现有技术中对多张图像进行筛选,以选出符合标定需求的图像的过程,即通过图像采集设备采集到的图像通常均可用于图像采集设备的标定过程,无需人为对采集的图像进行额外的筛选。
另外,在实际标定过程中,由于采集过程省去了人为调整标定板的过程,也就使图像采集过程中标定板全程处于静置状态,那么针对具备多摄像头的图像采集设备而言,就能有效降低对于多摄像头的同步性需求,从而提高标定精度。
附图说明
图1是现有技术中对相机标定的应用场景图;
图2A是本申请实施例的包括单目相机的图像采集设备的标定系统的示意图;
图2B是本申请实施例的包括双目相机的图像采集设备的标定系统的示意图;
图3是本申请实施例提供的图像采集设备的标定方法的流程图;
图4为采用图2B所示的图像采集设备的标定系统进行拍摄的得到的第一图像和第二图像;
图5为本申请另一实施例提供的图像采集设备的标定方法流程图;
图6为本申请实施例提供的角点匹配前第一图像和第二图像的示意图;
图7为本申请实施例提供的角点匹配后第一图像和第二图像的示意图;
图8为通过本申请实施例提供的采用标定后相机采集得到的标定板的空间位置图;
图9为本申请实施例提供的标定装置的结构示意图;
图10为本申请实施例提供的标定设备的结构示意图。
通过上述附图,已示出本公开明确的实施例,后文中将有更详细的描述。这些附图和文字描述并不是为了通过任何方式限制本公开构思的范围,而是通过参考特定实施例为本领域技术人员说明本公开的概念。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是现有技术中对相机标定的应用场景。如图1所示,该应用场景包括:待标定相机11和一个标定板12。其中,待标定相机11可以是单目相机,也可以是双目相机。此处,以双目相机为例进行说明,现有技术在对相机标定时,是通过移动和/或旋转标定板12或是人为移动相机,然后通过双目相机的两个摄像头(图1中以两个圆形在双目相机11上示出)分别拍摄多张图像,每个摄像头拍摄的每张图像中包含一个标定板12,每个摄像头拍摄的多张图像中的标定板12的位置和姿态均不同,双目相机的两个摄像头对同一位置和姿态的标定板拍摄的图像称之为一组图像,通过拍摄多次,以获得多组图像,例如10-20组,然后再通过人工挑选符合标定算法要求的图像。由此可见,现有技术存在以下缺陷:1)需要人工参与来移动标定板或图像采集设备;2)需要人工挑选符合标定算法要求的图像;3)由于标定板需要不断移动,因此,在对双目相机标定的过程中,如果双目相机的两个摄像头同步性较差,则标定板移动过程中,会使得两个摄像头拍摄的图像数据之间存在空间位置上的误差,进而导致标定精度降低。
本申请实施例提供一种图像采集设备的标定方法,旨在解决现有技术的如上技术问题。在本申请实施例中,图像采集设备可以为诸如相机、摄像头或是具备图像采集功能的手机、电脑等终端。下面以图像采集设备为相机为例,对本申请实施例提供的技术方案进一步阐述。
本申请实施例提供的图像采集设备的标定方法,可以适用于图2A或图2B所示的图像采集设备的标定系统。如图2A所示,该图像采集设备的标定系统包括:单目相机21A和多个标定板22。如图2B所示,该图像采集设备的标定系统包括:双目相机21B和多个标定板22。其中,图2A和图2B中的多个标定板22可以选择具有显著特征的棋盘格、特征点集、特征边等,且标定板22的形态可以为矩形、圆形、不规则图形等。需要注意的是,在本申请实施例的图像采集设备的标定系统中,应当使得多个标定板22之间互不遮挡,且多个标定板的位姿信息不同。
在开始标定前,可以通过双目相机预先观察一下所有标定板22,并调整标定板的位置或者姿态使得所有标定板22分别在双目相机的两个摄像头的视野范围之内,以及使所有标定板同时在双目相机的两个摄像头的视野范围内,且完全可见,并尽量覆盖双目相机的视野范围,尤其是摄像头拍摄的图像的边缘部分。
其中,相机的视野指的是通过相机可以看到的区域。相机的视野范围指的是相机可以采集到区域对应的范围。在本申请实施例中,相机的视野范围可以基于如下参数中的一项或是多项来确定:镜头到物体的距离、相机型号尺寸以及镜头的焦距等。例如,镜头到物体的距离为1500mm,相机的型号尺寸为4.8mm,镜头的焦距为50mm,则相机的视野=(1500*4.8)/50=144mm。相机的视野范围可以理解为是相机的镜头中心点到成像平面对角线两端所形成的夹角。对于相同的成像面积,镜头焦距越短,其视角就越大。
另外,本实施例中还需要使所有标定板22相互之间没有遮挡或者没有被其他物体遮挡。其中,多个标定板22之间相互没有遮挡,可以理解为通过相机观察到的视野范围内多个标定板之间没有重叠,且多个标定板是完整的,即拍摄到的图像中包括的多个标定板之间没有重叠,且图像中包括的是多个完整的标定板。因此,在布置多个标定板时,使得任意两个标定板间隔一定距离,不要紧挨。在布置多个标定板时,还可以使多个标定板中的至少两个标定板与相机之间的水平距离不同,以使相机采集的图像中标定板的位置信息更加多样化。也就意味着,在采集到的单张图像中,包括距相机多种距离范围内的标定板,比如,将相机的视野范围划分为3个维度,分别为距相机距离较近、距离适中、距离较远。这样,在采集到的单张图像中,至少包括处于上述3个维度内的标定板,从而使采集到的图像中标定板的位置信息多样化。
此外,为了使采集到的图像中的标定板更加清晰,可以通过保证标定板平整性的方式来实现,比如,可以通过诸如铝合金框等限位装置将标定板的四周固定,以使标定板上呈现的图形、点集等特征数据更加清晰的呈现。
需要说明的是,图2A和图2B中标定板的数量仅做示意说明,不应当理解为对标定板数量的限定,本领域技术人员可以根据实际情况布置相应数量的标定板22。
本申请实施例图2A和图2B所示的系统可以应用于对车载相机进行标定,以为自动驾驶提供实现基础,还可以应用于对搭载有视觉系统的机器人进行标定,从而提升机器人基于视觉系统执行各操作的精准度。以自动驾驶的车载相机为例,图2A的图像采集设备的标定系统可以对车载单目相机进行标定,图2B的图像采集设备的标定系统可以对车载双目相机进行标定。
下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述技术问题进行详细说明。下面这几个具体的实施例可以相互结合,对于相同或相似的概念或过程可能在某些实施例中不再赘述。下面将结合附图,对本申请的实施例进行描述。
图3为本申请实施例提供的图像采集设备的标定方法流程图。本申请实施例针对现有技术的如上技术问题,提供了图像采集设备的标定方法,该方法具体步骤如下:
步骤301、获取图像采集设备拍摄的图像。
其中,该图像包括多个标定板,多个标定板之间互不遮挡,且多个标定板的位姿信息不同。
本实施例中,以图像采集设备包括单目相机和双目相机为例。若图像采集设备部署在车辆上,图像采集设备可以是车载单目相机或者车载双目相机。
上述位姿信息是指标定板在空间中的位置状态,具体可以包括位置信息和姿态信息。其中,位置信息指的是标定板距离相机的相对位置关系,姿态信息是指标定板在位置信息指示的位置上的旋转、俯/仰等姿态。在本申请实施例中,位姿信息还可以指的是标定板在空间中6个维度中的至少一项对应的信息。那么位姿信息不同,指的可以是在空间中的至少一个维度上的信息不同。其中,6个维度分别是指标定板在三维坐标系中X轴、Y轴和Z轴上的平移信息和旋转信息。
可选的,当图像采集设备是单目相机时,例如采用图2A所示的标定系统进行拍摄,则图像包括通过单目相机的摄像头采集的一张图像或是多次采集得到的至少两张图像。其中,采集得到的多张图像中,可以存在单目相机在状态不变的情况连续拍摄或是间隔一定时间拍摄的多张图像,或是,单目相机随着状态的变化而拍摄的多张图像,即至少存在两张图像是单目相机在不同状态下拍摄的。其中,单目相机的状态指的是单目相机在空间中所处的位置,和/或单目相机的俯/仰角度等。
可选的,当图像采集设备是双目相机时,对于多张第一图像及多张第二图像的获取,与上述单目相机的实现方式类似,在此不予赘述。例如采用图2B所示的系统进行拍摄,图像包括通过双目相机的第一摄像头采集的第一图像,以及通过双目相机的第二摄像头采集的第二图像。第一图像和第二图像中分别包括多个标定板。在实际拍摄过程中,往往第一摄像头与第二摄像头会在一定时间范围内完成一次拍摄,而在该一定时间范围内完成拍摄得到的第一图像和第二图像可以被视为一组图像,用于后续双目相机的标定过程。
其中,图像采集设备拍摄的图像包括完整的多个标定板。
若本实施例中的图像是多张图像,则多张图像可以是通过图像采集设备采集的多张图像,也可以是图像采集设备通过录制等方式采集的视频序列中的多帧在时序上相邻或不相邻的图像。
步骤302、分别检测多个标定板在图像中的角点。
可选的,当图像采集设备是单目相机时,则本步骤是对通过单目相机的摄像头采集的至少一张图像分别进行角点检测。
可选的,当图像采集设备是双目相机时,则本步骤是对通过双目相机的第一摄像头采集的第一图像,以及通过双目相机的第二摄像头采集的第二图像分别进行角点检测。
在本实施例中,角点指的是标定板的格点映射到图像中的像素点,通常情况下,可以将图像中局部的最大值认为是一个角点。例如,若一个像素点比周围的像素点都亮或者都暗,就可以认为该像素点为角点,如图4中第一图像A1和第二图像A2上标定板的棋盘格中每两条线的交点对应的像素点。其中,标定板的格点,指的是在标定板的图案为棋盘格的情况下,用于划分黑格和白格的两条线的交点,即指标定板上用于表示黑格或白格的矩形的顶点。比如,如图2B所示的格点O’(图2B中右方箭头所指)。
示例性地,分别检测多个标定板在图像中的角点,可以是对多个标定板中的至少两个标定板进行角点检测,例如,在标定系统中包括20个标定板,那么可以通过图像采集设备采集得到包含部分或是全部标定板的图像,比如,包括18个标定板的图像。这样就可以通过对这18个标定板进行角点检测。当然,也可以通过对少于18个标定板的图像进行角点检测,例如15个。
步骤303、基于检测的角点对图像采集设备进行标定。
在本申请实施例中,对图像采集设备进行标定指的是可以对图像采集设备的如下至少一项参数进行标定:内参、外参等。
其中,以图像采集设备是相机为例,相机的内参指的是用于反映相机自身特性相关的参数,可以包括但不限于如下参数中的一项或是多项的组合:相机的焦距、图像的分辨率等;相机的外参指的是物体在世界坐标系中相对于相机的位置关系的参数,可以包括但不限于如下参数中的一项或多项的组合:相机采集到的图像的畸变参数、空间中某一点到相机坐标系的转换关系等。
需要说明的是,上述对于内参、外参的举例仅作为一种示例,并不作为对相机的内参、外参的限定。
本申请实施例中,以对图像采集设备的内参进行标定为例进行阐述。
可选的,在对图像进行角点检测后,就可以采用标定算法和检测到的角点,对相机的参数进行标定。其中,标定算法可以采用已有的标定算法,例如张正友标定法。
对于单目相机而言,基于检测的角点对图像采集设备进行标定,是根据检测的角点确定单目相机的内参。具体的,是对检测的角点进行全局优化,以得到单目相机的内参。例如,采用张正友标定法对检测的角点进行标定,得到单目相机的第一内参;对第一内参进行优化,得到相机的最终内参。其中,对第一内参进行优化包括:基于检测的角点和标定板上的格点投影到图像中的投影点,建立目标函数;对该目标函数求最优解,得到单目相机的第二内参,该第二内参就是单目相机最终的内参。其中,基于检测的角点和标定板上的格点投影到图像中的投影点,建立目标函数,包括:根据第一内参、相机坐标系下的角点坐标、标定板坐标系与相机坐标系之间的转换关系,将标定板上的格点通过投影函数关系投影到图像中,得到投影点;基于检测的角点和投影点,建立目标函数。如此,能够最小化每个标定板中的角点误差,对检测的角点位置进行优化,提高相机的检测精度。
对于双目相机而言,基于检测的角点对图像采集设备进行标定,是将第一图像中检测的角点与第二图像中检测的角点进行匹配,并根据匹配成功的角点确定双目相机的内参和外参。具体的,是对匹配成功的角点进行全局优化,以得到双目相机最终的内参和外参。例如,采用张正友标定法对检测的角点进行标定,得到双目相机的第一内参;采用pnp算法对检测的角点进行标定,得到双目相机的第一外参;对第一内参和第二内参进行优化,得到相机的最终内参和最终外参。其中,对第一内参和第二内参进行优化包括:基于检测的角点和标定板上的格点投影到图像中的投影点,建立目标函数;对该目标函数求最优解,得到单目相机的第二内参和第二外参,该第二内参和第二外参就是双目相机最终的内参和外参。其中,基于检测的角点和标定板上的格点投影到图像中的投影点,建立目标函数,包括:根据第一内参、第一外参、相机坐标系下的角点坐标、标定板坐标系与相机坐标系之间的转换关系,将标定板上的格点通过投影函数关系投影到图像中,得到投影点;基于检测的角点和投影点,建立目标函数。如此,能够最小化每个标定板中的角点误差,对检测的角点位置进行优化。
本申请实施例通过对采用图像采集设备采集的图像进行角点检测,以确定图像所包括的多个标定板的角点,然后基于检测到的角点对图像采集设备进行标定。其中,单张图像中包括多个相互之间不遮挡且位姿信息不同的标定板。
由于图像采集设备是在包含多个标定板的场景下采集到用于标定的图像,且多个标定板不仅位姿信息不同,而且相互之间也不存在遮挡,因此在图像采集过程中可以省去人工移动和/或旋转标定板或是人为移动图像采集设备所耗费的人力。并且,由于单张图像中包括了多个标定板,且每个标定板均可以用于对图像采集设备进行标定的过程,大幅减少了待处理的图像数量,从而节省了处理图像所占用的资源。
此外,由于单张图像所包括的信息量相当于现有技术中多张图像所包括的信息量,也就节省了采集图像所耗费的时间,同时,省去了现有技术中对多张图像进行筛选,以选出符合标定需求的图像的过程,即通过图像采集设备采集到的图像通常均可用于图像采集设备的标定过程,无需人为对采集的图像进行额外的筛选。
另外,在实际标定过程中,由于采集过程省去了人为调整标定板的过程,也就使图像采集过程中标定板全程处于静置状态,那么针对具备多摄像头的图像采集设备而言,就能有效降低对于多摄像头的同步性需求,从而提高标定精度。
可选的,分别检测多个标定板在图像中的角点,包括:确定图像中的候选角点;对图像中的候选角点进行聚类,得到图像中多个标定板的角点。其中,候选角点指的是标定板格点对应的角点。本实施例对候选角点进行聚类,可以得到图像中属于标定板上的像素点。通过聚类可以将候选角点中不属于标定板上的点过滤掉,实现对图像去噪。具体实现过程可以为:以图像中的某个像素点为参考点,在图像中确定一个邻域,通过计算邻域内像素点与当前像素点的相似度,若相似度小于预设阈值,则认为该领域内像素点是当前像素点的相似点。可选的,相似度可以采用平方差之和(Sum of Squared Difference,SSD)来衡量。应当理解的是,本申请实施例也可以采用其他一些相似度计算方法来衡量。
对于单目相机而言,本实施例是确定一张图像或是分别确定多张图像中的候选角点,并针对每张图像进行候选角点的聚类,得到每张图像中多个标定板的角点。
对于双目相机而言,本实施例是分别确定第一图像和第二图像中的候选角点,以及分别对第一图像和第二图像中的候选角点进行聚类,得到第一图像和第二图像中多个标定板的角点。需要说明的是,第一图像可以为一张,相应的第二图像也可以为一张,当然,在第一图像为多张的情况下,相应的第二图像也可以为多张,且第一图像与第二图像的数量相同,可以一一对应。
可选的,确定图像中的候选角点,包括:检测图像中的角点;从检测到的角点中滤除标定板的格点映射到图像中的角点以外的点,得到候选角点。其中,检测到的角点包括标定板的格点映射到图像中的角点,还包括标定板的格点映射到图像中的角点之外的其他被误检测到的点。可选的,可以采用非极大值抑制的方法滤除标定板的格点映射到图像中的角点以外的点。本实施例能够在初步去噪的基础上进一步筛掉图像中不属于标定板格点的角点,实现进一步去噪。
可选的,从检测到的角点中滤除标定板的格点映射到图像中的角点以外的点,得到候选角点之后,所述方法还包括:滤除候选角点中离散的像素点。本实施例通过滤除不属于标定板的格点的像素点,能够在上一步去噪的基础上,根据标定板格点的数量确定图像中的角点数量。并且,根据标定板中格点呈规律分布的特点,可以将不属于标定板上角点的像素点进行滤除。例如,对于6*10标定板而言,其具有5*9=45个格点,那么对应到图像中,应当有45个角点。上述步骤过程是对不属于这45个角点之外的其他像素点进行滤除。
可选的,对图像中的候选角点进行聚类,得到图像中多个标定板的角点之后,所述方法还包括:基于标定板对格点的直线约束关系,对聚类后的角点的位置进行校正。本实施例中,对候选角点聚类后可以得到每个标定板中的角点,但是这些角点的位置可能会存在不准确。例如,对标定板的格点来说,在图像中应当有3个点是在一条直线上的,如A(1,1),B(2,2)和C(3,3)应当位于图像中的同一条直线上,但是聚类后的角点中有一个角点不在直线上,如聚类后的角点坐标分别为A(1,1),B(2,2)和C(3.1,3.3),那么就需要对C角点进行校正,校正为(3,3),使C角点与其他两个A角点和B角点在同一直线上。经过本步骤的校正过程,能够使得检测的角点位置更准确,从而在后续的标定过程中,提高标定精度。
下面通过一个完整的示例对上述过程进行详细说明,该示例中,以双目相机为例进行说明,单目相机也可以采用类似的方式实现,在此不予赘述:
图5为本申请另一实施例提供的图像采集设备的标定方法流程图。该图像采集设备的标定方法,具体包括如下步骤:
步骤501、检测图像中的角点。
具体的,是根据已有的角点检测算法来检测角点。以双目相机为例,本步骤是分别检测第一图像和第二图像中的角点。
步骤502、从检测到的角点中滤除标定板的格点映射到图像中的角点以外的点,得到候选角点。
由于标定板上格点的数量是已知的,故对应到图像中,每个标定板上的角点数量通常也是确定的。因此,可以根据标定板的格点和图像中角点数量相同这一关系来进行去噪。
步骤503、除去候选角点中离散的像素点。
具体的,由于标定板上的格点呈规律分布,故本步骤503可以通过对候选角点进行聚类,从而除去那些离散的像素点,来进一步滤除噪声像素点。
由于本实施例的图像包含了多个标定板,且每个标定板中像素点之间应该是连续且密集的,因此,可以通过聚类的方法来大致划分出每个标定板的位置,并滤除标定板格点之外的点。
步骤504、根据标定板对格点的直线约束,得到每个标定板的格点位置,作为检测到的角点。
可选的,在经过步骤503划分出每个标定板的位置后,可以根据标定板对格点的直线约束对图像中每个标定板上的像素点进行处理,得到每个标定板的格点位置。标定板对格点的直线约束,是指标定板上像素点分布在同一直线上的关系。
具体的,每个标定板检测到的角点位置是以矩阵的形式存储,假设标定板的数量为N,则通过本实施例的角点检测方法可以得到N个矩阵。例如,在图2A和图2B所示的图像采集设备的标定系统中有6个标定板,则通过本实施例的角点检测方法在每个图像中可以得到6个矩阵。
可选的,若图像采集设备包括单目相机,则在角点检测之后可直接通过全局优化得到相机参数。
可选的,若图像采集设备包括双目相机,对于双目相机的标定,是要找到空间中同一个三维点在双目相机中的位置。而经过上述实施例的方法步骤进行角点检测后,标定板的顺序和角点的顺序在第一图像和第二图像中可能不一致,所以首先需要对第一图像和第二图像中的标定板进行匹配,进而对相匹配的标定板中的角点进行匹配,以便于后续的相机标定。假设第一图像和第二图像分别记为A1、A2,则对第一图像和第二图像中的标定板进行匹配,是在第一图像A1和第二图像A2中找到同一块标定板,将二者对应起来。具体的,是将如图2B所示的系统中的同一块标定板在第一图像和第二图像中的位置对应起来。例如,假设图2B中的6块标定板22的编号分别为1、2、3、4、5、6,则本实施例是分别找到编号为1、2、3、4、5、6的标定板22在第一图像和第二图像中的位置,并将找到的两个位置处的标定板匹配起来。
可选的,对第一图像和第二图像中的多个标定板进行匹配,包括:确定第一图像和第二图像之间的视差;根据视差,将第一图像和第二图像中的多个标定板进行匹配。
在一种可选的实施方式中,确定第一图像和第二图像之间的视差,包括:确定多个标定板在第二图像中相对于在第一图像中的整体位移,并将整体位移确定为视差。具体的,可以计算多个标定板在第二图像中相对于在第一图像中的整体位移,或者计算多个标定板在第一图像中相对于在第二图像中的整体位移;将整体位移作为第一图像和第二图像之间的视差。本实施例中,双目视差是指双目相机的两个摄像头对如图2B所示的标定系统获取的第一图像和第二图像之间的差异。通过观察图4中第一图像A1(以下简称左视图)和第二图像A2(以下简称右视图),可以发现,双目相机的右视图中标定板整体相对于左视图中标定板整体向右平移了若干个像素位置。因此,可以通过确定第一图像和第二图像之间的视差,并根据视差,将第一图像和第二图像中的多个标定板进行匹配,该方法简单,且易于计算,能够快速确定第一图像和第二图像之间的视差。
请继续参阅图4,可以看到,第二图像A2中所有标定板的中心点与第二图像的左边缘之间的距离,大于第一图像A1中所有标定板的中心点与第一图像的左边缘之间的距离,这个距离差就是第一图像A1相对于第二图像A2向左平移的像素距离,因此,可以通过计算出第一图像和第二图像之间平移的像素距离,来作为第一图像和第二图像之间的视差。此外,由图4中还可以看出,第一图像A1中所有标定板的中心点与第一图像的右边缘之间的距离,大于第二图像A2中所有标定板的中心点与第二图像的右边缘之间的距离,因此,还可以通过这一距离差,即第二图像A2相对于第一图像A1向右平移的像素距离,来作为第一图像和第二图像之间的视差。
在另一种可选的实施方式中,确定第一图像和第二图像之间的视差,包括:获取双目相机的双目视差,并将双目相机的双目视差确定为第一图像和第二图像之间的视差。本实施例中,双目视差是指双目相机的两个摄像头对如图2B所示的多个标定板观察时,第一摄像头和第一摄像头观察到的结果之间的差异。本实施例中,由于第一图像和第二图像之间的视差,实质上还是由于双目相机的双目视差导致的,因此,可以通过确定双目相机的双目视差,来作为第一图像和第二图像之间的视差。
可选的,双目相机的双目视差,可以采用如下方法步骤进行计算得到:计算双目相机的焦距与双目相机的基线长度的乘积;将乘积除以标定板的深度作为整体位移。其中,双目相机的基线长度是指双目相机的两个摄像头之间的距离,具体的,可以是两个摄像头中心点之间的距离。对双目视差的计算方法可以简化为如下方程式:D=f*baseline/depth,式中,D为双目视差,f为双目相机的焦距,baseline为双目相机的基线长度,depth为标定板的深度,标定板的深度可以理解为图像中存储标定板上每个像素点所用的位数,例如,采用双E1视差的深度估计方法来确定标定板的深度,假设一张图像的尺寸是1024*768,深度为16,则存储该图像需要1.5M的存储空间。
可选的,根据视差,将第一图像和第二图像中的多个标定板进行匹配,包括以下两种可选的实施方式:
第一种可选的实施方式中,根据视差,将第一图像和第二图像中的多个标定板进行匹配,包括:确定第一图像中多个标定板中每个标定板的预设位置对应的第一位置坐标;根据第一位置坐标,以及第一图像和第二图像之间的视差,在第二图像中确定预设位置对应的第二位置坐标;确定第二图像中第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。可选的,由于图像中越靠近标定板中心位置处的像素点,更能够唯一确定标定板。因此,预设位置通常选靠近标定板中心的位置处,尽量不选取靠近标定板边缘位置处的像素点。根据靠近标定板中心位置处的像素点唯一确定该标定板的准确度更高,确定的同一块标定板在第一图像和第二图像中的匹配关系更加准确。
第二种可选的实施方式中,根据视差,将第一图像和第二图像中的多个进行匹配,包括:确定第二图像中多个标定板中每个标定板的预设位置对应的第二位置坐标;根据第二位置坐标,以及第一图像和第二图像之间的视差,在第一图像中确定预设位置对应的第一位置坐标;确定第一图像中第一位置坐标指示的标定板与第二图像中第二位置坐标指示的标定板之间的匹配关系,以确定多个标定板中每个标定板在第一图像和第二图像之间的匹配关系。
以第一种实施方式为例,请参阅图4,例如,将第一图像A1中编号为1的标定板的中心点位置坐标加上双目视差得到一个位置坐标,该计算得到的位置坐标即为第二图像A2中编号为1的标定板的中心点位置的坐标,通过根据该计算得到的位置坐标在第二图像A2中确定对应的角点,即可得到与第一图像A1中编号为1的标定板对应的标定板,将1号标定板在第一图像A1和第二图像A2中对应起来。如此,可以得到6块标定板各自在第一图像和第二图像中的匹配关系。对于第二种可选的实施方式,可参照本段针对第一种实施方式为例所采取的操作,具体过程不再赘述。
可选的,在标定板匹配成功之后,将匹配成功的两个标定板中的角点可以按照预设顺序排列,例如按行或按列排序,然后按照行或列执行本实施例的方法步骤。但通常情况下,由于通过上述实施例将多个图像中的标定板匹配起来之后,是将不同图像中的同一块标定板进行了匹配,但标定板的方位可能会存在差异。因此,还需要对其中一幅图像中标定板的方位进行调整,从而使第一图像和第二图像中的同一标定板的方位也相同。其中,标定板的方位信息指的是标定板在图像中的方向信息和/或位置信息。以方向信息为例,标定板在采集第一图像时处于横向放置的状态,而在采集第二图像时处于竖向放置的状态,其中,横向和竖向可以为标定板的方位信息。
可选的,在根据所视差,将第一图像和第二图像中的多个标定板进行匹配之后,本实施例的方法还包括:根据第一图像中的检测到的角点坐标与视差,确定与第一图像中的角点对应的第二图像中的角点,以将第一图像和第二图像中相匹配的标定板的方位进行匹配。
具体的,在根据视差,将第一图像和第二图像中的多个标定板进行匹配之后,本实施例的方法还包括:在根据第一图像中的检测到的角点坐标与视差,未确定与第一图像中的角点对应的第二图像中的角点的情况下,对第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将第一图像和第二图像中相匹配的标定板的方位进行匹配。
如图6所示,假设第一图像和第二图像中的标定板已匹配完成。可以看出,第一图像B1和第二图像B2中标定板的排布方式不同,第二图像B2相对于第一图像B1整体旋转了180度,这将会导致相匹配的两个标定板之间的角点匹配不成功。通过将第二图像B2中每个标定板的矩阵分别进行转置和/或旋转,则可以得到如图7所示的角点匹配结果图,从图7中可以看出,经过角点匹配后,第一图像B1和第二图像B2中两个标定板的排布方式是相同的。
本实施例中,如果根据第一图像中的检测到的角点坐标与视差在第二图像中未匹配到相应的角点,或者根据第二图像中的检测到的角点坐标与视差在第一图像中未匹配到相应的角点,则认为第二图像与第一图像中的角点的矩阵不对应。此时,认为是标定板方位不一致导致角点的顺序不一致。因此,需要通过多次转置和/或旋转来进行多次匹配。
可选的,基于检测的角点对所述图像采集设备进行标定之后,所述方法还包括:对多个图像中至少两个标定板上的角点之间的匹配关系进行全局优化,得到最终的相机外参,其中,相机的外参可以是双目相机的两个摄像头的坐标系之间的平移关系和旋转关系)。本实施例中全局优化可以采用非线性优化的方法,从而将每个标定板中的角点误差最小化。
如图8所示,在通过上述实施例对图像采集设备进行标定之后,通过标定后的相机对标定板采集图像,可以得到如图8所示的识别结果图。可以看到,本实施例的方法能够准确地识别出图像中的多个标定板,且不需要人工移动和/或旋转标定板或是人为移动图像采集设备,由于单张图像中包括了多个标定板,且每个标定板均可以用于对图像采集设备进行标定的过程,大幅减少了待处理的图像数量,从而节省了处理图像所占用的资源。本实施例从一张图像中就能够获取到针对多个标定板的图像数据此外,由于单张图像所包括的信息量相当于现有技术中多张图像所包括的信息量,也就节省了采集图像所耗费的时间,同时,省去了现有技术中对多张图像进行筛选,以选出符合标定需求的图像的过程,即通过图像采集设备采集到的图像通常均可用于图像采集设备的标定过程,无需人为对采集的图像进行额外的筛选。因此,减少了用于标定图像采集设备所需的图像采集总时长,以及无需耗费人力从多组包含一个标定板的图像数据中挑选符合标定要求的图像数据,减少了图像数据的采样时间。此外,在实际标定过程中,由于采集过程省去了人为调整标定板的过程,也就使图像采集过程中标定板全程处于静置状态,那么针对具备多摄像头的图像采集设备而言,就能有效降低对于多摄像头的同步性需求,从而提高标定精度。
需要说明的是,对于车辆上部署的相机的标定,考虑到相机通常部署在车辆内,为了避免挡风玻璃对相机标定过程带来的影响,可以对已部署在车辆内的相机进行标定。即将多个标定板摆放在车辆内相机的视野范围内,确保这多个标定板在成像时不会出现遮挡的情况。其中,遮挡指的是多个标定板之间的遮挡,和/或诸如车辆中悬挂的配件、车辆挡风玻璃上黏贴的标识等外界物质在成像时对标定板的遮挡等。车辆可以在静止时或是行驶过程中实现图像的采集,以完成车辆内相机的标定。同理,本申请实施例提供的技术方案还适用于其他类似于车辆的交通工具或是其他部署相机的物体上相机的标定。
而对于车载相机以及其他一些搭载有图像采集设备的载体,例如,搭载有图像采集设备的智能机器人或无人机等。由于图像采集设备固定在载体上,移动不便,只能通过移动标定板的场景来说,能够实现在不移动图像采集设备的情况下,完成对图像采集设备的标定。
另外,对于车载相机或者是搭载有相机的无人机来说,由于周围环境信息的采集对于车辆的自动驾驶或无人机的飞行很重要,常常会影响自动驾驶或飞行的安全性,因此,通过本实施例的标定方法对车载相机或无人机进行标定,标定精度能够提高,使得采集的周围环境信息准确度也更高,相应的,对于车辆或无人机的定位、测距等功能来说,准确度也会提高,进而提高无人驾驶或飞行的安全性。对于机器人来说,标定精度提升,能够提升机器人基于视觉系统执行各操作的精准度。
此外,为了简化标定过程,还可以利用指路牌、交通标志等具备规则图形或是易识别信息的对象来实现车辆上部署的相机的标定。在本申请实施例中,采用常规标定板对相机标定过程进行阐述,但并不局限于借助常规标定板来实现标定过程,具体可以根据相机部署的物体的特性或是局限性来实现相应的相机标定。
采用上述实施例的标定方法对图像采集设备标定后,可以利用标定好的图像采集设备采集的数据进行测距、定位或者自动驾驶的控制等。例如,在利用标定好的图像采集设备采集的数据进行自动驾驶的控制时,具体包括:利用标定好的车载相机采集车辆周围的环境信息;基于环境信息确定车辆当前所处位置;根据车辆当前所处位置对车辆进行控制。例如,控制车辆减速、刹车或转向等。由于车载相机的标定精度提高了,因此,采集的车辆周围的环境信息也更加准确,使得对车辆的定位准确度有所提升,进而在控制车辆减速、刹车或转向时,也能够提高控制的精确度,以及提高无人驾驶的安全性。
图9为本申请实施例提供的标定装置的结构示意图。本申请实施例提供的标定装置可以执行图像采集设备的标定方法实施例提供的处理流程,如图9所示,标定装置90包括:获取模块91、检测模块92和标定模块93;其中,获取模块91,用于获取通过图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;检测模块92,用于分别检测所述多个标定板在所述图像中的角点;标定模块93,用于基于检测的角点对所述图像采集设备进行标定。
可选的,所述图像采集设备为单目相机,所述图像包括通过所述单目相机采集的至少一张图像;所述标定模块93基于检测的角点对所述图像采集设备进行标定时,具体包括:根据检测的角点确定所述单目相机的内参。
可选的,所述图像采集设备为双目相机,所述图像包括通过所述双目相机的第一摄像头采集的第一图像,以及通过所述双目相机的第二摄像头采集的第二图像;所述标定模块93基于检测的角点对所述图像采集设备进行标定时,具体包括:将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配,并根据匹配成功的角点确定所述双目相机的内参。
可选的,所述标定模块93将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配时,具体包括:对所述第一图像和所述第二图像中的多个标定板进行匹配;将所述第一图像与所述第二图像中的多个标定板内的角点进行匹配。
可选的,所述检测模块92,还用于确定所述图像中的候选角点;对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点。
可选的,所述装置90还包括:校正模块94,用于基于标定板对格点的直线约束关系,对聚类后的角点位置进行校正。
可选的,所述标定模块93,还用于确定所述第一图像和所述第二图像之间的视差;根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配。
可选的,所述标定模块93,还用于:确定所述多个标定板在所述第二图像中相对于在所述第一图像中的整体位移,并将所述整体位移确定为所述视差。
可选的,标定模块93,还用于:获取所述双目相机的双目视差,并将所述双目相机的双目视差确定为所述第一图像和所述第二图像之间的视差。
可选的,所述标定模块93,还用于:确定所述第一图像中所述多个标定板中每个标定板的预设位置对应的第一位置坐标;根据所述第一位置坐标,以及所述第一图像和所述第二图像之间的视差,在所述第二图像中确定所述预设位置对应的第二位置坐标;确定所述第二图像中所述第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。
可选的,所述标定模块93还用于根据所述第一图像中的所述检测到的角点坐标与所述视差,确定与所述第一图像中的角点对应的所述第二图像中的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述标定模块93还用于在根据所述第一图像中的所述检测到的角点坐标与所述视差,未确定与所述第一图像中的角点对应的所述第二图像中的角点的情况下,对所述第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述图像采集设备部署在车辆上。
可选的,所述图像采集设备拍摄的图像包括完整的所述多个标定板。
图9所示实施例的标定装置可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
图10为本申请实施例提供的标定设备的结构示意图。本申请实施例提供的标定设备可以执行图像采集设备的标定方法实施例提供的处理流程,如图10所示,电子设备100包括:存储器101、处理器102、计算机程序和通讯接口103;其中,计算机程序存储在存储器101中,并被配置为执行以下方法步骤:获取通过所述图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;分别检测所述多个标定板在所述图像中的角点;基于检测的角点对所述图像采集设备进行标定。
可选的,所述图像采集设备为单目相机,所述图像包括通过所述单目相机采集的至少一张图像;所述处理器102基于检测的角点对所述图像采集设备进行标定时,具体包括:根据检测的角点确定所述单目相机的内参。
可选的,所述图像采集设备为双目相机,所述图像包括通过所述双目相机的第一摄像头采集的第一图像,以及通过所述双目相机的第二摄像头采集的第二图像;所述处理器102基于检测的角点对所述图像采集设备进行标定时,具体包括:将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配,并根据匹配成功的角点确定所述双目相机的内参。
可选的,所述处理器102将所述第一图像中检测的角点与所述第二图像中检测的角点进行匹配时,具体包括:对所述第一图像和所述第二图像中的多个标定板进行匹配;将所述第一图像与所述第二图像中的多个标定板内的角点进行匹配。
可选的,所述处理器102,还用于确定所述图像中的候选角点;对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点。
可选的,所述处理器102,还用于基于标定板对格点的直线约束关系,对聚类后的角点位置进行校正。
可选的,所述处理器102,还用于确定所述第一图像和所述第二图像之间的视差;根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配。
可选的,所述处理器102,还用于确定所述多个标定板在所述第二图像中相对于在所述第一图像中的整体位移,并将所述整体位移确定为所述视差。
可选的,所述处理器102,还用于获取所述双目相机的双目视差,并将所述双目相机的双目视差确定为所述第一图像和所述第二图像之间的视差。
可选的,所述处理器102,还用于确定所述第一图像中所述多个标定板中每个标定板的预设位置对应的第一位置坐标;根据所述第一位置坐标,以及所述第一图像和所述第二图像之间的视差,在所述第二图像中确定所述预设位置对应的第二位置坐标;确定所述第二图像中所述第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。
可选的,所述处理器102,还用于根据所述第一图像中的所述检测到的角点坐标与所述视差,确定与所述第一图像中的角点对应的所述第二图像中的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述处理器102,还用于在根据所述第一图像中的所述检测到的角点坐标与所述视差,未确定与所述第一图像中的角点对应的所述第二图像中的角点的情况下,对所述第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
可选的,所述图像采集设备部署在车辆上。
可选的,所述图像采集设备拍摄的图像包括完整的所述多个标定板。
图10所示实施例的标定设备可用于执行上述方法实施例的技术方案,其实现原理和技术效果类似,此处不再赘述。
另外,本申请实施例还提供一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行以实现上述实施例的图像采集设备的标定方法。
另外,本申请实施例还提供一种计算机程序,包括计算机可读代码,当所述计算机可读代码在设备上运行时,所述设备中的处理器执行用于实现上述实施例所述方法的指令。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,可以通过其它的方式实现。例如,以上所描述的装置实施例仅仅是示意性的,例如,单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用硬件加软件功能单元的形式实现。
上述以软件功能单元的形式实现的集成的单元,可以存储在一个计算机可读取存储介质中。上述软件功能单元存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是个人计算机,服务器,或者网络设备等)或处理器(processor)执行本申请各个实施例方法的部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(Read-OnlyMemory,ROM)、随机存取存储器(Random Access Memory,RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
本领域技术人员可以清楚地了解到,为描述的方便和简洁,仅以上述各功能模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能模块完成,即将装置的内部结构划分成不同的功能模块,以完成以上描述的全部或者部分功能。上述描述的装置的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
最后应说明的是:以上各实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述各实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分或者全部技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的范围。
Claims (24)
1.一种图像采集设备的标定方法,其特征在于,包括:
获取通过所述图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;所述图像采集设备为双目相机,所述图像包括通过所述双目相机的第一摄像头采集的第一图像,以及通过所述双目相机的第二摄像头采集的第二图像;
分别检测所述多个标定板在所述图像中的角点;
确定所述第一图像和所述第二图像之间的视差;
根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配;
将所述第一图像与所述第二图像中的多个标定板内的角点进行匹配,并根据匹配成功的角点确定所述双目相机的内参。
2.根据权利要求1所述的方法,其特征在于,所述分别检测所述多个标定板在所述图像中的角点,包括:
确定所述图像中的候选角点;
对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点。
3.根据权利要求2所述的方法,其特征在于,所述对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点之后,所述方法还包括:
基于标定板对格点的直线约束关系,对聚类后的角点位置进行校正。
4.根据权利要求1所述的方法,其特征在于,所述确定所述第一图像和所述第二图像之间的视差,包括:
确定所述多个标定板在所述第二图像中相对于在所述第一图像中的整体位移,并将所述整体位移确定为所述视差。
5.根据权利要求1或4所述的方法,其特征在于,所述确定所述第一图像和所述第二图像之间的视差,包括:
获取所述双目相机的双目视差,并将所述双目相机的双目视差确定为所述第一图像和所述第二图像之间的视差。
6.根据权利要求5所述的方法,其特征在于,所述根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配,包括:
确定所述第一图像中所述多个标定板中每个标定板的预设位置对应的第一位置坐标;
根据所述第一位置坐标,以及所述第一图像和所述第二图像之间的视差,在所述第二图像中确定所述预设位置对应的第二位置坐标;
确定所述第二图像中所述第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。
7.根据权利要求6所述的方法,其特征在于,在所述根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配之后,所述方法还包括:
根据所述第一图像中的所述检测到的角点坐标与所述视差,确定与所述第一图像中的角点对应的所述第二图像中的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
8.根据权利要求4、6-7任一项所述的方法,其特征在于,在所述根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配之后,所述方法还包括:
在根据所述第一图像中的所述检测到的角点坐标与所述视差,未确定与所述第一图像中的角点对应的所述第二图像中的角点的情况下,对所述第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
9.根据权利要求8所述的方法,其特征在于,所述图像采集设备部署在车辆上。
10.根据权利要求9所述的方法,其特征在于,所述图像采集设备拍摄的图像包括完整的所述多个标定板。
11.一种标定装置,其特征在于,包括:
获取模块,用于获取通过图像采集设备采集的图像,所述图像包括多个标定板,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同;所述图像采集设备为双目相机,所述图像包括通过所述双目相机的第一摄像头采集的第一图像,以及通过所述双目相机的第二摄像头采集的第二图像;
检测模块,用于分别检测所述多个标定板在所述图像中的角点;
标定模块,用于确定所述第一图像和所述第二图像之间的视差;
根据所述视差,将所述第一图像和所述第二图像中的所述多个标定板进行匹配;
将所述第一图像与所述第二图像中的多个标定板内的角点进行匹配,并根据匹配成功的角点确定所述双目相机的内参。
12.根据权利要求11所述的装置,其特征在于,所述检测模块,还用于:
确定所述图像中的候选角点;
对所述图像中的候选角点进行聚类,得到所述图像中所述多个标定板的角点。
13.根据权利要求12所述的装置,其特征在于,所述装置还包括:
校正模块,用于基于标定板对格点的直线约束关系,对聚类后的角点位置进行校正。
14.根据权利要求11所述的装置,其特征在于,所述标定模块,还用于:
确定所述多个标定板在所述第二图像中相对于在所述第一图像中的整体位移,并将所述整体位移确定为所述视差。
15.根据权利要求11或14所述的装置,其特征在于,所述标定模块,还用于:
获取所述双目相机的双目视差,并将所述双目相机的双目视差确定为所述第一图像和所述第二图像之间的视差。
16.根据权利要求15所述的装置,其特征在于,所述标定模块,还用于:
确定所述第一图像中所述多个标定板中每个标定板的预设位置对应的第一位置坐标;
根据所述第一位置坐标,以及所述第一图像和所述第二图像之间的视差,在所述第二图像中确定所述预设位置对应的第二位置坐标;
确定所述第二图像中所述第二位置坐标指示的标定板与所述第一图像中所述第一位置坐标指示的标定板之间的匹配关系,以确定所述多个标定板中每个标定板在所述第一图像和所述第二图像之间的匹配关系。
17.根据权利要求16所述的装置,其特征在于,所述标定模块还用于:根据所述第一图像中的所述检测到的角点坐标与所述视差,确定与所述第一图像中的角点对应的所述第二图像中的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
18.根据权利要求17所述的装置,其特征在于,所述标定模块还用于:在根据所述第一图像中的所述检测到的角点坐标与所述视差,未确定与所述第一图像中的角点对应的所述第二图像中的角点的情况下,对所述第二图像中的角点矩阵进行至少一次的转置和/或旋转,直至匹配到相应的角点,以将所述第一图像和所述第二图像中相匹配的标定板的方位进行匹配。
19.根据权利要求18任一项所述的装置,其特征在于,所述图像采集设备部署在车辆上。
20.根据权利要求18所述的装置,其特征在于,所述图像采集设备拍摄的图像包括完整的所述多个标定板。
21.一种图像采集设备的标定系统,其特征在于,用于执行如权利要求1-10任一项所述的方法,所述系统包括图像采集设备和多个标定板,所述多个标定板位于所述图像采集设备的视野范围内,所述多个标定板之间互不遮挡,且所述多个标定板的位姿信息不同。
22.一种载体,其特征在于,包括:
如权利要求11-20任一项所述的标定装置;
载体本体;
所述标定装置设置在所述载体本体上。
23.一种标定设备,其特征在于,包括:
存储器;
处理器;以及
计算机程序;
其中,所述计算机程序存储在所述存储器中,并被配置为由所述处理器执行以实现如权利要求1-10任一项所述的方法。
24.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-10任一项所述的方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911135686.4A CN112907675B (zh) | 2019-11-19 | 2019-11-19 | 图像采集设备的标定方法、装置、系统、设备及存储介质 |
PCT/CN2020/126573 WO2021098517A1 (zh) | 2019-11-19 | 2020-11-04 | 图像采集设备的标定方法、装置、系统、设备及存储介质 |
JP2021535995A JP2022514429A (ja) | 2019-11-19 | 2020-11-04 | 画像収集機器のキャリブレーション方法、装置、システム、機器及び記憶媒体 |
US17/740,771 US20220270294A1 (en) | 2019-11-19 | 2022-05-10 | Calibration methods, apparatuses, systems and devices for image acquisition device, and storage media |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201911135686.4A CN112907675B (zh) | 2019-11-19 | 2019-11-19 | 图像采集设备的标定方法、装置、系统、设备及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112907675A CN112907675A (zh) | 2021-06-04 |
CN112907675B true CN112907675B (zh) | 2022-05-24 |
Family
ID=75980303
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201911135686.4A Active CN112907675B (zh) | 2019-11-19 | 2019-11-19 | 图像采集设备的标定方法、装置、系统、设备及存储介质 |
Country Status (4)
Country | Link |
---|---|
US (1) | US20220270294A1 (zh) |
JP (1) | JP2022514429A (zh) |
CN (1) | CN112907675B (zh) |
WO (1) | WO2021098517A1 (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021134219A1 (zh) * | 2019-12-30 | 2021-07-08 | 华为技术有限公司 | 参数标定方法及装置 |
CN111932636B (zh) * | 2020-08-19 | 2023-03-24 | 展讯通信(上海)有限公司 | 双目摄像头的标定及图像矫正方法、装置、存储介质、终端、智能设备 |
CN113409399B (zh) * | 2021-06-10 | 2023-04-11 | 武汉库柏特科技有限公司 | 一种双相机联合标定方法、系统及装置 |
CN114047487B (zh) * | 2021-11-05 | 2022-07-26 | 深圳市镭神智能系统有限公司 | 雷达和车体的外参标定方法、装置、电子设备和存储介质 |
CN114205483B (zh) * | 2022-02-17 | 2022-07-29 | 杭州思看科技有限公司 | 扫描仪精度校准方法、装置和计算机设备 |
CN116758171B (zh) * | 2023-08-21 | 2023-10-27 | 武汉中导光电设备有限公司 | 成像系统位姿矫正方法、装置、设备及可读存储介质 |
CN117710488B (zh) * | 2024-01-17 | 2024-09-24 | 苏州市欧冶半导体有限公司 | 相机内参标定方法、装置、计算机设备和存储介质 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102567991A (zh) * | 2011-12-09 | 2012-07-11 | 北京航空航天大学 | 一种基于同心圆合成图像匹配的双目视觉标定方法和系统 |
CN103487034A (zh) * | 2013-09-26 | 2014-01-01 | 北京航空航天大学 | 一种基于立式标靶的车载单目摄像头测距测高方法 |
CN107194972A (zh) * | 2017-05-16 | 2017-09-22 | 成都通甲优博科技有限责任公司 | 一种摄像机标定方法及系统 |
CN108122259A (zh) * | 2017-12-20 | 2018-06-05 | 厦门美图之家科技有限公司 | 双目摄像头标定方法、装置、电子设备及可读存储介质 |
CN108734743A (zh) * | 2018-04-13 | 2018-11-02 | 深圳市商汤科技有限公司 | 用于标定摄像装置的方法、装置、介质及电子设备 |
CN109102545A (zh) * | 2018-07-11 | 2018-12-28 | 大连理工大学 | 一种基于非度量的畸变校正方法 |
CN110197510A (zh) * | 2019-06-05 | 2019-09-03 | 广州极飞科技有限公司 | 双目相机的标定方法、装置、无人机和存储介质 |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007235642A (ja) * | 2006-03-02 | 2007-09-13 | Hitachi Ltd | 障害物検知システム |
JP2010250452A (ja) * | 2009-04-14 | 2010-11-04 | Tokyo Univ Of Science | 任意視点画像合成装置 |
CN102750697B (zh) * | 2012-06-08 | 2014-08-20 | 华为技术有限公司 | 一种参数标定方法及装置 |
JP2019132855A (ja) * | 2014-01-31 | 2019-08-08 | 株式会社リコー | ステレオカメラ校正方法、視差算出装置及びステレオカメラ |
CN106887023A (zh) * | 2017-02-21 | 2017-06-23 | 成都通甲优博科技有限责任公司 | 用于双目摄像机标定的标定板及其标定方法和标定系统 |
CN109215082B (zh) * | 2017-06-30 | 2021-06-22 | 杭州海康威视数字技术股份有限公司 | 一种相机参数标定方法、装置、设备及系统 |
CN109920004B (zh) * | 2017-12-12 | 2023-12-19 | 广东虚拟现实科技有限公司 | 图像处理方法、装置、标定物组合、终端设备及标定系统 |
CN110349221A (zh) * | 2019-07-16 | 2019-10-18 | 北京航空航天大学 | 一种三维激光雷达与双目可见光传感器的融合标定方法 |
-
2019
- 2019-11-19 CN CN201911135686.4A patent/CN112907675B/zh active Active
-
2020
- 2020-11-04 JP JP2021535995A patent/JP2022514429A/ja active Pending
- 2020-11-04 WO PCT/CN2020/126573 patent/WO2021098517A1/zh active Application Filing
-
2022
- 2022-05-10 US US17/740,771 patent/US20220270294A1/en not_active Abandoned
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102567991A (zh) * | 2011-12-09 | 2012-07-11 | 北京航空航天大学 | 一种基于同心圆合成图像匹配的双目视觉标定方法和系统 |
CN103487034A (zh) * | 2013-09-26 | 2014-01-01 | 北京航空航天大学 | 一种基于立式标靶的车载单目摄像头测距测高方法 |
CN107194972A (zh) * | 2017-05-16 | 2017-09-22 | 成都通甲优博科技有限责任公司 | 一种摄像机标定方法及系统 |
CN108122259A (zh) * | 2017-12-20 | 2018-06-05 | 厦门美图之家科技有限公司 | 双目摄像头标定方法、装置、电子设备及可读存储介质 |
CN108734743A (zh) * | 2018-04-13 | 2018-11-02 | 深圳市商汤科技有限公司 | 用于标定摄像装置的方法、装置、介质及电子设备 |
CN109102545A (zh) * | 2018-07-11 | 2018-12-28 | 大连理工大学 | 一种基于非度量的畸变校正方法 |
CN110197510A (zh) * | 2019-06-05 | 2019-09-03 | 广州极飞科技有限公司 | 双目相机的标定方法、装置、无人机和存储介质 |
Non-Patent Citations (2)
Title |
---|
双目标定中棋盘格图像角点样本筛选及标定;李晋惠等;《西安工业大学学报》;20160531;全文 * |
双目视觉立体标定方法的改进;刘军等;《武汉工程大学学报》;20131031;全文 * |
Also Published As
Publication number | Publication date |
---|---|
US20220270294A1 (en) | 2022-08-25 |
CN112907675A (zh) | 2021-06-04 |
JP2022514429A (ja) | 2022-02-10 |
WO2021098517A1 (zh) | 2021-05-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112907675B (zh) | 图像采集设备的标定方法、装置、系统、设备及存储介质 | |
CN112907676B (zh) | 传感器的标定方法、装置、系统、车辆、设备及存储介质 | |
CN111179358B (zh) | 标定方法、装置、设备及存储介质 | |
CN112270713B (zh) | 标定方法以及装置、存储介质、电子装置 | |
CN111627072B (zh) | 一种对多传感器进行标定的方法、装置和存储介质 | |
CN110717942B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
JP7016058B2 (ja) | カメラパラメタセット算出方法、カメラパラメタセット算出プログラム及びカメラパラメタセット算出装置 | |
CN112949478B (zh) | 基于云台相机的目标检测方法 | |
KR20190021342A (ko) | 개선된 카메라 캘리브레이션 시스템, 타겟 및 프로세스 | |
CN113034612B (zh) | 一种标定装置、方法及深度相机 | |
CN111213159A (zh) | 一种图像处理方法、装置及系统 | |
CN109658451B (zh) | 一种深度感知方法,装置和深度感知设备 | |
CN112348890B (zh) | 一种空间定位方法、装置及计算机可读存储介质 | |
CN111383264B (zh) | 一种定位方法、装置、终端及计算机存储介质 | |
CN116051652A (zh) | 一种参数标定方法及电子设备、存储介质 | |
KR101697229B1 (ko) | 차량용 영상 정합을 위한 차선 정보 기반의 자동보정장치 및 그 방법 | |
CN115965697A (zh) | 基于沙姆定律的投影仪标定方法、标定系统及装置 | |
CN113538590B (zh) | 一种变焦相机的标定方法、装置、终端设备和存储介质 | |
CN114445415B (zh) | 可行驶区域的分割方法以及相关装置 | |
KR20180127671A (ko) | Avm 시스템의 자동 캘리브레이션 방법 | |
CN102968784B (zh) | 一种多视角拍摄进行孔径合成成像方法 | |
CN112446926A (zh) | 一种激光雷达与多目鱼眼相机的相对位置标定方法及装置 | |
CN113052974A (zh) | 物体三维表面的重建方法和装置 | |
EP3564747B1 (en) | Imaging device and imaging method | |
CN109323691B (zh) | 一种定位系统以及定位方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |