CN112254653B - 一种用于3d信息采集的程序控制方法 - Google Patents
一种用于3d信息采集的程序控制方法 Download PDFInfo
- Publication number
- CN112254653B CN112254653B CN202011105305.0A CN202011105305A CN112254653B CN 112254653 B CN112254653 B CN 112254653B CN 202011105305 A CN202011105305 A CN 202011105305A CN 112254653 B CN112254653 B CN 112254653B
- Authority
- CN
- China
- Prior art keywords
- image
- motor
- acquisition
- image acquisition
- controller
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 86
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 18
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 18
- 230000003287 optical effect Effects 0.000 claims description 11
- 230000008569 process Effects 0.000 claims description 11
- 238000004519 manufacturing process Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 abstract description 12
- 230000000087 stabilizing effect Effects 0.000 description 25
- 238000005259 measurement Methods 0.000 description 14
- 238000004422 calculation algorithm Methods 0.000 description 9
- 238000005457 optimization Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 7
- 238000002474 experimental method Methods 0.000 description 6
- 230000006870 function Effects 0.000 description 6
- 238000010276 construction Methods 0.000 description 5
- 239000011159 matrix material Substances 0.000 description 5
- 239000013598 vector Substances 0.000 description 5
- 230000006641 stabilisation Effects 0.000 description 4
- 238000011105 stabilization Methods 0.000 description 4
- 230000008901 benefit Effects 0.000 description 3
- 238000013507 mapping Methods 0.000 description 3
- 230000002093 peripheral effect Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 238000005096 rolling process Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000009471 action Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 238000004590 computer program Methods 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 230000004927 fusion Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000012163 sequencing technique Methods 0.000 description 2
- 230000003019 stabilising effect Effects 0.000 description 2
- 238000012876 topography Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000003306 harvesting Methods 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000001788 irregular Effects 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 239000004984 smart glass Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000009987 spinning Methods 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000001308 synthesis method Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/02—Measuring arrangements characterised by the use of optical techniques for measuring length, width or thickness
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/002—Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2545—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with one projection direction and several detection directions, e.g. stereo
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Studio Devices (AREA)
Abstract
本发明提供了一种3D信息采集的程序控制方法及设备,步骤1:控制器向电机发送控制信号;其中,控制信号包括电机脉冲数N;步骤2:电机根据控制信号带动图像采集装置旋转一定角度;步骤3:控制器控制图像采集装置采集目标物图像,并存储;步骤4:将步骤1至步骤3循环n次;首次提出使用程序控制方法进行相机转动和采集的同时控制,保证相机在优化的位置进行采集,从而兼顾3D合成的效果和效率。
Description
技术领域
本发明涉及形貌测量技术领域,特别涉及3D形貌测量技术领域。
背景技术
在进行3D测量时,需要首先采集3D信息。目前常用的方法包括使用机器视觉的方式和结构光、激光测距、激光雷达的方式。
结构光、激光测距、激光雷达的方式均需要主动光源发射到目标物上,在某些情况下会对目标物造成影响,且光源成本较高。并且光源结构比较精密,易于损坏。
而机器视觉的方式是采集物体不同角度的图片,并将这些图片匹配拼接形成3D模型,成本低、易使用。其在采集不同角度图片时,可以待测物不同角度设置多个相机,也可以通过单个或多个相机旋转从不同角度采集图片。但无论这两种方式哪一种,都需要将相机的采集位置围绕目标物设置(简称环绕式),但这种方式需要较大空间为图像采集装置设置采集位置。
而且,除了单一目标物3D构建外,通常还有目标物内部空间3D模型构建需求和周边较大视场范围内的3D模型构建的需求,这是传统环绕式3D采集设备所很难做到的。
在现有技术中,也曾提出使用包括旋转角度、目标物尺寸、物距的经验公式限定相机位置,从而兼顾合成速度和效果。然而在实际应用中发现这在环绕式3D采集中是可行的,可以事先测量目标物尺寸。但在开放式的空间中则难以事先测量目标物,例如需要采集获得街道、交通路口、楼群、隧道、车流等的3D信息(不限于此)。这使得这种方法难以奏效。即使是固定的较小的目标物,例如家具、人身体部分等虽然可以事先测量其尺寸,但这种方法依然受到较大限制:目标物尺寸难以准确确定,特别是某些应用场合目标物需要频繁更换,每次测量带来大量额外工作量,并且需要专业设备才能准确测量不规则目标物。测量的误差导致相机位置设定误差,从而会影响采集合成速度和效果;准确度和速度还需要进一步提高。
现有技术虽然也有对于环绕式采集设备优化的方法,但当3D采集合成设备的相机的采集方向与其旋转轴方向相互背离的情况时,现有技术就没有更佳的优化方法。
此外,现有技术中对于自转式采集而言,没有适合的控制方法,通常均是边自转边采集,即开始转动后即进行采集,不进行特殊的控制。但在某些场合下这样的采集方式并不合适。例如,在转动的过程中进行采集会导致采集图像模糊,从而影响3D合成的效果。如果转动停止后进行采集,又会导致需要较长时间,这对于手持情形来说是非常不利的。因此,何时转动,何时停止采集是需要优化的。特别是,这与上述相机采集位置密切相关,如何控制相机在恰当的位置进行采集,决定了整个3D合成的效果和效率。
因此,急需一种能够精确、高效、方便采集周边或内部空间3D信息的采集控制方法和相应设备,且适用于更广泛的场景和目标物。
发明内容
鉴于上述问题,提出了本发明提供一种克服上述问题或者至少部分地解决上述问题的一种3D信息采集的程序控制方法及设备。
本发明实施例提供了一种3D信息采集的程序控制方法及设备,
步骤1:控制器向电机发送控制信号;其中,控制信号包括电机脉冲数N;
步骤2:电机根据控制信号带动图像采集装置旋转一定角度;
步骤3:控制器控制图像采集装置采集目标物图像,并存储;
步骤4:将步骤1至步骤3循环n次;
其中脉冲数N满足如下条件:
N为电机脉冲数量;
M为电机细分,即电机转动一周需要的脉冲数;
R为旋转中心到目标物表面的距离;
T为采集时物距与像距的和,也就是图像采集装置的感光单元与目标物的距离;
d为图像采集装置的感光元件的长度或宽度;
F为图像采集装置的镜头焦距;
u为经验系数。
在可选的实施例中:控制器通过协议转换器向电机控制器发送命令信号。
在可选的实施例中:控制器可以为移动终端。
在可选的实施例中:协议转换器将控制器发送的蓝牙、wifi、4G、5G格式的命令转化为符合电机控制器接口协议。
在可选的实施例中:上述控制方法还包括程序启动流程。
在可选的实施例中:控制器和图像采集装置位于同一装置上;或控制器和图像采集装置分别位于不同装置上。
在可选的实施例中:u<0.498,为了更佳的合成效果,优选u<0.411,特别是优选u<0.359,在一些应用场合下u<0.281,或u<0.169,或u<0.041,或u<0.028。
在可选的实施例中:图像采集装置的光学采集口均背向旋转轴方向。
本发明实施例的另一方面提供了一种手持3D信息采集设备,包括使用上述任何一种控制方法。
本发明实施例的另一方面提供了一种3D合成/识别装置及方法,包括上述任一权利要求所述的设备及方法。
本发明实施例的另一方面提供了一种物体制造/展示装置及方法,包括上述任一权利要求所述的设备及方法。
发明点及技术效果
1、首次提出利用自转式智能视觉3D采集设备采集目标物内部空间的3D信息。
2、首次提出通过测量旋转中心与目标物距离、图像传感元件与目标物距离的方式优化相机采集位置,从而兼顾3D构建的速度和效果。
3、首次提出使用程序控制方法进行相机转动和采集的同时控制,保证相机在优化的位置进行采集,从而兼顾3D合成的效果和效率。
4、可以使用移动终端一并实现图像采集和控制两个作用,从而使得整个采集方法和设备都更加简单。通过移动终端上的app可以直接实现移动终端的旋转采集并最终合成3D模型。
附图说明
通过阅读下文优选实施方式的详细描述,各种其他的优点和益处对于本领域普通技术人员将变得清楚明了。附图仅用于示出优选实施方式的目的,而并不认为是对本发明的限制。而且在整个附图中,用相同的参考符号表示相同的部件。在附图中:
图1示出了本发明实施例中提供的3D采集控制的硬件控制示意图;
图2示出了本发明实施例中提供的3D采集控制的硬件结构示意图;
图3示出了本发明实施例提供的固定3D信息采集设备的另一种实现方式的结构示意图。
图4示出了本发明实施例提供的手持3D信息采集设备的一种结构示意图;
图5示出了手持3D信息采集设备的另一种实现方式结构示意图;
图6示出了手持3D信息采集设备的第三种实现方式结构示意图;
图7示出了手持3D信息采集设备的第四种实现方式结构示意图;
附图中的附图标记与各部件的对应关系如下:
1 图像采集装置;
2 3D旋转采集稳定装置;
21 旋转单元;
22 安装架;
23 俯仰稳定单元;
24 连接架;
25 翻滚稳定单元;
26 固定单元;
3 承载装置;
5 俯仰装置;
8 旋转装置;
11 移动终端;
12 电机。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
3D采集的控制方法
硬件控制及结构如图1、2所示。
在移动终端11(例如手机)上建立APP,通过APP控制电机12旋转和自身摄像头拍照,从而实现对周边的图像采集,并将图像最终用于3D模型构建。当然,可以不使用移动终端的摄像头进行拍照,而是额外设置相机。
移动终端通过蓝牙/wifi透传发送命令到无线协议转换器,命令的格式为RS485RTU协议格式,如:01 06 00 96 01 2c 69ab(数据采用十六进制)。
01---地址
06---功能代码
00 96---数据地址
01 2c----数据
69 ab---CRC校验码
代表意义:向01设备的00 96地址上面写入01 2c数据。
无线协议转换器接收无线命令后,将接收到的命令通过RS485(A/B两条信号线)传送到电机控制器(无线协议转换器通过RS485总线相连,总线采用A B两条信号线相连)。
电机控制器通过控制总线(A+/A_B+/B_)控制电机的启动,运动和停止以及参数设定。
移动终端通过操作系统(android/ios)控制本身自带的摄像头进行影像的显示和图片储存。
以蓝牙通讯为例,具体方法如下:
1、软件启动流程
获取蓝牙操作权限;
开启系统蓝牙;
注册蓝牙服务;
获取Camera操作权限;
获取指定摄像头设备属性;
获取Camera朝向;
获取流配置,为视频流的传递建立通道;
创建imageReader对象;
获取位姿sensor方向;
启动Camera回调线程;
打开相机;
绘制影响资料到显示界面;
连接无线协议转换器;
启动系统蓝牙服务。
2、采集流程
2-1用户点击采集按钮;
2-2移动终端发送蓝牙信息;
2-3电机根据命令转动到目的位置,即转过a角度。
2-4电机停止转动;
2-5相机进行拍照采集;
2-6采集图像进行存储;
2-7继续循环步骤2-2至2-6步骤n次。
其中,n=360°/a。
为了控制电机每次转动a角度,移动终端需要通过蓝牙发送命令,即将电机的脉冲数N发送给电机控制器,从而控制电机转动a角度。因此,n=M/N。当然,为了拍摄更多冗余图像,也可以使得上述循环大于M/N。
例如,App通过RTU命令格式发送指令给蓝牙(下例是发送多字节命令)
01 10 00 CE 00 02 04 1F 40 00 00 78 73
01----设备地址
10----指令码(代表写入)
00 CE----数据的目标地址(代表发送脉冲数量)
00 02----数据的长度
04 IF 40 00---数据
00 78 73---CRC校验码
其中04 IF 40 00代表发送脉冲数量,从而控制每次移动的角度a.
为了保证设备能够兼顾3D合成的效果和效率,除了常规的优化合成算法的方法外,还可以通过优化相机采集位置的方法。特别是当3D采集合成设备的相机的采集方向与其旋转轴方向相互背离的情况时,对于这种设备现有技术未提到如何进行相机位置的更佳的优化。即使存在的一些优化方法,其也是在不同实验下得到的不同的经验条件。特别是,现有的一些位置优化方法需要获得目标物的尺寸,这在环绕式3D采集中是可行的,可以事先测量完毕。但在开放式的空间中则难以事先测量得到。因此需要提出一种能够适用于当3D采集合成设备的相机的采集方向与其旋转轴方向相互背离的情况时进行相机位置优化的方法。这正是本发明所要解决的问题,和做出的技术贡献。
为此,本发明进行了大量实验,总结出在进行采集时控制信号应当采用的优选脉冲数量N优选满足的经验条件如下。
其中,
N为电机脉冲数量,其包括在控制命令中。
M为电机细分,即电机转动一周需要的脉冲数。
R为旋转中心到目标物表面的距离,
T为采集时物距与像距的和,也就是图像采集装置的感光单元与目标物的距离。
d为图像采集装置的感光元件(CCD)的长度或宽度,当上述两个位置是沿感光元件长度方向时,d取矩形长度;当上述两个位置是沿感光元件宽度方向时,d取矩形宽度。
F为图像采集装置的镜头焦距。
u为经验系数。
通常情况下,在采集设备上配置有测距装置,例如激光测距仪。将其光轴与图像采集装置的光轴调节平行,则其可以测量采集设备到目标物表面的距离,利用测量得到的距离,根据测距装置与采集设备各部件的已知位置关系,即可获得R和T。
图像采集装置在两个位置中的任何一个位置时,感光元件沿着光轴到目标物表面的距离作为T。除了这种方法外,也可以使用多次平均法或其他方法,其原则是T的值应当与采集时像距物距和不背离。
同样道理,图像采集装置在两个位置中的任何一个位置时,旋转中心沿着光轴到目标物表面的距离作为R。除了这种方法外,也可以使用多次平均法或其他方法,其原则是R的值应当与采集时旋转半径不背离。
通常情况下,现有技术中均采用物体尺寸作为推算相机位置的方式。由于物体尺寸会随着测量物体的变化而改变。例如,在进行一个大物体3D信息采集后,再进行小物体采集时,就需要重新测量尺寸,重新推算。上述不方便的测量以及多次重新测量都会带来测量的误差,从而导致相机位置推算错误。而本方案根据大量实验数据,给出了相机位置需要满足的经验条件,不需要直接测量物体大小尺寸。经验条件中d、F均为相机固定参数,在购买相机、镜头时,厂家即会给出相应参数,无需测量。而R、T仅为一个直线距离,用传统测量方法,例如直尺、激光测距仪均可以很便捷的测量得到。同时,由于本发明的设备中,图像采集装置(例如相机)的采集方向与其旋转轴方向相互背离,也就是说,镜头朝向与旋转中心大体相反。此时控制图像采集装置两次位置的光轴夹角a就更加容易,只需要控制旋转驱动电机的转角即可。因此,使用a来定义最优位置是更为合理的。因此,本发明的经验公式使得准备过程变得方便快捷,同时也提高了相机位置的排布准确度,使得相机能够设置在优化的位置中,从而在同时兼顾了3D合成精度和速度。
根据大量实验,为保证合成的速度和效果,u应当小于0.498,为了更佳的合成效果,优选u<0.411,特别是优选u<0.359,在一些应用场合下u<0.281,或u<0.169,或u<0.041,或u<0.028。
利用本发明装置,进行实验,部分实验数据如下所示,单位mm。(以下数据仅为有限举例)
以上数据仅为验证该公式条件所做实验得到的,并不对发明构成限定。即使没有这些数据,也不影响该公式的客观性。本领域技术人员可以根据需要调整设备参数和步骤细节进行实验,得到其他数据也是符合该公式条件的。
以上以移动终端的APP控制电机旋转和自身摄像头采集为例进行了描述。这实际上是将移动终端作为采集装置的一部分。可以理解,移动终端的APP同样可以控制电机旋转和电机上额外安装的相机进行采集。也就是说,移动终端只作为控制器使用,而不参与采集过程。
因此,上述采集控制方法既可以用于手持3D信息采集设备的采集控制,也可以用于额外放置的3D信息采集设备的采集控制。下面将描述这两种设备的结构。
固定3D信息采集设备结构
为解决上述技术问题,本发明的一实施例提供了一种3D信息采集设备,如图3所示,包括图像采集装置1、旋转装置8、承载装置3。
其中图像采集装置1与旋转装置8的旋转轴连接,由旋转装置8带动其转动。图像采集装置的采集方向为背离旋转中心方向。即采集方向为指向相对于旋转中心向外。图像采集装置的光轴可以与旋转平面平行,也可以与旋转平面成一定夹角,例如在以旋转平面为基准-90°-90°的范围内均是可以的。通常旋转轴或其延长线(即旋转中心线)通过图像采集装置,即图像采集装置仍然以自转方式转动。这与传统的图像采集装置围绕某一目标物进行旋转的采集方式(环绕式)本质不同,即与环绕目标物转动的环绕式完全不同。图像采集装置的光学采集口(例如镜头)均背向旋转轴方向,也就是说图像采集装置的采集区与旋转中心线无交集。同时由于图像采集装置的光轴与水平面具有夹角,因此这种方式与一般的自转式也有较大差别,特别是能够采集表面与水平面不垂直的目标物。
当然,旋转装置的旋转轴也可以通过减速装置与图像采集装置连接,例如通过齿轮组等。当图像采集装置在水平面进行360°的旋转时,其在特定位置拍摄对应目标物的图像(具体拍摄位置后续将详细描述)。这种拍摄可以是与旋转动作同步进行,或是在拍摄位置停止旋转后进行拍摄,拍摄完毕后继续旋转,以此类推。上述旋转装置可以为电机、马达、步进电机、伺服电机、微型马达等。旋转装置(例如各类电机)可以在控制器的控制下按照规定速度转动,并且可以转动规定角度,从而实现采集位置的优化,具体采集位置下面将详细说明。当然也可以使用现有设备中的旋转装置,将图像采集装置安装其上即可。
承载装置3用来承载整个设备的重量,旋转装置8与承载装置3连接。承载装置可以为三脚架、带有支撑装置的底座等。通常情况下,旋转装置位于承载装置的中心部分,以保证平衡。但在一些特殊场合中,也可以位于承载装置任意位置。而且承载装置并不是必须的。旋转装置可以直接安装于应用设备中,例如可以安装于车辆顶部。
图像采集装置可以为CCD、CMOS、相机、摄像机、工业相机、监视器、摄像头、手机、平板、笔记本、移动终端、可穿戴设备、智能眼镜、智能手表、智能手环以及带有图像采集功能所有装置。
上述设备还可以包括测距装置,测距装置与图像采集装置固定连接,且测距装置指向方向与图像采集装置光轴方向相同。当然测距装置也可以固定连接于旋转装置上,只要可以随图像采集装置同步转动即可。优选的,可以设置安装平台,图像采集装置和测距装置均位于平台上,平台安装于旋转装置旋转轴上,由旋转装置驱动转动。测距装置可以使用激光测距仪、超声测距仪、电磁波测距仪等多种方式,也可以使用传统的机械量具测距装置。当然,在某些应用场合中,3D采集设备位于特定位置,其与目标物的距离已经标定,无需额外测量。
还可以包括光源,光源可以设置于图像采集装置周边、旋转装置上以及安装平台上。当然光源也可以单独设置,例如使用独立光源照射目标物。甚至在光照条件较好的时候不使用光源。光源可以为LED光源,也可以为智能光源,即根据目标物及环境光的情况自动调整光源参数。通常情况下,光源位于图像采集装置的镜头周边分散式分布,例如光源为在镜头周边的环形LED灯。由于在一些应用中需要控制光源强度。特别是可以在光源的光路上设置柔光装置,例如为柔光外壳。或者直接采用LED面光源,不仅光线比较柔和,而且发光更为均匀。更佳地,可以采用OLED光源,体积更小,光线更加柔和,并且具有柔性特性,可以贴附于弯曲的表面。
为了方便目标物的实际尺寸测量,可在目标物位置设置多个标记点。并且这些标记点的坐标已知。通过采集标记点,并结合其坐标,获得3D合成模型的绝对尺寸。这些标记点可以为事先设置的点,也可以是激光光点。确定这些点的坐标的方法可以包括:①使用激光测距:使用标定装置向着目标物发射激光,形成多个标定点光斑,通过标定装置中激光测距单元的已知位置关系获得标定点坐标。使用标定装置向着目标物发射激光,使得标定装置中的激光测距单元发射的光束落在目标物上形成光斑。由于激光测距单元发射的激光束相互平行,且各个单元之间的位置关系已知。那么在目标物上形成的多个光斑的在发射平面的二维坐标就可以得到。通过激光测距单元发射的激光束进行测量,可以获得每个激光测距单元与对应光斑之间的距离,即相当于在目标物上形成的多个光斑的深度信息可以获得。即垂直于发射平面的深度坐标就可以得到。由此,可以获得每个光斑的三维坐标。②使用测距与测角结合:分别测量多个标记点的距离以及相互之间的夹角,从而算出各自坐标。③使用其它坐标测量工具:例如RTK、全球坐标定位系统、星敏定位系统、位置和位姿传感器等。
手持3D信息采集设备
如图4所示,图像采集装置1与3D旋转采集稳定装置2连接,从而在3D旋转采集稳定装置2的驱动下稳定地旋转扫描,实现对于周边目标物的3D采集(具体采集流程下面将详述)。3D旋转采集稳定装置2安装于承载装置3上,承载装置3用于承载整个设备。承载装置可以为手柄,从而使得整个设备可用于手持采集。承载装置也可以为底座型承载装置,用于安装在其他设备上,从而使得整个智能3D采集设备安装于其他设备上共同使用。例如,智能3D采集设备安装于车辆上,随车辆行进进行3D采集。众所周知,无论是手持,还是车载,亦或是机载、或其他运动的设备,在运动过程中都会不可避免的产生振动、抖动、晃动等,从而使得传统3D采集设备无法完成采集,影响采集的质量和速度。
承载装置3用来承载整个设备的重量,3D旋转采集稳定装置2与承载装置3连接。承载装置可以为手柄、三脚架、带有支撑装置的底座等。通常情况下,3D旋转采集稳定装置位于承载装置的中心部分,以保证平衡。但在一些特殊场合中,也可以位于承载装置任意位置。而且承载装置并不是必须的。3D旋转采集稳定装置也可以直接安装于应用设备中,例如可以安装于车辆顶部。承载装置内部空间用于容纳电池,用于给3D旋转采集稳定装置供电。同时,为了使用方便,在承载装置外壳上设置按键,用于控制3D旋转采集稳定装置。包括开启/关闭稳定功能,开启/关闭3D旋转采集功能。
其中图像采集装置与旋转单元的旋转轴连接,由旋转单元带动其转动。当然,旋转单元的旋转轴也可以通过减速装置与图像采集装置连接,例如通过齿轮组等。当图像采集装置在水平面进行360°的旋转时,其在特定位置拍摄对应目标物的图像(具体拍摄位置后续将详细描述)。这种拍摄可以是与旋转动作同步进行,或是在拍摄位置停止旋转后进行拍摄,拍摄完毕后继续旋转,以此类推。上述旋转装置可以为电机、马达、步进电机、伺服电机、微型马达等。旋转装置(例如各类电机)可以在控制器的控制下按照规定速度转动,并且可以转动规定角度,从而实现采集位置的优化,具体采集位置下面将详细说明。当然也可以使用现有设备中的旋转装置,将图像采集装置安装其上即可。
3D旋转采集稳定装置包括旋转单元21、安装架22、俯仰稳定单元23、连接架24、翻滚稳定单元25、固定单元26。
俯仰稳定单元和翻滚稳定单元均包括驱动体和转动头。其中驱动体包括伺服步进电机及外壳,转动头与电机转轴连接,在电机驱动下转动。
旋转单元21通过安装架22安装于俯仰稳定单元23的转动头,俯仰稳定单元23的驱动体通过连接架24安装于翻滚稳定单元25的转动头,翻滚稳定单元25的驱动体安装有固定体,并通过固定体安装于承载装置3上。
可以理解,俯仰稳定单元23和翻滚稳定单元25的位置可以交换。如图5所示,即旋转单元21通过安装架22安装于翻滚稳定单元25的转动头,翻滚稳定单元25的驱动体通过连接架24安装于俯仰稳定单元23的转动头,俯仰稳定单元23的驱动体安装有固定体,并通过固定体安装于承载装置上。
安装架上设置有陀螺仪,用于感测旋转单元的三轴角速度信号。与通常二维相机或摄像机的稳定结构不同,通常的稳定结构均将陀螺仪设置在相机上,或是设置在与相机连接的连接板上。而本发明中将陀螺仪设置在于旋转单元连接的安装架上。这是由于如果将陀螺仪设置在相机上(或附近),则相机本身必要的3D旋转扫描会影响陀螺仪的感知,使得系统无法准确区分究竟是相机必须的旋转导致的三轴加速度还是由于整个设备颠簸造成的。因此,这也是发明点之一。
控制单元根据陀螺仪信号控制翻滚稳定单元的电机和/或俯仰稳定单元的电机相应转动,从而抵消设备运动给图像采集装置带来的不期望的偏移,保证图像采集装置稳定旋转扫描。
当然,3D旋转采集稳定装置在手持3D信息采集设备中可以替换为结构更为简单的旋转装置8,如图6所示,图像采集装置,与旋转装置8连接,旋转装置8安装于承载装置3上,承载装置为手持装置,这样使得整个设备体积更小,使用更加灵活,适用于对于稳定性和精度要求不高的应用场景。
另外,如图7所示,在图像采集装置1与旋转装置8之间还可以增加用于调节图像采集装置俯仰角度的俯仰装置5,以适应多角度不同区位的3D信息的采集需求。
3D模型合成方法
图像采集装置采集获得的多个图像送入处理单元中,利用下述算法构建3D模型。所述处理单元可以位于采集设备中,也可以位于远程,例如云平台、服务器、上位机等。
具体算法主要包括如下步骤:
步骤1:对所有输入照片进行图像增强处理。采用下述滤波器增强原始照片的反差和同时压制噪声。
式中:g(x,y)为原始影像在(x,y)处灰度值,f(x,y)为经过Wallis滤波器增强后该处的灰度值,mg为原始影像局部灰度均值,sg为原始影像局部灰度标准偏差,mf为变换后的影像局部灰度目标值,sf为变换后影像局部灰度标准偏差目标值。c∈(0,1)为影像方差的扩展常数,b∈(0,1)为影像亮度系数常数。
该滤波器可以大大增强影像中不同尺度的影像纹理模式,所以在提取影像的点特征时可以提高特征点的数量和精度,在照片特征匹配中则提高了匹配结果可靠性和精度。
步骤2:对输入的所有照片进行特征点提取,并进行特征点匹配,获取稀疏特征点。采用SURF算子对照片进行特征点提取与匹配。SURF特征匹配方法主要包含三个过程,特征点检测、特征点描述和特征点匹配。该方法使用Hessian矩阵来检测特征点,用箱式滤波器(Box Filters)来代替二阶高斯滤波,用积分图像来加速卷积以提高计算速度,并减少了局部影像特征描述符的维数,来加快匹配速度。主要步骤包括①构建Hessian矩阵,生成所有的兴趣点,用于特征提取,构建Hessian矩阵的目的是为了生成图像稳定的边缘点(突变点);②构建尺度空间特征点定位,将经过Hessian矩阵处理的每个像素点与二维图像空间和尺度空间邻域内的26个点进行比较,初步定位出关键点,再经过滤除能量比较弱的关键点以及错误定位的关键点,筛选出最终的稳定的特征点;③特征点主方向的确定,采用的是统计特征点圆形邻域内的harr小波特征。即在特征点的圆形邻域内,统计60度扇形内所有点的水平、垂直harr小波特征总和,然后扇形以0.2弧度大小的间隔进行旋转并再次统计该区域内harr小波特征值之后,最后将值最大的那个扇形的方向作为该特征点的主方向;④生成64维特征点描述向量,特征点周围取一个4*4的矩形区域块,但是所取得矩形区域方向是沿着特征点的主方向。每个子区域统计25个像素的水平方向和垂直方向的haar小波特征,这里的水平和垂直方向都是相对主方向而言的。该haar小波特征为水平方向值之后、垂直方向值之后、水平方向绝对值之后以及垂直方向绝对值之和4个方向,把这4个值作为每个子块区域的特征向量,所以一共有4*4*4=64维向量作为Surf特征的描述子;⑤特征点匹配,通过计算两个特征点间的欧式距离来确定匹配度,欧氏距离越短,代表两个特征点的匹配度越好。
步骤3:输入匹配的特征点坐标,利用光束法平差,解算稀疏的目标物三维点云和拍照相机的位置和姿态数据,即获得了稀疏目标物模型三维点云和位置的模型坐标值;以稀疏特征点为初值,进行多视照片稠密匹配,获取得到密集点云数据。该过程主要有四个步骤:立体像对选择、深度图计算、深度图优化、深度图融合。针对输入数据集里的每一张影像,我们选择一张参考影像形成一个立体像对,用于计算深度图。因此我们可以得到所有影像的粗略的深度图,这些深度图可能包含噪声和错误,我们利用它的邻域深度图进行一致性检查,来优化每一张影像的深度图。最后进行深度图融合,得到整个场景的三维点云。
步骤4:利用密集点云进行目标物曲面重建。包括定义八叉树、设置函数空间、创建向量场、求解泊松方程、提取等值面几个过程。由梯度关系得到采样点和指示函数的积分关系,根据积分关系获得点云的向量场,计算指示函数梯度场的逼近,构成泊松方程。根据泊松方程使用矩阵迭代求出近似解,采用移动方体算法提取等值面,对所测点云重构出被测物体的模型。
步骤5:目标物模型的全自动纹理贴图。表面模型构建完成后,进行纹理贴图。主要过程包括:①纹理数据获取通过图像重建目标的表面三角面格网;②重建模型三角面的可见性分析。利用图像的标定信息计算每个三角面的可见图像集以及最优参考图像;③三角面聚类生成纹理贴片。根据三角面的可见图像集、最优参考图像以及三角面的邻域拓扑关系,将三角面聚类生成为若干参考图像纹理贴片;④纹理贴片自动排序生成纹理图像。对生成的纹理贴片,按照其大小关系进行排序,生成包围面积最小的纹理图像,得到每个三角面的纹理映射坐标。
应当注意,上述算法是本发明使用的算法,本算法与图像采集条件相互配合,使用该算法兼顾了合成的时间和质量。但可以理解,同样可以使用现有技术中常规3D合成算法也可以与本发明的方案进行配合使用。
应用实例
为了构建某一建筑物内部3D模型,可以手持3D采集设备,通过触摸开启手机上的APP开始图像采集和3D模型合成。
上述目标物体、目标物、及物体皆表示预获取三维信息的对象。可以为一实体物体,也可以为多个物体组成物。所述目标物的三维信息包括三维图像、三维点云、三维网格、局部三维特征、三维尺寸及一切带有目标物三维特征的参数。本发明里所谓的三维是指具有XYZ三个方向信息,特别是具有深度信息,与只有二维平面信息具有本质区别。也与一些称为三维、全景、全息、三维,但实际上只包括二维信息,特别是不包括深度信息的定义有本质区别。
本发明所说的采集区域是指图像采集装置1(例如相机)能够拍摄的范围。本发明中的图像采集装置可以为CCD、CMOS、相机、摄像机、工业相机、监视器、摄像头、手机、平板、笔记本、移动终端、可穿戴设备、智能眼镜、智能手表、智能手环以及带有图像采集功能所有设备。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的基于本发明装置中的一些或者全部部件的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
至此,本领域技术人员应认识到,虽然本文已详尽示出和描述了本发明的多个示例性实施例,但是,在不脱离本发明精神和范围的情况下,仍可根据本发明公开的内容直接确定或推导出符合本发明原理的许多其他变型或修改。因此,本发明的范围应被理解和认定为覆盖了所有这些其他变型或修改。
Claims (19)
2.如权利要求1所述的方法,其特征在于:控制器通过协议转换器向电机控制器发送命令信号。
3.如权利要求1所述的方法,其特征在于:控制器可以为移动终端。
4.如权利要求1所述的方法,其特征在于:协议转换器将控制器发送的蓝牙、wifi、4G、5G格式的命令转化为符合电机控制器接口协议。
5.如权利要求1所述的方法,其特征在于:上述控制方法还包括程序启动流程。
6.如权利要求1所述的方法,其特征在于:控制器和图像采集装置位于同一装置上;或控制器和图像采集装置分别位于不同装置上。
7.如权利要求1所述的方法,其特征在于:u<0.498。
8.如权利要求1所述的方法,其特征在于:u<0.411。
9.如权利要求1所述的方法,其特征在于:u<0.359。
10.如权利要求1所述的方法,其特征在于:u<0.281。
11.如权利要求1所述的方法,其特征在于:u<0.169。
12.如权利要求1所述的方法,其特征在于:u<0.041。
13.如权利要求1所述的方法,其特征在于:u<0.028。
14.如权利要求1所述的方法,其特征在于:图像采集装置的光学采集口均背向旋转轴方向。
15.一种手持3D信息采集设备,其特征在于:包括使用权利要求1-14任一项所述的方法。
16.一种3D合成或识别装置,其特征在于:包括权利要求1-14任一所述的方法。
17.一种3D合成或识别方法,其特征在于:包括权利要求1-14任一所述的方法。
18.一种物体制造或展示装置,其特征在于:包括权利要求1-14任一所述的方法。
19.一种物体制造或展示方法,其特征在于:包括权利要求1-14任一所述的方法。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011105305.0A CN112254653B (zh) | 2020-10-15 | 2020-10-15 | 一种用于3d信息采集的程序控制方法 |
PCT/CN2021/123800 WO2022078444A1 (zh) | 2020-10-15 | 2021-10-14 | 一种用于3d信息采集的程序控制方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011105305.0A CN112254653B (zh) | 2020-10-15 | 2020-10-15 | 一种用于3d信息采集的程序控制方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112254653A CN112254653A (zh) | 2021-01-22 |
CN112254653B true CN112254653B (zh) | 2022-05-20 |
Family
ID=74243606
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011105305.0A Active CN112254653B (zh) | 2020-10-15 | 2020-10-15 | 一种用于3d信息采集的程序控制方法 |
Country Status (2)
Country | Link |
---|---|
CN (1) | CN112254653B (zh) |
WO (1) | WO2022078444A1 (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112254653B (zh) * | 2020-10-15 | 2022-05-20 | 天目爱视(北京)科技有限公司 | 一种用于3d信息采集的程序控制方法 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN207926762U (zh) * | 2017-12-20 | 2018-09-28 | 歌尔科技有限公司 | 拍摄控制系统 |
CN109635802A (zh) * | 2018-12-30 | 2019-04-16 | 北京工业大学 | 农林业病害孢子图像信息远程监测系统 |
CN110602355A (zh) * | 2018-05-25 | 2019-12-20 | 上海翌视信息技术有限公司 | 一种图像采集方法 |
CN111006586A (zh) * | 2019-12-12 | 2020-04-14 | 天目爱视(北京)科技有限公司 | 一种用于3d信息采集的智能控制方法 |
CN111398274A (zh) * | 2020-03-09 | 2020-07-10 | 天目爱视(北京)科技有限公司 | 一种微小目标物3d采集设备 |
CN111649690A (zh) * | 2019-12-12 | 2020-09-11 | 天目爱视(北京)科技有限公司 | 一种能够手持的3d信息采集的设备及方法 |
Family Cites Families (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102761708B (zh) * | 2012-05-18 | 2016-03-30 | 深圳大学 | 一种线阵ccd图像扫描方法 |
JP2019120577A (ja) * | 2018-01-04 | 2019-07-22 | 富士通株式会社 | 位置推定装置、位置推定方法及び位置推定用コンピュータプログラム |
CN109754433B (zh) * | 2018-12-27 | 2023-10-03 | 中国科学院长春光学精密机械与物理研究所 | 一种标定图像采集方法、装置、设备及存储介质 |
CN112254653B (zh) * | 2020-10-15 | 2022-05-20 | 天目爱视(北京)科技有限公司 | 一种用于3d信息采集的程序控制方法 |
-
2020
- 2020-10-15 CN CN202011105305.0A patent/CN112254653B/zh active Active
-
2021
- 2021-10-14 WO PCT/CN2021/123800 patent/WO2022078444A1/zh active Application Filing
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN207926762U (zh) * | 2017-12-20 | 2018-09-28 | 歌尔科技有限公司 | 拍摄控制系统 |
CN110602355A (zh) * | 2018-05-25 | 2019-12-20 | 上海翌视信息技术有限公司 | 一种图像采集方法 |
CN109635802A (zh) * | 2018-12-30 | 2019-04-16 | 北京工业大学 | 农林业病害孢子图像信息远程监测系统 |
CN111006586A (zh) * | 2019-12-12 | 2020-04-14 | 天目爱视(北京)科技有限公司 | 一种用于3d信息采集的智能控制方法 |
CN111649690A (zh) * | 2019-12-12 | 2020-09-11 | 天目爱视(北京)科技有限公司 | 一种能够手持的3d信息采集的设备及方法 |
CN111398274A (zh) * | 2020-03-09 | 2020-07-10 | 天目爱视(北京)科技有限公司 | 一种微小目标物3d采集设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112254653A (zh) | 2021-01-22 |
WO2022078444A1 (zh) | 2022-04-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112254670B (zh) | 一种基于光扫描和智能视觉融合的3d信息采集设备 | |
CN112492292B (zh) | 一种自由姿态的智能视觉3d信息采集设备 | |
WO2022078418A1 (zh) | 一种转动稳定的智能三维信息采集设备 | |
CN112361962B (zh) | 一种多俯仰角度的智能视觉3d信息采集设备 | |
CN112254680B (zh) | 一种多自由度的智能视觉3d信息采集设备 | |
CN112257537B (zh) | 一种智能多点三维信息采集设备 | |
CN112254675B (zh) | 一种包含运动物体的空间占用率采集判断设备及方法 | |
CN112082486B (zh) | 一种手持式智能3d信息采集设备 | |
CN112254638B (zh) | 一种可俯仰调节的智能视觉3d信息采集设备 | |
CN112254676B (zh) | 一种便携式智能3d信息采集设备 | |
CN112253913B (zh) | 一种与旋转中心偏离的智能视觉3d信息采集设备 | |
CN112254653B (zh) | 一种用于3d信息采集的程序控制方法 | |
CN112484663B (zh) | 一种多翻滚角度的智能视觉3d信息采集设备 | |
CN112254673B (zh) | 一种自转式智能视觉3d信息采集设备 | |
CN112254669B (zh) | 一种多偏置角度的智能视觉3d信息采集设备 | |
CN112254677B (zh) | 一种基于手持设备的多位置组合式3d采集系统及方法 | |
CN112672134B (zh) | 基于移动终端三维信息采集控制设备及方法 | |
CN112254678B (zh) | 一种室内3d信息采集设备及方法 | |
CN112257535B (zh) | 一种躲避物体的三维匹配的设备及方法 | |
CN112254671B (zh) | 一种多次组合式3d采集系统及方法 | |
CN112304250B (zh) | 一种移动物体之间的三维匹配设备及方法 | |
CN112254679A (zh) | 一种多位置组合式3d采集系统及方法 | |
CN112254674B (zh) | 一种近距离智能视觉3d信息采集设备 | |
CN112254672B (zh) | 一种高度可调的智能3d信息采集设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |