CN108052103B - 基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法 - Google Patents
基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法 Download PDFInfo
- Publication number
- CN108052103B CN108052103B CN201711334617.7A CN201711334617A CN108052103B CN 108052103 B CN108052103 B CN 108052103B CN 201711334617 A CN201711334617 A CN 201711334617A CN 108052103 B CN108052103 B CN 108052103B
- Authority
- CN
- China
- Prior art keywords
- depth
- inspection robot
- map
- underground space
- map construction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000007689 inspection Methods 0.000 title claims abstract description 36
- 238000010276 construction Methods 0.000 title claims abstract description 21
- 230000004807 localization Effects 0.000 title abstract description 7
- 238000000034 method Methods 0.000 claims abstract description 17
- 238000005259 measurement Methods 0.000 claims abstract description 12
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 9
- 238000001514 detection method Methods 0.000 claims abstract description 7
- 230000000694 effects Effects 0.000 claims abstract description 7
- 238000005457 optimization Methods 0.000 claims abstract description 5
- 230000008878 coupling Effects 0.000 claims abstract description 3
- 238000010168 coupling process Methods 0.000 claims abstract description 3
- 238000005859 coupling reaction Methods 0.000 claims abstract description 3
- 230000033001 locomotion Effects 0.000 claims description 10
- 238000013519 translation Methods 0.000 claims description 10
- 230000014616 translation Effects 0.000 claims description 10
- 238000003384 imaging method Methods 0.000 claims description 6
- 239000000284 extract Substances 0.000 claims description 5
- 238000010606 normalization Methods 0.000 claims description 3
- 230000001133 acceleration Effects 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 238000010586 diagram Methods 0.000 description 3
- 230000004927 fusion Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000009825 accumulation Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 238000000605 extraction Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000011065 in-situ storage Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 230000008447 perception Effects 0.000 description 1
- 238000012545 processing Methods 0.000 description 1
- 238000005295 random walk Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0231—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means
- G05D1/0246—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means
- G05D1/0251—Control of position or course in two dimensions specially adapted to land vehicles using optical position detecting means using a video camera in combination with image processing means extracting 3D information from a plurality of images taken from different locations, e.g. stereo vision
-
- G—PHYSICS
- G05—CONTROLLING; REGULATING
- G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
- G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
- G05D1/02—Control of position or course in two dimensions
- G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
- G05D1/0268—Control of position or course in two dimensions specially adapted to land vehicles using internal positioning means
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Physics & Mathematics (AREA)
- Radar, Positioning & Navigation (AREA)
- Aviation & Aerospace Engineering (AREA)
- Remote Sensing (AREA)
- Automation & Control Theory (AREA)
- Electromagnetism (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Manipulator (AREA)
- Control Of Position, Course, Altitude, Or Attitude Of Moving Bodies (AREA)
Abstract
一种基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法,利用深度相机和惯性测量单元进行松耦合,通过深度相机采集的深度图获取点云信息,提取平面特征;将深度相机采集的RGB图像转换成灰度图和平面特征融合,利用迭代最近点算法进行优化;迭代最近点优化后的数据和惯性测量单元数据进行松耦合,利用回环检测提高位姿图精度,得到巡检机器人运行轨迹、点云地图和树跳表地图,达到巡检机器人在室内同时定位和地图构建的效果。通过此方法提高巡检机器人在地下空间的同时定位精度和鲁棒性,达到巡检机器人在地下空间同时定位和地图构建的效果。巡检机器人在地下空间进行作业时,在强旋转环境下本发明采用的方法具有良好鲁棒性。
Description
技术领域
本发明涉及巡检机器人同时定位领域,尤其涉及一种基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法。
背景技术
随着科学技术的进步,巡检机器人在工业、军事等领域的应用越来越广泛。在很多情况下,巡检机器人的作业空间的信息是复杂未知的。巡检机器人想要实现在室内自主导航、目标识别、自动避障等功能,其精确同时定位显着尤为重要。传统的同时定位方法大多以GPS、北斗等全球卫星同时定位为主,但普通的GPS传感器同时定位精度较低,无法满足巡检机器人精确同时定位。
虽然差分GPS在室外同时定位精度较高,但是价格高昂同时无法在隧道、巷道、地下室这些GPS失效环境下工作。隧道、巷道、地下室这些地下空间常年无法接受太阳光照射,光照较低。在视觉定位方面,现在普遍使用单纯的相机进行定位精度较低,无法达到巡检机器人有效定位的效果。
伴随计算机视觉、图像处理技术发展的同时,机器视觉方法通过感知环境进行导航,同时在机器人实时定位方面得到广泛应用。视觉同时定位方法的原理是,通过安装在机器人身上的摄像机实时采集运动过程中的图像,并从图像中提取相关信息,进而判断并计算机器人的运行姿态和轨迹,最终实现导航和实时定位。然而视觉传感器容易受到光照的影响,同时在曝光较强、低亮度等情况下同时定位容易丢失。除此之外,单纯的单目视觉传感器没有尺度信息,无法感知机器人所处周围环境深度,并且在机器人原地转弯时特征丢失,容易导致机器人实时定位失效。
巡检机器人使用惯性测量单元进行定位发展较早,惯性定位是利用惯性测量单元测量的线加速度和旋转角速率来计算载体的六自由度同时定位信息。载体的角速率通过陀螺仪测量,主要用于计算机器人的旋转矩阵,并且提供载体坐标系和导航坐标系的转化关系;载体的线加速度通过加速度计测量,通过对得到的加速度积分求解机器人的速度信息和位移信息,最后通过将机器人六自由度信息转换到导航坐标系中完成定位。然而单纯的惯性测量单元在重复路径下误差累计较大,并且无法进行有效的回环检测。除此之外,因惯性测量单元随机游走等性质,在巡检机器人起步以及加速度变化较大时会产生大量迟滞误差。
以华硕xtion和微软Kinect为代表的消费机深度相机能够获取RGB图像和深度图,广泛应用于室内机器人领域。但是这种深度相机视野范围普遍较窄,导致算法跟踪目标容易丢失,同时深度数据往往存在大量噪声,甚至导致有些数据无法使用。在传统的方法中,视觉特征的提取算法往往基于像素的差异,但是在深度相机测量的深度数据中,位于边角处的点,不易被识别出来。并且移动机器人在大旋转情况下,采用单独深度相机进行定位容易丢失。
同时定位和建图(simultaneous location and mapping,SLAM)最初应用于机器人领域。使用单独的传感器的方法虽然计算量较小,但是定位精度不高、鲁棒性不强。使用多种传感器融合的同时定位和地图构建方法已经成为发展的主流,并且缺乏有效的深度相机和惯性测量单元融合的同时定位和地图构建。
发明内容
根据现有技术的不足,本发明提供一种基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法,通过此方法提高巡检机器人在地下空间的定位精度和鲁棒性,达到巡检机器人在地下空间同时定位和地图构建的效果。巡检机器人在地下空间进行作业时,在强旋转环境下本发明采用的方法具有良好鲁棒性。
为实现上述目的,本发明采用的技术方案为:
一种基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法,该方法为:
利用深度相机和惯性测量单元进行松耦合,通过深度相机采集的深度图获取点云信息,提取平面特征;将深度相机采集的RGB图像转换为灰度图和平面特征融合,利用迭代最近点算法进行优化;迭代最近点优化后的数据和惯性测量单元数据进行松耦合,利用回环检测提高位姿图精度,得到巡检机器人运行轨迹、点云地图和树跳表地图,达到巡检机器人在室内同时定位和地图构建的效果。
优选的是,深度相机采集相邻两个帧为场景S和模型M,两组匹配点分别记为P={pi|i=1,...,n}和Q={qi|i=1,...,n};
优选的是,深度相机模型为:
其中(u,v)为空间点(x,y,z)T对应的像素位置,d为深度值,C为相机内参。
优选的是,M到S的运动用旋转R和平移t描述,利用迭代最近点算法求解:
优选的是,从深度图获得的点云中提取平面特征,用四个参数来描述三维空间的平面:
p=(a,b,c,d)={x,y,z|ax+by+cz+d=0};
令d=0,将每个拟合的平面投影在成像平面上,得到平面点的成像位置(u,v),利用投影方程求解:
其中fx,fy,cx,cy为深度相机的内参,s是深度数据的缩放因子。
优选的是,对每个平面图做一次灰度直方图归一化增强它的对比度,然后再提取特征点并计算特征点的深度:
优选的是,太多的关键帧会给后端和回环检测带来额外的计算量,而太少的关键帧就会导致关键帧之间运动太大,特征匹配数量不够,导致容易丢失。在提取图像的平面,计算它和上一个关键帧之间的相对运动超过某个阈值,就认为这是一个新的关键帧。
优选的是,阈值的计算是通过评价平移和欧拉角旋转实现的:
这里(Δx,Δy,Δz)是相对平移,而(α,β,γ)是相对的欧拉角;
w1=(m,m,m),m∈(0.6,0.7);w2∈(0.95,1.05)。
本发明有益效果:
通过此方法提高巡检机器人在地下空间作业的同时定位精度和鲁棒性,达到巡检机器人在地下空间环境下的同时定位和地图构建的效果。巡检机器人在地下空间进行作业时,在强旋转环境下本发明采用的方法具有良好鲁棒性。
附图说明
图1为本发明的方法框架示意图;
图2为本发明的深度相机采集RGB图转换成的灰度图示意图;
图3为本发明的深度相机采集深度图像示意图;
图4为本发明的构建环境三维点云地图;
图5为本发明的构建环境三维树跳表地图;
图6为本发明的机器人运行轨迹。
具体实施方式
以下结合附图,通过具体实施例对本发明作进一步的说明。
如图1至图6所示,一种基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法,该同时定位方法为:利用深度相机和惯性测量单元进行松耦合,通过深度相机采集的深度图获取点云信息,提取平面特征。将深度相机采集的RGB图像和平面特征融合,利用迭代最近点(ICP)算法进行优化;ICP优化后的数据和惯性测量单元(IMU)数据进行松耦合,利用回环检测(Loop closure)提高位姿图精度,得到巡检机器人运行轨迹、点云地图和树跳表地图。
深度相机模型为:
其中(u,v)为空间点(x,y,z)T对应的像素位置,d为深度值,C为相机内参。
M到S的运动用旋转R和平移t描述,利用ICP算法求解:
从深度图获得的点云中提取平面特征,用四个参数来描述三维空间的平面:
p=(a,b,c,d)={x,y,z|ax+by+cz+d=0}
令d=0,将每个拟合的平面投影在成像平面上,得到平面点的成像位置(u,v),利用投影方程求解:
其中fx,fy,cx,cy为深度相机的内参,s是深度数据的缩放因子。
对每个平面图做一次灰度直方图归一化增强它的对比度,然后再提取特征点并计算特征点的深度:
三维空间的相机位姿,以平移和单位四元数表示:x={x,y,z,qx,qy,qz,qw};
从该帧提取的平面组P={Pi},每个平面包含它的平面参数和所属的特征点。
太多的关键帧会给后端和回环检测带来额外的计算量,而太少的关键帧就会导致关键帧之间运动太大,特征匹配数量不够,导致容易丢失。在提取图像的平面,计算它和上一个关键帧之间的相对运动超过某个阈值,就认为这是一个新的关键帧。阈值的计算是通过评价平移和欧拉角旋转实现的:
这里(Δx,Δy,Δz)是相对平移,而(α,β,γ)是相对的欧拉角。
w1=(m,m,m),m∈(0.6,0.7),w2∈(0.95,1.05)。
以上所述,仅仅是对本发明的较佳实施例,并非是对本发明做其他形式的限制,任何熟悉本专业的技术人员可能利用上述揭示的技术内容加以变更或改变形式为等同变化的等效实施例。但是,凡是未脱离本发明方案内容,依据本发明的技术实质对以上实施例所做的任何简单修改、等同变化与改型,仍属于本发明的保护范围。
Claims (6)
1.一种基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法,其特征在于,该方法为:
利用深度相机和惯性测量单元进行松耦合,通过深度相机采集的深度图获取点云信息,提取平面特征;
将深度相机采集的RGB图像转换成灰度图和平面特征融合,利用迭代最近点算法进行优化;
迭代最近点优化后的数据和惯性测量单元数据进行松耦合,利用回环检测提高位姿图精度,得到巡检机器人运行轨迹、点云地图和树跳表地图,达到巡检机器人在地下空间同时定位和地图构建的效果;
深度相机采集相邻两个帧为场景S和模型M,两组匹配点分别记为P={pi|i=1,...,n}和Q={qi|i=1,...,n};
M到S的运动用旋转R和平移t描述,利用迭代最近点算法求解:
5.根据权利要求1所述的基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法,其特征在于:
太多的关键帧会给后端和回环检测带来额外的计算量,而太少的关键帧就会导致关键帧之间运动太大,特征匹配数量不够,导致容易丢失;在提取图像的平面,计算它和上一个关键帧之间的相对运动超过某个阈值,就认为这是一个新的关键帧。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711334617.7A CN108052103B (zh) | 2017-12-13 | 2017-12-13 | 基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711334617.7A CN108052103B (zh) | 2017-12-13 | 2017-12-13 | 基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108052103A CN108052103A (zh) | 2018-05-18 |
CN108052103B true CN108052103B (zh) | 2020-12-04 |
Family
ID=62132123
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711334617.7A Expired - Fee Related CN108052103B (zh) | 2017-12-13 | 2017-12-13 | 基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108052103B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12222723B2 (en) | 2022-06-02 | 2025-02-11 | Boston Dynamics, Inc. | Directed exploration for navigation in dynamic environments |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108776487A (zh) * | 2018-08-22 | 2018-11-09 | 中国矿业大学 | 一种矿用轨道式巡检机器人及其定位方法 |
US11747825B2 (en) * | 2018-10-12 | 2023-09-05 | Boston Dynamics, Inc. | Autonomous map traversal with waypoint matching |
CN110322511B (zh) * | 2019-06-28 | 2021-03-26 | 华中科技大学 | 一种基于物体和平面特征的语义slam方法和系统 |
JP7502409B2 (ja) | 2019-08-06 | 2024-06-18 | ボストン ダイナミクス,インコーポレイテッド | 中間ウェイポイント生成器 |
CN110722559A (zh) * | 2019-10-25 | 2020-01-24 | 国网山东省电力公司信息通信公司 | 一种智能巡检机器人辅助巡检定位方法 |
CN112258568B (zh) * | 2020-10-12 | 2022-07-01 | 武汉中海庭数据技术有限公司 | 一种高精度地图要素的提取方法及装置 |
CN112697131B (zh) * | 2020-12-17 | 2024-07-23 | 中国矿业大学 | 基于视觉和惯性导航系统的井下移动装备定位方法及系统 |
CN114720978A (zh) * | 2021-01-06 | 2022-07-08 | 扬智科技股份有限公司 | 用于同时定位和地图构建的方法和移动平台 |
CN113378694B (zh) * | 2021-06-08 | 2023-04-07 | 北京百度网讯科技有限公司 | 生成目标检测和定位系统及目标检测和定位的方法及装置 |
CN113486854A (zh) * | 2021-07-29 | 2021-10-08 | 北京超维世纪科技有限公司 | 基于深度相机实现工业类巡检机器人的识别检测算法 |
CN114429432B (zh) * | 2022-04-07 | 2022-06-21 | 科大天工智能装备技术(天津)有限公司 | 一种多源信息分层融合方法、装置及存储介质 |
CN118644433B (zh) * | 2024-06-18 | 2024-12-17 | 中国矿业大学 | 一种集中式协同slam地图构建方法和系统 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013165391A1 (en) * | 2012-05-01 | 2013-11-07 | Intel Corporation | Simultaneous localization and mapping using spatial and temporal coherence for indoor location |
CN103411621B (zh) * | 2013-08-09 | 2016-02-10 | 东南大学 | 一种面向室内移动机器人的光流场视觉/ins组合导航方法 |
US9759918B2 (en) * | 2014-05-01 | 2017-09-12 | Microsoft Technology Licensing, Llc | 3D mapping with flexible camera rig |
CN107085422A (zh) * | 2017-01-04 | 2017-08-22 | 北京航空航天大学 | 一种基于Xtion设备的多功能六足机器人的远程控制系统 |
CN107063246A (zh) * | 2017-04-24 | 2017-08-18 | 齐鲁工业大学 | 一种视觉导航/惯性导航的松散组合导航方法 |
CN107160395B (zh) * | 2017-06-07 | 2020-10-16 | 中国人民解放军装甲兵工程学院 | 地图构建方法及机器人控制系统 |
-
2017
- 2017-12-13 CN CN201711334617.7A patent/CN108052103B/zh not_active Expired - Fee Related
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US12222723B2 (en) | 2022-06-02 | 2025-02-11 | Boston Dynamics, Inc. | Directed exploration for navigation in dynamic environments |
Also Published As
Publication number | Publication date |
---|---|
CN108052103A (zh) | 2018-05-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108052103B (zh) | 基于深度惯性里程计的巡检机器人地下空间同时定位和地图构建方法 | |
CN110070615B (zh) | 一种基于多相机协同的全景视觉slam方法 | |
CN109166149B (zh) | 一种融合双目相机与imu的定位与三维线框结构重建方法与系统 | |
WO2020155616A1 (zh) | 一种基于数字视网膜的拍摄装置的定位方法 | |
CN106679648B (zh) | 一种基于遗传算法的视觉惯性组合的slam方法 | |
Alcantarilla et al. | On combining visual SLAM and dense scene flow to increase the robustness of localization and mapping in dynamic environments | |
CN113223161B (zh) | 一种基于imu和轮速计紧耦合的鲁棒全景slam系统和方法 | |
CN107909614B (zh) | 一种gps失效环境下巡检机器人定位方法 | |
CN109520497A (zh) | 基于视觉和imu的无人机自主定位方法 | |
CN109596121B (zh) | 一种机动站自动目标检测与空间定位方法 | |
CN114018236A (zh) | 一种基于自适应因子图的激光视觉强耦合slam方法 | |
CN110827353B (zh) | 一种基于单目摄像头辅助的机器人定位方法 | |
CN114063099A (zh) | 基于rgbd的定位方法及装置 | |
CN110766785A (zh) | 一种地下管道实时定位与三维重建装置及方法 | |
CN112731503A (zh) | 一种基于前端紧耦合的位姿估计方法及系统 | |
CN116222543A (zh) | 用于机器人环境感知的多传感器融合地图构建方法及系统 | |
US10977810B2 (en) | Camera motion estimation | |
Zhan et al. | A slam map restoration algorithm based on submaps and an undirected connected graph | |
Huai et al. | Stereo-inertial odometry using nonlinear optimization | |
Xian et al. | Fusing stereo camera and low-cost inertial measurement unit for autonomous navigation in a tightly-coupled approach | |
CN112179373A (zh) | 一种视觉里程计的测量方法及视觉里程计 | |
CN112907633B (zh) | 动态特征点识别方法及其应用 | |
Caldato et al. | ORB-ODOM: Stereo and odometer sensor fusion for simultaneous localization and mapping | |
CN117611673A (zh) | 图像辅助的单目视觉slam初始化方法及装置 | |
CN117253003A (zh) | 一种融合直接法与点面特征法的室内rgb-d slam方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20201204 |