Nothing Special   »   [go: up one dir, main page]

CN110827358A - 一种应用于自动驾驶汽车的相机标定方法 - Google Patents

一种应用于自动驾驶汽车的相机标定方法 Download PDF

Info

Publication number
CN110827358A
CN110827358A CN201910976445.6A CN201910976445A CN110827358A CN 110827358 A CN110827358 A CN 110827358A CN 201910976445 A CN201910976445 A CN 201910976445A CN 110827358 A CN110827358 A CN 110827358A
Authority
CN
China
Prior art keywords
camera
image
calibration
calibration plate
laser radar
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910976445.6A
Other languages
English (en)
Other versions
CN110827358B (zh
Inventor
晏子
张宇超
陶圣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ordos Kal Power Technology Co.,Ltd.
Original Assignee
Shenzhen Shuxiang Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Shuxiang Technology Co Ltd filed Critical Shenzhen Shuxiang Technology Co Ltd
Priority to CN201910976445.6A priority Critical patent/CN110827358B/zh
Publication of CN110827358A publication Critical patent/CN110827358A/zh
Application granted granted Critical
Publication of CN110827358B publication Critical patent/CN110827358B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10044Radar image
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y02TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
    • Y02TCLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
    • Y02T10/00Road transport of goods or passengers
    • Y02T10/10Internal combustion engine [ICE] based vehicles
    • Y02T10/40Engine management systems

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

一种应用于自动驾驶汽车的相机标定方法,属于汽车自动驾驶领域。现有汽车自动驾驶技术中涉及的多传感器之间的融合技术不足。本发明的一种应用于自动驾驶汽车的相机标定方法,在自动驾驶的车辆前设置一块标定板,通过相机获取标定板的图像,利用lableme软件获取标定板图像的四个角点的图像坐标;测量标定板角点的物理坐标,结合图像坐标,利用pnp算法计算出将三维空间投影至二维投影位置的旋转平移矩阵;利用计算得到的旋转平移矩阵将激光雷达的三维点云空间投影到相机的二维图像上,实现相机和激光雷达的联合标定。本发明具有融合过程简单、融合结果精确的优点。

Description

一种应用于自动驾驶汽车的相机标定方法
技术领域
本发明涉及一种应用于自动驾驶汽车的相机标定方法。
背景技术
由于自动驾驶汽车可以降低交通事故的发生和减少人力成本等优点,目前是全世界的热门研究领域。并且随着各种传感器成本的下降和技术的发展,自动驾驶技术也逐渐趋于商用领域。目前在自动驾驶领域常用的车载传感器包括相机(camera)、激光雷达(lidar)和毫米波雷达等。由于单一的传感器有各自的优点与缺点,为了提高自动驾驶的可靠性与稳定性,主流技术通常采用多传感器融合的方案。
在进行多传感器融合之前,首先就是要对各个传感器进行标定。所谓标定,就是各个传感器协同工作时,需要统一坐标系,需要估计各个传感器的外参,即旋转平移变换矩阵。针对相机标定的问题,本文提出了一种基于标定板(一块2米×2米的正方形木板)的标定方法,通过提取标定板的四个角点的图像坐标,和测量四个角点在车体坐标系的物理坐标,再使用pnp算法进行坐标转换,即可实现对相机的标定。
发明内容
本发明的目的是为了解决现有汽车自动驾驶技术中涉及的多传感器之间的融合技术不足,而提出一种应用于自动驾驶汽车的相机标定方法。
一种应用于自动驾驶汽车的相机标定方法,所述方法通过以下步骤实现:
步骤一、在自动驾驶车辆前设置一块标定板,通过相机获取标定板的图像,利用lableme软件获取标定板图像的四个角点的图像坐标;
步骤二、测量标定板角点在车体坐标系的物理坐标,结合步骤一的图像坐标,利用pnp算法计算出相机坐标系到车体坐标系的旋转平移矩阵;
步骤三、计算提取激光雷达中标定板四个角点的三维数据,在激光雷达坐标系下,利用pnp算法计算出相机到激光雷达的旋转平移矩阵,使用旋转平移矩阵将激光雷达的三维点云数据投影到相机的二维图像上,实现相机和激光雷达的联合标定。
本发明的有益效果为:
本发明提出的应用于自动驾驶汽车的相机标定方法,具有操作简单,传感器间融合结果精确的优点。具体为,借助一块正方形木板,通过提取标定板的四个角点的图像坐标,测量四个角点在车体坐标系的物理坐标,再使用pnp算法进行坐标转换的步骤,即实现了对相机的标定。
附图说明
图1为本发明的方法流程图。
具体实施方式
具体实施方式一:
本实施方式的一种应用于自动驾驶汽车的相机标定方法,方法流程如图1所示,所述方法通过以下步骤实现:
步骤一、在静止状态的自动驾驶车辆前设置一块标定板,通过相机获取标定板的图像,利用lableme软件获取标定板图像的四个角点的图像坐标;
步骤二、测量标定板角点在车体坐标系的物理坐标,结合步骤一的图像坐标,利用pnp(Perspective-n-Point)算法计算出相机坐标系到车体坐标系的旋转平移矩阵;
步骤三、计算提取激光雷达中标定板四个角点的三维数据,在激光雷达坐标系下,利用pnp算法计算出相机到激光雷达的旋转平移矩阵,使用旋转平移矩阵将激光雷达的三维点云数据投影到相机的二维图像上,实现相机和激光雷达的联合标定。
具体实施方式二:
与具体实施方式一不同的是,本实施方式的一种应用于自动驾驶汽车的相机标定方法,步骤一所述的在静止状态的自动驾驶车辆前设置一块标定板,通过相机获取标定板的图像,利用lableme软件获取标定板图像的四个角点的图像坐标的过程为,
步骤一1、获取标定板的图像:
在自动驾驶汽车的相机前方,设置与相机光轴垂直的标定板,标定板与相机之间的距离约8~15m,启动相机驱动并拍照,获取标定板的图像;
步骤一2、获取标定板图像中角点的图像坐标:
利用第三方开源软件lableme软件依次手动标记标定板图像的四个角点,并保存,经保存操作此软件会生成相应的包含角点的图像坐标的json文件,即得到标定板图像中角点的图像坐标。本发明利用lableme来获取角点的图像坐标,这样能保证图像坐标更为精准。受光照和天气等因素的影响,若直接使用算法自动识别角点,将导致误差增大,从而不能精确的获取角点的图像坐标。
具体实施方式三:
与具体实施方式一或二不同的是,本实施方式的一种应用于自动驾驶汽车的相机标定方法,步骤二所述的利用PnP(Perspective-n-Point)算法计算出相机坐标系到车体坐标系的旋转平移矩阵的过程为,
步骤二1、获取角点的物理坐标:
利用卷尺、铅垂线和激光水平仪等的辅助工具,测量计算标定板四个角点在世界坐标系下的物理坐标;
步骤二2、计算旋转平移矩阵:
在得到标定板四个角点的图像坐标和车体坐标系下的物理坐标后,通过OpenCV的库函数solvePnP计算出相机坐标系到车体坐标系的旋转平移矩阵;其中,PnP算法全称Perspective-n-Point,其工作原理为当已知n个三维空间点及其二维投影位置时,用于估计相机的位姿。
即,用PnP算法,将像素坐标点和物理坐标点之间对应的旋转矩阵R和平移矩阵t求解出来,得到R和t以后,则相机标定完成。
具体实施方式四:
与具体实施方式三不同的是,本实施方式的一种应用于自动驾驶汽车的相机标定方法,所述的步骤三中,相机和激光雷达的联合标定的过程为,
解析激光雷达的标定板的点云数据,在激光雷达坐标系下获取标定板角点的三维坐标;
通过在步骤一中使用lableme获取标定板四个角点的图像坐标后,再调用OpenCV中的库函数solvePnP,并将角点相机的图像坐标和激光雷达的三维坐标传入OpenCV的库函数solvePnP中,即可得到其旋转平移矩阵;
最后利用将激光雷达的三维点云投影到相机的二维图像上的旋转平移矩阵,将旋转平移矩阵作为各传感器之间的外参,将激光雷达的三维点云数据投影到相机的二维图像上,完成相机和激光雷达的联合标定,从而为多传感器之间的融合做准备。
即,将激光雷达提取的角点的坐标输入PNP算法,即可计算出相机到激光雷达的旋转平移矩阵,使用旋转平移矩阵将激光雷达的点云投影到相机图像上。

Claims (4)

1.一种应用于自动驾驶汽车的相机标定方法,其特征在于:所述方法通过以下步骤实现:
步骤一、在静止状态的自动驾驶车辆前设置一块标定板,通过相机获取标定板的图像,利用lableme软件获取标定板图像的四个角点的图像坐标;
步骤二、测量标定板角点在车体坐标系的物理坐标,结合步骤一的图像坐标,利用pnp算法计算出相机坐标系到车体坐标系的旋转平移矩阵;
步骤三、计算提取激光雷达中标定板四个角点的三维数据,在激光雷达坐标系下,利用pnp算法计算出相机到激光雷达的旋转平移矩阵,使用旋转平移矩阵将激光雷达的三维点云数据投影到相机的二维图像上,实现相机和激光雷达的联合标定。
2.根据权利要求1所述一种应用于自动驾驶汽车的相机标定方法,其特征在于:步骤一所述的在静止状态的自动驾驶车辆前设置一块标定板,通过相机获取标定板的图像,利用lableme软件获取标定板图像的四个角点的图像坐标的过程为,
步骤一1、获取标定板的图像:
在自动驾驶汽车的相机前方,设置与相机光轴垂直的标定板,标定板与相机之间的距离约8~15m,启动相机驱动并拍照,获取标定板的图像;
步骤一2、获取标定板图像中角点的图像坐标:
利用lableme软件依次手动标记标定板图像的四个角点,并保存,经保存操作生成相应的包含角点的图像坐标的json文件,即得到标定板图像中角点的图像坐标。
3.根据权利要求2所述一种应用于自动驾驶汽车的相机标定方法,其特征在于:步骤二所述的利用PnP算法计算出相机坐标系到车体坐标系的旋转平移矩阵的过程为,
步骤二1、获取角点的物理坐标:
利用卷尺、铅垂线和激光水平仪的辅助工具,测量计算标定板四个角点在世界坐标系下的物理坐标;
步骤二2、计算旋转平移矩阵:
在得到标定板四个角点的图像坐标和车体坐标系下的物理坐标后,通过OpenCV的库函数solvePnP计算出相机坐标系到车体坐标系的旋转平移矩阵;其中,PnP算法全称Perspective-n-Point,其工作原理为当已知n个三维空间点及其二维投影位置时,用于估计相机的位姿。
4.根据权利要求3所述一种应用于自动驾驶汽车的相机标定方法,其特征在于:所述的步骤三中,相机和激光雷达的联合标定的过程为,
解析激光雷达的标定板的点云数据,在激光雷达坐标系下获取标定板角点的三维坐标;
通过在步骤一中使用lableme获取标定板四个角点的图像坐标后,再调用OpenCV中的库函数solvePnP,并将角点相机的图像坐标和激光雷达的三维坐标传入OpenCV的库函数solvePnP中,即可得到其旋转平移矩阵;
最后利用将激光雷达的三维点云投影到相机的二维图像上的旋转平移矩阵,将旋转平移矩阵作为各传感器之间的外参,将激光雷达的三维点云数据投影到相机的二维图像上,完成相机和激光雷达的联合标定。
CN201910976445.6A 2019-10-15 2019-10-15 一种应用于自动驾驶汽车的相机标定方法 Active CN110827358B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910976445.6A CN110827358B (zh) 2019-10-15 2019-10-15 一种应用于自动驾驶汽车的相机标定方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910976445.6A CN110827358B (zh) 2019-10-15 2019-10-15 一种应用于自动驾驶汽车的相机标定方法

Publications (2)

Publication Number Publication Date
CN110827358A true CN110827358A (zh) 2020-02-21
CN110827358B CN110827358B (zh) 2023-10-31

Family

ID=69549421

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910976445.6A Active CN110827358B (zh) 2019-10-15 2019-10-15 一种应用于自动驾驶汽车的相机标定方法

Country Status (1)

Country Link
CN (1) CN110827358B (zh)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111429521A (zh) * 2020-03-05 2020-07-17 深圳市镭神智能系统有限公司 相机与激光雷达的外参标定方法、装置、介质及电子设备
CN111815717A (zh) * 2020-07-15 2020-10-23 西北工业大学 一种多传感器融合外参联合半自主标定方法
CN112819903A (zh) * 2021-03-02 2021-05-18 福州视驰科技有限公司 基于l型标定板的相机和激光雷达联合标定的方法
CN113436233A (zh) * 2021-06-29 2021-09-24 阿波罗智能技术(北京)有限公司 自动驾驶车辆的配准方法、装置、电子设备和车辆
CN114119763A (zh) * 2020-08-31 2022-03-01 北京初速度科技有限公司 一种用于自动驾驶车辆的Lidar标定方法及装置
CN114219852A (zh) * 2020-08-31 2022-03-22 北京魔门塔科技有限公司 一种用于自动驾驶车辆的多传感器标定方法及装置
CN114463439A (zh) * 2022-01-18 2022-05-10 襄阳达安汽车检测中心有限公司 一种基于图像标定技术的车载相机修正方法及装置
CN115018935A (zh) * 2022-08-09 2022-09-06 季华实验室 相机与车辆的标定方法、装置、电子设备及存储介质

Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107976669A (zh) * 2016-10-21 2018-05-01 法乐第(北京)网络科技有限公司 一种确定相机与激光雷达之间的外参数的装置
US20180286078A1 (en) * 2016-02-03 2018-10-04 Panasonic Intellectual Property Management Co., Ltd. Vehicle-mounted camera calibration system
CN108765496A (zh) * 2018-05-24 2018-11-06 河海大学常州校区 一种多视点汽车环视辅助驾驶系统及方法
CN109443369A (zh) * 2018-08-20 2019-03-08 北京主线科技有限公司 利用激光雷达和视觉传感器融合构建动静态栅格地图的方法
CN109993793A (zh) * 2019-03-29 2019-07-09 北京易达图灵科技有限公司 视觉定位方法及装置
CN110009765A (zh) * 2019-04-15 2019-07-12 合肥工业大学 一种自动驾驶车辆场景数据系统及场景格式转化方法
CN110246159A (zh) * 2019-06-14 2019-09-17 湖南大学 基于视觉和雷达信息融合的3d目标运动分析方法
CN110288656A (zh) * 2019-07-01 2019-09-27 太原科技大学 一种基于单目摄像头的目标定位方法

Patent Citations (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180286078A1 (en) * 2016-02-03 2018-10-04 Panasonic Intellectual Property Management Co., Ltd. Vehicle-mounted camera calibration system
CN107976669A (zh) * 2016-10-21 2018-05-01 法乐第(北京)网络科技有限公司 一种确定相机与激光雷达之间的外参数的装置
CN108765496A (zh) * 2018-05-24 2018-11-06 河海大学常州校区 一种多视点汽车环视辅助驾驶系统及方法
CN109443369A (zh) * 2018-08-20 2019-03-08 北京主线科技有限公司 利用激光雷达和视觉传感器融合构建动静态栅格地图的方法
CN109993793A (zh) * 2019-03-29 2019-07-09 北京易达图灵科技有限公司 视觉定位方法及装置
CN110009765A (zh) * 2019-04-15 2019-07-12 合肥工业大学 一种自动驾驶车辆场景数据系统及场景格式转化方法
CN110246159A (zh) * 2019-06-14 2019-09-17 湖南大学 基于视觉和雷达信息融合的3d目标运动分析方法
CN110288656A (zh) * 2019-07-01 2019-09-27 太原科技大学 一种基于单目摄像头的目标定位方法

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111429521A (zh) * 2020-03-05 2020-07-17 深圳市镭神智能系统有限公司 相机与激光雷达的外参标定方法、装置、介质及电子设备
CN111815717A (zh) * 2020-07-15 2020-10-23 西北工业大学 一种多传感器融合外参联合半自主标定方法
CN111815717B (zh) * 2020-07-15 2022-05-17 西北工业大学 一种多传感器融合外参联合半自主标定方法
CN114119763A (zh) * 2020-08-31 2022-03-01 北京初速度科技有限公司 一种用于自动驾驶车辆的Lidar标定方法及装置
CN114219852A (zh) * 2020-08-31 2022-03-22 北京魔门塔科技有限公司 一种用于自动驾驶车辆的多传感器标定方法及装置
CN114219852B (zh) * 2020-08-31 2024-10-15 北京魔门塔科技有限公司 一种用于自动驾驶车辆的多传感器标定方法及装置
CN112819903A (zh) * 2021-03-02 2021-05-18 福州视驰科技有限公司 基于l型标定板的相机和激光雷达联合标定的方法
CN112819903B (zh) * 2021-03-02 2024-02-20 福州视驰科技有限公司 基于l型标定板的相机和激光雷达联合标定的方法
CN113436233A (zh) * 2021-06-29 2021-09-24 阿波罗智能技术(北京)有限公司 自动驾驶车辆的配准方法、装置、电子设备和车辆
CN114463439A (zh) * 2022-01-18 2022-05-10 襄阳达安汽车检测中心有限公司 一种基于图像标定技术的车载相机修正方法及装置
CN115018935A (zh) * 2022-08-09 2022-09-06 季华实验室 相机与车辆的标定方法、装置、电子设备及存储介质
CN115018935B (zh) * 2022-08-09 2022-10-18 季华实验室 相机与车辆的标定方法、装置、电子设备及存储介质

Also Published As

Publication number Publication date
CN110827358B (zh) 2023-10-31

Similar Documents

Publication Publication Date Title
CN110827358A (zh) 一种应用于自动驾驶汽车的相机标定方法
EP4283515A1 (en) Detection method, system, and device based on fusion of image and point cloud information, and storage medium
EP3540464B1 (en) Ranging method based on laser radar system, device and readable storage medium
CN110174093B (zh) 定位方法、装置、设备和计算机可读存储介质
JP7073315B2 (ja) 乗物、乗物測位システム、及び乗物測位方法
CN109870689B (zh) 毫米波雷达与高精矢量地图匹配的车道级定位方法与系统
CN112184890B (zh) 一种应用于电子地图中的摄像头精准定位方法及处理终端
CN111435162B (zh) 激光雷达与相机同步方法、装置、设备和存储介质
CN112577517A (zh) 一种多元定位传感器联合标定方法和系统
JP2020525809A (ja) 両眼画像に基づき高解像度地図を更新するためのシステムおよび方法
AU2018282302A1 (en) Integrated sensor calibration in natural scenes
CN112288825B (zh) 相机标定方法、装置、电子设备、存储介质和路侧设备
CN104200086A (zh) 宽基线可见光相机位姿估计方法
EP3913328A1 (en) Vehicle positioning apparatus, system and method, and vehicle
CN112146682B (zh) 智能汽车的传感器标定方法、装置、电子设备及介质
JP6876445B2 (ja) データ圧縮装置、制御方法、プログラム及び記憶媒体
CN112967344B (zh) 相机外参标定的方法、设备、存储介质及程序产品
CN106908064B (zh) 一种基于Kinect2传感器的室内夜间视觉导航方法
Heng Automatic targetless extrinsic calibration of multiple 3D LiDARs and radars
CN110243375A (zh) 一种同时构建二维地图和三维地图的方法
CN113409396A (zh) 一种adas单目相机的标定方法
CN112255604B (zh) 一种雷达数据准确性的判断方法、装置及计算机设备
CN110766761A (zh) 用于相机标定的方法、装置、设备和存储介质
KR20230003803A (ko) 라이다 좌표계와 카메라 좌표계의 벡터 정합을 통한 자동 캘리브레이션 방법
CN111538008A (zh) 变换矩阵确定方法、系统及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20240328

Address after: Building 3, 7th Floor, Gaosheng Plaza, No. 163 Yingbin Avenue, Xinhua Street, Huadu District, Guangzhou City, Guangdong Province, 510802

Patentee after: Guangzhou Carl Power Technology Co.,Ltd.

Country or region after: China

Address before: 518118 No.1, Jinlong Avenue, pinghuan community, Malian street, Pingshan District, Shenzhen City, Guangdong Province

Patentee before: Shenzhen Shuxiang Technology Co.,Ltd.

Country or region before: China

TR01 Transfer of patent right
CP03 Change of name, title or address

Address after: No. 1 Wulanmulun East Street, Kangbashi District, Ordos City, Inner Mongolia Autonomous Region, 017010

Patentee after: Ordos Kal Power Technology Co.,Ltd.

Country or region after: China

Address before: Building 3, 7th Floor, Gaosheng Plaza, No. 163 Yingbin Avenue, Xinhua Street, Huadu District, Guangzhou City, Guangdong Province, 510802

Patentee before: Guangzhou Carl Power Technology Co.,Ltd.

Country or region before: China

CP03 Change of name, title or address