JP7203105B2 - 撮像装置の校正装置、監視装置、作業機械および校正方法 - Google Patents
撮像装置の校正装置、監視装置、作業機械および校正方法 Download PDFInfo
- Publication number
- JP7203105B2 JP7203105B2 JP2020526855A JP2020526855A JP7203105B2 JP 7203105 B2 JP7203105 B2 JP 7203105B2 JP 2020526855 A JP2020526855 A JP 2020526855A JP 2020526855 A JP2020526855 A JP 2020526855A JP 7203105 B2 JP7203105 B2 JP 7203105B2
- Authority
- JP
- Japan
- Prior art keywords
- external target
- target
- unit
- imaging device
- calibration
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims description 30
- 238000012806 monitoring device Methods 0.000 title claims description 4
- 238000003384 imaging method Methods 0.000 claims description 183
- 238000005259 measurement Methods 0.000 claims description 30
- 238000012545 processing Methods 0.000 claims description 26
- 238000009434 installation Methods 0.000 claims description 6
- 238000012544 monitoring process Methods 0.000 claims 1
- 238000004364 calculation method Methods 0.000 description 48
- 238000006243 chemical reaction Methods 0.000 description 33
- 238000010586 diagram Methods 0.000 description 31
- 239000011159 matrix material Substances 0.000 description 22
- 238000004891 communication Methods 0.000 description 16
- 238000010276 construction Methods 0.000 description 12
- 238000012790 confirmation Methods 0.000 description 10
- 230000003287 optical effect Effects 0.000 description 7
- 230000005540 biological transmission Effects 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000001915 proofreading effect Effects 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- 238000013519 translation Methods 0.000 description 2
- 230000001133 acceleration Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000009412 basement excavation Methods 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 239000010720 hydraulic oil Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000000630 rising effect Effects 0.000 description 1
- 239000004576 sand Substances 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F9/00—Component parts of dredgers or soil-shifting machines, not restricted to one of the kinds covered by groups E02F3/00 - E02F7/00
- E02F9/26—Indicating devices
- E02F9/261—Surveying the work-site to be treated
- E02F9/262—Surveying the work-site to be treated with follow-up actions to control the work tool, e.g. controller
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more 2D image sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
-
- E—FIXED CONSTRUCTIONS
- E02—HYDRAULIC ENGINEERING; FOUNDATIONS; SOIL SHIFTING
- E02F—DREDGING; SOIL-SHIFTING
- E02F3/00—Dredgers; Soil-shifting machines
- E02F3/04—Dredgers; Soil-shifting machines mechanically-driven
- E02F3/28—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets
- E02F3/30—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom
- E02F3/32—Dredgers; Soil-shifting machines mechanically-driven with digging tools mounted on a dipper- or bucket-arm, i.e. there is either one arm or a pair of arms, e.g. dippers, buckets with a dipper-arm pivoted on a cantilever beam, i.e. boom working downwardly and towards the machine, e.g. with backhoes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
- G06T2207/30208—Marker matrix
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30244—Camera pose
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Civil Engineering (AREA)
- Mining & Mineral Resources (AREA)
- General Engineering & Computer Science (AREA)
- Structural Engineering (AREA)
- Measurement Of Optical Distance (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Component Parts Of Construction Machinery (AREA)
- Operation Control Of Excavators (AREA)
Description
本発明の態様は、作業機の作業範囲より遠い領域における撮像対象についてスケール等を精度よく計測できるように撮像装置を校正することができる撮像装置の校正装置、作業機械、および校正方法を提供することを目的とする。
図1は、油圧ショベルと座標系との関係を示す図である。
以下の説明においては、三次元の現場座標系(Xg、Yg、Zg)、三次元の車体座標系(Xm、Ym、Zm)、および三次元のカメラ座標系(Xc、Yc、Zc)を規定して、これらに基づいて位置関係を説明する。
《油圧ショベルの構成》
図2は、第1の実施形態に係る校正システムを備えた油圧ショベルの外観を示す斜視図である。
作業機械である油圧ショベル100は、油圧により作動する作業機110と、作業機110を支持する旋回体120と、旋回体120を支持する走行体130とを備える。
作業機110は、ブーム111と、アーム112と、バケット113と、ブームシリンダ114と、アームシリンダ115と、バケットシリンダ116とを備える。
アーム112は、ブーム111とバケット113とを連結する。アーム112の基端部は、ブーム111の先端部にアームピンP2を介して取り付けられる。
バケット113は、土砂などを掘削するための刃を有する容器である。バケット113の基端部は、アーム112の先端部にバケットピンP3を介して取り付けられる。
アームシリンダ115は、アーム112を駆動するための油圧シリンダである。アームシリンダ115の基端部は、ブーム111に取り付けられる。アームシリンダ115の先端部は、アーム112に取り付けられる。
バケットシリンダ116は、バケット113を駆動するための油圧シリンダである。バケットシリンダ116の基端部は、アーム112に取り付けられる。バケットシリンダ116の先端部は、バケット113に取り付けられる。
旋回体120には、オペレータが搭乗する運転室121が備えられる。運転室121は、旋回体120の前方かつ作業機110の左側(+Ym側)に備えられる。
図3は、第1の実施形態に係る油圧ショベルの制御系の構成を示す概略ブロック図である。
油圧ショベル100は、作業機位置検出器117、位置方位演算器123、傾斜検出器124、ステレオカメラ125、制御装置126を備える。
位置方位演算器123は、第1受信器1231が受信した測位信号と、第2受信器1232が受信した測位信号とを用いて、検出された第1受信器1231の設置位置に対する第2受信器1232の設置位置の関係として、旋回体120の方位を演算する。
図4は、作業機の姿勢の例を示す図である。
制御装置126は、作業機位置検出器117の検出結果に基づいて、作業機110の姿勢を算出する。具体的には、制御装置126は、作業機110の姿勢として、ブーム111の姿勢角α、アーム112の姿勢角β、バケット113の姿勢角γ、およびバケット113の刃先Eの位置を算出する。
アーム112の姿勢角βは、ブームピンP1からアームピンP2へ伸びる半直線と、アームピンP2からバケットピンP3へ伸びる半直線とがなす角によって表される。
バケット113の姿勢角γは、アームピンP2からバケットピンP3へ伸びる半直線と、バケットピンP3からバケット113の刃先Eへ伸びる半直線とがなす角によって表される。
ここで、ブーム111の姿勢角α、アーム112の姿勢角β、およびバケット113の姿勢角γの和を、作業機110の姿勢角ηとよぶ。作業機110の姿勢角ηは、バケットピンP3から旋回体120の上方向(+Z方向)に伸びる半直線と、バケットピンP3からバケット113の刃先Eへ伸びる半直線とがなす角に等しい。
ステレオカメラ125が備える1対のカメラ(第1カメラ1251と第3カメラ1253、または第2カメラ1252と第4カメラ1254)のカメラ座標系における姿勢の関係は、以下の式(1)で表すことができる。
Pc1=Rcy・Rcp・Rcr・Pc3+Tc ・・・ (1)
ここで、Pc1は第1カメラ1251のカメラ座標系における位置、Pc3は第3カメラ1253のカメラ座標系における位置を示す。Rcyは、第3カメラ1253のヨー角を第1カメラ1251のヨー角に変換するための回転行列である。Rcpは、第3カメラ1253のピッチ角を第1カメラ1251のピッチ角に変換するための回転行列である。Rcrは、第3カメラ1253のロール角を第1カメラ1251のロール角に変換するための回転行列である。Tcは位置Pc3を位置Pc1に変換するための並進行列である。
式(1)の各行列の要素を明示すると、以下の式(2)のようになる。
y1は、第1カメラ1251のカメラ座標系のYc座標における位置を示す。z1は、第1カメラ1251のカメラ座標系のZc座標における位置を示す。x3は、第3カメラ1253のカメラ座標系のXc座標における位置を示す。y3は、第3カメラ1253のカメラ座標系のYc座標における位置を示す。z3は、第3カメラ1253のカメラ座標系のZc座標における位置を示す。θyは、第1カメラ1251に対するXc軸回りの第3カメラ1253の相対角度(ヨー角)を示す。θpは、第1カメラ1251に対するYc軸回りの第3カメラ1253の相対角度(ピッチ角)を示す。θrは、第1カメラ1251に対するZc軸回りの第3カメラ1253の相対角度(ロール角)を示す。Txは、第1カメラ1251に対するXc軸方向の第3カメラ1253の相対位置を示す。Tyは、第1カメラ1251に対するYc軸方向の第3カメラ1253の相対位置を示す。Tzは、第1カメラ1251に対するZc軸方向の第3カメラ1253の相対位置を示す。
第1の実施形態に係る校正では、上記式(1)を構成する行列Rcy、Rcp、Rcr、Tcを求める。すなわち、第1の実施形態に係る校正では、上記式(2)を構成するパラメータθy、θp、θr、Tx、Ty、Tzを求める。
Pm1=Rmy・Rmp・Rmr・Pc1+Tm ・・・ (3)
ここで、Pc1は第1カメラ1251のカメラ座標系における位置を示す。Rmyは、カメラ座標系における第1カメラ1251のヨー角(Xc軸回りの角度)を車体座標系におけるヨー角(Xm軸回りの角度)に変換するための回転行列である。Rmpは、カメラ座標系における第1カメラ1251のピッチ角(Yc軸回りの角度)を車体座標系におけるピッチ角(Ym軸回りの角度)に変換するための回転行列である。Rmrは、カメラ座標系における第1カメラ1251のロール角(Zc軸回りの角度)を車体座標系におけるロール角(Zm軸回りの角度)に変換するための回転行列である。Tmは位置Pc1を位置Pm1に変換するための並進行列である。行列Rmy、行列Rmp、行列Rmr、および行列Tmは、車体パラメータであり、各カメラと旋回体120との位置および姿勢情報を示すパラメータである。
なお、上記説明では第1カメラ1251を例に上記式(3)について説明したが、第2カメラ1252、第3カメラ1253、および第4カメラ1254についても同様である。つまり、上記式(3)を各カメラに適用することで、第1カメラ1251、第2カメラ1252、第3カメラ1253、および第4カメラ1254のそれぞれについて、旋回体120との位置関係を示す式を表すことができる。
第1の実施形態に係る校正では、上記式(3)を構成する行列Rmy、Rmp、Rmr、Tmを求める。これらが求められると、制御装置126は、カメラ座標系における位置を車体座標系に変換することができる。
作業機ターゲットTmは、バケット113の刃における所定の位置に取り付けられる。第1の実施形態においては、作業機ターゲットTmは、バケット113の刃のうち、中央の刃に取り付けられる。制御装置126の演算により、車体座標系におけるバケット113の中央の刃の刃先の位置を算出することができるため、バケット113の刃先と作業機ターゲットTmの中心位置との位置関係が既知であれば、制御装置126は、中央の刃に取り付けられた作業機ターゲットTmの中心位置を正確に算出することができる。なお、他の実施形態においては、作業機ターゲットTmは、複数の刃に取り付けられてもよく、例えば中央の刃および左右両端の刃の計3つの刃に取り付けられてもよい。また、他の実施形態においては、作業機ターゲットTmは、ステレオカメラ125の各カメラが撮像可能な作業機110上の位置であれば、バケット113の刃以外の箇所に取り付けられてもよく、例えば作業機に取り付けられた棒状のアタッチメントの先に作業機ターゲットTmが取り付けられてもよい。なお、制御装置126の演算によって算出される作業機ターゲットTmの位置情報には、GNSSの誤差およびその他誤差が含まれる。一方で制御装置126の演算によって算出される作業機ターゲットTmの位置情報の精度は、ステレオカメラ125の校正前におけるパラメータの精度より高い。そのため、本実施形態ではステレオカメラ125のパラメータ校正に作業機ターゲットTmの位置情報を用いている。なお、中心位置が既知である作業機ターゲットTmは、作業範囲内に位置する既知点ターゲットの一例である。
ステレオカメラ125の校正を実行する際、油圧ショベル100のオペレータは、各作業機ターゲットTmが、例えば図6に示す位置p1、位置p2、位置p3、位置p4、位置p5、位置p6、位置p7、位置p8に来るように作業機110を制御する。そして、ステレオカメラ125を構成する各カメラは、各位置において作業機ターゲットTmを撮像する。このとき、制御装置126は、ステレオカメラ125による撮像の際に、作業機位置検出器117から作業機の位置を示す情報を取得する。
なお、位置p1からp8の位置は必ずしも図6に示す位置である必要はなく油圧ショベル100のオペレータは、作業機ターゲットTmを任意の位置に移動させて撮像を行ってもよい。また作業機ターゲットTmの位置の数も必ず8点である必要はなく任意の複数点であればよい。
外部ターゲットTgは、図7に示すように、地面に面する接地板Tg1と、接地板Tg1から垂直に立ち上がり既定の図形が描かれた表示板Tg2とを備える。なお、外部ターゲットTgの構造は、必ずしも接地板Tg1と表示板Tg2とを備えるものでなくてもよく、ステレオカメラ125の撮像画像からその位置を認識できるものであればどのようなものであってもよい。例えば、他の実施形態に係る外部ターゲットTgは、表示板Tg2のみを備え、地面や壁などに取り付けられるものであってもよい。また、他の実施形態に係る外部ターゲットTgは、表示板Tg2を備えず、地面や壁に直接描かれた図形であってもよいし、表示板Tg2に図形が描かれないものであってもよい。また、表示板Tg2に描かれる図形も位置を認識できるものであればどのような形状、色、模様の図形であってもよい。第1の実施形態に係る校正においては、外部ターゲットTgは、施工現場の任意の複数の位置(すなわち、現場座標系における位置が未知である複数の位置)と、現場座標系における位置が既知である位置とに設置される。以下、ある座標系における位置が未知である位置を未知点、ある座標系における位置が既知である位置を既知点ともいう。また、未知点に配置された外部ターゲットTgを未知外部ターゲット、既知点に配置された外部ターゲットTgを既知外部ターゲットともいう。
ステレオカメラ125の校正を実行する際、油圧ショベル100のオペレータは、各外部ターゲットTgを、例えば図8に示す位置p11、位置p12、位置p13、位置p14、位置p15、位置p16、位置p17、位置p18、位置p19に設置する。位置p11~p19は、いずれも未知点である。つまり、各外部ターゲットTgの設置位置は正確でなくてよく、また現場座標系における位置が未知である。なお、外部ターゲットTgの数は必ず9点である必要はなく任意の複数の未知点であればよい。
このとき、位置p11~p19は、ステレオカメラ125の撮像範囲において分散して配置されることが好ましい。
なお、他の実施形態においては、制御装置126は、位置p1~p8の各カメラの撮像画像における位置および位置p1~p8の車体座標系における位置を用いた収束計算と、位置p11~p19の各カメラの撮像画像における位置を用いた収束計算とをそれぞれ並列に計算して、各カメラのパラメータを求めてもよい。
第1の実施形態においては、上記外部ターゲットTgを現場座標系における位置が既知の位置p20(既知点)に配置し、これを撮像することで、各カメラのパラメータを調整する。第1の実施形態では、外部ターゲットTgは、例えば表示板Tg2に描かれた図形の直下にGNSS基準局Cの中心がくるように、施工現場に設置される。GNSS基準局Cの現場座標系における位置(Xg0,Yg0,Zg0)は既知であり、また外部ターゲットTgの接地板Tg1の底面から表示板Tg2に描かれた図形の中心点までの距離hが既知であることから、現場座標系における外部ターゲットTgの図形の中心位置p20(Xg0,Yg0,Zg0+h)を正確に特定することができる。なお、他の実施形態においてGNSS基準局Cは、必ずしも現場座標系における基準点(原点)である必要はない。なお、既知の外部ターゲットTgの位置情報は、トータルステーション等の高精度のセンサを用いて計測されるため、その精度はステレオカメラ125の校正前におけるパラメータの精度より高い。そのため、本実施形態ではステレオカメラ125のパラメータ校正に外部ターゲットTgの位置情報を用いることで、ステレオ計測の精度を向上させることができる。
また、油圧ショベル100のオペレータは、作業機ターゲットTm、および未知点である外部ターゲットTgを用いた校正の後に、位置p20に設置された既知点である外部ターゲットTgが作業機110の作業範囲(p1~p8を含む範囲)より遠方になるように油圧ショベル100を移動させる。なお、作業範囲とは、車体座標系において作業機110の操作によりバケット113の刃先Eが到達し得る範囲をいう。そして、ステレオカメラ125を構成する各カメラは、位置p20の外部ターゲットTgを撮像する。なお、図10に示す例では、ステレオカメラ125は現場座標系における位置が既知の外部ターゲットTgを1回撮像するが、これに限られない。制御装置126は、ステレオカメラ125と現場座標系における位置が既知の外部ターゲットTgとの相対位置を異ならせながら、当該相対位置ごとに、ステレオカメラ125に現場座標系における位置が既知の外部ターゲットTgを複数回撮像させてもよい。この場合、現場座標系における位置が既知の外部ターゲットTgを1回撮像する場合より、より精度よくステレオカメラ125のパラメータを求めることができる。なお、作業範囲外に設置された既知点である外部ターゲットTgは、作業範囲外に位置する既知点ターゲットの一例である。また、作業範囲内に設置された既知点である外部ターゲットTgは、作業範囲内に位置する既知点ターゲットの一例である。
なお、パラメータ記憶部204には車体座標系における各カメラの位置および姿勢を示すパラメータが記憶されているため、第1位置および第2位置を算出することで、カメラと外部ターゲットTgとの位置関係が分かる。つまり、第1位置とパラメータ記憶部204が記憶するパラメータとの組み合わせは、カメラと外部ターゲットTgとの位置関係である第1位置関係の一例である。また第2位置とパラメータ記憶部204が記憶するパラメータとの組み合わせは、カメラと外部ターゲットTgとの位置関係である第2位置関係の一例である。
図11は、第1の実施形態に係る油圧ショベルの制御装置の構成を示すブロック図である。
制御装置126は、撮像データ取得部200、作業機械情報記憶部201、作業機位置特定部202、第1校正部203、パラメータ記憶部204、変換パラメータ算出部205、外部ターゲット位置算出部206、外部ターゲット位置取得部207、外部ターゲット位置変換部208、第2校正部209を備える。
図12は、第1の実施形態に係るステレオカメラの校正方法を示すフローチャートである。
ステレオカメラ125の校正を開始する前に、予め作業機械情報記憶部201には、作業機110の各種寸法が記憶される(ステップS0)。
油圧ショベル100のオペレータは、作業機ターゲットTmが所定の位置、例えば図6に示す位置p1からp8のそれぞれの位置に来るように操作装置1211を操作し、作業機110を駆動させる。
このように、第1の実施形態によれば、制御装置126は、ステレオカメラ125の撮像画像に基づいたステレオ計測によって特定されたステレオカメラ125と外部ターゲットTgとの第1位置関係と、ステレオカメラ125の位置と外部ターゲットTgの位置とに基づいて特定された第2位置関係とに基づいてステレオカメラ125を校正する。外部ターゲットTgが作業機110上に設けられるものでなく施工現場に設けられるため、ステレオカメラ125と外部ターゲットTgとの距離を任意に設定してステレオカメラ125を校正することができる。したがって、制御装置126は、ステレオカメラ125と外部ターゲットTgとの距離を作業機110の作業範囲外に設定することで、作業機110の作業範囲より遠い点におけるスケールの計測精度が高くなるようにステレオカメラ125を校正することができる。
第2の実施形態について説明する。
第1の実施形態に係る油圧ショベル100の制御装置126は、作業機ターゲットTm、及び未知点である外部ターゲットTgを用いた校正の後に、現場座標系の位置が既知の外部ターゲットTgを用いた校正を行うという、2段階の校正を行う。これに対し、第2の実施形態に係る制御装置126は、作業機ターゲットTmと、未知点である外部ターゲットTgと、現場座標系の位置が既知の外部ターゲットTgとを用いて一度にステレオカメラ125の校正を行う。
図13は、第2の実施形態に係るステレオカメラの校正方法を示すフローチャートである。
ステレオカメラ125の校正を開始する前に、予め作業機械情報記憶部201には、作業機110の各種寸法が記憶される(ステップS100)。
油圧ショベル100のオペレータは、作業機ターゲットTmが所定の位置、例えば図6に示す位置p1からp8のそれぞれの位置に来るように操作装置1211を操作し、作業機110を駆動させる。
第3の実施形態について説明する。
第1、第2の実施形態に係る油圧ショベル100の制御装置126は、作業機ターゲットTmを用いて校正を行う。これに対し、第3の実施形態に係る制御装置126は、作業機ターゲットTmを用いずにステレオカメラ125の校正を行う。
第3の実施形態において、作業機110の作業範囲外に設置した既知点の外部ターゲットTgを用いてステレオカメラ125の校正を実行する際、油圧ショベル100のオペレータは、図14に示すように、外部ターゲットTgに対して旋回体120を旋回させ、ステレオカメラ125から見て異なる角度に位置する外部ターゲットTgを撮像する。つまり、オペレータは、旋回体120が位置p101、位置p102、位置p103に来るように旋回体120を制御する。このとき、油圧ショベル100のオペレータは、走行体130を駆動させ、異なる距離から複数回外部ターゲットTgを撮像してもよい。そして、ステレオカメラ125を構成する各カメラは、各位置において外部ターゲットTgを撮像する。
そして、制御装置126は、各カメラの撮像画像における位置p101~p103の中心位置と、位置p101~p103の車体座標系における位置とに基づく収束計算により、ステレオカメラ125のパラメータを算出する。つまり、制御装置126は、ステレオカメラ125と既知点の外部ターゲットTgとの複数の相対位置を用いてステレオカメラ125の校正を行う。
図15は、第3の実施形態に係るステレオカメラの校正方法を示すフローチャートである。
パラメータ記憶部204には、ステレオカメラ125の校正を開始する前に、予め作業機械情報記憶部201には、作業機110の各種寸法が記憶される(ステップS200)。まず外部ターゲット位置取得部207は、既知のGNSS基準局Cの現場座標系における位置に、外部ターゲットTgの図形中心までの高さhを加算することで、外部ターゲットTgの現場座標系における位置を算出する(ステップS201)。
次に、油圧ショベル100のオペレータは、油圧ショベル100と外部ターゲットTgとの相対位置が作業機110の作業範囲外になるように油圧ショベル100を走行した上で、旋回体120が任意の位置、例えば図14に示す位置p101からp103のそれぞれの位置に来るように操作装置1211を操作し、旋回体120を旋回させる。
このように、第3の実施形態によれば、制御装置126は、ステレオカメラ125と外部ターゲットTgとの距離を作業機110の作業範囲より遠くに設定することで、作業機110の作業範囲より遠い点についてより精度よく距離を計算できるようにステレオカメラ125を校正することができる。
第4の実施形態について説明する。
第1の実施形態から第3の実施形態における校正処理は、初期校正またはステレオカメラ125にずれが生じたときに行う校正処理として実施することができる。油圧ショベル100の制御装置126に正確に地形を認識させるためには、ステレオカメラ125のパラメータが適切に保たれていることが好ましい。一方で、ステレオカメラ125にずれが生じていないときに、校正処理を行うことは煩雑である。
そこで、第4の実施形態では、第1から第3のいずれかの実施形態に示す方法で校正処理を行った後に、定期的にステレオカメラ125にずれが生じているか否かをチェックし、ずれが生じている場合に校正処理を行うことができる校正システムを提供する。
図16は、第4の実施形態に係る校正システムの構成を示す概略図である。
第4の実施形態に係る校正システム500は、油圧ショベル100と端末装置503とを備える。端末装置503の例としては、オペレータによって操作される携帯端末、PC、車載モニタなどが挙げられる。油圧ショベル100の制御装置126は、有線通信または無線LANなどの近距離無線通信により端末装置503と通信することができる。端末装置503は、オペレータによるパラメータチェック処理および校正処理を補助するためのユーザインタフェースを提供する。
図17は、第4の実施形態に係る制御装置の構成を示す概略ブロック図である。
第4の実施形態に係る制御装置126は、第1から第3の実施形態に係る制御装置126の構成に加え、さらにパラメータチェック部210および通信部211を備える。なお、第1から第3の何れかの実施形態に係る処理については、説明を省略する。
パラメータチェック部210は、パラメータ記憶部204が記憶するパラメータの校正が必要か否かを判定する。具体的には、パラメータチェック部210は、取得した既知のターゲットの位置と ステレオ計測により特定した外部ターゲットの位置との差に基づいて、校正の要否を判定する。つまり、制御装置126は、撮像装置の監視装置の一例である。
通信部211は、端末装置503との通信によりデータの授受を行う。通信部211は、校正の要否の判定結果を出力する出力部の一例である。
図18は、第4の実施形態に係る端末装置の構成を示す概略ブロック図である。
端末装置503は、プロセッサ610、メインメモリ620、ストレージ630、インタフェース640、入力装置650、表示装置660を備える。
基準局選択部612は、入力装置650を介してオペレータから基準局記憶部631が記憶する複数のGNSS基準局Cのうち、パラメータチェックに用いるGNSS基準局Cの選択を受け付ける。なお、他の実施形態においては、基準局選択部612は、制御装置126からステレオカメラ125に写る画像のステレオ計測によって得られた外部ターゲットTgの位置情報を受信し、基準局記憶部631が記憶する複数のGNSS基準局Cのうち、当該位置情報が示す位置に最も近いGNSS基準局Cを選択してもよい。また他の実施形態においては、端末装置503は、基準局選択部612に代えて、基準局の座標位置を直接入力可能な基準局入力部を備えてもよい。
指示送信部613は、入力装置650を介してオペレータから受け付けたパラメータチェックの開始指示、および校正の開始指示を制御装置126に送信する。
チェック結果受信部615は、制御装置126からパラメータチェック処理の結果を受信する。パラメータチェック処理の結果は、ステレオカメラ125の校正が必要であるか否かを示す情報である。
校正結果受信部616は、制御装置126から校正処理の結果を受信する。校正処理の結果は、校正処理に成功したか否かを示す情報である。
図19、図20は、第4の実施形態に係るパラメータチェックおよび校正処理を示すシーケンス図である。オペレータは、油圧ショベル100を用いる作業の開始時に、その日の作業においてステレオカメラ125を使用するか否かを判断し、その日の作業においてステレオカメラ125を使用する可能性がある場合に、以下に示すパラメータチェックを実行する。
図21は、第4の実施形態に係る端末装置に表示される確認画面の例を示す図である。確認画面には、図21に示すように、ステレオカメラ125の各カメラによる撮像画像G11が含まれる。撮像画像G11は、ステレオカメラ125の撮像ボタンの押下より前に各カメラに写る瞬時的な画像を示す動画像またはコマ送り画像である。撮像画像G11は油圧ショベル100の制御装置126から送信される。なお、他の実施形態においては、確認画面はステレオカメラ125のすべてのカメラの撮像画像G11を含まなくてもよい。例えば確認画面は、対をなすカメラの一方(例えば、第1カメラ1251と第4カメラ1254)が撮像した撮像画像G11を含むものであってもよい。また、制御装置126が、ステレオカメラ125の各カメラが撮像した撮像画像G11内に映る外部ターゲットTgを認識してステレオ計測することで、ステレオカメラ125から外部ターゲットTgまでの距離を算出し、当該距離を端末装置503に送信することで、端末装置503は、確認画面上に算出した距離を表示させるようにしてもよい。オペレータは、確認画面に表示される距離を参照することで、ステレオカメラ125と外部ターゲットTgとの距離が、予め設定されたチェック距離になるよう油圧ショベル100を走行させることができる。
なお、制御装置126は外部ターゲットTgの中心位置を求めるたびに、次の姿勢での撮像を指示する画面の表示指示を端末装置503に送信する。また、制御装置126は外部ターゲットTgの中心位置の算出に失敗した場合、再度の撮像を指示する画面の表示指示を端末装置503に送信する。
ステレオ計測された外部ターゲットTgの位置と外部ターゲットTgの既知の位置との差が許容誤差範囲内である場合(ステップS309:YES)、パラメータチェック部210は、端末装置503にパラメータの校正が不要であることを示すチェック結果情報を送信する(ステップS310)。
端末装置503のチェック結果受信部615が制御装置126からチェック結果情報を受信すると、表示制御部611は、チェック結果情報を表示するチェック結果画面の表示信号を表示装置660に出力する(ステップS312)。
端末装置503の校正結果受信部616が制御装置126から校正結果情報を受信すると、表示制御部611は、校正結果情報を表示する校正結果画面の表示信号を表示装置660に出力する(ステップS319)。
また、第4の実施形態によれば、端末装置503がパラメータチェックおよび校正処理の補助を行う。これにより、オペレータは、容易にパラメータチェックおよび校正処理を行うことができる。
以上、図面を参照して一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、様々な設計変更等をすることが可能である。
例えば、第1の実施形態によれば、作業機ターゲットTmを撮像した後に外部ターゲットTgを撮像するが、これに限られない。例えば、他の実施形態に係る制御装置126は、外部ターゲットTgを撮像した後に作業機ターゲットTmを撮像してもよいし、一の画像に作業機ターゲットTmと外部ターゲットTgの両方を写すことで、作業機ターゲットTmと外部ターゲットTgとを同時に撮像してもよい。
上述した実施形態においては、制御装置126が単独でステレオカメラ125の校正を行うが、これに限られない。例えば、他の実施形態において、校正システム500が油圧ショベル100、サーバ501、通信回線502、端末装置503を備える場合に、制御装置126が他の装置と共働してステレオカメラ125の校正を行ってもよい。図22に示す例では、制御装置126は、通信回線502を介して、油圧ショベル100の遠隔に設けられているサーバ501および端末装置503とデータ通信することができる。サーバ501の例としては、コンピュータシステムが挙げられる。端末装置503の例としては、パーソナルコンピュータや携帯端末が挙げられる。通信回線502の例としては、インターネット、ローカルエリアネットワーク、携帯電話通信網、および衛星通信網が挙げられる。また、端末装置503は、図示しない油圧ショベル100の遠隔操作室に設けられてもよい。
110 作業機
120 旋回体
125 ステレオカメラ
1251 第1カメラ
1252 第2カメラ
1253 第3カメラ
1254 第4カメラ
126 制御装置
200 撮像データ取得部
201 作業機械情報記憶部
202 作業機位置特定部
203 第1校正部
204 パラメータ記憶部
205 変換パラメータ算出部
206 外部ターゲット位置算出部
207 外部ターゲット位置取得部
208 外部ターゲット位置変換部
209 第2校正部
Tm 作業機ターゲット
Tg 外部ターゲット
Claims (18)
- 作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、前記作業機の作業範囲外における既知の位置に設置される既知外部ターゲットの撮像データを取得する撮像データ取得部と、
前記既知外部ターゲットの位置を取得する外部ターゲット位置取得部と、
前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記既知外部ターゲットの撮像データとに基づいて前記撮像装置の校正処理の要否を判定するパラメータチェック部と、
前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正する校正部と、
を備える撮像装置の校正装置。 - 前記撮像データ取得部は、少なくとも1対の撮像装置から前記既知外部ターゲットの撮像データを取得し、
前記校正部は、前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記撮像データに基づいてステレオ計測された前記既知外部ターゲットの位置とに基づいて前記撮像装置を校正する、
請求項1に記載の撮像装置の校正装置。 - 前記既知外部ターゲットのステレオ計測結果に基づいて、前記撮像装置と前記既知外部ターゲットとの位置関係である第1位置関係を特定する第1位置関係特定部と、
前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置に基づいて、前記撮像装置と前記既知外部ターゲットとの位置関係である第2位置関係を特定する第2位置関係特定部と、
を備え、
前記校正部は、前記第1位置関係と前記第2位置関係とに基づいて前記撮像装置を校正する、
請求項2に記載の撮像装置の校正装置。 - 前記作業機の位置を特定し、前記作業機に設けられた作業機ターゲットの位置を算出する作業機位置特定部を備え、
前記撮像データ取得部は、前記撮像装置によって撮像された前記作業機ターゲットの撮像データを取得し、
前記校正部は、前記撮像データ取得部が取得した前記作業機ターゲットの撮像データと、前記作業機位置特定部により算出された前記作業機ターゲットの位置とに基づく前記撮像装置の校正と、前記第1位置関係と前記第2位置関係とに基づく前記撮像装置の校正を行う、
請求項3に記載の撮像装置の校正装置。 - 前記校正部は、前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像データ取得部が取得した撮像データである画像における前記既知外部ターゲットの位置とに基づいて前記撮像装置を校正する、
請求項1に記載の撮像装置の校正装置。 - 前記作業機の位置を特定し、前記作業機に設けられた作業機ターゲットの位置を算出する作業機位置特定部を備え、
前記撮像データ取得部は、前記撮像装置によって撮像された、前記作業機ターゲットの撮像データを取得し、
前記校正部は、前記撮像データ取得部が取得した前記作業機ターゲットの撮像データと、前記作業機位置特定部により算出された前記作業機ターゲットの位置と、前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置と、前記撮像装置が撮像した画像における前記既知外部ターゲットの位置とに基づいて前記撮像装置を校正する、
請求項5に記載の撮像装置の校正装置。 - 前記撮像データ取得部は、前記撮像装置によって撮像された、未知の位置に設置される未知外部ターゲットの撮像データを取得し、
前記校正部は、前記撮像データ取得部が取得した撮像データである画像における前記未知外部ターゲットの位置を用いて前記撮像装置を校正する、
請求項1から請求項6の何れか1項に記載の撮像装置の校正装置。 - 前記撮像データ取得部は、前記撮像装置によって撮像された複数の既知外部ターゲットの撮像データを取得し、
前記外部ターゲット位置取得部は、前記複数の既知外部ターゲットそれぞれの位置を取得し、
前記校正部は、前記外部ターゲット位置取得部により取得された前記複数の既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記複数の既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正する、
請求項1から請求項7の何れか1項に記載の撮像装置の校正装置。 - 前記撮像データ取得部は、前記撮像装置と前記既知外部ターゲットとの相対位置ごとに撮像データを取得し、
前記外部ターゲット位置取得部は、前記相対位置ごとに前記既知外部ターゲットの位置を取得し、
前記校正部は、前記外部ターゲット位置取得部により取得された前記相対位置ごとの既知外部ターゲットの位置と、前記撮像データ取得部により取得された前記相対位置ごとの前記既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正する、
請求項1から請求項8の何れか1項に記載の撮像装置の校正装置。 - 前記撮像データ取得部は、前記作業機の作業範囲内の既知の位置に設けられた既知点ターゲットの撮像データを取得し、
前記校正部は、前記既知外部ターゲットおよび前記既知点ターゲットの位置と、前記撮像装置による前記既知外部ターゲットおよび前記既知点ターゲットの撮像データとに基づいて前記撮像装置を校正する、
請求項1から請求項9の何れか1項に記載の撮像装置の校正装置。 - 前記校正部は、前記撮像装置の前記作業機械における設置位置および姿勢を規定するパラメータを校正する、
請求項1から請求項10の何れか1項に記載の撮像装置の校正装置。 - 前記パラメータチェック部による前記校正処理の要否の判定結果を出力する出力部と、
を備え、
前記校正部は、前記パラメータチェック部からの監視の結果、前記撮像装置の校正が必要である旨の判定結果を受けた場合に、前記撮像装置を校正する、
請求項1から請求項11の何れか1項記載の撮像装置の校正装置。 - 前記校正部は、前記外部ターゲット位置取得部により取得された複数の前記既知外部ターゲットの位置と、前記撮像データ取得部により取得された複数の前記既知外部ターゲットの撮像データとに基づいて、前記撮像装置の車体パラメータを校正する
請求項1から請求項12の何れか1項に記載の撮像装置の校正装置。 - 前記撮像装置により撮像された撮像データにおいて複数の既知外部ターゲットが写る画素である第1画素の位置を取得する第1画素取得部と、
前記外部ターゲット位置取得部により取得された前記複数の既知外部ターゲットの位置と前記撮像装置の車体パラメータとに基づいて、前記撮像装置の画素上に前記複数の既知外部ターゲットが投影される画素である第2画素の位置を演算する第2画素取得部と、
を備え、
前記校正部は、前記第1画素の位置と前記第2画素の位置とに基づいて前記車体パラメータを校正する
請求項1から請求項13の何れか1項に記載の撮像装置の校正装置。 - 作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、前記作業機の作業範囲外における既知の位置に設置される既知外部ターゲットの撮像データを取得する撮像データ取得部と、
前記既知外部ターゲットの位置を取得する外部ターゲット位置取得部と、
前記撮像装置によって撮像された撮像データにおいて複数の前記既知外部ターゲットが写る画素である第1画素の位置を取得する第1画素取得部と、
前記外部ターゲット位置取得部により取得された前記複数の既知外部ターゲットの位置と前記撮像装置の車体パラメータとに基づいて、前記撮像装置の画素上に前記複数の既知外部ターゲットが投影される画素である第2画素の位置を取得する第2画素取得部と、
前記第1画素の位置と前記第2画素の位置とに基づいて前記車体パラメータを校正する校正部と
を備える撮像装置の校正装置。 - 前記作業機と、
請求項1から請求項15の何れか1項に記載の撮像装置の校正装置と
を備える作業機械。 - 作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、前記作業機の作業範囲外における既知の位置に設置される既知外部ターゲットの撮像データを取得することと、
前記既知外部ターゲットの位置を取得することと、
取得された前記既知外部ターゲットの位置と、取得された前記既知外部ターゲットの撮像データとに基づいて前記撮像装置の校正処理の要否を判定することと、
取得された前記既知外部ターゲットの位置と、前記撮像装置による前記既知外部ターゲットの撮像データとに基づいて前記撮像装置を校正することと、
を含む撮像装置の校正方法。 - 作業機を備える作業機械に設けられた少なくとも1つの撮像装置によって撮像された、既知の位置に設置される既知外部ターゲットの撮像データを取得する撮像データ取得部と、
前記既知外部ターゲットの位置を取得する外部ターゲット位置取得部と、
前記撮像データの取得時における前記作業機械の位置の計測値と前記外部ターゲット位置取得部により取得された前記既知外部ターゲットの位置とに基づいて、前記撮像装置と前記既知外部ターゲットとの位置関係を特定し、前記撮像データ取得部により取得された前記既知外部ターゲットの撮像データと前記位置関係とに基づいて前記撮像装置のステレオ計測に係るパラメータが適切か否かを判定するパラメータチェック部と、
前記判定の結果を出力する出力部と、
を備える撮像装置の監視装置。
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
PCT/JP2018/024832 WO2020003497A1 (ja) | 2018-06-29 | 2018-06-29 | 撮像装置の校正装置、監視装置、作業機械および校正方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPWO2020003497A1 JPWO2020003497A1 (ja) | 2021-07-15 |
JP7203105B2 true JP7203105B2 (ja) | 2023-01-12 |
Family
ID=68986814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020526855A Active JP7203105B2 (ja) | 2018-06-29 | 2018-06-29 | 撮像装置の校正装置、監視装置、作業機械および校正方法 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11508091B2 (ja) |
JP (1) | JP7203105B2 (ja) |
CN (1) | CN112334733B (ja) |
DE (1) | DE112018007660T5 (ja) |
WO (1) | WO2020003497A1 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109242914B (zh) * | 2018-09-28 | 2021-01-01 | 上海爱观视觉科技有限公司 | 一种可动视觉系统的立体标定方法 |
CN109360243B (zh) * | 2018-09-28 | 2022-08-19 | 安徽爱观视觉科技有限公司 | 一种多自由度可动视觉系统的标定方法 |
JP7575892B2 (ja) * | 2020-06-19 | 2024-10-30 | 株式会社小松製作所 | 校正装置および校正方法 |
CN112912932B (zh) * | 2021-01-29 | 2024-03-08 | 深圳市锐明技术股份有限公司 | 一种车载摄像头的标定方法、装置及终端设备 |
JP7209755B2 (ja) * | 2021-02-10 | 2023-01-20 | 三菱ロジスネクスト株式会社 | キャリブレーション方法、プログラム、及びキャリブレーション装置 |
DE102021202993A1 (de) | 2021-03-26 | 2022-09-29 | Robert Bosch Gesellschaft mit beschränkter Haftung | Verfahren zur Ermittlung einer Kalibrierungsgüte eines optischen Sensors |
CN115278184B (zh) * | 2022-07-18 | 2024-03-15 | 峰米(重庆)创新科技有限公司 | 投影画面校正方法及装置 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004354257A (ja) | 2003-05-29 | 2004-12-16 | Olympus Corp | キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
JP2014052335A (ja) | 2012-09-10 | 2014-03-20 | Ricoh Co Ltd | 画像処理装置及びステレオカメラ装置 |
JP2015001465A (ja) | 2013-06-17 | 2015-01-05 | キヤノン株式会社 | 三次元位置計測装置、及び三次元位置計測装置のキャリブレーションずれ判定方法 |
WO2016148309A1 (ja) | 2016-03-29 | 2016-09-22 | 株式会社小松製作所 | 校正システム、作業機械及び校正方法 |
JP6966218B2 (ja) | 2017-04-27 | 2021-11-10 | 株式会社小松製作所 | 撮像装置の校正装置、作業機械および校正方法 |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2881193B1 (ja) * | 1998-03-02 | 1999-04-12 | 防衛庁技術研究本部長 | 3次元物体認識装置および方法 |
JP4055998B2 (ja) * | 2003-04-15 | 2008-03-05 | 本田技研工業株式会社 | 距離検出装置、距離検出方法、及び距離検出プログラム |
EP1637836A1 (en) | 2003-05-29 | 2006-03-22 | Olympus Corporation | Device and method of supporting stereo camera, device and method of detecting calibration, and stereo camera system |
US7693325B2 (en) * | 2004-01-14 | 2010-04-06 | Hexagon Metrology, Inc. | Transprojection of geometry data |
CN101975588B (zh) * | 2010-08-20 | 2012-07-11 | 北京航空航天大学 | 一种多传感器视觉测量系统的刚性杆全局校准方法及装置 |
AU2013101229A4 (en) * | 2012-09-14 | 2013-10-10 | 3D Image Automation Pty Ltd | Reclaimer 3D Volume Rate Controller |
US20150098079A1 (en) * | 2013-10-09 | 2015-04-09 | Hilti Aktiengesellschaft | System and method for camera based position and orientation measurement |
JP6034775B2 (ja) | 2013-11-29 | 2016-11-30 | クラリオン株式会社 | カメラ校正装置 |
WO2016047808A1 (ja) * | 2015-09-30 | 2016-03-31 | 株式会社小松製作所 | 撮像装置の校正システム、作業機械及び撮像装置の校正方法 |
CN106817905A (zh) | 2015-09-30 | 2017-06-09 | 株式会社小松制作所 | 校正系统、作业机械和校正方法 |
US10528826B2 (en) * | 2016-05-06 | 2020-01-07 | GM Global Technology Operations LLC | Vehicle guidance system |
US10602126B2 (en) * | 2016-06-10 | 2020-03-24 | Lucid VR, Inc. | Digital camera device for 3D imaging |
KR101741150B1 (ko) * | 2016-12-28 | 2017-05-29 | 광운대학교 산학협력단 | 영상에디팅을 수행하는 영상촬영장치 및 방법 |
-
2018
- 2018-06-29 US US17/059,517 patent/US11508091B2/en active Active
- 2018-06-29 JP JP2020526855A patent/JP7203105B2/ja active Active
- 2018-06-29 CN CN201880094869.3A patent/CN112334733B/zh active Active
- 2018-06-29 DE DE112018007660.1T patent/DE112018007660T5/de active Pending
- 2018-06-29 WO PCT/JP2018/024832 patent/WO2020003497A1/ja active Application Filing
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004354257A (ja) | 2003-05-29 | 2004-12-16 | Olympus Corp | キャリブレーションずれ補正装置及びこの装置を備えたステレオカメラ並びにステレオカメラシステム |
JP2014052335A (ja) | 2012-09-10 | 2014-03-20 | Ricoh Co Ltd | 画像処理装置及びステレオカメラ装置 |
JP2015001465A (ja) | 2013-06-17 | 2015-01-05 | キヤノン株式会社 | 三次元位置計測装置、及び三次元位置計測装置のキャリブレーションずれ判定方法 |
WO2016148309A1 (ja) | 2016-03-29 | 2016-09-22 | 株式会社小松製作所 | 校正システム、作業機械及び校正方法 |
JP6966218B2 (ja) | 2017-04-27 | 2021-11-10 | 株式会社小松製作所 | 撮像装置の校正装置、作業機械および校正方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112334733A (zh) | 2021-02-05 |
US20210209800A1 (en) | 2021-07-08 |
DE112018007660T5 (de) | 2021-03-18 |
WO2020003497A1 (ja) | 2020-01-02 |
JPWO2020003497A1 (ja) | 2021-07-15 |
US11508091B2 (en) | 2022-11-22 |
CN112334733B (zh) | 2022-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP7203105B2 (ja) | 撮像装置の校正装置、監視装置、作業機械および校正方法 | |
JP6966218B2 (ja) | 撮像装置の校正装置、作業機械および校正方法 | |
CN106029994B (zh) | 校正系统、作业机械和校正方法 | |
CN108700402B (zh) | 位置测量系统、作业机械及位置测量方法 | |
US9322652B2 (en) | Stereo photogrammetry from a single station using a surveying instrument with an eccentric camera | |
US9733080B2 (en) | Wide-angle image pickup unit and measuring device | |
CN106716061B (zh) | 测设信息标示装置、测设信息标示方法 | |
EP3855217B1 (en) | Coordinate conversion system and work machine | |
CN108549771A (zh) | 一种挖掘机辅助施工系统及方法 | |
US20190387219A1 (en) | Display system, display method, and remote operation system | |
CN103201590A (zh) | 测量和标记沿水平延伸的轮廓线的空间点的装置 | |
KR20200064542A (ko) | 드론을 이용한 지상기준점 측량장치 및 그 방법 | |
CN109242918A (zh) | 一种直升机机载双目立体视觉标定方法 | |
CN110780313A (zh) | 一种无人机可见光立体测量采集建模方法 | |
KR101409802B1 (ko) | 3차원 3d 스캐너를 활용한 최적의 공간정보 분석 시스템 | |
JP2009042175A (ja) | 施工位置測定システム及び丁張りレスシステム | |
CN117782007A (zh) | 地面沉降高精度无人机近景摄影测量装置及测量方法 | |
CN216116064U (zh) | 掘进机的位姿标定系统 | |
JP7517775B2 (ja) | 3d設計データ作成方法、建設工事方法、3d設計データ作成システムおよび3d設計データ作成プログラム | |
JP4276360B2 (ja) | ステレオ画像撮影用システム | |
AU2020282145B2 (en) | Map generation system and map generation method | |
JP2010049443A (ja) | 移動体遠隔制御システム | |
JP4430789B2 (ja) | ステレオ画像撮影用のシステム | |
JP2834007B2 (ja) | 離隔式測量方法 | |
CN115908578A (zh) | 多传感器数据融合的方法、装置和系统 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210506 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220405 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220606 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20221004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20221205 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20221220 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20221226 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7203105 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |