Nothing Special   »   [go: up one dir, main page]

JP6025386B2 - 画像計測装置、画像計測方法及び画像計測プログラム - Google Patents

画像計測装置、画像計測方法及び画像計測プログラム Download PDF

Info

Publication number
JP6025386B2
JP6025386B2 JP2012105101A JP2012105101A JP6025386B2 JP 6025386 B2 JP6025386 B2 JP 6025386B2 JP 2012105101 A JP2012105101 A JP 2012105101A JP 2012105101 A JP2012105101 A JP 2012105101A JP 6025386 B2 JP6025386 B2 JP 6025386B2
Authority
JP
Japan
Prior art keywords
workpiece
calibration
plane
image
measurement
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012105101A
Other languages
English (en)
Other versions
JP2013231702A (ja
Inventor
紘太 谷
紘太 谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2012105101A priority Critical patent/JP6025386B2/ja
Priority to US13/868,243 priority patent/US9303988B2/en
Priority to CN201310157440.3A priority patent/CN103383238B/zh
Publication of JP2013231702A publication Critical patent/JP2013231702A/ja
Application granted granted Critical
Publication of JP6025386B2 publication Critical patent/JP6025386B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/02Picture taking arrangements specially adapted for photogrammetry or photographic surveying, e.g. controlling overlapping of pictures
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/24Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
    • G01B11/245Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures using a plurality of fixed, simultaneously operating transducers
    • YGENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10TECHNICAL SUBJECTS COVERED BY FORMER USPC
    • Y10STECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
    • Y10S901/00Robots
    • Y10S901/46Sensing device

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Manipulator (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、カメラによって撮像された画像からワークの二次元位置及び/又は姿勢を計測する画像計測に関する。
一般に、カメラで撮像した画像から撮像対象(以下、単にワークという)の二次元上の位置姿勢を計測可能であることが知られている。ところで、実際のワークの位置姿勢は実際の空間の座標(ワールド座標系)で表される一方、撮像された画像は画像座標(画像座標系)で表される。そのため、撮像された画像からワークの二次元上の位置姿勢を計測するためには、画像座標[pixel]の情報を実際の空間の座標[mm]に対応付ける必要がある。即ち、カメラの撮像平面と二次元計測を行う測定平面とを同定する必要がある。
これら2つの平面を同定するためには、カメラについて内部パラメータ(画像中心位置、焦点距離、レンズの歪みなどのパラメータ)及び外部パラメータ(回転パラメータや並進パラメータなど)の校正を行う必要がある。
従来、上記外部パラメータは、実空間上の相対位置関係を予め計測してある校正パターンを撮像し、この撮像された画像上での校正パターンと実空間上の校正パターンとの相対位置関係を比較することにより校正が行われている(特許文献1参照)。
特開2003−50107号公報
しかしながら上記特許文献1の方法では、外部パラメータを校正した平面と、実際に測定対象が置かれる平面との間に差異があると測定誤差が発生してしまう。通常、ワークが固定平面上に載置される場合、外部パラメータの校正を行った平面(以下校正平面という)と、ワークの測定平面との間に大きな差異が生じることはなく、このような測定誤差は問題とならない。しかしながら、例えばロボットアームのエンドエフェクタなどによってワークが把持される場合、このワークの把持位置によってワークの位置姿勢が変化してしまうことがある。そして、この場合、上記校正平面とワークの測定平面との差異が大きく、これら平面間の差異に基づく測定誤差も大きくなってしまうという問題がある。
そこで本発明は、ワークの測定平面と外部パラメータを校正した平面との間に差異が生じ得る場合においても、少ない誤差で二次元計測を可能にすることを目的とする。
本発明に係る画像計測装置は、カメラにより、校正平面に既知の校正パターンを備えた校正基準器を撮像し、撮像した校正パターンの画像に基づき、前記カメラにより前記校正パターンを撮像した時の外部パラメータを校正し、校正された外部パラメータを記憶して、前記カメラで保持装置により保持されたワークの測定平面を撮像し、撮像した前記測定平面の画像と、記憶した前記外部パラメータを用いた演算に基づき、ワークの二次元位置及び/又は姿勢を計測する画像計測装置において、前記カメラにより、前記保持装置によって保持された前記ワークを撮像するに際し、前記校正平面に直交する前記ワークの保持位置を検出する測長センサを介して前記測定平面と、前記校正パターンを撮像した時の前記校正平面と、の距離の差分を検出する検出装置と、前記検出装置が検出した前記差分に基づいて前記演算を補正し、補正された演算に基づき記カメラにより撮像された画像から前記ワークの二次元位置及び/又は姿勢を測定する制御部と、を備えたことを特徴とする。
また、本発明に係る画像計測方法は、カメラにより、校正平面に既知の校正パターンを備えた校正基準器を撮像し、演算装置が、撮像した校正パターンの画像に基づき、前記カメラにより前記校正パターンを撮像した時の外部パラメータを校正する外部パラメータ校正工程と、前記カメラで保持装置により保持されたワークの測定平面を撮像する撮像工程と、前記演算装置が、撮像した前記測定平面の画像と、記憶した前記外部パラメータを用いた演算に基づき、ワークの二次元位置及び/又は姿勢を計測する画像処理工程と、を備えた画像測定方法において、前記演算装置が、前記校正平面に直交する前記ワークの保持位置を検出する測長センサを介して前記撮像工程において撮像した前記ワークの前記測定平面と、前記外部パラメータ校正工程において前記校正パターンを撮像した時の前記校正平面と、の距離の差分を演算する差分演算工程と、前記演算装置が、前記差分演算工程にて演算された前記測定平面と前記校正平面の位置の差分に基づいて、前記演算を補正する補正工程と、前記演算装置が、前記補正工程によって補正された演算に基づき、前記カメラにより撮像された画像から前記ワークの二次元位置及び/又は姿勢を測定する二次元計測工程と、を備えたことを特徴とする。
本発明によると、外部パラメータ校正した校正平面とワークの測定平面との差分に基づいて撮像した前記測定平面の画像と、記憶した前記外部パラメータを用いてワークの二次元位置及び/又は姿勢を計測するための演算を補正する。そのため、上記測定平面と校正平面とにズレがあったとしても、上記演算の補正により精度良くワークの二次元計測をすることができる。
本発明の第1の実施の形態に係る画像計測装置を備えた自動組立装置を示す模式図。 図1の画像計測装置の制御部を示す模式図。 図1の画像計測装置による外部パラメータの校正を示すフローチャート図。 (a)外部パラメータを校正する際の画像計測装置を示す模式図、(b)校正基準器を示す模式図。 図1の画像計測装置による二次元画像計測を示すフローチャート図。 ワークを二次元計測する際の画像計測装置を示す模式図。 (a)校正基準器とワークとの初期変位を示す図、(b)ワークの測定平面と校正平面との位置の違いを示す図。 本発明の第2の実施の形態に係る画像計測装置を備えた自動組立装置を示す模式図。 図8の画像計測装置が外部パラメータを校正する際の状態を示す模式図。 ワークの測定平面と校正平面の位置姿勢の違いを示す図。 本発明の第3の実施の形態に係る画像計測装置を備えた自動組立装置を示す模式図。 本発明の第3の実施の形態に係る保持装置がワークを保持した状態を示す平面図。
[第1の実施の形態]
[画像計測装置の構成]
以下、本発明の第1の実施の形態に係る画像計測装置1について図面に沿って説明をする。図1に示すように生産ライン上にてワーク2を把持して製品を自動的に組み立てる自動組立装置7は、その先端にワーク2を保持する保持装置3を有するロボットアーム5を備えている。また自動組立装置7は、上記保持装置3により保持されたワーク2を撮像するカメラ(第1カメラ)6と、上記カメラ6及びロボットアーム5が接続された制御部10とを備えている。
上記保持装置3は、ワーク2を把持するチャックにより構成されており、具体的には、ワーク2を挟持するフィンガ(挟持部材)9と、このフィンガ9が取付けられる本体部11と、から構成されている。また、この本体部11には、ワーク2の把持位置を検出するためのレーザ測長器(検出装置)12が設けられている。そして、自動組立装置7は、これらカメラ6、制御部10及びレーザ測長器12によって画像計測装置1を構成している。
上記制御部10は、図2に示すように、演算装置102及び記憶装置103を有するコンピュータ本体に、上記ロボットアーム5、カメラ6及びレーザ測長器12が接続されて構成されている。また、コンピュータ本体には、作業者が入力作業を行うための入力装置106やティーチングペンダント13及び表示装置107なども接続されている。
上記記憶装置103には、カメラ6の外部パラメータ(以下、基準外部パラメータという)114及びこの基準外部パラメータを校正した校正平面の位置及び姿勢のデータ113が格納されている。また、その他にも、ロボットアーム5やカメラ6などの制御ドライバや、上記基準外部パラメータ114の補正及びワーク2の二次元計測をコンピュータに実行させる画像計測プログラム112などの各種プログラムが格納されている。
より詳しくは、コンピュータ本体は、CPU102aを主体として、画像処理装置102b、音声処理装置102cを有して上記演算装置102を構成している。このCPU102aには、上記画像処理装置102b、音声処理装置102cの他に、ROM103a及びRAM103bがバス111を介して接続されている。ROM103aには、コンピュータの基本制御に必要なプログラムが格納されていると共に、上述した画像計測プログラム112などの各種プログラムやデータが格納されている。RAM103bには、CPU102aに対する作業領域が確保される。画像処理装置102bはCPU102aからの描画指示に応じて表示装置107としての液晶ディスプレイを制御して、その画面上の所定の画像を表示させる。音声処理装置102cはCPU102aからの発音指示に応じた音声信号生成してスピーカ109に出力する。
CPU102aにはバス111に接続された入力インターフェース106cを介して、入力装置106としてのキーボード106a及びマウス106bが接続されており、ワーク2の組み立てに必要な指定情報、或いはその他の指示の入力を可能としている。
また、バス111には、ロボットアーム5、カメラ6が接続されていると共に、記録メディア読取装置115が接続されており、画像計測プログラム112などを記録した記録媒体110を読み込み、例えばROM103aに格納できるようになっている。なお、上述した記憶装置103は、主記憶装置であるROM103a及びRAM103bの他に、その他の外部記憶装置を備えて構成されている。
更に、バス111には、通信装置116が接続されており、上述したような記録媒体110を使用せずに、通信装置116を介してインターネット等から配信される画像計測プログラム112をダウンロード可能に構成されている。
また、本実施の形態では、制御部10をカメラ6が接続されたコンピュータによって構成しているが、カメラ6に内蔵された演算装置と、共同して制御部を構成しても良く、またカメラ6の演算装置のみでこの制御部を構成しても良い。
[二次元計測動作]
ついで、上述した画像計測装置1によるワークの2次元計測について図3〜図7に基づいて説明をする。画像計測装置1は、ワークの二次元計測を行う準備段階として、まず校正基準器15を用いて外部パラメータの校正を行い、上述した基準外部パラメータ114を求める。
具体的には、図3及び図4に示すように、画像計測装置1は、まず、ロボットアーム5の保持装置(以下、単にチャックという)3によって校正基準器15を把持(保持)する(図3のステップS1、ワーク保持工程)。この校正基準器15は、図4(a)に示すように、チャック3により把持するためのアタッチメント15aと、このアタッチメント上に載置された校正ボード15bとによって構成されている。そして、校正ボード15bの上面には、円形のマーカ16が3×3列になるように並んだ校正パターンが形成されており、画像形成装置1は、この校正パターンをカメラ6によって撮像する(S2、校正基準器撮像工程)。
撮像された校正パターンの画像は制御部10に通信され、この画像を用いて制御部10は外部パラメータを校正する(S5、外部パラメータ校正工程)。具体的には、制御部10は、まず撮像された画像から各マーカ16の画像座標系における座標[u,v]を求める。ここで、画像座標系におけるマーカ16の座標と、実空間上の座標系であるワールド座標系におけるマーカ16の座標との関係は、以下の式(1)のように表すことができる。
Figure 0006025386
A:内部パラメータ、[R,t]:外部パラメータ、
[Xr,Yr,Zr]:ワールド座標系におけるマーカ16の座標
また、上記校正パターンが存在する校正平面17をXY平面と定義すると、式(1)は、以下の式(2)のように表すことができる。
Figure 0006025386
校正パターンの各マーカ16の相対位置関係は既知であるため、1つのマーカ16を原点とすると、各マーカ16の[Xp,Yp,0]は既知となる。制御部10は、これらのマーカ16の式(2)を最小二乗法などの数学的解放を用いて解くことにより上記外部パラメータ[R,t]を校正する。そして、上記外部パラメータ[R,t]が校正されると、この校正された外部パラメータを基準外部パラメータ114として記憶装置103に記憶する(S4、外部パラメータ記憶工程)。
また、上記校正基準器15がチャック3によって把持されると、画像計測装置1は、上述した外部パラメータの校正と同時に、校正基準器15の把持位置の検出も行う。即ち、チャック3の本体部11の上面11Uに設けられたレーザ測長器12によって校正基準器15の底面までの距離Lpが計測される(S5、校正平面検出工程)。そして、制御部10は、この校正平面17に直交する方向の距離Lpを把持位置として記憶する(S6、把持位置記憶工程)。
言い換えると、制御部10は、上記距離Lpを外部パラメータを校正した校正平面17の位置として記憶しており、レーザ測長器12は、この校正平面17の位置を検出する検出装置となっている。
なお、上記外部パラメータを校正する前にカメラ6は内部パラメータを校正済みである。また、校正パターンは、一直線上に並ばない3つ以上のマーカを有していればどのような形態でもよく、マーカの形状は格子状であったり、円柱のような立体形状であったりしても良い。更に、校正基準器15の形状も立方体であったり、板状であったり、どのような形状でも良い。
上記カメラパラメータ(外部パラメータ及び内部パラメータ)の校正が終わると、画像計測装置1は、ワーク2の二次元計測が可能な状態となる。以下、実際のワーク2の二次元計測における画像計測装置1の動作について図5乃至7に基づいて説明をする。
図6に示すように、生産ライン上においてロボットアーム5のチャック3によってワーク2が把持されると(図5のS7、ワーク把持工程)、まず、レーザ測長器12によりワーク2の底面2Lまでの距離Lmが測長される(S8、ワーク把持位置検出工程)。
制御部10は、上記レーザ測長器12によって検出された距離Lmをワーク2の把持位置(保持位置)として記憶装置103に記憶する。即ち、上記レーザ測長器12は、チャック(保持装置)3により把持(保持)されたワーク2の測定平面20の位置を検出する検出装置となっており、制御部10は、この距離Lmをワーク2の把持位置つまりは、ワーク2の測定平面20の位置として記憶する。
また、ワーク2がチャック3によって把持されると、画像計測装置1は、内部及び外部パラメータが校正されたカメラ6によりワーク2を撮像する(S9、ワーク撮像工程)。そして、この撮像したワーク2の画像に制御部10により画像処理を施して、ワーク2の画像座標系における計測点の座標[u,v]を求める(S10、画像処理工程)。
ここで、ワーク2をチャック3が把持した際の把持位置のズレにより、上記ワーク2の計測点が存在する測定平面20と基準外部パラメータ114を校正した校正平面17とにはズレが生じている可能性がある。そのため、制御部10は、上記ワーク2の測定平面20と基準外部パラメータ114を校正した校正平面17との差分をレーザ測長器12の検出値から演算する(S11、差分演算工程)。
具体的には、図7(a)は、チャック3がワーク2を基準位置にて把持した場合と、基準外部パラメータ114を求める際にチャック3が校正基準器15を把持した場合とを比較した図である。この図7(a)から分かるように、ワーク2と校正基準器15とはその形状の違いから、校正平面17と測定平面20との間に第1初期変位Offset_1がある。また、レーザ測長器12によって測長されるワーク2及び校正基準器15の底面2L,15Lの間にも第2初期変位Offset_2がある。即ち、ワーク2が基準位置で把持された際のレーザ測長器の検出値Lm’と基準外部パラメータを校正した際のレーザ測長器の検出値Lpとの差分が上記第2初期変位Offset_2となっている。そのため、校正平面17と測定平面20との間の把持位置方向(Z軸方向)の位置の差分は、これらの初期変位Offset_1及びOffset_2を考慮して算出される。
即ち、図7(b)に示すように、ワーク2を把持した際にレーザ測長器12によって測長されたワーク2の底面2Lまでの距離をLmとすると、ワーク2の把持位置の変化による差分ΔLは、式(3)のように表される。
Figure 0006025386
そして、制御部10は、校正平面17と測定平面20との実際の差分を、Offset_1+ΔLとして演算する。
校正平面17と測定平面20との把持方向位置の差分が演算されると、制御部10は、上記差分演算工程にて演算された校正平面17と測定平面20との距離の差分に基づいて、基準外部パラメータ114を用いる演算(式(2))を下記の式(4)のように補正する(S12、外部パラメータ補正工程)。この場合、具体的には、ワーク2の測定平面20と校正平面17との差分が解消されるように、ワーク2の画像上の位置[u,v]と実際の位置との関係を示す式(4)の把持方向位置Zpの値を、差分Offset_1+ΔLとする。
Figure 0006025386
そして、制御部10は、上記式(4)の連立方程式を解くことにより、ワーク2の二次元位置を計測し(S13、二次元計測工程)、計測結果とする(S14)。即ち、制御部10は、上記補正された外部パラメータを使用してワーク2の二次元位置の計測を行なっている。
なお、上記説明では、ワーク2の1つの計測点(例えばワークの中心(重心))の二次元位置の計測について説明をしたが、ワーク2及び校正基準器15の少なくとも2点、好ましくは3点以上を計測すれば、ワーク2の姿勢についても計測することができる。
このように、上記画像計測装置1は、ワーク2の測定平面20の位置及び/又は姿勢を単数又は複数のレーザ測長器(測長センサ)12によって計測する。また、制御部10がカメラ6の基準外部パラメータ114及びこの基準外部パラメータ114を校正した校正平面17の位置又は姿勢を記憶している。そして、この制御部10が、上記測定平面20及び校正平面17の位置又は姿勢が一致するように基準外部パラメータ114を補正する。従って、ワークのXY軸方向位置を計測する二次元計測においても、ワーク2を把持する際の把持位置のズレに起因するZ軸方向を考慮して、ワークの二次元位置及び/又は姿勢を精度良く測定することができる。
また、測定平面20と校正平面17との相対的な差分さえ求まれば基準外部パラメータ114を補正することができるため、上記測定平面20及び校正平面17の三次元位置を求めずに少ない演算量で基準外部パラメータ114を補正することができる。このため、校正平面17に直交するワーク2の把持位置をレーザ測長器12で計測することで、ワーク2の把持位置にズレが生じる度に簡単かつ正確に外部パラメータを補正することができる。
なお、ワーク2の把持位置を計測する測長センサとしては、超音波センサなどの非接触測定器やダイヤルゲージなどの接触測定器あってもよい。また、本実施の形態では、レーザ測長器をチャック3に配設して構成したが、ワーク2の把持位置が計測できれば良く、例えば、チャック3と離れた場所に配設されてもよい。
[第2の実施の形態]
次いで本発明の第2の実施の形態に係る画像計測装置について説明をする。なお、第2の実施の形態はステレオカメラ31を用いて校正平面17及び測定平面20の位置及び/又は姿勢を計測する点で第1の実施の形態と相違しており、以下の説明において第1の実施の形態と同様の構成についてはその説明を省略する。
図8に示すように、画像計測装置1は、ワーク2を保持する保持装置として多指ロボットハンド(以下、単にロボットハンドという)33を有している。このロボットハンド33は、第1の実施の形態と同様にロボットアーム5の先端に取り付けられていると共に可動関節を備えた複数のフィンガ34を有している。そして、これら複数のフィンガ34によりワーク2を把持するように構成されている。
また、画像計測装置1は、ワーク2の位置姿勢を計測するためのカメラとして単眼カメラ(第1カメラ、以下単にカメラという)30を有しており、このカメラ30は演算装置35が一体に組み込まれたスマートカメラによって構成されている。該演算装置35は、撮像した画像を処理する画像処理装置となっており、この演算装置35と、カメラ30に対して撮像指令などを行う外部コンピュータ36とによって画像計測装置1の制御部10が構成されている。なお、この外部コンピュータ36は第1の実施の形態の制御部と同様の構成をしている。
更に、画像計測装置1は、ワーク2の測定平面20の位置及び/又は姿勢を検出する検出装置としてロボットハンド33に設けられたステレオカメラ(第2カメラ)31を有している。このステレオカメラ31は、左右のカメラ31a,31bの視差情報を用いて三次元計測を可能とするカメラであり、ワーク上の特徴点(所定点)を三次元計測する際に使用される画像を撮像する。
上記画像計測装置1は、このステレオカメラ31を用いてワーク上の特徴点を撮像することにより校正平面17及び測定平面20の位置及び/姿勢を検出する点において第1の実施の形態と相違している。以下、この相違点を中心に画像測定装置1によるワーク2の二次元計測について説明をする。
画像計測装置1は、制御部10にワーク2の任意の特徴点2aの設計時の寸法情報を記憶しており、このワーク自体を校正基準器として使用してカメラ30の外部パラメータの校正を行う。
具体的には、図9に示すように、基準となるワーク2がロボットハンド33によって把持されると、カメラ30によって撮像し、このワーク2の特徴点2aを校正基準器のマーカとして使用して、第1の実施の形態と同様の方法で外部パラメータを校正する。
また、この時同時に画像計測装置1は、ステレオカメラ31によって、ワーク2の特徴点2aを撮像する。制御部10は、撮像されたステレオ画像から各特徴点2aの位置についてステレオ法を用いて三次元計測を行う。そして、これら複数の特徴点2aの三次元位置から制御部10は校正平面17の位置姿勢Hpを演算し、記憶する。
ついで、ワーク2の位置姿勢の二次元計測について説明をする。ロボットハンド33によってワーク2が把持されると、カメラ30及びステレオカメラ31によって特徴点2aが存在するワーク2の測定平面20が撮像される。
上記ステレオカメラ31によって特徴点2aが撮像されると、制御部10は基準外部パラメータ114の校正時と同様に、特徴点2aの三次元位置を計測し、これら特徴点2aの三次元位置からワーク2の測定平面20の位置姿勢Hmを演算する。
図10は、上記基準外部パラメータ114の校正時とワーク2の二次元計測時とを比較した図である。この図10から分かるように、校正平面17の位置姿勢Hpと測定平面20の位置姿勢Hmとの間には、ズレが生じている。制御部10は、これら校正平面17と測定平面20との位置及び姿勢Hp,Hmを求めると、校正平面17と測定平面20との差分ΔHを以下の式(5)のように演算する。
Figure 0006025386
そして、上記差分ΔHが求まると、制御部10は、この差分ΔHが無くなるように、即ち校正平面17と測定平面20とが一致するように、基準外部パラメータ114を補正する。なお、この補正された外部パラメータを[R’,t’]と記載する。
また、制御部10は、上記外部パラメータの補正と同時に、カメラ30によって撮像された画像からワーク2の画像上の特徴点2aの座標[u,v]を演算している。そして、制御部10は、この画像座標系の座標とワールド座標系の座標との対応付けを行う式(1)に上記補正後の外部パラメータ[R’,t’]を適用した式(6)の連立法定式を解くことによって、ワーク2の特徴点2aの二次元位置[Xp,Yp]を求める。また、同様な作業を各特徴点2aに対して行うことによってワーク2の姿勢を求めることができる。
Figure 0006025386
このように、基準外部パラメータを校正した際の校正平面17とワーク2の測定平面20とを一致させるように上記基準外部パラメータを補正することにより、ワーク2の把持位置にズレが生じても、正確にワーク2の二次元位置姿勢を計測することができる。
また、ワーク2の把持位置検知を、ワーク2の位置姿勢の測定と同様に画像測定の手法を用いたため、ワークの位置・姿勢の計測を行う点と、把持位置の検知を行う点を一致させることができる。これにより、誤差要因を少なくすることができる。
なお、本実施の形態では、ワーク自体を校正基準器として使用したが、このワークと同じ形状を高精度に制作した原器を用いても良い。また、第2カメラは必ずしもステレオカメラである必要はなく、1つのカメラでも良い。この場合、モーションステレオ法、三次元CADマッチング、透視歪み計算、光切断法や空間コード化法などの方法が校正平面17及び測定平面20の検出に用いられる。
[第3の実施の形態]
次いで本発明の第3の実施の形態について説明をする。なお、第3の施形態は、接触センサを用いて校正平面17及び測定平面20の位置及び/又は姿勢を計測する点で第1又は第2の実施の形態と相違しており、以下の説明において第1又は第2の実施の形態と同様の構成についてはその説明を省略する。
図11に示すように、画像計測装置1は、ワークの測定平面の位置及び/又は姿勢を検出する検出装置として、チャック(保持装置)3のフィンガ9の先端部に面圧分布センサ40を設けている。この面圧分布センサ40は、掛かった力を検出するセンサが面上に複数個配置された力覚センサであり、ワーク2と接触する面がテーパー状に傾斜して形成されている。
より詳しくは、面圧分布センサ40は、図12に示すように、3本あるフィンガ9それぞれの先端部に設けられており、面圧分布センサの力検知分布の重心を算出することにより、ワーク2とフィンガ9(保持装置)との接触点を検出可能な接触センサとなっている。また、3点の接触点の位置を求めることによって、平面の位置及び姿勢を検出することができるようになっている。なお、フィンガ9が2本の場合は把持位置姿勢の補正は二次元となり、4本以上の場合は最小二乗法などを用いて複数の検出点に最も近い平面を算出し、この平面により三次元検知を行うことが可能となる。
このため、画像計測装置1は、外部パラメータの校正時には、校正基準器をチャック3が把持した際の上記フィンガ9の接触点の位置求めることによって、校正平面17の位置姿勢Hpを求めることができる。また、ワーク2の二次元計測時も同様に、ワーク2をチャック3が把持した際のフィンガ9の接触点の位置を求めることによって、測定平面20の位置姿勢Hmを求めることができる。
そして、基準位置にてワーク2を把持した際の測定平面20の位置姿勢Hm’と校正平面17の位置姿勢Hpとの初期変位をHoffsetとすると、制御部10は、校正平面17と測定平面20との差分ΔHを以下の式(7)のように演算することができる。
Figure 0006025386
このため、画像計測装置1は、第2の実施の形態と同様の方法により、校正平面17と測定平面20との差分ΔHを用いて基準外部パラメータを補正して、精度よくワークの二次元位置姿勢を計測することができる。
また、ワークを把持する部位に設けた力検出センサを用いて把持位置の検出を行うため、ワーク2を把持するワーク把持工程において、ワークの有無検知が可能となる。そのため、ワークを何かしらの原因で把持出来なかった場合に、ワーク把持位置検出工程に入る前に把持エラーを検出することができ、ワークの把持のリトライを行う時間を短縮することができる。また、ワークの有無をご認識することを防止することができる。
なお、上記第1乃至第3の実施の形態において、ワーク2を保持する保持装置として、チャック、ロボットハンドを用いたが、ワークを保持する事が出来れば必ずしもこれに限る必要はなく、例えば、吸引してワークを保持する吸引保持装置のような物でも良い。
また、上記保持装置は、必ずしもロボットハンドの先端に取り付けられている必要はなく、例えば、レール上に配置された駆動装置上に配置されても良い。更に、上記第1乃至第3の実施の形態に記載された発明は、どのように組み合わされても良いことは当然である。
1:画像計測装置、6,30:カメラ(第1カメラ)、3,33:チャック,ロボットハンド(保持装置)、10:制御部、12,31,40:レーザ測長器,ステレオカメラ,面圧分布センサ(検出装置)

Claims (3)

  1. カメラにより、校正平面に既知の校正パターンを備えた校正基準器を撮像し、撮像した校正パターンの画像に基づき、前記カメラにより前記校正パターンを撮像した時の外部パラメータを校正し、校正された外部パラメータを記憶して、前記カメラで保持装置により保持されたワークの測定平面を撮像し、撮像した前記測定平面の画像と、記憶した前記外部パラメータを用いた演算に基づき、ワークの二次元位置及び/又は姿勢を計測する画像計測装置において、
    前記カメラにより、前記保持装置によって保持された前記ワークを撮像するに際し、前記校正平面に直交する前記ワークの保持位置を検出する測長センサを介して前記測定平面と、前記校正パターンを撮像した時の前記校正平面と、の距離の差分を検出する検出装置と、
    前記検出装置が検出した前記差分に基づいて前記演算を補正し、補正された演算に基づき記カメラにより撮像された画像から前記ワークの二次元位置及び/又は姿勢を測定する制御部と、を備えた、
    ことを特徴とする画像計測装置。
  2. カメラにより、校正平面に既知の校正パターンを備えた校正基準器を撮像し、演算装置が、撮像した校正パターンの画像に基づき、前記カメラにより前記校正パターンを撮像した時の外部パラメータを校正する外部パラメータ校正工程と、
    前記カメラで保持装置により保持されたワークの測定平面を撮像する撮像工程と、
    前記演算装置が、撮像した前記測定平面の画像と、記憶した前記外部パラメータを用いた演算に基づき、ワークの二次元位置及び/又は姿勢を計測する画像処理工程と、
    を備えた画像測定方法において、
    前記演算装置が、前記校正平面に直交する前記ワークの保持位置を検出する測長センサを介して前記撮像工程において撮像した前記ワークの前記測定平面と、前記外部パラメータ校正工程において前記校正パターンを撮像した時の前記校正平面と、の距離の差分を演算する差分演算工程と、
    前記演算装置が、前記差分演算工程にて演算された前記測定平面と前記校正平面の位置の差分に基づいて、前記演算を補正する補正工程と、
    前記演算装置が、前記補正工程によって補正された演算に基づき、前記カメラにより撮像された画像から前記ワークの二次元位置及び/又は姿勢を測定する二次元計測工程と、を備えた、
    ことを特徴とする画像計測方法。
  3. 前記請求項記載の画像計測方法の各工程を、コンピュータに実行させる画像計測プログラム。
JP2012105101A 2012-05-02 2012-05-02 画像計測装置、画像計測方法及び画像計測プログラム Expired - Fee Related JP6025386B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012105101A JP6025386B2 (ja) 2012-05-02 2012-05-02 画像計測装置、画像計測方法及び画像計測プログラム
US13/868,243 US9303988B2 (en) 2012-05-02 2013-04-23 Image measurement apparatus, image measurement method and image measurement program
CN201310157440.3A CN103383238B (zh) 2012-05-02 2013-05-02 图像测量设备、图像测量方法和图像测量程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012105101A JP6025386B2 (ja) 2012-05-02 2012-05-02 画像計測装置、画像計測方法及び画像計測プログラム

Publications (2)

Publication Number Publication Date
JP2013231702A JP2013231702A (ja) 2013-11-14
JP6025386B2 true JP6025386B2 (ja) 2016-11-16

Family

ID=49491095

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012105101A Expired - Fee Related JP6025386B2 (ja) 2012-05-02 2012-05-02 画像計測装置、画像計測方法及び画像計測プログラム

Country Status (3)

Country Link
US (1) US9303988B2 (ja)
JP (1) JP6025386B2 (ja)
CN (1) CN103383238B (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5616478B1 (ja) * 2013-04-18 2014-10-29 ファナック株式会社 ワークを搬送するロボットを備えるロボットシステム
JP2015174191A (ja) * 2014-03-17 2015-10-05 株式会社安川電機 ロボットシステム、ロボットシステムのキャリブレーション方法およびロボットシステムの位置補正方法
DE102014012286B4 (de) * 2014-08-22 2016-07-21 Cl Schutzrechtsverwaltungs Gmbh Vorrichtung und Verfahren zum Herstellen von dreidimensionalen Objekten
JP6602867B2 (ja) * 2014-12-22 2019-11-06 サイバーオプティクス コーポレーション 三次元計測システムの校正を更新する方法
WO2017033352A1 (ja) * 2015-08-25 2017-03-02 川崎重工業株式会社 産業用遠隔操作ロボットシステム
US9815204B2 (en) * 2016-01-22 2017-11-14 The Boeing Company Apparatus and method to optically locate workpiece for robotic operations
WO2018009981A1 (en) 2016-07-15 2018-01-18 Fastbrick Ip Pty Ltd Brick/block laying machine incorporated in a vehicle
BR112019000722B1 (pt) 2016-07-15 2023-03-28 Fastbrick Ip Pty Ltd Lança extensível telescópica para transportar item e lança dobrável
JP6381144B2 (ja) * 2016-10-06 2018-08-29 ソリッドビジョン株式会社 撮像処理装置
JP6852450B2 (ja) * 2017-02-17 2021-03-31 セイコーエプソン株式会社 表示方法およびロボットシステム
JP2018205212A (ja) * 2017-06-07 2018-12-27 株式会社リコー 撮影装置、ステレオカメラシステム、計測装置、及び計測システム
CN111095355B (zh) 2017-07-05 2023-10-20 快砖知识产权私人有限公司 实时定位和定向跟踪器
CN111213098B (zh) 2017-08-17 2024-03-15 快砖知识产权私人有限公司 用于交互系统的通信系统
CN111226090B (zh) 2017-08-17 2023-05-23 快砖知识产权私人有限公司 具有改进的横滚角测量的激光跟踪器
ES2971624T3 (es) 2017-10-11 2024-06-06 Fastbrick Ip Pty Ltd Máquina para transportar objetos
CN108240793A (zh) * 2018-01-26 2018-07-03 广东美的智能机器人有限公司 物体尺寸测量方法、装置和系统
JP6703018B2 (ja) * 2018-02-01 2020-06-03 ファナック株式会社 作業ロボットシステム
CN108535444B (zh) * 2018-07-06 2023-09-29 国网浙江省电力有限公司营销服务中心 一种快速无损自动检测电能计量箱金属元素的系统
CN109872367B (zh) * 2019-03-18 2022-12-27 安徽速达数控设备有限责任公司 带有ccd相机雕刻机的校正方法及校正系统
CN111951248B (zh) * 2020-08-12 2023-11-28 上海仁度生物科技股份有限公司 一种用于自动化核酸提取设备的定位校准装置及方法
CN112834322B (zh) * 2021-01-07 2024-02-02 深圳大学 试件变形的测量方法、终端、装置、试验系统和存储介质

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4579380A (en) * 1983-12-06 1986-04-01 Carnegie-Mellon University Servo robot gripper
JP3442140B2 (ja) * 1994-04-20 2003-09-02 ファナック株式会社 3次元視覚センサを用いた位置計測装置及び位置ずれ補正装置
JP3532644B2 (ja) * 1995-02-03 2004-05-31 株式会社モリテックス 測距測長装置
JP3893191B2 (ja) * 1997-06-16 2007-03-14 松下電器産業株式会社 計測用撮像装置の校正値測定方法
JP3634275B2 (ja) 2001-03-05 2005-03-30 株式会社ミツトヨ 位置測定装置
JP2003050107A (ja) 2001-08-07 2003-02-21 Matsushita Electric Ind Co Ltd カメラ校正装置
JP3946716B2 (ja) 2004-07-28 2007-07-18 ファナック株式会社 ロボットシステムにおける3次元視覚センサの再校正方法及び装置
JP4267005B2 (ja) 2006-07-03 2009-05-27 ファナック株式会社 計測装置及びキャリブレーション方法
JP5830546B2 (ja) * 2011-02-25 2015-12-09 フラウンホッファー−ゲゼルシャフト ツァ フェルダールング デァ アンゲヴァンテン フォアシュンク エー.ファオ 対象物のモデル変換に基づくモデルパラメータの決定
JP5875272B2 (ja) 2011-07-22 2016-03-02 キヤノン株式会社 3次元計測方法

Also Published As

Publication number Publication date
JP2013231702A (ja) 2013-11-14
CN103383238A (zh) 2013-11-06
CN103383238B (zh) 2016-06-01
US9303988B2 (en) 2016-04-05
US20130293701A1 (en) 2013-11-07

Similar Documents

Publication Publication Date Title
JP6025386B2 (ja) 画像計測装置、画像計測方法及び画像計測プログラム
JP6280525B2 (ja) カメラのミスキャリブレーションの実行時決定のためのシステムと方法
JP4021413B2 (ja) 計測装置
US9996931B2 (en) Method for calibrating camera measurement system
CN107883831B (zh) 测量系统和测量方法
JP6180087B2 (ja) 情報処理装置及び情報処理方法
US9529945B2 (en) Robot simulation system which simulates takeout process of workpieces
JP3946711B2 (ja) ロボットシステム
JP5815761B2 (ja) 視覚センサのデータ作成システム及び検出シミュレーションシステム
JP4763074B2 (ja) ロボットのツール先端点の位置の計測装置および計測方法
JP6324025B2 (ja) 情報処理装置、情報処理方法
JP2009053147A (ja) 3次元計測方法および3次元計測装置
US11230011B2 (en) Robot system calibration
JP2020080105A (ja) カメラ校正装置及びカメラ校正方法
JP5477658B2 (ja) キャリブレーション用校正治具、校正治具を備えた3次元計測システム
JP6885856B2 (ja) ロボットシステムおよびキャリブレーション方法
JP7180783B2 (ja) コンピュータビジョンシステムのキャリブレーション方法及びこれに用いる基準立体物
JP5858773B2 (ja) 3次元計測方法、3次元計測プログラム及びロボット装置
JP7427370B2 (ja) 撮像装置、画像処理装置、画像処理方法、撮像装置の校正方法、ロボット装置、ロボット装置を用いた物品の製造方法、制御プログラムおよび記録媒体
WO2022124232A1 (ja) 画像処理システム及び画像処理方法
JP6565367B2 (ja) 位置補正システム
KR101626374B1 (ko) 모서리 기반 코너 추정을 이용한 정밀 위치 보정 방법
JP2012013593A (ja) 3次元形状測定機の校正方法及び3次元形状測定機
JP7389237B2 (ja) 座標系設定システム及び位置姿勢計測システム
WO2023013699A1 (ja) ロボット制御装置、ロボット制御システム、及びロボット制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150318

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20160208

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160418

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161011

R151 Written notification of patent or utility model registration

Ref document number: 6025386

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees