JP4006296B2 - Displacement measuring method and displacement measuring apparatus by photogrammetry - Google Patents
Displacement measuring method and displacement measuring apparatus by photogrammetry Download PDFInfo
- Publication number
- JP4006296B2 JP4006296B2 JP2002240621A JP2002240621A JP4006296B2 JP 4006296 B2 JP4006296 B2 JP 4006296B2 JP 2002240621 A JP2002240621 A JP 2002240621A JP 2002240621 A JP2002240621 A JP 2002240621A JP 4006296 B2 JP4006296 B2 JP 4006296B2
- Authority
- JP
- Japan
- Prior art keywords
- displacement
- photographic
- photographic image
- image
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Length Measuring Devices By Optical Means (AREA)
- Image Processing (AREA)
Description
【0001】
【発明の属する技術分野】
本発明は、計測対象をその変位の前後にわたって撮影した写真を用いた変位の有無の確認方法及び写真測量による計測対象の変位計測方法及び変位計測装置に関する。
【0002】
【従来の技術】
計測対象を異なる撮影位置から撮影した複数の写真画像を用いて計測対象物の立体形状を演算する写真測量の技術が従来から広く用いられている。写真測量の技術は、計測対象物上の計測基準点が撮影位置が異なる複数の写真の双方に写るように写真撮影し、三角測量を基本原理として、撮影位置の位置関係の算出及び、当該撮影位置を基準とする計測基準点の三次元座標の算出を行うものである。
【0003】
そして、写真測量は、計測対象が経時的に変位するようなものである場合は、当該計測対象の変位前後にわたってそれぞれ写真測量を行い、計測基準点が変位の前後にわたってどのように移動したかを計測する変位計測に用いられている。
【0004】
写真測量による変位計測について開示したものとして、特開平11−201752号公報などが挙げられる。本公報に記載の変位計測方法の基本的な流れについて図9に示す。この変位計測方法は、計測対象の変位の前後のそれぞれにおいて、複数の位置から計測対象を撮影し、変位の前後における写真画像上の基準計測点の座標に基づいて、任意の変位計測点の三次元座標をそれぞれ算出して、変位を求めることを特徴とする。すなわち、図9に示すように、変位前と変位後において、それぞれ計測対象を撮影し(#1a,#1b)、変位前後のそれぞれの写真に基準計測点を認定(#2a,2b)する。次に、当該基準計測点に基づいて写真撮影位置の座標、撮影方向などの撮影位置関係の算出を行い(#3a,#3b)、変位の前後についてそれぞれ算出された撮影位置関係に基づいてそれぞれ基準計測点の座標演算を行う(#4a,#4b)。そして、変位の前後それぞれにおいて独立して演算された変位前後の基準観測点の三次元座標を比較し(#5)、差分を求めることで当該基準計測点の変位量を算出する。
【0005】
しかし、変位前と変位後の観測点の三次元座標を個別に演算すると、変位前、変位後の撮影位置の計算(#3a,#3b)をそれぞれ独立して行う必要があり、それぞれに誤差を生じる。そして、当該撮影位置の誤差は、観測点の三次元座標の演算においても誤差を生じさせ、結果として、変位量の算出の精度を劣化させるという問題を生じていた。このように撮影位置の計算を個別に行わないように変位前に撮影した撮影地点に杭などの印を付し、変位前後における計測対象の撮影位置を近づけるための工夫がなされているが、撮影位置(すなわち、カメラの焦点位置)やカメラの撮影角度をまったく同じにすることは困難であり、また、カメラの煽り方向などのパラメータなどを考慮すると、カメラの撮影画角を変位前後にわたって完全に一致させることは、きわめて困難である。
【0006】
【発明が解決しようとする課題】
したがって、本発明が解決しようとする技術的課題は、変位前と変位後の観測点の三次元座標を独立して演算することによる誤差を少なくし、変位量の演算結果の精度を向上させる写真測量による変位計測方法及び変位計測装置を提供することである。
【0007】
【課題を解決するための手段及びその作用・効果】
本発明は、上記技術的課題を解決するために、以下の変位の有無を確認する方法を提供する。
【0011】
写真測量による変位計測方法は、計測対象を、その変位前に異なる複数の撮影位置から撮影した複数の写真画像と、当該計測対象の変位後に変位前と略同じ撮影位置から撮影した複数の写真画像とからなる変位前後の写真画像を用い、変位の前後の写真画像それぞれにおける任意の観測点の三次元座標を算出することによって、当該計測対象の変位量を求める方法である。そして、前記変位前後の写真画像は、計測対象の変位の前後にわたって変位しない複数の固定点を含むように撮影し、変位前後のいずれか一方の複数の写真画像に共通して写っている基準点に基づいて、当該写真画像の撮影位置関係を演算し、前記固定点に基づいて変位前後の写真画像を射影変換して撮影位置関係を演算しない写真画像を撮影位置関係を演算した写真画像に投影した投影写真画像を作成し、前記演算された撮影位置関係における前記投影写真画像に投影された変位前後の観測点の座標をそれぞれ算出する各ステップを備える。
【0012】
上記方法において、写真測量による変位計測方法は、計測対象の変位の前後それぞれに複数の位置から写真撮影を行い、当該変位前後それぞれの計測対象の同じ点に設けられた観測点の三次元座標を算出し、当該観測点の移動を比較差分することによって変位量を算出する。変位前後の写真は、できるだけ同じ撮影位置になるように撮影し、変位の前後にわたって変位しない固定点が写るようにすることが必要である。
【0013】
当該変位の前後の写真画像のうちいずれか一方のみについて撮影位置関係を演算する。撮影位置関係は、1つの撮影位置(カメラ)を基準として他の撮影位置(カメラ)がどこに位置するかを表す座標及び他のカメラがどの方向を向いているかを示す角度のことをいう。撮影位置関係は、複数の位置から取られた写真画像を用いて、それぞれの写真画像に写っている同じ点(基準点)を用いて導かれる。
【0014】
変位前後の同じ撮影位置からの2枚の写真画像は、計測対象の変位前後において移動しない固定点を用いて射影変換することができる。射影変換を行うことによって、撮影方向が多少異なっていても、所定の演算式を用いて変位前後の写真画像の固定点が重なり合うようにして2枚の写真画像を重ね合わせることができる。このように2枚の写真画像を重ね合わせることで、一方の観測点も他方の写真画像上に重なって表示される。すなわち、2枚の写真画像が重ね合わさった投影写真画像には、変位前後の観測点の位置が示されることになる。そして、当該変位前後のそれぞれの観測点の座標については、重ね合わせを行った撮影位置関係を演算した写真画像の撮影位置関係を用いて三次元座標を演算することができる。
【0015】
なお、上記方法において、射影変換を行い一方の写真画像を他方の写真画像に投影するステップと、射影変換の変換先の写真画像の撮影位置関係を演算するするステップはどちらが先に行われてもよい。
【0016】
上記方法によれば、撮影位置関係を演算した写真画像の撮影位置関係を用いて、変位前後の観測点の三次元座標を演算することができる。したがって、変位前後における撮影位置関係の演算をそれぞれ独立して行う必要がなく、それぞれの撮影位置関係についての演算における誤差を少なくすることができる。したがって、算出される観測点の三次元座標の演算誤差を少なくし、結果としてその差分で示される変位量の精度を向上させることができる。
【0017】
本発明の写真測量による変位計測方法は、具体的には以下のように種々の態様とすることができる。
【0018】
好ましくは、投影写真画像は、前記固定点に基づいて変位前後の写真画像の固定点及び観測点について射影変換し、撮影位置関係を演算しない写真画像の観測点のみを撮影位置関係を演算した写真画像に投影して作成される。
【0019】
上記方法において、変位前後の写真画像を射影変換して作成された投影写真画像は、射影変換のために用いられる固定点と変位の様子を示す観測点のみが演算されれば写真測量により変位計測ができる。すなわち、射影変換する点を、固定点及び観測点に限定することにより、演算量を少なくし、処理速度を速めることができる。
【0020】
好ましくは、前記固定点は、一方の写真画像の撮影位置関係を演算するための基準点としても用いられる。
【0021】
上記方法において、写真画像の撮影位置関係を演算するためには、計測対象を異なる撮影位置から撮影した複数の写真画像が必要となる。そして当該複数の写真画像には、計測対象の同じ点について印を複数箇所に付しておき、これらの印を用いて、複数の写真画像から三角測量の原理により撮影位置関係が導かれる。上記のように、固定点は、計測対象の変位の前後において変位しなかった点であり、複数位置からの写真画像の双方に写っているため、撮影位置関係を算出するために用いることができる。
【0022】
また、本発明は、以下の構成の変位計測装置を提供する。
【0023】
変位計測装置は、計測対象を、その変位前に異なる複数の撮影位置から撮影した複数の写真画像及び当該計測対象の変位後に変位前と略同じ撮影位置から撮影した複数の写真画像であって、それぞれの写真画像には計測対象の変位の前後にわたって変位しない複数の固定点が含まれている写真画像のデータを入力する画像入力手段と、変位前後のいずれか一方の写真画像について、当該写真の前記観測点に基づいて、当該写真画像の撮影位置関係を演算する位置関係演算手段と、前記固定点に基づいて変位前後の写真画像を射影変換して撮影位置関係を演算しない写真画像を撮影位置関係を演算した写真画像に投影した投影写真画像を作成する投影画像作成手段と、前記演算された撮影位置関係における前記投影写真画像に投影された変位前後の観測点の座標をそれぞれ算出する観測点演算手段とを備える。
【0024】
上記構成によれば、画像入力手段から入力された変位前後の写真画像データを用いて、いずれか一方のみ撮影位置関係を演算した写真画像の撮影位置関係を演算し、この撮影位置関係を用いて、変位前後の観測点の三次元座標を演算することができる。したがって、変位前後における撮影位置関係の演算をそれぞれ独立して行う必要がなく、それぞれの撮影位置関係についての演算における誤差を少なくすることができる。したがって、算出される観測点の三次元座標の演算誤差を少なくし、結果としてその差分で示される変位量の精度を向上させることができる。
【0025】
【発明の実施の形態】
以下、本発明の一実施形態に係る変位計測装置について、図面を参照しながら説明する。
【0026】
本装置は、写真画像を入力し、解析演算するためのコンピュータで構成される。写真画像はデジタルカメラによって撮影されたものが好ましい。デジタルカメラとしては、内部標定がなされている写真計測用のものでもよいし、内部標定がなされていない汎用のデジタルカメラであってもよい。コンピュータは汎用のものを用いることができ、後述するような処理を行うようにコンピュータを駆動させるソフトウェアをインストールして使用する。
【0027】
本実施形態にかかる変位計測装置を用いた計測対象の計測方法の処理について説明する。図1は、本実施形態にかかる変位計測装置を用いた計測対象の計測方法の概略を示す図である。計測方法においては、計測対象を変位の前後にそれぞれ同じ撮影位置から撮影する。(#10a,10b)次に、これらの画像をコンピュータに取り込み、変位前後のそれぞれの写真について基準計測点を認定(#11a,11b)する。以下、これらの写真画像上において、基準点、固定点、観測点などの認定は、コンピュータの画面上においてマウスなどの入力装置を用いて行われ、これらの点を用いる写真画像の解析、演算はコンピュータを用いておこなわれる。
【0028】
次に、変位前の写真画像を用いて、撮影前における撮影位置関係を演算する(#12a)。撮影位置関係は、後述するように、異なる位置から撮影した複数の写真画像に共通して写っている計測対象の同じ点である基準点を8箇所認定することにより算出することができる。当該撮影位置関係を演算することによって、複数の撮影位置のいずれか1つを基準とした場合の他の撮影位置(すなわち、カメラの位置)及びカメラの撮影方向を導くことができる。
【0029】
変位前の写真画像について撮影位置関係が算出されると、変位後の写真画像を変位前の写真画像に重ね合わせる射影変換を行う(#13)。射影変換の前提として、重ね合わせる写真画像がほぼ同じ位置から撮影されていることが必要である。すなわち、変位前の写真画像と変位後の写真画像がほぼ同一位置で撮影されていれば、それぞれを射影変換により重ね合わせることによって、変位後の写真に写っている任意の点を変位前の写真の対応する位置に投影することができる。射影変換の具体的処理については後述する。
【0030】
変位後の任意の点を変位前の写真画像上に投影した写真画像(以下、投影写真画像と略記する。)には、変位後の写真画像の中で変位している点があれば、変位前の写真画像と重ねたとき当該点の投影写真画像中での位置は、ずれることになる。投影写真画像に表示された計測対象に関して同じ点であって、変位計測の演算の対象となる点(観測点と略記する。)は、変位前後の双方とも投影写真画像中に表示されているため、それぞれ異なる位置から撮影した複数の投影写真画像を用いることによって、#12aにおいて算出した撮影位置関係に関する情報を用いて、三角測量の原理により、当該計測対象中の観測点の三次元座標を算出する(#14)。変位前後の観測点の三次元座標が算出されると、当該観測点を比較(#15)することにより、変位前後に観測点が移動した変位量について導くことができる。
【0031】
上記方法によれば、変位前の写真画像についてのみ撮影位置関係を算出するだけで、変位前後における観測点の三次元座標を演算することができる。したがって、変位前後における撮影位置関係の演算をそれぞれ独立して行う必要がなく、それぞれの撮影位置関係についての演算における誤差を少なくすることができ、結果として算出される観測点の三次元座標の誤差を少なくし、結果としてその差分で示される変位量の精度を向上させることができる。
【0032】
次に本変位計測方法の具体的な流れについて詳細に説明する。まず、図2に示すように、複数の撮影位置A,Bからデジタルカメラを用いて、計測対象10を含む計測目標地域の写真を撮影する。当該写真には、計測対象10の変位後もその位置を変化させない固定点1乃至5が写るようにすることが必要である。固定点は、すくなくとも4点あることが必要であり、それ以上であってもよい。また、計測対象10の変位に伴ってその位置を変化する観測点15についても写真画像に写るようにしておくことが必要となる。
【0033】
また、変位前の写真画像には、撮影位置A,Bからの写真のそれぞれに共通する計測対象の同じ点である基準点(図示なし)を8個所以上用意しておくことが必要である。基準点は、上述のように、変位前の写真画像を用いて撮影位置A,Bの撮影位置関係を算出する(#12a)ために用いられる。
【0034】
計測対象が変位した後に、再度複数の撮影位置A,Bからデジタルカメラを用いて、変位前と同様に撮影する。変位後の撮影における撮影位置A,Bはできるだけ近づくようにすることが望ましく、杭などの印を撮影地点に設けることが好ましい。
【0035】
次に、上述したように、変位前に撮影した写真画像に基づいて撮影位置関係を算出する。本実施形態では、撮影位置関係として、撮影位置Aのカメラ(以下、カメラAと略記する。)を基準とする座標系から見て、他のカメラ、すなわち、撮影位置Bのカメラ(以下、カメラBと略記する。)がどこに位置するかを表す座標及びカメラBがどの方向を向いているかを示す角度を用いる。撮影位置Aを基準とする座標系としては、カメラAの光軸方向をY軸とする。
【0036】
図3に本変位計測において用いられる変位前後の光学関係を示す。図3では、説明の便宜のために、計測対象10のみ表示している。図3(a)に示す変位前においては、撮影位置A,Bにそれぞれ位置するカメラA,カメラBは、計測対象10がそれぞれ撮影される写真画像21,31に写るように配置される。ここで、計測対象10のあるポイント11を基準点として認定すると、当該ポイント11は、カメラAの写真画像21には、ポイントaに写り、カメラBの写真画像31には、ポイントbとして写る。当該ポイントa,bを基準として、三角測量の原理によりカメラA、カメラBの撮影位置23,33及び撮影方向20,30等の撮影位置関係12をそれぞれ算出する。なお,基準点は、上述のように、カメラの撮影位置関係を算出するために用いられるものであり、カメラA,カメラBに共通して写っていればよく、後述する固定点や観測点と共通して用いられていてもよい。
【0037】
図3(b)に示すように、計測対象10が矢印100で示すように変位した後においても、撮影位置A,Bにそれぞれ位置するカメラA,カメラBは、計測対象10がそれぞれ撮影される写真画像41,51に写るように配置される。カメラA,カメラBの撮影位置43,53は、変位前の撮影位置23,33とできるだけ近づくように配置される。本実施形態においては、撮影位置関係の算出を変位前の写真画像21,31で行うため、実際の変位測定において変位後の写真画像41,42には、基準点を必要としない。ただし、計測対象10の変位を測定するための観測点は、基準点と共通してもよいため,当該ポイント11は、写真画像41,51では観測点として用いられる。
【0038】
図4に変位後のカメラAで撮影された写真画像の例を示す。当該写真画像には写真画像41上に投影された計測対象10c、固定点1c〜5cなどが示されている。5つの固定点1c〜5cは、写真画像41上中央を原点とする座標を用いてその位置が特定されており、例えば、固定点1cの座標は、(x1,y1)のように2次元的にあらわされる。
【0039】
次に変位前後の写真の射影変換について説明する。図5は、ある任意のカメラにより撮影された2つの写真画像について射影変換する場合を説明する図である。射影変換においては、固定点の座標及び観測点座標を用いて、当該点のみを他方の写真画像上に投影する。具体的には、まず、式1に示す変換式に、写真画像21の固定点1a〜5a及び写真画像41の固定点1c〜5cの中から少なくとも4組の座標値を代入し、9つの定数A,B,C,D,E,F,a,b,cを求める。
【0040】
【数1】
式(1)において、xは変位前写真画像21の固定点のx座標、yは変位前写真画像21の固定点のy座標、x’は変位後写真画像41の固定点のx座標、y’は変位後写真画像41の固定点のy座標、A,B,C,D,E,F,a,b,cはそれぞれ定数である。
【0041】
9つの定数の値が求まると、射影変換したい変位後の観測点のx、y座標を当該式(1)に代入し、変位前の写真画像41に投影した場合の座標を算出する。
【0042】
図6に射影変換される2枚の写真画像の例を示す。図7に図6の2枚の写真画像から作成される投影写真画像の例を示す。図6ではカメラAにより撮影された変位後の写真画像41を変位前の写真画像21に射影変換する場合について説明する。変位後の写真画像41の各固定点1c〜5cの写真画像41上でのx,y座標値、及び変位前の写真画像21の各固定点1a〜5aの写真画像21上でのx,y座標値をそれぞれ用いて、変位により矢印101のように移動した観測点15cの変位前の写真画像21上でのxy座標値を算出し、投影する。
【0043】
図7に図6の2枚の写真画像から作成される投影写真画像の例を示す。図7に示す投影写真画像60では、固定点1〜5は射影変換前の2枚の写真で同一点上に重なる。一方、観測点15cは変位後の画像中で動いているため、変位前の画像と重ねたとき、その位置がずれることとなる。すなわち、変位後の観測点を変位前の画像に投影することにより、変位前後のそれぞれの観測点を1枚の画像として扱うことができ、変位した観測点15について、1枚の写真上で変位の有無を視覚的に容易に確認することができる。
【0044】
また、カメラBについても同様に投影写真画像を作成する。すなわち、上記と同様に変位前の画像に変位後の点をセットする。
【0045】
図8に2枚の投影写真画像を用いた観測点の変位の算出を説明する図を示す。上記のように、複数枚の投影写真画像60、70を準備すると、これらの写真の各観測点15a,15b,15c,15dのxy座標値及び変位前の写真画像の撮影位置関係を用いて三角測量の原理により変位前後の観測点15、15’の各三次元座標を演算する。
【0046】
上記のように算出された観測点15、15’の三次元座標値からそれぞれの差分をとることにより、当該観測点15の変位量102を算出することができる。他の観測点(図示なし)についても、同様に変位量を算出する。
【0047】
以上説明したように、本発明にかかる変位計測方法は、変位する前と変位した後の点を一度の撮影位置計算によって同時に三次元化することができ、観測点の変位量を求めることができる。よって、変位後の点が変位前に投影されることで、変位前の画像だけを用いて三次元化することができる。このため、カメラの撮影位置関係の計算を変位前又は変位後の写真画像のみで行えばよく、結果として誤差を小さくすることができる。
【0048】
なお、本発明は上記実施形態に限定されるものではなく、その他種々の態様で実施可能である。
【0049】
例えば、図1において変位前の写真画像について撮影位置関係の演算(#12a)を行ってから射影変換(#13)をするようにしているが、この順番を逆にしてもよい。すなわち、変位後の写真画像を変位前の写真画像に射影変換したのちに、変換先となった変位前の写真画像について撮影位置関係を演算するようにしてもよい。
【0050】
また、例えば、上記実施形態では、基準点、固定点、観測点をそれぞれ独立して設定することとしているが、これらは、それぞれの条件を満たすものであれば、共通して用いることもできる。具体的には、撮影位置関係を算出するための基準点は、変位前後のいずれか一方にカメラAとカメラBによって撮影された写真画像に共通して写っていればよく、固定点は、カメラA及びカメラBのいずれかにより撮影された写真画像の変位前後にわたって共通して写っている変位の前後で移動しない点であればよい。
【0051】
また、上記実施形態では、撮影位置を2箇所としているが、これに限定されるものではなく、変位前後それぞれに3箇所以上の撮影位置から撮影してもよい。
【図面の簡単な説明】
【図1】 本実施形態にかかる変位計測装置を用いた計測対象の計測方法の概略を示す図である。
【図2】 写真画像の撮影の位置関係を説明する図である。
【図3】 変位計測において用いられる変位前後の光学関係を示す。
【図4】 変位後のカメラAで撮影された写真画像の例を示す図である。
【図5】 ある任意のカメラにより撮影された2つの写真画像について射影変換する場合を説明する図である。
【図6】 射影変換される2枚の写真画像の例を示す図である。
【図7】 図6の2枚の写真画像から作成される投影写真画像の例を示す図である。
【図8】 2枚の投影写真画像を用いた観測点の変位の算出を説明する図である。
【図9】 従来の変位計測方法の基本的な流れを示す図である。
【符号の説明】
1〜5 固定点
10 計測対象
11 基準点
12,13 撮影位置関係
15 観測点
21 カメラAの変位前の写真画像
31 カメラBの変位前の写真画像
41 カメラAの変位後の写真画像
51 カメラBの変位後の写真画像
60 カメラAの投影写真画像
70 カメラBの投影写真画像[0001]
BACKGROUND OF THE INVENTION
The present invention relates to a method for confirming the presence or absence of displacement using photographs obtained by photographing a measurement object before and after the displacement, and a displacement measurement method and a displacement measurement apparatus for a measurement object by photogrammetry.
[0002]
[Prior art]
2. Description of the Related Art Conventionally, a photogrammetry technique for calculating a three-dimensional shape of a measurement object using a plurality of photographic images taken from different shooting positions has been widely used. The photogrammetry technology takes a photo so that the measurement reference point on the measurement object appears in both of the multiple photos with different shooting positions, and uses triangulation as a basic principle to calculate the positional relationship between the shooting positions and The three-dimensional coordinates of the measurement reference point with respect to the position are calculated.
[0003]
Then, when photogrammetry is such that the measurement object is displaced with time, photogrammetry is performed before and after the displacement of the measurement object, and how the measurement reference point moves before and after the displacement. It is used for displacement measurement.
[0004]
Japanese Patent Laid-Open No. 11-201752 discloses a displacement measurement by photogrammetry. FIG. 9 shows a basic flow of the displacement measuring method described in this publication. This displacement measurement method captures the measurement object from a plurality of positions before and after the displacement of the measurement object, and based on the coordinates of the reference measurement point on the photographic image before and after the displacement, The original coordinates are calculated to determine the displacement. That is, as shown in FIG. 9, before and after displacement, the measurement object is photographed (# 1a, # 1b), and the reference measurement points are certified (# 2a, 2b) in the respective photographs before and after displacement. Next, based on the reference measurement point, the photographing position relationship such as the coordinates of the photographing position and the photographing direction is calculated (# 3a, # 3b), and based on the photographing position relationship calculated before and after the displacement, respectively. The coordinate calculation of the reference measurement point is performed (# 4a, # 4b). Then, the three-dimensional coordinates of the reference observation point before and after the displacement independently calculated before and after the displacement are compared (# 5), and the amount of displacement of the reference measurement point is calculated by obtaining the difference.
[0005]
However, if the three-dimensional coordinates of the observation points before and after the displacement are individually calculated, it is necessary to calculate the photographing positions before and after the displacement (# 3a and # 3b) independently of each other. Produce. The photographing position error also causes an error in the calculation of the three-dimensional coordinates of the observation point, resulting in a problem that the accuracy of calculating the displacement amount is degraded. In this way, in order not to calculate the shooting position individually, a mark such as a pile is attached to the shooting point shot before displacement, and measures are taken to bring the shooting position of the measurement object close to before and after displacement. It is difficult to make the position (that is, the focal position of the camera) and the shooting angle of the camera exactly the same, and considering the parameters such as the camera turning direction, the shooting angle of view of the camera is completely changed before and after the displacement. It is very difficult to match.
[0006]
[Problems to be solved by the invention]
Therefore, the technical problem to be solved by the present invention is a photograph that reduces errors caused by independently calculating the three-dimensional coordinates of the observation points before and after the displacement and improves the accuracy of the displacement calculation result. It is to provide a displacement measuring method and a displacement measuring device by surveying.
[0007]
[Means for solving the problems and their functions and effects]
In order to solve the above technical problem, the present invention provides a method for confirming the presence or absence of the following displacement.
[0011]
The displacement measurement method by photogrammetry includes a plurality of photographic images taken from a plurality of different photographing positions before the displacement, and a plurality of photographic images taken from substantially the same photographing positions as before the displacement after the measurement object is displaced. Is used to calculate the amount of displacement of the measurement target by calculating the three-dimensional coordinates of arbitrary observation points in each of the photographic images before and after the displacement. Then, the photographic images before and after the displacement are photographed so as to include a plurality of fixed points that are not displaced before and after the displacement of the measurement object, and a reference point that is common to any one of the plurality of photographic images before and after the displacement. The photographic position relationship of the photographic image is calculated based on the photographic image, and the photographic image before and after the displacement is projectively converted based on the fixed point, and the photographic image without calculating the photographic position relationship is projected onto the photographic image with the calculated photographic position relationship. Each step of creating the projected photographic image and calculating the coordinates of the observation points before and after the displacement projected onto the projected photographic image in the calculated photographing position relationship are provided.
[0012]
In the above method, the displacement measurement method by photogrammetry takes photographs from a plurality of positions before and after the displacement of the measurement object, and calculates the three-dimensional coordinates of the observation points provided at the same point of the measurement object before and after the displacement. The displacement amount is calculated by calculating and comparing the movement of the observation point. The photographs before and after the displacement should be taken as much as possible at the same photographing position so that a fixed point that does not displace before and after the displacement is shown.
[0013]
The photographing position relationship is calculated for only one of the photographic images before and after the displacement. The shooting position relationship refers to coordinates indicating where another shooting position (camera) is located with respect to one shooting position (camera) and an angle indicating which direction the other camera is facing. The photographing position relationship is derived using photographic images taken from a plurality of positions, using the same point (reference point) appearing in each photographic image.
[0014]
Two photographic images from the same shooting position before and after the displacement can be projectively transformed using a fixed point that does not move before and after the displacement of the measurement target. By performing the projective transformation, two photographic images can be superimposed using a predetermined arithmetic expression so that the fixed points of the photographic images before and after the displacement overlap, even if the shooting directions are slightly different. By superimposing two photographic images in this way, one observation point is also displayed superimposed on the other photographic image. That is, the position of the observation point before and after the displacement is shown in the projected photographic image obtained by superimposing the two photographic images. As for the coordinates of the respective observation points before and after the displacement, the three-dimensional coordinates can be calculated by using the photographing position relationship of the photographic image obtained by calculating the superimposed photographing position relationship.
[0015]
In the above method, either the step of performing projective transformation and projecting one photographic image onto the other photographic image or the step of calculating the photographing position relationship of the photographic image to which the transformation of transformation is to be performed is performed first. Good.
[0016]
According to the above method, the three-dimensional coordinates of the observation point before and after the displacement can be calculated using the shooting position relationship of the photographic image obtained by calculating the shooting position relationship. Therefore, it is not necessary to perform the calculation of the shooting position relationship before and after the displacement independently, and the error in the calculation of each shooting position relationship can be reduced. Therefore, the calculation error of the calculated three-dimensional coordinates of the observation point can be reduced, and as a result, the accuracy of the displacement amount indicated by the difference can be improved.
[0017]
Specifically, the displacement measuring method by photogrammetry according to the present invention can have various modes as follows.
[0018]
Preferably, the projected photographic image is a photograph obtained by subjecting the fixed point and the observation point of the photographic image before and after displacement to projective transformation based on the fixed point, and calculating the photographing position relationship only for the observation point of the photographic image without calculating the photographing position relationship. Created by projecting onto an image.
[0019]
In the above method, the projected photographic image created by projective transformation of the photographic image before and after displacement is measured by photogrammetry if only the fixed point used for projective transformation and the observation point indicating the state of displacement are calculated. Can do. That is, by limiting the points for projective transformation to fixed points and observation points, the amount of computation can be reduced and the processing speed can be increased.
[0020]
Preferably, the fixed point is also used as a reference point for calculating the photographing positional relationship of one photographic image.
[0021]
In the above method, in order to calculate the photographing position relationship of photographic images, a plurality of photographic images obtained by photographing the measurement object from different photographing positions are required. The plurality of photographic images are marked with a plurality of marks about the same point to be measured, and using these marks, the photographing positional relationship is derived from the plurality of photographic images by the principle of triangulation. As described above, the fixed point is a point that is not displaced before and after the displacement of the measurement target, and can be used to calculate the photographing positional relationship because it is shown in both photographic images from a plurality of positions. .
[0022]
The present invention also provides a displacement measuring apparatus having the following configuration.
[0023]
The displacement measuring device is a plurality of photographic images taken from a plurality of different photographing positions before the displacement, and a plurality of photographic images taken from substantially the same photographing position as before the displacement after the displacement of the measurement object, Each photographic image includes image input means for inputting photographic image data including a plurality of fixed points that are not displaced before and after the displacement of the measurement object, and one of the photographic images before and after the displacement. Based on the observation point, a positional relationship calculating means for calculating the photographing positional relationship of the photographic image, and a photographic image that does not calculate the photographing positional relationship by projective transformation of the photographic image before and after displacement based on the fixed point Projected image creating means for creating a projected photographic image projected on a photographic image whose relationship has been calculated, and before displacement projected on the projected photographic image in the calculated photographing position relationship It comprises the observation point coordinates and observation point calculating means for calculating, respectively.
[0024]
According to the above configuration, using the photographic image data before and after the displacement input from the image input means, the photographic position relationship of the photographic image obtained by calculating the photographic position relationship is calculated only for either one, and this photographic position relationship is used. The three-dimensional coordinates of the observation points before and after the displacement can be calculated. Therefore, it is not necessary to perform the calculation of the shooting position relationship before and after the displacement independently, and the error in the calculation of each shooting position relationship can be reduced. Therefore, the calculation error of the calculated three-dimensional coordinates of the observation point can be reduced, and as a result, the accuracy of the displacement amount indicated by the difference can be improved.
[0025]
DETAILED DESCRIPTION OF THE INVENTION
Hereinafter, a displacement measuring apparatus according to an embodiment of the present invention will be described with reference to the drawings.
[0026]
This apparatus is composed of a computer for inputting a photographic image and performing an analysis operation. The photographic image is preferably taken by a digital camera. The digital camera may be for photo measurement with internal orientation or a general-purpose digital camera without internal orientation. A general-purpose computer can be used, and software for driving the computer is installed and used so as to perform processing as described later.
[0027]
Processing of a measurement method for a measurement object using the displacement measurement apparatus according to the present embodiment will be described. FIG. 1 is a diagram illustrating an outline of a measurement method of a measurement target using the displacement measurement apparatus according to the present embodiment. In the measurement method, the measurement object is photographed from the same photographing position before and after the displacement. (# 10a, 10b) Next, these images are taken into the computer, and the reference measurement points are certified (# 11a, 11b) for the respective photographs before and after the displacement. Hereinafter, on these photographic images, recognition of reference points, fixed points, observation points, and the like is performed on a computer screen using an input device such as a mouse, and analysis and calculation of photographic images using these points are performed. It is done using a computer.
[0028]
Next, using the photographic image before displacement, the photographing position relationship before photographing is calculated (# 12a). As will be described later, the shooting position relationship can be calculated by identifying eight reference points that are the same points of the measurement object that are shown in common in a plurality of photographic images taken from different positions. By calculating the shooting position relationship, another shooting position (that is, the camera position) and the shooting direction of the camera when any one of the plurality of shooting positions is used as a reference can be derived.
[0029]
When the photographing position relationship is calculated for the photographic image before displacement, projective transformation is performed to superimpose the photographic image after displacement on the photographic image before displacement (# 13). As a premise of projective transformation, it is necessary that the photographic images to be superimposed are taken from substantially the same position. In other words, if the pre-displacement photo image and the post-displacement photo image are taken at approximately the same position, any points appearing in the post-displacement photo can be obtained by superimposing them by projective transformation. Can be projected to the corresponding position. Specific processing of projective transformation will be described later.
[0030]
In a photographic image obtained by projecting an arbitrary point after displacement onto a photographic image before displacement (hereinafter abbreviated as a projected photographic image), if there is a displaced point in the photographic image after displacement, the displacement When superimposed on the previous photographic image, the position of the point in the projected photographic image will be shifted. The same point regarding the measurement object displayed in the projected photographic image and the point to be subjected to the displacement measurement calculation (abbreviated as observation point) are displayed in the projected photographic image both before and after the displacement. By using a plurality of projection photographic images photographed from different positions, the three-dimensional coordinates of the observation point in the measurement target are calculated based on the principle of triangulation using the information on the photographing positional relationship calculated in # 12a. (# 14). When the three-dimensional coordinates of the observation point before and after the displacement are calculated, the amount of displacement that the observation point has moved before and after the displacement can be derived by comparing the observation points (# 15).
[0031]
According to the above method, the three-dimensional coordinates of the observation point before and after the displacement can be calculated only by calculating the photographing positional relationship only for the photographic image before the displacement. Therefore, it is not necessary to perform the calculation of the shooting position relationship before and after the displacement independently, the error in the calculation of each shooting position relationship can be reduced, and the calculated three-dimensional coordinate error of the observation point as a result As a result, the accuracy of the displacement amount indicated by the difference can be improved.
[0032]
Next, the specific flow of this displacement measuring method will be described in detail. First, as shown in FIG. 2, a photograph of a measurement target area including the
[0033]
In addition, it is necessary to prepare at least eight reference points (not shown), which are the same measurement target points common to the photographs from the photographing positions A and B, in the photograph image before displacement. As described above, the reference point is used to calculate the photographing position relationship between the photographing positions A and B using the photographic image before displacement (# 12a).
[0034]
After the measurement object is displaced, images are taken again from a plurality of photographing positions A and B using a digital camera in the same manner as before the displacement. It is desirable that the photographing positions A and B in photographing after displacement are as close as possible, and it is preferable to provide a mark such as a pile at the photographing point.
[0035]
Next, as described above, the photographing position relationship is calculated based on the photographic image taken before the displacement. In the present embodiment, as a shooting position relationship, another camera, that is, a camera at a shooting position B (hereinafter referred to as a camera) as viewed from a coordinate system based on a camera at the shooting position A (hereinafter abbreviated as camera A). Abbreviated as B.) and coordinates indicating where the camera B is located and an angle indicating which direction the camera B is facing. As a coordinate system based on the shooting position A, the optical axis direction of the camera A is the Y axis.
[0036]
FIG. 3 shows the optical relationship before and after displacement used in this displacement measurement. In FIG. 3, only the
[0037]
As shown in FIG. 3B, even after the
[0038]
FIG. 4 shows an example of a photographic image taken by the camera A after displacement. In the photographic image, a
[0039]
Next, projective transformation of photographs before and after displacement will be described. FIG. 5 is a diagram for explaining the projective transformation of two photographic images taken by an arbitrary camera. In the projective transformation, only the point is projected on the other photographic image using the coordinates of the fixed point and the observation point coordinate. Specifically, first, at least four sets of coordinate values from the fixed
[0040]
[Expression 1]
In Expression (1), x is the x coordinate of the fixed point of the pre-displacement
[0041]
When the values of the nine constants are obtained, the x and y coordinates of the observation point after displacement to be projective transformed are substituted into the equation (1), and the coordinates when projected on the
[0042]
FIG. 6 shows an example of two photographic images that are projectively transformed. FIG. 7 shows an example of a projected photographic image created from the two photographic images of FIG. FIG. 6 illustrates a case where the
[0043]
FIG. 7 shows an example of a projected photographic image created from the two photographic images of FIG. In the projected
[0044]
Similarly, a projection photograph image is created for the camera B. That is, similarly to the above, the point after displacement is set in the image before displacement.
[0045]
FIG. 8 is a diagram for explaining the calculation of the displacement of the observation point using the two projected photographic images. As described above, when a plurality of projected
[0046]
By calculating the respective differences from the three-dimensional coordinate values of the observation points 15 and 15 ′ calculated as described above, the
[0047]
As described above, the displacement measuring method according to the present invention can simultaneously three-dimensionalize the point before displacement and after displacement by one imaging position calculation, and can determine the displacement amount of the observation point. . Therefore, the point after the displacement is projected before the displacement, so that the three-dimensionalization can be performed using only the image before the displacement. For this reason, the calculation of the photographing position relationship of the camera may be performed only with the photographic image before or after the displacement, and as a result, the error can be reduced.
[0048]
In addition, this invention is not limited to the said embodiment, It can implement in another various aspect.
[0049]
For example, in FIG. 1, the projective transformation (# 13) is performed after the calculation of the photographing position relationship (# 12a) for the photographic image before displacement, but this order may be reversed. In other words, after the photographic image after displacement is projectively converted to the photographic image before displacement, the photographing position relationship may be calculated for the photographic image before displacement that is the conversion destination.
[0050]
Further, for example, in the above embodiment, the reference point, the fixed point, and the observation point are set independently, but these can be used in common as long as each condition is satisfied. Specifically, the reference point for calculating the photographing positional relationship may be common to the photographic images taken by the camera A and the camera B before and after the displacement, and the fixed point is the camera Any point may be used as long as it does not move before and after the displacement that is commonly seen before and after the displacement of the photographic image taken by either A or camera B.
[0051]
Moreover, in the said embodiment, although the imaging | photography position is made into 2 places, it is not limited to this, You may image | photograph from 3 or more imaging | photography positions each before and behind a displacement.
[Brief description of the drawings]
FIG. 1 is a diagram showing an outline of a measurement method of a measurement object using a displacement measurement apparatus according to an embodiment.
FIG. 2 is a diagram for explaining a positional relationship of taking a photographic image.
FIG. 3 shows an optical relationship before and after displacement used in displacement measurement.
FIG. 4 is a diagram showing an example of a photographic image taken by camera A after displacement.
FIG. 5 is a diagram illustrating a case where projective transformation is performed on two photographic images taken by an arbitrary camera.
FIG. 6 is a diagram illustrating an example of two photographic images subjected to projective conversion.
7 is a diagram showing an example of a projected photographic image created from the two photographic images of FIG. 6. FIG.
FIG. 8 is a diagram for explaining the calculation of the displacement of an observation point using two projected photographic images.
FIG. 9 is a diagram showing a basic flow of a conventional displacement measuring method.
[Explanation of symbols]
1 to 5
Claims (4)
前記変位前後の写真画像は、計測対象の変位の前後にわたって変位しない複数の固定点を含むように撮影し、
変位前後のいずれか一方の複数の写真画像に共通して写っている基準点に基づいて、当該写真画像の撮影位置関係を演算し、
前記固定点に基づいて変位前後の写真画像を射影変換して撮影位置関係を演算しない写真画像を撮影位置関係を演算した写真画像に投影した投影写真画像を作成し、
前記演算された撮影位置関係における前記投影写真画像に投影された変位前後の観測点の座標をそれぞれ算出する各ステップを備えることを特徴とする、写真測量による変位計測方法。Photo images before and after displacement consisting of a plurality of photographic images taken from a plurality of different photographing positions before the displacement of the measurement object and a plurality of photographic images taken from substantially the same photographing positions as before the displacement after the measurement object is displaced. In the displacement measurement method by photogrammetry to obtain the displacement amount of the measurement object by calculating the three-dimensional coordinates of the arbitrary observation point in each of the photographic images before and after the displacement,
The photographic images before and after the displacement are photographed so as to include a plurality of fixed points that do not displace before and after the displacement of the measurement target,
Based on a reference point that is common to any one of the plurality of photographic images before and after the displacement, the shooting position relationship of the photographic image is calculated,
Create a projected photographic image by projecting a photographic image before and after displacement on the basis of the fixed point and projecting a photographic image that does not calculate the photographic position relationship to the photographic image that has been calculated photographic position relationship,
A displacement measurement method by photogrammetry, comprising each step of calculating coordinates of observation points before and after displacement projected onto the projected photograph image in the calculated photographing position relationship.
変位前後のいずれか一方の写真画像について、当該写真の前記観測点に基づいて、当該写真画像の撮影位置関係を演算する位置関係演算手段と、
前記固定点に基づいて変位前後の写真画像を射影変換して撮影位置関係を演算しない写真画像を撮影位置関係を演算した写真画像に投影した投影写真画像を作成する投影画像作成手段と、
前記演算された撮影位置関係における前記投影写真画像に投影された変位前後の観測点の座標をそれぞれ算出する観測点演算手段とを備えることを特徴とする、変位計測装置。A plurality of photographic images taken from a plurality of different photographing positions before the displacement and a plurality of photographic images photographed from substantially the same photographing positions as before the displacement after the displacement of the measurement object, Is an image input means for inputting photographic image data including a plurality of fixed points that do not displace before and after the displacement of the measurement object;
For any one of the photographic images before and after displacement, based on the observation point of the photo, a positional relationship calculating means for calculating the shooting positional relationship of the photographic image;
Projection image creation means for creating a projected photographic image obtained by projecting a photographic image before and after displacement on the basis of the fixed point and projecting a photographic image that does not calculate the photographic position relationship onto a photographic image that has been calculated.
A displacement measuring device comprising observation point calculation means for calculating coordinates of observation points before and after displacement projected on the projected photographic image in the calculated photographing position relationship.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002240621A JP4006296B2 (en) | 2002-08-21 | 2002-08-21 | Displacement measuring method and displacement measuring apparatus by photogrammetry |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002240621A JP4006296B2 (en) | 2002-08-21 | 2002-08-21 | Displacement measuring method and displacement measuring apparatus by photogrammetry |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2004077377A JP2004077377A (en) | 2004-03-11 |
JP4006296B2 true JP4006296B2 (en) | 2007-11-14 |
Family
ID=32023354
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002240621A Expired - Fee Related JP4006296B2 (en) | 2002-08-21 | 2002-08-21 | Displacement measuring method and displacement measuring apparatus by photogrammetry |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4006296B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107395971A (en) * | 2017-07-31 | 2017-11-24 | 努比亚技术有限公司 | A kind of image-pickup method, equipment and computer-readable recording medium |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20050201638A1 (en) * | 2004-03-12 | 2005-09-15 | Hanbyn Cha | Method and system for measuring an object in digital image |
JP4698271B2 (en) * | 2005-03-31 | 2011-06-08 | 株式会社きもと | Topographic three-dimensional data generation method, topographic change evaluation method, and topographic change evaluation system |
JP2007225423A (en) * | 2006-02-23 | 2007-09-06 | Basic Engineering:Kk | Displacement measuring apparatus |
JP5013047B2 (en) * | 2006-03-07 | 2012-08-29 | 日立造船株式会社 | Correction method for displacement measurement using captured images |
JP5078296B2 (en) * | 2006-08-07 | 2012-11-21 | 倉敷紡績株式会社 | Photogrammetry apparatus and photogrammetry system |
JP5698331B2 (en) * | 2013-10-22 | 2015-04-08 | 住友重機械工業株式会社 | Injection molding machine |
JP6198223B2 (en) * | 2013-10-29 | 2017-09-20 | 山九株式会社 | 3D model creation system |
CN114440776B (en) * | 2022-01-28 | 2024-07-19 | 上海交途科技有限公司 | Automatic displacement measurement method and system based on machine vision |
-
2002
- 2002-08-21 JP JP2002240621A patent/JP4006296B2/en not_active Expired - Fee Related
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107395971A (en) * | 2017-07-31 | 2017-11-24 | 努比亚技术有限公司 | A kind of image-pickup method, equipment and computer-readable recording medium |
CN107395971B (en) * | 2017-07-31 | 2020-06-12 | 上海新眼光医疗器械股份有限公司 | Image acquisition method, image acquisition equipment and computer-readable storage medium |
Also Published As
Publication number | Publication date |
---|---|
JP2004077377A (en) | 2004-03-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10825198B2 (en) | 3 dimensional coordinates calculating apparatus, 3 dimensional coordinates calculating method, 3 dimensional distance measuring apparatus and 3 dimensional distance measuring method using images | |
CN108965690B (en) | Image processing system, image processing apparatus, and computer-readable storage medium | |
JP4832878B2 (en) | Image composition processing apparatus and method | |
JP4889351B2 (en) | Image processing apparatus and processing method thereof | |
US8208029B2 (en) | Method and system for calibrating camera with rectification homography of imaged parallelogram | |
JP3426459B2 (en) | Photogrammetry system and photogrammetry method | |
TWI521471B (en) | 3 - dimensional distance measuring device and method thereof | |
KR102129206B1 (en) | 3 Dimensional Coordinates Calculating Apparatus and 3 Dimensional Coordinates Calculating Method Using Photo Images | |
JP4006296B2 (en) | Displacement measuring method and displacement measuring apparatus by photogrammetry | |
JP5363878B2 (en) | Stereo image photographing apparatus and method thereof | |
WO2018056206A1 (en) | Displacement measurement device, displacement measurement system, displacement measurement method, and program | |
JP3696336B2 (en) | How to calibrate the camera | |
JP2001317915A (en) | Three-dimensional measurement apparatus | |
JP3696335B2 (en) | Method for associating each measurement point of multiple images | |
JP3766578B2 (en) | Photogrammetry image processing apparatus and photogrammetry method using the photogrammetry image processing apparatus | |
JP2006017632A (en) | Three-dimensional image processor, optical axis adjustment method, and optical axis adjustment support method | |
JP4550081B2 (en) | Image measurement method | |
JP2003006618A (en) | Method and device for generating three-dimensional model and computer program | |
JP3924576B2 (en) | Three-dimensional measurement method and apparatus by photogrammetry | |
JP2008224323A (en) | Stereoscopic photograph measuring instrument, stereoscopic photograph measuring method, and stereoscopic photograph measuring program | |
JP2003067726A (en) | Solid model generation system and method | |
JP4359939B2 (en) | Image measuring device | |
JPH10318732A (en) | Shape measuring device and image formation apparatus of shape measurement | |
JP4153322B2 (en) | Method and apparatus for associating measurement points in photogrammetry | |
JP4159373B2 (en) | Method and apparatus for associating measurement points in photogrammetry |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20050705 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20070402 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20070529 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20070709 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20070814 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20070827 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4006296 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100831 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100831 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110831 Year of fee payment: 4 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120831 Year of fee payment: 5 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120831 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130831 Year of fee payment: 6 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |