JP6553412B2 - Inspection system - Google Patents
Inspection system Download PDFInfo
- Publication number
- JP6553412B2 JP6553412B2 JP2015110446A JP2015110446A JP6553412B2 JP 6553412 B2 JP6553412 B2 JP 6553412B2 JP 2015110446 A JP2015110446 A JP 2015110446A JP 2015110446 A JP2015110446 A JP 2015110446A JP 6553412 B2 JP6553412 B2 JP 6553412B2
- Authority
- JP
- Japan
- Prior art keywords
- inspection
- image data
- light
- imaging
- time correlation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- WFSZDZIKBVITHP-UHFFFAOYSA-N CC1C(C)C2=C(C)C(C3)C2C3C1 Chemical compound CC1C(C)C2=C(C)C(C3)C2C3C1 WFSZDZIKBVITHP-UHFFFAOYSA-N 0.000 description 1
- UAEPNZWRGJTJPN-UHFFFAOYSA-N CC1CCCCC1 Chemical compound CC1CCCCC1 UAEPNZWRGJTJPN-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Description
本発明の実施形態は、検査システムに関する。 Embodiments of the present invention relate to inspection systems.
従来、被検査体に光を照射し、当該被検査体の表面からの反射光を画像データとして撮像し、当該画像データの輝度変化等に基づいて、被検査体の異常を検出する技術が提案されている。 Conventionally, there has been proposed a technique for irradiating an object to be inspected, imaging reflected light from the surface of the object to be inspected as image data, and detecting an abnormality of the object to be inspected based on a change in luminance of the image data. It is done.
その際に被検査体に照射する光の強度を周期的に変化させ、撮像された画像データの輝度変化に基づいて、異常を検出する技術が提案されている。 At that time, a technique has been proposed in which the intensity of light to be irradiated to the inspection object is periodically changed, and an abnormality is detected based on a change in luminance of captured image data.
この種の検査システムでは、検査面を複数回に分けて撮像した画像に基づいて検査する場合がある。複数回の撮像を行うにあたって、手間がかかるのは好ましくない。 In this type of inspection system, inspection may be performed on the basis of an image obtained by dividing the inspection surface a plurality of times. It is not preferable that it takes time and effort to perform multiple times of imaging.
そこで、本発明の課題の一つは、例えば、よりスムーズに複数の撮像領域(検査領域)を撮像することが可能な、検査システムを得ることである。 Therefore, one of the problems of the present invention is to obtain an inspection system capable of imaging a plurality of imaging regions (inspection regions) more smoothly, for example.
実施形態の検査システムは、例えば、検査物の検査面からの反射光の強度信号と、上記検査面上に与えられる光の強度の時間の経過に応じた空間的な変化に基づく光の強度の時間変化に対応して周期的に変化する参照信号と、を乗算する撮像システムによって時間相関画像を生成する時間相関画像生成部と、上記検査面上で光を連続的な時間経過に応じて空間的に変化させることにより上記検査面に上記撮像システムの1露光時間内での光の強度の連続的かつ周期的な時間変化および空間変化を与える面的な照明部と、上記時間相関画像より、上記検査面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴を算出する、演算処理部と、上記検査面上に設定された複数の撮像領域の撮像が行われるよう、上記検査物および上記撮像システムのうち少なくとも一方を動かす移動機構と、を備え、上記検査面上での上記撮像領域の移動軌跡に、上記検査物の重心の回りを回るよう移動する区間が含まれる。 The inspection system according to the embodiment includes, for example, an intensity signal of reflected light from an inspection surface of an inspection object, and light intensity based on a spatial change according to the passage of time of the intensity of light provided on the inspection surface. A temporal correlation image generation unit that generates a temporal correlation image by an imaging system that multiplies a reference signal that changes periodically in response to a temporal change, and a space corresponding to continuous time lapse of light on the inspection surface According to the planar illumination unit that continuously and periodically changes temporally and spatially the intensity of light within one exposure time of the imaging system by changing the pattern periodically, and the temporal correlation image, An arithmetic processing unit that calculates a feature that detects an abnormality based on at least one of the difference from the surrounding area and the difference from the reference surface, the feature corresponding to the distribution of the normal vector of the inspection plane; Set to Is more like the imaging of the imaging area is performed with, and a moving mechanism for moving at least one of the inspection object and the imaging system, the locus of movement of the imaging area on the test surface, the A section that moves around the center of gravity of the inspection object is included.
<時間相関カメラの基本構成>
本実施形態の検査システムについて説明する。実施形態の検査システム1は、被検査体を検査するために様々な構成を備えている。図1は、本実施形態の検査システムの構成例を示した図である。図1に示されるように、本実施形態の検査システムは、PC100と、時間相関カメラ110と、照明装置120と、スクリーン130と、移動機構140と、を備えている。時間相関カメラ110は、撮像部の一例である。
<Basic configuration of time correlation camera>
The inspection system of this embodiment will be described.
移動機構140は、被検査体150を固定するために用いられ、PC100からの制御に応じて、時間相関カメラ110が撮影可能な被検査体150の表面の位置と向きを変化させる。
The
照明装置120は、被検査体150に光を照射する装置であって、PC100からの縞パターンに従って、照射する光の強度を領域単位で制御できる。さらに、照明装置120は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置120は、光の強度の周期的な時間変化及び空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。
The
スクリーン130は、照明装置120から出力された光を拡散させた上で、被検査体150に対して面的に光を照射する。本実施形態のスクリーン130は、照明装置120から入力された周期的な時間変化及び空間変化が与えられた光を、面的に被検査体150に照射する。なお、照明装置120とスクリーン130との間には、集光用のフレネルレンズ等の光学系部品(図示されず)が設けられてもよい。
The
なお、本実施形態は、照明装置120とスクリーン130とを組み合わせて、光強度の周期的な時間変化及び空間変化を与える面的な照射部を構成する例について説明するが、このような組み合わせに制限するものではなく、例えば、LEDを面的に配置して照明部を構成してもよい。
In addition, although this embodiment demonstrates the example which comprises the planar irradiation part which combines the
時間相関カメラ110は、光学系210と、イメージセンサ220と、データバッファ230と、制御部240と、参照信号出力部250と、を備えている。図2は、本実施形態の時間相関カメラ110の構成を示したブロック図である。
The
光学系210は、撮影レンズ等を含み、時間相関カメラ110の外部の被写体(被検査体を含む)からの光束を透過し、その光束により形成される被写体の光学像を結像させる。
The
イメージセンサ220は、光学系210を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサとする。
The
本実施形態の光強度信号は、検査システムの照明装置120が被写体(被検査体を含む)に対して光を照射し、当該被写体からの反射光を、イメージセンサ220が受け取ったものである。
The light intensity signal of the present embodiment is a signal obtained by the
イメージセンサ220は、例えば従来のものと比べて高速に読み出し可能なセンサであり、行方向(x方向)、列方向(y方向)の2種類の方向に画素が配列された2次元平面状に構成されたものとする。そして、イメージセンサ220の各画素を、画素P(1,1),……,P(i,j),……,P(X,Y)とする(なお、本実施形態の画像サイズをX×Yとする。)。なお、イメージセンサ220の読み出し速度を制限するものではなく、従来と同様であってもよい。
The
イメージセンサ220は、光学系210によって透過された、被写体(被検査体を含む)からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号(撮影信号)で構成される、2次元平面状のフレームを生成し、制御部240に出力する。本実施形態のイメージセンサ220は、読み出し可能な単位時間毎に、当該フレームを出力する。
The
本実施形態の制御部240は、例えばCPU、ROM、及びRAM等で構成され、ROMに格納された検査プログラムを実行することで、転送部241と、読出部242と、強度画像用重畳部243と、第1の乗算器244と、第1の相関画像用重畳部245と、第2の乗算器246と、第2の相関画像用重畳部247と、画像出力部248と、を実現する。なお、CPU等で実現することに制限するものではなく、FPGA、またはASICで実現してもよい。
The
転送部241は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、データバッファ230に、時系列順に蓄積する。
The
データバッファ230は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。
The
図3は、本実施形態の時間相関カメラ110で時系列順に蓄積されたフレームを表した概念図である。図3に示されるように、本実施形態のデータバッファ230には、時刻t(t=t0,t1,t2,……,tn)毎の複数の光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)の組み合わせで構成された複数のフレームFk(k=1,2,……,n)が、時系列順に蓄積される。なお、時刻tで作成される一枚のフレームは、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)で構成される。
FIG. 3 is a conceptual diagram showing frames accumulated in time series order by the
本実施形態の光強度信号(撮像信号)G(1,1,t),……,G(i,j,t),……,G(X,Y,t)には、フレーム画像Fk(k=1,2,……,n)を構成する各画素P(1,1),……,P(i,j),……,P(X,Y)が対応づけられている。 A light intensity signal (imaging signal) G (1,1, t),..., G (i, j, t),. Each pixel P (1,1),..., P (i, j),..., P (X, Y) constituting k = 1, 2,.
イメージセンサ220から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、本実施形態は、解像度、感度、及びコスト等を考慮して、イメージセンサ220がモノクロの画像データを生成する例について説明するが、イメージセンサ220としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。
The frame output from the
図2に戻り、本実施形態の読出部242は、データバッファ230から、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)をフレーム単位で、時系列順に読み出して、第1の乗算器244と、第2の乗算器246と、強度画像用重畳部243と、に出力する。
Returning to FIG. 2, the reading unit 242 of the present embodiment receives the light intensity signals G (1,1, t),..., G (i, j, t),. Y, t) are read out in frame-by-frame order and output to the first multiplier 244, the
本実施形態の時間相関カメラ110は、読出部242の出力先毎に画像データを生成する。換言すれば、時間相間カメラ110は、3種類の画像データを作成する。
The
本実施形態の時間相関カメラ110は、3種類の画像データとして、強度画像データと、2種類の時間相関画像データと、を生成する。なお、本実施形態は、3種類の画像データを生成することに制限するものではなく、強度画像データを生成しない場合や、1種類又は3種類以上の時間相関画像データを生成する場合も考えられる。時間相関カメラ110は、時間相関画像生成部の一例である。
The
本実施形態のイメージセンサ220は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮影に必要な露光時間分の光強度信号が必要になる。そこで、本実施形態では、強度画像用重畳部243が、撮影に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値(光の強度を表す値)G(x,y)は、以下に示す式(1)から導き出すことができる。なお、露光時間は、t0とtnの時間差とする。
As described above, the
これにより、従来のカメラの撮影と同様に、被写体(被検査体を含む)が撮影された強度画像データが生成される。そして、強度画像用重畳部243は、生成した強度画像データを、画像出力部248に出力する。 Thereby, the intensity image data in which the subject (including the object to be inspected) is photographed is generated in the same manner as the conventional camera photographing. Then, the intensity image superimposing unit 243 outputs the generated intensity image data to the image output unit 248.
時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、本実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号と乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。 Temporally correlated image data is image data indicating changes in light intensity depending on time transition. That is, in the present embodiment, for each frame in time series order, the light intensity signal included in the frame is multiplied by the reference signal indicating the time transition, and the reference signal, the light intensity signal, and the time that is the multiplication result Temporal correlation image data is generated by generating a temporal correlation value frame composed of correlation values and superimposing a plurality of temporal correlation value frames.
ところで、時間相関画像データを用いて、被検査体の異常を検出するためには、イメージセンサ220に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このために、照明装置120が、上述したように、スクリーン130を介して周期的に時間変化および縞の空間的な移動を与えるような、面的な光の照射を行うこととした。
By the way, in order to detect abnormality of the object to be inspected using the time correlation image data, it is necessary to change the light intensity signal input to the
本実施形態では、2種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、本実施形態では、複素正弦波e-jωtを用いる。なお、角周波数ω、時刻tとする。参照信号を表す複素正弦波e-jωtが、上述した露光時間(換言すれば強度画像データ、時間相関画像を生成するために必要な時間)の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置120およびスクリーン130等の照明部によって形成された面的かつ動的な光は、被検査体150の表面(反射面)の各位置で第一の周期(時間周期)での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第二の周期(空間周期)での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック(法線ベクトルの分布等)に応じて複素変調される。時間相関カメラ110は、表面で複素変調された光を受光し、第一の周期の参照信号を用いて直交検波(直交復調)することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。
In the present embodiment, two types of time correlation image data are generated. The reference signal may be a signal representing time transition, but in the present embodiment, a complex sine wave e −jωt is used. It is assumed that the angular frequency is ω and the time is t. The angular frequency ω is such that the complex sine wave e −jωt representing the reference signal correlates with one period of the above-described exposure time (in other words, the time required to generate the intensity image data and the time correlation image). It shall be set. In other words, the planar and dynamic light formed by the
複素正弦波e-jωtは、e-jωt=cos(ωt)−j・sin(ωt)と表すこともできる。従って、時間相関画像データの各画素値C(x,y)は、以下に示す式(2)から導き出すことができる。 The complex sine wave e −jωt can also be expressed as e −jωt = cos (ωt) −j · sin (ωt). Accordingly, each pixel value C (x, y) of the time correlation image data can be derived from the following equation (2).
本実施形態では、式(2)において、実数部を表す画素値C1(x,y)と、虚数部を表す画素値C2(x,y)と、に分けて2種類の時間相関画像データを生成する。 In this embodiment, in equation (2), two kinds of time correlation image data are divided into a pixel value C1 (x, y) representing a real part and a pixel value C 2 (x, y) representing an imaginary part. Generate
このため、参照信号出力部250は、第1の乗算器244と、第2の乗算器246と、に対してそれぞれ異なる参照信号を生成し、出力する。本実施形態の参照信号出力部250は、複素正弦波e-jωtの実数部に対応する第1の参照信号cosωtを第1の乗算器244に出力し、複素正弦波e-jωtの虚数部に対応する第2の参照信号sinωtを第2の乗算器246に出力する。このように本実施形態の参照信号出力部250は、互いにヒルベルト変換対をなす正弦波および余弦波の時間関数として表される2種類の参照信号を出力する例について説明するが、参照信号は時間関数のような時間遷移に応じて変化する参照信号であればよい。
Therefore, the reference
そして、第1の乗算器244は、読出部242から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部250から入力された複素正弦波e-jωtの実数部cosωtを乗算する。
Then, the first multiplier 244 calculates the real part cosωt of the complex sine wave e −jωt input from the reference
第1の相関画像用重畳部245は、撮影に必要な露光時間分の複数のフレームについて、第1の乗算器244の乗算結果を画素毎に重畳する処理を行う。これにより、第1の時間相関画像データの各画素値C1(x,y)が、以下の式(3)から導出される。
The first correlation
そして、第2の乗算器246は、読出部242から入力されたフレームの光強度信号に対して、参照信号出力部250から入力された複素正弦波e-jωtの虚数部sinωtを乗算する。
The
第2の相関画像用重畳部247は、撮影に必要な露光時間分の複数のフレームについて、第2の乗算器246の乗算結果を画素毎に重畳する処理を行う。これにより、第2の時間相関画像データの各画素値C2(x,y)が、以下の式(4)から導出される。
The second correlation image superimposing unit 247 performs a process of superimposing the multiplication result of the
上述した処理を行うことで、2種類の時間相関画像データ、換言すれば2自由度を有する時間相関画像データを生成できる。 By performing the processing described above, two types of time correlation image data, in other words, time correlation image data having two degrees of freedom can be generated.
また、本実施形態は、参照信号の種類を制限するものでない。例えば、本実施形態では、複素正弦波e-jωtの実部と虚部の2種類の時間相関画像データを作成するが、光の振幅と、光の位相と、による2種類の画像データを生成してもよい。 Also, the present embodiment does not limit the type of reference signal. For example, in this embodiment, two types of time-correlated image data of the real part and the imaginary part of the complex sine wave e −jωt are created, but two types of image data based on the light amplitude and the light phase are generated. May be.
なお、本実施形態の時間相関カメラ110は、時間相関画像データとして、複数系統分作成可能とする。これにより、例えば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる2種類の時間相関画像データを、縞の幅毎に作成可能とする。このために、時間相関カメラ110は、2個の乗算器と2個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部250は、系統毎に適した角周波数ωによる参照信号を出力可能とする。
Note that the
そして、画像出力部248が、2種類の時間相関画像データと、強度画像データと、をPC100に出力する。これにより、PC100が、2種類の時間相関画像データと、強度画像データと、を用いて、被検査体の異常を検出する。そのためには、被写体に対して光を照射する必要がある。
Then, the image output unit 248 outputs the two types of time correlation image data and the intensity image data to the
本実施形態の照明装置120は、高速に移動する縞パターンを照射する。図4は、本実施形態の照明装置120が照射する縞パターンの一例を示した図である。図4に示す例では、縞パターンをx方向にスクロール(移動)させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域(暗領域)である。本実施形態では、スクリーン130の明領域となる部分が、発光部の一例である。
The illuminating
本実施形態では、時間相関カメラ110が強度画像データ及び時間相関画像データを撮影する露光時間で、照明装置120が照射する縞パターンを一周期分移動させる。これにより、照明装置120は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。本実施形態では、図4の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。
In the present embodiment, the fringe pattern irradiated by the illuminating
図4に示されるように、本実施形態では、照明装置120が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。なお、照明光を拡散する拡散部材を用いることにより、矩形波の明暗の境界領域をぼかすことができる。スクリーン130は、拡散部材の一例である。
As shown in FIG. 4, in the present embodiment, an example in which the
本実施形態では、照明装置120が照射する縞パターンをA(1+cos(ωt+kx)と表す。すなわち、縞パターンには、複数の縞が反復的に(周期的に)含まれる。なお、被検査体に照射される光の強度は0〜2Aの間で調整可能とし、光の位相kxとする。kは、縞の波数である。xは、位相が変化する方向である。
In the present embodiment, a stripe pattern irradiated by the
そして、フレームの各画素の光強度信号f(x,y,t)の基本周波数成分は、以下の式(5)として表すことができる。式(5)で示されるように、x方向で縞の明暗が変化する。 The fundamental frequency component of the light intensity signal f (x, y, t) of each pixel in the frame can be expressed as the following equation (5). As shown in equation (5), the light and dark of the stripes change in the x direction.
f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)}……(5)
f (x, y, t) = A (1 + cos (ωt + kx))
= A + A / 2 {e j (ωt + kx) + e- j (ωt + kx) } (5)
式(5)で示されるように、照明装置120が照射する縞パターンの強度信号は、複素数として考えることができる。
As shown in Expression (5), the intensity signal of the fringe pattern irradiated by the
そして、イメージセンサ220には、当該照明装置120からの光が被写体(被検査体を含む)から反射して入力される。
Then, the light from the
したがって、イメージセンサ220に入力される光強度信号G(x,y,t)を、照明装置120が照射された際のフレームの各画素の光強度信号f(x,y,t)とできる。そこで、強度画像データを導出するための式(1)に式(5)を代入すると、式(6)を導出できる。なお、位相kxとする。
Therefore, the light intensity signal G (x, y, t) input to the
式(6)から、強度画像データの各画素には、露光時間Tに、照明装置120が出力している光の強度の中間値Aを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式(2)に式(5)を代入すると、式(7)を導出できる。なお、AT/2を振幅とし、kxを位相とする。
From Expression (6), it can be confirmed that each pixel of the intensity image data is input with a value obtained by multiplying the exposure time T by the intermediate value A of the intensity of the light output from the
これにより、式(7)で示された複素数で示された時間相関画像データは、上述した2種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、被検査体に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、本実施形態のPC100は、2種類の時間相関画像データに基づいて、照明装置120から照射された光の位相変化と、光の振幅変化と、を検出できる。そこで、本実施形態のPC100が、時間相関画像データ及び強度画像データに基づいて、画素毎に入る光の振幅を表した振幅画像データと、画素毎に入る光の位相変化を表した位相画像データと、を生成する。
Thereby, the time correlation image data shown by the complex number shown by Formula (7) can be substituted with two types of time correlation image data mentioned above. That is, the temporal correlation image data composed of the real part and the imaginary part described above includes the phase change and the amplitude change in the light intensity change irradiated to the test object. In other words, the
さらに、PC100は、生成した振幅画像データと位相画像データとに基づいて、被検査体の異常を検出する。
Furthermore, the
ところで、被検査体の表面形状に凹凸に基づく異常が生じている場合、被検査体の表面の法線ベクトルの分布には異常に対応した変化が生じている。また、被検査体の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光の位相変化及び振幅変化のうち少なくともいずれか一つとして検出される。そこで、本実施形態では、時間相関画像データ及び強度画像データを用いて、法線ベクトルの分布の変化に対応した、光の位相変化及び振幅変化のうち少なくともいずれか一つを検出する。これにより、表面形状の異常を検出可能となる。次に、被検査体の異常、法線ベクトル、及び光の位相変化又は振幅変化の関係について説明する。 By the way, when the abnormality based on unevenness has arisen in the surface shape of a to-be-inspected object, the change corresponding to the abnormality has arisen in distribution of the normal line vector of the surface of a to-be-inspected object. Further, when an abnormality that absorbs light occurs on the surface of the object to be inspected, the intensity of the reflected light changes. A change in the normal vector distribution is detected as at least one of a phase change and an amplitude change of light. Thus, in the present embodiment, using the time correlation image data and the intensity image data, at least one of the light phase change and the amplitude change corresponding to the change in the normal vector distribution is detected. This makes it possible to detect surface shape anomalies. Next, the relationship between the abnormality of the inspected object, the normal vector, and the phase change or amplitude change of light will be described.
図5は、実施形態の時間相関カメラ110による、被検査体の異常の第1の検出例を示した図である。図5に示される例では、被検査体500に突形状の異常501がある状況とする。当該状況においては、異常501の点502の近傍領域においては、法線ベクトル521、522、523が異なる方向を向いていることを確認できる。そして、当該法線ベクトル521、522、523が異なる方向を向いていることで、異常501から反射した光に拡散(例えば、光511、512、513)が生じ、時間相関カメラ110のイメージセンサ220の任意の画素531に入る縞パターンの幅503が広くなる。
FIG. 5 is a diagram illustrating a first detection example of abnormality of an object to be inspected by the
図6は、図5に示される異常501が被検査体500にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。図6に示される例では、光の振幅を実部(Re)と、虚部(Im)に分けて2次元平面上に表している。図6では、図5の光511、512、513に対応する光の振幅611、612、613として示している。そして、光の振幅611、612、613は互いに打ち消し合い、イメージセンサ220の当該任意の画素531には、振幅621の光が入射する。
FIG. 6 is a diagram showing an example of the amplitude of light that changes in accordance with the
したがって、図6に示される状況で、検査体500の異常501が撮像された領域で振幅が小さいことが確認できる。換言すれば、振幅変化を示した振幅画像データで、周囲と比べて暗くなっている領域がある場合に、当該領域で光同士の振幅の打ち消し合いが生じていると推測できるため、当該領域に対応する被検査体500の位置で異常501が生じていると判断できる。
Therefore, in the situation shown in FIG. 6, it can be confirmed that the amplitude is small in the region where the
本実施形態の検査システム1は、図5の異常501のように傾きが急峻に変化しているものに限らず、緩やかに変化する異常も検出できる。図7は、実施形態の時間相関カメラ110による、被検査体の異常の第2の検出例を示した図である。図7に示される例では、正常な場合は被検査体の表面が平面(換言すれば法線が平行)となるが、被検査体700に緩やかな勾配701が生じた状況とする。このような状況においては、勾配701上の法線ベクトル721、722、723も同様に緩やかに変化する。したがって、イメージセンサ220に入力する光711、712、713も少しずつずれていく。図7に示される例では、緩やかな勾配701のために光の振幅の打ち消し合いは生じないため、図5、図6で表したような光の振幅はほとんど変化しない。しかしながら、本来照明装置120およびスクリーン130から投影された光が、そのままイメージセンサに平行に入るはずが、緩やかな勾配701のために、照明装置120およびスクリーン130から投影された光が平行の状態でイメージセンサに入らないために、光に位相変化が生じる。従って、光の位相変化について、周囲等との違いを検出することで、図7に示したような緩やかな勾配701による異常を検出できる。
The
また、被検査体の表面形状(換言すれば、被検査体の法線ベクトルの分布)以外にも異常が生じる場合がある。図8は、実施形態の時間相関カメラ110による、被検査体の異常の第3の検出例を示した図である。図8に示される例では、被検査体800に汚れ801が付着しているため、照明装置120から照射された光が吸収あるいは拡散反射し、時間相関カメラ110の、汚れ801を撮影している任意の画素領域では光がほとんど強度変化しない例を表している。換言すれば、汚れ801を撮影している任意の画素領域では、光強度は位相打ち消しを起こし振動成分がキャンセルされ、ほとんど直流的な明るさになる例を示している。
In addition, there may be an abnormality other than the surface shape of the inspection object (in other words, the distribution of the normal vector of the inspection object). FIG. 8 is a diagram illustrating a third example of detection of abnormality of an object to be inspected by the
このような場合、汚れ801を撮影している画素領域においては、光の振幅がほとんどないため、振幅画像データを表示した際に、周囲と比べて暗くなる領域が生じる。したがって、当該領域に対応する被検査体800の位置に、汚れ等の異常801があることを推定できる。
In such a case, in the pixel region where the
このように、本実施形態では、時間相関画像データに基づいて、光の振幅の変化と、光の位相の変化と、を検出することで、被検査体に異常があることを推定できる。 As described above, in the present embodiment, it is possible to estimate that the object to be inspected is abnormal by detecting the change in the amplitude of the light and the change in the phase of the light based on the time correlation image data.
図1に戻り、PC100について説明する。PC100は、検出システム全体の制御を行う。PC100は、移動機構制御部101と、発光制御部102と、制御部103と、記憶部109と、を備える。記憶部109は、演算処理に用いられるデータや、演算処理結果等を記憶する。
Returning to FIG. 1, the
移動機構制御部101は、被検査体150の時間相関カメラ110による撮像対象となる表面を変更するために、移動機構140を制御する。移動機構140は、例えば、ロボットアームである。本実施形態では、PC100において、被検査体150の撮影対象となる表面を複数設定しておく。そして、時間相関カメラ110が被検査体150の撮影が終了する毎に、移動機構制御部101が、当該設定に従って、時間相関カメラ110が設定された表面を撮影できるように、移動機構140が被検査体150を移動させる。なお、本実施形態は撮影が終了する毎に移動機構140を移動させ、撮影が開始する前に停止させることを繰り返すことに制限するものではなく、継続的に移動機構140を駆動させてもよい。なお、移動機構140は、搬送部、移動部、把持部、位置変更部、姿勢変更部等とも称されうる。
The movement
発光制御部102は、被検査体150を検査するために照明装置120が照射する縞パターンを出力する。本実施形態の発光制御部102は、少なくとも3枚以上の縞パターンを、照明装置120に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置120に指示する。発光制御部102は、照明制御部とも称されうる。
The light emission control unit 102 outputs a fringe pattern irradiated by the
図9は、発光制御部102が照明装置120に出力する縞パターンの例を示した図である。図9(B)に示す矩形波に従って、図9(A)に示す黒領域と白領域とが設定された縞パターンが出力されるように、発光制御部102が制御を行う。
FIG. 9 is a diagram illustrating an example of a fringe pattern output from the light emission control unit 102 to the
本実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常(欠陥)の大きさに応じて設定されるものとしてここでは詳しい説明を省略する。 The interval of stripes for each stripe pattern to be irradiated in the present embodiment is set according to the size of the abnormality (defect) to be detected, and the detailed description is omitted here.
また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。 In addition, the angular frequency ω of the rectangular wave for outputting the fringe pattern is set to the same value as the angular frequency ω of the reference signal.
図9に示されるように、発光制御部102が出力する縞パターンは、矩形波として示すことができるが、スクリーン130(拡散部材)を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域(縞の領域)と暗領域(間隔の領域)との境界での光の強度変化を緩やかにする(鈍らせる)ことで、正弦波に近似させることができる。図10は、スクリーン130を介した後の縞パターンを表した波の形状の例を示した図である。図10に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。
As shown in FIG. 9, the fringe pattern output from the light emission control unit 102 can be shown as a rectangular wave, but blurs the border area of the fringe pattern through the screen 130 (diffusing member). It is possible to approximate a sine wave by gradual (dulling) the change in the intensity of light at the boundary between the bright region (striped region) and the dark region (interval region) in the pattern. FIG. 10 is a view showing an example of the shape of a wave representing a stripe pattern after passing through the
図1に戻り、制御部103は、振幅−位相画像生成部104と、異常検出処理部105と、を備え、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、により、被検査体150の検査面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって異常を検出する特徴を算出するための処理を行う。なお、本実施形態は、検査を行うために、複素数で示した時間相関画像データ(複素時間相関画像データと称す)の代わりに、複素数相関画像データの実部と虚部とで分けた2種類の時間相関画像データを、時間相関カメラ110から受け取る。振幅−位相画像生成部104(制御部103)は、演算処理部の一例である。異常検出処理部105は、異常判別部の一例である。
Returning to FIG. 1, the
振幅−位相画像生成部104は、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、に基づいて、振幅画像データと、位相画像データと、を生成する。
The amplitude-phase image generation unit 104 generates amplitude image data and phase image data based on the intensity image data input from the
振幅画像データは、画素毎に入る光の振幅を表した画像データとする。位相画像データは、画素毎に入る光の位相を表した画像データとする。 The amplitude image data is image data representing the amplitude of light entering each pixel. The phase image data is image data representing the phase of light entering each pixel.
本実施形態は振幅画像データの算出手法を制限するものではないが、例えば、振幅−位相画像生成部104は、2種類の時間相関画像データの画素値C1(x,y)及びC2(x,y)から、式(8)を用いて、振幅画像データの各画素値F(x,y)を導き出せる。 Although the present embodiment does not limit the calculation method of the amplitude image data, for example, the amplitude-phase image generation unit 104 has pixel values C1 (x, y) and C2 (x, From y), each pixel value F (x, y) of the amplitude image data can be derived using Equation (8).
そして、本実施形態では、振幅画像データの画素値(振幅)と、強度画像データの画素値と、に基づいて、異常が生じている領域があるか否かを判定できる。例えば、強度画像データの画素値(AT)を2で除算した値と、振幅画像データの振幅(打ち消し合いが生じない場合にはAT/2となる)と、がある程度一致する領域は異常が生じていないと推測できる。一方、一致していない領域については、振幅の打ち消しが生じていると推測できる。なお、具体的な手法については後述する。 Then, in the present embodiment, it is possible to determine whether there is an area in which an abnormality has occurred, based on the pixel value (amplitude) of the amplitude image data and the pixel value of the intensity image data. For example, in a region where the value obtained by dividing the pixel value (AT) of the intensity image data by 2 and the amplitude of the amplitude image data (it becomes AT / 2 when no cancellation occurs), an abnormality occurs I can guess that it is not. On the other hand, it can be presumed that the amplitude cancellation occurs in the non-matching region. The specific method will be described later.
同様に、振幅−位相画像生成部104は、画素値C1(x,y)及びC2(x,y)から、式(9)を用いて、位相画像データの各画素値P(x,y)を導き出せる。 Similarly, the amplitude-phase image generation unit 104 uses the pixel values C1 (x, y) and C2 (x, y) to calculate each pixel value P (x, y) of the phase image data using Equation (9). Can be derived.
異常検出処理部105は、振幅−位相画像生成部104により生成された振幅画像データ、及び位相画像データにより、検査対称面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって、被検査体150の異常に関連する特徴を検出する。本実施形態では、法線ベクトルの分布に対応した特徴として、複素時間相関画像の振幅の分布を用いた例について説明する。なお、複素時間相関画像の振幅の分布とは、複素時間相関画像の各画素の振幅の分布を示したデータであり、振幅画像データに相当する。
The abnormality
次に、本実施形態の異常検出処理部105における振幅に基づく異常検出処理について説明する。図11は、本実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。
Next, the abnormality detection processing based on the amplitude in the abnormality
まず、異常検出処理部105は、振幅画像データの各画素に格納された、光の振幅値(を表した画素値)から、当該画素を基準(例えば中心)として、N×N領域の平均振幅値を減算し(ステップS1101)、振幅の平均差分画像データを生成する。振幅の平均差分画像データは、振幅の勾配に対応する。なお、整数Nは実施の態様に応じて適切な値が設定されるものとする。
First, the abnormality
次に、異常検出処理部105は、減算により生成された振幅の平均差分画像データに対して、予め定められた振幅の閾値を用いたマスク処理を行う(ステップS1102)。
Next, the abnormality
さらに、異常検出処理部105は、平均差分画像データのマスク領域内について画素毎に標準偏差を算出する(ステップS1103)。なお、本実施形態では、標準偏差に基づいた手法について説明するが、標準偏差を用いた場合に制限するものではなく、例えば平均値等を用いてもよい。
Further, the abnormality
そして、異常検出処理部105は、平均を引いた振幅画素値が−4.5σ(σ:標準偏差)より小さい値の画素を、異常(欠陥)がある領域として検出する(ステップS1104)。
Then, the abnormality
上述した処理手順により、各画素の振幅値(換言すれば、振幅の分布)から、被検査体の異常を検出できる。しかしながら、本実施形態は、複素時間相関画像の振幅の分布から異常を検出することに制限するものではない。検査対称面の法線ベクトルの分布と対応した特徴として、位相の分布の勾配を用いてもよい。そこで、次に位相の分布の勾配を用いた例について説明する。 By the processing procedure described above, an abnormality of the object to be inspected can be detected from the amplitude value of each pixel (in other words, the amplitude distribution). However, the present embodiment is not limited to the detection of an anomaly from the distribution of the amplitude of the complex time correlation image. The gradient of the distribution of the phase may be used as a feature corresponding to the distribution of the normal vector of the test symmetry plane. An example using the gradient of the phase distribution will be described next.
次に、本実施形態の異常検出処理部105における位相に基づく異常検出処理について説明する。図12は、本実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。
Next, abnormality detection processing based on the phase in the abnormality
まず、異常検出処理部105は、位相画像データの画素毎の光の位相値(を表した画素値)から、当該画素を基準(例えば中心)として、N×N領域の平均位相値を減算し(ステップS1201)、位相の平均差分画像データを生成する。位相の平均差分画像データは、位相の勾配に対応する。
First, the abnormality
次に、異常検出処理部105は、減算により生成された位相の平均差分画像データの大きさ(絶対値)と、閾値とを比較し、平均差分画像データの大きさが閾値以上となる画素を、異常(欠陥)のある画素として検出する(ステップS1202)。
Next, the abnormality
このS1202の検出結果により、異常検出処理部105は、平均差分画像データの正負、すなわち、画素の位相値と平均位相値との大小関係によって、凹凸を判別することができる(ステップS1203)。画素の位相値と平均位相値とのどちらが大きい場合に凸となるかは、各部の設定によって変化するが、大小関係が異なると、凹凸が異なる。
Based on the detection result of S1202, the abnormality
なお、他の手法によって得られた位相の分布の勾配から、異常を検出することができる。例えば、異常検出処理部105は、別の手法として、正規化された時間相関画像データのN×Nの領域の平均ベクトルと、正規化された各画素のベクトルとの差の大きさが、閾値よりも大きい場合に、異常(欠陥)がある画素として検出することができる。また、位相の分布の勾配に限られず、位相の分布に対応する情報に基づいて被検査体の異常を検出すればよい。
An abnormality can be detected from the gradient of the phase distribution obtained by another method. For example, as another method, the abnormality
次に、本実施形態の異常検出処理部105における振幅および強度に基づく異常検出処理について説明する。図13は、本実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。
Next, abnormality detection processing based on the amplitude and the intensity in the abnormality
まず、異常検出処理部105は、時間相関画像データと強度画像データとから、各画素について、次の式(100)を用いて、振幅(を表す画素値)C(x,y)(式(7)参照)と強度(を表す画素値)G(x,y)(式(6)参照)との比R(x,y)を算出する(ステップS1301)。
First, the abnormality
R(x,y)=C(x,y)/G(x,y)……(100) R (x, y) = C (x, y) / G (x, y) (100)
次に、異常検出処理部105は、比R(x,y)と閾値とを比較し、比R(x,y)の値が対応する閾値以下となる画素を、異常(欠陥)のある画素として検出する(ステップS1302)。また、異常検出処理部105は、比R(x,y)と閾値とを比較し、比R(x,y)の値が対応する別の閾値以上となる画素を、ムラ(汚れ等)のある画素として検出する(ステップS1303)。法線ベクトルの分布の異常により、振幅の打ち消し合い(減殺)が顕著となった場合には、強度に比べて振幅がより大きく下がる。一方、法線ベクトルの分布にはそれほどの異常は無いものの被検査体150の表面の汚れ等によって光の吸収が顕著となった場合には、振幅に比べて強度がより大きく下がる。よって、異常検出処理部105は、ステップS1302およびステップS1303による異常種別の検出が可能となる。
Next, the abnormality
次に、本実施形態の検査システムにおける被検査体の検査処理について説明する。図14は、本実施形態の検査システムにおける上述した処理の手順を示すフローチャートである。なお、被検査体150は、すでに移動機構140に固定された状態で、検査の初期位置に配置されているものとする。
Next, an inspection process for an object to be inspected in the inspection system of the present embodiment will be described. FIG. 14 is a flowchart showing the procedure of the above-described process in the inspection system of the present embodiment. It is assumed that the inspected
本実施形態のPC100が、照明装置120に対して、被検査体を検査するための縞パターンを出力する(ステップS1401)。
The
照明装置120は、PC100から入力された縞パターンを格納する(ステップS1421)。そして、照明装置120は、格納された縞パターンを、時間遷移に従って変化するように表示する(ステップS1422)。なお、照明装置120が表示を開始する条件は、縞パターンが格納された際に制限するものではなく、例えば検査者が照明装置120に対して開始操作を行った際でもよい。
The
そして、PC100の制御部103が、時間相関カメラ110に対して、撮影の開始指示を送信する(ステップS1402)。
Then, the
次に、時間相関カメラ110が、送信されてきた撮影指示に従って、被検査体150を含む領域について撮像を開始する(ステップS1411)。次に、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を生成する(ステップS1412)。そして、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を、PC100に出力する(ステップS1413)。
Next, the
PC100の制御部103は、強度画像データと、時間相関画像データと、を受け取る(ステップS1403)。そして、振幅−位相画像生成部104は、受け取った強度画像データと時間相関画像データとから、振幅画像データと、位相画像データとを生成する(ステップS1404)。
The
そして、異常検出処理部105が、振幅画像データと、位相画像データとに基づいて、被検査体の異常検出制御を行う(ステップS1405)。そして、異常検出処理部105は、異常検出結果を、PC100が備える(図示しない)表示装置に出力する(ステップS1406)。
Then, the abnormality
異常検出結果の出力例としては、強度画像データを表示するとともに、振幅画像データと位相画像データとに基づいて異常が検出された領域に対応する、強度画像データの領域を、検査者が異常を認識できるように装飾表示するなどが考えられる。また、視覚に基づく出力に制限するものではなく、音声等で異常が検出されたことを出力してもよい。 As an output example of the abnormality detection result, the intensity image data is displayed, and an area of the intensity image data corresponding to the area where the abnormality is detected based on the amplitude image data and the phase image data is displayed. It is conceivable to display decoration so that it can be recognized. Further, the output is not limited to visual output, and it may be output that an abnormality has been detected by voice or the like.
制御部103は、当該被検査体の検査が終了したか否かを判定する(ステップS1407)。検査が終了していないと判定した場合(ステップS1407:No)、移動機構制御部101が、予め定められた設定に従って、次の検査対象となる被検査体の表面が、時間相関カメラ110で撮影できるように、アームの移動制御を行う(ステップS1408)。アームの移動制御が終了した後、制御部103が、再び時間相関カメラ110に対して、撮影の開始指示を送信する(ステップS1402)。
The
一方、制御部103は、当該被検査体の検査が終了したと判定した場合(ステップS1407:Yes)、終了指示を時間相関カメラ110に対して出力し(ステップS1409)、処理を終了する。
On the other hand, if the
そして、時間相関カメラ110は、終了指示を受け付けたか否かを判定する(ステップS1414)。終了指示を受け付けていない場合(ステップS1414:No)、再びステップS1411から処理を行う。一方、終了指示を受け付けた場合(ステップS1414:Yes)、処理を終了する。
Then, the
なお、照明装置120の終了処理は、検査者が行ってもよいし、他の構成からの指示に従って終了してもよい。
Note that the inspecting process of the
また、本実施形態では、時間相関カメラ110を用いて生成された強度画像データと、時間相関画像データと、を生成する例について説明した。しかしながら、強度画像データと、時間相関画像データと、を生成するために時間相関カメラ110を用いることに制限するものではなく、アナログ的な処理で実現可能な時間相関カメラや、それと等価な動作をする撮像システムを用いてもよい。例えば、通常のデジタルスチルカメラが生成した画像データを出力し、情報処理装置が、デジタルスチルカメラが生成した画像データを、フレーム画像データとして用いて参照信号を重畳することで、時間相関画像データを生成してもよいし、イメージセンサ内で光強度信号に参照信号を重畳するようなデジタルカメラを用いて、時間相関画像データを生成してもよい。
Further, in the present embodiment, an example has been described in which intensity image data generated using the
(変形例1)
本実施形態では、周囲との違いに基づいて、異常に関連する特徴を検出する例について説明したが、周囲との違いに基づいて当該特徴を検出することに制限するものではなく、参照形状のデータ(参照データ、例えば、時間相関データや、振幅画像データ、位相画像データ等)との差異に基づいて当該特徴を検出してもよい。この場合、参照データの場合とで、空間位相変調照明(縞パターン)の位置合わせおよび同期が必要となる。
(Modification 1)
In this embodiment, an example in which a feature related to an abnormality is detected based on a difference from the surroundings has been described, but the present invention is not limited to detecting the feature based on a difference from the surroundings. The feature may be detected based on the difference with data (reference data, for example, time correlation data, amplitude image data, phase image data, etc.). In this case, alignment and synchronization of spatial phase modulation illumination (fringe pattern) is required in the case of reference data.
本変形例では、異常検出処理部105が、予め記憶部109に記憶された、参照表面から得られた振幅画像データ及び位相画像データと、被検査体150の振幅画像データ及び位相画像データと、を比較し、被検査体150の表面と参照表面との間で、光の振幅及び光の位相とのうちいずれか一つ以上について所定の基準以上の違いがあるか否かを判定する。
In this modification, the abnormality
本変形例は、実施形態と同じ構成の検査システムを用い、参照表面として正常な被検査体の表面を用いる例とする。 This modification is an example in which the inspection system having the same configuration as that of the embodiment is used and the surface of a normal inspection object is used as the reference surface.
照明装置120がスクリーン130を介してパターンを照射している間に、時間相関カメラ110が、正常な被検査体の表面を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関カメラ110で生成された時間相関画像データを入力し、振幅画像データ及び位相画像データを生成し、PC100の記憶部109に振幅画像データ及び位相画像データを記憶させておく。そして、時間相関カメラ110が、異常が生じているか否か判定したい被検査体を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関画像データから、振幅画像データ及び位相画像データを生成した後、記憶部109に記憶されていた、正常な被検査体の振幅画像データ及び位相画像データと比較する。その際に、正常な被検査体の振幅画像データ及び位相画像データと、検査対象の被検査体の振幅画像データ及び位相画像データと、の比較結果を、異常を検出する特徴を示したデータとして出力する。そして、異常を検出する特徴が、当該所定の基準以上の場合に、被検査体150に対して異常があると推測できる。
While the
これにより、本変形例では、正常な被検査体の表面と差異が生じているか否か、換言すれば、被検査体の表面に異常が生じているか否かを判定できる。なお、振幅画像データ及び位相画像データの比較手法は、どのような手法を用いてもよいので、説明を省略する。 Thereby, in this modification, it can be determined whether there is a difference from the surface of the normal object to be inspected, in other words, whether there is an abnormality on the surface of the object to be inspected. In addition, since the comparison method of amplitude image data and phase image data may use what kind of method, description is abbreviate | omitted.
さらに、本変形例では参照表面との違いに基づいて、異常を検出する特徴を示したデータを出力する例について説明したが、参照表面との違いと、実施形態で示した周囲との違いと、を組み合わせて、異常を検出する特徴を算出してもよい。組み合わせる手法は、どのような手法を用いてもよいので、説明を省略する。 Furthermore, in the present modification, an example of outputting data indicating a feature for detecting an abnormality based on the difference from the reference surface has been described. However, the difference from the reference surface and the difference from the surroundings shown in the embodiment , May be combined to calculate a feature for detecting an abnormality. The method to be combined may use any method, so the description will be omitted.
(変形例2)
実施形態では、x方向に縞パターンを動かして、被検査体の異常(欠陥)を検出する例について説明した。しかしながら、x方向に垂直なy方向で急峻に法線の分布が変化する異常(欠陥)が被検査体に生じている場合、x方向に縞パターンを動かすよりも、y方向に縞パターンを動かす方が欠陥の検出が容易になる場合がある。そこで、変形例では、x方向に移動する縞パターンと、y方向に移動する縞パターンとを、交互に切り替える例について説明する。
(Modification 2)
In the embodiment, an example has been described in which the stripe pattern is moved in the x direction to detect an abnormality (defect) of the inspection object. However, when an abnormality (defect) in which the distribution of the normal changes sharply in the y direction perpendicular to the x direction occurs in the inspection object, the stripe pattern is moved in the y direction rather than moving the stripe pattern in the x direction It may be easier to detect defects. Therefore, in the modification, an example in which the stripe pattern moving in the x direction and the stripe pattern moving in the y direction are alternately switched will be described.
本変形例の発光制御部102は、所定の時間間隔毎に、照明装置120に出力する縞パターンを切り替える。これにより、照明装置120は、一つの検査面に対して、異なる方向に延びた複数の縞パターンを出力する。
The light emission control unit 102 of this modification switches the fringe pattern output to the
図15は、本変形例の発光制御部102が出力する縞パターンの切り替え例を示した図である。図15の(A)では、発光制御部102は、照明装置120が表示する縞パターンをx方向に遷移させる。その後、(B)に示されるように、発光制御部102は、照明装置120が表示する縞パターンをy方向に遷移させる。
FIG. 15 is a diagram illustrating a switching example of the fringe pattern output from the light emission control unit 102 of the present modification. In FIG. 15A, the light emission control unit 102 causes the stripe pattern displayed by the
そして、PC100の制御部103は、図15の(A)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行い、図15の(B)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行う。
And the
図16は、本変形例の発光制御部102が、異常(欠陥)1601を含めた表面に縞パターンを照射した例を示した図である。図16に示す例では、異常(欠陥)1601が、x方向に延びている。この場合、発光制御部102は、x方向に交差するy方向、換言すれば異常(欠陥)1601の長手方向に交差する方向に縞パターンが移動するように設定する。当該設定により、検出精度を向上させることができる。 FIG. 16 is a diagram illustrating an example in which the light emission control unit 102 of the present modification irradiates the surface including the abnormality (defect) 1601 with a stripe pattern. In the example shown in FIG. 16, an abnormality (defect) 1601 extends in the x direction. In this case, the light emission control unit 102 sets the fringe pattern to move in the y direction that intersects the x direction, in other words, the direction that intersects the longitudinal direction of the abnormality (defect) 1601. With this setting, detection accuracy can be improved.
図17は、y方向、換言すれば欠陥1701の長手方向に直交する方向に縞パターンを変化させた場合における、異常(欠陥)1701と照明装置120上の縞パターンの関係を示した図である。図17に示されるように、y方向に幅が狭く、且つ当該y方向に交差するx方向を長手方向とする異常(欠陥)1701が生じている場合、照明装置120から照射された光は、x方向に交差するy方向で光の振幅の打ち消しが大きくなる。このため、PC100では、y方向に移動させた縞パターンに対応する振幅画像データから、当該異常(欠陥)を検出できる。
FIG. 17 is a diagram showing the relationship between the abnormality (defect) 1701 and the stripe pattern on the
本変形例の検査システムにおいて、被検査体に生じる欠陥の長手方向がランダムな場合には、複数方向(例えば、x方向、及び当該x方向に交差するy方向等)で縞パターンを表示することで、欠陥の形状を問わずに当該欠陥の検出が可能となり、異常(欠陥)の検出精度を向上させることができる。また、異常の形状に合わせた縞パターンを投影することで、異常の検出精度を向上させることができる。 In the inspection system of this modification, when the longitudinal direction of the defect generated in the inspection object is random, the fringe pattern is displayed in a plurality of directions (for example, the x direction and the y direction crossing the x direction). Thus, the defect can be detected regardless of the shape of the defect, and the detection accuracy of the abnormality (defect) can be improved. Further, by projecting a fringe pattern that matches the shape of the abnormality, the abnormality detection accuracy can be improved.
(変形例3)
また、上述した変形例2は、x方向の異常検出と、y方向の異常検出と、を行う際に、縞パターンを切り替える手法に制限するものでない。そこで、変形例3では、発光制御部102が照明装置120に出力する縞パターンをx方向及びy方向同時に動かす例について説明する。
(Modification 3)
Moreover, the
図18は、本変形例の発光制御部102が照明装置120に出力する縞パターンの例を示した図である。図18に示される例では、発光制御部102が縞パターンを、方向1801に移動させる。
FIG. 18 is a diagram showing an example of a fringe pattern which the light emission control unit 102 of this modification outputs to the
図18に示される縞パターンは、x方向では1周期1802の縞パターンを含み、y方向では一周期1803の縞パターンを含んでいる。つまり、図18に示される縞パターンは、幅が異なる交差する方向に延びた複数の縞を有している。なお、x方向の縞パターンの幅と、y方向の縞パターンの幅と、を異ならせる必要がある。これにより、x方向に対応する時間相関画像データと、y方向に対応する時間相関画像データと、を生成する際に、対応する参照信号を異ならせることができる。なお、縞パターンによる光の強度の変化の周期(周波数)が変化すればよいので、縞の幅を変化させるのに代えて、縞パターン(縞)の移動速度を変化させてもよい。
The stripe pattern shown in FIG. 18 includes a stripe pattern with one
そして、時間相関カメラ110が、x方向の縞パターンに対応する参照信号に基づいて、x方向の縞パターンに対応する時間相関画像データを生成し、y方向の縞パターンに対応する参照信号に基づいて、y方向の縞パターンに対応する時間相関画像データを生成する。その後、PC100の制御部103は、x方向の縞パターンに対応する時間相関画像データに基づいて、異常検出を行った後、y方向の縞パターンに対応する時間相関画像データに基づいて、異常検出を行う。これにより、本変形例では、欠陥の生じた方向を問わずに検出が可能となり、異常(欠陥)の検出精度を向上させることができる。
Then, the
<複数の撮像領域および位置ずれ補正>
図19には、一つの被検査体150の検査面150aに設定された複数の撮像領域P1〜P14が例示されている。このように、一つの検査面150aには、複数の撮像領域P1〜P14が設定されうる。検査システム1により、撮像領域P1〜P14が、それぞれ撮像され、検査される。移動機構140は、被検査体150を、複数の撮像領域P1〜P14のうちいずれか一つの検査を行うための位置および姿勢に動かす。また、移動機構140は、撮像領域P1、撮像領域P2、撮像領域P3、・・・、撮像領域P14が、この順に切り替わるよう、被検査体150を動かす。撮像領域P1〜P14は、検査領域や、検査範囲、検査位置等とも称されうる。なお、本実施形態では、一例として、移動機構140により被検査体150を動かすことによって、撮像領域を変更するが、撮像システム1(時間相関カメラ110や、照明装置120、スクリーン130等)を動かすことによって撮像領域を変更してもよいし、双方を動かすことによって撮像領域を変更してもよい。
<Multiple imaging areas and displacement correction>
In FIG. 19, a plurality of imaging regions P1 to P14 set on the
図19から明らかとなるように、撮像領域P1〜P14の移動軌跡Lは、被検査体150の重心Cの回りを回るように、渦巻き状に移動している。このため、撮像領域を切り替える際、移動機構140によって、被検査体150を、最少の移動量(距離および角度)で移動させることが可能となる。よって、本実施形態によれば、複数の撮像領域P1〜P14の撮像に要する時間を、より短くすることができる。なお、撮像領域P1〜P14の移動軌跡Lが、全区間に渡って、重心Cの回りを回り、渦巻き状である必要は無く、移動軌跡Lの全区間のうちの少なくとも一部が、重心Cの回りを回ったり、渦巻き状であったりすれば、当該区間については、移動量を少なくできる。また、移動軌跡Lには、撮像領域がつづら折り状に(往復しながら)移動する区間が含まれてもよい。なお、重心Cは、視角上の重心(中心)であってもよい。なお、被検査体150は、検査物や、検査対象物とも称されうる。
As is clear from FIG. 19, the movement locus L of the imaging regions P <b> 1 to P <b> 14 moves spirally so as to go around the center of gravity C of the
また、図19に示すように、検査面150a上には、互いに大きさや形状が異なる撮像領域P1〜P14が設定されている。撮像領域P1〜P14は、例えば、各撮像領域P1〜P14内での検査面150aの法線ベクトルの差(角度差)が、所定値(例えば、数°以内)となるように設定されている。このような設定により、検査の精度が向上しやすい。
Further, as shown in FIG. 19, imaging regions P1 to P14 having different sizes and shapes are set on the
また、図1に示すように、制御部103は、ずれ補正部106を有する。ずれ補正部106は、時間相関カメラ110等の撮像部で撮像された画像に基づいて、被検査体150(検査体)の検査面の位置や、姿勢(傾き、方向)のずれを補正する。
Further, as illustrated in FIG. 1, the
また、図1に示すように、PC100には、記憶部109が含まれている。記憶部109には、例えば、ずれ補正部106での演算処理に必要なパラメータの値等が記憶されている。パラメータは、例えば、数値や、テーブル、マップ、関数(関数の係数)等である。
Further, as shown in FIG. 1, the
具体的に、ずれ補正部106は、例えば、検査面150aの角度を変化させた場合の図19に例示される複数(例えば二つ)の参照点r1,r2での輝度値の変化により、検査面150aの位置や傾きのずれを補正する。
Specifically, the
図20には、ずれ補正に関わる演算処理の手順の一例が示されている。まずは、補正タイミングとなった時点で(S11でYes)、制御部103は、時間相関カメラ110および照明装置120を制御し、被検査体150の検査面150aを撮像し(S12)、撮像した結果から参照点r1,r2の輝度値を取得する(S13)。これらS12およびS13は、移動機構140の制御によって得られる複数の角度について実行される。図19の例では、例えば、Z軸回りの複数の角度について、S12およびS13が実行される。
FIG. 20 shows an example of a procedure of arithmetic processing related to deviation correction. First, at the correction timing (Yes in S11), the
参照点r1,r2は、縞パターンが移動するX方向に互いに離間している。Z軸回りの検査面150aの角度の変化により、参照点r1,r2の位置がY方向に変化し、参照点r1,r2での法線ベクトルの方向、すなわち、光の反射角度が変化する。したがって、Z軸回りの検査面150aの角度の変化に応じて、時間相関カメラ110で撮像された画像(強度画像)における参照点r1,r2の輝度値が変化する。
The reference points r1 and r2 are separated from each other in the X direction in which the stripe pattern moves. By the change in the angle of the
図21には、複数の角度での一連の測定における、参照点r1における検査面150aのZ軸回りの角度と、輝度値との相関関係の一例が示され、図22には、当該測定における、参照点r2での検査面150aのZ軸回りの角度と、輝度値との相関関係の一例が示されている。図21に示されるように、参照点r1での反射光の輝度値は、角度θr1でピークとなる釣り鐘状の特性を示す。また、図22に示されるように、参照点r2での反射光の輝度値は、角度θr2でピークとなる釣り鐘状の特性を示す。図21,22の場合のように、参照点r1については、所定の角度範囲Rr1内の角度θr1で輝度値が最大になるとともに、当該角度θr1での輝度値の最大値が閾値Thと同じかあるいはより大きく、かつ、参照点r2については、所定の角度範囲Rr2内の角度θr2で輝度値が最大になるとともに、当該角度θr2での輝度値の最大値が閾値Thと同じかあるいはより大きい場合にあっては、ずれ補正部106は、ずれが許容範囲内であるとして、ずれの補正を実行しない。この場合、ずれ補正部106は、補正量を0と算出する(S14)。この場合、S15の位置ずれ補正は実行されない。あるいは、補正量が0の位置ずれ補正が実行されてもよい。
FIG. 21 shows an example of the correlation between the angle around the Z-axis of the
図23には、図21,22とは別のサンプルでの複数の角度での一連の測定における、参照点r1における検査面150aのZ軸回りの角度と、輝度値との相関関係の別の一例が示され、図24には、当該測定における、参照点r2での検査面150aのZ軸回りの角度と、輝度値との相関関係の一例が示されている。図23に示されるように、参照点r1での反射光の輝度値は、角度θr1でピークとなる釣り鐘状の特性を示す。また、図24に示されるように、参照点r2での反射光の輝度値は、角度θr2でピークとなる釣り鐘状の特性を示す。図23,24の場合のように、参照点r1については、所定の角度範囲Rr1内の角度θr1で輝度値が最大になっているものの、当該角度θr1での輝度値の最大値は閾値Thより低く、あるいは、参照点r2については、所定の角度範囲Rr2内の角度θr2で輝度値が最大になっているものの、当該角度θr2での輝度値の最大値は閾値Thより低い場合にあっては、ずれ補正部106は、ずれが許容範囲を超えているとして、ずれの補正を実行する。この場合、ずれ補正部106は、参照点r1の輝度値および参照点r2の輝度値に応じて、補正量を算出する(S14)。参照点r1,r2の輝度値の大きさに対応する補正量は、予め実験的に取得され、記憶部109に、例えば、数値や、テーブル、マップ、関数(関数の係数)等として記憶されている。よって、ずれ補正部106は、記憶部109を参照して、参照点r1,r2の輝度値に対応する補正量を取得する(算出する)ことができる。この場合、移動機構制御部101は、算出された補正量に応じて、移動機構140を動かし、位置ずれを補正する(S15)。
FIG. 23 shows another correlation between the angle around the Z-axis of the
ここで、仮に、一つの参照点のみの反射光の輝度値が大きくなるように姿勢を補正した場合にあっては、当該一つの参照点における反射光の輝度値の許容範囲が設定されている分、被検査体150が、検査面150aの他の領域の各点では反射光の輝度値が大きくならない姿勢である場合も考えられる。この点、本実施形態では、少なくとも二つの参照点での反射光の輝度値が所定範囲となるように被検査体150の姿勢を補正することで、位置ずれをより小さくすることができる。なお、参照点は二点以上であってもよい。また、上記の例では、Z軸回りの位置ずれの補正についてのみ説明したが、他の軸回りについても同様に補正を行うことができる。例えば、二つの参照点の反射光の輝度値に基づく補正を行った場合、当該二つの参照点を通る軸回りに被検査体150の回転姿勢を変化させながら、当該軸から離れた参照点の反射光の輝度値が所定範囲内となるように、被検査体150の位置ずれを補正してもよい。こうすれば、被検査体150をより精度良く位置決めすることができる。なお、上述した手法では、典型的には、例えば、縞パターンがZ方向に沿って延びるとともに、縞パターンがZ方向と直交する方向に移動し、二つの参照点が縞パターンが移動する方向に離間するよう、設定される。
Here, if the posture is corrected so that the luminance value of the reflected light of only one reference point is increased, the allowable range of the luminance value of the reflected light at the one reference point is set. It can be considered that the
以上、説明したように、本実施形態では、検査面150a上に設定される複数の撮像領域P1〜P14の移動軌跡Lは、被検査体150(検査物)の重心Cの回りを回るように、渦巻き状に移動している。このため、撮像領域を切り替える際、移動機構140によって、被検査体150を、最少の移動量(距離および角度)で移動させることが可能となる。よって、本実施形態によれば、複数の撮像領域P1〜P14の撮像に要する時間を、より短くすることができる。
As described above, in the present embodiment, the movement trajectories L of the plurality of imaging regions P1 to P14 set on the
また、本実施形態では、撮像領域P1〜P14には、互いに大きさや形状が異なる複数の撮像領域が含まれている。撮像領域P1〜P14は、例えば、各撮像領域P1〜P14内での検査面150aの法線ベクトルの差(角度差)が、所定値(例えば、数°以内)となるように設定されている。よって、本実施形態によれば、検査の精度が向上しやすい。
Further, in the present embodiment, the imaging areas P1 to P14 include a plurality of imaging areas having different sizes and shapes. The imaging areas P1 to P14 are set so that, for example, the normal vector difference (angle difference) of the
また、本実施形態では、ずれ補正部106は、例えば、検査面150aの角度を変化させた場合の図19に例示される複数(例えば二つ)の参照点r1,r2での輝度値の変化により、検査面150aの位置や傾きのずれを補正する。よって、本実施形態によれば、検査の精度がより向上しやすい。また、複数の参照点r1,r2での輝度値の変化に基づいてずれを補正することにより、一つの参照点での輝度値の変化に基づいてずれを補正する場合に比べて、検査の精度がより向上しやすい。
In the present embodiment, the
上述した実施形態のPC100で実行される検査プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
The inspection program executed by the
また、上述した実施形態のPC100で実行される検査プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述した実施形態のPC100で実行される検査プログラムおよび較正プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
Further, the inspection program executed by the
本発明のいくつかの実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態及び変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形例は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。 Although some embodiments and modifications of the present invention have been described, these embodiments and modifications are presented as examples and are not intended to limit the scope of the invention. These novel embodiments and modifications can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. These embodiments and modifications thereof are included in the scope and gist of the invention, and are included in the invention described in the claims and equivalents thereof.
1…検査システム、104…振幅−位相画像生成部(演算処理部)、106…ずれ補正部、110…時間相関カメラ(撮像部、時間相関画像生成部)、120…照明装置(照明部)、130…スクリーン(照明部、発光部)、140…移動機構、150…被検査体(検査物)、150a…検査面、C…重心、L…移動軌跡(重心の回りを回るよう移動する区間、渦巻き状に移動する区間)、P1〜P14…撮像領域、r1,r2…参照点。
DESCRIPTION OF
Claims (5)
前記検査面上で光を連続的な時間経過に応じて空間的に変化させることにより前記検査面に前記撮像システムの1露光時間内での光の強度の連続的かつ周期的な時間変化および空間変化を与える面的な照明部と、
前記時間相関画像より、前記検査面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴を算出する、演算処理部と、
前記検査面上に設定された複数の撮像領域の撮像が行われるよう、前記検査物および前記撮像システムのうち少なくとも一方を動かす移動機構と、
を備え、
前記検査面上での前記撮像領域の移動軌跡に、前記検査物の重心の回りを回るよう移動する区間が含まれる、検査システム。 The intensity signal of the reflected light from the inspection surface of the inspection object and the temporal change of the light intensity periodically based on the spatial change according to the passage of time of the light intensity given on the inspection surface A time correlation image generation unit that generates a time correlation image by an imaging system that multiplies a reference signal that changes;
Continuous and periodic time variation of light intensity and space within one exposure time of the imaging system on the inspection surface by spatially changing the light according to continuous time progress on the inspection surface A surface lighting unit that gives change,
An arithmetic processing unit that calculates, from the time correlation image, a feature corresponding to the distribution of the normal vector of the inspection surface and detecting an abnormality by at least one of a difference from the surroundings and a difference from the reference surface When,
As the imaging of a plurality of imaging areas set on the test surface is performed, a moving mechanism for moving at least one of the inspection object and before SL imaging system,
Equipped with
The inspection system according to claim 1, wherein the movement trajectory of the imaging area on the inspection surface includes a section moving so as to turn around the center of gravity of the inspection object.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015110446A JP6553412B2 (en) | 2015-05-29 | 2015-05-29 | Inspection system |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015110446A JP6553412B2 (en) | 2015-05-29 | 2015-05-29 | Inspection system |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016224707A JP2016224707A (en) | 2016-12-28 |
JP6553412B2 true JP6553412B2 (en) | 2019-07-31 |
Family
ID=57748260
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015110446A Expired - Fee Related JP6553412B2 (en) | 2015-05-29 | 2015-05-29 | Inspection system |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6553412B2 (en) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2018112471A (en) * | 2017-01-11 | 2018-07-19 | リコーエレメックス株式会社 | Inspection system and inspection method |
JP2018112470A (en) * | 2017-01-11 | 2018-07-19 | リコーエレメックス株式会社 | Inspection system and inspection method |
JP6392922B1 (en) | 2017-03-21 | 2018-09-19 | ファナック株式会社 | Apparatus for calculating region that is not subject to inspection of inspection system, and method for calculating region that is not subject to inspection |
CN112689752A (en) * | 2018-09-20 | 2021-04-20 | 美国西门子医学诊断股份有限公司 | System, method and apparatus for autonomous diagnostic validation of optical components of a vision-based inspection system |
CN111753860B (en) * | 2019-03-27 | 2024-02-02 | 杭州海康威视数字技术股份有限公司 | Analysis anomaly detection method and device |
JP2022093035A (en) * | 2020-12-11 | 2022-06-23 | 日立Astemo株式会社 | Device and method for generating test route |
-
2015
- 2015-05-29 JP JP2015110446A patent/JP6553412B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2016224707A (en) | 2016-12-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6316068B2 (en) | Inspection system and inspection method | |
JP6433268B2 (en) | Inspection system and inspection method | |
JP6553412B2 (en) | Inspection system | |
JP6542586B2 (en) | Inspection system | |
WO2018159825A1 (en) | Inspection system and inspection method | |
JP6682251B2 (en) | Inspection system and inspection method | |
JP6529248B2 (en) | Inspection system and flexible lighting device | |
JP6276092B2 (en) | Inspection system and inspection method | |
JP6420131B2 (en) | Inspection system and inspection method | |
JP2018028527A (en) | Inspection system | |
JP6909378B2 (en) | Inspection system | |
JP2017101979A (en) | Inspection system | |
JP2019045346A (en) | Inspection device | |
JP6781430B2 (en) | Inspection system | |
JP6902684B2 (en) | Image processing equipment and inspection system | |
JP6703415B2 (en) | Inspection device and inspection method | |
JP2018116026A (en) | Illumination device and light-transmissive member | |
JP6529247B2 (en) | Calibration system and inspection system | |
JP6909377B2 (en) | Inspection system and inspection method | |
JP6826813B2 (en) | Inspection equipment and inspection method | |
JP6945106B2 (en) | Inspection system | |
JP2024017231A (en) | Inspection system and inspection method | |
JP2020012816A (en) | Detection system and detection method | |
JP2018205039A (en) | Image processing device and inspection system | |
JP2024017229A (en) | Inspection system and inspection method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20180309 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190322 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20190507 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20190612 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20190625 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20190704 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6553412 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
LAPS | Cancellation because of no payment of annual fees |