Nothing Special   »   [go: up one dir, main page]

JP6553412B2 - Inspection system - Google Patents

Inspection system Download PDF

Info

Publication number
JP6553412B2
JP6553412B2 JP2015110446A JP2015110446A JP6553412B2 JP 6553412 B2 JP6553412 B2 JP 6553412B2 JP 2015110446 A JP2015110446 A JP 2015110446A JP 2015110446 A JP2015110446 A JP 2015110446A JP 6553412 B2 JP6553412 B2 JP 6553412B2
Authority
JP
Japan
Prior art keywords
inspection
image data
light
imaging
time correlation
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2015110446A
Other languages
Japanese (ja)
Other versions
JP2016224707A (en
Inventor
良浩 関根
良浩 関根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Elemex Corp
Original Assignee
Ricoh Elemex Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Elemex Corp filed Critical Ricoh Elemex Corp
Priority to JP2015110446A priority Critical patent/JP6553412B2/en
Publication of JP2016224707A publication Critical patent/JP2016224707A/en
Application granted granted Critical
Publication of JP6553412B2 publication Critical patent/JP6553412B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明の実施形態は、検査システムに関する。   Embodiments of the present invention relate to inspection systems.

従来、被検査体に光を照射し、当該被検査体の表面からの反射光を画像データとして撮像し、当該画像データの輝度変化等に基づいて、被検査体の異常を検出する技術が提案されている。   Conventionally, there has been proposed a technique for irradiating an object to be inspected, imaging reflected light from the surface of the object to be inspected as image data, and detecting an abnormality of the object to be inspected based on a change in luminance of the image data. It is done.

その際に被検査体に照射する光の強度を周期的に変化させ、撮像された画像データの輝度変化に基づいて、異常を検出する技術が提案されている。   At that time, a technique has been proposed in which the intensity of light to be irradiated to the inspection object is periodically changed, and an abnormality is detected based on a change in luminance of captured image data.

特開2014−2125号公報JP 2014-2125 A

この種の検査システムでは、検査面を複数回に分けて撮像した画像に基づいて検査する場合がある。複数回の撮像を行うにあたって、手間がかかるのは好ましくない。   In this type of inspection system, inspection may be performed on the basis of an image obtained by dividing the inspection surface a plurality of times. It is not preferable that it takes time and effort to perform multiple times of imaging.

そこで、本発明の課題の一つは、例えば、よりスムーズに複数の撮像領域(検査領域)を撮像することが可能な、検査システムを得ることである。   Therefore, one of the problems of the present invention is to obtain an inspection system capable of imaging a plurality of imaging regions (inspection regions) more smoothly, for example.

実施形態の検査システムは、例えば、検査物の検査面からの反射光の強度信号と、上記検査面上に与えられる光の強度の時間の経過に応じた空間的な変化に基づく光の強度の時間変化に対応して周期的に変化する参照信号と、を乗算する撮像システムによって時間相関画像を生成する時間相関画像生成部と、上記検査面上で光を連続的な時間経過に応じて空間的に変化させることにより上記検査面に上記撮像システムの1露光時間内での光の強度の連続的かつ周期的な時間変化および空間変化を与える面的な照明部と、上記時間相関画像より、上記検査面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴を算出する、演算処理部と、上記検査面上に設定された複数の撮像領域の撮像が行われるよう、上記検査物および上記撮像システムのうち少なくとも一方を動かす移動機構と、を備え、上記検査面上での上記撮像領域の移動軌跡に、上記検査物の重心の回りを回るよう移動する区間が含まれる。 The inspection system according to the embodiment includes, for example, an intensity signal of reflected light from an inspection surface of an inspection object, and light intensity based on a spatial change according to the passage of time of the intensity of light provided on the inspection surface. A temporal correlation image generation unit that generates a temporal correlation image by an imaging system that multiplies a reference signal that changes periodically in response to a temporal change, and a space corresponding to continuous time lapse of light on the inspection surface According to the planar illumination unit that continuously and periodically changes temporally and spatially the intensity of light within one exposure time of the imaging system by changing the pattern periodically, and the temporal correlation image, An arithmetic processing unit that calculates a feature that detects an abnormality based on at least one of the difference from the surrounding area and the difference from the reference surface, the feature corresponding to the distribution of the normal vector of the inspection plane; Set to Is more like the imaging of the imaging area is performed with, and a moving mechanism for moving at least one of the inspection object and the imaging system, the locus of movement of the imaging area on the test surface, the A section that moves around the center of gravity of the inspection object is included.

図1は、実施形態の較正システムを含む検査システムの構成例を示した図である。FIG. 1 is a diagram showing a configuration example of an inspection system including the calibration system of the embodiment. 図2は、実施形態の時間相関カメラの構成を示したブロック図である。FIG. 2 is a block diagram illustrating a configuration of the time correlation camera of the embodiment. 図3は、実施形態の時間相関カメラで時系列順に蓄積されたフレームを表した概念図である。FIG. 3 is a conceptual diagram showing frames accumulated in chronological order by the temporal correlation camera of the embodiment. 図4は、実施形態の照明装置が照射する縞パターンの一例を示した図である。FIG. 4: is the figure which showed an example of the fringe pattern which the illuminating device of embodiment irradiates. 図5は、実施形態の時間相関カメラによる、被検査体の異常の第1の検出例を示した図である。FIG. 5 is a diagram showing a first example of detection of an abnormality of an object under test by the time correlation camera of the embodiment. 図6は、図5に示される異常が被検査体にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。FIG. 6 is a diagram showing an example of the amplitude of light which changes in response to an abnormality shown in FIG. 5 when the object under test has the abnormality. 図7は、実施形態の時間相関カメラによる、被検査体の異常の第2の検出例を示した図である。FIG. 7 is a diagram showing a second example of detection of an abnormality of the object under inspection by the time correlation camera of the embodiment. 図8は、実施形態の時間相関カメラによる、被検査体の異常の第3の検出例を示した図である。FIG. 8 is a diagram showing a third example of detection of an abnormality of the object under inspection by the time correlation camera of the embodiment. 図9は、実施形態の発光制御部が照明装置に出力する縞パターンの例を示した図である。FIG. 9 is a diagram illustrating an example of a fringe pattern output to the lighting device by the light emission control unit of the embodiment. 図10は、実施形態のスクリーンを介した後の縞パターンを表した波の形状の例を示した図である。FIG. 10 is a diagram illustrating an example of a wave shape representing a stripe pattern after passing through the screen of the embodiment. 図11は、実施形態の異常検出処理部における振幅に基づく異常検出処理の手順を示すフローチャートである。FIG. 11 is a flowchart illustrating a procedure of abnormality detection processing based on amplitude in the abnormality detection processing unit of the embodiment. 図12は、実施形態の異常検出処理部における、位相に基づく異常検出処理の手順を示すフローチャートである。FIG. 12 is a flowchart illustrating a procedure of an abnormality detection process based on a phase in the abnormality detection processing unit of the embodiment. 図13は、実施形態の異常検出処理部における振幅および強度に基づく異常検出処理の手順を示すフローチャートである。FIG. 13 is a flowchart illustrating a procedure of abnormality detection processing based on amplitude and intensity in the abnormality detection processing unit of the embodiment. 図14は、実施形態の検査システムにおける被検査体の検査処理の手順を示すフローチャートである。FIG. 14 is a flowchart showing the procedure of the inspection process of the inspection object in the inspection system of the embodiment. 図15は、変形例2の発光制御部が出力する縞パターンの切り替え例を示した図である。FIG. 15 is a diagram illustrating an example of switching the fringe pattern output by the light emission control unit of the second modification. 図16は、変形例2の発光制御部が、異常(欠陥)を含めた表面に縞パターンを照射した例を示した図である。FIG. 16 is a diagram illustrating an example in which the light emission control unit of Modification 2 irradiates the surface including the abnormality (defect) with a stripe pattern. 図17は、y方向に縞パターンを変化させた場合における、異常(欠陥)とスクリーン上の縞パターンの関係を示した図である。FIG. 17 is a diagram showing the relationship between the abnormality (defect) and the stripe pattern on the screen when the stripe pattern is changed in the y direction. 図18は、変形例3の発光制御部が照明装置に出力する縞パターンの例を示した図である。FIG. 18 is a diagram illustrating an example of a fringe pattern output from the light emission control unit of Modification 3 to the illumination device. 図19は、実施形態の検査システムにおいて検査面に設定された複数の撮像領域およびその撮像順序(検査順序)が示された例示的な模式図である。FIG. 19 is an exemplary schematic diagram illustrating a plurality of imaging regions set on the inspection surface and the imaging order (inspection order) in the inspection system of the embodiment. 図20は、実施形態の検査システムにおける位置ずれ補正の例示的なフローチャートである。FIG. 20 is an exemplary flowchart of misregistration correction in the inspection system of the embodiment. 図21は、実施形態の検査システムによる検査面の基準軸回りの回転角度と第1の参照点の輝度値との相関関係の一例が示されたグラフである。FIG. 21 is a graph showing an example of the correlation between the rotation angle around the reference axis of the inspection surface and the luminance value of the first reference point by the inspection system of the embodiment. 図22は、実施形態の検査システムによる検査面の基準軸回りの回転角度と第2の参照点の輝度値との相関関係の一例が示されたグラフである。FIG. 22 is a graph showing an example of the correlation between the rotation angle around the reference axis of the inspection surface and the luminance value of the second reference point by the inspection system of the embodiment. 図23は、実施形態の検査システムによる検査面の基準軸回りの回転角度と第1の参照点の輝度値との相関関係の別の一例が示されたグラフである。FIG. 23 is a graph showing another example of the correlation between the rotation angle around the reference axis of the inspection surface by the inspection system of the embodiment and the luminance value of the first reference point. 図24は、実施形態の検査システムによる検査面の基準軸回りの回転角度と第1の参照点の輝度値との相関関係の別の一例が示されたグラフである。FIG. 24 is a graph showing another example of the correlation between the rotation angle about the reference axis of the inspection surface by the inspection system of the embodiment and the luminance value of the first reference point.

<時間相関カメラの基本構成>
本実施形態の検査システムについて説明する。実施形態の検査システム1は、被検査体を検査するために様々な構成を備えている。図1は、本実施形態の検査システムの構成例を示した図である。図1に示されるように、本実施形態の検査システムは、PC100と、時間相関カメラ110と、照明装置120と、スクリーン130と、移動機構140と、を備えている。時間相関カメラ110は、撮像部の一例である。
<Basic configuration of time correlation camera>
The inspection system of this embodiment will be described. Inspection system 1 of an embodiment is provided with various composition in order to inspect a to-be-inspected object. FIG. 1 is a view showing a configuration example of an inspection system of the present embodiment. As shown in FIG. 1, the inspection system of the present embodiment includes a PC 100, a time correlation camera 110, a lighting device 120, a screen 130, and a moving mechanism 140. The time correlation camera 110 is an example of an imaging unit.

移動機構140は、被検査体150を固定するために用いられ、PC100からの制御に応じて、時間相関カメラ110が撮影可能な被検査体150の表面の位置と向きを変化させる。   The moving mechanism 140 is used to fix the inspection object 150 and changes the position and orientation of the surface of the inspection object 150 that can be imaged by the time correlation camera 110 according to control from the PC 100.

照明装置120は、被検査体150に光を照射する装置であって、PC100からの縞パターンに従って、照射する光の強度を領域単位で制御できる。さらに、照明装置120は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置120は、光の強度の周期的な時間変化及び空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。   The illumination device 120 is a device that irradiates light to the inspection object 150, and can control the intensity of the light to be irradiated in area units in accordance with the stripe pattern from the PC 100. Furthermore, the lighting device 120 can control the intensity of light in the area unit according to the periodic time transition. In other words, the lighting device 120 can give a periodic temporal change and a spatial change of the light intensity. A specific light intensity control method will be described later.

スクリーン130は、照明装置120から出力された光を拡散させた上で、被検査体150に対して面的に光を照射する。本実施形態のスクリーン130は、照明装置120から入力された周期的な時間変化及び空間変化が与えられた光を、面的に被検査体150に照射する。なお、照明装置120とスクリーン130との間には、集光用のフレネルレンズ等の光学系部品(図示されず)が設けられてもよい。   The screen 130 diffuses the light output from the illuminating device 120 and then irradiates the test object 150 with light in a plane. The screen 130 according to the present embodiment irradiates the object 150 in a surface with the light input from the illumination device 120 and subjected to periodic time change and space change. In addition, optical system components (not shown), such as a Fresnel lens for condensing, may be provided between the illuminating device 120 and the screen 130.

なお、本実施形態は、照明装置120とスクリーン130とを組み合わせて、光強度の周期的な時間変化及び空間変化を与える面的な照射部を構成する例について説明するが、このような組み合わせに制限するものではなく、例えば、LEDを面的に配置して照明部を構成してもよい。   In addition, although this embodiment demonstrates the example which comprises the planar irradiation part which combines the illuminating device 120 and the screen 130, and gives the periodic time change and spatial change of light intensity, such a combination is demonstrated. For example, the illumination unit may be configured by arranging LEDs in a plane.

時間相関カメラ110は、光学系210と、イメージセンサ220と、データバッファ230と、制御部240と、参照信号出力部250と、を備えている。図2は、本実施形態の時間相関カメラ110の構成を示したブロック図である。   The time correlation camera 110 includes an optical system 210, an image sensor 220, a data buffer 230, a control unit 240, and a reference signal output unit 250. FIG. 2 is a block diagram showing the configuration of the time correlation camera 110 according to the present embodiment.

光学系210は、撮影レンズ等を含み、時間相関カメラ110の外部の被写体(被検査体を含む)からの光束を透過し、その光束により形成される被写体の光学像を結像させる。   The optical system 210 includes a photographing lens and the like, transmits a light flux from a subject (including a subject to be inspected) outside the time correlation camera 110, and forms an optical image of the subject formed by the light flux.

イメージセンサ220は、光学系210を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサとする。   The image sensor 220 is a sensor that can output the intensity of light incident through the optical system 210 as a light intensity signal at high speed for each pixel.

本実施形態の光強度信号は、検査システムの照明装置120が被写体(被検査体を含む)に対して光を照射し、当該被写体からの反射光を、イメージセンサ220が受け取ったものである。   The light intensity signal of the present embodiment is a signal obtained by the illumination device 120 of the inspection system irradiating a subject (including an object to be inspected) with light and the image sensor 220 receiving reflected light from the subject.

イメージセンサ220は、例えば従来のものと比べて高速に読み出し可能なセンサであり、行方向(x方向)、列方向(y方向)の2種類の方向に画素が配列された2次元平面状に構成されたものとする。そして、イメージセンサ220の各画素を、画素P(1,1),……,P(i,j),……,P(X,Y)とする(なお、本実施形態の画像サイズをX×Yとする。)。なお、イメージセンサ220の読み出し速度を制限するものではなく、従来と同様であってもよい。   The image sensor 220 is, for example, a sensor that can be read out at a higher speed than a conventional sensor, and has a two-dimensional planar shape in which pixels are arranged in two kinds of directions: a row direction (x direction) and a column direction (y direction). It shall be constructed. Each pixel of the image sensor 220 is defined as a pixel P (1,1),..., P (i, j),..., P (X, Y) (Note that the image size in this embodiment is X X Y.). Note that the reading speed of the image sensor 220 is not limited, and may be the same as that in the related art.

イメージセンサ220は、光学系210によって透過された、被写体(被検査体を含む)からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号(撮影信号)で構成される、2次元平面状のフレームを生成し、制御部240に出力する。本実施形態のイメージセンサ220は、読み出し可能な単位時間毎に、当該フレームを出力する。   The image sensor 220 receives a light beam from a subject (including an object to be inspected) transmitted by the optical system 210 and photoelectrically converts the light intensity signal (photographing) indicating the intensity of light reflected from the subject. And generates a two-dimensional planar frame, which is output to the control unit 240. The image sensor 220 of the present embodiment outputs the frame for each readable unit time.

本実施形態の制御部240は、例えばCPU、ROM、及びRAM等で構成され、ROMに格納された検査プログラムを実行することで、転送部241と、読出部242と、強度画像用重畳部243と、第1の乗算器244と、第1の相関画像用重畳部245と、第2の乗算器246と、第2の相関画像用重畳部247と、画像出力部248と、を実現する。なお、CPU等で実現することに制限するものではなく、FPGA、またはASICで実現してもよい。   The control unit 240 according to the present embodiment includes, for example, a CPU, a ROM, and a RAM, and executes the inspection program stored in the ROM to transfer the transfer unit 241, the reading unit 242, and the intensity image superimposing unit 243. And a first multiplier 244, a first correlation image superimposing unit 245, a second multiplier 246, a second correlation image superimposing unit 247, and an image output unit 248. Note that the present invention is not limited to being realized by a CPU or the like, and may be realized by an FPGA or an ASIC.

転送部241は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、データバッファ230に、時系列順に蓄積する。   The transfer unit 241 stores, in the data buffer 230, the frames composed of the light intensity signal, which are output from the image sensor 220, in chronological order.

データバッファ230は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。   The data buffer 230 accumulates frames composed of light intensity signals output from the image sensor 220 in time series.

図3は、本実施形態の時間相関カメラ110で時系列順に蓄積されたフレームを表した概念図である。図3に示されるように、本実施形態のデータバッファ230には、時刻t(t=t0,t1,t2,……,tn)毎の複数の光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)の組み合わせで構成された複数のフレームFk(k=1,2,……,n)が、時系列順に蓄積される。なお、時刻tで作成される一枚のフレームは、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)で構成される。   FIG. 3 is a conceptual diagram showing frames accumulated in time series order by the time correlation camera 110 of the present embodiment. As shown in FIG. 3, the data buffer 230 of the present embodiment stores a plurality of light intensity signals G (1, 1, t), every time t (t = t0, t1, t2,..., Tn). ..., G (i, j, t), ..., G (X, Y, t) composed of a plurality of frames Fk (k = 1, 2, ..., n) are in chronological order It is accumulated. Note that one frame created at time t is a light intensity signal G (1, 1, t),..., G (i, j, t), ..., G (X, Y, t). Configured

本実施形態の光強度信号(撮像信号)G(1,1,t),……,G(i,j,t),……,G(X,Y,t)には、フレーム画像Fk(k=1,2,……,n)を構成する各画素P(1,1),……,P(i,j),……,P(X,Y)が対応づけられている。   A light intensity signal (imaging signal) G (1,1, t),..., G (i, j, t),. Each pixel P (1,1),..., P (i, j),..., P (X, Y) constituting k = 1, 2,.

イメージセンサ220から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、本実施形態は、解像度、感度、及びコスト等を考慮して、イメージセンサ220がモノクロの画像データを生成する例について説明するが、イメージセンサ220としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。   The frame output from the image sensor 220 includes only a light intensity signal, in other words, it can be considered as monochrome image data. In this embodiment, an example in which the image sensor 220 generates monochrome image data in consideration of resolution, sensitivity, cost, and the like will be described. However, the image sensor 220 is not limited to a monochrome image sensor. Alternatively, a color image sensor may be used.

図2に戻り、本実施形態の読出部242は、データバッファ230から、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)をフレーム単位で、時系列順に読み出して、第1の乗算器244と、第2の乗算器246と、強度画像用重畳部243と、に出力する。   Returning to FIG. 2, the reading unit 242 of the present embodiment receives the light intensity signals G (1,1, t),..., G (i, j, t),. Y, t) are read out in frame-by-frame order and output to the first multiplier 244, the second multiplier 246, and the intensity image superimposing unit 243.

本実施形態の時間相関カメラ110は、読出部242の出力先毎に画像データを生成する。換言すれば、時間相間カメラ110は、3種類の画像データを作成する。   The time correlation camera 110 of the present embodiment generates image data for each output destination of the reading unit 242. In other words, the time phase camera 110 creates three types of image data.

本実施形態の時間相関カメラ110は、3種類の画像データとして、強度画像データと、2種類の時間相関画像データと、を生成する。なお、本実施形態は、3種類の画像データを生成することに制限するものではなく、強度画像データを生成しない場合や、1種類又は3種類以上の時間相関画像データを生成する場合も考えられる。時間相関カメラ110は、時間相関画像生成部の一例である。   The time correlation camera 110 of this embodiment generates intensity image data and two types of time correlation image data as three types of image data. Note that the present embodiment is not limited to generating three types of image data, and it may be possible to generate no intensity image data or to generate one or more types of time-correlated image data. . The temporal correlation camera 110 is an example of a temporal correlation image generation unit.

本実施形態のイメージセンサ220は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮影に必要な露光時間分の光強度信号が必要になる。そこで、本実施形態では、強度画像用重畳部243が、撮影に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値(光の強度を表す値)G(x,y)は、以下に示す式(1)から導き出すことができる。なお、露光時間は、t0とtnの時間差とする。   As described above, the image sensor 220 of the present embodiment outputs a frame composed of a light intensity signal every unit time. However, in order to generate normal image data, a light intensity signal corresponding to the exposure time necessary for photographing is required. Therefore, in the present embodiment, the intensity image superimposing unit 243 generates intensity image data by superimposing a plurality of frames for an exposure time necessary for photographing. In addition, each pixel value (value representing the light intensity) G (x, y) of the intensity image data can be derived from the equation (1) shown below. The exposure time is the time difference between t0 and tn.

Figure 0006553412
Figure 0006553412

これにより、従来のカメラの撮影と同様に、被写体(被検査体を含む)が撮影された強度画像データが生成される。そして、強度画像用重畳部243は、生成した強度画像データを、画像出力部248に出力する。   Thereby, the intensity image data in which the subject (including the object to be inspected) is photographed is generated in the same manner as the conventional camera photographing. Then, the intensity image superimposing unit 243 outputs the generated intensity image data to the image output unit 248.

時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、本実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号と乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。   Temporally correlated image data is image data indicating changes in light intensity depending on time transition. That is, in the present embodiment, for each frame in time series order, the light intensity signal included in the frame is multiplied by the reference signal indicating the time transition, and the reference signal, the light intensity signal, and the time that is the multiplication result Temporal correlation image data is generated by generating a temporal correlation value frame composed of correlation values and superimposing a plurality of temporal correlation value frames.

ところで、時間相関画像データを用いて、被検査体の異常を検出するためには、イメージセンサ220に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このために、照明装置120が、上述したように、スクリーン130を介して周期的に時間変化および縞の空間的な移動を与えるような、面的な光の照射を行うこととした。   By the way, in order to detect abnormality of the object to be inspected using the time correlation image data, it is necessary to change the light intensity signal input to the image sensor 220 in synchronization with the reference signal. For this purpose, as described above, the illumination device 120 performs planar light irradiation that periodically gives temporal changes and spatial movement of the stripes via the screen 130.

本実施形態では、2種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、本実施形態では、複素正弦波e-jωtを用いる。なお、角周波数ω、時刻tとする。参照信号を表す複素正弦波e-jωtが、上述した露光時間(換言すれば強度画像データ、時間相関画像を生成するために必要な時間)の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置120およびスクリーン130等の照明部によって形成された面的かつ動的な光は、被検査体150の表面(反射面)の各位置で第一の周期(時間周期)での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第二の周期(空間周期)での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック(法線ベクトルの分布等)に応じて複素変調される。時間相関カメラ110は、表面で複素変調された光を受光し、第一の周期の参照信号を用いて直交検波(直交復調)することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。 In the present embodiment, two types of time correlation image data are generated. The reference signal may be a signal representing time transition, but in the present embodiment, a complex sine wave e −jωt is used. It is assumed that the angular frequency is ω and the time is t. The angular frequency ω is such that the complex sine wave e −jωt representing the reference signal correlates with one period of the above-described exposure time (in other words, the time required to generate the intensity image data and the time correlation image). It shall be set. In other words, the planar and dynamic light formed by the illumination unit 120 and the illumination unit such as the screen 130 is in a first period (time period) at each position on the surface (reflection surface) of the inspection object 150. And a distribution of increase or decrease in spatial irradiation intensity in a second period (spatial period) along at least one direction along the surface. When this planar light is reflected by the surface, it is complex-modulated according to the specifications of the surface (normal vector distribution, etc.). The time correlation camera 110 receives the light complex-modulated on the surface and performs quadrature detection (orthogonal demodulation) using the reference signal of the first period, thereby obtaining time correlation image data as a complex signal. By modulation / demodulation based on such complex time correlation image data, it is possible to detect features corresponding to the surface normal vector distribution.

複素正弦波e-jωtは、e-jωt=cos(ωt)−j・sin(ωt)と表すこともできる。従って、時間相関画像データの各画素値C(x,y)は、以下に示す式(2)から導き出すことができる。 The complex sine wave e −jωt can also be expressed as e −jωt = cos (ωt) −j · sin (ωt). Accordingly, each pixel value C (x, y) of the time correlation image data can be derived from the following equation (2).

Figure 0006553412
Figure 0006553412

本実施形態では、式(2)において、実数部を表す画素値C1(x,y)と、虚数部を表す画素値C2(x,y)と、に分けて2種類の時間相関画像データを生成する。   In this embodiment, in equation (2), two kinds of time correlation image data are divided into a pixel value C1 (x, y) representing a real part and a pixel value C 2 (x, y) representing an imaginary part. Generate

このため、参照信号出力部250は、第1の乗算器244と、第2の乗算器246と、に対してそれぞれ異なる参照信号を生成し、出力する。本実施形態の参照信号出力部250は、複素正弦波e-jωtの実数部に対応する第1の参照信号cosωtを第1の乗算器244に出力し、複素正弦波e-jωtの虚数部に対応する第2の参照信号sinωtを第2の乗算器246に出力する。このように本実施形態の参照信号出力部250は、互いにヒルベルト変換対をなす正弦波および余弦波の時間関数として表される2種類の参照信号を出力する例について説明するが、参照信号は時間関数のような時間遷移に応じて変化する参照信号であればよい。 Therefore, the reference signal output unit 250 generates and outputs different reference signals to the first multiplier 244 and the second multiplier 246, respectively. Reference signal output section 250 of this embodiment outputs the first reference signal cosωt corresponding to the real part of the complex sine wave e -Jeiomegati the first multiplier 244, the imaginary part of the complex sine wave e -Jeiomegati The corresponding second reference signal sin ωt is output to the second multiplier 246. As described above, the reference signal output unit 250 according to the present embodiment describes an example in which two types of reference signals expressed as time functions of a sine wave and a cosine wave that form a Hilbert transform pair are described. It may be a reference signal that changes according to time transition such as a function.

そして、第1の乗算器244は、読出部242から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部250から入力された複素正弦波e-jωtの実数部cosωtを乗算する。 Then, the first multiplier 244 calculates the real part cosωt of the complex sine wave e −jωt input from the reference signal output unit 250 for each light intensity signal of the frame in units of frames input from the reading unit 242. Multiply.

第1の相関画像用重畳部245は、撮影に必要な露光時間分の複数のフレームについて、第1の乗算器244の乗算結果を画素毎に重畳する処理を行う。これにより、第1の時間相関画像データの各画素値C1(x,y)が、以下の式(3)から導出される。   The first correlation image superimposing unit 245 performs a process of superimposing the multiplication result of the first multiplier 244 on a pixel-by-pixel basis for a plurality of frames for an exposure time necessary for photographing. Thereby, each pixel value C1 (x, y) of the first time correlation image data is derived from the following equation (3).

Figure 0006553412
Figure 0006553412

そして、第2の乗算器246は、読出部242から入力されたフレームの光強度信号に対して、参照信号出力部250から入力された複素正弦波e-jωtの虚数部sinωtを乗算する。 The second multiplier 246 multiplies the light intensity signal of the frame input from the reading unit 242 by the imaginary part sin ωt of the complex sine wave e −jωt input from the reference signal output unit 250.

第2の相関画像用重畳部247は、撮影に必要な露光時間分の複数のフレームについて、第2の乗算器246の乗算結果を画素毎に重畳する処理を行う。これにより、第2の時間相関画像データの各画素値C2(x,y)が、以下の式(4)から導出される。   The second correlation image superimposing unit 247 performs a process of superimposing the multiplication result of the second multiplier 246 on a pixel-by-pixel basis for a plurality of frames corresponding to the exposure time necessary for photographing. Thereby, each pixel value C2 (x, y) of the second time correlation image data is derived from the following equation (4).

Figure 0006553412
Figure 0006553412

上述した処理を行うことで、2種類の時間相関画像データ、換言すれば2自由度を有する時間相関画像データを生成できる。   By performing the processing described above, two types of time correlation image data, in other words, time correlation image data having two degrees of freedom can be generated.

また、本実施形態は、参照信号の種類を制限するものでない。例えば、本実施形態では、複素正弦波e-jωtの実部と虚部の2種類の時間相関画像データを作成するが、光の振幅と、光の位相と、による2種類の画像データを生成してもよい。 Also, the present embodiment does not limit the type of reference signal. For example, in this embodiment, two types of time-correlated image data of the real part and the imaginary part of the complex sine wave e −jωt are created, but two types of image data based on the light amplitude and the light phase are generated. May be.

なお、本実施形態の時間相関カメラ110は、時間相関画像データとして、複数系統分作成可能とする。これにより、例えば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる2種類の時間相関画像データを、縞の幅毎に作成可能とする。このために、時間相関カメラ110は、2個の乗算器と2個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部250は、系統毎に適した角周波数ωによる参照信号を出力可能とする。   Note that the time correlation camera 110 of the present embodiment can create a plurality of systems as time correlation image data. Thereby, for example, when light in which stripes having a plurality of types of widths are combined is irradiated, two types of time correlation image data based on the real part and the imaginary part described above can be created for each stripe width. For this purpose, the time correlation camera 110 includes a combination of two multipliers and two correlation image superimposing units for a plurality of systems, and the reference signal output unit 250 has an angular frequency suitable for each system. It is possible to output the reference signal by ω.

そして、画像出力部248が、2種類の時間相関画像データと、強度画像データと、をPC100に出力する。これにより、PC100が、2種類の時間相関画像データと、強度画像データと、を用いて、被検査体の異常を検出する。そのためには、被写体に対して光を照射する必要がある。   Then, the image output unit 248 outputs the two types of time correlation image data and the intensity image data to the PC 100. As a result, the PC 100 detects an abnormality of the object to be inspected using the two types of time correlation image data and the intensity image data. For that purpose, it is necessary to irradiate light to the subject.

本実施形態の照明装置120は、高速に移動する縞パターンを照射する。図4は、本実施形態の照明装置120が照射する縞パターンの一例を示した図である。図4に示す例では、縞パターンをx方向にスクロール(移動)させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域(暗領域)である。本実施形態では、スクリーン130の明領域となる部分が、発光部の一例である。   The illuminating device 120 of this embodiment irradiates the fringe pattern which moves at high speed. FIG. 4 is a diagram illustrating an example of a fringe pattern irradiated by the illumination device 120 of the present embodiment. In the example shown in FIG. 4, the stripe pattern is scrolled (moved) in the x direction. White areas correspond to bright areas corresponding to stripes, and black areas correspond to spaced areas (dark areas) corresponding to stripes. In the present embodiment, the portion to be the bright region of the screen 130 is an example of the light emitting unit.

本実施形態では、時間相関カメラ110が強度画像データ及び時間相関画像データを撮影する露光時間で、照明装置120が照射する縞パターンを一周期分移動させる。これにより、照明装置120は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。本実施形態では、図4の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。   In the present embodiment, the fringe pattern irradiated by the illuminating device 120 is moved by one cycle with the exposure time when the time correlation camera 110 captures the intensity image data and the time correlation image data. Thereby, the illuminating device 120 gives the time change of the light intensity periodically by the spatial movement of the stripe pattern of the light intensity. In the present embodiment, the time for which the fringe pattern in FIG. 4 moves by one cycle corresponds to the exposure time, so that each pixel of the time-correlated image data relates to at least an intensity signal of light for one cycle of the fringe pattern. Information is embedded.

図4に示されるように、本実施形態では、照明装置120が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。なお、照明光を拡散する拡散部材を用いることにより、矩形波の明暗の境界領域をぼかすことができる。スクリーン130は、拡散部材の一例である。   As shown in FIG. 4, in the present embodiment, an example in which the illumination device 120 irradiates a stripe pattern based on a rectangular wave will be described, but a device other than the rectangular wave may be used. In addition, the use of a diffusing member that diffuses illumination light makes it possible to blur the bright and dark boundary region of the rectangular wave. The screen 130 is an example of a diffusion member.

本実施形態では、照明装置120が照射する縞パターンをA(1+cos(ωt+kx)と表す。すなわち、縞パターンには、複数の縞が反復的に(周期的に)含まれる。なお、被検査体に照射される光の強度は0〜2Aの間で調整可能とし、光の位相kxとする。kは、縞の波数である。xは、位相が変化する方向である。   In the present embodiment, a stripe pattern irradiated by the illumination device 120 is represented as A (1 + cos (ωt + kx), that is, the stripe pattern includes a plurality of stripes repeatedly (periodically). The intensity of the light applied to can be adjusted between 0 and 2 A, and is the light phase kx, where k is the wave number of the stripes, and x is the direction in which the phase changes.

そして、フレームの各画素の光強度信号f(x,y,t)の基本周波数成分は、以下の式(5)として表すことができる。式(5)で示されるように、x方向で縞の明暗が変化する。   The fundamental frequency component of the light intensity signal f (x, y, t) of each pixel in the frame can be expressed as the following equation (5). As shown in equation (5), the light and dark of the stripes change in the x direction.

f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)}……(5)
f (x, y, t) = A (1 + cos (ωt + kx))
= A + A / 2 {e j (ωt + kx) + e- j (ωt + kx) } (5)

式(5)で示されるように、照明装置120が照射する縞パターンの強度信号は、複素数として考えることができる。   As shown in Expression (5), the intensity signal of the fringe pattern irradiated by the illumination device 120 can be considered as a complex number.

そして、イメージセンサ220には、当該照明装置120からの光が被写体(被検査体を含む)から反射して入力される。   Then, the light from the illumination device 120 is reflected and input to the image sensor 220 from the subject (including the object to be inspected).

したがって、イメージセンサ220に入力される光強度信号G(x,y,t)を、照明装置120が照射された際のフレームの各画素の光強度信号f(x,y,t)とできる。そこで、強度画像データを導出するための式(1)に式(5)を代入すると、式(6)を導出できる。なお、位相kxとする。   Therefore, the light intensity signal G (x, y, t) input to the image sensor 220 can be used as the light intensity signal f (x, y, t) of each pixel of the frame when the illumination device 120 is irradiated. Therefore, when Expression (5) is substituted into Expression (1) for deriving intensity image data, Expression (6) can be derived. It is assumed that the phase kx.

Figure 0006553412
Figure 0006553412

式(6)から、強度画像データの各画素には、露光時間Tに、照明装置120が出力している光の強度の中間値Aを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式(2)に式(5)を代入すると、式(7)を導出できる。なお、AT/2を振幅とし、kxを位相とする。   From Expression (6), it can be confirmed that each pixel of the intensity image data is input with a value obtained by multiplying the exposure time T by the intermediate value A of the intensity of the light output from the illumination device 120. Further, when Expression (5) is substituted into Expression (2) for deriving time correlation image data, Expression (7) can be derived. Note that AT / 2 is an amplitude and kx is a phase.

Figure 0006553412
Figure 0006553412

これにより、式(7)で示された複素数で示された時間相関画像データは、上述した2種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、被検査体に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、本実施形態のPC100は、2種類の時間相関画像データに基づいて、照明装置120から照射された光の位相変化と、光の振幅変化と、を検出できる。そこで、本実施形態のPC100が、時間相関画像データ及び強度画像データに基づいて、画素毎に入る光の振幅を表した振幅画像データと、画素毎に入る光の位相変化を表した位相画像データと、を生成する。   Thereby, the time correlation image data shown by the complex number shown by Formula (7) can be substituted with two types of time correlation image data mentioned above. That is, the temporal correlation image data composed of the real part and the imaginary part described above includes the phase change and the amplitude change in the light intensity change irradiated to the test object. In other words, the PC 100 according to the present embodiment can detect the phase change of the light emitted from the illumination device 120 and the light amplitude change based on the two types of time correlation image data. Therefore, the PC 100 according to the present embodiment, based on the time correlation image data and the intensity image data, amplitude image data representing the amplitude of light entering each pixel and phase image data representing the phase change of light entering each pixel. And generate.

さらに、PC100は、生成した振幅画像データと位相画像データとに基づいて、被検査体の異常を検出する。   Furthermore, the PC 100 detects an abnormality of the subject based on the generated amplitude image data and phase image data.

ところで、被検査体の表面形状に凹凸に基づく異常が生じている場合、被検査体の表面の法線ベクトルの分布には異常に対応した変化が生じている。また、被検査体の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光の位相変化及び振幅変化のうち少なくともいずれか一つとして検出される。そこで、本実施形態では、時間相関画像データ及び強度画像データを用いて、法線ベクトルの分布の変化に対応した、光の位相変化及び振幅変化のうち少なくともいずれか一つを検出する。これにより、表面形状の異常を検出可能となる。次に、被検査体の異常、法線ベクトル、及び光の位相変化又は振幅変化の関係について説明する。   By the way, when the abnormality based on unevenness has arisen in the surface shape of a to-be-inspected object, the change corresponding to the abnormality has arisen in distribution of the normal line vector of the surface of a to-be-inspected object. Further, when an abnormality that absorbs light occurs on the surface of the object to be inspected, the intensity of the reflected light changes. A change in the normal vector distribution is detected as at least one of a phase change and an amplitude change of light. Thus, in the present embodiment, using the time correlation image data and the intensity image data, at least one of the light phase change and the amplitude change corresponding to the change in the normal vector distribution is detected. This makes it possible to detect surface shape anomalies. Next, the relationship between the abnormality of the inspected object, the normal vector, and the phase change or amplitude change of light will be described.

図5は、実施形態の時間相関カメラ110による、被検査体の異常の第1の検出例を示した図である。図5に示される例では、被検査体500に突形状の異常501がある状況とする。当該状況においては、異常501の点502の近傍領域においては、法線ベクトル521、522、523が異なる方向を向いていることを確認できる。そして、当該法線ベクトル521、522、523が異なる方向を向いていることで、異常501から反射した光に拡散(例えば、光511、512、513)が生じ、時間相関カメラ110のイメージセンサ220の任意の画素531に入る縞パターンの幅503が広くなる。   FIG. 5 is a diagram illustrating a first detection example of abnormality of an object to be inspected by the time correlation camera 110 according to the embodiment. In the example shown in FIG. 5, it is assumed that the inspected object 500 has a projecting shape abnormality 501. In this situation, it can be confirmed that the normal vectors 521, 522 and 523 point in different directions in the vicinity of the point 502 of the abnormality 501. Then, when the normal vectors 521, 522, and 523 point in different directions, diffusion (for example, light 511, 512, and 513) occurs in the light reflected from the abnormality 501, and the image sensor 220 of the time correlation camera 110 The width 503 of the stripe pattern entering any pixel 531 of the

図6は、図5に示される異常501が被検査体500にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。図6に示される例では、光の振幅を実部(Re)と、虚部(Im)に分けて2次元平面上に表している。図6では、図5の光511、512、513に対応する光の振幅611、612、613として示している。そして、光の振幅611、612、613は互いに打ち消し合い、イメージセンサ220の当該任意の画素531には、振幅621の光が入射する。   FIG. 6 is a diagram showing an example of the amplitude of light that changes in accordance with the abnormality 501 shown in FIG. In the example shown in FIG. 6, the amplitude of light is divided into a real part (Re) and an imaginary part (Im) to be represented on a two-dimensional plane. In FIG. 6, the light amplitudes 611, 612, and 613 corresponding to the lights 511, 512, and 513 in FIG. The light amplitudes 611, 612, and 613 cancel each other, and light having an amplitude 621 is incident on the arbitrary pixel 531 of the image sensor 220.

したがって、図6に示される状況で、検査体500の異常501が撮像された領域で振幅が小さいことが確認できる。換言すれば、振幅変化を示した振幅画像データで、周囲と比べて暗くなっている領域がある場合に、当該領域で光同士の振幅の打ち消し合いが生じていると推測できるため、当該領域に対応する被検査体500の位置で異常501が生じていると判断できる。   Therefore, in the situation shown in FIG. 6, it can be confirmed that the amplitude is small in the region where the abnormality 501 of the inspection object 500 is imaged. In other words, when there is an area that is darker than the surrounding area in the amplitude image data that shows the amplitude change, it can be inferred that the amplitudes of the light cancel each other out in the area. It can be determined that an abnormality 501 has occurred at the position of the corresponding inspection object 500.

本実施形態の検査システム1は、図5の異常501のように傾きが急峻に変化しているものに限らず、緩やかに変化する異常も検出できる。図7は、実施形態の時間相関カメラ110による、被検査体の異常の第2の検出例を示した図である。図7に示される例では、正常な場合は被検査体の表面が平面(換言すれば法線が平行)となるが、被検査体700に緩やかな勾配701が生じた状況とする。このような状況においては、勾配701上の法線ベクトル721、722、723も同様に緩やかに変化する。したがって、イメージセンサ220に入力する光711、712、713も少しずつずれていく。図7に示される例では、緩やかな勾配701のために光の振幅の打ち消し合いは生じないため、図5、図6で表したような光の振幅はほとんど変化しない。しかしながら、本来照明装置120およびスクリーン130から投影された光が、そのままイメージセンサに平行に入るはずが、緩やかな勾配701のために、照明装置120およびスクリーン130から投影された光が平行の状態でイメージセンサに入らないために、光に位相変化が生じる。従って、光の位相変化について、周囲等との違いを検出することで、図7に示したような緩やかな勾配701による異常を検出できる。   The inspection system 1 according to the present embodiment is not limited to the case where the inclination changes steeply like the abnormality 501 in FIG. FIG. 7 is a diagram illustrating a second detection example of the abnormality of the inspected object by the time correlation camera 110 according to the embodiment. In the example shown in FIG. 7, the surface of the object under inspection becomes flat (in other words, the normals are parallel) in the normal case, but a gentle slope 701 is generated in the object under inspection 700. In such a situation, the normal vectors 721, 722, and 723 on the gradient 701 also change gently. Therefore, the lights 711, 712, and 713 input to the image sensor 220 also gradually shift. In the example shown in FIG. 7, since the cancellation of the light amplitude does not occur due to the gentle slope 701, the light amplitude as shown in FIGS. 5 and 6 hardly changes. However, although the light originally projected from the illumination device 120 and the screen 130 should enter the image sensor as it is, the light projected from the illumination device 120 and the screen 130 is parallel because of the gentle gradient 701. A phase change occurs in the light because it does not enter the image sensor. Therefore, by detecting the difference between the phase change of the light and the surroundings, it is possible to detect an abnormality due to the gentle gradient 701 as shown in FIG.

また、被検査体の表面形状(換言すれば、被検査体の法線ベクトルの分布)以外にも異常が生じる場合がある。図8は、実施形態の時間相関カメラ110による、被検査体の異常の第3の検出例を示した図である。図8に示される例では、被検査体800に汚れ801が付着しているため、照明装置120から照射された光が吸収あるいは拡散反射し、時間相関カメラ110の、汚れ801を撮影している任意の画素領域では光がほとんど強度変化しない例を表している。換言すれば、汚れ801を撮影している任意の画素領域では、光強度は位相打ち消しを起こし振動成分がキャンセルされ、ほとんど直流的な明るさになる例を示している。   In addition, there may be an abnormality other than the surface shape of the inspection object (in other words, the distribution of the normal vector of the inspection object). FIG. 8 is a diagram illustrating a third example of detection of abnormality of an object to be inspected by the time correlation camera 110 according to the embodiment. In the example shown in FIG. 8, since the dirt 801 adheres to the inspection object 800, the light emitted from the illumination device 120 is absorbed or diffusely reflected, and the dirt 801 of the time correlation camera 110 is photographed. This shows an example in which light hardly changes in intensity in an arbitrary pixel region. In other words, in an arbitrary pixel area in which the dirt 801 is photographed, the light intensity is phase-cancelled, the vibration component is canceled, and an example in which the brightness is almost DC direct is shown.

このような場合、汚れ801を撮影している画素領域においては、光の振幅がほとんどないため、振幅画像データを表示した際に、周囲と比べて暗くなる領域が生じる。したがって、当該領域に対応する被検査体800の位置に、汚れ等の異常801があることを推定できる。   In such a case, in the pixel region where the dirt 801 is imaged, there is almost no light amplitude, and therefore when the amplitude image data is displayed, a region darker than the surroundings is generated. Therefore, it can be estimated that there is an abnormality 801 such as dirt at the position of the inspection object 800 corresponding to the region.

このように、本実施形態では、時間相関画像データに基づいて、光の振幅の変化と、光の位相の変化と、を検出することで、被検査体に異常があることを推定できる。   As described above, in the present embodiment, it is possible to estimate that the object to be inspected is abnormal by detecting the change in the amplitude of the light and the change in the phase of the light based on the time correlation image data.

図1に戻り、PC100について説明する。PC100は、検出システム全体の制御を行う。PC100は、移動機構制御部101と、発光制御部102と、制御部103と、記憶部109と、を備える。記憶部109は、演算処理に用いられるデータや、演算処理結果等を記憶する。   Returning to FIG. 1, the PC 100 will be described. The PC 100 controls the entire detection system. The PC 100 includes a movement mechanism control unit 101, a light emission control unit 102, a control unit 103, and a storage unit 109. The storage unit 109 stores data used for arithmetic processing, arithmetic processing results, and the like.

移動機構制御部101は、被検査体150の時間相関カメラ110による撮像対象となる表面を変更するために、移動機構140を制御する。移動機構140は、例えば、ロボットアームである。本実施形態では、PC100において、被検査体150の撮影対象となる表面を複数設定しておく。そして、時間相関カメラ110が被検査体150の撮影が終了する毎に、移動機構制御部101が、当該設定に従って、時間相関カメラ110が設定された表面を撮影できるように、移動機構140が被検査体150を移動させる。なお、本実施形態は撮影が終了する毎に移動機構140を移動させ、撮影が開始する前に停止させることを繰り返すことに制限するものではなく、継続的に移動機構140を駆動させてもよい。なお、移動機構140は、搬送部、移動部、把持部、位置変更部、姿勢変更部等とも称されうる。   The movement mechanism control unit 101 controls the movement mechanism 140 in order to change the surface of the object 150 to be imaged by the time correlation camera 110. The moving mechanism 140 is, for example, a robot arm. In the present embodiment, in the PC 100, a plurality of surfaces to be imaged of the inspection object 150 are set. Then, each time the time correlation camera 110 finishes capturing the object 150, the moving mechanism control unit 101 can capture the surface on which the time correlation camera 110 is set according to the setting. The inspection body 150 is moved. In the present embodiment, the moving mechanism 140 is moved each time shooting is completed, and the present invention is not limited to repeating stopping before shooting starts, and the moving mechanism 140 may be driven continuously. . The moving mechanism 140 can also be referred to as a conveyance unit, a moving unit, a gripping unit, a position changing unit, a posture changing unit, and the like.

発光制御部102は、被検査体150を検査するために照明装置120が照射する縞パターンを出力する。本実施形態の発光制御部102は、少なくとも3枚以上の縞パターンを、照明装置120に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置120に指示する。発光制御部102は、照明制御部とも称されうる。   The light emission control unit 102 outputs a fringe pattern irradiated by the illumination device 120 in order to inspect the inspection object 150. The light emission control unit 102 of the present embodiment transfers at least three or more stripe patterns to the illumination device 120 and instructs the illumination device 120 to switch and display the stripe patterns during the exposure time. The light emission control unit 102 may also be referred to as a lighting control unit.

図9は、発光制御部102が照明装置120に出力する縞パターンの例を示した図である。図9(B)に示す矩形波に従って、図9(A)に示す黒領域と白領域とが設定された縞パターンが出力されるように、発光制御部102が制御を行う。   FIG. 9 is a diagram illustrating an example of a fringe pattern output from the light emission control unit 102 to the illumination device 120. In accordance with the rectangular wave shown in FIG. 9B, the light emission control unit 102 performs control so that the stripe pattern in which the black region and the white region shown in FIG. 9A are set is output.

本実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常(欠陥)の大きさに応じて設定されるものとしてここでは詳しい説明を省略する。   The interval of stripes for each stripe pattern to be irradiated in the present embodiment is set according to the size of the abnormality (defect) to be detected, and the detailed description is omitted here.

また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。   In addition, the angular frequency ω of the rectangular wave for outputting the fringe pattern is set to the same value as the angular frequency ω of the reference signal.

図9に示されるように、発光制御部102が出力する縞パターンは、矩形波として示すことができるが、スクリーン130(拡散部材)を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域(縞の領域)と暗領域(間隔の領域)との境界での光の強度変化を緩やかにする(鈍らせる)ことで、正弦波に近似させることができる。図10は、スクリーン130を介した後の縞パターンを表した波の形状の例を示した図である。図10に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。   As shown in FIG. 9, the fringe pattern output from the light emission control unit 102 can be shown as a rectangular wave, but blurs the border area of the fringe pattern through the screen 130 (diffusing member). It is possible to approximate a sine wave by gradual (dulling) the change in the intensity of light at the boundary between the bright region (striped region) and the dark region (interval region) in the pattern. FIG. 10 is a view showing an example of the shape of a wave representing a stripe pattern after passing through the screen 130. As shown in FIG. As shown in FIG. 10, the measurement accuracy can be improved by the wave shape approaching a sine wave. Further, a gray region in which the brightness changes in multiple steps may be added to the stripe, or a gradation may be given. Further, a stripe pattern including color stripes may be used.

図1に戻り、制御部103は、振幅−位相画像生成部104と、異常検出処理部105と、を備え、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、により、被検査体150の検査面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって異常を検出する特徴を算出するための処理を行う。なお、本実施形態は、検査を行うために、複素数で示した時間相関画像データ(複素時間相関画像データと称す)の代わりに、複素数相関画像データの実部と虚部とで分けた2種類の時間相関画像データを、時間相関カメラ110から受け取る。振幅−位相画像生成部104(制御部103)は、演算処理部の一例である。異常検出処理部105は、異常判別部の一例である。   Returning to FIG. 1, the control unit 103 includes an amplitude-phase image generation unit 104 and an abnormality detection processing unit 105, and by intensity image data input from the time correlation camera 110 and time correlation image data, A process for calculating a feature corresponding to the distribution of the normal vector on the inspection surface of the inspection object 150 and detecting an abnormality based on a difference from the surroundings is performed. In the present embodiment, in order to perform the inspection, two types of real number and imaginary part of complex number correlation image data are used instead of time correlation image data (referred to as complex time correlation image data) indicated by complex numbers. Time correlated image data from the time correlated camera 110. The amplitude-phase image generation unit 104 (control unit 103) is an example of an arithmetic processing unit. The abnormality detection processing unit 105 is an example of an abnormality determination unit.

振幅−位相画像生成部104は、時間相関カメラ110から入力された強度画像データと、時間相関画像データと、に基づいて、振幅画像データと、位相画像データと、を生成する。   The amplitude-phase image generation unit 104 generates amplitude image data and phase image data based on the intensity image data input from the time correlation camera 110 and the time correlation image data.

振幅画像データは、画素毎に入る光の振幅を表した画像データとする。位相画像データは、画素毎に入る光の位相を表した画像データとする。   The amplitude image data is image data representing the amplitude of light entering each pixel. The phase image data is image data representing the phase of light entering each pixel.

本実施形態は振幅画像データの算出手法を制限するものではないが、例えば、振幅−位相画像生成部104は、2種類の時間相関画像データの画素値C1(x,y)及びC2(x,y)から、式(8)を用いて、振幅画像データの各画素値F(x,y)を導き出せる。   Although the present embodiment does not limit the calculation method of the amplitude image data, for example, the amplitude-phase image generation unit 104 has pixel values C1 (x, y) and C2 (x, From y), each pixel value F (x, y) of the amplitude image data can be derived using Equation (8).

Figure 0006553412
Figure 0006553412

そして、本実施形態では、振幅画像データの画素値(振幅)と、強度画像データの画素値と、に基づいて、異常が生じている領域があるか否かを判定できる。例えば、強度画像データの画素値(AT)を2で除算した値と、振幅画像データの振幅(打ち消し合いが生じない場合にはAT/2となる)と、がある程度一致する領域は異常が生じていないと推測できる。一方、一致していない領域については、振幅の打ち消しが生じていると推測できる。なお、具体的な手法については後述する。   Then, in the present embodiment, it is possible to determine whether there is an area in which an abnormality has occurred, based on the pixel value (amplitude) of the amplitude image data and the pixel value of the intensity image data. For example, in a region where the value obtained by dividing the pixel value (AT) of the intensity image data by 2 and the amplitude of the amplitude image data (it becomes AT / 2 when no cancellation occurs), an abnormality occurs I can guess that it is not. On the other hand, it can be presumed that the amplitude cancellation occurs in the non-matching region. The specific method will be described later.

同様に、振幅−位相画像生成部104は、画素値C1(x,y)及びC2(x,y)から、式(9)を用いて、位相画像データの各画素値P(x,y)を導き出せる。   Similarly, the amplitude-phase image generation unit 104 uses the pixel values C1 (x, y) and C2 (x, y) to calculate each pixel value P (x, y) of the phase image data using Equation (9). Can be derived.

Figure 0006553412
Figure 0006553412

異常検出処理部105は、振幅−位相画像生成部104により生成された振幅画像データ、及び位相画像データにより、検査対称面の法線ベクトルの分布と対応した特徴であって、周囲との違いによって、被検査体150の異常に関連する特徴を検出する。本実施形態では、法線ベクトルの分布に対応した特徴として、複素時間相関画像の振幅の分布を用いた例について説明する。なお、複素時間相関画像の振幅の分布とは、複素時間相関画像の各画素の振幅の分布を示したデータであり、振幅画像データに相当する。   The abnormality detection processing unit 105 is a feature corresponding to the distribution of the normal vector on the inspection symmetry plane based on the amplitude image data and the phase image data generated by the amplitude-phase image generation unit 104, and is based on a difference from the surroundings. , Detects a feature related to the abnormality of the test object 150. In the present embodiment, an example in which the amplitude distribution of the complex time correlation image is used as the feature corresponding to the distribution of the normal vector will be described. The distribution of the amplitude of the complex time correlation image is data indicating the distribution of the amplitude of each pixel of the complex time correlation image, and corresponds to amplitude image data.

次に、本実施形態の異常検出処理部105における振幅に基づく異常検出処理について説明する。図11は、本実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。   Next, the abnormality detection processing based on the amplitude in the abnormality detection processing unit 105 of the present embodiment will be described. FIG. 11 is a flowchart showing the procedure of the process in the abnormality detection processing unit 105 of this embodiment.

まず、異常検出処理部105は、振幅画像データの各画素に格納された、光の振幅値(を表した画素値)から、当該画素を基準(例えば中心)として、N×N領域の平均振幅値を減算し(ステップS1101)、振幅の平均差分画像データを生成する。振幅の平均差分画像データは、振幅の勾配に対応する。なお、整数Nは実施の態様に応じて適切な値が設定されるものとする。   First, the abnormality detection processing unit 105 determines the average amplitude of the N × N region from the light amplitude value (representing pixel value) stored in each pixel of the amplitude image data, with the pixel as a reference (for example, the center). The values are subtracted (step S1101) to generate average difference image data of amplitude. The average difference image data of the amplitude corresponds to the gradient of the amplitude. The integer N is assumed to be set to an appropriate value according to the embodiment.

次に、異常検出処理部105は、減算により生成された振幅の平均差分画像データに対して、予め定められた振幅の閾値を用いたマスク処理を行う(ステップS1102)。   Next, the abnormality detection processing unit 105 performs mask processing on the average difference image data of the amplitude generated by the subtraction using a predetermined threshold value of the amplitude (step S1102).

さらに、異常検出処理部105は、平均差分画像データのマスク領域内について画素毎に標準偏差を算出する(ステップS1103)。なお、本実施形態では、標準偏差に基づいた手法について説明するが、標準偏差を用いた場合に制限するものではなく、例えば平均値等を用いてもよい。   Further, the abnormality detection processing unit 105 calculates a standard deviation for each pixel within the mask area of the average difference image data (step S1103). In the present embodiment, a method based on the standard deviation will be described. However, the method is not limited to the case where the standard deviation is used. For example, an average value or the like may be used.

そして、異常検出処理部105は、平均を引いた振幅画素値が−4.5σ(σ:標準偏差)より小さい値の画素を、異常(欠陥)がある領域として検出する(ステップS1104)。   Then, the abnormality detection processing unit 105 detects a pixel whose amplitude pixel value obtained by subtracting the average is smaller than −4.5σ (σ: standard deviation) as a region having an abnormality (defect) (step S1104).

上述した処理手順により、各画素の振幅値(換言すれば、振幅の分布)から、被検査体の異常を検出できる。しかしながら、本実施形態は、複素時間相関画像の振幅の分布から異常を検出することに制限するものではない。検査対称面の法線ベクトルの分布と対応した特徴として、位相の分布の勾配を用いてもよい。そこで、次に位相の分布の勾配を用いた例について説明する。   By the processing procedure described above, an abnormality of the object to be inspected can be detected from the amplitude value of each pixel (in other words, the amplitude distribution). However, the present embodiment is not limited to the detection of an anomaly from the distribution of the amplitude of the complex time correlation image. The gradient of the distribution of the phase may be used as a feature corresponding to the distribution of the normal vector of the test symmetry plane. An example using the gradient of the phase distribution will be described next.

次に、本実施形態の異常検出処理部105における位相に基づく異常検出処理について説明する。図12は、本実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。   Next, abnormality detection processing based on the phase in the abnormality detection processing unit 105 of the present embodiment will be described. FIG. 12 is a flowchart showing the procedure of the process in the abnormality detection processing unit 105 of this embodiment.

まず、異常検出処理部105は、位相画像データの画素毎の光の位相値(を表した画素値)から、当該画素を基準(例えば中心)として、N×N領域の平均位相値を減算し(ステップS1201)、位相の平均差分画像データを生成する。位相の平均差分画像データは、位相の勾配に対応する。   First, the abnormality detection processing unit 105 subtracts the average phase value of the N × N region from the phase value of the light of each pixel of the phase image data (a pixel value representing the pixel value) using the pixel as a reference (for example, the center). (Step S1201), phase average difference image data is generated. The phase average difference image data corresponds to the phase gradient.

次に、異常検出処理部105は、減算により生成された位相の平均差分画像データの大きさ(絶対値)と、閾値とを比較し、平均差分画像データの大きさが閾値以上となる画素を、異常(欠陥)のある画素として検出する(ステップS1202)。   Next, the abnormality detection processing unit 105 compares the magnitude (absolute value) of the average difference image data of the phase generated by the subtraction with a threshold value, and determines pixels whose average difference image data size is equal to or greater than the threshold value. Then, it is detected as an abnormal (defect) pixel (step S1202).

このS1202の検出結果により、異常検出処理部105は、平均差分画像データの正負、すなわち、画素の位相値と平均位相値との大小関係によって、凹凸を判別することができる(ステップS1203)。画素の位相値と平均位相値とのどちらが大きい場合に凸となるかは、各部の設定によって変化するが、大小関係が異なると、凹凸が異なる。   Based on the detection result of S1202, the abnormality detection processing unit 105 can determine the unevenness based on the sign of the average difference image data, that is, the magnitude relationship between the phase value of the pixel and the average phase value (step S1203). Which of the pixel phase value and the average phase value is convex depends on the setting of each part, but the unevenness differs if the magnitude relationship is different.

なお、他の手法によって得られた位相の分布の勾配から、異常を検出することができる。例えば、異常検出処理部105は、別の手法として、正規化された時間相関画像データのN×Nの領域の平均ベクトルと、正規化された各画素のベクトルとの差の大きさが、閾値よりも大きい場合に、異常(欠陥)がある画素として検出することができる。また、位相の分布の勾配に限られず、位相の分布に対応する情報に基づいて被検査体の異常を検出すればよい。   An abnormality can be detected from the gradient of the phase distribution obtained by another method. For example, as another method, the abnormality detection processing unit 105 determines whether the difference between the average vector of the N × N region of the normalized time correlation image data and the normalized vector of each pixel is a threshold value. If it is larger than that, it can be detected as a pixel having an abnormality (defect). Further, the abnormality of the object to be inspected may be detected based on information corresponding to the phase distribution, not limited to the gradient of the phase distribution.

次に、本実施形態の異常検出処理部105における振幅および強度に基づく異常検出処理について説明する。図13は、本実施形態の異常検出処理部105における当該処理の手順を示すフローチャートである。   Next, abnormality detection processing based on the amplitude and the intensity in the abnormality detection processing unit 105 of the present embodiment will be described. FIG. 13 is a flowchart showing the procedure of the process in the abnormality detection processing unit 105 of this embodiment.

まず、異常検出処理部105は、時間相関画像データと強度画像データとから、各画素について、次の式(100)を用いて、振幅(を表す画素値)C(x,y)(式(7)参照)と強度(を表す画素値)G(x,y)(式(6)参照)との比R(x,y)を算出する(ステップS1301)。   First, the abnormality detection processing unit 105 uses the following equation (100) for each pixel from the time correlation image data and the intensity image data, and uses the following equation (100) to represent the amplitude (representing pixel value) C (x, y) (equation ( 7) Calculate a ratio R (x, y) between the reference (the reference) and the intensity (pixel value representing the reference) G (x, y) (see the equation (6)) (step S1301).

R(x,y)=C(x,y)/G(x,y)……(100) R (x, y) = C (x, y) / G (x, y) (100)

次に、異常検出処理部105は、比R(x,y)と閾値とを比較し、比R(x,y)の値が対応する閾値以下となる画素を、異常(欠陥)のある画素として検出する(ステップS1302)。また、異常検出処理部105は、比R(x,y)と閾値とを比較し、比R(x,y)の値が対応する別の閾値以上となる画素を、ムラ(汚れ等)のある画素として検出する(ステップS1303)。法線ベクトルの分布の異常により、振幅の打ち消し合い(減殺)が顕著となった場合には、強度に比べて振幅がより大きく下がる。一方、法線ベクトルの分布にはそれほどの異常は無いものの被検査体150の表面の汚れ等によって光の吸収が顕著となった場合には、振幅に比べて強度がより大きく下がる。よって、異常検出処理部105は、ステップS1302およびステップS1303による異常種別の検出が可能となる。   Next, the abnormality detection processing unit 105 compares the ratio R (x, y) with a threshold value, and sets a pixel having a ratio R (x, y) value equal to or less than the corresponding threshold value to a pixel having an abnormality (defect). Is detected (step S1302). In addition, the abnormality detection processing unit 105 compares the ratio R (x, y) with a threshold value, and determines that a pixel whose ratio R (x, y) is equal to or greater than another corresponding threshold value is uneven (dirt or the like). It is detected as a certain pixel (step S1303). When the cancellation of the amplitude (attenuation) becomes noticeable due to the abnormal distribution of the normal vector, the amplitude is greatly reduced compared to the strength. On the other hand, although there is not so much abnormality in the normal vector distribution, when the light absorption becomes significant due to dirt on the surface of the object 150 to be inspected, the intensity is greatly reduced compared to the amplitude. Therefore, the abnormality detection processing unit 105 can detect the abnormality type in steps S1302 and S1303.

次に、本実施形態の検査システムにおける被検査体の検査処理について説明する。図14は、本実施形態の検査システムにおける上述した処理の手順を示すフローチャートである。なお、被検査体150は、すでに移動機構140に固定された状態で、検査の初期位置に配置されているものとする。   Next, an inspection process for an object to be inspected in the inspection system of the present embodiment will be described. FIG. 14 is a flowchart showing the procedure of the above-described process in the inspection system of the present embodiment. It is assumed that the inspected object 150 is already fixed to the moving mechanism 140 and is disposed at the initial position of the inspection.

本実施形態のPC100が、照明装置120に対して、被検査体を検査するための縞パターンを出力する(ステップS1401)。   The PC 100 of this embodiment outputs a fringe pattern for inspecting the object to be inspected to the illumination device 120 (step S1401).

照明装置120は、PC100から入力された縞パターンを格納する(ステップS1421)。そして、照明装置120は、格納された縞パターンを、時間遷移に従って変化するように表示する(ステップS1422)。なお、照明装置120が表示を開始する条件は、縞パターンが格納された際に制限するものではなく、例えば検査者が照明装置120に対して開始操作を行った際でもよい。   The lighting device 120 stores the fringe pattern input from the PC 100 (step S1421). And the illuminating device 120 displays the stored fringe pattern so that it may change according to a time transition (step S1422). Note that the conditions under which the illuminating device 120 starts display are not limited when the fringe pattern is stored, and may be, for example, when the inspector performs a start operation on the illuminating device 120.

そして、PC100の制御部103が、時間相関カメラ110に対して、撮影の開始指示を送信する(ステップS1402)。   Then, the control unit 103 of the PC 100 transmits a shooting start instruction to the time correlation camera 110 (step S1402).

次に、時間相関カメラ110が、送信されてきた撮影指示に従って、被検査体150を含む領域について撮像を開始する(ステップS1411)。次に、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を生成する(ステップS1412)。そして、時間相関カメラ110の制御部240が、強度画像データと、時間相関画像データと、を、PC100に出力する(ステップS1413)。   Next, the time correlation camera 110 starts imaging for an area including the inspection object 150 in accordance with the transmitted imaging instruction (step S1411). Next, the control unit 240 of the time correlation camera 110 generates intensity image data and time correlation image data (step S1412). Then, the control unit 240 of the time correlation camera 110 outputs the intensity image data and the time correlation image data to the PC 100 (step S1413).

PC100の制御部103は、強度画像データと、時間相関画像データと、を受け取る(ステップS1403)。そして、振幅−位相画像生成部104は、受け取った強度画像データと時間相関画像データとから、振幅画像データと、位相画像データとを生成する(ステップS1404)。   The control unit 103 of the PC 100 receives the intensity image data and the time correlation image data (step S1403). Then, the amplitude-phase image generation unit 104 generates amplitude image data and phase image data from the received intensity image data and time correlation image data (step S1404).

そして、異常検出処理部105が、振幅画像データと、位相画像データとに基づいて、被検査体の異常検出制御を行う(ステップS1405)。そして、異常検出処理部105は、異常検出結果を、PC100が備える(図示しない)表示装置に出力する(ステップS1406)。   Then, the abnormality detection processing unit 105 performs abnormality detection control of the test object based on the amplitude image data and the phase image data (step S1405). Then, the abnormality detection processing unit 105 outputs the abnormality detection result to a display device (not shown) included in the PC 100 (step S1406).

異常検出結果の出力例としては、強度画像データを表示するとともに、振幅画像データと位相画像データとに基づいて異常が検出された領域に対応する、強度画像データの領域を、検査者が異常を認識できるように装飾表示するなどが考えられる。また、視覚に基づく出力に制限するものではなく、音声等で異常が検出されたことを出力してもよい。   As an output example of the abnormality detection result, the intensity image data is displayed, and an area of the intensity image data corresponding to the area where the abnormality is detected based on the amplitude image data and the phase image data is displayed. It is conceivable to display decoration so that it can be recognized. Further, the output is not limited to visual output, and it may be output that an abnormality has been detected by voice or the like.

制御部103は、当該被検査体の検査が終了したか否かを判定する(ステップS1407)。検査が終了していないと判定した場合(ステップS1407:No)、移動機構制御部101が、予め定められた設定に従って、次の検査対象となる被検査体の表面が、時間相関カメラ110で撮影できるように、アームの移動制御を行う(ステップS1408)。アームの移動制御が終了した後、制御部103が、再び時間相関カメラ110に対して、撮影の開始指示を送信する(ステップS1402)。   The control unit 103 determines whether or not the inspection of the object to be inspected is completed (step S1407). If it is determined that the inspection has not been completed (step S1407: No), the moving mechanism control unit 101 captures the surface of the inspection object to be inspected with the time correlation camera 110 in accordance with a predetermined setting. Movement control of the arm is performed (step S1408). After the arm movement control is completed, the control unit 103 transmits an imaging start instruction to the time correlation camera 110 again (step S1402).

一方、制御部103は、当該被検査体の検査が終了したと判定した場合(ステップS1407:Yes)、終了指示を時間相関カメラ110に対して出力し(ステップS1409)、処理を終了する。   On the other hand, if the control unit 103 determines that the inspection of the object to be inspected has ended (step S1407: Yes), the control unit 103 outputs an end instruction to the time correlation camera 110 (step S1409) and ends the process.

そして、時間相関カメラ110は、終了指示を受け付けたか否かを判定する(ステップS1414)。終了指示を受け付けていない場合(ステップS1414:No)、再びステップS1411から処理を行う。一方、終了指示を受け付けた場合(ステップS1414:Yes)、処理を終了する。   Then, the time correlation camera 110 determines whether an end instruction has been received (step S1414). If an end instruction has not been received (step S1414: NO), the processing is performed again from step S1411. On the other hand, if the end instruction has been received (step S1414: YES), the process ends.

なお、照明装置120の終了処理は、検査者が行ってもよいし、他の構成からの指示に従って終了してもよい。   Note that the inspecting process of the illumination device 120 may be performed by an inspector, or may be ended in accordance with an instruction from another configuration.

また、本実施形態では、時間相関カメラ110を用いて生成された強度画像データと、時間相関画像データと、を生成する例について説明した。しかしながら、強度画像データと、時間相関画像データと、を生成するために時間相関カメラ110を用いることに制限するものではなく、アナログ的な処理で実現可能な時間相関カメラや、それと等価な動作をする撮像システムを用いてもよい。例えば、通常のデジタルスチルカメラが生成した画像データを出力し、情報処理装置が、デジタルスチルカメラが生成した画像データを、フレーム画像データとして用いて参照信号を重畳することで、時間相関画像データを生成してもよいし、イメージセンサ内で光強度信号に参照信号を重畳するようなデジタルカメラを用いて、時間相関画像データを生成してもよい。   Further, in the present embodiment, an example has been described in which intensity image data generated using the time correlation camera 110 and time correlation image data are generated. However, the present invention is not limited to the use of the time correlation camera 110 for generating the intensity image data and the time correlation image data, and a time correlation camera that can be realized by analog processing or an operation equivalent thereto. An imaging system may be used. For example, image data generated by a normal digital still camera is output, and the information processing apparatus superimposes a reference signal using the image data generated by the digital still camera as frame image data, thereby generating time-correlated image data. The time-correlated image data may be generated using a digital camera that may generate a reference signal in a light intensity signal in an image sensor.

(変形例1)
本実施形態では、周囲との違いに基づいて、異常に関連する特徴を検出する例について説明したが、周囲との違いに基づいて当該特徴を検出することに制限するものではなく、参照形状のデータ(参照データ、例えば、時間相関データや、振幅画像データ、位相画像データ等)との差異に基づいて当該特徴を検出してもよい。この場合、参照データの場合とで、空間位相変調照明(縞パターン)の位置合わせおよび同期が必要となる。
(Modification 1)
In this embodiment, an example in which a feature related to an abnormality is detected based on a difference from the surroundings has been described, but the present invention is not limited to detecting the feature based on a difference from the surroundings. The feature may be detected based on the difference with data (reference data, for example, time correlation data, amplitude image data, phase image data, etc.). In this case, alignment and synchronization of spatial phase modulation illumination (fringe pattern) is required in the case of reference data.

本変形例では、異常検出処理部105が、予め記憶部109に記憶された、参照表面から得られた振幅画像データ及び位相画像データと、被検査体150の振幅画像データ及び位相画像データと、を比較し、被検査体150の表面と参照表面との間で、光の振幅及び光の位相とのうちいずれか一つ以上について所定の基準以上の違いがあるか否かを判定する。   In this modification, the abnormality detection processing unit 105 stores the amplitude image data and phase image data obtained from the reference surface, the amplitude image data and phase image data of the inspected object 150, which are stored in the storage unit 109 in advance. Are compared to determine whether there is a difference greater than or equal to a predetermined standard for any one or more of the light amplitude and the light phase between the surface of the inspection object 150 and the reference surface.

本変形例は、実施形態と同じ構成の検査システムを用い、参照表面として正常な被検査体の表面を用いる例とする。   This modification is an example in which the inspection system having the same configuration as that of the embodiment is used and the surface of a normal inspection object is used as the reference surface.

照明装置120がスクリーン130を介してパターンを照射している間に、時間相関カメラ110が、正常な被検査体の表面を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関カメラ110で生成された時間相関画像データを入力し、振幅画像データ及び位相画像データを生成し、PC100の記憶部109に振幅画像データ及び位相画像データを記憶させておく。そして、時間相関カメラ110が、異常が生じているか否か判定したい被検査体を撮像し、時間相関画像データを生成する。そして、PC100が、時間相関画像データから、振幅画像データ及び位相画像データを生成した後、記憶部109に記憶されていた、正常な被検査体の振幅画像データ及び位相画像データと比較する。その際に、正常な被検査体の振幅画像データ及び位相画像データと、検査対象の被検査体の振幅画像データ及び位相画像データと、の比較結果を、異常を検出する特徴を示したデータとして出力する。そして、異常を検出する特徴が、当該所定の基準以上の場合に、被検査体150に対して異常があると推測できる。   While the illumination device 120 irradiates a pattern via the screen 130, the time correlation camera 110 images the surface of a normal object to be inspected and generates time correlation image data. Then, the PC 100 receives the time correlation image data generated by the time correlation camera 110, generates amplitude image data and phase image data, and stores the amplitude image data and phase image data in the storage unit 109 of the PC 100. . Then, the time correlation camera 110 captures an object to be inspected for determining whether or not an abnormality has occurred, and generates time correlation image data. Then, the PC 100 generates the amplitude image data and the phase image data from the time correlation image data, and then compares the amplitude image data and the phase image data with the amplitude image data and the phase image data of the normal inspection object stored in the storage unit 109. At that time, the comparison result of the amplitude image data and phase image data of a normal inspection object and the amplitude image data and phase image data of the inspection object to be inspected is data indicating characteristics for detecting an abnormality. Output. Then, when the feature for detecting an abnormality is equal to or greater than the predetermined reference, it can be estimated that the inspection object 150 is abnormal.

これにより、本変形例では、正常な被検査体の表面と差異が生じているか否か、換言すれば、被検査体の表面に異常が生じているか否かを判定できる。なお、振幅画像データ及び位相画像データの比較手法は、どのような手法を用いてもよいので、説明を省略する。   Thereby, in this modification, it can be determined whether there is a difference from the surface of the normal object to be inspected, in other words, whether there is an abnormality on the surface of the object to be inspected. In addition, since the comparison method of amplitude image data and phase image data may use what kind of method, description is abbreviate | omitted.

さらに、本変形例では参照表面との違いに基づいて、異常を検出する特徴を示したデータを出力する例について説明したが、参照表面との違いと、実施形態で示した周囲との違いと、を組み合わせて、異常を検出する特徴を算出してもよい。組み合わせる手法は、どのような手法を用いてもよいので、説明を省略する。   Furthermore, in the present modification, an example of outputting data indicating a feature for detecting an abnormality based on the difference from the reference surface has been described. However, the difference from the reference surface and the difference from the surroundings shown in the embodiment , May be combined to calculate a feature for detecting an abnormality. The method to be combined may use any method, so the description will be omitted.

(変形例2)
実施形態では、x方向に縞パターンを動かして、被検査体の異常(欠陥)を検出する例について説明した。しかしながら、x方向に垂直なy方向で急峻に法線の分布が変化する異常(欠陥)が被検査体に生じている場合、x方向に縞パターンを動かすよりも、y方向に縞パターンを動かす方が欠陥の検出が容易になる場合がある。そこで、変形例では、x方向に移動する縞パターンと、y方向に移動する縞パターンとを、交互に切り替える例について説明する。
(Modification 2)
In the embodiment, an example has been described in which the stripe pattern is moved in the x direction to detect an abnormality (defect) of the inspection object. However, when an abnormality (defect) in which the distribution of the normal changes sharply in the y direction perpendicular to the x direction occurs in the inspection object, the stripe pattern is moved in the y direction rather than moving the stripe pattern in the x direction It may be easier to detect defects. Therefore, in the modification, an example in which the stripe pattern moving in the x direction and the stripe pattern moving in the y direction are alternately switched will be described.

本変形例の発光制御部102は、所定の時間間隔毎に、照明装置120に出力する縞パターンを切り替える。これにより、照明装置120は、一つの検査面に対して、異なる方向に延びた複数の縞パターンを出力する。   The light emission control unit 102 of this modification switches the fringe pattern output to the illumination device 120 at every predetermined time interval. Thereby, the illuminating device 120 outputs the several stripe pattern extended in the different direction with respect to one test | inspection surface.

図15は、本変形例の発光制御部102が出力する縞パターンの切り替え例を示した図である。図15の(A)では、発光制御部102は、照明装置120が表示する縞パターンをx方向に遷移させる。その後、(B)に示されるように、発光制御部102は、照明装置120が表示する縞パターンをy方向に遷移させる。   FIG. 15 is a diagram illustrating a switching example of the fringe pattern output from the light emission control unit 102 of the present modification. In FIG. 15A, the light emission control unit 102 causes the stripe pattern displayed by the illumination device 120 to transition in the x direction. Thereafter, as shown in (B), the light emission control unit 102 causes the stripe pattern displayed by the illumination device 120 to transition in the y direction.

そして、PC100の制御部103は、図15の(A)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行い、図15の(B)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行う。   And the control part 103 of PC100 performed abnormality detection based on the time correlation image data obtained from the stripe pattern irradiation of FIG. 15 (A), and obtained from the stripe pattern irradiation of FIG. 15 (B). Abnormality detection is performed based on the time correlation image data.

図16は、本変形例の発光制御部102が、異常(欠陥)1601を含めた表面に縞パターンを照射した例を示した図である。図16に示す例では、異常(欠陥)1601が、x方向に延びている。この場合、発光制御部102は、x方向に交差するy方向、換言すれば異常(欠陥)1601の長手方向に交差する方向に縞パターンが移動するように設定する。当該設定により、検出精度を向上させることができる。   FIG. 16 is a diagram illustrating an example in which the light emission control unit 102 of the present modification irradiates the surface including the abnormality (defect) 1601 with a stripe pattern. In the example shown in FIG. 16, an abnormality (defect) 1601 extends in the x direction. In this case, the light emission control unit 102 sets the fringe pattern to move in the y direction that intersects the x direction, in other words, the direction that intersects the longitudinal direction of the abnormality (defect) 1601. With this setting, detection accuracy can be improved.

図17は、y方向、換言すれば欠陥1701の長手方向に直交する方向に縞パターンを変化させた場合における、異常(欠陥)1701と照明装置120上の縞パターンの関係を示した図である。図17に示されるように、y方向に幅が狭く、且つ当該y方向に交差するx方向を長手方向とする異常(欠陥)1701が生じている場合、照明装置120から照射された光は、x方向に交差するy方向で光の振幅の打ち消しが大きくなる。このため、PC100では、y方向に移動させた縞パターンに対応する振幅画像データから、当該異常(欠陥)を検出できる。   FIG. 17 is a diagram showing the relationship between the abnormality (defect) 1701 and the stripe pattern on the illumination device 120 when the stripe pattern is changed in the y direction, in other words, in the direction orthogonal to the longitudinal direction of the defect 1701. . As shown in FIG. 17, when an abnormality (defect) 1701 having a narrow width in the y direction and a longitudinal direction in the x direction intersecting the y direction occurs, the light emitted from the illumination device 120 is In the y direction that intersects the x direction, the cancellation of the amplitude of light increases. Therefore, the PC 100 can detect the abnormality (defect) from the amplitude image data corresponding to the stripe pattern moved in the y direction.

本変形例の検査システムにおいて、被検査体に生じる欠陥の長手方向がランダムな場合には、複数方向(例えば、x方向、及び当該x方向に交差するy方向等)で縞パターンを表示することで、欠陥の形状を問わずに当該欠陥の検出が可能となり、異常(欠陥)の検出精度を向上させることができる。また、異常の形状に合わせた縞パターンを投影することで、異常の検出精度を向上させることができる。   In the inspection system of this modification, when the longitudinal direction of the defect generated in the inspection object is random, the fringe pattern is displayed in a plurality of directions (for example, the x direction and the y direction crossing the x direction). Thus, the defect can be detected regardless of the shape of the defect, and the detection accuracy of the abnormality (defect) can be improved. Further, by projecting a fringe pattern that matches the shape of the abnormality, the abnormality detection accuracy can be improved.

(変形例3)
また、上述した変形例2は、x方向の異常検出と、y方向の異常検出と、を行う際に、縞パターンを切り替える手法に制限するものでない。そこで、変形例3では、発光制御部102が照明装置120に出力する縞パターンをx方向及びy方向同時に動かす例について説明する。
(Modification 3)
Moreover, the modification 2 mentioned above does not restrict | limit to the method of switching a fringe pattern, when performing the abnormality detection of ax direction, and the abnormality detection of ay direction. Therefore, in the third modification, an example will be described in which the stripe pattern output to the illumination device 120 by the light emission control unit 102 is simultaneously moved in the x direction and the y direction.

図18は、本変形例の発光制御部102が照明装置120に出力する縞パターンの例を示した図である。図18に示される例では、発光制御部102が縞パターンを、方向1801に移動させる。   FIG. 18 is a diagram showing an example of a fringe pattern which the light emission control unit 102 of this modification outputs to the illumination device 120. As shown in FIG. In the example shown in FIG. 18, the light emission control unit 102 moves the stripe pattern in the direction 1801.

図18に示される縞パターンは、x方向では1周期1802の縞パターンを含み、y方向では一周期1803の縞パターンを含んでいる。つまり、図18に示される縞パターンは、幅が異なる交差する方向に延びた複数の縞を有している。なお、x方向の縞パターンの幅と、y方向の縞パターンの幅と、を異ならせる必要がある。これにより、x方向に対応する時間相関画像データと、y方向に対応する時間相関画像データと、を生成する際に、対応する参照信号を異ならせることができる。なお、縞パターンによる光の強度の変化の周期(周波数)が変化すればよいので、縞の幅を変化させるのに代えて、縞パターン(縞)の移動速度を変化させてもよい。   The stripe pattern shown in FIG. 18 includes a stripe pattern with one period 1802 in the x direction and a stripe pattern with one period 1803 in the y direction. That is, the stripe pattern shown in FIG. 18 has a plurality of stripes extending in the cross direction different in width. In addition, it is necessary to make the width of the stripe pattern in the x direction different from the width of the stripe pattern in the y direction. Thereby, when generating the time correlation image data corresponding to the x direction and the time correlation image data corresponding to the y direction, the corresponding reference signals can be made different. In addition, since the period (frequency) of the change in the intensity of light due to the stripe pattern may be changed, the moving speed of the stripe pattern (stripe) may be changed instead of changing the width of the stripe.

そして、時間相関カメラ110が、x方向の縞パターンに対応する参照信号に基づいて、x方向の縞パターンに対応する時間相関画像データを生成し、y方向の縞パターンに対応する参照信号に基づいて、y方向の縞パターンに対応する時間相関画像データを生成する。その後、PC100の制御部103は、x方向の縞パターンに対応する時間相関画像データに基づいて、異常検出を行った後、y方向の縞パターンに対応する時間相関画像データに基づいて、異常検出を行う。これにより、本変形例では、欠陥の生じた方向を問わずに検出が可能となり、異常(欠陥)の検出精度を向上させることができる。   Then, the time correlation camera 110 generates time correlation image data corresponding to the stripe pattern in the x direction based on the reference signal corresponding to the stripe pattern in the x direction, and based on the reference signal corresponding to the stripe pattern in the y direction. Thus, time correlation image data corresponding to the stripe pattern in the y direction is generated. After that, the control unit 103 of the PC 100 detects an abnormality based on the time correlation image data corresponding to the stripe pattern in the x direction, and then detects an abnormality based on the time correlation image data corresponding to the stripe pattern in the y direction. I do. Thereby, in this modification, it becomes possible to detect regardless of the direction in which the defect occurs, and the detection accuracy of the abnormality (defect) can be improved.

<複数の撮像領域および位置ずれ補正>
図19には、一つの被検査体150の検査面150aに設定された複数の撮像領域P1〜P14が例示されている。このように、一つの検査面150aには、複数の撮像領域P1〜P14が設定されうる。検査システム1により、撮像領域P1〜P14が、それぞれ撮像され、検査される。移動機構140は、被検査体150を、複数の撮像領域P1〜P14のうちいずれか一つの検査を行うための位置および姿勢に動かす。また、移動機構140は、撮像領域P1、撮像領域P2、撮像領域P3、・・・、撮像領域P14が、この順に切り替わるよう、被検査体150を動かす。撮像領域P1〜P14は、検査領域や、検査範囲、検査位置等とも称されうる。なお、本実施形態では、一例として、移動機構140により被検査体150を動かすことによって、撮像領域を変更するが、撮像システム1(時間相関カメラ110や、照明装置120、スクリーン130等)を動かすことによって撮像領域を変更してもよいし、双方を動かすことによって撮像領域を変更してもよい。
<Multiple imaging areas and displacement correction>
In FIG. 19, a plurality of imaging regions P1 to P14 set on the inspection surface 150a of one inspection object 150 are illustrated. As described above, a plurality of imaging regions P1 to P14 can be set in one inspection surface 150a. The imaging areas P1 to P14 are respectively imaged and inspected by the inspection system 1. The moving mechanism 140 moves the inspected object 150 to a position and posture for performing any one of the plurality of imaging regions P1 to P14. The moving mechanism 140 moves the device under test 150 so that the imaging region P1, the imaging region P2, the imaging region P3,..., The imaging region P14 are switched in this order. The imaging regions P1 to P14 can also be referred to as inspection regions, inspection ranges, inspection positions, and the like. In the present embodiment, as an example, the imaging region is changed by moving the inspected object 150 by the moving mechanism 140, but the imaging system 1 (the time correlation camera 110, the illumination device 120, the screen 130, etc.) is moved. Thus, the imaging area may be changed, or the imaging area may be changed by moving both.

図19から明らかとなるように、撮像領域P1〜P14の移動軌跡Lは、被検査体150の重心Cの回りを回るように、渦巻き状に移動している。このため、撮像領域を切り替える際、移動機構140によって、被検査体150を、最少の移動量(距離および角度)で移動させることが可能となる。よって、本実施形態によれば、複数の撮像領域P1〜P14の撮像に要する時間を、より短くすることができる。なお、撮像領域P1〜P14の移動軌跡Lが、全区間に渡って、重心Cの回りを回り、渦巻き状である必要は無く、移動軌跡Lの全区間のうちの少なくとも一部が、重心Cの回りを回ったり、渦巻き状であったりすれば、当該区間については、移動量を少なくできる。また、移動軌跡Lには、撮像領域がつづら折り状に(往復しながら)移動する区間が含まれてもよい。なお、重心Cは、視角上の重心(中心)であってもよい。なお、被検査体150は、検査物や、検査対象物とも称されうる。   As is clear from FIG. 19, the movement locus L of the imaging regions P <b> 1 to P <b> 14 moves spirally so as to go around the center of gravity C of the object 150 to be inspected. For this reason, when switching an imaging region, it becomes possible to move the to-be-inspected object 150 by the minimum moving amount (distance and angle) by the moving mechanism 140. Thus, according to the present embodiment, the time required for imaging the plurality of imaging regions P1 to P14 can be further shortened. The movement trajectory L of the imaging regions P1 to P14 does not have to be in a spiral shape around the center of gravity C over the entire section, and at least a part of the entire movement trajectory L is the center of gravity C The amount of movement can be reduced for the section if it is round or spiral. The movement locus L may include a section in which the imaging region moves in a zigzag manner (while reciprocating). The center of gravity C may be the center of gravity (center) on the viewing angle. The inspected object 150 can also be referred to as an inspection object or an inspection object.

また、図19に示すように、検査面150a上には、互いに大きさや形状が異なる撮像領域P1〜P14が設定されている。撮像領域P1〜P14は、例えば、各撮像領域P1〜P14内での検査面150aの法線ベクトルの差(角度差)が、所定値(例えば、数°以内)となるように設定されている。このような設定により、検査の精度が向上しやすい。   Further, as shown in FIG. 19, imaging regions P1 to P14 having different sizes and shapes are set on the inspection surface 150a. The imaging areas P1 to P14 are set so that, for example, the normal vector difference (angle difference) of the inspection surface 150a in each of the imaging areas P1 to P14 is a predetermined value (for example, within a few degrees). . By such setting, the accuracy of inspection is likely to be improved.

また、図1に示すように、制御部103は、ずれ補正部106を有する。ずれ補正部106は、時間相関カメラ110等の撮像部で撮像された画像に基づいて、被検査体150(検査体)の検査面の位置や、姿勢(傾き、方向)のずれを補正する。   Further, as illustrated in FIG. 1, the control unit 103 includes a deviation correction unit 106. The deviation correction unit 106 corrects the deviation of the position and posture (tilt and direction) of the inspection surface of the inspection object 150 (inspection object) based on the image captured by the imaging unit such as the time correlation camera 110.

また、図1に示すように、PC100には、記憶部109が含まれている。記憶部109には、例えば、ずれ補正部106での演算処理に必要なパラメータの値等が記憶されている。パラメータは、例えば、数値や、テーブル、マップ、関数(関数の係数)等である。   Further, as shown in FIG. 1, the PC 100 includes a storage unit 109. The storage unit 109 stores, for example, values of parameters necessary for the arithmetic processing in the deviation correction unit 106. The parameter is, for example, a numerical value, a table, a map, a function (function coefficient), or the like.

具体的に、ずれ補正部106は、例えば、検査面150aの角度を変化させた場合の図19に例示される複数(例えば二つ)の参照点r1,r2での輝度値の変化により、検査面150aの位置や傾きのずれを補正する。   Specifically, the shift correction unit 106 performs inspection by changing the luminance values at a plurality of (for example, two) reference points r1 and r2 illustrated in FIG. 19 when the angle of the inspection surface 150a is changed. The position and inclination of the surface 150a are corrected.

図20には、ずれ補正に関わる演算処理の手順の一例が示されている。まずは、補正タイミングとなった時点で(S11でYes)、制御部103は、時間相関カメラ110および照明装置120を制御し、被検査体150の検査面150aを撮像し(S12)、撮像した結果から参照点r1,r2の輝度値を取得する(S13)。これらS12およびS13は、移動機構140の制御によって得られる複数の角度について実行される。図19の例では、例えば、Z軸回りの複数の角度について、S12およびS13が実行される。   FIG. 20 shows an example of a procedure of arithmetic processing related to deviation correction. First, at the correction timing (Yes in S11), the control unit 103 controls the time correlation camera 110 and the illumination device 120 to image the inspection surface 150a of the inspection object 150 (S12), and a result of imaging To obtain the luminance values of the reference points r1 and r2 (S13). These S12 and S13 are executed for a plurality of angles obtained by the control of the moving mechanism 140. In the example of FIG. 19, for example, S12 and S13 are performed for a plurality of angles around the Z axis.

参照点r1,r2は、縞パターンが移動するX方向に互いに離間している。Z軸回りの検査面150aの角度の変化により、参照点r1,r2の位置がY方向に変化し、参照点r1,r2での法線ベクトルの方向、すなわち、光の反射角度が変化する。したがって、Z軸回りの検査面150aの角度の変化に応じて、時間相関カメラ110で撮像された画像(強度画像)における参照点r1,r2の輝度値が変化する。   The reference points r1 and r2 are separated from each other in the X direction in which the stripe pattern moves. By the change in the angle of the inspection surface 150a around the Z axis, the positions of the reference points r1 and r2 change in the Y direction, and the direction of the normal vector at the reference points r1 and r2, that is, the reflection angle of light changes. Accordingly, the luminance values of the reference points r1 and r2 in the image (intensity image) captured by the time correlation camera 110 change according to the change in the angle of the inspection surface 150a around the Z axis.

図21には、複数の角度での一連の測定における、参照点r1における検査面150aのZ軸回りの角度と、輝度値との相関関係の一例が示され、図22には、当該測定における、参照点r2での検査面150aのZ軸回りの角度と、輝度値との相関関係の一例が示されている。図21に示されるように、参照点r1での反射光の輝度値は、角度θr1でピークとなる釣り鐘状の特性を示す。また、図22に示されるように、参照点r2での反射光の輝度値は、角度θr2でピークとなる釣り鐘状の特性を示す。図21,22の場合のように、参照点r1については、所定の角度範囲Rr1内の角度θr1で輝度値が最大になるとともに、当該角度θr1での輝度値の最大値が閾値Thと同じかあるいはより大きく、かつ、参照点r2については、所定の角度範囲Rr2内の角度θr2で輝度値が最大になるとともに、当該角度θr2での輝度値の最大値が閾値Thと同じかあるいはより大きい場合にあっては、ずれ補正部106は、ずれが許容範囲内であるとして、ずれの補正を実行しない。この場合、ずれ補正部106は、補正量を0と算出する(S14)。この場合、S15の位置ずれ補正は実行されない。あるいは、補正量が0の位置ずれ補正が実行されてもよい。   FIG. 21 shows an example of the correlation between the angle around the Z-axis of the inspection surface 150a at the reference point r1 and the luminance value in a series of measurements at a plurality of angles, and FIG. An example of the correlation between the angle around the Z axis of the inspection surface 150a at the reference point r2 and the luminance value is shown. As shown in FIG. 21, the luminance value of the reflected light at the reference point r1 exhibits a bell-shaped characteristic that peaks at an angle θr1. As shown in FIG. 22, the luminance value of the reflected light at the reference point r2 exhibits a bell-shaped characteristic that peaks at the angle θr2. As in the case of FIGS. 21 and 22, for the reference point r1, while the luminance value is maximized at an angle θr1 within a predetermined angle range Rr1, is the maximum value of the luminance value at the angle θr1 the same as the threshold value Th? Alternatively, for the reference point r2, the luminance value is maximized at the angle θr2 within the predetermined angle range Rr2, and the maximum value of the luminance value at the angle θr2 is equal to or larger than the threshold value Th In this case, the shift correction unit 106 does not perform shift correction assuming that the shift is within the allowable range. In this case, the deviation correction unit 106 calculates the correction amount as 0 (S14). In this case, the positional deviation correction of S15 is not executed. Alternatively, a positional deviation correction with a correction amount of 0 may be executed.

図23には、図21,22とは別のサンプルでの複数の角度での一連の測定における、参照点r1における検査面150aのZ軸回りの角度と、輝度値との相関関係の別の一例が示され、図24には、当該測定における、参照点r2での検査面150aのZ軸回りの角度と、輝度値との相関関係の一例が示されている。図23に示されるように、参照点r1での反射光の輝度値は、角度θr1でピークとなる釣り鐘状の特性を示す。また、図24に示されるように、参照点r2での反射光の輝度値は、角度θr2でピークとなる釣り鐘状の特性を示す。図23,24の場合のように、参照点r1については、所定の角度範囲Rr1内の角度θr1で輝度値が最大になっているものの、当該角度θr1での輝度値の最大値は閾値Thより低く、あるいは、参照点r2については、所定の角度範囲Rr2内の角度θr2で輝度値が最大になっているものの、当該角度θr2での輝度値の最大値は閾値Thより低い場合にあっては、ずれ補正部106は、ずれが許容範囲を超えているとして、ずれの補正を実行する。この場合、ずれ補正部106は、参照点r1の輝度値および参照点r2の輝度値に応じて、補正量を算出する(S14)。参照点r1,r2の輝度値の大きさに対応する補正量は、予め実験的に取得され、記憶部109に、例えば、数値や、テーブル、マップ、関数(関数の係数)等として記憶されている。よって、ずれ補正部106は、記憶部109を参照して、参照点r1,r2の輝度値に対応する補正量を取得する(算出する)ことができる。この場合、移動機構制御部101は、算出された補正量に応じて、移動機構140を動かし、位置ずれを補正する(S15)。   FIG. 23 shows another correlation between the angle around the Z-axis of the inspection surface 150a at the reference point r1 and the luminance value in a series of measurements at a plurality of angles with a sample different from FIGS. An example is shown, and FIG. 24 shows an example of the correlation between the angle around the Z axis of the inspection surface 150a at the reference point r2 and the luminance value in the measurement. As shown in FIG. 23, the luminance value of the reflected light at the reference point r1 exhibits a bell-shaped characteristic that peaks at the angle θr1. As shown in FIG. 24, the luminance value of the reflected light at the reference point r2 exhibits a bell-shaped characteristic that peaks at the angle θr2. As in the case of FIGS. 23 and 24, for the reference point r1, although the luminance value is maximum at the angle θr1 within the predetermined angle range Rr1, the maximum value of the luminance value at the angle θr1 is obtained from the threshold value Th. Although the luminance value is maximum at an angle θr2 within the predetermined angle range Rr2 for the reference point r2 which is low or the maximum value of the luminance value at the angle θr2 is lower than the threshold value Th, The deviation correction unit 106 performs deviation correction assuming that the deviation exceeds the allowable range. In this case, the deviation correction unit 106 calculates a correction amount according to the luminance value of the reference point r1 and the luminance value of the reference point r2 (S14). The correction amount corresponding to the magnitude of the luminance values of the reference points r1 and r2 is experimentally acquired in advance, and stored in the storage unit 109 as numerical values, a table, a map, a function (function coefficient), and the like. Yes. Therefore, the shift correction unit 106 can acquire (calculate) a correction amount corresponding to the luminance values of the reference points r1 and r2 with reference to the storage unit 109. In this case, the movement mechanism control unit 101 moves the movement mechanism 140 according to the calculated correction amount, and corrects the positional deviation (S15).

ここで、仮に、一つの参照点のみの反射光の輝度値が大きくなるように姿勢を補正した場合にあっては、当該一つの参照点における反射光の輝度値の許容範囲が設定されている分、被検査体150が、検査面150aの他の領域の各点では反射光の輝度値が大きくならない姿勢である場合も考えられる。この点、本実施形態では、少なくとも二つの参照点での反射光の輝度値が所定範囲となるように被検査体150の姿勢を補正することで、位置ずれをより小さくすることができる。なお、参照点は二点以上であってもよい。また、上記の例では、Z軸回りの位置ずれの補正についてのみ説明したが、他の軸回りについても同様に補正を行うことができる。例えば、二つの参照点の反射光の輝度値に基づく補正を行った場合、当該二つの参照点を通る軸回りに被検査体150の回転姿勢を変化させながら、当該軸から離れた参照点の反射光の輝度値が所定範囲内となるように、被検査体150の位置ずれを補正してもよい。こうすれば、被検査体150をより精度良く位置決めすることができる。なお、上述した手法では、典型的には、例えば、縞パターンがZ方向に沿って延びるとともに、縞パターンがZ方向と直交する方向に移動し、二つの参照点が縞パターンが移動する方向に離間するよう、設定される。   Here, if the posture is corrected so that the luminance value of the reflected light of only one reference point is increased, the allowable range of the luminance value of the reflected light at the one reference point is set. It can be considered that the object 150 is in a posture in which the luminance value of the reflected light does not increase at each point in the other region of the inspection surface 150a. In this respect, in the present embodiment, the positional deviation can be further reduced by correcting the posture of the object 150 so that the luminance values of the reflected light at the at least two reference points are within a predetermined range. Two or more reference points may be used. In the above example, only the correction of the positional deviation around the Z axis has been described. However, the correction can be similarly performed for other axes. For example, when correction based on the luminance values of the reflected light of two reference points is performed, while changing the rotational attitude of the inspection object 150 around the axis passing through the two reference points, You may correct | amend the position shift of the to-be-inspected object 150 so that the luminance value of reflected light may be in a predetermined range. If it carries out like this, the to-be-inspected object 150 can be positioned more accurately. In the above-described method, typically, for example, the fringe pattern extends along the Z direction, the fringe pattern moves in the direction orthogonal to the Z direction, and the two reference points move in the direction in which the fringe pattern moves. It is set to be separated.

以上、説明したように、本実施形態では、検査面150a上に設定される複数の撮像領域P1〜P14の移動軌跡Lは、被検査体150(検査物)の重心Cの回りを回るように、渦巻き状に移動している。このため、撮像領域を切り替える際、移動機構140によって、被検査体150を、最少の移動量(距離および角度)で移動させることが可能となる。よって、本実施形態によれば、複数の撮像領域P1〜P14の撮像に要する時間を、より短くすることができる。   As described above, in the present embodiment, the movement trajectories L of the plurality of imaging regions P1 to P14 set on the inspection surface 150a move around the center of gravity C of the inspection object 150 (inspection object). Moving in a spiral. For this reason, when switching an imaging region, it becomes possible to move the to-be-inspected object 150 by the minimum moving amount (distance and angle) by the moving mechanism 140. Thus, according to the present embodiment, the time required for imaging the plurality of imaging regions P1 to P14 can be further shortened.

また、本実施形態では、撮像領域P1〜P14には、互いに大きさや形状が異なる複数の撮像領域が含まれている。撮像領域P1〜P14は、例えば、各撮像領域P1〜P14内での検査面150aの法線ベクトルの差(角度差)が、所定値(例えば、数°以内)となるように設定されている。よって、本実施形態によれば、検査の精度が向上しやすい。   Further, in the present embodiment, the imaging areas P1 to P14 include a plurality of imaging areas having different sizes and shapes. The imaging areas P1 to P14 are set so that, for example, the normal vector difference (angle difference) of the inspection surface 150a in each of the imaging areas P1 to P14 is a predetermined value (for example, within a few degrees). . Therefore, according to the present embodiment, the accuracy of inspection is easily improved.

また、本実施形態では、ずれ補正部106は、例えば、検査面150aの角度を変化させた場合の図19に例示される複数(例えば二つ)の参照点r1,r2での輝度値の変化により、検査面150aの位置や傾きのずれを補正する。よって、本実施形態によれば、検査の精度がより向上しやすい。また、複数の参照点r1,r2での輝度値の変化に基づいてずれを補正することにより、一つの参照点での輝度値の変化に基づいてずれを補正する場合に比べて、検査の精度がより向上しやすい。   In the present embodiment, the shift correction unit 106 changes the luminance value at a plurality of (for example, two) reference points r1 and r2 illustrated in FIG. 19 when, for example, the angle of the inspection surface 150a is changed. Thus, the position and inclination deviation of the inspection surface 150a are corrected. Therefore, according to the present embodiment, the accuracy of inspection is easily improved. In addition, by correcting the deviation based on the change in the luminance value at the plurality of reference points r1 and r2, the accuracy of the inspection can be compared with the case of correcting the deviation based on the change in the luminance value at one reference point. Is easier to improve.

上述した実施形態のPC100で実行される検査プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。   The inspection program executed by the PC 100 according to the embodiment described above is a file in an installable format or an executable format, and is a computer such as a CD-ROM, a flexible disk (FD), a CD-R, or a DVD (Digital Versatile Disk). It is recorded on a readable recording medium and provided.

また、上述した実施形態のPC100で実行される検査プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述した実施形態のPC100で実行される検査プログラムおよび較正プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。   Further, the inspection program executed by the PC 100 of the above-described embodiment may be provided by being stored on a computer connected to a network such as the Internet and downloaded via the network. Moreover, you may comprise so that the test | inspection program and calibration program which are performed with PC100 of embodiment mentioned above may be provided or distributed via networks, such as the internet.

本発明のいくつかの実施形態及び変形例を説明したが、これらの実施形態及び変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態及び変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形例は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。   Although some embodiments and modifications of the present invention have been described, these embodiments and modifications are presented as examples and are not intended to limit the scope of the invention. These novel embodiments and modifications can be implemented in various other forms, and various omissions, replacements, and changes can be made without departing from the spirit of the invention. These embodiments and modifications thereof are included in the scope and gist of the invention, and are included in the invention described in the claims and equivalents thereof.

1…検査システム、104…振幅−位相画像生成部(演算処理部)、106…ずれ補正部、110…時間相関カメラ(撮像部、時間相関画像生成部)、120…照明装置(照明部)、130…スクリーン(照明部、発光部)、140…移動機構、150…被検査体(検査物)、150a…検査面、C…重心、L…移動軌跡(重心の回りを回るよう移動する区間、渦巻き状に移動する区間)、P1〜P14…撮像領域、r1,r2…参照点。 DESCRIPTION OF SYMBOLS 1 ... Inspection system, 104 ... Amplitude-phase image generation part (arithmetic processing part), 106 ... Deviation correction part, 110 ... Time correlation camera (imaging part, time correlation image generation part), 120 ... Illuminating device (illumination part), 130: screen (illumination unit, light emission unit), 140: movement mechanism, 150: inspection object (inspection object), 150a: inspection surface, C: center of gravity, L: movement locus (a section moving around the center of gravity, (Section moving spirally), P1 to P14... Imaging region, r1, r2.

Claims (5)

検査物の検査面からの反射光の強度信号と、前記検査面上に与えられる光の強度の時間の経過に応じた空間的な変化に基づく光の強度の時間変化に対応して周期的に変化する参照信号と、を乗算する撮像システムによって時間相関画像を生成する時間相関画像生成部と、
前記検査面上で光を連続的な時間経過に応じて空間的に変化させることにより前記検査面に前記撮像システムの1露光時間内での光の強度の連続的かつ周期的な時間変化および空間変化を与える面的な照明部と、
前記時間相関画像より、前記検査面の法線ベクトルの分布と対応した特徴であって、周囲との違いおよび参照表面との違いのうち少なくとも一方によって異常を検出する特徴を算出する、演算処理部と、
前記検査面上に設定された複数の撮像領域の撮像が行われるよう、前記検査物および前記撮像システムのうち少なくとも一方を動かす移動機構と、
を備え、
前記検査面上での前記撮像領域の移動軌跡に、前記検査物の重心の回りを回るよう移動する区間が含まれる、検査システム。
The intensity signal of the reflected light from the inspection surface of the inspection object and the temporal change of the light intensity periodically based on the spatial change according to the passage of time of the light intensity given on the inspection surface A time correlation image generation unit that generates a time correlation image by an imaging system that multiplies a reference signal that changes;
Continuous and periodic time variation of light intensity and space within one exposure time of the imaging system on the inspection surface by spatially changing the light according to continuous time progress on the inspection surface A surface lighting unit that gives change,
An arithmetic processing unit that calculates, from the time correlation image, a feature corresponding to the distribution of the normal vector of the inspection surface and detecting an abnormality by at least one of a difference from the surroundings and a difference from the reference surface When,
As the imaging of a plurality of imaging areas set on the test surface is performed, a moving mechanism for moving at least one of the inspection object and before SL imaging system,
Equipped with
The inspection system according to claim 1, wherein the movement trajectory of the imaging area on the inspection surface includes a section moving so as to turn around the center of gravity of the inspection object.
前記移動軌跡に、渦巻き状に移動する区間が含まれる、請求項1に記載の検査システム。   The inspection system according to claim 1, wherein the movement trajectory includes a section moving in a spiral manner. 前記複数の撮像領域には、大きさが異なる複数の撮像領域が含まれる、請求項1または2に記載の検査システム。   The inspection system according to claim 1, wherein the plurality of imaging regions include a plurality of imaging regions having different sizes. 前記検査面上の参照点での法線ベクトルが異なる複数の姿勢で前記撮像システムによって撮像された複数の画像における、前記参照点での光の強度に基づいて、前記検査面のずれを補正するずれ補正部を備えた、請求項1〜3のうちいずれか一つに記載の検査システム。 In a plurality of images normal vector is captured by the pre-Symbol IMAGING system different orientation of the reference point on the test surface, on the basis of the intensity of light at the reference point, the displacement of the test surface The inspection system according to any one of claims 1 to 3, further comprising a shift correction unit for correcting. 前記ずれ補正部は、複数の参照点のそれぞれに対応して撮像された前記複数の画像における、それぞれの前記参照点での光の強度に基づいて、前記検査面のずれを補正する、請求項4に記載の検査システム。 The deviation correcting unit, in the plurality of images picked up corresponding to the plurality of reference points, on the basis of the intensity of light at each of the reference points, to correct the deviation of the test surface, claim 4. The inspection system according to 4.
JP2015110446A 2015-05-29 2015-05-29 Inspection system Expired - Fee Related JP6553412B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2015110446A JP6553412B2 (en) 2015-05-29 2015-05-29 Inspection system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015110446A JP6553412B2 (en) 2015-05-29 2015-05-29 Inspection system

Publications (2)

Publication Number Publication Date
JP2016224707A JP2016224707A (en) 2016-12-28
JP6553412B2 true JP6553412B2 (en) 2019-07-31

Family

ID=57748260

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015110446A Expired - Fee Related JP6553412B2 (en) 2015-05-29 2015-05-29 Inspection system

Country Status (1)

Country Link
JP (1) JP6553412B2 (en)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2018112471A (en) * 2017-01-11 2018-07-19 リコーエレメックス株式会社 Inspection system and inspection method
JP2018112470A (en) * 2017-01-11 2018-07-19 リコーエレメックス株式会社 Inspection system and inspection method
JP6392922B1 (en) 2017-03-21 2018-09-19 ファナック株式会社 Apparatus for calculating region that is not subject to inspection of inspection system, and method for calculating region that is not subject to inspection
CN112689752A (en) * 2018-09-20 2021-04-20 美国西门子医学诊断股份有限公司 System, method and apparatus for autonomous diagnostic validation of optical components of a vision-based inspection system
CN111753860B (en) * 2019-03-27 2024-02-02 杭州海康威视数字技术股份有限公司 Analysis anomaly detection method and device
JP2022093035A (en) * 2020-12-11 2022-06-23 日立Astemo株式会社 Device and method for generating test route

Also Published As

Publication number Publication date
JP2016224707A (en) 2016-12-28

Similar Documents

Publication Publication Date Title
JP6316068B2 (en) Inspection system and inspection method
JP6433268B2 (en) Inspection system and inspection method
JP6553412B2 (en) Inspection system
JP6542586B2 (en) Inspection system
WO2018159825A1 (en) Inspection system and inspection method
JP6682251B2 (en) Inspection system and inspection method
JP6529248B2 (en) Inspection system and flexible lighting device
JP6276092B2 (en) Inspection system and inspection method
JP6420131B2 (en) Inspection system and inspection method
JP2018028527A (en) Inspection system
JP6909378B2 (en) Inspection system
JP2017101979A (en) Inspection system
JP2019045346A (en) Inspection device
JP6781430B2 (en) Inspection system
JP6902684B2 (en) Image processing equipment and inspection system
JP6703415B2 (en) Inspection device and inspection method
JP2018116026A (en) Illumination device and light-transmissive member
JP6529247B2 (en) Calibration system and inspection system
JP6909377B2 (en) Inspection system and inspection method
JP6826813B2 (en) Inspection equipment and inspection method
JP6945106B2 (en) Inspection system
JP2024017231A (en) Inspection system and inspection method
JP2020012816A (en) Detection system and detection method
JP2018205039A (en) Image processing device and inspection system
JP2024017229A (en) Inspection system and inspection method

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180309

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190322

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190507

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190612

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20190625

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190704

R150 Certificate of patent or registration of utility model

Ref document number: 6553412

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees