Nothing Special   »   [go: up one dir, main page]

JP2003167530A - Method and device for display picture inspection - Google Patents

Method and device for display picture inspection

Info

Publication number
JP2003167530A
JP2003167530A JP2001369996A JP2001369996A JP2003167530A JP 2003167530 A JP2003167530 A JP 2003167530A JP 2001369996 A JP2001369996 A JP 2001369996A JP 2001369996 A JP2001369996 A JP 2001369996A JP 2003167530 A JP2003167530 A JP 2003167530A
Authority
JP
Japan
Prior art keywords
image
cell
display screen
luminance
brightness
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001369996A
Other languages
Japanese (ja)
Other versions
JP3618713B2 (en
Inventor
Masahiko Uno
真彦 宇野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2001369996A priority Critical patent/JP3618713B2/en
Publication of JP2003167530A publication Critical patent/JP2003167530A/en
Application granted granted Critical
Publication of JP3618713B2 publication Critical patent/JP3618713B2/en
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Testing Of Optical Devices Or Fibers (AREA)
  • Liquid Crystal (AREA)
  • Devices For Indicating Variable Information By Combining Individual Elements (AREA)

Abstract

<P>PROBLEM TO BE SOLVED: To provide a display picture inspecting method for accurately and precisely inspecting a display. <P>SOLUTION: In the method of inspecting respective cells in a specified display area on a display screen by measuring the positions of the respective cells constituting individual pixels by using an image which is picked up by using an image pickup means on the display screen where a position measurement pattern is displayed, providing luminance measurement areas at the measured positions of the respective cells by using an image which is picked up by the image pickup means on the display screen where an inspection pattern is displayed, taking measurements of luminance in the respective luminance measurement areas, computing the mean value or center value of obtained luminance measurement results, and comparing the value with a threshold, when the luminance mean value or center value of the respective cells is compared with the threshold, and when a cell with high luminance is present nearby a cell to be inspected, the threshold is made larger according to the luminance values of cells nearby the cell. <P>COPYRIGHT: (C)2003,JPO

Description

【発明の詳細な説明】Detailed Description of the Invention

【0001】[0001]

【発明の属する技術分野】本発明はディスプレイ画面検
査方法およびディスプレイ画面検査装置に関する。さら
に詳しくは、液晶ディスプレイなどのフラットパネルデ
ィスプレイに代表されるディスプレイ画面の検査のため
のディスプレイ画面検査方法およびディスプレイ画面検
査装置に関する。
BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a display screen inspection method and a display screen inspection device. More specifically, the present invention relates to a display screen inspection method and a display screen inspection apparatus for inspecting a display screen represented by a flat panel display such as a liquid crystal display.

【0002】[0002]

【従来の技術】図14〜16は、たとえば特開平6−2
50139号公報に示された従来の液晶表示パネルの検
査方法を示す図である。まず、検査装置を説明する。図
14において、検査テーブル51は互いに直行するX、
Yのニ軸方向に摺動可能で、かつ水平方向に回転可能と
されており、この上面に液晶表示パネル55が搭載され
る。前記検査テーブル51には、液晶の表示領域に対応
する部分に開口51aが設けられている。また、該検査
テーブル51の下方には、バックライト52が配置され
ており、該バックライト52からの放出光は前記開口5
1aを通して液晶表示パネル55に照射される。前記検
査テーブル51の左右には、測定を終了した液晶表示パ
ネル55を検査テーブル51から取り除くアンローダ5
3と、新たに測定を行なう液晶表示パネル55を検査テ
ーブル51に搭載するローダ54が配置されている。ま
た、検査テーブル51の側方には、液晶表示パネル55
の接続端子に接続して、液晶表示パネル55を点灯する
ためのプローバ56が配置されている。液晶表示パネル
55の上方には、フォトセルがマトリックス状に配列さ
れたCCDカメラ57が配置されており、液晶表示パネ
ル55の点灯輝度を取り込む。該CCDカメラ57に
は、ADまたはACコンバータ59、演算回路60、画
像メモリ61および表示回路62を有する画像処理装置
58が接続されている。
14-16 show, for example, Japanese Patent Application Laid-Open No. 6-2.
It is a figure which shows the inspection method of the conventional liquid crystal display panel shown by 50139 gazette. First, the inspection device will be described. In FIG. 14, the inspection table 51 has Xs orthogonal to each other,
It is slidable in the biaxial direction of Y and rotatable in the horizontal direction, and the liquid crystal display panel 55 is mounted on the upper surface thereof. The inspection table 51 is provided with an opening 51a at a portion corresponding to the liquid crystal display area. A backlight 52 is arranged below the inspection table 51, and the light emitted from the backlight 52 is emitted from the opening 5.
The liquid crystal display panel 55 is illuminated through 1a. The unloader 5 for removing the liquid crystal display panel 55 for which the measurement is completed from the inspection table 51 on the left and right of the inspection table 51.
3 and a loader 54 for mounting a liquid crystal display panel 55 for new measurement on the inspection table 51. A liquid crystal display panel 55 is provided on the side of the inspection table 51.
A prober 56 for illuminating the liquid crystal display panel 55 is arranged by connecting to the connection terminal of. A CCD camera 57 in which photocells are arranged in a matrix is arranged above the liquid crystal display panel 55 and takes in the lighting brightness of the liquid crystal display panel 55. An image processing device 58 having an AD or AC converter 59, an arithmetic circuit 60, an image memory 61 and a display circuit 62 is connected to the CCD camera 57.

【0003】かかる検査装置を用いた検査方法において
は、液晶表示パネル55をCCDカメラ57で撮像し、
個々の画素を構成する各セルに関して輝度計測領域を設
け、その領域内の輝度の平均値を求めることで検査を行
なっている。図15は、CCDカメラ57の撮像画像で
あり、R(赤)、R(R1(1行目の表示画素))、R
(R2(2行目の表示画素))、G(緑)、B(青)は
液晶の1画素のRGBを構成する各セルの位置を表し、
マトリックス状に配列されたフォトセルSはCCDカメ
ラの1受光素子を示す。
In the inspection method using such an inspection device, the liquid crystal display panel 55 is imaged by the CCD camera 57,
The inspection is performed by providing a brightness measurement area for each cell that constitutes each pixel and obtaining the average value of the brightness in the area. FIG. 15 is an image captured by the CCD camera 57, which includes R (red), R (R1 (display pixel in the first row)), R
(R2 (display pixel in the second row)), G (green), and B (blue) represent the position of each cell constituting RGB of one pixel of the liquid crystal,
The photocells S arranged in a matrix indicate one light receiving element of the CCD camera.

【0004】つぎに動作について説明する。この従来の
検査方法では、まず最初にCCDカメラのアライメント
を行なう。アライメントは、たとえば図16に示すよう
に、液晶表示パネルの画面上の所定の3点(アライメン
ト用表示画素M1〜M3)について画像上での位置計測
を行ない、それらの画像上の距離と実際のXY方向基準
距離Xo、Yoを比較する。ついで液晶表示パネルの位置
と傾きを計算することで、各セルの位置を特定する。な
お、図16において、65は全表示領域であり、65A
〜65Cは視野区画である。つぎに各セルの位置に基づ
いて、輝度計測領域を設け、領域内の輝度平均値と予め
定めたしきい値とを比較して各セルの検査を行なう。
Next, the operation will be described. In this conventional inspection method, the CCD camera is first aligned. In alignment, for example, as shown in FIG. 16, position measurement on an image is performed at predetermined three points (alignment display pixels M1 to M3) on the screen of the liquid crystal display panel, and the distance on the image and the actual position are measured. The reference distances Xo and Yo in the XY directions are compared. Then, the position of each cell is specified by calculating the position and inclination of the liquid crystal display panel. In FIG. 16, reference numeral 65 denotes the entire display area,
.About.65C is a visual field section. Next, a luminance measurement region is provided based on the position of each cell, and the average luminance value in the region is compared with a predetermined threshold value to inspect each cell.

【0005】[0005]

【発明が解決しようとする課題】しかしながら、従来の
検査方法では、輝度平均値と予め定めたしきい値を単に
比較しているため、正確な検査ができない。なぜなら、
高い輝度をもった輝点欠陥セル(制御不可能であり常に
点灯しているセル)が存在した場合、その欠陥セルの明
るさによって、光がまわりこみ、周辺のセルの計測輝度
が上がってしまう状況が生じるためである。輝度の影響
は周囲2セル四方に及ぶため、予め定めたしきい値と比
較して検査すると、輝点欠陥セルの周辺セルは欠陥と誤
認識され、正しい検査ができないという問題がある。
However, in the conventional inspection method, since the average luminance value and the predetermined threshold value are simply compared, an accurate inspection cannot be performed. Because
When there is a bright spot defect cell with high brightness (a cell that cannot be controlled and is always lit), the brightness of the defective cell causes light to circulate and the measured brightness of the surrounding cells will rise. Is caused. Since the influence of brightness extends around the two cells in the surroundings, when compared with a predetermined threshold value, the peripheral cells of the bright spot defective cell are erroneously recognized as a defect, and there is a problem that the correct inspection cannot be performed.

【0006】また、従来の検査方法のアライメント方法
では、単にディスプレイ画面上の所定の数点の画面上の
位置の測定結果と、その実際の距離を用いてアライメン
トを実行しているが、実際にはCCDカメラのレンズ歪
みなどがあるため、これでは精密にセルの位置計測を行
なうことが難しい。また、CCDカメラを保持する機構
の弾性変形やガタなどによってCCDカメラの位置計測
に関してわずかでも誤差が生じた場合、アライメントに
狂いが生じるという問題がある。液晶の場合、1セルの
短辺が100μm以下であるので、わずかなアライメン
トの狂いも許されない。
Further, in the conventional alignment method of the inspection method, the alignment is executed simply by using the measurement results of the predetermined positions on the display screen and the actual distances. Since there is lens distortion of the CCD camera, it is difficult to accurately measure the position of the cell. Further, if a slight error occurs in the position measurement of the CCD camera due to elastic deformation of the mechanism for holding the CCD camera or backlash, there is a problem in that the alignment is misaligned. In the case of liquid crystal, since the short side of one cell is 100 μm or less, a slight misalignment is not allowed.

【0007】また、従来の検査方法では、撮像方法の詳
細が記述されていないが、たとえば液晶表示パネルの輝
度のダイナミックレンジは非常に大きく、現存する通常
のCCDカメラの約100倍のダイナミックレンジが必
要である。このため、低輝度のセルから高輝度のセルま
で計測および検査するためには、通常の固定条件下の撮
像では到底無理であるという問題がある。
Further, in the conventional inspection method, although the details of the image pickup method are not described, for example, the dynamic range of the brightness of the liquid crystal display panel is very large, and the dynamic range is about 100 times that of the existing ordinary CCD camera. is necessary. Therefore, in order to measure and inspect from low-luminance cells to high-luminance cells, there is a problem that imaging under normal fixed conditions is extremely impossible.

【0008】さらに、従来の検査方法では、計測方法の
詳細が記述されていないが、色の異なるセルに関して
は、撮像手段によって色に関する感度が異なることや、
カラーフィルタの透過光量特性が色によって異なるた
め、液晶の色の異なる各セルで、同一のしきい値を用い
ると正確に検査できないという問題がある。
Further, in the conventional inspection method, the details of the measuring method are not described, but regarding the cells of different colors, the sensitivities of colors differ depending on the image pickup means, and
Since the transmitted light quantity characteristic of the color filter differs depending on the color, there is a problem that accurate inspection cannot be performed if the same threshold value is used in each cell having different colors of liquid crystal.

【0009】本発明は、前記問題を解決するためになさ
れたものであり、ディスプレイの検査を正確に、かつ精
度よく行なうことができるディスプレイ画面検査方法お
よびディスプレイ画面検査装置を提供することを目的と
する。
The present invention has been made to solve the above problems, and an object of the present invention is to provide a display screen inspection method and a display screen inspection apparatus capable of accurately and accurately inspecting a display. To do.

【0010】[0010]

【課題を解決するための手段】請求項1記載のディスプ
レイ画面検査方法は、ディスプレイ画面の所定の表示領
域に関して、撮像手段を用いて撮像した、位置計測パタ
ーンを表示させたディスプレイ画面の画像を用いて、個
々の画素を構成する各セルの位置を計測し、前記撮像手
段を用いて撮像した、検査パターンを表示させたディス
プレイ画面の画像を用いて、前記計測した各セルの位置
にそれぞれ輝度計測領域を設け、それぞれの輝度計測領
域内で輝度計測を行ない、得られた輝度計測結果の平均
値または中央値を計算し、しきい値と比較して、各セル
の検査を行なう方法であって、各セルの輝度平均値また
は中央値としきい値を比較する際に、検査対象のセルの
近傍に高い輝度のセルが存在した場合、その近傍のセル
の輝度値に応じて、しきい値を高くすることを特徴とす
る。
A method for inspecting a display screen according to claim 1, wherein an image of a display screen on which a position measurement pattern is displayed, which is imaged by an imaging means, is used for a predetermined display area of the display screen. Then, the position of each cell that constitutes each pixel is measured, and the brightness is measured at each of the measured positions of the cells using the image of the display screen on which the inspection pattern is displayed, which is imaged by using the imaging unit. A method is provided in which an area is provided, the brightness is measured in each brightness measurement area, the average value or the median value of the obtained brightness measurement results is calculated, and the result is compared with a threshold value to inspect each cell. , When comparing the brightness average value or median value of each cell with the threshold value, if there is a cell with high brightness in the vicinity of the cell to be inspected, depending on the brightness value of the cells in the vicinity. Characterized by increasing the threshold.

【0011】請求項2記載のディスプレイ画面検査方法
は、前記輝度計測について、撮像手段の露光時間を変え
て複数回、それぞれの輝度計測領域内で輝度計測を行な
い、得られた輝度計測の結果を合成して、それぞれの輝
度計測領域内の輝度を計算する。
According to a second aspect of the present invention, in the display screen inspection method, the luminance measurement is performed a plurality of times in each of the luminance measurement areas by changing the exposure time of the image pickup means, and the obtained luminance measurement result is obtained. By synthesizing, the luminance in each luminance measurement area is calculated.

【0012】請求項3記載のディスプレイ画面検査方法
は、予めディスプレイ画面上の特定の座標位置と、前記
座標位置に関する撮像手段で得られる画像上の位置と、
その際の撮像手段の絶対位置のデータの集合を複数用い
て、撮像手段の絶対位置とディスプレイ画面上の変換式
を計算しておき、検査の際には、撮像手段の絶対位置と
前記変換式を用いて得られる計測パターンの画像上の予
想位置と、実際の計測パターンの画像上の位置のずれを
計測し、このずれ量を用いて画像座標とディスプレイ座
標の変換式を新たに計算し、この変換式を用いて、検査
したセルの画像上の位置をディスプレイ座標位置に変換
して出力する。
According to a third aspect of the present invention, there is provided a method for inspecting a display screen, wherein a specific coordinate position on the display screen and a position on the image obtained by the image pickup means relating to the coordinate position are stored in advance.
The absolute position of the image pickup unit and the conversion formula on the display screen are calculated by using a plurality of sets of data of the absolute position of the image pickup unit at that time, and the absolute position of the image pickup unit and the conversion formula are calculated at the time of inspection. Measure the expected position on the image of the measurement pattern obtained by using, and measure the deviation of the position on the image of the actual measurement pattern, and use this deviation amount to newly calculate the conversion formula for the image coordinates and the display coordinates, Using this conversion formula, the position of the inspected cell on the image is converted into the display coordinate position and output.

【0013】請求項4記載のディスプレイ画面検査方法
は、前記位置計測パターンについて、ディスプレイ画面
上の所定位置の複数のセルを点灯して、複数点のセルの
位置を計測し、それらを小領域に分割して、その各小領
域ごとに画像座標とディスプレイ座標の関係を曲線回帰
することにより、撮像手段の画像の歪み量を補正して、
各セルの位置を計算する。
According to a fourth aspect of the present invention, in the display screen inspecting method, a plurality of cells at predetermined positions on the display screen are turned on in the position measuring pattern, the positions of a plurality of cells are measured, and they are set in a small area. By dividing and performing a curve regression of the relationship between the image coordinates and the display coordinates for each of the small areas, the amount of distortion of the image of the image pickup unit is corrected,
Calculate the position of each cell.

【0014】請求項5記載のディスプレイ画面検査方法
は、前記しきい値の作成について、検査領域全体に関し
て、色の異なるセル毎に平均値または中央値を計算し、
その平均値または中央値に基準値を足しこむことにより
色の異なるセルごとにしきい値を作成する。
According to a fifth aspect of the present invention, a display screen inspection method calculates an average value or a median value for each cell of different colors in the entire inspection area for creating the threshold value,
A threshold value is created for each cell having a different color by adding a reference value to the average value or the median value.

【0015】請求項6記載のディスプレイ画面検査方法
は、前記輝度計測について、色の異なるセルごとに、輝
度計測の結果を撮像手段の感度特性に基づく係数を乗じ
て補正する。
According to a sixth aspect of the present invention, in the display screen inspection method, the luminance measurement is corrected for each cell having a different color by multiplying the result of the luminance measurement by a coefficient based on the sensitivity characteristic of the image pickup means.

【0016】さらに請求項7記載のディスプレイ画面検
査装置は、ディスプレイ画面を撮像する撮像手段と、デ
ィスプレイ画面の画面制御を行なうディスプレイ画面制
御手段と、撮像手段を保持して移動を可能にする移動手
段と、撮像手段の絶対位置を計測する計測手段と、撮像
手段を用いて撮像した、位置計測パターンを表示させた
ディスプレイ画面の画像を処理して、個々の画素を構成
する各セルの位置を計測し、撮像手段を用いて撮像し
た、検査パターンを表示させたディスプレイ画面の画像
を処理して、前記計測した各セルの位置にそれぞれ輝度
計測領域を設け、それぞれの輝度計測領域内で輝度計測
を行ない、得られた輝度計測結果の平均値または中央値
を計算し、しきい値と比較して、各セルの検査を行な
い、各セルの輝度平均値または中央値としきい値を比較
する際には、検査対象となるセルの近傍に高い輝度のセ
ルが存在した場合、近傍のセルの輝度値に応じて、しき
い値を高くするように構成した画像処理手段と、検査の
全体の流れの制御を行なう制御手段を備えてなることを
特徴とする。
Further, the display screen inspection apparatus according to claim 7 is an image pickup means for picking up an image of the display screen, a display screen control means for controlling the screen of the display screen, and a moving means for holding and moving the image pickup means. And a measuring means for measuring the absolute position of the image pickup means, and an image of the display screen on which the position measurement pattern is displayed, which is picked up by the image pickup means, is processed to measure the position of each cell forming each pixel. Then, the image of the display screen on which the inspection pattern is displayed, which is picked up by the image pickup means, is processed, and the brightness measurement regions are provided at the positions of the respective measured cells, and the brightness measurement is performed in each of the brightness measurement regions. The average value or median value of the obtained brightness measurement results is calculated, and compared with the threshold value, each cell is inspected, and the brightness average of each cell is calculated. Or, when comparing the median value and the threshold value, if there is a cell with high brightness in the vicinity of the cell to be inspected, the threshold value is increased according to the brightness value of the cells in the vicinity. The image processing means and the control means for controlling the entire flow of the inspection are provided.

【0017】[0017]

【発明の実施の形態】実施の形態1 図1は本発明の実施の形態1にかかわるディスプレイ画
面検査方法およびディスプレイ画面検査装置を説明する
ための図である。図1において、1はCCDカメラなど
の撮像手段、2はディスプレイ画面制御手段、3は撮像
手段1を移動させる移動手段、4は撮像位置の計測手
段、5は画像処理手段、6は制御手段、7は判定結果の
出力値である。8は検査対象物である液晶表示パネルな
どに代表されるディスプレイ装置である。
First Embodiment FIG. 1 is a diagram for explaining a display screen inspection method and a display screen inspection apparatus according to a first embodiment of the present invention. In FIG. 1, 1 is an image pickup means such as a CCD camera, 2 is a display screen control means, 3 is a moving means for moving the image pickup means 1, 4 is an image pickup position measuring means, 5 is an image processing means, 6 is a control means, 7 is an output value of the determination result. Reference numeral 8 denotes a display device represented by a liquid crystal display panel which is an inspection object.

【0018】つぎに動作について説明する。まずディス
プレイ画面全体において、粗検査を行ない、欠陥が存在
するおおよその場所に撮像手段1を移動させる。粗検査
は、直接人が目視で行なってもよいし、別の装置で検査
し、その結果をもとに撮像手段1を移動させてもよい。
人が粗検査を行なう場合は、ディスプレイ画面制御手段
2が、ディスプレイ装置8を制御することにより、粗検
査に適した画面パターン、たとえば全黒画面などを表示
させる。撮像手段1の移動は、移動手段3によって行な
われ、XY方向に移動可能である。この動作は制御手段
6の信号に基づいて自動で行なうことができるが、人が
手で動かしてもよい。また、本実施の形態1では、移動
手段3は撮像手段1を保持し、ディスプレイ装置8の上
部に位置しているが、撮像手段1を固定しておいて別の
移動手段がディスプレイ装置8を動かすように構成する
こともできる。これは撮像手段1の視野を移動させると
いう機能において同等であるためである。ついで制御手
段6から画面制御指示がディスプレイ画面制御手段2に
送られたのち、ディスプレイ装置8に計測パターンが表
示される。撮像手段1は、計測パターンが表示されたデ
ィスプレイ装置8の一部または全部を撮像し、画像を画
像処理手段5に蓄える。ついで制御手段6から画面制御
指示がディスプレイ画面制御手段2に送られたのち、デ
ィスプレイ装置8に検査パターンが表示される。撮像手
段1は、検査パターンが表示されたディスプレイ装置8
の一部または全部を撮像し、画像を画像処理手段5に蓄
える。この際、計測パターンと検査パターンは共に露光
時間を変えて2種類以上のパターンを適用してもかまわ
ない。また、該計測パターンと検査パターンの表示順序
は、必ずしも計測パターンが先である必要はなく、検査
パターンを先に表示することもできる。通常、パターン
を発生させるのに必要な時間や、パターン間の切り替え
時間を考慮し、時間的に最短になるようにパターンを発
生させるのがよい。また、検査パターンを撮像する際
は、撮像手段1の露光時間を、たとえば1/2s、1/
20s、1/200sなどのように、複数回切り替えて
撮像し、画像を蓄積する。なお、特別な撮像手段によっ
ては、該撮像手段の内部回路において同様の処理を行な
うものもあるが、その際は、その機能を用いてもよい。
Next, the operation will be described. First, a rough inspection is performed on the entire display screen, and the image pickup means 1 is moved to an approximate location where a defect exists. The rough inspection may be performed directly by a person, or may be performed by another device and the image pickup means 1 may be moved based on the result.
When a person performs a rough inspection, the display screen control means 2 controls the display device 8 to display a screen pattern suitable for the rough inspection, such as an all black screen. The movement of the image pickup means 1 is performed by the movement means 3 and is movable in the XY directions. This operation can be automatically performed based on the signal of the control means 6, but may be manually moved by a person. In the first embodiment, the moving means 3 holds the image pickup means 1 and is located above the display device 8. However, the image pickup means 1 is fixed and another moving means holds the display device 8. It can also be configured to move. This is because the function of moving the visual field of the image pickup means 1 is equivalent. Then, after a screen control instruction is sent from the control means 6 to the display screen control means 2, the measurement pattern is displayed on the display device 8. The image capturing means 1 captures an image of part or all of the display device 8 on which the measurement pattern is displayed, and stores the image in the image processing means 5. Then, after the control means 6 sends a screen control instruction to the display screen control means 2, the inspection pattern is displayed on the display device 8. The image pickup means 1 is a display device 8 on which an inspection pattern is displayed.
A part or all of the image is captured and the image is stored in the image processing means 5. At this time, two or more types of patterns may be applied to the measurement pattern and the inspection pattern by changing the exposure time. Further, the display order of the measurement pattern and the inspection pattern does not necessarily have to be the measurement pattern first, and the inspection pattern can be displayed first. In general, it is preferable to generate a pattern so as to have the shortest time in consideration of the time required to generate the pattern and the switching time between patterns. Further, when the inspection pattern is imaged, the exposure time of the image pickup means 1 is set to, for example, 1/2 s, 1 /
For example, 20s, 1 / 200s, etc. are switched a plurality of times to capture an image, and the image is accumulated. Depending on the special image pickup means, the same processing may be performed in the internal circuit of the image pickup means, but in that case, that function may be used.

【0019】図2は蓄積した画像に関して、検査の手順
を示すフローチャートである。図2において、ステップ
S1では、計測パターンの画像を画像処理し、画像に写
っている各セルの画像上の位置を計測する。ステップS
2では、ステップS1で得られた各セルの画像上の位置
を元に、検査パターンの画像から各セルの発光位置に輝
度計測領域を設けて輝度計測を行ない、各セルの輝度の
平均値または中央値を計測する。ステップS3では、検
査対象のセルの周辺に高輝度のセルがあるか否かを調
べ、存在する場合は、しきい値を変更する(ステップS
4)。ついでステップS5〜S7では、このしきい値と
検査対象のセルに関する輝度の平均値または中央値を比
較し、ディスプレイ装置のセルの良否を判定する。この
ステップS3〜S7は、検査パターンの画像に写ってい
る全部のセルまたは一部のセルに対して行ない、ついで
ステップS8では、全部のセルの判定が終了するまで繰
り返す。全セルの判定終了後、ステップS9では、欠陥
セルの画像位置をディスプレイ画面座標に変換し、ステ
ップS10では、欠陥セルの有無、欠陥セルの輝度情報
および欠陥位置などを出力する。
FIG. 2 is a flow chart showing the inspection procedure for the accumulated image. In FIG. 2, in step S1, the image of the measurement pattern is image-processed, and the position of each cell in the image on the image is measured. Step S
In 2, based on the position on the image of each cell obtained in step S1, the luminance measurement region is provided at the light emission position of each cell from the image of the inspection pattern to perform the luminance measurement, and the average value of the luminance of each cell or Measure the median. In step S3, it is checked whether or not there is a high-intensity cell around the cell to be inspected, and if it exists, the threshold value is changed (step S).
4). Then, in steps S5 to S7, the threshold value is compared with the average value or the median value of the luminances of the cells to be inspected to judge the quality of the cells of the display device. These steps S3 to S7 are performed for all the cells or a part of the cells shown in the image of the inspection pattern, and then in step S8, they are repeated until the determination of all the cells is completed. After the determination of all cells is completed, the image position of the defective cell is converted into display screen coordinates in step S9, and the presence or absence of the defective cell, the brightness information of the defective cell, and the defect position are output in step S10.

【0020】つぎに各ステップの内容を詳細に説明す
る。
Next, the contents of each step will be described in detail.

【0021】ステップS1では、計測パターンの画像を
画像処理し、画像に写っている各セルの画像上の位置を
計算する。図3〜4に計測パターンの一例としてクロス
ハッチ画像CPを示す。理由は後述するが、ディスプレ
イ装置がカラーTFT液晶表示装置である場合、クロス
ハッチは、特定の色のセルだけを用いて構成している。
図3〜4ではクロスハッチのラインがとくにX方向にお
いて連続していないように見えるが、これは、たとえば
G(緑)のセルだけを点灯しており、R(赤)およびB
(青)のセルを消灯しているためである。
In step S1, the image of the measurement pattern is image-processed and the position of each cell in the image on the image is calculated. 3 to 4 show a cross hatch image CP as an example of the measurement pattern. Although the reason will be described later, when the display device is a color TFT liquid crystal display device, the crosshatch is configured using only cells of a specific color.
In FIGS. 3-4, the crosshatch lines appear not to be continuous, especially in the X direction, but this is because, for example, only the G (green) cell is illuminated, and the R (red) and B cells.
This is because the (blue) cell is turned off.

【0022】前記画像処理手段5は、まず計測パターン
が撮像された画像を用いて、所定の位置にある複数のセ
ルの位置を画像計測する。図5に計測パターンから計測
された複数のセルの中心位置Pを示す。図6は図5の計
測を行なうための計測手法の一例を示したものであり、
既知技術であるXY方向の投影を用いている。図6
(a)〜(b)に示されるように、投影により、クロス
ハッチラインL1、L2の概略位置は計算できるので、
その位置に計測領域Zを設け、図6(c)に示されるよ
うに、領域内の重心計算によってそれぞれの縦横ライン
LY、LXの正確な位置を計算し、その交点を所定のセ
ルCの中心位置Pとする。この際、重心計算をするうえ
で、特定色だけでクロスハッチラインが構成されている
方が望ましい。色が異なるセルの輝度は、撮像手段の感
度や液晶パネルを構成するカラーフィルタの透過特性な
どで異なるため、色の異なるセルでラインを構成した場
合、重心位置がセルの中心位置と著しくずれる場合があ
るためである。図5のように複数のセルCの中心位置P
を計算したのち、これらの中心位置Pと既知であるクロ
スハッチの基本データ(クロスハッチを構成しているセ
ルの色、クロスハッチの間隔が何セル分で構成されてい
るか、セルの縦横長さの比など)を組み合わせて計算す
ることにより、画面上に映っている全セルの画像上の正
確な位置を求める。
The image processing means 5 first measures the positions of a plurality of cells at predetermined positions by using the image of the measurement pattern. FIG. 5 shows the center positions P of the plurality of cells measured from the measurement pattern. FIG. 6 shows an example of a measurement method for performing the measurement of FIG.
The projection in the XY directions, which is a known technique, is used. Figure 6
As shown in (a) and (b), since the approximate positions of the cross hatch lines L1 and L2 can be calculated by projection,
A measurement area Z is provided at that position, and as shown in FIG. 6C, the exact position of each vertical and horizontal line LY, LX is calculated by the calculation of the center of gravity in the area, and the intersection is defined as the center of the predetermined cell C. Position P. At this time, in calculating the center of gravity, it is desirable that the crosshatch line is composed of only specific colors. Since the brightness of cells with different colors differs depending on the sensitivity of the image pickup means and the transmission characteristics of the color filters that compose the liquid crystal panel, when the line is composed of cells of different colors, the center of gravity position is significantly displaced from the center position of the cell. Because there is. As shown in FIG. 5, the center position P of the plurality of cells C
After calculating these, the center position P and basic data of the known crosshatch (color of cells forming the crosshatch, how many cells are arranged in the crosshatch interval, vertical and horizontal lengths of the cells) The exact position on the image of all cells displayed on the screen is obtained by combining and calculating.

【0023】ステップS2では、検査パターンが撮像さ
れた画像に関して、以下のように画像処理を行なう。ス
テップS2のフローチャートを図7に示す。たとえば検
査パターンが全黒画面(画面の全セルを消灯した画面)
1種類であり、露光時間が1/2s、1/20s、1/
200sと切り替えられて撮像されている場合は、3枚
の検査パターンの画像が蓄積されている。ステップS2
1では、計測パターンの画像計測結果により、画像上の
全セルに関して、セルの発光領域に輝度計測領域を設け
ることができるため、検査パターンの画像に関して各セ
ルの輝度計測領域内で画像の輝度計測を行ない、その平
均値または中央値を計測する。ステップS22では、前
記平均値または中央値を並べた新しい画像(セル内輝度
画像)を作成する。なお、平均値のかわりに中央値を用
いてもよい理由は、中央値の方が平均値よりもノイズに
対して影響を受けないためである。たとえば突発的に高
い輝度のノイズが1つ入っても中央値はほとんど変わら
ないが、平均値は大きな影響を受ける。
In step S2, the image processing of the image of the inspection pattern is performed as follows. The flowchart of step S2 is shown in FIG. For example, the inspection pattern is an all black screen (screen in which all cells on the screen are turned off)
One type, exposure time is 1 / 2s, 1 / 20s, 1 / s
When the image is switched to 200 s and imaged, three inspection pattern images are accumulated. Step S2
In 1, the luminance measurement region can be provided in the light emitting region of the cell for all cells on the image based on the image measurement result of the measurement pattern. Therefore, regarding the image of the inspection pattern, the luminance measurement region of the image is measured within the luminance measurement region of each cell. And measure the average or median. In step S22, a new image (intra-cell luminance image) in which the average value or the median value is arranged is created. The reason why the median value may be used instead of the average value is that the median value is less affected by noise than the average value. For example, even if one noise having a high brightness suddenly enters, the median value is almost unchanged, but the average value is greatly affected.

【0024】各セルの輝度計測領域は、1つのセルの発
光領域に関して複数設定してもよい。また、それぞれの
輝度計測領域は、液晶の発光部分でないブラックマトリ
クス部分を避けて設定するものとする。ステップS2
1、S22は3つの露光時間の異なる同一の検査パター
ンの画像についてそれぞれ行なう(ステップS23)た
め、本実施の形態1では、3枚のセル内輝度画像が作成
される(ステップS24)。ついでつぎの検査パターン
の画像があるか否かを判断する(ステップS25)。
A plurality of brightness measurement areas of each cell may be set for the light emitting area of one cell. In addition, each of the brightness measurement areas is set so as to avoid the black matrix portion that is not the light emitting portion of the liquid crystal. Step S2
Since steps 1 and S22 are respectively performed on three images of the same inspection pattern with different exposure times (step S23), three in-cell luminance images are created in the first embodiment (step S24). Then, it is judged whether or not there is an image of the next inspection pattern (step S25).

【0025】図8(a)〜(c)ではR、G、Bのセル
の発光領域(矢印W)に関して、各セルに対して3つの
輝度計測領域、すなわちWR1〜WR3、WG1〜WG
3およびWB1〜WB3を設定し、3つの露光時間に基
づく3枚のセル内輝度画像E1〜E3および合成輝度画
像Eを作成する例を示す。輝度計測領域WR1〜WR
3、WG1〜WG3、WB1〜WB3の画像上での1辺
の長さは、撮像手段1の受光素子の3ピクセル以上で構
成するのが望ましい。これ以下になると、1セルにおけ
る輝度計測の母集団の数が少なくなり、計測値の信頼性
が低下するほか、検査対象の1セルの大きさと撮像手段
1の受光素子の1ピクセルの大きさが近くなるため、モ
アレ縞(干渉)が生じやすくなり計測が難しくなる。
In FIGS. 8A to 8C, regarding the light emitting regions (arrows W) of the R, G, and B cells, there are three luminance measuring regions for each cell, that is, WR1 to WR3 and WG1 to WG.
3 and WB1 to WB3 are set, and three in-cell luminance images E1 to E3 and a combined luminance image E are created based on three exposure times. Brightness measurement area WR1 to WR
3, the length of one side on the image of WG1 to WG3 and WB1 to WB3 is preferably composed of 3 pixels or more of the light receiving element of the image pickup means 1. Below this, the number of luminance measurement populations in one cell decreases, the reliability of the measured values decreases, and the size of one cell to be inspected and the size of one pixel of the light receiving element of the image pickup means 1 are reduced. Since they are close to each other, moire fringes (interference) are likely to occur and measurement becomes difficult.

【0026】3枚のセル内輝度画像E1〜E3は、それ
ぞれが感度の異なる画像と考えることができる。露光時
間の長い画像から構成したセル内輝度画像は、高感度の
画像であり、暗い輝度をもったセルの輝度を正確に測定
しているが、高い輝度をもったセルに関しては輝度値が
飽和している。一方、露光時間の短い画像から構成した
セル内輝度画像は、高い輝度をもったセルの輝度を正確
に測定しているが、低い輝度をもったセルに関しては輝
度値が黒レベル(暗電流成分またはノイズ成分とも呼
ぶ)と変わらないレベルになっており正しく測定できて
いない。これは液晶表示パネルの輝度のダイナミックレ
ンジが、撮像手段1の有するダイナミックレンジをはる
かにこえているためである。
The three in-cell luminance images E1 to E3 can be considered as images having different sensitivities. The in-cell luminance image composed of images with long exposure time is a highly sensitive image, and the luminance of cells with dark luminance is accurately measured, but the luminance value is saturated for cells with high luminance. is doing. On the other hand, an in-cell brightness image composed of images with short exposure time accurately measures the brightness of cells with high brightness, but the brightness value of cells with low brightness has a black level (dark current component). Or it is also called noise component) and the level is not changed, and the measurement cannot be performed correctly. This is because the dynamic range of the brightness of the liquid crystal display panel far exceeds the dynamic range of the image pickup means 1.

【0027】このため、ステップS24では、これら3
枚の画像E1〜E3を、たとえば以下の手順で合成し
て、合成輝度画像Eを作成する。ここでは、撮像手段1
の輝度階調が256階調(輝度にして0〜255)を有
するとする。合成の仕方の一例としては、つぎの手順
(ステップ241、ステップ242)がある。
Therefore, in step S24, these 3
The images E1 to E3 are combined in the following procedure, for example, to create a combined luminance image E. Here, the image pickup means 1
The luminance gradation of has 256 gradations (0 to 255 in terms of luminance). The following procedure (step 241 and step 242) is one example of the synthesizing method.

【0028】ステップ241では、3枚のセル内輝度画
像で注目画素の輝度値がいちばん128の値に近い画像
を選択する。
In step 241, an image in which the luminance value of the pixel of interest is closest to 128 is selected from the three in-cell luminance images.

【0029】ステップ242では、 露光時間が1/2sのときのセル内輝度画像である場
合、該1/2s露光時間のセル内輝度画像の輝度を出力
する。 露光時間が1/20sのセル内輝度画像である場合、 (i)輝度が黒レベル以下であるなら、1/2s露光時
間のセル内輝度画像の輝度を出力する。 (ii)輝度が黒レベルより上であるなら、(1/20s
露光時間のセル内輝度画像の輝度−黒レベル)×輝度比
1(10=(1/2)/(1/20))を出力する。 露光時間が1/200sのセル内輝度画像である場
合、 (i)輝度が黒レベル以下であるなら、(1/20s露
光時間のセル内輝度画像の輝度−黒レベル)×輝度比1
(10=(1/2)/(1/20))を出力する。 (ii)輝度が黒レベルより上であるなら、(1/200
s露光時間のセル内輝度画像の輝度−黒レベル)×輝度
比2(100=(1/2)/(1/200))を出力する。
In step 242, if the in-cell luminance image is obtained when the exposure time is 1/2 s, the luminance of the in-cell luminance image at the 1/2 s exposure time is output. In the case of an in-cell luminance image with an exposure time of 1/20 s, (i) if the luminance is below the black level, the luminance of the in-cell luminance image with a 1/2 s exposure time is output. (Ii) If the brightness is above the black level, (1 / 20s
The brightness of the in-cell brightness image at the exposure time-black level) * the brightness ratio of 1 (10 = (1/2) / (1/20)) is output. In the case of an in-cell brightness image with an exposure time of 1/200 s, (i) if the brightness is below the black level, (brightness of the in-cell brightness image with an exposure time of 1/20 s-black level) x brightness ratio 1
(10 = (1/2) / (1/20)) is output. (Ii) If the luminance is above the black level, (1/200
s Brightness of in-cell brightness image at exposure time-black level) x brightness ratio 2 (100 = (1/2) / (1/200)) is output.

【0030】まず、ステップ241において、黒レベル
付近の輝度や飽和付近の輝度を有していないセル内輝度
画像を選択し、ステップ242において合成処理を行な
う。合成処理における輝度比1、2は露光時間の比に相
当する。
First, in step 241, an in-cell luminance image having no luminance near the black level and no luminance near saturation is selected, and in step 242, the combining process is performed. The luminance ratios 1 and 2 in the combining process correspond to the exposure time ratios.

【0031】検査パターンが全黒画面以外に全赤画面、
全緑画面または全青画面がある場合には、それらのパタ
ーンの数だけ、同様に合成輝度画像を作成する。
The inspection pattern is an all-red screen in addition to the all-black screen,
If there are all-green screens or all-blue screens, composite luminance images are similarly created for the number of patterns.

【0032】ここまでの手順によって、撮像手段のダイ
ナミックレンジを拡大して、各セルの輝度計測領域内の
平均値または中央値を計測できたので、ステップS3〜
S8では、これらの値と所定のしきい値を比較して、良
否を判定する。しきい値は、セルの色ごとに設定されて
いるものとする。
By the procedure up to this point, the dynamic range of the image pickup means can be expanded and the average value or the median value in the brightness measurement area of each cell can be measured.
In S8, these values are compared with a predetermined threshold value to judge acceptability. It is assumed that the threshold is set for each cell color.

【0033】たとえば輝点欠陥を判定する場合、全黒画
像に対して得られた前記平均値または中央値と、輝点欠
陥の最小輝度に相当するしきい値とを比較し、しきい値
以上の値が得られた場合に、そのセルを不良品と判定す
る。中間階調の輝度を表示した場合のセルの明るさの範
囲が指定値に入っているかどうかを検査する場合は、良
品を規定する上限しきい値と下限しきい値の2つを定め
て、比較すればよい。
For example, when determining a bright spot defect, the average value or the median value obtained for all black images is compared with a threshold value corresponding to the minimum brightness of the bright spot defect, and the threshold value or more is determined. When the value of is obtained, the cell is determined to be defective. When inspecting whether the range of the cell brightness when displaying the brightness of the intermediate gradation is within the specified value, set two upper limit thresholds and lower limit thresholds that define good products, Just compare.

【0034】つぎに輝点欠陥の判定について説明する。Next, the determination of bright spot defects will be described.

【0035】高い輝度を有する輝点欠陥が存在しなけれ
ば、各セルの輝度計測領域内の平均値または中央値と予
め設定したしきい値を比較して良否を決めればよいが、
高い輝度を有する輝点欠陥が存在する場合には、欠陥セ
ルの周辺のセルに光がまわりこんで、周辺のセルの輝度
が高くなってしまう。このため、固定したしきい値を比
較に用いると、高輝度の輝点欠陥の周辺のセルは欠陥と
誤認識されるという問題が生じる。
If there is no bright spot defect having a high brightness, the quality may be determined by comparing the average value or the median value in the brightness measurement area of each cell with a preset threshold value.
When there is a bright spot defect having high brightness, light circulates into the cells around the defective cell, and the brightness of the peripheral cells becomes high. Therefore, if a fixed threshold value is used for comparison, there arises a problem that cells around a high-luminance bright spot defect are erroneously recognized as a defect.

【0036】そこで、ステップS4では、たとえばつぎ
のようにして、高輝度輝点欠陥の周辺のセルに適用する
しきい値を高くするように変更する。まず前記合成輝度
画像Eについて、図9に示されるように、検査対象の画
素ptの周辺2画素、本実施の形態では、画素ptの回
りの24画素(画素ptから半径2つの画素すべての画
素)において、画素ptの輝度より高い輝度をもち、か
つ予め指定した輝度γ以上の明るさをもった高輝度画素
であるか否かを調べる。高輝度画素でない場合は、通常
どおり検査対象の画素の輝度としきい値を比較し、検査
対象の画素に該当するセルの良否を決定する。しきい値
は、検査対象物である液晶表示パネルなどに色が異なる
セルがある場合には、色ごとに設けるものとする。
Therefore, in step S4, the threshold value applied to the cells around the high-luminance bright spot defect is changed to be high, for example, as follows. First, with respect to the combined luminance image E, as shown in FIG. 9, two pixels around the pixel pt to be inspected, in the present embodiment, 24 pixels around the pixel pt (from the pixel pt to all pixels of two radiuses ), It is checked whether or not the pixel is a high-luminance pixel having a luminance higher than that of the pixel pt and having a brightness equal to or higher than the luminance γ designated in advance. If the pixel is not a high luminance pixel, the luminance of the pixel to be inspected is compared with the threshold value as usual, and the quality of the cell corresponding to the pixel to be inspected is determined. The threshold value is set for each color when there are cells of different colors in the liquid crystal display panel, which is the inspection object.

【0037】一方、高輝度画素である場合は、図10に
示すしきい値増分係数マップMを用いてしきい値増分を
計算する。しきい値増分係数マップMは、高輝度画素p
を中心にしており、検査対象の画素の位置からマップM
上で値を得て、しきい値増分値をつぎの式で計算する。
On the other hand, in the case of a high brightness pixel, the threshold value increment is calculated using the threshold value increment coefficient map M shown in FIG. The threshold increment coefficient map M includes high-luminance pixels p
Centered on the map M from the position of the pixel to be inspected
Taking the value above, calculate the threshold increment by the following formula:

【0038】しきい値増分値 = 高輝度画素の輝度値
× マップ上の値
Threshold increment value = luminance value of high luminance pixel × value on map

【0039】図9〜10の例の場合、図9において上の
高輝度画素p1の輝度をGUとし、下の高輝度画素p2
の輝度をGDとすると、しきい値増分値はそれぞれつぎ
のようになる。なお、図9では、説明上pt、p1、p
2をわかりやすくするために斜線を入れている。
In the case of the examples of FIGS. 9 to 10, the luminance of the high luminance pixel p1 on the upper side in FIG.
If the brightness of is GD, the threshold increment values are as follows. Note that in FIG. 9, for the sake of explanation, pt, p1, and p
The diagonal lines have been added to make 2 easier to understand.

【0040】 しきい値増分値(p1) = GU × 0.8β (1) しきい値増分値(p2) = GD × 0.5α (2)[0040]     Threshold increment value (p1) = GU x 0.8β (1)     Threshold increment value (p2) = GD x 0.5α (2)

【0041】この例の場合のように、検査対象の画素に
対し、高輝度画素が複数存在する場合は、前記式
(1)、(2)により計算される値のうち、値の大きな
方をしきい値増分値とする。ここで、α、βの値は検査
対象物であるディスプレイ装置8の種類(液晶Aまたは
液晶Bなど)によって変更する値であり、α>βとす
る。α、βの値や、係数マップM上の各値を実験に基づ
いて所定の値に設定することにより、高輝度画素が周囲
に与える輝度の影響を設定することができる。たとえ
ば、α=0.15、β=0.01などに設定される。
As in the case of this example, when there are a plurality of high-intensity pixels for the pixel to be inspected, the larger one of the values calculated by the equations (1) and (2) is selected. The threshold increment value. Here, the values of α and β are values to be changed depending on the type of the display device 8 (liquid crystal A or liquid crystal B, etc.) that is the inspection object, and α> β. By setting the values of α and β and the respective values on the coefficient map M to predetermined values based on experiments, it is possible to set the influence of the brightness of the high brightness pixels on the surroundings. For example, α = 0.15 and β = 0.01 are set.

【0042】このようにして、しきい値増分値を決定し
たあと、検査対象の画素の輝度を、(予め設定されたし
きい値+しきい値増分値)と比較し、検査対象の画素に
該当するセルの良否を決定する。
After the threshold increment value is determined in this way, the brightness of the pixel to be inspected is compared with (preset threshold value + threshold increment value) to determine the pixel to be inspected. The quality of the corresponding cell is determined.

【0043】このステップS3〜S8による輝点欠陥の
判定処理をまとめるとつぎの手順(ステップ31〜3
5)になる。
The bright spot defect determination processing in steps S3 to S8 can be summarized as the following procedure (steps 31 to 3).
It becomes 5).

【0044】ステップ31では、輝度合成画像の座標か
ら、検査対象の画素の色を判別する。
In step 31, the color of the pixel to be inspected is discriminated from the coordinates of the luminance composite image.

【0045】ステップ32では、周辺画素に検査対象の
画素の輝度より高い輝度をもつ高輝度画素があるか否か
を調べる。 周辺画素に高輝度画素がない場合、検査対象の画素の
色の違いによりつぎの(i)〜(iii)の手順を行な
い、当該検査対象の画素の判定を終了する。 (i)検査対象の画素の色がRの場合、輝度がRThよ
り大きければ欠陥とする。それ以外は良とする。 (ii)検査対象の画素の色がGの場合、輝度がGThよ
り大きければ欠陥とする。それ以外は良とする。 (iii)検査対象の画素の色がBの場合、輝度がBTh
より大きければ欠陥とする。それ以外は良とする。 周辺画素に高輝度画素がある場合、ステップS33へ
進む。
In step 32, it is checked whether or not there is a high-luminance pixel having a luminance higher than that of the pixel to be inspected in the peripheral pixels. When there is no high-luminance pixel in the peripheral pixels, the following steps (i) to (iii) are performed depending on the color difference of the pixel to be inspected, and the determination of the pixel to be inspected is completed. (I) In the case where the color of the pixel to be inspected is R, if the luminance is larger than RTh, it is considered as a defect. Others are good. (Ii) When the color of the pixel to be inspected is G, if the luminance is larger than GTh, it is determined as a defect. Others are good. (Iii) When the color of the pixel to be inspected is B, the brightness is BTh
If it is larger, it is regarded as a defect. Others are good. If the peripheral pixels have high-luminance pixels, the process proceeds to step S33.

【0046】ステップ33では、周辺の高輝度画素の最
高輝度値がγ以下であるか否かを調べる。 周辺の高輝度画素の最高輝度値がγ以下である場合、
ステップ32の高輝度画素がない場合と同様の判定処理
を行なう。 周辺の高輝度画素の最高輝度値がγより大である場
合、つぎのステップ34へ進む。
In step 33, it is checked whether or not the maximum brightness value of the peripheral high brightness pixels is γ or less. When the maximum brightness value of the surrounding high brightness pixels is γ or less,
The same determination processing as in the case where there is no high-luminance pixel in step 32 is performed. If the maximum brightness value of the surrounding high brightness pixels is larger than γ, the process proceeds to the next step 34.

【0047】ステップ34では、周辺の各高輝度画素よ
り、係数マップを用いて、しきい値増分値を計算し、そ
のうちの最大値をThUpとする。
In step 34, the threshold value increment value is calculated from each of the peripheral high-intensity pixels using the coefficient map, and the maximum value thereof is set to ThUp.

【0048】ステップ35では、検査対象の画素の色の
違いにより検査対象の画素の輝度を(しきい値+しきい
値増分値)と比較する。 検査対象の画素がRの場合、輝度が(RTh+ThU
p)より大きければ欠陥とする。それ以外は良とする。 検査対象の画素がGの場合、輝度が(GTh+ThU
p)より大きければ欠陥とする。それ以外は良とする。 検査対象の画素がBの場合、輝度が(BTh+ThU
p)より大きければ欠陥とする。それ以外は良とする。
In step 35, the luminance of the pixel to be inspected is compared with (threshold value + threshold increment value) due to the difference in color of the pixel to be inspected. When the pixel to be inspected is R, the brightness is (RTh + ThU
If it is larger than p), it is regarded as a defect. Others are good. When the pixel to be inspected is G, the brightness is (GTh + ThU
If it is larger than p), it is a defect. Others are good. When the pixel to be inspected is B, the brightness is (BTh + ThU
If it is larger than p), it is regarded as a defect. Others are good.

【0049】ここで、RTh、GThおよびBThは、
各セルの色ごとに予め設定したしきい値である。
Where RTh, GTh and BTh are
It is a preset threshold value for each color of each cell.

【0050】検査パターンと合成輝度画像が共に複数あ
る場合には、各合成輝度画像に対して、同様の検査を繰
り返す。
When there are a plurality of inspection patterns and combined luminance images, the same inspection is repeated for each combined luminance image.

【0051】ステップS3〜S8により、欠陥の有無と
欠陥セルの画像上の座標が既知となる。ついでステップ
S9では、欠陥セルの画像上の位置をディスプレイ座標
に変換する。欠陥セルの位置をディスプレイ座標に変換
することで、欠陥セルの位置を、検査装置に依存しない
形で出力でき便利である。もちろん欠陥セルの位置をデ
ィスプレイ座標で出力する必要のない場合はこのステッ
プは不要である。ついでステップS10では、欠陥セル
の有無、欠陥セルの輝度情報および欠陥位置などを出力
する。
Through steps S3 to S8, the presence / absence of a defect and the coordinates on the image of the defective cell are known. Then, in step S9, the position of the defective cell on the image is converted into display coordinates. By converting the position of the defective cell into display coordinates, it is convenient to output the position of the defective cell in a form independent of the inspection device. Of course, if it is not necessary to output the position of the defective cell in display coordinates, this step is unnecessary. Then, in step S10, the presence / absence of a defective cell, the luminance information of the defective cell, and the defect position are output.

【0052】本実施の形態1では、前記のように構成す
ることで、周辺の明るいセルの有無によらず、安定した
検査を行なうことができる。
According to the first embodiment, with the configuration as described above, stable inspection can be performed regardless of the presence or absence of bright cells in the periphery.

【0053】実施の形態2 実施の形態1のステップS2では、最初に輝度計測領域
内の輝度計測を行なって、平均値または中央値を求めて
から、露光時間の異なるセル内輝度画像を合成したが、
ステップS2はつぎのように構成してもよい。
Second Embodiment In step S2 of the first embodiment, the brightness in the brightness measurement region is first measured to obtain the average value or the median value, and then the in-cell brightness images having different exposure times are combined. But,
Step S2 may be configured as follows.

【0054】最初に、露光時間の異なる撮像画像を、実
施の形態1のステップ241、242と同様の手順で合
成し、撮像画像の合成輝度画像を作成する。ついでこの
合成輝度画像に対して、ステップS21と同様に、各セ
ルの輝度計測領域内で輝度計測を行ない、平均値または
中央値を求め、そののち、ステップS22と同様に、平
均値または中央値を並べて新しい画像を作成する。この
方法により、ステップS24で得られる合成輝度画像に
相当する画像を得ることができる。このようにしても、
実施の形態1と同じ効果を奏することができる。
First, the picked-up images with different exposure times are combined in the same procedure as steps 241 and 242 of the first embodiment to create a combined luminance image of the picked-up images. Then, in the same manner as in step S21, luminance measurement is performed on the combined luminance image in the luminance measurement area of each cell to obtain an average value or a median value, and then, similarly to step S22, the average value or the median value. To create a new image. With this method, an image corresponding to the combined luminance image obtained in step S24 can be obtained. Even with this,
The same effect as that of the first embodiment can be obtained.

【0055】実施の形態3 実施の形態1のステップS9の画像座標とディスプレイ
座標の変換処理において用いる変換式は、検査を開始す
る前につぎのように求めることができる。ここで、とく
に述べない点に関しては、実施の形態1と同様である。
Third Embodiment The conversion formula used in the conversion process of the image coordinates and the display coordinates in step S9 of the first embodiment can be obtained as follows before the inspection is started. Here, the points that are not particularly mentioned are the same as those in the first embodiment.

【0056】図11に示すように、計測パターンを表示
させたディスプレイの左上隅FLに撮像手段1を移動さ
せたのち、撮像し、ステップS1と同様にして、クロス
ハッチの計測を行なう。この計測が終了した時点で、デ
ィスプレイ座標と画像座標の対応付け(変換)が可能と
なる。なぜなら、撮像している箇所は、ディスプレイの
左上隅FLとわかっているので、図12に示されるよう
に、撮像されたクロスハッチ左上のディスプレイ座標
は、(0、0)座標のGのセルであることが既知である
ためである。撮像手段1のカメラの位置はそのカメラの
視点である、撮像画像の中心で代表できるため、このと
きの画像の中心位置をディスプレイ座標で表したもの
を、(D1D1)とする。また、このときの計測手段
4から得られる撮像手段1の絶対位置を(W1W1
とする。
As shown in FIG. 11, after the image pickup means 1 is moved to the upper left corner FL of the display on which the measurement pattern is displayed, the image is picked up and the cross hatch is measured in the same manner as in step S1. When the measurement is completed, the display coordinates and the image coordinates can be associated (converted). Because the location where the image is taken is known to be the upper left corner FL of the display, as shown in FIG. 12, the imaged display coordinates at the upper left of the cross hatch are G cells of (0, 0) coordinates. This is because it is known that there is. Since the position of the camera of the image pickup means 1 can be represented by the center of the picked-up image, which is the viewpoint of the camera, what represents the center position of the image at this time in display coordinates is ( D X 1 , D Y 1 ). To do. Further, the absolute position of the image pickup means 1 obtained from the measuring means 4 at this time is ( W X 1 , W Y 1 ).
And

【0057】この絶対座標とディスプレイ座標の変換式
をつぎのようなアフィン変換で行なえると仮定する。 (DX、DY)T = A(WX、WY)T + b (3)
It is assumed that the conversion equation between the absolute coordinates and the display coordinates can be performed by the following affine transformation. ( D X, D Y) T = A ( W X, W Y) T + b (3)

【0058】ここで、Aは2×2の行列で回転、XY方
向の倍率、歪みを示し、bは2次元ベクトルで並進成分
を示す。Tはベクトルの転置を示す。今回の場合、本実
施の形態では、少なくとも前記ディスプレイ座標と絶対
座標の組み合わせが3点あれば、アフィン変換の各係数
であるAおよびbが計算できるが、本実施の形態では、
図11に示されるように、ディスプレイ画像の4隅(左
上隅FL、右上隅FR、右下隅RR、左下隅RL)を撮
像することで、4点の座標の組み合わせからAおよびb
を計算する。なお、3点以上の座標の組み合わせから計
算する場合は、式(3)の形に対して最小2乗法などの
回帰計算を行なう。
Here, A is a 2 × 2 matrix showing rotation, magnification and distortion in the XY directions, and b is a two-dimensional vector showing a translation component. T indicates the transposition of the vector. In this case, in the present embodiment, if there are at least three combinations of the display coordinates and the absolute coordinates, the coefficients A and b of the affine transformation can be calculated, but in the present embodiment,
As shown in FIG. 11, by capturing the four corners of the display image (upper left corner FL, upper right corner FR, lower right corner RR, lower left corner RL), A and b are combined from the combination of the four points.
To calculate. When calculating from the combination of coordinates of three or more points, regression calculation such as the least squares method is performed on the form of formula (3).

【0059】このアフィン変換式を前もって計算してお
くことにより、実施の形態1のステップS1において、
画像座標とディスプレイ座標との変換式を正確に計算す
ることができる。また、ステップS1において、図5に
示されるように複数のセルCの中心位置Pを計算する
が、同時に、計測手段4により、撮像手段1の絶対位置
WMWM)T を取得する。この絶対位置を、式
(3)を使ってディスプレイ画面の座標(DMDM)T
に変換する。このディスプレイ座標は、撮像手段1の
位置や変換式が極めて正確であれば、現画像の中央位置
に見える点のディスプレイ座標となる。クロスハッチは
予め設定したところに表示するため、この画面の中央位
置を示す座標(DMDM)T から一番近くに見えるは
ずのクロスハッチ上の計測点位置、すなわち計測点のデ
ィスプレイ座標(DPDP)T が計算できる。また、
ステップS1の画像計測において、ディスプレイ座標と
画像座標の倍率が計算できるため、(DMDM)T
DPDP)T の差に倍率を掛けて計算することで、
画像座標も計算できる。この画像座標の位置を計測点の
予想位置と呼ぶことにする。
By calculating this affine transformation formula in advance, in step S1 of the first embodiment,
The conversion formula between the image coordinates and the display coordinates can be calculated accurately. Further, in step S1, the center positions P of the plurality of cells C are calculated as shown in FIG. 5, but at the same time, the absolute position ( W X M , W Y M ) T of the image pickup unit 1 is measured by the measuring unit 4. get. This absolute position can be calculated using equation (3) using the coordinates ( D X M , D Y M ) T on the display screen.
Convert to. If the position of the image pickup means 1 and the conversion formula are extremely accurate, these display coordinates will be the display coordinates of the point seen at the center position of the current image. Since the crosshatch is displayed at a preset location, the measurement point position on the crosshatch that should be the closest to the coordinates ( D X M , D Y M ) T indicating the center position of this screen, that is, the measurement point display coordinates (D X P, D Y P ) can be calculated T. Also,
In the image measurement step S1, since it calculates the magnification of the display coordinates and image coordinates, to calculate by multiplying the magnification difference (D X M, D Y M ) T and (D X P, D Y P ) T so,
Image coordinates can also be calculated. The position of this image coordinate will be called the predicted position of the measurement point.

【0060】ところが実際には、その予想した画像座標
の位置にクロスハッチ上の計測点が計測されるとは限ら
ない。それは移動手段3の機構的な弾性変形や、計測手
段4の計測誤差があるので、画像上でずれた位置にクロ
スハッチの計測点が実測される場合があるためである。
そこで、前記予想位置から画像上、最も近い位置にある
計測点の画像座標が、ディスプレイ画像の(DP
DP)T に該当していると仮定する。この仮定が成立す
るためには、誤差などによるずれ量が、クロスハッチ間
隔の1/2以下である必要がある。逆に、ずれ量の上限
が見積もれる場合は、クロスハッチ間隔をその上限値の
倍以上に設定すれば仮定は常に正しく成立するので、そ
のように実施する。この1点で画像座標とディスプレイ
座標の整合がとれれば、予め表示位置が決まっている計
測点のディスプレイ座標はすべて決定されるので、すべ
ての計測点で、ディスプレイ座標と画像座標の対応が正
確にとれ、計測誤差などの影響を取り除くことができ
る。画像座標とディスプレイ座標の変換式においても、
式(3)と同じアフィン変換の式を用いることにすれ
ば、3点以上の座標の組み合わせで、画像座標とディス
プレイ座標の変換式を計算することができる。
However, actually, the measurement point on the crosshatch is not always measured at the position of the predicted image coordinate. This is because there are mechanical elastic deformations of the moving means 3 and measurement errors of the measuring means 4, so that the measurement point of the crosshatch may be actually measured at a shifted position on the image.
Therefore, the image coordinates of the measurement point closest to the predicted position on the image are ( D XP ,
It is assumed that it corresponds to D Y P ) T. In order for this assumption to hold, the amount of deviation due to an error or the like needs to be 1/2 or less of the crosshatch interval. On the contrary, when the upper limit of the shift amount can be estimated, the assumption is always valid if the crosshatch interval is set to be equal to or more than the upper limit value. If the image coordinates and the display coordinates can be matched at this one point, all the display coordinates of the measurement points whose display positions are predetermined are determined. Therefore, the correspondence between the display coordinates and the image coordinates is accurate at all the measurement points. It is possible to remove the influence of measurement error. Even in the conversion formula of image coordinates and display coordinates,
If the same affine transformation equation as the equation (3) is used, the transformation equation of the image coordinates and the display coordinates can be calculated with the combination of the coordinates of three or more points.

【0061】これで得られた変換式を実施の形態1にお
けるステップS9で用いれば、ディスプレイ座標での出
力は可能となる。
If the conversion formula obtained in this way is used in step S9 in the first embodiment, output in display coordinates becomes possible.

【0062】実施の形態4 実施の形態3においては、画像座標とディスプレイ座標
の変換式をアフィン変換の式を用いて構成したが、つぎ
のようにすればさらに多数の点、すなわちほとんどすべ
ての計測点を用いて、アフィン変換より精度のよい変換
式を構成することが可能である。
Fourth Embodiment In the third embodiment, the conversion formula of the image coordinates and the display coordinates is configured by using the affine conversion formula. However, if the following is performed, a larger number of points, that is, almost all measurement values are measured. By using the points, it is possible to construct a conversion formula with higher accuracy than the affine transformation.

【0063】今回の例では、計測点は、格子状に整列し
ているため、図13に示されるように、その9点の集合
ごとに小領域SRを作成する。そしてその各領域ごとに
画像座標とディスプレイ座標の関係を2次曲線で回帰
し、そのパラメータを各領域ごとに保存する。2次曲線
の形は、たとえばつぎの式(4)、(5)のようにな
る。
In this example, since the measurement points are arranged in a grid pattern, a small region SR is created for each set of 9 points as shown in FIG. Then, the relationship between the image coordinates and the display coordinates is regressed by a quadratic curve for each area, and the parameter is stored for each area. The shape of the quadratic curve is, for example, as in the following expressions (4) and (5).

【0064】[0064]

【数1】 [Equation 1]

【0065】ここで、(X、Y)は変換前の座標であ
り、(U、V)は変換後の座標であり、aij、bijは2
次曲線のパラメータである。また、a、bはそれぞれ6
つある。ディスプレイ座標から画像座標の変換式を求め
る際には、(X、Y)をディスプレイ座標とし、(U、
V)を画像座標とし、9点の座標の組み合わせから、パ
ラメータを計算しておく。また、画像座標からディスプ
レイ座標の変換式が必要な場合は、(X、Y)を画像座
標、(U、V)をディスプレイ座標としてパラメータを
計算しておく。これらのパラメータは各小領域ごとに計
算し、小領域の中心である点の画像座標およびディスプ
レイ座標ともに保存しておく。実際の変換では、画像座
標が与えられた場合、どの計測点に近いかで、どの小領
域に属するかをまず計算し、属する小領域のパラメータ
を用いて式(4)、(5)に基づいて変換の計算を行な
う。
Here, (X, Y) are coordinates before conversion, (U, V) are coordinates after conversion, and a ij and b ij are 2
This is the parameter of the next curve. Also, a and b are 6 each
There is one. When obtaining the conversion formula of the image coordinates from the display coordinates, (X, Y) is set as the display coordinates, and (U,
V) is the image coordinates, and the parameters are calculated from the combination of the coordinates of 9 points. Further, when a conversion formula from the image coordinates to the display coordinates is necessary, the parameters are calculated with (X, Y) as the image coordinates and (U, V) as the display coordinates. These parameters are calculated for each small area, and both the image coordinates and the display coordinates of the point that is the center of the small area are saved. In the actual conversion, when the image coordinates are given, it is first calculated which small area belongs to which measurement point is close, and based on the equations (4) and (5) using the parameters of the small area to which it belongs. And calculate the conversion.

【0066】前述したアフィン変換では、画面上の位置
によらず変換計算は一定である。ところが、撮像手段を
構成するレンズの歪みは画面中央では少なく、周辺部で
は大きいという特性がある。すなわち画面上の位置によ
り歪み量が異なる。こういった場合、画面上で常に一定
の計算方式では精度よく変換計算を行なうことができな
い。このように、複数の計測点を小領域にわけ、各小領
域ごとに回帰計算のパラメータを変えて変換計算を行な
えば、画面上の位置により異なる歪み量を補正すること
でき、より正確なディスプレイ座標と画像座標の変換式
を得ることができる。
In the affine transformation described above, the transformation calculation is constant regardless of the position on the screen. However, there is a characteristic that the distortion of the lens forming the imaging means is small in the center of the screen and large in the peripheral part. That is, the amount of distortion varies depending on the position on the screen. In such a case, conversion calculation cannot be performed accurately with a constant calculation method on the screen. In this way, by dividing multiple measurement points into small areas and performing conversion calculations by changing the regression calculation parameters for each small area, the amount of distortion that differs depending on the position on the screen can be corrected, resulting in a more accurate display. It is possible to obtain a transformation formula of coordinates and image coordinates.

【0067】実施の形態3の場合の、ステップS1にお
いて、複数の計測点の画像座標とディスプレイ座標が得
られた段階で、ディスプレイ座標と画像座標の変換式を
計算しておけば、ステップS2において、検査対象とな
る全セルのディスプレイ座標を元に輝度計測領域を計算
し、前記変換式を適用して輝度計測領域の画像座標を求
めることで、より正確なセルの位置を計算できる。
In the case of the third embodiment, when the image coordinates and the display coordinates of the plurality of measurement points are obtained in step S1, the conversion formulas for the display coordinates and the image coordinates are calculated. A more accurate cell position can be calculated by calculating the luminance measurement area based on the display coordinates of all cells to be inspected and applying the conversion formula to obtain the image coordinates of the luminance measurement area.

【0068】実施の形態5 実施の形態1において、ステップS2で用いるRTh、
GTh、BThなどの予め設定しておくしきい値の計算
方法をつぎのように行なってもよい。
Fifth Embodiment In the first embodiment, RTh used in step S2,
You may perform the calculation method of the threshold value set up beforehand, such as GTh and BTh, as follows.

【0069】まずセル内輝度画像の合成画像が得られた
時点で、一旦、画面内の全セルについて、色ごとに分類
した平均値または中央値である、RBASE、GBASE、B
BASEを計算しておく。通常、欠陥セルの数は画面全体の
セルの数に比べて非常に少ないはずなので、これらの値
は、正常なセルのもつ代表的な輝度値と考えることがで
きる。また、通常、撮像手段の色に対する感度の違い
や、検査対象物である液晶表示装置を構成するカラーフ
ィルタの透過特性により、色によって正常なセルの輝度
値が異なるのが普通である。そこで、これらの正常なセ
ルの輝度値と考えられる値に対して、異常値を検出する
基準値を足しこむことでしきい値を構成する。すなわ
ち、 RTh=RBASE + RSTD・VALUE GTh=GBASE + GSTD・VALUE BTh=BBASE + BSTD・VALUE とすることで、より正確に検査が可能なしきい値を構成
することができる。ここで、RSTD・VALUE、GSTD・VALUE
およびBSTD・VALUEは、それぞれR、GおよびBに相当
する異常値を検出するしきい値である。
First, when a combined image of in-cell luminance images is obtained, once for all cells in the screen, R BASE , G BASE , B which are average values or median values classified by color.
Calculate BASE . Normally, the number of defective cells should be much smaller than the number of cells in the entire screen, and thus these values can be considered as typical brightness values of normal cells. In addition, normally, the normal cell luminance value differs depending on the color due to the difference in color sensitivity of the image pickup means and the transmission characteristic of the color filter forming the liquid crystal display device as the inspection object. Therefore, the threshold value is configured by adding a reference value for detecting an abnormal value to the value considered to be the luminance value of these normal cells. That is, it is possible to configure the RTh = R BASE + R STD · VALUE GTh = G BASE + G STD · VALUE BTh = B BASE + B by an STD · VALUE, more accurately inspect a possible threshold. Where R STD · VALUE and G STD · VALUE
And B STD · VALUE are thresholds for detecting abnormal values corresponding to R, G, and B, respectively.

【0070】また、撮像手段の色による感度特性が予め
既知である場合は、ステップS2で得られる輝度計測の
結果に、その感度特性に基づく係数を掛けて輝度を補正
してもよい。このようにすることで、セルの色に左右さ
れない正確な検査が実現できる。
If the sensitivity characteristic according to the color of the image pickup means is known in advance, the luminance may be corrected by multiplying the result of the luminance measurement obtained in step S2 by a coefficient based on the sensitivity characteristic. By doing so, an accurate inspection that is not affected by the color of the cell can be realized.

【0071】[0071]

【発明の効果】請求項1記載の発明によれば、各セルの
輝度平均値または中央値としきい値を比較する際に、検
査対象となるセルの近傍に高い輝度のセルが存在した場
合、その近傍のセルの輝度値に応じて、しきい値を高く
するため、高い輝度をもった輝点欠陥セルが存在して
も、正確に、かつ精度よく検査を行なうことができる。
According to the first aspect of the present invention, when comparing the brightness average value or the median value of each cell with the threshold value, when a cell with high brightness exists near the cell to be inspected, Since the threshold value is increased according to the brightness value of the cells in the vicinity thereof, even if there is a bright spot defect cell having high brightness, the inspection can be performed accurately and accurately.

【0072】請求項2記載の発明によれば、前記輝度計
測について、撮像手段の露光時間を変えて複数回、それ
ぞれの輝度計測領域内で輝度計測を行ない、得られた輝
度計測の結果を合成して、それぞれの輝度計測領域内の
輝度を計算するため、撮像手段のダイナミックレンジ不
足を解消することができ、暗い欠陥に関しても明るい欠
陥に関しても同時に検査することができる。
According to the second aspect of the present invention, with respect to the luminance measurement, the luminance measurement is performed a plurality of times in each of the luminance measurement areas while changing the exposure time of the image pickup means, and the obtained luminance measurement results are combined. Then, since the brightness in each brightness measurement region is calculated, it is possible to solve the shortage of the dynamic range of the imaging means, and it is possible to inspect both dark defects and bright defects at the same time.

【0073】請求項3記載の発明によれば、予めディス
プレイ画面上の特定の座標位置と、該座標位置に関する
撮像手段で得られる画像上の位置と、その際の撮像手段
の絶対位置のデータの集合を複数用いて、撮像手段の絶
対位置とディスプレイ画面上の変換式を計算しておき、
検査の際には、撮像手段の絶対位置と前記変換式を用い
て得られる計測パターンの画像上の予想位置と、実際の
計測パターンの画像上の位置のずれを計測し、このずれ
量を用いて画像座標とディスプレイ座標の変換式を新た
に計算し、この変換式を用いて、検査したセルの画像上
の位置をディスプレイ座標位置に変換して出力するた
め、移動手段の弾性変形またはガタなどに基づく計測手
段の測定誤差に影響されないで、正確なディスプレイ座
標位置を出力できる。
According to the third aspect of the present invention, the specific coordinate position on the display screen, the position on the image obtained by the image pickup means relating to the coordinate position, and the absolute position data of the image pickup means at that time are stored. Using multiple sets, calculate the absolute position of the imaging means and the conversion formula on the display screen in advance,
At the time of inspection, a deviation between the absolute position of the image pickup means and the expected position on the image of the measurement pattern obtained by using the conversion formula and the position on the image of the actual measurement pattern is measured, and this deviation amount is used. A new conversion formula for image coordinates and display coordinates is calculated using this conversion formula, and the position of the inspected cell on the image is converted to the display coordinate position and output using this conversion formula. The accurate display coordinate position can be output without being affected by the measurement error of the measuring means based on.

【0074】請求項4記載の発明によれば、前記位置計
測パターンについて、ディスプレイ画面上の所定位置の
複数のセルを点灯して、複数点のセルの位置を計測し、
それらを小領域に分割して、その各小領域ごとに画像座
標とディスプレイ座標の関係を曲線回帰することによ
り、撮像手段の画像の歪み量を補正して、各セルの位置
を計算するため、セルの輝度計測領域を正確に設定する
ことができる。
According to the invention described in claim 4, in the position measurement pattern, a plurality of cells at predetermined positions on the display screen are turned on, and the positions of the cells at a plurality of points are measured.
In order to calculate the position of each cell by dividing them into small areas and performing a curve regression of the relationship between the image coordinates and the display coordinates for each small area to correct the distortion amount of the image of the image pickup means. The brightness measurement area of the cell can be set accurately.

【0075】請求項5記載の発明によれば、前記しきい
値の作成において、検査領域全体に関して、色の異なる
セルごとに平均値または中央値を計算し、その平均値ま
たは中央値に基準値を足しこむことにより色の異なるセ
ルごとにしきい値を作成するため、撮像手段の色による
感度の違いや、検査対象のセルの色による発光量の違い
があっても、正確に検査することができる。
According to the fifth aspect of the present invention, in the creation of the threshold value, an average value or a median value is calculated for each cell having a different color for the entire inspection region, and the average value or the median value is used as a reference value. Since a threshold value is created for each cell having a different color by adding, it is possible to accurately inspect even if there is a difference in sensitivity due to the color of the image pickup means or a difference in light emission amount due to the color of the cell to be inspected. it can.

【0076】請求項6に記載の発明によれば、前記輝度
計測においてて、色の異なるセルごとに、輝度計測の結
果を撮像手段の感度特性に基づく係数を乗じて補正する
ため、撮像手段の色による感度の違いを補正し、正確に
検査することができる。
According to the sixth aspect of the present invention, in the luminance measurement, the luminance measurement result is corrected for each cell having a different color by multiplying it by a coefficient based on the sensitivity characteristic of the image pickup means. It is possible to correct the difference in sensitivity due to color and perform an accurate inspection.

【0077】請求項7記載の発明によれば、ディスプレ
イ画面を撮像する撮像手段と、ディスプレイ画面の画面
制御を行なうディスプレイ画面制御手段と、撮像手段を
保持して移動を可能にする移動手段と、撮像手段の絶対
位置を計測する計測手段と、撮像手段を用いて撮像し
た、位置計測パターンを表示させたディスプレイ画面の
画像を処理して、個々の画素を構成する各セルの位置を
計測し、撮像手段を用いて撮像した、検査パターンを表
示させたディスプレイ画面の画像を処理して、前記計測
した各セルの位置にそれぞれ輝度計測領域を設け、それ
ぞれの輝度計測領域内で輝度計測を行ない、得られた輝
度計測の結果の平均値または中央値を計算し、しきい値
と比較して、各セルの検査を行ない、各セルの輝度平均
値または中央値としきい値を比較する際には、検査対象
となるセルの近傍に高い輝度のセルが存在した場合、近
傍のセルの輝度値に応じて、しきい値を高くするように
構成した画像処理手段と、検査の全体の流れの制御を行
なう制御手段を備えているため、高い輝度をもった輝点
欠陥セルが存在しても、正確に、かつ精度よく検査を行
なうことができる。
According to the invention described in claim 7, image pickup means for picking up an image of the display screen, display screen control means for controlling the screen of the display screen, moving means for holding the image pickup means and enabling movement. A measuring unit that measures the absolute position of the image capturing unit and an image of the display screen that displays the position measurement pattern captured by the image capturing unit are processed to measure the position of each cell that constitutes each pixel, By processing the image of the display screen on which the inspection pattern is displayed, which is imaged using the image pickup means, the brightness measurement areas are provided at the positions of the respective measured cells, and the brightness measurement is performed in each of the brightness measurement areas. Calculate the average value or median value of the obtained brightness measurement results, compare with the threshold value, inspect each cell, and determine the brightness average value or median value of each cell. When there is a cell with high brightness in the vicinity of the cell to be inspected when comparing the two values, an image processing unit configured to increase the threshold value according to the brightness value of the cell in the vicinity, Since the control means for controlling the entire flow of the inspection is provided, it is possible to perform the inspection accurately and accurately even if there is a bright spot defect cell having high brightness.

【図面の簡単な説明】[Brief description of drawings]

【図1】 本発明の実施の形態1にかかわるディスプレ
イ画面検査装置を示す構成図である。
FIG. 1 is a configuration diagram showing a display screen inspection device according to a first embodiment of the present invention.

【図2】 実施の形態1にかかわるディスプレイ画面検
査方法を説明するためのフローチャートである。
FIG. 2 is a flowchart for explaining a display screen inspection method according to the first embodiment.

【図3】 実施の形態1の計測パターンを説明するため
の図である。
FIG. 3 is a diagram for explaining a measurement pattern according to the first embodiment.

【図4】 図3の要部拡大図である。FIG. 4 is an enlarged view of a main part of FIG.

【図5】 実施の形態1の計測パターンから計測された
複数のセルの中心位置を説明するための図である。
FIG. 5 is a diagram for explaining center positions of a plurality of cells measured from the measurement pattern according to the first embodiment.

【図6】 実施の形態1の計測パターンから複数のセル
の中心位置の計測する方法を説明するための図であり、
図6(a)は投影処理を説明する図、図6(b)はウイ
ンドウ設置、重心計測およびライン抽出を説明する図お
よび図6(c)は交点検出を説明する図である。
FIG. 6 is a diagram for explaining a method of measuring the center positions of a plurality of cells from the measurement pattern according to the first embodiment,
FIG. 6A is a diagram for explaining the projection process, FIG. 6B is a diagram for explaining window setting, centroid measurement and line extraction, and FIG. 6C is a diagram for explaining intersection detection.

【図7】 実施の形態1にかかわるディスプレイ画面検
査方法のステップ2を説明するためのフローチャートで
ある。
FIG. 7 is a flowchart for explaining step 2 of the display screen inspection method according to the first embodiment.

【図8】 実施の形態1にかかわるディスプレイ画面検
査方法のステップ2におけるセル内輝度画像および合成
輝度画像の作成手順を説明するための図である。
FIG. 8 is a diagram for explaining a procedure for creating an in-cell luminance image and a combined luminance image in step 2 of the display screen inspection method according to the first embodiment.

【図9】 実施の形態1にかかわるディスプレイ画面検
査方法において、検査対象の画素周辺で高輝度セルの存
在の有無を説明するための図である。
FIG. 9 is a diagram for explaining the presence / absence of a high-intensity cell around a pixel to be inspected in the display screen inspection method according to the first embodiment.

【図10】 実施の形態1にかかわるディスプレイ画面
検査方法において、高輝度セルによるしきい値上昇値を
計算するためのしきい値増分係数マップを説明するため
の図である。
FIG. 10 is a diagram for explaining a threshold value increment coefficient map for calculating a threshold value increase value due to a high brightness cell in the display screen inspection method according to the first embodiment.

【図11】 実施の形態3にかかわるディスプレイ画面
検査方法において、ディスプレイ座標と絶対座標の変換
式を求める方法を説明するための図である。
FIG. 11 is a diagram for explaining a method of obtaining a conversion formula between a display coordinate and an absolute coordinate in the display screen inspection method according to the third embodiment.

【図12】 ディスプレイ画像の左上隅を示す図であ
る。
FIG. 12 is a diagram showing an upper left corner of a display image.

【図13】 実施の形態4にかかわるディスプレイ画面
検査方法において、画像座標とディスプレイ座標の変換
式を求める方法を説明するための図である。
FIG. 13 is a diagram for explaining a method of obtaining a conversion formula between image coordinates and display coordinates in the display screen inspection method according to the fourth embodiment.

【図14】 従来の液晶表示パネルの検査方法を説明す
るための構成ブロック図である。
FIG. 14 is a configuration block diagram for explaining a conventional liquid crystal display panel inspection method.

【図15】 従来の液晶表示パネルの検査方法におい
て、液晶表示パネルの表示画素と、CCDカメラに内蔵
されたエリア型フォトセンサを構成するフォトセルの相
対位置関係を説明するための図である。
FIG. 15 is a diagram for explaining a relative positional relationship between display pixels of a liquid crystal display panel and photocells forming an area type photosensor built into a CCD camera in a conventional liquid crystal display panel inspection method.

【図16】 従来の液晶表示パネルの検査方法におい
て、液晶表示パネルのアライメントを説明するための図
である。
FIG. 16 is a diagram for explaining alignment of the liquid crystal display panel in the conventional liquid crystal display panel inspection method.

【符号の説明】[Explanation of symbols]

1 撮像手段、2 ディスプレイ画面制御手段、3 移
動手段、4 計測手段、5 画像処理手段、6 制御手
段、7 判定結果、8 ディスプレイ装置。
1 image pickup means, 2 display screen control means, 3 moving means, 4 measuring means, 5 image processing means, 6 control means, 7 determination results, 8 display devices.

Claims (7)

【特許請求の範囲】[Claims] 【請求項1】 ディスプレイ画面の所定の表示領域に関
して、撮像手段を用いて撮像した、位置計測パターンを
表示させたディスプレイ画面の画像を用いて、個々の画
素を構成する各セルの位置を計測し、前記撮像手段を用
いて撮像した、検査パターンを表示させたディスプレイ
画面の画像を用いて、前記計測した各セルの位置にそれ
ぞれ輝度計測領域を設け、それぞれの輝度計測領域内で
輝度計測を行ない、得られた輝度計測結果の平均値また
は中央値を計算し、しきい値と比較して、各セルの検査
を行なう方法であって、各セルの輝度平均値または中央
値としきい値を比較する際に、検査対象となるセルの近
傍に高い輝度のセルが存在した場合、その近傍のセルの
輝度値に応じて、しきい値を高くするディスプレイ画面
検査方法。
1. The position of each cell constituting each pixel is measured by using an image of a display screen on which a position measurement pattern is displayed, which is imaged by an imaging means, with respect to a predetermined display area of the display screen. Using the image of the display screen on which the inspection pattern is displayed, which is picked up by the image pickup means, a luminance measurement region is provided at each measured cell position, and the luminance measurement is performed in each luminance measurement region. A method of inspecting each cell by calculating the average value or median value of the obtained brightness measurement results and comparing with the threshold value, and comparing the brightness average value or median value of each cell with the threshold value. When there is a cell with high brightness in the vicinity of the cell to be inspected, the display screen inspection method for increasing the threshold value according to the brightness value of the cell in the vicinity.
【請求項2】 前記輝度計測について、撮像手段の露光
時間を変えて複数回、それぞれの輝度計測領域内で輝度
計測を行ない、得られた輝度計測の結果を合成して、そ
れぞれの輝度計測領域内の輝度を計算する請求項1記載
のディスプレイ画面検査方法。
2. Regarding the luminance measurement, the luminance measurement is performed a plurality of times in each luminance measurement region while changing the exposure time of the image pickup means, and the obtained results of the luminance measurement are combined to obtain each luminance measurement region. The method for inspecting a display screen according to claim 1, wherein the brightness in the inside is calculated.
【請求項3】 予めディスプレイ画面上の特定の座標位
置と、該座標位置に関する撮像手段で得られる画像上の
位置と、その際の撮像手段の絶対位置のデータの集合を
複数用いて、撮像手段の絶対位置とディスプレイ画面上
の変換式を計算しておき、検査の際には、撮像手段の絶
対位置と前記変換式を用いて得られる計測パターンの画
像上の予想位置と、実際の計測パターンの画像上の位置
のずれを計測し、このずれ量を用いて画像座標とディス
プレイ座標の変換式を新たに計算し、この変換式を用い
て、検査したセルの画像上の位置をディスプレイ座標位
置に変換して出力する請求項1記載のディスプレイ画面
検査方法。
3. An image pickup means using a plurality of sets of data of a specific coordinate position on a display screen in advance, a position on the image obtained by the image pickup means concerning the coordinate position, and an absolute position of the image pickup means at that time. Absolute position and the conversion formula on the display screen are calculated in advance, and at the time of inspection, the absolute position of the imaging means and the expected position on the image of the measurement pattern obtained using the conversion formula, and the actual measurement pattern. The displacement of the position on the image of the cell is measured, the conversion formula of the image coordinate and the display coordinate is newly calculated using this displacement amount, and the position of the inspected cell on the image of the display coordinate position is calculated using this conversion formula. The display screen inspection method according to claim 1, wherein the display screen is converted and output.
【請求項4】 前記位置計測パターンについて、ディス
プレイ画面上の所定位置の複数のセルを点灯して、複数
点のセルの位置を計測し、それらを小領域に分割して、
その各小領域ごとに画像座標とディスプレイ座標の関係
を曲線回帰することにより、撮像手段の画像の歪み量を
補正して、各セルの位置を計算する請求項1記載のディ
スプレイ画面検査方法。
4. Regarding the position measurement pattern, a plurality of cells at predetermined positions on a display screen are lit, the positions of cells at a plurality of points are measured, and these are divided into small areas,
2. The display screen inspection method according to claim 1, wherein the position of each cell is calculated by correcting the distortion amount of the image of the image pickup means by performing a curve regression on the relationship between the image coordinates and the display coordinates for each small area.
【請求項5】 前記しきい値の作成において、検査領域
全体に関して、色の異なるセルごとに平均値または中央
値を計算し、その平均値または中央値に基準値を足しこ
むことにより色の異なるセルごとにしきい値を作成する
請求項1記載のディスプレイ画面検査方法。
5. In the creation of the threshold value, an average value or a median value is calculated for each cell having a different color for the entire inspection area, and a reference value is added to the average value or the median value to make the color different. The display screen inspection method according to claim 1, wherein a threshold value is created for each cell.
【請求項6】 前記輝度計測について、色の異なるセル
ごとに、輝度計測の結果を撮像手段の感度特性に基づく
係数を乗じて補正する請求項1記載のディスプレイ画面
検査方法。
6. The display screen inspection method according to claim 1, wherein, for the luminance measurement, the luminance measurement result is corrected for each cell having a different color by multiplying it by a coefficient based on the sensitivity characteristic of the image pickup means.
【請求項7】 ディスプレイ画面を撮像する撮像手段
と、ディスプレイ画面の画面制御を行なうディスプレイ
画面制御手段と、撮像手段を保持して移動を可能にする
移動手段と、撮像手段の絶対位置を計測する計測手段
と、撮像手段を用いて撮像した、位置計測パターンを表
示させたディスプレイ画面の画像を処理して、個々の画
素を構成する各セルの位置を計測し、撮像手段を用いて
撮像した、検査パターンを表示させたディスプレイ画面
の画像を処理して、前記計測した各セルの位置にそれぞ
れ輝度計測領域を設け、それぞれの輝度計測領域内で輝
度計測を行ない、得られた輝度計測の結果の平均値また
は中央値を計算し、しきい値と比較して、各セルの検査
を行ない、各セルの輝度平均値または中央値としきい値
を比較する際には、検査対象となるセルの近傍に高い輝
度のセルが存在した場合、近傍のセルの輝度値に応じ
て、しきい値を高くするように構成した画像処理手段
と、検査の全体の流れの制御を行なう制御手段を備えて
なるディスプレイ画面検査装置。
7. An image pickup means for picking up an image of a display screen, a display screen control means for controlling the screen of the display screen, a moving means for holding the image pickup means to allow movement, and an absolute position of the image pickup means. An image of the display screen on which the position measurement pattern is displayed, which is imaged using the measuring unit and the image capturing unit, is processed to measure the position of each cell that constitutes each pixel, and the image is captured using the image capturing unit. By processing the image of the display screen on which the inspection pattern is displayed, a brightness measurement region is provided at each measured cell position, and the brightness measurement is performed in each brightness measurement region. Calculate the average value or median value and compare it with the threshold value to inspect each cell, and compare the brightness average value or median value of each cell with the threshold value. When there is a high-luminance cell in the vicinity of the target cell, the image processing means configured to raise the threshold value according to the luminance value of the neighboring cell and the control of the entire inspection flow are performed. A display screen inspection device comprising control means.
JP2001369996A 2001-12-04 2001-12-04 Display screen inspection method and display screen inspection apparatus Expired - Fee Related JP3618713B2 (en)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001369996A JP3618713B2 (en) 2001-12-04 2001-12-04 Display screen inspection method and display screen inspection apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001369996A JP3618713B2 (en) 2001-12-04 2001-12-04 Display screen inspection method and display screen inspection apparatus

Publications (2)

Publication Number Publication Date
JP2003167530A true JP2003167530A (en) 2003-06-13
JP3618713B2 JP3618713B2 (en) 2005-02-09

Family

ID=19179298

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001369996A Expired - Fee Related JP3618713B2 (en) 2001-12-04 2001-12-04 Display screen inspection method and display screen inspection apparatus

Country Status (1)

Country Link
JP (1) JP3618713B2 (en)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005249946A (en) * 2004-03-02 2005-09-15 Inter Action Corp Defect inspecting apparatus for display device
JP2006049165A (en) * 2004-08-06 2006-02-16 Matsushita Electric Ind Co Ltd Lighting screen inspection method of plasma display panel
JP2009294204A (en) * 2008-05-09 2009-12-17 Nec Lcd Technologies Ltd Method and apparatus for testing a substrate for display, and substrate for the display and the display
JP2011196685A (en) * 2010-03-17 2011-10-06 Sharp Corp Defect detection device, defect repairing device, display panel, display device, defect detection method and program
US8144168B2 (en) 2007-11-12 2012-03-27 Seiko Epson Corporation Image display apparatus and image display method
US8451389B2 (en) 2008-08-01 2013-05-28 Seiko Epson Corporation Image processor, image display device, image processing method, image display method, and program
JP2013156045A (en) * 2012-01-27 2013-08-15 Ckd Corp Three-dimensional measuring device
KR20140107971A (en) * 2013-02-28 2014-09-05 엘지이노텍 주식회사 Method for evaluating a luminance of a light source and lighting apparatus
KR20140146336A (en) * 2013-06-17 2014-12-26 엘지이노텍 주식회사 Method for evaluating a luminance of a light source and lighting apparatus
JP2019027869A (en) * 2017-07-28 2019-02-21 コニカミノルタ株式会社 Two-dimensional colorimeter and two-dimensional color measurement method
CN111651132A (en) * 2020-06-02 2020-09-11 马鞍山芯乔科技有限公司 Picture-in-picture synchronous display system based on visual inspection picture

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106646939B (en) * 2016-11-17 2019-11-19 南京华东电子信息科技股份有限公司 A kind of Mura defects method for detecting

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005249946A (en) * 2004-03-02 2005-09-15 Inter Action Corp Defect inspecting apparatus for display device
JP2006049165A (en) * 2004-08-06 2006-02-16 Matsushita Electric Ind Co Ltd Lighting screen inspection method of plasma display panel
JP4543815B2 (en) * 2004-08-06 2010-09-15 パナソニック株式会社 Plasma display panel lighting screen inspection method
US8963941B2 (en) 2007-11-12 2015-02-24 Seiko Epson Corporation Image display apparatus and image display method
US8144168B2 (en) 2007-11-12 2012-03-27 Seiko Epson Corporation Image display apparatus and image display method
US8416259B2 (en) 2007-11-12 2013-04-09 Seiko Epson Corporation Image display apparatus and image display method
US9406111B2 (en) 2007-11-12 2016-08-02 Seiko Epson Corporation Image display apparatus and image display method
JP2009294204A (en) * 2008-05-09 2009-12-17 Nec Lcd Technologies Ltd Method and apparatus for testing a substrate for display, and substrate for the display and the display
US8762089B2 (en) 2008-05-09 2014-06-24 Nlt Technologies, Ltd. Method and apparatus for testing a substrate for display device
US8451389B2 (en) 2008-08-01 2013-05-28 Seiko Epson Corporation Image processor, image display device, image processing method, image display method, and program
JP2011196685A (en) * 2010-03-17 2011-10-06 Sharp Corp Defect detection device, defect repairing device, display panel, display device, defect detection method and program
JP2013156045A (en) * 2012-01-27 2013-08-15 Ckd Corp Three-dimensional measuring device
KR20140107971A (en) * 2013-02-28 2014-09-05 엘지이노텍 주식회사 Method for evaluating a luminance of a light source and lighting apparatus
KR102182015B1 (en) 2013-02-28 2020-11-23 엘지이노텍 주식회사 Method for evaluating a luminance of a light source and lighting apparatus
KR20140146336A (en) * 2013-06-17 2014-12-26 엘지이노텍 주식회사 Method for evaluating a luminance of a light source and lighting apparatus
KR102175308B1 (en) 2013-06-17 2020-11-06 엘지이노텍 주식회사 Method for evaluating a luminance of a light source and lighting apparatus
JP2019027869A (en) * 2017-07-28 2019-02-21 コニカミノルタ株式会社 Two-dimensional colorimeter and two-dimensional color measurement method
CN111651132A (en) * 2020-06-02 2020-09-11 马鞍山芯乔科技有限公司 Picture-in-picture synchronous display system based on visual inspection picture
CN111651132B (en) * 2020-06-02 2023-03-24 马鞍山芯乔科技有限公司 Picture-in-picture synchronous display system based on visual inspection picture

Also Published As

Publication number Publication date
JP3618713B2 (en) 2005-02-09

Similar Documents

Publication Publication Date Title
CN108682365B (en) OLED color spot detection and repair integrated system and method
JP5082776B2 (en) Image processing device
JP2011196685A (en) Defect detection device, defect repairing device, display panel, display device, defect detection method and program
JP3333686B2 (en) Display screen inspection method
JPH0829360A (en) Lcd panel image quality inspection device and lcd image pre-sampling method
JP4411588B2 (en) Defect inspection equipment
JP3618713B2 (en) Display screen inspection method and display screen inspection apparatus
CN112885289B (en) Display screen calibration method and device
JP2016045019A (en) Teaching device for substrate inspection device, and teaching method
JPWO2013175703A1 (en) Display device inspection method and display device inspection device
JP2008032491A (en) Inspection system, test method, inspection program, and computer-readable storage medium
JP2000346627A (en) Inspection system
KR102688199B1 (en) Imaging apparatus and driving method of the same
JP2006245891A (en) Chart for inspecting image of camera module, and image inspecting method and image inspecting device for the camera module using the chart for inspecting image
JP2008180602A (en) Inspection apparatus, testing method, inspection program, and computer readable medium
JPH1031730A (en) Calibration method
JP2003510568A (en) LCD inspection method and LCD inspection apparatus by pattern comparison
CN110288662B (en) Display detection method and system
JPH08327497A (en) Method for inspecting color liquid crystal display panel
JP2010139323A (en) Color irregularity measuring method and color irregularity measuring device
JP5130257B2 (en) Image processing device
JP2007149873A (en) Inspection machine and mounting substrate inspection method
KR100643248B1 (en) Method and apparatus for inspecting display panel
KR0183736B1 (en) Method of judging photo sensor arrangement of cathode ray tube picture
JP2001083474A (en) Method for inspecting liquid crystal display panel

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20041022

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20041102

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20041110

R150 Certificate of patent (=grant) or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071119

Year of fee payment: 3

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081119

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081119

Year of fee payment: 4

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091119

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091119

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101119

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111119

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121119

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121119

Year of fee payment: 8

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131119

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees