KR101211872B1 - Apparatus and method for realtime eye detection - Google Patents
Apparatus and method for realtime eye detection Download PDFInfo
- Publication number
- KR101211872B1 KR101211872B1 KR1020110030955A KR20110030955A KR101211872B1 KR 101211872 B1 KR101211872 B1 KR 101211872B1 KR 1020110030955 A KR1020110030955 A KR 1020110030955A KR 20110030955 A KR20110030955 A KR 20110030955A KR 101211872 B1 KR101211872 B1 KR 101211872B1
- Authority
- KR
- South Korea
- Prior art keywords
- eye
- image
- eye candidate
- candidate region
- region
- Prior art date
Links
- 238000001514 detection method Methods 0.000 title claims abstract description 53
- 238000000034 method Methods 0.000 title claims description 33
- 238000012549 training Methods 0.000 claims description 11
- 238000006243 chemical reaction Methods 0.000 claims description 7
- 238000010586 diagram Methods 0.000 description 13
- 230000006870 function Effects 0.000 description 6
- 230000009466 transformation Effects 0.000 description 6
- 239000000470 constituent Substances 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000012545 processing Methods 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000012795 verification Methods 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000003139 buffering effect Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 210000000887 face Anatomy 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 230000001151 other effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
본 발명의 일 예에 따른 실시간 눈 검출 장치(100)는 얼굴 영역이 포함된 영상에서 눈 후보영역을 획득하는 눈 후보영역 획득부(110), 눈 후보영역 획득부(110)에서 획득한 눈 후보영역에 대한 복수 개의 다운스케일링 영상을 생성하는 눈 후보영역 크기 변환부(120), 눈 후보영역 획득부(110)에서 획득된 눈 후보영역의 영상 및 눈 후보영역 크기 변환부(120)에서 생성된 각 영상에 대해 MCT 연산을 수행하는 MCT 변환부(130), MCT 변환부(130)에서 MCT 연산이 수행된 각 영상에 대한 윈도우를 생성하고, 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 각 픽셀에 대한 신뢰도값을 매칭하는 학습데이터 비교부(140) 및 학습데이터 비교부(140)의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합이 기준값이 이상인 눈 후보영역을 최종 눈 영역으로 검출하는 눈 검출부(150)를 포함한다.The real-time eye detection apparatus 100 according to an exemplary embodiment of the present invention may be an eye candidate region acquirer 110 or an eye candidate region acquirer 110 that obtains an eye candidate region from an image including a face region. An eye candidate region size converter 120 that generates a plurality of downscaling images for the region, an image of the eye candidate region acquired by the eye candidate region acquirer 110, and an image generated by the eye candidate region size converter 120 are generated. The MCT converter 130 that performs the MCT operation on each image and the MCT converter 130 generate a window for each image on which the MCT operation is performed, and look up the learning data for each pixel constituting the generated window. Using the table, the sum of the reliability values of all the pixels constituting the window of the learning data comparator 140 and the learning data comparator 140 matching the reliability values for each pixel is the final eye of the eye candidate region having a reference value of more than. domain It includes an eye detection unit 150 for detecting a.
Description
본 발명은 영상에서 사람의 눈을 검출하는 장치 및 방법에 관한 것이다. 특히 본 발명은 눈 후보 영상에 대한 다운스케일링 영상을 병렬적으로 생성하여 눈 검출을 수행하는 장치 및 방법에 관한 것이다.The present invention relates to an apparatus and a method for detecting a human eye in an image. In particular, the present invention relates to an apparatus and method for performing eye detection by generating downscaling images of eye candidate images in parallel.
일반적인 얼굴 인식 시스템은 입력된 영상에서 얼굴을 찾고 해당 얼굴의 특징을 분석하는 시스템을 의미하며, 미리 저장된 얼굴 데이터베이스와 비교하여 누구의 얼굴인지를 판단하고 신원을 인식하게 된다. 이러한 얼굴 인식 시스템에서 사용하기 위한 특징점으로 얼굴 영역 내에서 눈 좌표를 사용할 수 있으며, 눈 좌표가 정확하게 검출될수록 얼굴 인식 시스템의 인식 성능이 향상될 수 있다.The general face recognition system refers to a system for finding a face from an input image and analyzing a feature of the face. The face recognition system determines who is a face and recognizes an identity by comparing with a previously stored face database. As a feature point for use in the face recognition system, eye coordinates may be used in the face area, and as the eye coordinates are accurately detected, the recognition performance of the face recognition system may be improved.
일반적인 영상 처리 기법을 적용하는 경우, 촬영된 영상은 다양한 크기와 형태로 나타나게 된다. 이러한 이유로 인해서 얼굴의 위치와 종명의 밝기 등의 제약을 둔 상황에서는 눈 검출을 비교적 간단한 방법으로 구현이 가능하나, 일반적인 환경에서는 얼굴의 크기 및 위치 변화와 조명의 변화에 따라 다양하게 영상이 변형되어 눈 검출을 어렵게 만든다. When the general image processing technique is applied, the captured image is displayed in various sizes and shapes. For this reason, the eye detection can be implemented in a relatively simple way under the constraints of the position of the face and the brightness of the name of the face.However, in a general environment, the image is modified according to the change of the size and position of the face and the change of illumination. Make eye detection difficult
이러한 문제를 해결하기 위해 눈 검증 및 눈 위치 보정을 이용한 눈 검출 방법(공개번호 10-2008-0114361)에서는 MCT로 변환한 영상에서 AdaBoost 학습 알고리즘을 통해 얻어진 눈 검츨 특징점 데이터를 이용하여 눈후보를 검출하고, MCT 기반의 패턴 상관성을 이용하여 눈후보 검증을 수행하여 조명 변화 및 환경 변화에도 강인하게 눈 검출을 수행할 수 있는 방법을 제시하였다. In order to solve this problem, the eye detection method using eye verification and eye position correction (published number 10-2008-0114361) detects eye candidates using eye detection feature point data obtained through AdaBoost learning algorithm in MCT-converted images. In addition, we proposed a method that can perform eye detection robustly to lighting and environmental changes by performing eye candidate verification using pattern correlation based on MCT.
그러나 이 방법 역시 소프트웨어를 기반으로 하여 순차적으로 수행되기 때문에, 얼굴 영상을 미리 정해진 몇 개의 크기로 스케일링하고 각 스케일링 된 영상에 대해 MCT를 적용한 후에 각 MCT 데이터에 대해 저장된 학습데이터와 비교하여 눈을 검출을 수행해야 하므로, 수행시간이 매우 길어지게 되어 실시간 처리에는 무리가 따르게 된다. However, since this method is also performed sequentially based on the software, the face image is scaled to several predetermined sizes, MCT is applied to each scaled image, and the eyes are detected by comparing the stored learning data for each MCT data. Since the execution time becomes very long, the real-time processing is difficult.
본 발명에 따른 실시간 눈 검출 장치 및 그 방법은 다음과 같은 해결과제를 목적으로 한다.The real-time eye detection apparatus and method thereof according to the present invention aims to solve the following problems.
첫째, 얼굴 영역 영상에서 눈 위치를 조속하게 검출하고자 한다.First, the eye position is to be detected quickly in the face region image.
둘째, 오른쪽/왼쪽 눈 후보영역의 스케일 영상을 동시에 생성하고, 생성한 영상에 대해 병렬적으로 MCT를 적용한 후, 각 MCT 적용 데이터에 대하여 Cascade를 병렬적으로 적용하여 영상의 얼굴 영역에서 실시간으로 눈 위치를 검출하고자 한다.Second, scale images of the right / left eye candidate regions are simultaneously generated, MCT is applied to the generated images in parallel, and Cascade is applied to each MCT applied data in parallel to the eye in the face region of the image in real time. We want to detect the location.
셋째, 오른쪽 또는 왼쪽 눈 후보영역 하나만을 획득하여 눈 검출을 조속하게 수행하고자 한다.Third, eye detection is promptly performed by acquiring only one right or left eye candidate region.
본 발명의 해결과제는 이상에서 언급된 것들에 한정되지 않으며, 언급되지 아니한 다른 해결과제들은 아래의 기재로부터 당업자에게 명확하게 이해되어 질 수 있을 것이다.The solution to the problem of the present invention is not limited to those mentioned above, and other solutions not mentioned can be clearly understood by those skilled in the art from the following description.
본 발명에 따른 실시간 눈 검출 장치는 얼굴 영역이 포함된 영상에서 눈 후보영역을 획득하는 눈 후보영역 획득부, 눈 후보영역 획득부에서 획득한 눈 후보영역에 대한 복수 개의 다운스케일링 영상을 생성하는 눈 후보영역 크기 변환부, 눈 후보영역 획득부에서 획득된 눈 후보영역의 영상 및 눈 후보영역 크기 변환부에서 생성된 각 영상에 대해 MCT 연산을 수행하는 MCT 변환부, MCT 변환부에서 MCT 연산이 수행된 각 영상에 대한 윈도우를 생성하고, 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 각 픽셀에 대한 신뢰도값을 매칭하는 학습데이터 비교부 및 학습데이터 비교부의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합이 기준값이 이상인 눈 후보영역을 최종 눈 영역으로 검출하는 눈 검출부를 포함한다.An apparatus for detecting real-time eyes according to the present invention includes an eye candidate region obtaining unit obtaining an eye candidate region from an image including a face region and an eye generating a plurality of downscaling images of the eye candidate region obtained by the eye candidate region obtaining unit. MCT operation for performing MCT operation on each image generated by the candidate area size conversion unit, the image of the eye candidate area acquired by the eye candidate area acquisition unit, and the eye candidate area size conversion unit, and MCT operation is performed by the MCT conversion unit Creates a window for each image, and configures the window of the learning data comparison unit and the learning data comparison unit for matching the reliability value for each pixel using the learning data lookup table for each pixel constituting the generated window. And an eye detector configured to detect, as the final eye region, an eye candidate region whose sum of reliability values is equal to or greater than a reference value.
본 발명에 따른 실시간 눈 검출 장치는 입력된 영상이 프레임 단위로 저장되는 메모리부를 더 포함하되, 메모리부는 눈 후보영역 크기 변환부에서 생성되는 복수 개의 다운스케일링 영상도 저장되는 것을 특징으로 한다.The apparatus for detecting real-time eyes according to the present invention further includes a memory unit in which the input image is stored in units of frames, and the memory unit also stores a plurality of downscaling images generated by the eye candidate region size converter.
본 발명에 따른 눈 후보영역 획득부는 오른쪽 또는 왼쪽 눈 후보영역 중 하나를 획득하면, 나머지 하나의 눈 후보영역은 획득한 영상을 좌우 대칭으로 회전시켜 획득하는 것을 특징으로 한다.When the eye candidate region acquisition unit according to the present invention acquires one of the right or left eye candidate regions, the other eye candidate region is obtained by rotating the acquired image in left and right symmetry.
본 발명에 따른 실시간 눈 검출 장치는 오른쪽 또는 왼쪽 눈 후보영역 중 하나에 대해서만 눈 후보영역 크기 변환부가 다운스케일링을 수행하고, MCT 변환부가 MCT 연산을 수행하고, 학습데이터 비교부에서 신뢰도값을 매칭하고, 눈 검출부에서 최종 눈 영역으로 검출하는 것을 특징으로 한다.In the real-time eye detection apparatus according to the present invention, the eye candidate region size converter performs downscaling only for one of the right or left eye candidate regions, the MCT transformer performs the MCT operation, and the confidence value is matched in the training data comparison unit. The eye detection unit detects the final eye region.
본 발명에 따른 눈 후보영역 획득부는 메모리부에 저장된 영상에서 오른쪽 및 왼쪽 눈 후보영역에 대한 영상 데이터를 동시에 병렬적으로 획득하는 것을 특징으로 한다.The eye candidate region obtaining unit according to the present invention is characterized by simultaneously obtaining image data for the right and left eye candidate regions from the image stored in the memory unit in parallel.
본 발명에 따른 눈 후보영역 크기 변환부는 눈 후보영역 획득부에서 눈 후보영상을 획득하면, 획득한 눈 후보영상에 대한 다운스케일링 비율이 서로 다른 복수 개의 다운스케일링 영상을 동시에 병렬적으로 생성하는 것을 특징으로 한다.When the eye candidate region size converter according to the present invention acquires the eye candidate image from the eye candidate region acquisition unit, simultaneously generates a plurality of downscaling images having different downscaling ratios for the acquired eye candidate images in parallel. It is done.
본 발명에 따른 학습데이터 비교부는 생성된 윈도우에 대해 정보량이 서로 다른 복수 개의 학습데이터 룩업 테이블을 이용하여 신뢰도값을 매칭하는 것을 특징으로 하되, 복수 개의 학습데이터 룩업 테이블을 각각 이용하여 신뢰도값 세트를 병렬적으로 생성하는 것을 특징으로 한다.The learning data comparison unit according to the present invention is characterized in that matching the reliability value using a plurality of learning data lookup table having a different amount of information with respect to the generated window, using a plurality of learning data lookup table, respectively, It is characterized by generating in parallel.
본 발명에 따른 눈 검출부는 복수 개의 학습데이터 룩업 테이블을 이용하여 생성된 신뢰도값 세트 각각에 대하여 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역을 최종 눈 영역으로 검출하는 것을 특징으로 한다.The eye detector according to the present invention is characterized in that the eye candidate region in which the sum of the reliability values of all the pixels is equal to or greater than the reference value for each of the reliability value sets generated by using the plurality of learning data lookup tables is detected. .
본 발명에 따른 실시간 눈 검출 방법은 얼굴 영역이 포함된 영상에서 눈 후보 영역이 획득되는 S1 단계, S1 단계에서 획득된 눈후보 영역에 대해 복수 개의 다운스케일링 영상이 생성되는 S2 단계, S1 단계에서 획득한 눈 후보 영역 영상 및 S2 단계에서 생성된 각 영상에 대해 MCT 연산이 수행되는 S3 단계, S3 단계에서 MCT 연산이 수행된 각 영상에 대한 윈도우가 생성되고, 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 각 픽셀에 대한 신뢰도값이 매칭되는 S4 단계 및 S4 단계의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역이 최종 눈 영역으로 결정되는 S5 단계를 포함한다.The real-time eye detection method according to the present invention is obtained in steps S1 and S1 in which a plurality of downscaling images are generated for an eye candidate area acquired in step S1 and an eye candidate area acquired in step S1 in an image including a face area. A window for each image in which MCT operation is performed in step S3 and MCT operation is generated for each image generated in step S2 and an eye candidate region image, and for each pixel constituting the generated window Step S5 in which the confidence values of each pixel are matched using the training data lookup table, and in step S5, an eye candidate region whose sum of the reliability values of all the pixels constituting the window of step S4 is greater than or equal to the reference value is determined as the final eye region. It includes.
본 발명에 따른 S1 단계는 오른쪽 또는 왼쪽 눈 후보영역 중 하나가 획득되면, 나머지 하나의 눈 후보영역은 획득한 영상을 좌우 대칭으로 회전시켜 획득되는 것을 특징으로 한다.In the step S1 according to the present invention, when one of the right or left eye candidate areas is acquired, the other one of the eye candidate areas is obtained by rotating the acquired image in left and right symmetry.
본 발명에 따른 S1 단계는 얼굴 영역이 포함된 영상에서 오른쪽 및 왼쪽 눈 후보영역에 대한 영상 데이터를 동시에 병렬적으로 획득하는 것을 특징으로 한다.Step S1 according to the present invention is characterized in that the image data for the right and left eye candidate regions are simultaneously acquired in parallel in the image including the face region.
본 발명에 따른 S2 단계는 S1 단계에서 획득된 눈 후보영상에 대한 다운스케일링 비율이 서로 다른 복수 개의 다운스케일링 영상이 동시에 병렬적으로 생성되는 것을 특징으로 한다.In the step S2 according to the present invention, a plurality of downscaling images having different downscaling ratios for the eye candidate images obtained in the step S1 are simultaneously generated in parallel.
본 발명에 따른 S4 단계는 생성된 윈도우에 대해 정보량이 서로 다른 복수 개의 학습데이터 룩업 테이블을 이용하여 신뢰도값이 매칭되는 것을 특징으로 하되, 복수 개의 학습데이터 룩업 테이블을 각각 이용하여 신뢰도값 세트가 병렬적으로 생성되는 것을 특징으로 한다.In the step S4 according to the present invention, the reliability values are matched using a plurality of learning data lookup tables having different amounts of information with respect to the generated window, and the set of reliability values is parallel using a plurality of learning data lookup tables, respectively. It is characterized in that it is generated by the enemy.
본 발명에 따른 S5 단계는 복수 개의 학습데이터 룩업 테이블을 이용하여 생성된 신뢰도값 세트 각각에 대하여 모든 픽셀의 신뢰도값을 가산한 값이 기준값 이상인 눈 후보영역이 최종 눈 영역으로 결정되는 것을 특징으로 한다.In the step S5 according to the present invention, an eye candidate region having a value obtained by adding reliability values of all pixels to each of a set of reliability values generated using a plurality of learning data lookup tables is determined as a final eye region. .
본 발명에 따른 실시간 눈 검출 장치 및 그 방법은 다음과 같은 효과를 갖는다.Real-time eye detection apparatus and method according to the present invention has the following effects.
첫째, 눈 후보 영역에 대한 복수 개의 다운스케일링 영상을 병렬적으로 생성하고, 생성된 영상에 대해 눈 영역인지 여부를 실시간으로 검출가능하다.First, a plurality of downscaling images of eye candidate regions are generated in parallel, and whether or not they are eye regions with respect to the generated images can be detected in real time.
둘째, 눈 영역을 실시간으로 파악하여, 카메라 등에서 사용되는 얼굴 인식이 조속하게 수행된다.Second, by detecting the eye area in real time, face recognition used in the camera, etc. is quickly performed.
셋째, 오른쪽 또는 왼쪽 눈 후보영역 하나만이 정확하게 검출되어도, 영상에서 눈 위치를 검출가능하다.Third, even if only one right or left eye candidate region is correctly detected, the eye position can be detected in the image.
본 발명의 효과는 이상에서 언급된 것들에 한정되지 않으며, 언급되지 아니한 다른 효과들은 아래의 기재로부터 당업자에게 명확하게 이해되어 질 수 있을 것이다.The effects of the present invention are not limited to those mentioned above, and other effects not mentioned can be clearly understood by those skilled in the art from the following description.
도 1은 본 발명의 일 예에 따른 실시간 눈 검출 장치의 구성을 개략적으로 도시한 블록도이다.
도 2는 본 발명에 따른 실시간 눈 검출 장치가 눈 후보 영역의 크기를 변환하는 방법을 나타낸 도면이다.
도 3은 본 발명에 따른 실시간 눈 검출 장치가 입력 영상에 대하여 MCT 변환을 수행하는 방법을 나타낸 도면이다.
도 4는 본 발명에 따른 실시간 눈 검출 장치가 MCT 변환된 다운스케일링 영상으로부터 눈 영역 윈도우를 구성하고 신뢰도 값을 산출하는 방법을 나타낸 도면이다.
도 5는 본 발명에 따른 실시간 눈 검출 장치가 입력 영상으로부터 눈 좌표를 검출한 결과를 나타낸 도면이다.
도 6은 본 발명의 일 예에 따른 실시간 눈 검출 방법의 순서도이다.1 is a block diagram schematically illustrating the configuration of a real-time eye detection apparatus according to an embodiment of the present invention.
2 is a diagram illustrating a method of converting the size of an eye candidate region by a real-time eye detection apparatus according to the present invention.
3 is a diagram illustrating a method of performing MCT transformation on an input image by a real-time eye detection apparatus according to the present invention.
4 is a diagram illustrating a method of constructing an eye region window and calculating a reliability value from an MCT-converted downscaling image by a real-time eye detection apparatus according to the present invention.
5 is a diagram illustrating a result of detecting eye coordinates from an input image by a real-time eye detection apparatus according to the present invention.
6 is a flowchart of a real-time eye detection method according to an embodiment of the present invention.
본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.While the invention is susceptible to various modifications and alternative forms, specific embodiments thereof are shown by way of example in the drawings and will herein be described in detail. It should be understood, however, that the invention is not intended to be limited to the particular embodiments, but includes all modifications, equivalents, and alternatives falling within the spirit and scope of the invention.
제1, 제2, A, B 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 해당 구성요소들은 상기 용어들에 의해 한정되지는 않으며, 단지 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.The terms first, second, A, B, etc. may be used to describe various components, but the components are not limited by the terms, but merely for distinguishing one component from other components. Only used as For example, without departing from the scope of the present invention, the first component may be referred to as a second component, and similarly, the second component may also be referred to as a first component. And / or < / RTI > includes any combination of a plurality of related listed items or any of a plurality of related listed items.
본 명세서에서 사용되는 용어에서 단수의 표현은 문맥상 명백하게 다르게 해석되지 않는 한 복수의 표현을 포함하는 것으로 이해되어야 하고, "포함한다" 등의 용어는 설시된 특징, 개수, 단계, 동작, 구성요소, 부분품 또는 이들을 조합한 것이 존재함을 의미하는 것이지, 하나 또는 그 이상의 다른 특징들이나 개수, 단계 동작 구성요소, 부분품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 배제하지 않는 것으로 이해되어야 한다.
As used herein, the singular forms "a,""an," and "the" are intended to include the plural forms as well, unless the context clearly indicates otherwise. It is to be understood that the present invention means that there is a part or a combination thereof, and does not exclude the presence or addition possibility of one or more other features or numbers, step operation components, parts or combinations thereof.
이하에서는 도면을 참조하면서 실시간 눈 검출 장치(100) 및 그 방법에 관하여 구체적으로 설명하겠다.Hereinafter, the real-time
도면에 대한 상세한 설명을 하기에 앞서, 본 명세서에서의 구성부들에 대한 구분은 각 구성부가 담당하는 주기능 별로 구분한 것에 불과함을 명확히 하고자 한다. 즉, 이하에서 설명할 2개 이상의 구성부가 하나의 구성부로 합쳐지거나 또는 하나의 구성부가 보다 세분화된 기능별로 2개 이상으로 분화되어 구비될 수도 있다. 그리고 이하에서 설명할 구성부 각각은 자신이 담당하는 주기능 이외에도 다른 구성부가 담당하는 기능 중 일부 또는 전부의 기능을 추가적으로 수행할 수도 있으며, 구성부 각각이 담당하는 주기능 중 일부 기능이 다른 구성부에 의해 전담되어 수행될 수도 있음은 물론이다. 따라서, 본 명세서를 통해 설명되는 각 구성부들의 존재 여부는 기능적으로 해석되어야 할 것이며, 이러한 이유로 본 발명의 무선 전력 전송 장치 따른 구성부들의 구성은 본 발명의 목적을 달성할 수 있는 한도 내에서 도 1과는 상이해질 수 있음을 명확히 밝혀둔다.Prior to the detailed description of the drawings, it is to be clear that the division of the components in the present specification is only divided by the main function of each component. That is, two or more constituent parts to be described below may be combined into one constituent part, or one constituent part may be divided into two or more functions according to functions that are more subdivided. Each of the components to be described below may additionally perform some or all of the functions of other components in addition to the main functions of the components, and some of the main functions of each of the components are different. Of course, it may be carried out exclusively by. Therefore, the presence or absence of each component described through this specification should be interpreted functionally, and for this reason, the configuration of the components according to the wireless power transmission apparatus of the present invention is within the limits to achieve the object of the present invention. Clearly, it may be different from 1.
도 1은 본 발명의 일 예에 따른 실시간 눈 검출 장치(100)의 구성을 개략적으로 도시한 블록도이다.1 is a block diagram schematically showing the configuration of a real-time
본 발명의 일 예에 따른 실시간 눈 검출 장치(100)는 얼굴 영역이 포함된 영상에서 눈 후보영역을 획득하는 눈 후보영역 획득부(110), 눈 후보영역 획득부(110)에서 획득한 눈 후보영역에 대한 복수 개의 다운스케일링 영상을 생성하는 눈 후보영역 크기 변환부(120), 눈 후보영역 획득부(110)에서 획득된 눈 후보영역의 영상 및 눈 후보영역 크기 변환부(120)에서 생성된 각 영상에 대해 MCT 연산을 수행하는 MCT 변환부(130), MCT 변환부(130)에서 MCT 연산이 수행된 각 영상에 대한 윈도우를 생성하고, 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 각 픽셀에 대한 신뢰도값을 매칭하는 학습데이터 비교부(140) 및 학습데이터 비교부(140)의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합이 기준값이 이상인 눈 후보영역을 최종 눈 영역으로 검출하는 눈 검출부(150)를 포함한다.The real-time
한편 본 발명의 실시간 눈 검출 장치(100)는 입력된 영상이 프레임 단위로 저장되는 메모리부(160)를 더 포함할 수 있다. 또한 다른 구성 예컨대, 눈 후보영역 크기 변환부(120)에서 생성되는 복수 개의 다운스케일링 영상도 임시저장될 수 있다.Meanwhile, the real-time
메모리부(160)는 카메라로부터 입력되는 영상을 획득하고 한 프레임의 영상을 저장하는 구성 요소이다. 영상을 저장하기 위한 공간으로 무작위 접근이 가능한 메모리가 있어야 하고, 영상을 메모리에 쓰고 있는 동안 다른 쪽 메모리에 저장된 영상 정보를 처리하여 눈 검출을 하기 위해서 더블 버퍼링이 사용되는 것이 바람직하다.The
눈 후보영역 획득부(110)는 카메라로부터 입력되는 영상 또는 메모리부(160)에 저장된 영상에서 눈 후보영역을 획득하다. 눈 후보영역 획득을 위해서는 사용되는 영상에서 사람의 얼굴영역을 검출하기 위한 장치 내지 방법이 선행되어야 한다. 얼굴 영역의 좌표 정보가 있다는 이를 바탕으로 대략적으로 눈이 위치할 가능성이 높은 영역을 눈 후보영역으로 획득한다.The eye candidate region obtaining unit 110 obtains an eye candidate region from an image input from a camera or an image stored in the
눈 후보영역 크기변환부는 얼굴 영역 좌표 정보를 이용하여 눈 검출의 대상이 되는 후보 영역을 미리 정해진 크기로 변환하는 구성 요소이다. 눈 후보영역은 얼굴의 크기에 따라서 크기가 달라지기 때문에 이를 고정된 크기의 영상으로 변환하여 이후 작업을 수행하여야 한다. The eye candidate region size converting unit is a component that converts a candidate region, which is the object of eye detection, to a predetermined size using face region coordinate information. Since the eye candidate area varies in size depending on the size of the face, it is necessary to convert the image into a fixed size image and then perform the work.
만약, 눈 검출을 위해서 15x15의 윈도우를 사용하는 경우, 검출 가능한 눈의 크기는 15x15로 설정된다. 그러나 얼굴 영역에서 눈의 크기에 따라 15x15 윈도우에 눈 영역이 모두 포함되지 않을 수도 있다. 이러한 경우를 대비하여 15x15 윈도우에 눈이 모두 포함될 수 있도록 영상을 다운스케일링 하는 부분이 필요하다. 즉, 눈 후보영역 크기변환부는 우선 눈 후보영역을 미리 정해진 크기로 변환한 다음 변환한 영상을 소정의 비율로 다운스케일링 하는 작업을 수행한다.If a 15x15 window is used for eye detection, the detectable eye size is set to 15x15. However, depending on the size of the eye in the face area, the 15x15 window may not contain all of the eye area. To prepare for this case, it is necessary to downscale the image so that all eyes are included in the 15x15 window. That is, the eye candidate region size converter first converts the eye candidate region to a predetermined size and then downscales the converted image at a predetermined ratio.
여러 비율에 따라 다운스케일링을 하는 경우, 각 다운스케일 영상의 해상도 차이가 발생하게 된다. 따라서 동일한 클럭을 이용하여 얼굴 검출을 수행하는 경우 픽셀 또는 라인별 클럭을 이용하지 않게 되는 공백이 발생한다. 본 발명에 따른 실시간 눈 검출 장치(100)는 학습데이터 비교부(140)에서 얼굴 학습 데이터의 하드웨어 사용량을 줄이기 위해 클럭이 이용되지 않는 공백을 사용할 수 있다.When downscaling according to various ratios, a resolution difference of each downscale image occurs. Therefore, when face detection is performed using the same clock, a space that does not use a pixel or line clock occurs. The real-time
도 2는 본 발명에 따른 실시간 눈 검출 장치(100)가 눈 후보 영역의 크기를 변환하는 방법을 나타낸 도면이다.2 is a diagram illustrating a method for converting the size of an eye candidate region by the real-time
눈 후보영역 획득부(110)는 저장된 영상과 외부의 얼굴 검출 장치로부터 획득한 얼굴 영역의 좌표정보를 입력받는다. 도 2에서 눈 후보영역은 왼쪽 눈 후보영역과 오른쪽 눈 후보영역으로 나뉜다. 왼쪽 눈 후보영역은 얼굴 영역을 상하 밑 좌우로 2분할한 영역 중 좌측 상단 영역이 된다. 오른쪽 눈 후보영역은 상기와 같이 분할한 영역 중에 우측 상단 영역이 된다. The eye candidate region obtaining unit 110 receives the stored image and coordinate information of the face region obtained from an external face detection apparatus. In FIG. 2, the eye candidate area is divided into a left eye candidate area and a right eye candidate area. The left eye candidate area becomes the upper left area of the area obtained by dividing the face area into two parts in the top, bottom, left and right directions. The right eye candidate region becomes an upper right region among the divided regions as described above.
이때 오른쪽 눈 후보영역은 원래 영상영역을 좌우 대칭으로 회전시켜서 얻을 수 있다. 물론 양쪽 눈 후보 영역을 각각 획득할 수 있으나, 한쪽 눈 후보 영역을 이용하는 경우 왼쪽 눈 영역과 오른쪽 눈 영역에 대해 동일한 MCT 변환과 학습데이터 비교를 수행하기 때문에 쪽과 오른쪽에 대해 동일한 학습데이터를 적용하므로 학습데이터를 저장하기 위한 공간을 절약할 수 있다.In this case, the right eye candidate region may be obtained by rotating the original image region in left and right symmetry. Of course, both eye candidate regions can be obtained, but when one eye candidate region is used, the same MCT transformation and learning data comparison are performed for the left eye region and the right eye region. Save space for storing training data.
도 2에서 입력되는 영상은 메모리부(160)의 메모리에 저장되어 있다. 따라서 메모리에 저장된 영상에서 왼쪽 눈과 오른쪽 눈 후보 영상을 가져오기 위해서는 메모리를 순차적으로 접근해야 한다. 왼쪽 눈 후보 영상을 가져올 때는 얼굴영상의 왼쪽에서 오른쪽으로 메모리를 접근하고, 오른쪽 눈 후보 영상은 얼굴영상에서 오른쪽에서 왼쪽으로 메모리를 접근하여 데이터를 가져 올 수 있다. 즉 오른쪽 눈 후보영상과 왼쪽 눈 후보 영상에 대해 병렬적으로 눈 후보 영역을 획득할 수 있다.The image input in FIG. 2 is stored in a memory of the
눈 후보 영상은 별도의 레지스터에 저장될 수도 있다. 따라서 일단 메모리 접근이 끝나서 왼쪽과 오른쪽 눈의 후보영상이 생성되면 이후 눈 후보영역 크기 변환부(120)에서 다운스케일링 영상은 병렬적으로 동시에 생성이 가능하다. 도 2에 표현된 것과 같이 왼쪽 눈 후보 영상과 오른쪽 눈 후보영상이 생성되면 나머지 3개의 다운스케일 영상은 동시에 병렬적으로 생성하게 된다. The eye candidate image may be stored in a separate register. Therefore, once the memory access is completed and the left and right eye candidate images are generated, the downscaling images may be simultaneously generated in parallel in the eye candidate
결국 눈 후보영역 획득부(110)에서 획득한 눈 후보영역 및 눈 후보영역 크기 변환부(120)에서 생성된 다운스케일링 영상에 대해 MCT(Modified Census Transform) 변환을 수행한다. 도 2에서는 총 8개의 눈 후보 영상은 이후 MCT 변환부(130)에 동시에 입력되어 8개의 MCT 영상을 생성하게 된다.As a result, MCT (Modified Census Transform) transformation is performed on the eye candidate region acquired by the eye candidate region acquisition unit 110 and the downscaling image generated by the eye candidate region
눈 후보영역 크기 변환부(120)는 눈 후보영역 획득부(110)에서 눈 후보영상을 획득하면, 획득한 눈 후보영상에 대한 다운스케일링 비율이 서로 다른 복수 개의 다운스케일링 영상을 동시에 병렬적으로 생성한다.When the eye candidate
MCT 변환부(130)는 눈 후보영역 획득부(110)에서 획득한 눈 후보 원본 영상 및 눈 후보영역 크기 변환부(120)에서 다운스케일링된 영상에 대해 MCT 연산을 수행한다. MCT 연산에서는 3x3 윈도우를 생성하여 전체 9개의 픽셀 값의 평균과 각 픽셀 밝기 값을 비교하여 평균보다 작으면 0, 평균보다 크거나 같으면 1로 계산한다. 총 9개의 픽셀에 대하여 계산을 수행하므로 9비트 길이의 코드가 생성된다.The
도 3은 본 발명에 따른 실시간 눈 검출 장치(100)가 입력 영상에 대하여 MCT 변환을 수행하는 방법을 나타낸 도면이다.3 is a diagram illustrating a method of performing MCT transformation on an input image by the real-time
도 3은 본 발명에 따른 실시간 눈 검출 장치(100)가 입력 영상에 대하여 MCT 변환을 수행하는 방법을 나타낸 도면이다. 도 3에서 도시된 3x3 윈도우 내의 픽셀들의 평균값은 95.11이 된다. 그 평균값과 윈도우 내의 각 픽셀을 비교해서 픽셀값이 작은 경우 0, 크거나 같은 경우는 1로 변환한다. 그리고 변환된 비트를 일정한 순서로 연결하여 9비트의 비트열을 생성해낸다. 이때 획득된 9비트의 비트열이 3x3 윈도우 내의 중심 픽셀의 MCT 비트열 값이 된다. 이와 같은 방법으로 MCT 변환부(130)는 3x3 윈도우 내의 픽셀의 밝기 값을 이용하여 MCT 변환을 수행하게 된다.3 is a diagram illustrating a method of performing MCT transformation on an input image by the real-time
이때 생성되는 비트의 조합 순서는 학습데이터 비교부(140)에서 사용되는 학습데이터가 생성되는 과정에서 사용된 순서와 동일해야 한다. In this case, the combination order of the generated bits should be the same as the order used in the process of generating the learning data used in the learning
학습데이터 비교부(140)는 각 윈도우 영상과 사전에 준비된 학습데이터를 이용하여 윈도우를 구성하는 각 픽셀에 대한 신뢰도를 결정한다. 학습데이터는 룩업 테이블 형태로 구성된다. The training
학습데이터 룩업 테이블은 얼굴영역 영상을 구성하는 각 픽셀의 밝기를 기준으로 사전에 학습된 룩업 테이블이다. 눈 주변 얼굴영역은 얼굴을 구성하는 부위의 높낮이 및 굴곡에 따라 영상에 나타나는 밝기가 상이한데, 학습데이터 룩업 테이블은 학습을 위해 사전에 입력되는 영상을 이용하여 각 픽셀별로 밝기에 따라 얼굴영역일 가능성을 확률값으로 저장한 것이다. 신뢰도값은 이 확률값을 의미한다.The training data lookup table is a lookup table previously learned based on the brightness of each pixel constituting the face region image. The face area around the eyes differs in brightness depending on the height and curvature of the parts that make up the face.The learning data lookup table is a face area according to brightness for each pixel using an image that is input in advance for learning. Is stored as a probability value. The confidence value means this probability value.
예컨대, 얼굴영상에서 특정 픽셀의 밝기가 23이라고 학습된 경우, 비교 대상이 되는 영상에서 해당 픽셀의 밝기가 23이면 신뢰도값은 1이되고, 밝기가 15이면 약 0.68의 신뢰도값을 갖게되고, 밝기가 150이면 약 0.15의 신뢰도값을 갖는 것이다.For example, if the brightness of a specific pixel is learned to be 23 in the face image, when the brightness of the corresponding pixel is 23, the confidence value is 1, and when the brightness is 15, the confidence value is about 0.68, and the brightness is about 15. Is 150, a reliability value of about 0.15.
학습데이터 비교부(140)는 다운스케일링 된 눈 영상의 MCT 영상을 입력받아 소정의 크기를 가지는 윈도우를 생성한다. 그리고 소정의 크기를 가지는 윈도우는 입력된 MCT 영상을 따라서 순차적으로 움직이며 진행한다. 학습데이터 비교부(140)는 윈도우에 포함된 영상과 이미 생성되어 있는 학습데이터를 비교하여, 상기 윈도우에 포함된 영상이 눈 영역인지를 판별한다. The training
학습데이터 비교부(140)에서 윈도우는 레지스터를 기반으로 구현되며, 각 윈도우의 픽셀에 동시 접근이 가능하다. 이러한 구조로 인해 윈도우 내 모든 픽셀에 대한 신뢰도 값을 동시에 얻어낼 수 있다. 윈도우 내의 각 위치의 픽셀들은 해당하는 픽셀의 MCT 값에 따른 신뢰도 값을 룩업테이블 형태로 유지하고 있다. In the learning
도 4는 본 발명에 따른 실시간 눈 검출 장치(100)가 MCT 변환된 다운스케일링 영상으로부터 눈 영역 윈도우를 구성하고 신뢰도 값을 산출하는 방법을 나타낸 도면이다.4 is a diagram illustrating a method of configuring an eye region window and calculating a reliability value from an MCT-converted downscaling image by the real-time
도4는 본 발명에 따른 실시간 눈 검출 장치(100)가 MCT 변환된 다운스케일링 영상으로부터 눈 영역 윈도우를 구성하고 신뢰도 값을 산출하는 방법을 나타낸 도면이다. 도4는 왼쪽 눈에 대한 예시만을 도시하였고 오른쪽 눈도 동일한 방식으로 왼쪽 눈 검출과 동시에 수행된다.4 is a diagram illustrating a method of constructing an eye region window and calculating a reliability value from an MCT-converted downscaling image by the
한편, 학습데이터 비교부(140)는 몇 개의 스테이지로 구성될 수 있다. 예를 들어 스테이지 1에서는 15x15 윈도우 내에서 22개의 픽셀을 선정하여 픽셀별 신뢰도 값을 룩업테이블을 통해 뽑아내고 이 신뢰도 값을 모두 더한 신뢰도 값이 일정한 기준값 이상인 경우 상기 입력된 영상이 눈 영상일 수 있다고 판단하여 다음 스테이지(예를 들어 스테이지2)로 진행하는 것이다. 그 후 모든 스테이지를 통과한 영상의 경우 각 스테이지에서 획득한 신뢰도 값의 합이 해당 영상 영역의 최종 신뢰도 값이 된다.On the other hand, the learning
본 발명에 따른 눈 후보영역 크기 변환부(120)는 도 2에서 제시한 방법에 따라 다수의 다운스케일링 영상을 생성한다. 이들 다운스케일링 영상들은 MCT 변환부(130)를 거쳐 MCT 비트열로 이루어진 영상으로 변형된다. 도 4에서 표현한 제1 다운스케일링 영상부터 제4 다운스케일링 영상까지는 모드 MCT 비트열로 변환된 영상이다. 도 4에 도시된 바와 같이, 모든 다운스케일링 영상은 스테이지 1부터 스테이지 3까지 병렬적으로 입력되게 된다. 각각의 스테이지들은 입력받은 하나의 클럭 주기(또는 소정의 클럭 주기) 동안 모든 다운스케일링 영상에 대해서 15x15윈도우가 위치한 영역이 눈 영역인지 아닌지를 판단할 수 있다. The eye candidate
결국 학습데이터 비교부(140)는 생성된 윈도우에 대해 정보량이 서로 다른 복수 개의 학습데이터 룩업 테이블을 이용하여 신뢰도값을 매칭하는 것을 특징으로 하되, 복수 개의 학습데이터 룩업 테이블을 각각 이용하여 신뢰도값 세트를 병렬적으로 생성할 수 있다.Eventually, the learning
눈 검출부(150)는 학습데이터 비교부(140)에서 얻어진 신뢰도 값을 이용하여 신뢰도 값이 특정한 값 이상인 경우 해당 윈도우의 MCT영상 내에서의 위치와 MCT영상의 전체 영상 내에서의 위치를 고려하여 전체 영상 내에서 눈의 영역을 검출하게 된다. 특히 윈도우가 입력된 MCT 영상을 이동하면서, 동일한 눈 영역이 중복되어 검출될 수 있다. 이와 같이 중복 검출된 눈 영역은 학습데이터에 따라 신뢰도 값이 가장 큰 영역을 최종 눈 영역으로 선정하는 것이 바람직하다.The
눈 검출부(150)는 복수 개의 학습데이터 룩업 테이블을 이용하여 생성된 신뢰도값 세트 각각에 대하여 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역을 최종 눈 영역으로 검출한다. 신뢰도값 세트는 하나의 학습데이터 룩업 테이블을 이용하여 생성된 각 픽셀에 대한 신뢰도값 데이터를 말한다.The
도 5는 본 발명에 따른 실시간 눈 검출 장치(100)가 입력 영상으로부터 눈 좌표를 검출한 결과를 나타낸 도면이다.5 is a diagram illustrating a result of detecting eye coordinates from an input image by the real-time
도 5의 스테이지 1에서 윈도우는 MCT 변환 영상을 따라서 좌에서 우로 위에서 아래로 이동한다. 윈도우가 이동하면서 윈도우 내의 특정 픽셀에 대해서 MCT 값에 따른 신뢰도를 가져온다. 신뢰도 데이터는 룩업테이블에 미리 저장되어 있다. 해당 윈도우 내의 픽셀들에 대한 신뢰도의 합이 현재 윈도우 위치에서의 신뢰도가 되고 이 신뢰도가 기준값 이상(또는 이하)과 같이 기준 조건을 만족하지 못하는 영상들은 얼굴 영역이 아닌 것으로 판단되어 더 이상의 스테이지 진행을 하지 않는다.In
스테이지 2에서는 스테이지 1보다 더 많은 정보를 가지고 있는 룩업 테이블을 이용하여 전달된 다운스케일링 영상의 신뢰도를 평가한다. 스테이지 2도 스테이지 1과 마찬가지로 신뢰도 값을 계산하여 이값이 기준값 또는 기준 조건에 따라 다음 스테이지로의 진행 여부를 결정한다. 기준값은 학습데이터를 이용하여 사전에 결정되거나, 시스템 또는 사용자의 설정에 따라 설정될 수 있다. Stage 2 evaluates the reliability of the downscaled image by using a lookup table with more information than
이후 모든 스테이지를 통과하게 되면 해당 윈도우 영역은 눈 영역으로 판단되게 된다. 본 발명에 따른 실시간 눈 인식 장치는 개별 스테이지를 순차적으로 수행하는 것이 아니라 동시에 수행하고 3개의 스테이지를 모두 통과한 영역을 눈 영역으로 판단한다. After passing through all stages, the window area is determined to be an eye area. The real-time eye recognition apparatus according to the present invention does not perform the individual stages sequentially, but simultaneously performs an operation and determines an area that passes all three stages as an eye region.
각 스테이지의 윈도우와 룩업테이블은 별도의 레지스터로 구성된다. 윈도우 내의 모든 픽셀들에 대해 순차적인 접근이 아닌 동시에 룩업테이블에서 신뢰도 값을 얻어올 수 있다. 따라서 기존 PC 의 소프트웨어 방식에 비해 메모리 접근 횟수를 줄여서 전체 신뢰도 값을 계산하는 시간을 단축시킬 수 있다. Each stage's window and lookup table consist of separate registers. Instead of a sequential approach to all the pixels in the window, the confidence value can be obtained from the lookup table. Therefore, compared to the software method of the conventional PC, the number of memory accesses can be reduced, thereby reducing the time for calculating the total reliability value.
도 5는 본 발명에 따른 실시간 눈 검출 장치(100)가 입력 영상으로부터 눈 좌표를 검출한 결과를 나타낸 도면이다. 도 5에서는 총 2명의 얼굴이 검출되어 각각의 얼굴에 대하여 왼쪽/오른쪽 눈을 검출하게 된다. 15x15 윈도우 크기로 촬영된 영상 중에서 눈으로 판단되는 영역은 다수가 존재할 수 있다. 예를 들어, ①번 얼굴에서 ⓐ번 눈을 포함하는 윈도우는 모두 눈으로 검출될 확률이 크다. 즉 ⓐ번 눈 근처에서 여러 개의 눈이 검출될 수 있다는 것이다. 이때 본 발명에 따른 눈 검출부(150)는 ⓐ번 눈 근처에서 검출된 눈 후보군들 중에서 눈 영역의 신뢰도 합이 가장 큰 윈도우를 최종 눈 영역으로 선택한다. 도 5의 검출결과에서는 검출된 눈 영역에서 중심점을 붉은 색 점으로 출력해주었다.
5 is a diagram illustrating a result of detecting eye coordinates from an input image by the real-time
이하 본 발명에 따른 실시간 눈 검출 방법에 대해 설명하고자 한다. 전술한 실시간 눈 검출 장치(100)와 중복되는 내용은 간략하게 언급하고자 한다. 도 6은 본 발명의 일 예에 따른 실시간 눈 검출 방법의 순서도이다.Hereinafter, a real-time eye detection method according to the present invention will be described. Details overlapping with the above-described real-time
본 발명에 따른 실시간 눈 검출 방법은 얼굴 영역이 포함된 영상에서 눈 후보 영역이 획득되는 S1 단계, S1 단계에서 획득된 눈후보 영역에 대해 복수 개의 다운스케일링 영상이 생성되는 S2 단계, S1 단계에서 획득한 눈 후보 영역 영상 및 S2 단계에서 생성된 각 영상에 대해 MCT 연산이 수행되는 S3 단계, S3 단계에서 MCT 연산이 수행된 각 영상에 대한 윈도우가 생성되고, 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 각 픽셀에 대한 신뢰도값이 매칭되는 S4 단계 및 S4 단계의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역이 최종 눈 영역으로 결정되는 S5 단계를 포함한다.The real-time eye detection method according to the present invention is obtained in steps S1 and S1 in which a plurality of downscaling images are generated for an eye candidate area acquired in step S1 and an eye candidate area acquired in step S1 in an image including a face area. A window for each image in which MCT operation is performed in step S3 and MCT operation is generated for each image generated in step S2 and an eye candidate region image, and for each pixel constituting the generated window Step S5 in which the confidence values of each pixel are matched using the training data lookup table, and in step S5, an eye candidate region whose sum of the reliability values of all the pixels constituting the window of step S4 is greater than or equal to the reference value is determined as the final eye region. It includes.
S1 단계는 오른쪽 또는 왼쪽 눈 후보영역 중 하나가 획득되면, 나머지 하나의 눈 후보영역은 획득한 영상을 좌우 대칭으로 회전시켜 획득할 수 있다.In operation S1, when one of the right or left eye candidate regions is acquired, the other eye candidate region may be obtained by rotating the acquired image in left and right symmetry.
물론 양쪽 눈 후보영역을 모두 각자 획득할 수도 있고, 이때 S1 단계는 얼굴 영역이 포함된 영상에서 오른쪽 및 왼쪽 눈 후보영역에 대한 영상 데이터를 동시에 병렬적으로 획득할 수도 있다.Of course, both eye candidate regions may be acquired respectively, and in this case, step S1 may simultaneously acquire image data for the right and left eye candidate regions in the image including the face region in parallel.
S2 단계는 S1 단계에서 획득된 눈 후보영상에 대한 다운스케일링 비율이 서로 다른 복수 개의 다운스케일링 영상이 동시에 병렬적으로 생성된다.In step S2, a plurality of downscaling images having different downscaling ratios for the eye candidate images acquired in step S1 are simultaneously generated in parallel.
S4 단계는 생성된 윈도우에 대해 정보량이 서로 다른 복수 개의 학습데이터 룩업 테이블을 이용하여 신뢰도값이 매칭되는 것을 특징으로 하되, 복수 개의 학습데이터 룩업 테이블을 각각 이용하여 신뢰도값 세트가 병렬적으로 생성된다.In step S4, the reliability values are matched using a plurality of learning data lookup tables having different amounts of information with respect to the generated window, but a set of reliability values is generated in parallel using each of the plurality of learning data lookup tables. .
S5 단계는 복수 개의 학습데이터 룩업 테이블을 이용하여 생성된 신뢰도값 세트 각각에 대하여 모든 픽셀의 신뢰도값을 가산한 값이 기준값 이상인 눈 후보영역이 최종 눈 영역으로 결정된다.In step S5, the eye candidate region in which a reliability value of all pixels is added to each of the reliability value sets generated by using the plurality of learning data lookup tables is determined as the final eye region.
본 실시예 및 본 명세서에 첨부된 도면은 본 발명에 포함되는 기술적 사상의 일부를 명확하게 나타내고 있는 것에 불과하며, 본 발명의 명세서 및 도면에 포함된 기술적 사상의 범위 내에서 당업자가 용이하게 유추할 수 있는 변형 예와 구체적인 실시예는 모두 본 발명의 권리범위에 포함되는 것이 자명하다고 할 것이다.The embodiments and drawings attached to this specification are merely to clearly show some of the technical ideas included in the present invention, and those skilled in the art can easily infer within the scope of the technical ideas included in the specification and drawings of the present invention. Modifications that can be made and specific embodiments will be apparent that all fall within the scope of the present invention.
100 : 실시간 눈 검출 장치 110 : 눈 후보영역 획득부
120 : 눈 후보영역 크기 변환부 130 : MCT 변환부
140 : 학습데이터 비교부 150 : 눈 검출부
160 : 메모리부100: real-time eye detection device 110: eye candidate region acquisition unit
120: eye candidate region size conversion unit 130: MCT conversion unit
140: learning data comparison unit 150: eye detection unit
160: memory unit
Claims (14)
얼굴 영역이 포함된 영상에서 눈 후보영역을 획득하는 눈 후보영역 획득부;
상기 눈 후보영역 획득부에서 획득한 눈 후보영역에 대한 복수 개의 다운스케일링 영상을 생성하는 눈 후보영역 크기 변환부;
상기 눈 후보영역 획득부에서 획득된 눈 후보영역의 영상 및 상기 눈 후보영역 크기 변환부에서 생성된 각 영상에 대해 MCT 연산을 수행하는 MCT 변환부;
상기 MCT 변환부에서 MCT 연산이 수행된 각 영상에 대한 윈도우를 생성하고, 상기 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 상기 각 픽셀에 대한 신뢰도값을 매칭하는 학습데이터 비교부; 및
상기 학습데이터 비교부의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역을 최종 눈 영역으로 검출하는 눈 검출부를 포함하는 것을 특징으로 하는 실시간 눈 검출 장치.In the device for detecting the eye in the image,
An eye candidate region obtaining unit obtaining an eye candidate region in an image including a face region;
An eye candidate region size converter configured to generate a plurality of downscaling images of the eye candidate region acquired by the eye candidate region obtaining unit;
An MCT conversion unit performing an MCT operation on an image of an eye candidate region obtained by the eye candidate region obtaining unit and each image generated by the eye candidate region size converting unit;
The MCT converter generates a window for each image on which the MCT operation has been performed, and compares learning data that matches a reliability value for each pixel using a learning data lookup table for each pixel constituting the generated window. part; And
And an eye detector configured to detect an eye candidate region having a sum of reliability values of all pixels constituting the window of the training data comparison unit as a final eye region as a final eye region.
입력된 영상이 프레임 단위로 저장되는 메모리부를 더 포함하되, 상기 메모리부는 상기 눈 후보영역 크기 변환부에서 생성되는 복수 개의 다운스케일링 영상도 저장되는 것을 특징으로 하는 실시간 눈 검출 장치.The method of claim 1,
And a memory unit configured to store the input image in units of frames, wherein the memory unit also stores a plurality of downscaling images generated by the eye candidate region size converter.
상기 눈 후보영역 획득부는
오른쪽 또는 왼쪽 눈 후보영역 중 하나를 획득하면, 나머지 하나의 눈 후보영역은 상기 획득한 영상을 좌우 대칭으로 회전시켜 획득하는 것을 특징으로 하는 실시간 눈 검출 장치.The method of claim 1,
The eye candidate region obtaining unit
And when one of the right or left eye candidate areas is acquired, the other eye candidate area is obtained by rotating the acquired image left and right symmetrically.
상기 오른쪽 또는 왼쪽 눈 후보영역 중 하나에 대해서만
상기 눈 후보영역 크기 변환부가 다운스케일링을 수행하고, 상기 MCT 변환부가 MCT 연산을 수행하고, 상기 학습데이터 비교부에서 신뢰도값을 매칭하고, 상기 눈 검출부에서 최종 눈 영역으로 검출하는 것을 특징으로 하는 실시간 눈 검출 장치.The method of claim 3,
Only for one of the right or left eye candidate regions
The eye candidate region size converter performs downscaling, the MCT transformer performs an MCT operation, matches the confidence value in the training data comparison unit, and detects the final eye region in the eye detector. Eye detection device.
상기 눈 후보영역 획득부는
상기 메모리부에 저장된 영상에서 오른쪽 및 왼쪽 눈 후보영역에 대한 영상 데이터를 동시에 병렬적으로 획득하는 것을 특징으로 하는 실시간 눈 검출 장치.The method of claim 2,
The eye candidate region obtaining unit
And image data for the right and left eye candidate regions are simultaneously obtained in parallel from the image stored in the memory unit.
상기 눈 후보영역 크기 변환부는
상기 눈 후보영역 획득부에서 눈 후보영상을 획득하면, 획득한 눈 후보영상에 대한 다운스케일링 비율이 서로 다른 복수 개의 다운스케일링 영상을 동시에 병렬적으로 생성하는 것을 특징으로 하는 실시간 눈 검출 장치.The method of claim 1,
The eye candidate region size converter
And when the eye candidate region acquisition unit acquires the eye candidate image, simultaneously generating a plurality of downscaling images having different downscaling ratios for the acquired eye candidate images in parallel.
상기 학습데이터 비교부는
생성된 윈도우에 대해 정보량이 서로 다른 복수 개의 학습데이터 룩업 테이블을 이용하여 신뢰도값을 매칭하는 것을 특징으로 하되, 복수 개의 학습데이터 룩업 테이블을 각각 이용하여 신뢰도값 세트를 병렬적으로 생성하는 것을 특징으로 하는 실시간 눈 검출 장치.7. The method according to claim 1 or 6,
The learning data comparison unit
Characteristic values are matched using a plurality of learning data lookup tables having different amounts of information with respect to the generated window, and a set of reliability values is generated in parallel using a plurality of learning data lookup tables, respectively. Real-time eye detection device.
상기 눈 검출부는
상기 복수 개의 학습데이터 룩업 테이블을 이용하여 생성된 신뢰도값 세트 각각에 대하여 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역을 최종 눈 영역으로 검출하는 것을 특징으로 하는 실시간 눈 검출 장치.The method of claim 7, wherein
The eye detection unit
And an eye candidate region in which a sum of reliability values of all pixels is equal to or greater than a reference value for each of the reliability value sets generated by using the plurality of learning data lookup tables is detected as the final eye region.
얼굴 영역이 포함된 영상에서 눈 후보 영역이 획득되는 S1 단계;
상기 S1 단계에서 획득된 눈후보 영역에 대해 복수 개의 다운스케일링 영상이 생성되는 S2 단계;
상기 S1 단계에서 획득한 눈 후보 영역 영상 및 S2 단계에서 생성된 각 영상에 대해 MCT 연산이 수행되는 S3 단계;
상기 S3 단계에서 MCT 연산이 수행된 각 영상에 대한 윈도우가 생성되고, 상기 생성된 윈도우를 구성하는 각 픽셀에 대하여 학습데이터 룩업 테이블을 이용하여 상기 각 픽셀에 대한 신뢰도값이 매칭되는 S4 단계; 및
상기 S4 단계의 윈도우를 구성하는 모든 픽셀의 신뢰도값을 합산한 값이 기준값 이상인 눈 후보영역이 최종 눈 영역으로 결정되는 S5 단계를 포함하는 것을 특징으로 하는 실시간 눈 검출 방법.In the method for detecting the eye in the image,
Step S1 of acquiring an eye candidate region from an image including a face region;
Step S2 of generating a plurality of downscaling images with respect to the eye candidate area acquired in step S1;
An SCT step of performing an MCT operation on the eye candidate region image acquired in the step S1 and each image generated in the step S2;
Step S4 of generating a window for each image on which the MCT operation is performed in step S3, and matching a reliability value with respect to each pixel using a learning data lookup table for each pixel constituting the generated window; And
And a step S5 in which an eye candidate region having a sum of reliability values of all pixels constituting the window of step S4 equal to or greater than a reference value is determined as the final eye region.
상기 S1 단계는
오른쪽 또는 왼쪽 눈 후보영역 중 하나가 획득되면, 나머지 하나의 눈 후보영역은 상기 획득한 영상을 좌우 대칭으로 회전시켜 획득되는 것을 특징으로 하는 실시간 눈 검출 방법.10. The method of claim 9,
The step S1
And when one of the right or left eye candidate areas is acquired, the other eye candidate area is obtained by rotating the acquired image in left and right symmetry.
상기 S1 단계는
상기 얼굴 영역이 포함된 영상에서 오른쪽 및 왼쪽 눈 후보영역에 대한 영상 데이터를 동시에 병렬적으로 획득하는 것을 특징으로 하는 실시간 눈 검출 방법.10. The method of claim 9,
The step S1
Real-time eye detection method, characterized in that to acquire the image data for the right and left eye candidate region in parallel in the image including the face region.
상기 S2 단계는
상기 S1 단계에서 획득된 눈 후보영상에 대한 다운스케일링 비율이 서로 다른 복수 개의 다운스케일링 영상이 동시에 병렬적으로 생성되는 것을 특징으로 하는 실시간 눈 검출 방법.10. The method of claim 9,
The step S2
And a plurality of downscaling images having different downscaling ratios for the eye candidate images acquired in step S1 are generated in parallel at the same time.
상기 S4 단계는
생성된 윈도우에 대해 정보량이 서로 다른 복수 개의 학습데이터 룩업 테이블을 이용하여 신뢰도값이 매칭되는 것을 특징으로 하되, 복수 개의 학습데이터 룩업 테이블을 각각 이용하여 신뢰도값 세트가 병렬적으로 생성되는 것을 특징으로 하는 실시간 눈 검출 방법.The method according to claim 9 or 12,
The step S4
Reliability values are matched using a plurality of learning data lookup tables having different amounts of information with respect to the generated window. A reliability value set is generated in parallel using a plurality of learning data lookup tables, respectively. Real time eye detection method.
상기 S5 단계는
상기 복수 개의 학습데이터 룩업 테이블을 이용하여 생성된 신뢰도값 세트 각각에 대하여 모든 픽셀의 신뢰도값을 가산한 값이 기준값 이상인 눈 후보영역이 최종 눈 영역으로 결정되는 것을 특징으로 하는 실시간 눈 검출 방법.
The method of claim 13,
The step S5
And an eye candidate region in which a reliability value of all pixels is added to each of a set of reliability values generated using the plurality of learning data lookup tables is determined as a final eye region.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110030955A KR101211872B1 (en) | 2011-04-05 | 2011-04-05 | Apparatus and method for realtime eye detection |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020110030955A KR101211872B1 (en) | 2011-04-05 | 2011-04-05 | Apparatus and method for realtime eye detection |
Publications (2)
Publication Number | Publication Date |
---|---|
KR20120113317A KR20120113317A (en) | 2012-10-15 |
KR101211872B1 true KR101211872B1 (en) | 2012-12-13 |
Family
ID=47282885
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
KR1020110030955A KR101211872B1 (en) | 2011-04-05 | 2011-04-05 | Apparatus and method for realtime eye detection |
Country Status (1)
Country | Link |
---|---|
KR (1) | KR101211872B1 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021002556A1 (en) * | 2019-07-01 | 2021-01-07 | 계명대학교 산학협력단 | Method and device for detecting, in real time, pupil position for low specification environment system |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101681233B1 (en) * | 2014-05-28 | 2016-12-12 | 한국과학기술원 | Method and apparatus for detecting face with low energy or low resolution |
CN111382714B (en) * | 2020-03-13 | 2023-02-17 | Oppo广东移动通信有限公司 | Image detection method, device, terminal and storage medium |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006048328A (en) | 2004-08-04 | 2006-02-16 | Konica Minolta Holdings Inc | Apparatus and method for detecting face |
KR100664956B1 (en) | 2004-11-24 | 2007-01-04 | 삼성전자주식회사 | Method and apparatus for eye detection |
KR100828183B1 (en) | 2006-07-03 | 2008-05-08 | 한국과학기술원 | eye detector and detecting method using the Adaboost and SVM classifier |
-
2011
- 2011-04-05 KR KR1020110030955A patent/KR101211872B1/en active IP Right Grant
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006048328A (en) | 2004-08-04 | 2006-02-16 | Konica Minolta Holdings Inc | Apparatus and method for detecting face |
KR100664956B1 (en) | 2004-11-24 | 2007-01-04 | 삼성전자주식회사 | Method and apparatus for eye detection |
KR100828183B1 (en) | 2006-07-03 | 2008-05-08 | 한국과학기술원 | eye detector and detecting method using the Adaboost and SVM classifier |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2021002556A1 (en) * | 2019-07-01 | 2021-01-07 | 계명대학교 산학협력단 | Method and device for detecting, in real time, pupil position for low specification environment system |
Also Published As
Publication number | Publication date |
---|---|
KR20120113317A (en) | 2012-10-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104573625B (en) | Data processing system and its generating device and type of face detection method | |
US10373244B2 (en) | System and method for virtual clothes fitting based on video augmented reality in mobile phone | |
CN109919977B (en) | Video motion person tracking and identity recognition method based on time characteristics | |
CN104350509B (en) | Quick attitude detector | |
KR101033098B1 (en) | Apparatus for Realtime Face Detection | |
US10395094B2 (en) | Method and apparatus for detecting glasses in a face image | |
CN106951346B (en) | Response time testing method and device | |
Sharma et al. | A static hand gesture and face recognition system for blind people | |
RU2016107189A (en) | DEVICES, SYSTEMS AND METHODS OF VIRTUALIZATION OF THE MIRROR | |
US20130258198A1 (en) | Video search system and method | |
EP3241151A1 (en) | An image face processing method and apparatus | |
Lai et al. | Proposed FPGA hardware architecture for high frame rate (≫ 100 fps) face detection using feature cascade classifiers | |
US11074713B2 (en) | Recognition device, recognition system, recognition method, and non-transitory computer readable recording medium | |
WO2016045711A1 (en) | A face pose rectification method and apparatus | |
KR101303877B1 (en) | Method and apparatus for serving prefer color conversion of skin color applying face detection and skin area detection | |
US11062126B1 (en) | Human face detection method | |
CN109508581A (en) | Biological information analytical equipment and its blush analysis method | |
Sawant | Sign language recognition system to aid deaf-dumb people using PCA | |
KR101211872B1 (en) | Apparatus and method for realtime eye detection | |
Neto et al. | Real-time head pose estimation for mobile devices | |
CN106372652A (en) | Hair style identification method and hair style identification apparatus | |
JPWO2020137536A1 (en) | Person authentication device, control method, and program | |
CN113569594B (en) | Method and device for labeling key points of human face | |
KR101484003B1 (en) | Evaluating system for face analysis | |
KR101391667B1 (en) | A model learning and recognition method for object category recognition robust to scale changes |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A201 | Request for examination | ||
E902 | Notification of reason for refusal | ||
E701 | Decision to grant or registration of patent right | ||
GRNT | Written decision to grant | ||
FPAY | Annual fee payment |
Payment date: 20151118 Year of fee payment: 4 |
|
FPAY | Annual fee payment |
Payment date: 20180323 Year of fee payment: 6 |
|
FPAY | Annual fee payment |
Payment date: 20190108 Year of fee payment: 7 |
|
R401 | Registration of restoration |