KR102390836B1 - 이미지 데이터를 생성하는 전자 장치 및 방법 - Google Patents
이미지 데이터를 생성하는 전자 장치 및 방법 Download PDFInfo
- Publication number
- KR102390836B1 KR102390836B1 KR1020150139712A KR20150139712A KR102390836B1 KR 102390836 B1 KR102390836 B1 KR 102390836B1 KR 1020150139712 A KR1020150139712 A KR 1020150139712A KR 20150139712 A KR20150139712 A KR 20150139712A KR 102390836 B1 KR102390836 B1 KR 102390836B1
- Authority
- KR
- South Korea
- Prior art keywords
- pixel
- sub
- mode
- image
- pixels
- Prior art date
Links
- 238000000034 method Methods 0.000 title claims abstract description 77
- 230000003287 optical effect Effects 0.000 claims abstract description 50
- 238000012935 Averaging Methods 0.000 claims description 32
- 230000004044 response Effects 0.000 claims description 14
- 238000004364 calculation method Methods 0.000 claims description 10
- 238000010586 diagram Methods 0.000 description 40
- 230000008569 process Effects 0.000 description 36
- 230000006870 function Effects 0.000 description 35
- 230000015654 memory Effects 0.000 description 33
- 238000012545 processing Methods 0.000 description 33
- 238000004891 communication Methods 0.000 description 25
- 238000009792 diffusion process Methods 0.000 description 12
- 238000007667 floating Methods 0.000 description 12
- 238000007726 management method Methods 0.000 description 10
- 238000012546 transfer Methods 0.000 description 10
- 230000001413 cellular effect Effects 0.000 description 8
- 230000014509 gene expression Effects 0.000 description 7
- 238000005516 engineering process Methods 0.000 description 4
- 230000036541 health Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 3
- 238000011161 development Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 230000003321 amplification Effects 0.000 description 2
- 239000008280 blood Substances 0.000 description 2
- 210000004369 blood Anatomy 0.000 description 2
- 239000003990 capacitor Substances 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 238000002591 computed tomography Methods 0.000 description 2
- 238000007405 data analysis Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000005611 electricity Effects 0.000 description 2
- 238000002567 electromyography Methods 0.000 description 2
- 238000003199 nucleic acid amplification method Methods 0.000 description 2
- 238000012805 post-processing Methods 0.000 description 2
- 230000003595 spectral effect Effects 0.000 description 2
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 2
- WQZGKKKJIJFFOK-GASJEMHNSA-N Glucose Natural products OC[C@H]1OC(O)[C@H](O)[C@@H](O)[C@@H]1O WQZGKKKJIJFFOK-GASJEMHNSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 238000002583 angiography Methods 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013473 artificial intelligence Methods 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 230000036772 blood pressure Effects 0.000 description 1
- 230000036760 body temperature Effects 0.000 description 1
- 230000010267 cellular communication Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- -1 electricity Substances 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 239000004744 fabric Substances 0.000 description 1
- 239000000446 fuel Substances 0.000 description 1
- 239000008103 glucose Substances 0.000 description 1
- 230000006698 induction Effects 0.000 description 1
- 239000004615 ingredient Substances 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000002595 magnetic resonance imaging Methods 0.000 description 1
- 238000001646 magnetic resonance method Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000010295 mobile communication Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 239000000779 smoke Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000006641 stabilisation Effects 0.000 description 1
- 238000011105 stabilization Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001360 synchronised effect Effects 0.000 description 1
- 238000002604 ultrasonography Methods 0.000 description 1
- 238000005406 washing Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Images
Classifications
-
- H04N5/335—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
- H04N23/672—Focus control based on electronic image sensor signals based on the phase difference signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/75—Circuitry for providing, modifying or processing image signals from the pixel array
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/667—Camera operation mode switching, e.g. between still and video, sport and normal or high- and low-resolution modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/702—SSIS architectures characterised by non-identical, non-equidistant or non-planar pixel layout
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/703—SSIS architectures incorporating pixels for producing signals other than image signals
- H04N25/704—Pixels specially adapted for focusing, e.g. phase difference pixel sets
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/71—Charge-coupled device [CCD] sensors; Charge-transfer registers specially adapted for CCD sensors
- H04N25/745—Circuitry for generating timing or clock signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/70—SSIS architectures; Circuits associated therewith
- H04N25/76—Addressed sensors, e.g. MOS or CMOS sensors
- H04N25/77—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
- H04N25/778—Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
-
- H04N5/232—
-
- H04N5/23245—
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/65—Control of camera operation in relation to power supply
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- User Interface Of Digital Computer (AREA)
- Telephone Function (AREA)
- Controls And Circuits For Display Device (AREA)
- Studio Devices (AREA)
Abstract
다양한 실시예들에 따르면, 객체에 대응하는 광 신호를 획득하기 위한 이미지 센서와, 상기 이미지 센서를 제어하기 위한 제어부를 포함하는 전자 장치에서, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하는 동작과, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하는 동작과, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하는 동작과, 및 상기 이미지 데이터에 적어도 기반하여, 상기 객체에 대응하는 상기 이미지를 상기 전자 장치와 기능적으로 연결된 디스플레이를 통하여 표시하는 동작을 포함할 수 있다.
Description
본 발명의 다양한 실시 예들은 전자 장치에서의 이미지 데이터를 생성하는 장치 및 방법에 관한 것이다.
전자 장치에서 제공하는 다양한 서비스 및 부가 기능들은 점차 확대되고 있다. 전자 장치의 효용 가치를 높이고 사용자들의 다양한 욕구를 만족시키기 위해서 전자 장치에서 실행 가능한 다양한 애플리케이션들이 개발되고 있다.
전자 장치는, 예를 들면, 전자 장치에 장착된 카메라를 이용하여 객체를 촬영할 수 있고, 카메라는 객체를 감지하는 이미지 센서를 포함할 수 있다. 전자 장치, 예를 들면, 상기 이미지 센서를 통해서 객체 또는 이미지를 감지할 수 있다. 이미지 센서는, 예를 들면, 복수의 픽셀 단위로 구성될 수 있고, 각각의 픽셀 단위는, 예를 들면, 복수의 서브 픽셀들로 구성될 수 있다. 그리고, 이미지 센서는, 예를 들면, 픽셀들(pixels) 또는 포토 사이트들(photosites)로 불리는 작은 포토 다이오드들(photodiodes)의 어레이(array)로 구성될 수 있다. 픽셀은, 예를 들면, 빛으로부터 색상을 추출하지 않으며, 넓은 스펙트럼 밴드의 광자(photon)를 전자(electron)로 변환할 수 있다. 따라서, 이미지 센서의 픽셀은, 예를 들면, 넓은 스펙트럼 밴드의 빛 중 색상 획득에 필요한 밴드의 빛만을 입력 받을 수 있다.
전자 장치에 기능적으로 연결된 이미지 센서는 전체 서브 픽셀들의 신호를 출력한 후, 위상 차 정보와 이미지 데이터를 분리하기 때문에, 이미지 센서의 최대 출력을 효과적으로 제공하는 데에 어려움이 발생할 수 있다. 예를 들면, 모든 서브 픽셀들로부터 출력되는 신호를 처리함으로써 소비 전력이 증가될 수 있다.
다양한 실시예들은, 예를 들면, 이미지 데이터를 생성하는데 있어서, 복수 개의 서브 픽셀들로 구성된 이미지 픽셀 어레이로 구성된 이미지 센서에서 이미지 데이터를 생성하는 방법과 위상 차이를 계산하기 위한 정보를 생성하는 방법을 제공할 수 있다.
전술한 과제 또는 다른 과제를 해결하기 위한 한 실시 예에 따른 객체에 대응하는 광 신호를 획득하기 위한 이미지 센서와, 상기 이미지 센서를 제어하기 위한 적어도 하나의 프로세서를 포함하는 전자 장치의 방법은, 상기 적어도 하나의 프로세서에 의해, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하는 동작, 상기 적어도 하나의 프로세서에 의해, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하는 동작, 상기 적어도 하나의 프로세서에 의해, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하는 동작, 적어도 두 개의 위상차 계산의 유형들 중에서 상기 픽셀 데이터에 이용되는 위상차 계산의 유형은 상기 모드를 기반하여 확인되며, 및 상기 적어도 하나의 프로세서에 의해, 상기 이미지 데이터에 적어도 기반하여, 상기 객체에 대응하는 상기 이미지를 상기 전자 장치의 디스플레이를 통하여 표시하는 동작을 포함할 수 있다.
한 실시예에 따른 전자 장치는, 디스플레이, 객체에 대응하는 광 신호를 획득하기 위한 이미지 센서 및 상기 디스플레이 및 상기 이미지 센서와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하고, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하고, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하고, 적어도 두 개의 위상차 계산의 유형들 중에서 상기 픽셀 데이터에 이용되는 위상차 계산의 유형은 상기 모드를 기반하여 확인되며, 상기 이미지 데이터에 적어도 기반하여 상기 객체에 대응하는 상기 이미지를 상기 디스플레이를 통하여 표시하도록 설정될 수 있다.
한 실시예에 따른 전자 장치는, 객체에 대응하는 광 신호를 획득하는 이미지 센서, 상기 이미지 센서는 복수 개의 단위 픽셀들을 포함하고, 상기 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀은 제 1 서브 픽셀 및 제 2 서브 픽셀을 포함하고, 및 상기 이미지 센서와 기능적으로 연결된 적어도 하나의 프로세서를 포함하고, 상기 적어도 하나의 프로세서는, 상기 이미지 센서를 이용하여, 상기 광 신호에 적어도 기반하여 상기 객체에 대응하는 픽셀 데이터를 획득하고, 상기 객체에 대응하는 이미지의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 확인하고, 상기 세팅을 기반하여 상기 이미지에 대한 위상 차이를 결정하기 위한 모드를 식별한 것에 응답하여, 적어도 두 개의 위상차 계산의 유형들 중 하나에 기반하여, 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 이미지에 대한 상기 위상 차이를 결정하고, 및 상기 세팅을 기반하여 상기 위상 차이를 결정하지 않는 모드를 식별한 것에 응답하여, 상기 위상 차이를 결정하는 동작을 삼가도록 설정될 수 있다.
다양한 실시예들에 따른 전자 장치 및 방법은, 예를 들면, 사용자의 사용 모드에 맞게 서브 픽셀 또는 픽셀 단위로 이미지 데이터를 출력함으로써 효과적으로 이미지 센서를 사용 할 수 있다. 또한, 하나의 픽셀 내에 적어도 두 개의 서브 픽셀(예: 포토 다이오드)을 포함하는 이미지 센서가 구비된 전자 장치는 고속 프레임 레이트 또는 저전력으로 이미지 데이터를 출력할 수 있어, 사용자 개인이 원하는 정보 및/또는 기능을 수행하고 전자 장치를 활용성을 향상시킬 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 일 실시예에 따른 이미지 데이터를 출력하는 전자 장치(예: 전자 장치(101))를 도시한 예시도이다.
도 5는 본 발명의 일 실시예에 따른 이미지 센서의 픽셀 어레이의 구성도의 예시도이다.
도 6a는 본 발명의 일 실시 예에 따른 이미지 센서에서 두 개의 포토 다이오드를 갖는 단위 픽셀의 개략도이다.
도 6b는 본 발명의 일 실시 예에 따른 이미지 센서에서 네 개의 포토 다이오드를 갖는 단위 픽셀의 개략도이다.
도 6c는 본 발명의 일 실시 예에 따른 두 개의 포토 다이오드를 갖는 단위 픽셀의 구조를 나타낸 예시도이다.
도 6d는 본 발명의 일 실시 예에 따른 이미지 센서에서 두 개의 포토 다이오드를 갖는 단위 픽셀의 회로도이다.
도 6e는 본 발명의 일 실시 예에 따른 단위 픽셀에서 스위치들 각각의 타임 차트를 나타낸 예시도이다.
도 7은 본 발명의 일 실시 예에 따른 이미지 데이터를 생성하는 동작을 나타낸 순서도이다.
도 8a는 본 발명의 일 실시 예에 따른 이미지 센서의 단위 픽셀이 두 개의 서브 픽셀들을 포함한 예시도이다.
도 8b는 본 발명의 일 실시 예에 따른 이미지 센서의 단위 픽셀이 네 개의 서브 픽셀들을 포함한 예시도이다.
도 9는 본 발명의 일 실시 예에 따른 이미지 데이터를 제1 모드로 출력하는 과정을 나타낸 예시도이다.
도 10은 본 발명의 일 실시 예에 따른 이미지 데이터를 제2 모드로 출력하는 과정을 나타낸 예시도이다.
도 11a는 본 발명의 일 실시 예에 따른 이미지 데이터를 제3 모드로 출력하는 과정을 나타낸 예시도이다.
도 11b는 본 발명의 일 실시 예에 따른 이미지 데이터를 제 4 모드로 출력하는 과정을 나타낸 예시도이다.
도 12는 본 발명의 실시 예에 따른 제4 모드에서 서브 픽셀 레벨의 신호를 선택적으로 합하는 과정을 나타낸 예시도이다.
도 13a는 본 발명의 실시 예에 따라 생성된 이미지 데이터 및/또는 위상 차이를 계산하기 위한 정보를 전송하는 채널의 예시도이다.
도 13b는 본 발명의 실시 예에 따른 지정된 채널을 통해 이미지 데이터와 위상 차이를 계산하기 위한 정보를 전송하는 예시도이다.
도 13c는 본 발명의 실시 예에 따른 지정된 채널을 통해 이미지 데이터와 위상 차이를 계산하기 위한 정보를 전송하는 예시도이다.
도 14는 본 발명의 일 실시 예에 따른 이미지를 생성하는 동작을 나타낸 순서도이다.
도 15는 본 발명의 다른 실시 예에 따른 이미지 데이터를 생성하는 동작을 나타낸 순서도이다.
도 2는 다양한 실시예에 따른 전자 장치의 블록도이다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다.
도 4는 본 발명의 일 실시예에 따른 이미지 데이터를 출력하는 전자 장치(예: 전자 장치(101))를 도시한 예시도이다.
도 5는 본 발명의 일 실시예에 따른 이미지 센서의 픽셀 어레이의 구성도의 예시도이다.
도 6a는 본 발명의 일 실시 예에 따른 이미지 센서에서 두 개의 포토 다이오드를 갖는 단위 픽셀의 개략도이다.
도 6b는 본 발명의 일 실시 예에 따른 이미지 센서에서 네 개의 포토 다이오드를 갖는 단위 픽셀의 개략도이다.
도 6c는 본 발명의 일 실시 예에 따른 두 개의 포토 다이오드를 갖는 단위 픽셀의 구조를 나타낸 예시도이다.
도 6d는 본 발명의 일 실시 예에 따른 이미지 센서에서 두 개의 포토 다이오드를 갖는 단위 픽셀의 회로도이다.
도 6e는 본 발명의 일 실시 예에 따른 단위 픽셀에서 스위치들 각각의 타임 차트를 나타낸 예시도이다.
도 7은 본 발명의 일 실시 예에 따른 이미지 데이터를 생성하는 동작을 나타낸 순서도이다.
도 8a는 본 발명의 일 실시 예에 따른 이미지 센서의 단위 픽셀이 두 개의 서브 픽셀들을 포함한 예시도이다.
도 8b는 본 발명의 일 실시 예에 따른 이미지 센서의 단위 픽셀이 네 개의 서브 픽셀들을 포함한 예시도이다.
도 9는 본 발명의 일 실시 예에 따른 이미지 데이터를 제1 모드로 출력하는 과정을 나타낸 예시도이다.
도 10은 본 발명의 일 실시 예에 따른 이미지 데이터를 제2 모드로 출력하는 과정을 나타낸 예시도이다.
도 11a는 본 발명의 일 실시 예에 따른 이미지 데이터를 제3 모드로 출력하는 과정을 나타낸 예시도이다.
도 11b는 본 발명의 일 실시 예에 따른 이미지 데이터를 제 4 모드로 출력하는 과정을 나타낸 예시도이다.
도 12는 본 발명의 실시 예에 따른 제4 모드에서 서브 픽셀 레벨의 신호를 선택적으로 합하는 과정을 나타낸 예시도이다.
도 13a는 본 발명의 실시 예에 따라 생성된 이미지 데이터 및/또는 위상 차이를 계산하기 위한 정보를 전송하는 채널의 예시도이다.
도 13b는 본 발명의 실시 예에 따른 지정된 채널을 통해 이미지 데이터와 위상 차이를 계산하기 위한 정보를 전송하는 예시도이다.
도 13c는 본 발명의 실시 예에 따른 지정된 채널을 통해 이미지 데이터와 위상 차이를 계산하기 위한 정보를 전송하는 예시도이다.
도 14는 본 발명의 일 실시 예에 따른 이미지를 생성하는 동작을 나타낸 순서도이다.
도 15는 본 발명의 다른 실시 예에 따른 이미지 데이터를 생성하는 동작을 나타낸 순서도이다.
이하, 본 문서의 다양한 실시예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 문서에 기재된 기술을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 문서의 실시예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다.
본 문서에서, "가진다," "가질 수 있다," "포함한다," 또는 "포함할 수 있다" 등의 표현은 해당 특징(예: 수치, 기능, 동작, 또는 부품 등의 구성요소)의 존재를 가리키며, 추가적인 특징의 존재를 배제하지 않는다.
본 문서에서, "A 또는 B," "A 또는/및 B 중 적어도 하나," 또는 "A 또는/및 B 중 하나 또는 그 이상"등의 표현은 함께 나열된 항목들의 모든 가능한 조합을 포함할 수 있다. 예를 들면, "A 또는 B," "A 및 B 중 적어도 하나," 또는 "A 또는 B 중 적어도 하나"는, (1) 적어도 하나의 A를 포함, (2) 적어도 하나의 B를 포함, 또는 (3) 적어도 하나의 A 및 적어도 하나의 B 모두를 포함하는 경우를 모두 지칭할 수 있다.
본 문서에서 사용된 "제 1," "제 2," "첫째," 또는 "둘째,"등의 표현들은 다양한 구성요소들을, 순서 및/또는 중요도에 상관없이 수식할 수 있고, 한 구성요소를 다른 구성요소와 구분하기 위해 사용될 뿐 해당 구성요소들을 한정하지 않는다. 예를 들면, 제 1 사용자 기기와 제 2 사용자 기기는, 순서 또는 중요도와 무관하게, 서로 다른 사용자 기기를 나타낼 수 있다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제 1 구성요소는 제 2 구성요소로 명명될 수 있고, 유사하게 제 2 구성요소도 제 1 구성요소로 바꾸어 명명될 수 있다.
어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "(기능적으로 또는 통신적으로) 연결되어((operatively or communicatively) coupled with/to)" 있다거나 "접속되어(connected to)" 있다고 언급된 때에는, 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로 연결되거나, 다른 구성요소(예: 제 3 구성요소)를 통하여 연결될 수 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소(예: 제 1 구성요소)가 다른 구성요소(예: 제 2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 상기 어떤 구성요소와 상기 다른 구성요소 사이에 다른 구성요소(예: 제 3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 문서에서 사용된 표현 "~하도록 구성된(또는 설정된)(configured to)"은 상황에 따라, 예를 들면, "~에 적합한(suitable for)," "~하는 능력을 가지는(having the capacity to)," "~하도록 설계된(designed to)," "~하도록 변경된(adapted to)," "~하도록 만들어진(made to)," 또는 "~를 할 수 있는(capable of)"과 바꾸어 사용될 수 있다. 용어 "~하도록 구성된(또는 설정된)"은 하드웨어적으로 "특별히 설계된(specifically designed to)" 것만을 반드시 의미하지 않을 수 있다. 대신, 어떤 상황에서는, "~하도록 구성된 장치"라는 표현은, 그 장치가 다른 장치 또는 부품들과 함께 "~할 수 있는" 것을 의미할 수 있다. 예를 들면, 문구 "A, B, 및 C를 수행하도록 구성된(또는 설정된) 프로세서"는 해당 동작을 수행하기 위한 전용 프로세서(예: 임베디드 프로세서), 또는 메모리 장치에 저장된 하나 이상의 소프트웨어 프로그램들을 실행함으로써, 해당 동작들을 수행할 수 있는 범용 프로세서(generic-purpose processor)(예: CPU 또는 application processor)를 의미할 수 있다.
본 문서에서 사용된 용어들은 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 다른 실시예의 범위를 한정하려는 의도가 아닐 수 있다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함할 수 있다. 기술적이거나 과학적인 용어를 포함해서 여기서 사용되는 용어들은 본 문서에 기재된 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 문서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 문서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 문서에서 정의된 용어일지라도 본 문서의 실시예들을 배제하도록 해석될 수 없다.
본 문서의 다양한 실시예들에 따른 전자 장치는, 예를 들면, 스마트폰(smartphone), 태블릿 PC(tablet personal computer), 이동 전화기(mobile phone), 영상 전화기, 전자책 리더기(e-book reader), 데스크탑 PC(desktop personal computer), 랩탑 PC(laptop personal computer), 넷북 컴퓨터(netbook computer), 워크스테이션(workstation), 서버, PDA(personal digital assistant), PMP(portable multimedia player), MP3 플레이어, 모바일 의료기기, 카메라(camera), 또는 웨어러블 장치(wearable device) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에 따르면, 웨어러블 장치는 액세서리형(예: 시계, 반지, 팔찌, 발찌, 목걸이, 안경, 콘택트 렌즈, 또는 머리 착용형 장치(head-mounted-device(HMD)), 직물 또는 의류 일체형(예: 전자 의복), 신체 부착형(예: 스킨 패드(skin pad) 또는 문신), 또는 생체 이식형(예: implantable circuit) 중 적어도 하나를 포함할 수 있다.
어떤 실시예들에서, 전자 장치는 가전 제품(home appliance)일 수 있다. 가전 제품은, 예를 들면, 텔레비전, DVD(digital video disk) 플레이어, 오디오, 냉장고, 에어컨, 청소기, 오븐, 전자레인지, 세탁기, 공기 청정기, 셋톱 박스(set-top box), 홈 오토매이션 컨트롤 패널(home automation control panel), 보안 컨트롤 패널(security control panel), TV 박스(예: 삼성 HomeSyncTM, 애플TVTM, 또는 구글 TVTM), 게임 콘솔(예: XboxTM, PlayStationTM), 전자 사전, 전자 키, 캠코더(camcorder), 또는 전자 액자 중 적어도 하나를 포함할 수 있다.
다른 실시예에서, 전자 장치는, 각종 의료기기(예: 각종 휴대용 의료측정기기(혈당 측정기, 심박 측정기, 혈압 측정기, 또는 체온 측정기 등), MRA(magnetic resonance angiography), MRI(magnetic resonance imaging), CT(computed tomography), 촬영기, 또는 초음파기 등), 네비게이션(navigation) 장치, 위성 항법 시스템(GNSS(global navigation satellite system)), EDR(event data recorder), FDR(flight data recorder), 자동차 인포테인먼트(infotainment) 장치, 선박용 전자 장비(예: 선박용 항법 장치, 자이로 콤파스 등), 항공 전자기기(avionics), 보안 기기, 차량용 헤드 유닛(head unit), 산업용 또는 가정용 로봇, 금융 기관의 ATM(automatic teller's machine), 상점의 POS(point of sales), 또는 사물 인터넷 장치(internet of things)(예: 전구, 각종 센서, 전기 또는 가스 미터기, 스프링클러 장치, 화재경보기, 온도조절기(thermostat), 가로등, 토스터(toaster), 운동기구, 온수탱크, 히터, 보일러 등) 중 적어도 하나를 포함할 수 있다.
어떤 실시예에 따르면, 전자 장치는 가구(furniture) 또는 건물/구조물의 일부, 전자 보드(electronic board), 전자 사인 수신 장치(electronic signature receiving device), 프로젝터(projector), 또는 각종 계측 기기(예: 수도, 전기, 가스, 또는 전파 계측 기기 등) 중 적어도 하나를 포함할 수 있다. 다양한 실시예에서, 전자 장치는 전술한 다양한 장치들 중 하나 또는 그 이상의 조합일 수 있다. 어떤 실시예에 따른 전자 장치는 플렉서블 전자 장치일 수 있다. 또한, 본 문서의 실시예에 따른 전자 장치는 전술한 기기들에 한정되지 않으며, 기술 발전에 따른 새로운 전자 장치를 포함할 수 있다.
이하, 첨부 도면을 참조하여, 다양한 실시예에 따른 전자 장치가 설명된다. 본 문서에서, 사용자라는 용어는 전자 장치를 사용하는 사람 또는 전자 장치를 사용하는 장치(예: 인공지능 전자 장치)를 지칭할 수 있다.
도 1을 참조하여, 다양한 실시예에서의, 네트워크 환경(100) 내의 전자 장치(101)가 기재된다. 전자 장치(101)는 버스(110), 프로세서(120), 메모리(130), 입출력 인터페이스(150), 디스플레이(160), 및 통신 모듈(170)을 포함할 수 있다. 어떤 실시예에서는, 전자 장치(101)는, 구성요소들 중 적어도 하나를 생략하거나 다른 구성요소를 추가적으로 구비할 수 있다.
버스(110)는, 예를 들면, 구성요소들(110-170)을 서로 연결하고, 구성요소들 간의 통신(예: 제어 메시지 및/또는 데이터)을 전달하는 회로를 포함할 수 있다.
프로세서(120)는, 중앙처리장치(central processing unit(CPU)), 어플리케이션 프로세서(application processor(AP)), 또는 커뮤니케이션 프로세서(communication processor(CP)) 중 하나 또는 그 이상을 포함할 수 있다. 프로세서(120)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소들의 제어 및/또는 통신에 관한 연산이나 데이터 처리를 실행할 수 있다.
메모리(130)는, 휘발성 및/또는 비휘발성 메모리를 포함할 수 있다. 메모리(130)는, 예를 들면, 전자 장치(101)의 적어도 하나의 다른 구성요소에 관계된 명령 또는 데이터를 저장할 수 있다. 한 실시예에 따르면, 메모리(130)는 소프트웨어 및/또는 프로그램(140)을 저장할 수 있다. 프로그램(140)은, 예를 들면, 커널(141), 미들웨어(143), 어플리케이션 프로그래밍 인터페이스(application programming interface(API))(145), 및/또는 어플리케이션 프로그램(또는 "어플리케이션")(147) 등을 포함할 수 있다. 커널(141), 미들웨어(143), 또는 API(145)의 적어도 일부는, 운영 시스템(operating system(OS))으로 지칭될 수 있다.
커널(141)은, 예를 들면, 다른 프로그램들(예: 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147))에 구현된 동작 또는 기능을 실행하는 데 사용되는 시스템 리소스들(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)을 제어 또는 관리할 수 있다. 또한, 커널(141)은 미들웨어(143), API(145), 또는 어플리케이션 프로그램(147)에서 전자 장치(101)의 개별 구성요소에 접근함으로써, 시스템 리소스들을 제어 또는 관리할 수 있는 인터페이스를 제공할 수 있다.
미들웨어(143)는, 예를 들면, API(145) 또는 어플리케이션 프로그램(147)이 커널(141)과 통신하여 데이터를 주고받을 수 있도록 중개 역할을 수행할 수 있다.
또한, 미들웨어(143)는 어플리케이션 프로그램(147)으로부터 수신된 하나 이상의 작업 요청들을 우선 순위에 따라 처리할 수 있다. 예를 들면, 미들웨어(143)는 어플리케이션 프로그램(147) 중 적어도 하나에 전자 장치(101)의 시스템 리소스(예: 버스(110), 프로세서(120), 또는 메모리(130) 등)를 사용할 수 있는 우선 순위를 부여할 수 있다. 예컨대, 미들웨어(143)는 상기 적어도 하나에 부여된 우선 순위에 따라 상기 하나 이상의 작업 요청들을 처리함으로써, 상기 하나 이상의 작업 요청들에 대한 스케쥴링 또는 로드 밸런싱 등을 수행할 수 있다.
API(145)는, 예를 들면, 어플리케이션(147)이 커널(141) 또는 미들웨어(143)에서 제공되는 기능을 제어하기 위한 인터페이스로, 예를 들면, 파일 제어, 창 제어, 영상 처리, 또는 문자 제어 등을 위한 적어도 하나의 인터페이스 또는 함수(예: 명령어)를 포함할 수 있다.
입출력 인터페이스(150)는, 예를 들면, 사용자 또는 다른 외부 기기로부터 입력된 명령 또는 데이터를 전자 장치(101)의 다른 구성요소(들)에 전달할 수 있는 인터페이스의 역할을 할 수 있다. 또한, 입출력 인터페이스(150)은 전자 장치(101)의 다른 구성요소(들)로부터 수신된 명령 또는 데이터를 사용자 또는 다른 외부 기기로 출력할 수 있다.
디스플레이(160)는, 예를 들면, 액정 디스플레이(liquid crystal display(LCD)), 발광 다이오드(light-emitting diode(LED)) 디스플레이, 유기 발광 다이오드(organic light-emitting diode(OLED)) 디스플레이, 또는 마이크로 전자기계 시스템(microelectromechanical systems(MEMS)) 디스플레이, 또는 전자종이(electronic paper) 디스플레이를 포함할 수 있다. 디스플레이(160)는, 예를 들면, 사용자에게 각종 콘텐츠(예: 텍스트, 이미지, 비디오, 아이콘, 또는 심볼 등)을 표시할 수 있다. 디스플레이(160)는, 터치 스크린을 포함할 수 있으며, 예를 들면, 전자 펜 또는 사용자의 신체의 일부를 이용한 터치, 제스쳐, 근접, 또는 호버링 입력을 수신할 수 있다.
통신 모듈(170)은, 예를 들면, 전자 장치(101)와 외부 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106)) 간의 통신을 설정할 수 있다. 예를 들면, 통신 모듈(170)은 무선 통신 또는 유선 통신을 통해서 네트워크(162)에 연결되어 외부 장치(예: 제 2 외부 전자 장치(104) 또는 서버(106))와 통신할 수 있다.
무선 통신은, 예를 들면, 셀룰러 통신 프로토콜로서, 예를 들면, LTE(long-term evolution), LTE-A(LTE Advance), CDMA(code division multiple access), WCDMA(wideband CDMA), UMTS(universal mobile telecommunications system), WiBro(Wireless Broadband), 또는 GSM(Global System for Mobile Communications) 등 중 적어도 하나를 사용할 수 있다. 또한, 무선 통신은, 예를 들면, 근거리 통신(164)을 포함할 수 있다. 근거리 통신(164)은, 예를 들면, WiFi(wireless fidelity), 블루투스(Bluetooth), NFC(near field communication), 또는 GNSS(global navigation satellite system) 등 중 적어도 하나를 포함할 수 있다. GNSS는 사용 지역 또는 대역폭 등에 따라, 예를 들면, GPS(Global Positioning System), Glonass(Global Navigation Satellite System), Beidou Navigation Satellite System(이하 "Beidou") 또는 Galileo, the European global satellite-based navigation system 중 적어도 하나를 포함할 수 있다. 이하, 본 문서에서는, "GPS"는 "GNSS"와 혼용되어 사용(interchangeably used)될 수 있다. 유선 통신은, 예를 들면, USB(universal serial bus), HDMI(high definition multimedia interface), RS-232(recommended standard232), 또는 POTS(plain old telephone service) 등 중 적어도 하나를 포함할 수 있다. 네트워크(162)는 통신 네트워크(telecommunications network), 예를 들면, 컴퓨터 네트워크(computer network)(예: LAN 또는 WAN), 인터넷, 또는 전화 망(telephone network) 중 적어도 하나를 포함할 수 있다.
제 1 및 제 2 외부 전자 장치(102, 104) 각각은 전자 장치(101)와 동일한 또는 다른 종류의 장치일 수 있다. 한 실시예에 따르면, 서버(106)는 하나 또는 그 이상의 서버들의 그룹을 포함할 수 있다. 다양한 실시예에 따르면, 전자 장치(101)에서 실행되는 동작들의 전부 또는 일부는 다른 하나 또는 복수의 전자 장치(예: 전자 장치(102,104), 또는 서버(106)에서 실행될 수 있다. 한 실시예에 따르면, 전자 장치(101)가 어떤 기능이나 서비스를 자동으로 또는 요청에 의하여 수행해야 할 경우에, 전자 장치(101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 그와 연관된 적어도 일부 기능을 다른 장치(예: 전자 장치(102, 104), 또는 서버(106))에게 요청할 수 있다. 다른 전자 장치(예: 전자 장치(102, 104), 또는 서버(106))는 요청된 기능 또는 추가 기능을 실행하고, 그 결과를 전자 장치(101)로 전달할 수 있다. 전자 장치(101)는 수신된 결과를 그대로 또는 추가적으로 처리하여 요청된 기능이나 서비스를 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
도 2는 다양한 실시예에 따른 전자 장치(201)의 블록도이다. 전자 장치(201)는, 예를 들면, 도 1에 도시된 전자 장치(101)의 전체 또는 일부를 포함할 수 있다. 전자 장치(201)는 하나 이상의 프로세서(예: AP(application processor))(210), 통신 모듈(220), 가입자 식별 모듈(224), 메모리(230), 센서 모듈(240), 입력 장치(250), 디스플레이(260), 인터페이스(270), 오디오 모듈(280), 카메라 모듈(291), 전력 관리 모듈(295), 배터리(296), 인디케이터(297), 및 모터(298) 를 포함할 수 있다.
프로세서(210)는, 예를 들면, 운영 체제 또는 응용 프로그램을 구동하여 프로세서(210)에 연결된 다수의 하드웨어 또는 소프트웨어 구성요소들을 제어할 수 있고, 각종 데이터 처리 및 연산을 수행할 수 있다. 프로세서(210)는, 예를 들면, SoC(system on chip) 로 구현될 수 있다. 한 실시예에 따르면, 프로세서(210)는 GPU(graphic processing unit) 및/또는 이미지 신호 프로세서(image signal processor)를 더 포함할 수 있다. 프로세서(210)는 도 2에 도시된 구성요소들 중 적어도 일부(예: 셀룰러 모듈(221))를 포함할 수도 있다. 프로세서(210) 는 다른 구성요소들(예: 비휘발성 메모리) 중 적어도 하나로부터 수신된 명령 또는 데이터를 휘발성 메모리에 로드(load)하여 처리하고, 다양한 데이터를 비휘발성 메모리에 저장(store)할 수 있다.
통신 모듈(220)은, 도 1의 통신 모듈(170)과 동일 또는 유사한 구성을 가질 수 있다. 통신 모듈(220)은, 예를 들면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227)(예: GPS 모듈, Glonass 모듈, Beidou 모듈, 또는 Galileo 모듈), NFC 모듈(228) 및 RF(radio frequency) 모듈(229)를 포함할 수 있다.
셀룰러 모듈(221)은, 예를 들면, 통신망을 통해서 음성 통화, 영상 통화, 문자 서비스, 또는 인터넷 서비스 등을 제공할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 가입자 식별 모듈(예: SIM 카드)(224)을 이용하여 통신 네트워크 내에서 전자 장치(201)의 구별 및 인증을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 프로세서(210)가 제공할 수 있는 기능 중 적어도 일부 기능을 수행할 수 있다. 한 실시예에 따르면, 셀룰러 모듈(221)은 커뮤니케이션 프로세서(CP: communication processor)를 포함할 수 있다.
WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 각각은, 예를 들면, 해당하는 모듈을 통해서 송수신되는 데이터를 처리하기 위한 프로세서를 포함할 수 있다. 어떤 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 일부(예: 두 개 이상)는 하나의 integrated chip(IC) 또는 IC 패키지 내에 포함될 수 있다.
RF 모듈(229)은, 예를 들면, 통신 신호(예: RF 신호)를 송수신할 수 있다. RF 모듈(229)은, 예를 들면, 트랜시버(transceiver), PAM(power amp module), 주파수 필터(frequency filter), LNA(low noise amplifier), 또는 안테나 등을 포함할 수 있다. 다른 실시예에 따르면, 셀룰러 모듈(221), WiFi 모듈(223), 블루투스 모듈(225), GNSS 모듈(227) 또는 NFC 모듈(228) 중 적어도 하나는 별개의 RF 모듈을 통하여 RF 신호를 송수신할 수 있다.
가입자 식별 모듈(224)는, 예를 들면, 가입자 식별 모듈을 포함하는 카드 및/또는 내장 SIM(embedded SIM)을 포함할 수 있으며, 고유한 식별 정보(예: ICCID(integrated circuit card identifier)) 또는 가입자 정보(예: IMSI(international mobile subscriber identity))를 포함할 수 있다.
메모리(230)(예: 메모리(130))는, 예를 들면, 내장 메모리(232) 또는 외장 메모리(234)를 포함할 수 있다. 내장 메모리(232)는, 예를 들면, 휘발성 메모리(예: DRAM(dynamic RAM), SRAM(static RAM), 또는 SDRAM(synchronous dynamic RAM) 등), 비휘발성 메모리(non-volatile Memory)(예: OTPROM(one time programmable ROM), PROM(programmable ROM), EPROM(erasable and programmable ROM), EEPROM(electrically erasable and programmable ROM), mask ROM, flash ROM, 플래시 메모리(예: NAND flash 또는 NOR flash 등), 하드 드라이브, 또는 솔리드 스테이트 드라이브(solid state drive(SSD)) 중 적어도 하나를 포함할 수 있다.
외장 메모리(234)는 플래시 드라이브(flash drive), 예를 들면, CF(compact flash), SD(secure digital), Micro-SD(micro secure digital), Mini-SD(mini secure digital), xD(extreme digital), MMC(multi-media card) 또는 메모리 스틱(memory stick) 등을 더 포함할 수 있다. 외장 메모리(234)는 다양한 인터페이스를 통하여 전자 장치(201)와 기능적으로 및/또는 물리적으로 연결될 수 있다.
센서 모듈(240)은, 예를 들면, 물리량을 계측하거나 전자 장치(201)의 작동 상태를 감지하여, 계측 또는 감지된 정보를 전기 신호로 변환할 수 있다. 센서 모듈(240)은, 예를 들면, 제스처 센서(240A), 자이로 센서(240B), 기압 센서(240C), 마그네틱 센서(240D), 가속도 센서(240E), 그립 센서(240F), 근접 센서(240G), 컬러(color) 센서(240H)(예: RGB(red, green, blue) 센서), 생체 센서(240I), 온/습도 센서(240J), 조도 센서(240K), 또는 UV(ultra violet) 센서(240M) 중의 적어도 하나를 포함할 수 있다. 추가적으로 또는 대체적으로(additionally or alternatively), 센서 모듈(240)은, 예를 들면, 후각 센서(E-nose sensor), EMG 센서(electromyography sensor), EEG 센서(electroencephalogram sensor), ECG 센서(electrocardiogram sensor), IR(infrared) 센서, 홍채 센서 및/또는 지문 센서를 포함할 수 있다. 센서 모듈(240)은 그 안에 속한 적어도 하나 이상의 센서들을 제어하기 위한 제어 회로를 더 포함할 수 있다. 어떤 실시예에서는, 전자 장치(201)는 프로세서(210)의 일부로서 또는 별도로, 센서 모듈(240)을 제어하도록 구성된 프로세서를 더 포함하여, 프로세서(210)가 슬립(sleep) 상태에 있는 동안, 센서 모듈(240)을 제어할 수 있다.
입력 장치(250)은, 예를 들면, 터치 패널(touch panel)(252),(디지털) 펜 센서(pen sensor)(254), 키(key)(256), 또는 초음파(ultrasonic) 입력 장치(258)를 포함할 수 있다. 터치 패널(252)은, 예를 들면, 정전식, 감압식, 적외선 방식, 또는 초음파 방식 중 적어도 하나의 방식을 사용할 수 있다. 또한, 터치 패널(252)은 제어 회로를 더 포함할 수도 있다. 터치 패널(252)은 택타일 레이어(tactile layer)를 더 포함하여, 사용자에게 촉각 반응을 제공할 수 있다.
(디지털) 펜 센서(254)는, 예를 들면, 터치 패널의 일부이거나, 별도의 인식용 쉬트(sheet)를 포함할 수 있다. 키(256)는, 예를 들면, 물리적인 버튼, 광학식 키, 또는 키패드를 포함할 수 있다. 초음파 입력 장치(258)는 마이크(예: 마이크(288))를 통해, 입력 도구에서 발생된 초음파를 감지하여, 상기 감지된 초음파에 대응하는 데이터를 확인할 수 있다.
디스플레이(260)(예: 디스플레이(160))는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 포함할 수 있다. 패널(262)은, 도 1의 디스플레이(160)와 동일 또는 유사한 구성을 포함할 수 있다. 패널(262)은, 예를 들면, 유연하게(flexible), 투명하게(transparent), 또는 착용할 수 있게(wearable) 구현될 수 있다. 패널(262)은 터치 패널(252)과 하나의 모듈로 구성될 수도 있다. 홀로그램 장치(264)는 빛의 간섭을 이용하여 입체 영상을 허공에 보여줄 수 있다. 프로젝터(266)는 스크린에 빛을 투사하여 영상을 표시할 수 있다. 스크린은, 예를 들면, 전자 장치(201)의 내부 또는 외부에 위치할 수 있다. 한 실시예에 따르면, 디스플레이(260)는 패널(262), 홀로그램 장치(264), 또는 프로젝터(266)를 제어하기 위한 제어 회로를 더 포함할 수 있다.
인터페이스(270)는, 예를 들면, HDMI(high-definition multimedia interface)(272), USB(universal serial bus)(274), 광 인터페이스(optical interface)(276), 또는 D-sub(D-subminiature)(278)를 포함할 수 있다. 인터페이스(270)는, 예를 들면, 도 1에 도시된 통신 모듈(170)에 포함될 수 있다. 추가적으로 또는 대체적으로(additionally and alternatively), 인터페이스(270)는, 예를 들면, MHL(mobile high-definition link) 인터페이스, SD(secure digital) 카드/MMC(multi-media card) 인터페이스, 또는 IrDA(infrared data association) 규격 인터페이스를 포함할 수 있다.
오디오 모듈(280)은, 예를 들면, 소리(sound)와 전기 신호를 쌍방향으로 변환시킬 수 있다. 오디오 모듈(280)의 적어도 일부 구성요소는, 예를 들면, 도 1 에 도시된 입출력 인터페이스(145)에 포함될 수 있다. 오디오 모듈(280)은, 예를 들면, 스피커(282), 리시버(284), 이어폰(286), 또는 마이크(288) 등을 통해 입력 또는 출력되는 소리 정보를 처리할 수 있다.
카메라 모듈(291)은, 예를 들면, 정지 영상 및 동영상을 촬영할 수 있는 장치로서, 한 실시예에 따르면, 하나 이상의 이미지 센서(예: 전면 센서 또는 후면 센서), 렌즈, ISP(image signal processor), 또는 플래시(flash)(예: LED 또는 xenon lamp 등)를 포함할 수 있다.
전력 관리 모듈(295)은, 예를 들면, 전자 장치(201)의 전력을 관리할 수 있다. 전자 장치(201)는 배터리를 통해 전력을 공급받는 전자 장치일 수 있으나 이에 한정되지 않는다. 한 실시예에 따르면, 전력 관리 모듈(295)은 PMIC(power management integrated circuit), 충전 IC(charger integrated circuit), 또는 배터리 또는 연료 게이지(battery or fuel gauge)를 포함할 수 있다. PMIC는, 유선 및/또는 무선 충전 방식을 가질 수 있다. 무선 충전 방식은, 예를 들면, 자기공명 방식, 자기유도 방식 또는 전자기파 방식 등을 포함하며, 무선 충전을 위한 부가적인 회로, 예를 들면, 코일 루프, 공진 회로, 또는 정류기 등을 더 포함할 수 있다. 배터리 게이지는, 예를 들면, 배터리(296)의 잔량, 충전 중 전압, 전류, 또는 온도를 측정할 수 있다. 배터리(296)는, 예를 들면, 충전식 전지(rechargeable battery) 및/또는 태양 전지(solar battery)를 포함할 수 있다.
인디케이터(297)는 전자 장치(201) 또는 그 일부(예: 프로세서(210))의 특정 상태, 예를 들면, 부팅 상태, 메시지 상태 또는 충전 상태 등을 표시할 수 있다. 모터(298)는 전기적 신호를 기계적 진동으로 변환할 수 있고, 진동(vibration), 또는 햅틱(haptic) 효과 등을 발생시킬 수 있다. 도시되지는 않았으나, 전자 장치(201)는 모바일 TV 지원을 위한 처리 장치(예: GPU)를 포함할 수 있다. 모바일 TV 지원을 위한 처리 장치는, 예를 들면, DMB(digital multimedia broadcasting), DVB(digital video broadcasting), 또는 미디어플로(mediaFloTM) 등의 규격에 따른 미디어 데이터를 처리할 수 있다.
본 문서에서 기술된 구성요소들 각각은 하나 또는 그 이상의 부품(component)으로 구성될 수 있으며, 해당 구성요소의 명칭은 전자 장치의 종류에 따라서 달라질 수 있다. 다양한 실시예에서, 전자 장치는 본 문서에서 기술된 구성요소 중 적어도 하나를 포함하여 구성될 수 있으며, 일부 구성요소가 생략되거나 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 또한, 다양한 실시예에 따른 전자 장치의 구성요소들 중 일부가 결합되어 하나의 개체(entity)로 구성됨으로써, 결합되기 이전의 해당 구성요소들의 기능을 동일하게 수행할 수 있다.
도 3은 다양한 실시예에 따른 프로그램 모듈의 블록도이다. 한 실시예에 따르면, 프로그램 모듈(310)(예: 프로그램(140))은 전자 장치(예: 전자 장치(101))에 관련된 자원을 제어하는 운영 체제(operating system(OS)) 및/또는 운영 체제 상에서 구동되는 다양한 어플리케이션(예: 어플리케이션 프로그램(147))을 포함할 수 있다. 운영 체제는, 예를 들면, 안드로이드(AndroidTM), iOSTM, 윈도우즈(WindowsTM), 심비안(SymbianTM), 타이젠(TizenTM), 또는 바다(Samsung bada osTM) 등이 될 수 있다.
프로그램 모듈(310)은 커널(320), 미들웨어(330), 어플리케이션 프로그래밍 인터페이스(application programming interface (API))(360), 및/또는 어플리케이션(370)을 포함할 수 있다. 프로그램 모듈(310)의 적어도 일부는 전자 장치 상에 프리로드(preload) 되거나, 외부 전자 장치(예: 전자 장치(102, 104), 서버(106) 등)로부터 다운로드(download) 가능하다.
커널(320)(예: 커널(141))은, 예를 들면, 시스템 리소스 매니저(321) 및/또는 디바이스 드라이버(323)를 포함할 수 있다. 시스템 리소스 매니저(321)는 시스템 리소스의 제어, 할당, 또는 회수 등을 수행할 수 있다. 한 실시예에 따르면, 시스템 리소스 매니저(321)는 프로세스 관리부, 메모리 관리부, 또는 파일 시스템 관리부 등을 포함할 수 있다. 디바이스 드라이버(323)는, 예를 들면, 디스플레이 드라이버, 카메라 드라이버, 블루투스 드라이버, 공유 메모리 드라이버, USB 드라이버, 키패드 드라이버, WiFi 드라이버, 오디오 드라이버, 또는 IPC(inter-process communication) 드라이버를 포함할 수 있다.
미들웨어(330)는, 예를 들면, 어플리케이션(370)이 공통적으로 필요로 하는 기능을 제공하거나, 어플리케이션(370)이 전자 장치 내부의 제한된 시스템 자원을 효율적으로 사용할 수 있도록 API(360)를 통해 다양한 기능들을 어플리케이션(370)으로 제공할 수 있다. 한 실시예에 따르면, 미들웨어(330)(예: 미들웨어(143))는 런타임 라이브러리(335), 어플리케이션 매니저(application manager)(341), 윈도우 매니저(window manager)(342), 멀티미디어 매니저(multimedia manager)(343), 리소스 매니저(resource manager)(344), 파워 매니저(power manager)(345), 데이터베이스 매니저(database manager)(346), 패키지 매니저(package manager)(347), 연결 매니저(connectivity manager)(348), 통지 매니저(notification manager)(349), 위치 매니저(location manager)(350), 그래픽 매니저(graphic manager)(351), 또는 보안 매니저(security manager)(352) 중 적어도 하나를 포함할 수 있다.
런타임 라이브러리(335)는, 예를 들면, 어플리케이션(370)이 실행되는 동안에 프로그래밍 언어를 통해 새로운 기능을 추가하기 위해 컴파일러가 사용하는 라이브러리 모듈을 포함할 수 있다. 런타임 라이브러리(335)는 입출력 관리, 메모리 관리, 또는 산술 함수에 대한 기능 등을 수행할 수 있다.
어플리케이션 매니저(341)는, 예를 들면, 어플리케이션(370) 중 적어도 하나의 어플리케이션의 생명 주기(life cycle)를 관리할 수 있다. 윈도우 매니저(342)는 화면에서 사용하는 GUI 자원을 관리할 수 있다. 멀티미디어 매니저(343)는 다양한 미디어 파일들의 재생에 필요한 포맷을 파악하고, 해당 포맷에 맞는 코덱(codec)을 이용하여 미디어 파일의 인코딩(encoding) 또는 디코딩(decoding)을 수행할 수 있다. 리소스 매니저(344)는 어플리케이션(370) 중 적어도 어느 하나의 어플리케이션의 소스 코드, 메모리 또는 저장 공간 등의 자원을 관리할 수 있다.
파워 매니저(345)는, 예를 들면, 바이오스(BIOS: basic input/output system) 등과 함께 동작하여 배터리(battery) 또는 전원을 관리하고, 전자 장치의 동작에 필요한 전력 정보 등을 제공할 수 있다. 데이터베이스 매니저(346)는 어플리케이션(370) 중 적어도 하나의 어플리케이션에서 사용할 데이터베이스를 생성, 검색, 또는 변경할 수 있다. 패키지 매니저(347)는 패키지 파일의 형태로 배포되는 어플리케이션의 설치 또는 업데이트를 관리할 수 있다.
연결 매니저(348)는, 예를 들면, WiFi 또는 블루투스 등의 무선 연결을 관리할 수 있다. 통지 매니저(349)는 도착 메시지, 약속, 근접성 알림 등의 사건(event)을 사용자에게 방해되지 않는 방식으로 표시 또는 통지할 수 있다. 위치 매니저(350)는 전자 장치의 위치 정보를 관리할 수 있다. 그래픽 매니저(351)는 사용자에게 제공될 그래픽 효과 또는 이와 관련된 사용자 인터페이스를 관리할 수 있다. 보안 매니저(352)는 시스템 보안 또는 사용자 인증 등에 필요한 제반 보안 기능을 제공할 수 있다. 한 실시예에 따르면, 전자 장치(예: 전자 장치(101))가 전화 기능을 포함한 경우, 미들웨어(330)는 전자 장치의 음성 또는 영상 통화 기능을 관리하기 위한 통화 매니저(telephony manager)를 더 포함할 수 있다.
미들웨어(330)는 전술한 구성요소들의 다양한 기능의 조합을 형성하는 미들웨어 모듈을 포함할 수 있다. 미들웨어(330)는 차별화된 기능을 제공하기 위해 운영 체제의 종류 별로 특화된 모듈을 제공할 수 있다. 또한, 미들웨어(330)는 동적으로 기존의 구성요소를 일부 삭제하거나 새로운 구성요소들을 추가할 수 있다.
API(360)(예: API(145))는, 예를 들면, API 프로그래밍 함수들의 집합으로, 운영 체제에 따라 다른 구성으로 제공될 수 있다. 예를 들면, 안드로이드 또는 iOS의 경우, 플랫폼 별로 하나의 API 셋을 제공할 수 있으며, 타이젠(tizen)의 경우, 플랫폼 별로 두 개 이상의 API 셋을 제공할 수 있다.
어플리케이션(370)(예: 어플리케이션 프로그램(147))은, 예를 들면, 홈(371), 다이얼러(372), SMS/MMS(373), IM(instant message)(374), 브라우저(375), 카메라(376), 알람(377), 컨택트(378), 음성 다이얼(379), 이메일(380), 달력(381), 미디어 플레이어(382), 앨범(383), 또는 시계(384), 건강 관리(health care)(예: 운동량 또는 혈당 등을 측정), 또는 환경 정보 제공(예: 기압, 습도, 또는 온도 정보 등을 제공) 등의 기능을 수행할 수 있는 하나 이상의 어플리케이션을 포함할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 전자 장치(예: 전자 장치(101))와 외부 전자 장치(예: 전자 장치(102, 104)) 사이의 정보 교환을 지원하는 어플리케이션(이하, 설명의 편의 상, "정보 교환 어플리케이션")을 포함할 수 있다. 정보 교환 어플리케이션은, 예를 들면, 외부 전자 장치에 특정 정보를 전달하기 위한 알림 전달(notification relay) 어플리케이션, 또는 외부 전자 장치를 관리하기 위한 장치 관리(device management) 어플리케이션을 포함할 수 있다.
예를 들면, 알림 전달 어플리케이션은 전자 장치의 다른 어플리케이션(예: SMS/MMS 어플리케이션, 이메일 어플리케이션, 건강 관리 어플리케이션, 또는 환경 정보 어플리케이션 등)에서 발생된 알림 정보를 외부 전자 장치(예: 전자 장치(102, 104))로 전달하는 기능을 포함할 수 있다. 또한, 알림 전달 어플리케이션은, 예를 들면, 외부 전자 장치로부터 알림 정보를 수신하여 사용자에게 제공할 수 있다.
장치 관리 어플리케이션은, 예를 들면, 전자 장치와 통신하는 외부 전자 장치(예: 전자 장치(102, 104))의 적어도 하나의 기능(예: 외부 전자 장치 자체(또는, 일부 구성 부품)의 턴-온/턴-오프 또는 디스플레이의 밝기(또는, 해상도) 조절), 외부 전자 장치에서 동작하는 어플리케이션 또는 외부 전자 장치에서 제공되는 서비스(예: 통화 서비스 또는 메시지 서비스 등)를 관리(예: 설치, 삭제, 또는 업데이트)할 수 있다.
한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 전자 장치(102, 104))의 속성(에 따라 지정된 어플리케이션(예: 모바일 의료 기기의 건강 관리 어플리케이션 등)을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 외부 전자 장치(예: 서버(106) 또는 전자 장치(102, 104))로부터 수신된 어플리케이션을 포함할 수 있다. 한 실시예에 따르면, 어플리케이션(370)은 프리로드 어플리케이션(preloaded application) 또는 서버로부터 다운로드 가능한 제3자 어플리케이션(third party application)을 포함할 수 있다. 도시된 실시예에 따른 프로그램 모듈(310)의 구성요소들의 명칭은 운영 체제의 종류에 따라서 달라질 수 있다.
다양한 실시예에 따르면, 프로그램 모듈(310)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 프로그램 모듈(310)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(210))에 의해 구현(implement)(예: 실행)될 수 있다. 프로그램 모듈(310)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
도 4는 본 발명의 일 실시예에 따른 이미지 데이터를 출력하는 전자 장치(예: 전자 장치(101))를 도시한 예시도이다.
도 4를 참조하면, 전자 장치(101)는, 예를 들면, 렌즈(420)와, 상기 렌즈(420)를 통해 객체(410)를 감지하는 이미지 센서(430)와, 제어부(440)와 이미지를 출력하는 디스플레이(160)를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 이미지 센서(430)는 광 신호에 대응하여 이미지 데이터를 생성할 수 있다. 그리고, 제어부(440)는 상기 생성된 이미지 데이터를 처리하여 상기 전자 장치와 기능적으로 연결된 디스플레이(160)에 표시되도록 할 수 있다. 상기 제어부(440)는 상기 이미지 센서(430)에서 감지된 이미지에 해당되는 이미지 데이터를 생성하기 위한 모드를 확인하고, 상기 모드에 적어도 기반하여 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성(예: 프레임 레이트 및/또는 해상도)에 대한 세팅을 결정할 수 있다.
다양한 실시예에 따르면, 상기 이미지 센서(430)는 복수의 단위 픽셀들로 구성될 수 있으며 각각의 단위 픽셀은 복수의 서브 픽셀들을 포함할 수 있다. 상기 서브 픽셀은, 예를 들면, 포토 다이오드를 포함할 수 있다. 이미지 센서(430)는, 예를 들면, 하나의 단위 픽셀에 적어도 두 개 이상의 서브 픽셀들(예: 포토 다이오드)을 가지는 구조를 포함할 수 있다. 상기 이미지 센서(430)는 R(red), G(green), B(blue) 중 적어도 하나의 색 정보를 포함하는 컬러 정보를 출력할 수 있다. 상기 R은, 예를 들면, 레드를 포함할 수 있고, 상기 G는, 예를 들면, 그린을 포함할 수 있다. 또한, 상기 B는, 예를 들면, 블루를 포함할 수 있다.
다양한 실시예에 따르면, 이미지 센서(430)는 복수의 서브 픽셀들을 포함한 픽셀 어레이(431), 상기 서브 픽셀의 어레이를 행(row) 단위로 제어하는 로우 드라이버(432), 상기 서브 픽셀의 어레이로부터 출력된 신호를 저장, 센싱, 증폭 및/또는 출력하는 리드아웃(433), 상기 로우 드라이버(432), 상기 리드아웃(433)에 클럭 신호를 제공하는 타이밍 생성기(434) 및/또는 상기 이미지 센서(430)의 동작에 필요한 다양한 명령을 저장하는 제어 레지스터(435)를 포함할 수 있다. 그리고, 상기 제어부(440)는 카메라 제어부(441), 이미지 신호 처리부(442) 및/또는 I/F(interface)(443)를 포함할 수 있다.
다양한 실시예에 따르면, 상기 이미지 센서(430)는 제어부(440)의 제어에 의해 렌즈(420)를 통해 촬상되는 객체(410)를 감지할 수 있다. 제어부(440)는, 예를 들면, 이미지 센서(430)에 의해 감지되어 생성된 이미지 데이터를 디스플레이(160)에 출력할 수 있다. 이때, 디스플레이(160)는, 예를 들면, 이미지 데이터를 출력할 수 있는 모든 장치에 해당할 수 있다. 예를 들면, 디스플레이(160)는 모니터와 같은 전용 디스플레이 또는 컴퓨터, 휴대폰, TV, 또는 카메라와 같은 전자 장치에 형성된 디스플레이 등으로 구현될 수 있다. 상기 이미지 센서(430)는, 예를 들면, 객체(410)에 대응하는 광 신호를 획득할 수 있다. 상기 이미지 센서(430)는, 예를 들면, 제어부(440)와 기능적으로 연결될 수 있다. 다양한 실시 예들에 따른 이미지 센서(430)는 설명의 편의를 위해 이미지 센서 및 카메라의 구성 요소로서 기재되었으나, 이에 한정되지 않으며 다양한 변형들이 가능하다.
다양한 실시예에 따르면, 제어부(440)는, 예를 들면, 적어도 둘 이상의 서브 픽셀들간의 위상 차이를 계산하기 위한 정보를 출력할 수 있다. 또한, 제어부(440)는, 예를 들면, 이미지 센서(430)에서 받아들인 정보를 이용하여 컬러 정보를 구할 수 있다. 제어부(440)는, 예를 들면, 객체(410)에 대응하는 이미지 속성의 세팅을 확인할 수 있다. 예를 들면, 상기 이미지 속성의 세팅이 지정된 조건을 만족하는 경우(예: 제1 지정된 범위에 속하는 경우), 이미지 센서(430)는 제 1 서브 픽셀에 대응하는 제 1 신호 및 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 객체(410)에 대응하는 이미지에 대한 픽셀 데이터를 출력할 수 있다. 그리고, 이미지 센서(430)는 상기 픽셀 데이터를 이용하여 이미지 데이터를 생성할 수 있다. 그리고, 상기 이미지 속성의 세팅이 상기 지정된 조건을 만족하지 않는 경우(예: 제1 지정된 범위와 다른 지정된 범위(예: 제2 지정된 범위에 속하는 경우), 제어부(440)는, 예를 들면, 상기 제 1 서브 픽셀에 대응하는 상기 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 상기 제 2 신호에 기반하여 상기 위상 차이를 결정하는 데 사용하지 않도록 해당 픽셀을 제어(또는 설정)할 수 있다.
다양한 실시예에 따르면, 제어부(440)는, 상기 이미지 센서(430)를 통해 출력되는 정보(예: 위상 차이를 계산하기 위한 정보, 또는 이미지 데이터)를 조정할 수 있다. 예를 들면, 제어부(440)는, 이미지 속성의 세팅 또는 모드(예: 제 1 모드 내지 제 4 모드)에 기반하여, 상기 이미지 센서(430)를 통해 출력되는 정보를 서로 다르게 조정할 수 있다. 상기 제어부(440)는, 예를 들면, 상기 이미지 센서(430)을 통해 출력되는 정보(예: 위상 차이를 계산하기 위한 정보, 또는 이미지 데이터)를 각 모드에 따라, 서로 다르게 조정할 수 있다. 예를 들면, 상기 제어부(440)는, 제 1 모드인 경우, 각각의 서브 픽셀 레벨의 신호를 이용하여, 위상 차이를 계산하기 위한 정보만을 출력하도록 상기 이미지 센서(430)를 제어할 수 있다. 또한 제어부(440)는, 상기 위상 차이를 계산하기 위한 정보를 후처리하여, 위상차 정보를 확인할 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는, 제 2 모드인 경우, 각각의 서브 픽셀 레벨의 데이터(예: 제 1 신호, 제 2 신호)를 합한 이미지 데이터를 출력하도록 상기 이미지 센서(430)을 제어할 수 있다. 예를 들면, 상기 이미지 센서(430)를 통해 획득되는 신호는, 상기 제 1 신호, 또는 상기 제 2 신호로 구분되지 않는 하나의 단위 픽셀 레벨의 신호를 포함할 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는, 제 3 모드인 경우, 각각의 서브 픽셀 레벨의 신호를 이용하여 위상 차이를 계산하기 위한 정보를 출력하도록 상기 이미지 센서(430)를 제어할 수 있다. 또한 제어부(440)는, 각각의 서브 픽셀 레벨의 데이터(예: 제 1 신호, 제 2 신호)를 단위 픽셀 레벨의 이미지 데이터로 처리(예: 제 1 신호 및 제 2 신호를 합산하거나 평균 값으로 처리)하여 출력하도록 상기 이미지 센서(430)를 제어할 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는, 제 4 모드인 경우, 각각의 서브 픽셀 레벨의 신호를 이용하여 위상 차이를 계산하기 위한 정보를 출력하도록 상기 이미지 센서(430)를 제어할 수 있다. 또한 제어부(440)는, 각각의 서브 픽셀 레벨의 데이터(예: 제 1 신호, 제 2 신호)를 선택적으로 단위 픽셀 레벨의 이미지 데이터로 처리(예: 제 1 신호 및 제 2 신호를 합산하거나 평균 값으로 처리)하여 출력하도록 상기 이미지 센서(430)를 제어할 수 있다. 예를 들면, 단위 픽셀의 속성(예: 색상)에 기반하여 이미지 데이터를 처리하는 동작을 다르게 조정할 수 있다. 예를 들면, 단위 픽셀의 속성이 레드(red) 또는 블루(blue)인 경우, 각각의 서브 픽셀 레벨의 데이터(예: 제 1 신호, 제 2 신호)를 합한 이미지 데이터를 출력하도록 상기 이미지 센서(430)을 제어할 수 있다. 또한 단위 픽셀의 속성이 그린(green)인 경우, 각각의 서브 픽셀 레벨의 데이터(예: 제 1 신호, 제 2 신호)를 단위 픽셀 레벨의 이미지 데이터로 처리하여 출력하도록 상기 이미지 센서(430)를 제어할 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는, 상기 이미지 속성의 세팅 외에 사용자 입력에 기반하여 이미지 속성의 세팅을 결정할 수 있다. 예를 들면, 상기 사용자 입력이 발생하는 경우, 상기 사용자 입력에 대응하는 모드를 확인하고, 상기 모드와 관련된 이미지 속성의 세팅을 결정할 수 있다. 예를 들면, 상기 제어부(440)는, 전자 장치(101)에 포함된 어플리케이션 중 카메라(예: 카메라(376))를 통해 수신된 사용자 입력이 있는 경우, 상기 사용자 입력을 통해 결정된 모드를 확인할 수 있다. 또한 상기 제어부(440)는, 상기 모드에 기반하여, 상기 이미지 속성의 세팅을 결정할 수 있다.
다양한 실시예에 따르면, 이미지 정보의 세팅이 지정된 조건을 만족하는 경우(예: 제1 지정된 범위에 속하는 경우), 제어부(440)는 상기 제 1 신호 및 상기 제 2 신호를 이용하여 이미지 데이터를 생성하도록 해당 픽셀을 제어(또는 설정)할 수 있다.
다양한 실시예에 따르면, 제어부(440)는, 예를 들면, 상기 이미지 정보의 세팅이 상기 지정된 조건을 만족하지 않는 경우(예: 제1 지정된 범위와 다른 지정된 범위(예: 제2 지정된 범위)에 속하는 경우), 예를 들면, 다른 지정된 범위인 경우, 상기 제 1 신호 및 상기 제 2 신호를 합하여 읽어 상기 이미지 데이터가 생성되도록 이미지 센서(430)를 제어할 수 있다. 상기 이미지 정보는, 예를 들면, 상기 객체(410)의 크기, 상기 객체(410)와 상기 이미지 센서와의 거리, 상기 객체(410)의 움직임 속도, 디스플레이(160)를 통해 출력될 이미지의 프레임 레이트, 또는 그 조합을 포함할 수 있다.
상기 이미지 정보가 출력될 이미지의 프레임 레이트를 포함하는 경우, 한 실시 예에 따르면, 상기 이미지 정보의 세팅에 대한 지정된 조건은(예: 제1 지정된 범위)는 저속 프레임 레이트를 포함하고, 상기 지정된 조건을 만족하지 않는 다른 지정된 범위(예: 제2 지정된 범위)는 고속 프레임 레이트를 포함할 수 있다. 상기 저속 프레임 레이트는 초당 30 프레임인 경우를 포함할 수 있고, 상기 고속 프레임은 초당 60 프레임인 경우를 포함할 수 있다. 다양한 실시예에 따른 저속 프레임 레이트 및 저속 프레임 레이트는 전자 장치(101)의 사양 또는 기술 개발에 따라서 프레임 레이트가 가변적으로 변경될 수 있다.
다양한 실시예에 따르면, 카메라 제어부(441)는 제어 레지스터(435)를 제어할 수 있다. 이때, 카메라 제어부(441)는, 예를 들면, I2C(Inter-Integrated Circuit)를 이용하여 이미지 센서(430), 또는, 제어 레지스터(435)를 제어할 수 있다. 어떤 실시예에서는, 제어부(440)는 상기한 구성 요소들 중 적어도 하나를 생략하거나 다른 구성 요소를 추가적으로 구비할 수 있다.
다양한 실시예에 따르면, 이미지 신호 처리부(442)는 리드아웃(433)의 출력 신호인 서브 픽셀 신호(SPS, sub-pixel signal)를 입력받아, 서브 픽셀 신호를 서브 픽셀 단위로 또는 픽셀 단위로 가공 및/또는 처리하여 이미지 데이터를 생성할 수 있다. 이미지 신호 처리부(442)는, 예를 들면, 이미지 데이터를 I/F(443)를 통해 디스플레이(160)를 통해 표시할 수 있다.
다양한 실시예에 따르면, 픽셀 어레이(431)는 복수의 단위 픽셀들을 포함할 수 있다. 각 단위 픽셀은, 예를 들면, 복수의 서브 픽셀들(sub-pixels)을 포함할 수 있다. 각 단위 픽셀들은 두 개의 포토 다이오드를 포함하거나 또는 네 개의 포토 다이오드를 포함할 수 있다. 각각의 서브 픽셀은, 예를 들면, 로우 드라이버(432)의 제어에 따라 렌즈(420)를 통해 입사되는 빛을 센싱하여 적어도 하나의 서브 픽셀 신호를 출력할 수 있다. 서브 픽셀 신호는, 예를 들면, '0' 또는 '1'의 값을 가진 디지털 신호(digital signal)일 수 있다. 서브 픽셀의 예시는 도 5 내지 도 6e에서 상세히 설명하기로 한다.
다양한 실시예에 따르면, 타이밍 생성기(434)는 로우 드라이버(432) 및/또는 리드아웃(433) 각각에 제어 신호 또는 클럭 신호를 출력하여 로우 드라이버(432) 및/또는 리드아웃(433)의 동작 또는 타이밍을 제어할 수 있다. 이때, 제어 레지스터(435)는, 예를 들면, 카메라 제어부(441)의 제어에 따라 동작하며, 이미지 센서(430)의 동작에 필요한 각종 명령을 저장하고 타이밍 생성기(434)로 상기 각종 명령을 전송한다.
다양한 실시예에 따르면, 픽셀 어레이(431)는 로우 드라이버(432)로부터 제공된 각각의 제어 신호에 의해 선택되는 행(row)으로부터 서브 픽셀 신호를 리드아웃(433)으로 출력할 수 있다.
다양한 실시예에 따르면, 리드아웃(433)은 픽셀 어레이(431)로부터 출력된 서브 픽셀 신호를 임시 저장한 후 센싱하고 증폭하여 출력할 수 있다. 이때, 리드아웃(433)은, 예를 들면, 상기 픽셀 신호의 임시 저장을 위해 각 열마다 하나씩 포함된 복수의 컬럼 메모리(예컨대, SRAM), 임시 저장된 상기 픽셀 신호를 센싱하고 증폭하기 위한 센스 앰프(sense amplifier: SA)(미도시) 또는 임시 저장된 상기 픽셀 신호를 카운팅하는 카운터(counter)(미도시)를 포함할 수 있다.
다양한 실시예에 따르면, 렌즈(420)는 메인 렌즈(main lens) 를 포함할 수 있다. 메인 렌즈는, 예를 들면, 픽셀 어레이(431) 전체와 상응하는 크기로 구현될 수 있으며, 객체(410)의 상을 맺히도록 할 수 있다.
다양한 실시예에 따르면, 제어부(440)는 이미지 센서(430)를 통해 감지되는 객체에 해당되는 이미지 데이터를 출력하는 모드를 확인하고, 상기 확인된 모드에 적어도 기반하여 이미지의 생성에 사용될 적어도 하나의 이미지 속성(예: 프레임 레이트 및/또는 해상도)에 대한 세팅을 결정할 수 있다. 그리고, 이미지 센서(430)는 상기 세팅에 적어도 기반하여 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성할 수 있다. 상기 모드는, 예를 들면, 이미지 센서(430)에 구비된 전체 서브 픽셀들 각각으로부터 서브 픽셀 레벨의 신호(또는 광 신호에 대응하는 픽셀 데이터)가 출력되는 제1 모드, 단위 픽셀 내의 각 서브 픽셀 레벨의 신호를 합하여 읽어 단위 픽셀 레벨의 이미지 데이터가 출력되는 제2 모드, 단위 픽셀 내의 각 서브 픽셀에서 신호가 획득되고, 획득된 신호를 통해 서브 픽셀간의 위상차 계산을 위한 정보가 생성되고, 상기 단위 픽셀 내의 각 서브 픽셀에서 획득되는 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터와 상기 위상차 계산을 위한 정보가 출력되는 제3 모드, 및 제1 단위 픽셀(예: R 픽셀, B 픽셀) 내의 각 서브 픽셀의 신호가 서브 픽셀 레벨에서 합하여 읽어 단위 픽셀 레벨의 이미지 데이터가 출력되고, 제2 단위 픽셀(예: G 픽셀) 내의 각 서브 픽셀에서 획득된 신호를 이용하여 위상차를 계산하기 위한 정보가 출력되고, 상기 획득된 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 읽어 단위 픽셀 레벨의 이미지 데이터가 출력되는 제 4 모드를 포함할 수 있다. 상기 제4 모드는 상기 제1 단위 픽셀에 의해 출력되는 이미지 데이터, 상기 제2 단위 픽셀에 의해 출력되는 이미지 데이터 및 상기 정보를 함께 출력할 수 있다. 그리고, 제어부(440)는 이미지 센서(430)에서 출력되는 이미지 데이터를 후처리 과정을 통해 디스플레이(160)에 표시되도록 전자 장치(101)를 제어할 수 있다.
다양한 실시예에 따르면, 제어부(440)는, 위상차 계산을 위한 정보를 이용하여 위상차를 확인할 수 있다. 예를 들면, 상기 제어부(440)는, 각각의 서브 픽셀에서 획득된 신호(예: 위상 차이를 계산하기 위한 정보)를 이용하여, 상기 신호에 포함된 속성(예: 밝기 정보, 또는 색상 정보)을 확인할 수 있고, 상기 확인된 속성의 차(예: 상기 각각의 서브 픽셀의 속성의 차)에 기반하여, 위상차를 확인할 수 있다. 예를 들면, 상기 제어부(440)는, 각각의 서브 픽셀에서 획득된 각각의 밝기 정보의 차에 기반하여, 위상차(phase difference)를 확인할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 예를 들면, 상기 제1 모드에서, 이미지 센서(430)의 전체 서브 픽셀들에서 서브 픽셀 레벨의 신호를 출력할 수 있다. 상기 이미지 센서(430)는, 예를 들면, 각각의 단위 픽셀에 포함된 복수의 서브 픽셀들 각각에서 서브 픽셀 레벨의 신호를 출력할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 예를 들면, 상기 제2 모드에서, 상기 제1 모드보다 고속으로 이미지를 생성하기 위하여 이미지 센서(430)의 각 단위 픽셀 별로 서브 픽셀들의 신호를 합한 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 전자 장치(101)(제어부(440))는, 예를 들면, 상기 제2 모드에서, 상기 제1 모드보다 데이터 수(또는 데이터 양)가 적어지게 되므로 고속으로 이미지 데이터가 출력될 수 있고, 서브 픽셀간의 위상 차이를 계산하기 위한 정보는 출력되지 않을 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 제어부(440)는, 예를 들면, 상기 제3 모드에서, 이미지 센서(430)의 단위 픽셀 내의 각 서브 픽셀에서 신호가 획득되고, 획득된 신호를 이용하여 각 서브 픽셀 간의 위상 차이를 계산하기 위한 정보를 출력하고, 각 단위 픽셀 별로 서브 픽셀의 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 읽어 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 상기 제3 모드에서는, 상기 정보와 상기 이미지 데이터가 동시에 출력될 수 있다. 상기 정보는 위상차를 계산하기 위한 필터링된 데이터를 포함할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 예를 들면, 상기 제4 모드에서, 제1 단위 픽셀 내의 각 서브 픽셀에서 획득되는 신호를 서브 픽셀 레벨에서 합하여 읽어 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 그리고, 제2 단위 픽셀 내의 각 서브 픽셀에서 신호가 획득되고, 획득된 신호를 이용하여 제2 단위 픽셀 내의 서브 픽셀간의 위상차를 계산하기 위한 정보가 생성되고, 획득된 신호를 합산하거나 평균하여 읽어 단위 픽셀 레벨의 이미지 데이터가 출력될 수 있다. 또한, 상기 제 4모드에서는 제1 단위 픽셀에 의해 출력되는 이미지 데이터, 제2 단위 픽셀에 의해 출력되는 이미지 데이터 및 상기 생성된 정보를 더하여 출력될 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제4 모드에서 R 픽셀 또는 B 픽셀 중 해당되는 픽셀에서 각 서브 픽셀의 신호를 합하여 출력하고, G 픽셀의 각 서브 픽셀에서 서브 픽셀 레벨의 신호를 각각 출력할 수 있다. 이 경우, 상기 제4 모드에서는, 각 서브 픽셀 간의 위상 차이를 계산하기 위한 정보와 상기 이미지 데이터가 동시에 출력될 수 있다. 상기 제4 모드에서는, 예를 들면, G 픽셀의 서브 픽셀 간의 위상 차이를 계산하기 위한 정보가 출력될 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 제 1 모드인 경우, 이미지 정보를 AF로 설정하고, 상기 이미지 정보의 세팅을 고속 AF(예: 위상차 정보를 이용한 AF)로 설정할 수 있다. 상기 제1 모드인 경우, 상기 제어부(440)는, 예를 들면, 저속 프레임 레이트(예: 초당 30 프레임)로 이미지 데이터를 출력할 수 있다. 상기 제 1 모드인 경우, 제어부(440) 각 단위 픽셀에서 서브 픽셀 레벨의 신호를 출력할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 제 2 모드인 경우, 이미지 정보를 프레임 레이트로 설정하고, 상기 이미지 정보의 세팅을 고속 프레임 레이트로 설정할 수 있다. 상기 제2 모드인 경우, 상기 제어부(440)는, 예를 들면, 고속 프레임 레이트(예: 초당 60 프레임)로 상기 이미지 데이터를 출력할 수 있으며, 서브 픽셀간의 위상 차이를 계산하기 위한 정보를 생성하지 않을 수 있다. 상기 제어부(440)는 고속 동작을 위해 각 단위 픽셀 내의 각 서브 픽셀의 신호를 합하여 단위 픽셀 레벨의 이미지 데이터만을 출력할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 제 3 모드인 경우, 이미지 정보를 AF 및 프레임 레이트로 설정하고, 상기 AF의 세팅을, 고속 AF(예: 위상차 정보를 이용한 AF) 및 상기 프레임 레이트의 세팅을 고속 프레임 레이트로 설정할 수 있다. 상기 제3 모드인 경우, 상기 제어부(440)는 단위 픽셀 내의 각 서브 픽셀에서 신호를 획득하고, 획득된 신호를 이용하여 위상차 계산을 위한 정보를 생성하고, 상기 단위 픽셀 내의 각 서브 픽셀에서 획득되는 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 상기 제3 모드에서는, 상기 정보와 상기 합산되거나 평균화된 데이터가 동시에 출력될 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(제어부(440))는, 제 4 모드인 경우, 이미지 정보를 AF 및 프레임 레이트로 설정하고, 상기 AF의 세팅을, 고속 AF(예: 위상차 정보를 이용한 AF) 및 상기 프레임 레이트의 세팅을 고속 프레임 레이트로 설정할 수 있다. 상기 제4 모드인 경우, 상기 제어부(440)는 제1 모드보다 빠른 프레임 레이트(예: 초당 60 프레임)로 이미지 데이터를 출력할 수 있다. 또한, 상기 제어부(440)는, 상기 제3 모드에서 이미지 데이터를 출력하기 위해 사용되는 전력보다 적은 전력을 이용하여 이미지 데이터를 출력할 수 있다. 또한, 상기 제어부(440)는 제1 단위 픽셀(예: R 픽셀, B 픽셀) 내의 각 서브 픽셀에서 획득되는 신호를 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 그리고, 제어부(440)는 제2 단위 픽셀(예: G 픽셀)내의 각 서브 픽셀에서 획득되는 신호를 이용하여 위상차를 계산하기 위한 정보를 출력하고, 상기 획득된 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 상기 제어부(440)는, 상기 제4 모드에서, 상기 제1 단위 픽셀에 의해 출력되는 이미지 데이터, 상기 제2 단위 픽셀에 의해 출력되는 이미지 데이터 및 상기 위상차를 계산하기 위한 정보를 출력할 수 있다. 상기 서브 픽셀간의 위상 차이를 계산하기 위한 정보는 상기 생성된 이미지 데이터에 추가될 수 있다. 또한, 상기 생성된 이미지 데이터는 상기 정보와 같이 출력될 수 있다. 상기 제1 단위 픽셀은 R 픽셀, B 픽셀을 포함할 수 있고, 상기 제2 단위 픽셀은 G 픽셀을 포함할 수 있다. 상기 제어부(440)는 R 픽셀 또는 B 픽셀 중 해당되는 픽셀에 포함된 서브 픽셀들에서 획득되는 신호를 합산하고, G 픽셀에 포함된 서브 픽셀들에서 획득되는 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 또한, 상기 G 픽셀에 포함된 서브 픽셀들의 신호를 이용하여 위상차 계산을 위한 정보를 생성할 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는 각각의 모드에 따라 상기 R 픽셀로부터 출력된 이미지 데이터, 상기 B 픽셀로부터 출력된 이미지 데이터 및 상기 G 픽셀로부터 출력된 이미지 데이터를 처리하여 디스플레이(160)에 이미지를 표시할 수 있다. 상기 제어부(440)는 리드아웃(433)으로부터 출력되는 서브 픽셀 레벨의 신호 또는 단위 픽셀 단위의 이미지 데이터를 서브 픽셀 단위 또는 단위 픽셀 단위로 처리하여 이미지를 생성하고, 상기 생성된 이미지 디스플레이(160)에 표시할 수 있다.
다양한 실시예에 따르면, 전자 장치(101)의 모든 구성요소들이 전자 장치(101)에 포함되는 구성으로 도시되어 있지만, 다양한 실시예들은 이에 한정되지 않는다. 예를 들면, 전자 장치(101)의 역할, 기능, 또는 성능에 따라, 전자 장치(101)의 구성요소 중 적어도 일부는 전자 장치(101) 및 외부 전자 장치(예: 제 1 외부 전자 장치(102), 제 2 외부 전자 장치(104), 또는 서버(106))에 분산되어 구현될 수 있다.
다양한 실시예에 따르면, 제어부(440)는, 이미지 센서(430)와 구분되는 구성으로 되시되어 있지만, 다양한 실시예들은 이에 한정되지 않는다. 예를 들면, 제어부(440)는, 전자 장치(101)의 역할, 기능, 또는 성능에 따라 이미지 센서(430)의 적어도 일부에 포함될 수 있다. 예를 들면, 카메라 제어부(441), 또는 인터페이스부(I/F)(443)는 이미지 센서(440)에 포함될 수 있고, 이미지 신호 처리부(442)는, 상기 이미지 센서(440)와 구분되어 구현될 수 있다.
다양한 실시예에 따르면, 카메라 제어부(441), 이미지 신호 처리부(442), 또는 인터페이스부(I/F)(443)의 적어도 일부는 소프트웨어, 펌웨어, 하드웨어, 또는 이들 중 적어도 둘 이상의 조합으로 구현될 수 있다. 카메라 제어부(441), 이미지 신호 처리부(442), 또는 인터페이스부(I/F)(443)의 적어도 일부는, 예를 들면, 프로세서(예: 프로세서(120))에 의해 구현(implement)(예: 실행)될 수 있다. 카메라 제어부(441), 이미지 신호 처리부(442), 또는 인터페이스부(I/F)(443)의 적어도 일부는 하나 이상의 기능을 수행하기 위한, 예를 들면, 모듈, 프로그램, 루틴, 명령어 세트(sets of instructions) 또는 프로세스 등을 포함할 수 있다.
다양한 실시예에 따르면, 상기 전자 장치(101)는, 예를 들면, 카메라 제어부(441), 이미지 신호 처리부(442), 또는 I/F(443)를 프로세서(예: 도 1의 프로세서(120)와 통합되어(integrated with) 구현될 수 있고, 프로세서에서 접근할 수 있는 (전용) 메모리 영역에 소프트웨어 형태로 저장되어, 프로세서에서 실행될 수 있는 형태로 구현될 수 있다.
도 5는 본 발명의 일 실시예에 따른 이미지 센서의 픽셀 어레이의 구성도의 예시도이다.
도 5를 참조하면, 이미지 센서(430)의 픽셀 어레이(431)는, 예를 들면, 매트릭스(matrix) 형태로 배열된 복수의 단위 픽셀들(510-a 내지 510-d)을 포함할 수 있으며, 각 단위 픽셀은 복수의 서브 픽셀들을 포함할 수 있다. 이미지 센서(430)는, 예를 들면, 전체 단위 픽셀들과 각 단위 픽셀의 서브 픽셀들을 곱한 만큼의 서브 픽셀 레벨의 신호를 한번에 출력하거나 하나의 단위 픽셀의 서브 픽셀 레벨의 신호를 합하여 전체 단위 픽셀들의 개수만큼 신호를 출력할 수 있다. 제1 단위 픽셀(510-a)은, 예를 들어, 복수의 서브 픽셀들(511, 512, 513, 514)을 포함할 수 있다. 그리고, 제2 단위 픽셀(510-b)은, 예를 들어, 복수의 서브 픽셀들(515, 516, 517, 518)을 포함할 수 있다. 또는, 단위 픽셀은 두 개의 서브 픽셀들(또는 포토 다이오드) 또는 네 개의 서브 픽셀들(또는 포토 다이오드)을 포함할 수 있다. 서브 픽셀 간격(subpixel pitch)은 통상적인 이미지 센서(430)에서의 픽셀 간격(pitch)보다 작을 수 있다.
도 5에서는 제1 단위 픽셀(510-a) 내지 제4 단위 픽셀(510-d) 각각이 4 개씩의 서브 픽셀들을 포함하는 것으로 도시되었으나, 이에 한정되지 않는다.
다양한 실시예에 따르면, 픽셀 어레이(431)는 타이밍 생성기(434)의 제어에 따라 로우 단위로 컬럼 라인을 따라 각각의 서브 픽셀 레벨의 신호를 출력할 수 있다.
다양한 실시예에 따르면, 픽셀 어레이(431)를 구성하는 단위 픽셀의 상부에는 특정 스펙트럼 영역의 빛을 투과 시키거나 차단하기 위한 각각의 컬러 필터를 포함하는 필터 어레이(미도시)가 배열될 수 있다. 또한, 픽셀 어레이(431)를 구성하는 다수의 단위 픽셀의 상부에는, 예를 들면, 각각의 집광력(light gathering power)을 높이기 위한 마이크로 렌즈가 배열될 수 있다.
다양한 실시예에 따르면, 로우 드라이버(432)는 타이밍 생성기(434)의 제어에 따라 다수의 서브 픽셀들(420) 각각의 동작을 제어하기 위한 다수의 제어 신호들을 픽셀 어레이(431)로 드라이빙할 수 있다. 예를 들어, 다수의 제어 신호들은 다수의 서브 픽셀들 각각이 생성한 광 전하의 전송을 제어하기 위한 신호, 다수의 서브 픽셀들 각각을 선택하기 위한 신호 또는 다수의 서브 픽셀들 각각을 리셋(reset)하기 위한 신호를 포함할 수 있다. 리드아웃 블록(433)는 픽셀 어레이(431)로부터 출력되는 서브 픽셀 레벨의 신호를 처리하기 위한 여러 가지 구성요소들(예컨대, 카운터, 메모리, 리드아웃 회로 또는 센스 앰프 회로)을 포함할 수 있다.
다양한 실시예에 따르면, 이미지 신호 처리부(442)는 제1 단위 픽셀(510-a) 내지 제4 단위 픽셀(510-d)으로부터 출력되는 서브 픽셀 레벨의 신호를 가공 및/또는 처리할 수 있다. 예를 들어, 이미지 신호 처리부(442)는, 예를 들면, 서브 픽셀 레벨의 신호를 합하여 하나의 단위 픽셀 레벨의 이미지 데이터로 취급할 수 있다.
다양한 실시예에 따르면, 리드아웃(433)은 제1 단위 픽셀(510-a) 내지 제4 단위 픽셀(510-d) 각각의 서브 픽셀에 대응하는 서브 픽셀 레벨의 신호를 출력할 수 있다. 제1 단위 픽셀(510-a) 내지 제4 단위 픽셀(510-d)은, 예를 들면, 각각 대응되는 마이크로 렌즈를 통과한 복수의 서브 픽셀에 해당하는 서브 픽셀 레벨의 신호를 출력할 수 있다. 이미지 신호 처리부(442)는, 예를 들면, 서브 픽셀 레벨의 신호를 가공 및/또는 처리하여 방향성 정보(angular information), 거리 데이터(depth data) 를 생성할 수 있다.
도 6a는 본 발명의 일 실시 예에 따른 이미지 센서에서 두 개의 포토 다이오드를 갖는 단위 픽셀의 개략도이고, 도 6b는 본 발명의 일 실시 예에 따른 이미지 센서에서 네 개의 포토 다이오드를 갖는 단위 픽셀의 개략도이고, 도 6c는 본 발명의 일 실시 예에 따른 두 개의 포토 다이오드를 갖는 단위 픽셀의 구조를 나타낸 예시도이고, 도 6d는 본 발명의 일 실시 예에 따른 이미지 센서에서 두 개의 포토 다이오드를 갖는 단위 픽셀의 회로도이고, 도 6e는 본 발명의 일 실시 예에 따른 단위 픽셀에서 스위치들 각각의 타임 차트를 나타낸 예시도이다.
도 6a 내지 도 6e를 참조하면, 본 발명의 일 실시예에 따른 이미지 센서(430)는 빛이 컬러 필터를 통해 광 도전체로 들어오면, 빛의 파장과 세기에 따라 광 도전체에서 발생하는 전자-정공이 가변되고, 이를 신호 처리 가능한 레벨의 전압신호를 출력할 수 있다. 이러한 이미지 센서(430)는 예를 들면, 방식에 따라서 CCD(charge coupled device)형 이미지 센서와 CMOS(complimentary metal oxide semiconductor)형 이미지 센서로 구분될 수 있다. 이미지 센서(430)는 복수의 단위 픽셀들을 구성할 수 있으며, 소정 규격의 이미지 데이터를 얻기 위해서 복수의 단위 픽셀들이 소정의 열과 행으로 배치된 이미지 센서 어레이가 사용될 수 있다.
다양한 실시예에 따르면, 이러한 이미지 센서(430)의 단위 픽셀은 두 개의 포토 다이오드(640), 컬러 필터(630) 및/또는 마이크로 렌즈(620)를 포함할 수 있다. 또한, 이미지 센서(430)의 단위 픽셀은, 예를 들면, 네 개의 포토 다이오드(650), 컬러 필터(630) 및/또는 마이크로 렌즈(620)를 포함할 수 있다. 본 발명의 실시 예에 따른 이미지 센서(430)는 도 6a 및 도 6b와 같이 복수의 서브 픽셀들로 구성된 단위 픽셀의 어레이로 구성될 수 있다. 단위 픽셀 당 서브 픽셀의 개수는 임의의 개수가 될 수 있는데, 도 6a는 서브 픽셀이 두 개인 경우이고, 도 6b는 서브 픽셀이 네 개인 경우이다.
다양한 실시예에 따르면, 제어부(440)는 단위 픽셀의 각 서브 픽셀 레벨의 신호를 합하여 하나의 이미지 데이터로 출력할 수 있다. 또한, 제어부(440)는, 예를 들면, 각 단위 픽셀에 포함된 서브 픽셀(예: 포토 다이오드)간의 위상차를 계산하기 위한 정보를 출력할 수 있다. 예를 들어, 도 6a에서와 같이, 본 발명의 일 실시예의 단위 픽셀은 각각의 포토다이오드에 들어오는 빛의 위상 차이를 계산하기 위한 정보를 함께 출력하고, 두 개의 서브 픽셀 레벨의(예: 포토다이오드) 신호를 합한 컬러 정보를 출력할 수 있다.
다양한 실시예에 따르면, 상기 이미지 센서는 각각의 포토다이오드에 대한 값을 출력할 수 있으며, 따라서 하나의 단위 픽셀은 복수 개의 포토다이오드에 대한 컬러 정보를 각각 출력할 수 있다. 예를 들어, HD(1280x720)의 픽셀을 가지는 이미지 센서에서 하나의 단위 픽셀에 4개의 포토다이오드를 가지는 4PD 구조를 포함하는 경우 각각의 포토다이오드에 대한 컬러 값을 읽어 들여 QHD(2560x1440)의 해상도를 가지는 이미지 데이터를 출력할 수도 있다.
다양한 실시예에 따르면, 상기 포토 다이오드(640, 650)는 입사된 광을 전기적 신호 변환하고, 변환된 전기적 신호를 발생시키고, 적층된 형태의 도핑 영역들로 이루어질 수 있다. 그리고, 도핑 영역들은 입사광의 입사각에 기초하여 적층될 수 있다.
다양한 실시예에 따르면, 상기 렌즈(610)는 OIS(optical image stabilization) 또는 AF(auto focus)를 위한 액츄레이터(actuator)와 기능적으로 연결되어 있을 수 있다.
다양한 실시예에 따르면, 컬러 필터(630)는 R(예: 레드) 필터, G(예: 그린) 필터 또는 B(예: 블루) 필터이거나, 또는 옐로우(yellow) 필터, 마젠타(magenta) 필터 및 시안(cyan) 필터일 수 있다.
다양한 실시예에 따르면, 컬러 필터(630)는 입사광의 입사각에 기초하여 포토 다이오드(640, 650) 위에 형성될 수 있으며, 베이어 패턴을 가질 수 있다. 상기 베이어 패턴은 대상의 밝기와 색상을 모아 점으로 이루어진 이미지 데이터를 만들기 위해 2차원 평면상에 레드, 그린, 블루 각각의 밝기를 받아들이는 필터들을 배치할 수 있다. 베이어 패턴 컬러 필터 아래서 격자망을 형성하는 각각의 단위 픽셀들은 총 천연색을 인식하는 것이 아니라 레드, 그린, 및/또는 블루 중 할당된 색만을 인식하고 이를 보간(interpolate)하여 천연색을 유추해 낼 수 있다.
다양한 실시예에 따르면, 마이크로 렌즈(620)는 컬러 필터(630)가 적층되는 경사각을 유지하면서, 컬러 필터(630) 상에서 포토 다이오드(640, 650)에 대응되도록 형성될 수 있다. 또한, OIS 렌즈(610)는, 예를 들면, 렌즈 마운트(미도시)의 내측에 위치할 수 있으며, 빛을 모을 수 있다.
도 6c를 참조하면, 본 발명의 일 실시 예에 따르면, 이미지 센서(430)는 복수의 단위 픽셀들을 포함할 수 있으며, 각 단위 픽셀(660)은 적어도 둘 이상의 포토 다이오드를 포함할 수 있으며, 각각의 포토 다이오드 사이에는 배리어(barrier)(670)가 위치할 수 있다. 그리고, 복수의 포토 다이오드 위에는, 예를 들면, 적어도 하나의 컬러 필터(630)가 위치할 수 있다. 또한, 복수의 포토 다이오드 위에는, 예를 들면, 적어도 하나의 마이크로 렌즈(620)가 위치할 수 있다. 상기 마이크로 렌즈(620)는, 예를 들면, 상기 컬러 필터(630) 위에 위치할 수 있다. 각각의 단위 픽셀에 입사되는 빛은, 예를 들면, 적어도 하나의 마이크로 렌즈와 적어도 하나의 컬러 필터를 거쳐 각각의 다른 포토 다이오드에 입사될 수 있으며, 각각의 포토 다이오드에 입사되는 빛의 위상 차이에 따라 초점 검출을 위한 정보를 출력할 수 있다.
다양한 실시예에 따르면, 이러한 이미지 센서의 각 단위 픽셀은 빛의 광량을 감지하는 포토 다이오드(photo diode: PD), 포토 다이오드들(D1, D2)에서 생성된 전하를 플로팅 디퓨전으로 전송하는 전송 스위치(TX_T1, TX_T2), 이미지 센서에 포함된 적어도 두 개의 픽셀들 중에서 해당 픽셀을 선택하는 선택 스위치(RS), 플로팅 디퓨전 영역을 리셋하는 리셋 스위치(RST), 플로팅 디퓨전 영역의 전위를 해당 전송 스위치의 출력 전압으로 출력하는 증폭 스위치(SF)를 포함할 수 있다.
도 6d 및 도 6e를 참조하면, 두 개의 포토 다이오드들(D1, D2)은, 예를 들면, 자신의 신호를 전송하기 위한 전송 스위치들(TX_T1, TX_T2)(665, 667)과 각각 전기적으로 연결될 수 있다.
한 실시 예에 따르면, 포토 다이오드들(D1, D2)은 동일한 마이크로 렌즈를 통과한 광을 수신할 수 있다. 예를 들면, 두 개의 포토 다이오드들 각각은 컬러 필터 영역을 통과한 광을 수신하고, 수신된 광 에너지에 대응되는 전하를 생성할 수 있다.
다양한 실시예에 따르면, 전송 스위치들(665, 667)을 통해 포토 다이오드들(D1, D2)에서 생성된 전하는 플로팅 디퓨전(floating diffusion) 영역(669)으로 전송될 수 있다. 한 실시 예에 따르면, 선택 스위치(RS)(661)는 이미지 센서에 포함된 적어도 두 개의 픽셀들 중에서 해당 픽셀을 선택할 수 있다. 한 실시 예에 따르면, 리셋 스위치(RST)(663)는 플로팅 디퓨전 영역(669)을 리셋할 수 있다. 한 실시 예에 따르면, 증폭 스위치(SF)(671)는 리셋 스위치(663)이 리셋된 후, 전송 스위치들(665, 667) 중 하나가 플로팅 디퓨전 영역(669)으로 전하를 전송하면, 플로팅 디퓨전 영역(669)의 전위를 해당 전송 스위치(665, 667)의 출력 전압으로 출력할 수 있다.
다양한 실시예에 따르면, 포토 다이오드들(D1, D2)에 광 필터의 컬러 필터 영역이 적층되는 경우, 포토 다이오드들(D1, D2)의 출력 전압은 이미지 센서에서 출력되는 색 정보의 성분들이 될 수 있다. 예를 들면, 포토 다이오드(D1)의 출력 전압은 도 6e의 T1 신호가 될 수 있으며, 포토 다이오드(D2)의 출력 전압은 도 6e의 T2 신호가 될 수 있다.
스위치들(663, 665, 671) 각각의 타임 차트를 살펴보고자 한다. 한 실시 예에 따르면, 해당 픽셀의 선택에 따라 선택 스위치(661)는 미리 지정된 시간 동안 하이 레벨(High Level)(이하 '액티브 상태'라고 한다.)이 될 수 있다. 한 실시 예에 따르면, 선택 스위치(661)의 액티브 상태에 따라 리셋 스위치(6633)는 미리 지정된 시간 동안 주기적으로 하이 레벨을 가지는 펄스(이하 '리셋 펄스'라고 한다)를 발생시킴으로써 플로팅 디퓨젼 영역(669)을 리셋할 수 있다.
다양한 실시예에 따르면, 선택 스위치(661)가 리셋 펄스를 발생시킴에 따라 전송 스위치들(665, 667)은 미리 지정된 순서대로 순차적으로 미리 지정된 시간 동안 하이 레벨을 가지는 펄스(이하 '전송 펄스'라 한다)를 발생시킴으로써 순차적으로 포토 다이오드들(D1, D2)에서 생성한 전하를 플로팅 디퓨전 영역(669)으로 전송할 수 있다. 그리고 증폭 스위치(671)는 전송 스위치들(665, 667) 중 하나가 플로팅 디퓨전 영역(669)으로 전하를 전송하고, 플로팅 디퓨전 영역(669)의 전위를 해당 전송 스위치의 출력 전압으로 출력할 수 있다.
본 발명의 일 실시 예에 따른 전자 장치(101)는, 객체(410)에 대응하는 광 신호를 획득하기 위한 이미지 센서와, 상기 광 신호를 이용하여 상기 객체(410)에 대응하는 이미지를 생성하기 위한 모드를 확인하고, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하고, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하고, 상기 이미지 데이터를 이용하여 상기 객체(410)에 대응하는 상기 이미지를 상기 전자 장치와 기능적으로 연결된 디스플레이를 통하여 표시되도록 제어하는 제어부와, 상기 이미지 데이터를 표시하는 디스플레이를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제어부(440)는 상기 모드가 제1 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제1 세팅을 상기 세팅으로 결정하고, 상기 모드가 제2 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제2 세팅을 상기 세팅으로 결정하고, 상기 모드가 제3 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제3 세팅을 상기 세팅으로 결정하고, 상기 모드가 제4 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제4 세팅을 상기 세팅으로 결정할 수 있다.
다양한 실시 예에 따르면, 상기 제어부는, 상기 전자 장치와 기능적으로 연결된 이미지 센서를 구성하는 복수 개의 단위 픽셀들 중, 적어도 하나의 단위 픽셀에 포함된 복수 개의 서브 픽셀들(subpixels)이 서브 픽셀 레벨의 신호가 각각 출력되는 제1 모드, 상기 단위 픽셀 내의 복수 개의 서브 픽셀들의 신호를 합하여 단위 픽셀 레벨의 이미지 데이터를 출력하는 제2 모드, 상기 단위 픽셀 내의 각 서브 픽셀에서 신호가 획득되고, 획득된 신호를 통해 상기 단위 픽셀 내의 서브 픽셀간의 위상차 계산을 위한 정보 및, 상기 획득된 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 출력하는 제3 모드, 또는 제1 단위 픽셀(예: R 픽셀, B 픽셀) 내의 각 서브 픽셀의 신호가 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지 데이터가 출력되고, 제2 단위 픽셀(예: G 픽셀) 내의 각 서브 픽셀에서 획득된 신호를 이용하여 위상차를 계산하기 위한 정보 및 상기 획득된 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터가 출력되는 제4 모드를 확인할 수 있다. 또한, 상기 제4 모드에서는 상기 제1 단위 픽셀에 의해 출력되는 이미지 데이터, 상기 제2 단위 픽셀에 의해 출력되는 이미지 데이터 및 상기 위상차를 계산하기 위한 정보가 함께 출력될 수 있다.
다양한 실시 예에 따르면, 상기 제1 모드는, 상기 이미지 속성에 대한 세팅이 저속 프레임 레이트이며, 상기 제어부는, 상기 제1 모드에 기반하여 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보(예: 위상차를 계산하기 위한 정보)이미지 데이터를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 제2 모드는, 상기 이미지 속성에 대한 세팅이 고속 프레임 레이트이며, 상기 제어부는 상기 제2 모드에 기반하여 이미지 데이터를 출력하고, 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보(예: 위상차를 계산하기 위한 정보)를 출력하지 않을 수 있다.다양한 실시 예에 따르면, 상기 제3 모드는, 상기 이미지 속성에 대한 세팅이 제1 모드보다 고속 프레임 레이트이며, 상기 제어부는, 상기 제3 모드에 기반하여 이미지 데이터 및 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보(예: 위상차를 계산하기 위한 정보)를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 제4 모드는, 상기 이미지 속성에 대한 세팅이 고속 프레임 레이트이며, 상기 제어부는, 제1 단위 픽셀 내의 서브 픽셀들의 신호를 합하여 생성되는 이미지 데이터, 및 제2 단위 픽셀 내의 서브 픽셀에서 획득되는 신호를 이용하여 픽셀들 간의 위상차를 계산하기 위해 생성되는 정보 및 상기 획득된 신호를 합산하거나 평균하여 생성되는 이미지 데이터를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 제어부는, 상기 복수 개의 단위 픽셀들 중 레드(R. red) 픽셀 및 블루(B, blue) 픽셀에 구성된 각각의 서브 픽셀들의 신호를 합하여 상기 이미지 데이터를 생성하고, 그린(G, green) 픽셀에 구성된 각각의 서브 픽셀의 신호를 이용한 위상차를 계산하기 위한 정보 및 상기 획득된 신호를 합산하거나 평균하여 생성되는 이미지 데이터를 생성할 수 있다. 상기 생성된 이미지와 위상차를 계산하기 위한 정보를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 이미지 센서는 복수 개의 단위 픽셀들로 구성되며 각각의 단위 픽셀은 복수 개의 서브 픽셀들을 포함하는 픽셀 어레이, 상기 서브 픽셀의 어레이를 행(row) 단위로 제어하는 로우 드라이버, 상기 서브 픽셀의 어레이로부터 출력된 신호를 저장, 센싱, 증폭 또는 출력하는 리드아웃, 상기 로우 드라이버 및 상기 리드아웃에 클럭 신호를 제공하는 타임 생성기 및 상기 이미지 센서의 동작과 관련된 명령을 저장하는 제어 레지스터를 포함할 수 있다.
본 발명의 일 실시 예에 따른 전자 장치(101)는, 디스플레이, 객체(410)에 대응하는 광 신호를 획득하는 이미지 센서(430), 및 제어부를 포함하고, 상기 제어부는, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하고, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하고, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하고, 및 상기 이미지 데이터에 적어도 기반하여 상기 객체에 대응하는 상기 이미지를 상기 디스플레이를 통하여 표시하도록 설정할 수 있다.
다양한 실시 예에 따르면, 제어부(440)는, 상기 모드가 제1 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제1 세팅을 상기 세팅으로 결정하고, 상기 모드가 제2 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제2 세팅을 상기 세팅으로 결정하도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 모드는, 상기 이미지 센서를 구성하는 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀에 포함된 복수 개의 서브 픽셀들(subpixels)이 서브 픽셀 레벨의 픽셀 데이터를 각각 출력하는 제1 모드, 상기 단위 픽셀 내의 복수 개의 서브 픽셀들의 픽셀 데이터를 합하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제2 모드, 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들 레벨의 픽셀 데이터를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제3 모드, 또는 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들의 픽셀 데이터를 선택적으로 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제4 모드를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제어부(440)는, 상기 모드가 상기 제1 모드인 경우, 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보를 출력하고, 상기 모드가 상기 제2 모드인 경우, 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보를 출력하지 않도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 제어부(440)는, 상기 모드가 상기 제3 모드인 경우, 이미지 데이터 및 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보를 출력하도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 제어부(440)는, 상기 모드가 상기 제4 모드인 경우, 제1 단위 픽셀 내의 서브 픽셀들의 픽셀 데이터를 합하여 생성되는 이미지 데이터, 및 제2 단위 픽셀 내의 서브 픽셀들에서 획득되는 픽셀 데이터를 이용하여 픽셀간의 위상차를 계산하기 위해 생성되는 정보 및 상기 획득된 픽셀 데이터를 합산하거나 평균하여 생성되는 이미지 데이터를 출력되도록 설정할 수 있다.
본 발명의 일 실시 예에 따른 전자 장치(101)는, 객체에 대응하는 광 신호를 획득하는 이미지 센서, 상기 이미지 센서는 복수 개의 단위 픽셀들을 포함하고, 상기 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀은 제 1 서브 픽셀 및 제 2 서브 픽셀을 포함하고; 및 상기 이미지 센서와 기능적으로 연결된 제어부를 포함하고, 상기 제어부는, 상기 이미지 센서를 이용하여, 상기 광 신호에 적어도 기반하여 상기 객체에 대응하는 픽셀 데이터를 획득하고, 상기 객체에 대응하는 이미지의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 확인하고, 상기 세팅이 지정된 조건을 만족하는 경우, 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 이미지에 대한 위상 차이를 결정하고, 및 상기 세팅이 상기 지정된 조건을 만족하지 않는 경우, 상기 위상 차이를 결정하는 동작을 삼가도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 제어부(440)는 상기 세팅이 상기 지정된 조건을 만족하는 경우, 상기 제 1 신호 및 상기 제 2 신호를 합산하거나 평균하여 서브 픽셀 레벨의 상기 이미지를 생성하도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 제어부(440)는 상기 세팅이 상기 지정된 조건을 만족하지 않는 경우, 상기 제 1 신호 및 상기 제 2 신호를 합하여 단위 픽셀 레벨의 상기 이미지를 생성하도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 지정된 조건을 만족하지 않는 경우는, 다른(another) 지정된 조건을 만족하는 경우를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 이미지 속성은, 프레임 레이트를 포함하고, 상기 지정된 조건을 만족하는 경우는, 상기 적어도 하나의 이미지 속성에 대한 세팅이 저속 프레임 레이트인 경우를 포함하고, 상기 지정된 조건을 만족하지 않는 경우는, 상기 적어도 하나의 이미지 속성에 대한 세팅이 고속 프레임 레이트를 포함할 수 있다.
다양한 실시예에 따르면, 상기 적어도 하나의 이미지 속성은, 상기 객체의 크기, 상기 객체와 상기 이미지 센서와의 거리, 상기 객체의 움직임 속도, 또는 그 조합을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 서브 픽셀 및 상기 제2 서브 픽셀의 각각에 대응하는 포토 다이오드를 포함할 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는 이미지 데이터 분석을 통해서 상기 객체의 크기가 미리 지정된 범위에 해당되는 경우(예: 객체의 크기가 이미지 전체 면적의 30%이하인 경우), 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 객체에 대응하는 이미지에 대한 위상 차이를 결정할 수 있다. 또는, 상기 제어부(440)는 상기 객체의 크기가 미리 지정된 범위에 해당되지 않는 경우(예: 객체의 크기가 이미지 전체 면적의 30%이상인 경우), 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 객체에 대응하는 이미지에 대한 위상 차이를 결정하지 않을 수 있다. 본 발명의 실시 예에서는 상기 미리 지정된 범위가 30%이하인 경우에 대해서 설명하였으나, 이는 단지 실시 예일 뿐이며, 미리 지정된 범위는 30% 보다 클 수 있으며, 이러한 미리 지정된 범위는 가변적으로 조절될 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는 근접 센서(240G), 조도 센서(240K) 또는 적외선 센서(미도시) 중 적어도 하나를 이용하여 객체와 이미지 센서와의 거리를 계산할 수 있다. 상기 제어부(440)는 상기 객체와 이미지 센서와의 거리에 기반하여, 위상 차를 계산하기 위한 정보의 생성 여부를 결정할 수 있다. 제어부(440)는 객체와 이미지 센서와의 거리가 지정된 거리(예: 5미터 미만)인 경우, 제1 서브 픽셀에 대응하는 제1 신호 및 제2 서브 픽셀에 대응하는 제2 신호를 이용하여 상기 객체에 대응하는 이미지에 대한 위상 차이를 결정할 수 있다. 또는, 제어부(440)는 객체와 이미지 센서와의 거리가 지정된 거리(예: 5미터 미만)가 아닌 경우, 제어부(440)는 제1 서브 픽셀에 대응하는 제1 신호 및 제2 서브 픽셀에 대응하는 제2 신호를 이용하여 상기 객체에 대응하는 이미지에 대한 위상 차이를 결정하지 않을 수 있다.
다양한 실시예에 따르면, 상기 제어부(440)는 이미지 데이터 분석을 통해서 객체의 움직임 속도를 분석할 수 있다. 예를 들면, 상기 제어부(440)를 통해 판단된 객체의 움직임 속도가 지정된 속도(예: 4km/h 이상)인 경우, 상기 제어부(440)는 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 객체에 대응하는 이미지에 대한 위상 차이를 결정할 수 있다. 또는, 객체의 움직임 속도가 지정된 속도(예: 4km/h 이상)가 아닌 경우, 제어부(440)는 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 객체에 대응하는 이미지에 대한 위상 차이를 결정하지 않을 수 있다.
도 7은 본 발명의 일 실시 예에 따른 이미지 데이터를 생성하는 동작을 나타낸 순서도이다.
도 7을 참조하면, 동작 710에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 데이터를 생성하는 모드를 확인할 수 있다. 상기 모드는, 상기 전자 장치에 대한 사용자로부터 선택되거나 결정될 수 있다. 예를 들면, 상기 전자 장치(101)에 포함된 어플리케이션(예: 카메라(376))을 통해 획득된 사용자 입력에 기반하여, 상기 모드를 확인할 수 있다. 또한, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 사용자가 선택한 모드(예: 촬영 조건)에 대응하여 이미지 데이터의 생성에 사용될 적어도 하나의 이미지 속성 및 이미지 속성의 세팅을 결정할 수 있다. 예를 들면, 전자 장치(101)(예: 제어부(440))는, 카메라 어플리케이션(예: 카메라(376))를 통해 제공되는 촬영 조건(예: 스포츠, 움직임이 많은 인물(예: child), 움직임이 적은 인물(예: selfie), 풍경, 연사, 또는 동영상 등)에 대응하여 이미지 데이터의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는 결정된 세팅에 따라 이미지 데이터를 생성할 수 있다. 상기 촬영 조건 중 스포츠는 제1 모드(또는 제3 모드, 제4 모드)로 일컬어 질 수 있고, 인물은 움직임이 적은 인물(selfie)의 경우에는 제2 모드로, 움직임이 많은 인물(child)는 제3 모드 또는 제4 모드로 일컬어질 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 제어부(440))는, 상기 전자 장치(101)에 기설정된 모드(예: default 모드, 또는 스포츠)인 경우, 제1 모드로 동작될 수 있다. 제1 모드인 경우, 제어부(440)는, 예를 들면, 전체 서브 픽셀에서 서브 픽셀 레벨의 신호를 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 각 단위 픽셀에 포함된 각각의 서브 픽셀 레벨의 신호를 출력할 수 있다.
다양한 실시예에 따르면, 고속으로 영상을 촬영하기 위한 촬영 조건(예: 움직임이 적은 인물(selfie), 연사, 또는 동영상)이 선택되는 경우, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제2 모드로 동작될 수 있다. 제2 모드인 경우, 제어부(440)는, 예를 들면, 각 단위 픽셀 내의 각 서브 픽셀 레벨의 신호를 서브 픽셀에서 합하여 읽은 후, 단위 픽셀 레벨의 이미지 데이터만을 출력할 수 있다. 이 경우, 제2 모드는 제1 모드보다 데이터 수가 적어지게 되므로 상기 제1 모드보다 고속으로 이미지 데이터를 출력할 수 있다.
다양한 실시예에 따르면, 사용자가 고속의 이미지 처리와 위상차 정보를 필요로 하는 촬영 조건(예: 스포츠, 또는 움직임이 많은 인물(child))을 선택하는 경우, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제3 모드로 동작될 수 있다. 제3 모드인 경우, 이미지 센서(430)는, 예를 들면, 각 서브 픽셀에서 신호를 획득하고, 획득된 신호을 이용하여 서브 픽셀간의 위상차 계산을 위한 정보를 생성하고, 각 서브 픽셀에서 획득되는 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 상기 위상차 계산을 위한 정보와 상기 이미지 데이터를 출력할 수 있다.
다양한 실시예에 따르면, 사용자가 고속의 이미지 처리와 일부 위상차 정보를 필요로 하는 촬영 조건(예: 스포츠, 동영상, 움직임이 많은 인물(child))을 선택하는 경우, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제4 모드로 동작될 수 있다. 제4 모드인 경우, 제어부(440)는, 예를 들면, 제1 단위 픽셀 내의 각 서브 픽셀에서 획득되는 신호를 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는 제2 단위 픽셀 내의 각 서브 픽셀에서 신호를 획득하고, 획득된 신호를 이용하여 제2 단위 픽셀 내의 서브 픽셀간의 위상차를 계산하기 위한 정보를 생성하고, 획득된 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 또한, 상기 제 4모드는 제1 단위 픽셀에 의해 출력되는 이미지 데이터, 제2 단위 픽셀에 의해 출력되는 이미지 데이터 및 상기 위상차를 계산하기 위한 정보를 출력할 수 있다. 상기 제1 단위 픽셀은 R 픽셀 또는 B 픽셀 중 적어도 하나이며, 상기 제2 단위 픽셀은 G 픽셀일 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 제어부(440))는 확인된 모드로 이미지 데이터를 출력하기 위해 이미지 센서(430)의 동작을 제어할 수 있다. 상기 모드는, 예를 들면, 이미지 센서에 구비된 전체 서브 픽셀들 각각으로부터 서브 픽셀 레벨의 신호가 출력되는 제1 모드, 단위 픽셀 내의 각 서브 픽셀의 신호가 합해져 단위 픽셀 레벨의 이미지 데이터가 출력되는 제2 모드, 단위 픽셀 내의 각 서브 픽셀에서 픽셀 레벨의 신호가 획득되고, 획득된 신호를 통해 서브 픽셀간의 위상차 계산을 위한 정보가 생성되고, 상기 단위 픽셀 내의 각 서브 픽셀에서 획득되는 서브 픽셀 레벨의 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터가 출력되는 제3 모드, 및 제1 단위 픽셀(예: R 픽셀, B 픽셀) 내의 각 서브 픽셀의 신호가 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지 데이터가 출력되고, 제2 단위 픽셀(예: G 픽셀) 내의 각 서브 픽셀에서 획득된 신호를 이용하여 위상차를 계산하기 위한 정보가 출력되고, 상기 획득된 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터가 출력되는 제4 모드를 포함할 수 있다.
동작 712에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 데이터를 생성하는지 확인할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 센서(430)를 통해서 객체에 대응하는 광 신호가 유입되는지 확인할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 센서(430)를 통해서 객체에 대응하여 유입되는 광 신호를 통해서 이미지 데이터를 생성하는 모드를 확인할 수 있다.
동작 714에서, 제1 모드로 결정되는 경우, 동작 716에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 각 서브 픽셀로부터 신호(또는 픽셀 데이터)를 획득할 수 있다. 이미지 데이터가 제1 모드로 출력되는 경우, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제1 모드로 이미지 데이터가 출력되도록 이미지 센서를 제어할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 센서(430)의 픽셀 어레이(431)에 구성된 단위 픽셀에 포함된 복수의 서브 픽셀들 중 각각의 서브 픽셀이 출력하는 신호를 감지할 수 있다. 전자 장치(101)(예: 제어부(440))는 동일한 단위 픽셀에 포함된 각각의 서브 픽셀에서 출력하는 신호를 처리할 수 있다.
다양한 실시예에 따르면, 동작 718에서, 전자 장치(101)(예: 제어부(440))는 각 단위 픽셀 내에서 각 서브 픽셀 레벨의 신호를 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는 픽셀 어레이(431)의 각각의 단위 픽셀에서 각각의 서브 픽셀 레벨의 신호를 출력할 수 있다.
다양한 실시예에 따르면, 동작 724에서, 제2 모드로 결정되는 경우, 동작 726에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 단위 픽셀 내의 각 서브 픽셀의 신호를 서브 픽셀 레벨에서 합하여 읽을 수 있다. 동작 728에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 서브 픽셀 레벨에서 합해진 신호를 통해 단위 픽셀 레벨의 이미지 데이터만 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제2 모드로 이미지 데이터가 출력되도록 이미지 센서를 제어할 수 있다. 전자 장치(101)(예: 제어부(440))는 이미지 센서(430)의 픽셀 어레이(431)에 구성된 단위 픽셀 내의 서브 픽셀의 신호를 서브 픽셀 레벨에서 합하여 읽어 단위 픽셀 레벨의 이미지 데이터를 출력할 수 있다.
다양한 실시 예에 따르면, 전자 장치(101)(예: 제어부(440))는 제2 모드를 통해 고속 프레임 레이트(예: 초당 60 프레임)로 이미지 데이터를 출력할 수 있으며, 상기 제2 모드에 의해 출력되는 이미지 데이터는, 픽셀간의 위상 차이를 계산하기 위한 정보를 생성하거나 출력하지 않을 수 있다. 이러한 제2 모드는 이미지 데이터만 고속으로 획득하는 시나리오(예: 연사)에 적용될 수 있고, 제2 모드인 경우 서브 픽셀 사이의 합(summing)이 픽셀 레벨(예: 아날로그 도메인)로 이루어질 수 있기 때문에 노이즈가 적을 수 있다.
다양한 실시예에 따르면, 동작 732에서, 제3 모드로 결정되는 경우, 동작 734에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 각 서브 픽셀로부터 신호를 획득할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제3 모드로 이미지 데이터가 출력되도록 이미지 센서(430)를 제어할 수 있다. 동작 736에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 센서(430)의 픽셀 어레이(431)에 구성된 단위 픽셀에 포함된 서브 픽셀 간의 위상 차이를 계산하기 위한 정보를 생성할 수 있다.
다양한 실시예에 따르면, 동작 738에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 단위 픽셀 내의 서브 픽셀에서 획득된 신호를 통해서, 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제3 모드로 이미지 데이터가 출력되도록 이미지 센서(430)를 제어할 수 있다. 전자 장치(101)(예: 제어부(440))는 제3 모드를 통해 제1 모드보다 빠른 프레임 레이트(예: 초당 60 프레임)로 이미지 데이터를 생성할 수 있다.
다양한 실시예에 따르면, 동작 740에서, 전자 장치(101)(예: 제어부(440))는 상기 생성된 이미지 데이터와 단위 픽셀 내의 서브 픽셀간의 위상 차이를 계산하기 위한 정보를 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는 상기 생성된 이미지 데이터와 상기 위상 차이를 계산하기 위한 정보를 함께 출력할 수 있다.
다양한 실시예에 따르면, 동작 744에서, 제4 모드로 결정되는 경우, 동작 746에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 단위 픽셀 별로 각 서브 픽셀의 신호를 선택적으로 합산할 수 있다. 이미지 데이터가 제4 모드로 출력되는 경우, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제4 모드로 이미지 데이터가 출력되도록 이미지 센서(430)를 제어할 수 있다. 전자 장치(101)(예: 제어부(440))는 상기 제4 모드에서 특정 단위 픽셀에 대해서만 서브 픽셀의 신호를 서브 픽셀 레벨에서 합하여 출력하고, 다른(또는 나머지) 단위 픽셀의 경우, 각 서브 픽셀의 픽셀 레벨의 신호를 각각 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 센서(430)의 픽셀 어레이(431)에 구성된 단위 픽셀 내의 서브 픽셀의 신호를 선택적으로 합할 수 있다. 예를 들면, 상기 제4 모드는 R 픽셀 또는 B 픽셀에 구성된 서브 픽셀들의 신호를 합하여 R 픽셀 또는 B 픽셀 레벨의 이미지 데이터를 출력하고, G 픽셀에 구성된 각 서브 픽셀에서 획득된 신호를 이용하여 서브 픽셀간의 위상 차이를 계산하기 위한 정보 및 상기 G 픽셀에서 획득된 신호를 합산하거나 평균하여 G 픽셀 레벨의 이미지 데이터를 출력할 수 있다. 상기 G 픽셀은 R 픽셀 및 B 픽셀 보다 가중치가 높을 수 있다. 예를 들면, 사람의 눈은 녹색에 관한 감도가 가장 높을 수 있다. 이러한 이유로, G 픽셀의 가중치는 0.7을 가질 수 있으며, R 픽셀의 가중치는 0.2를 가질 수 있고, B 픽셀의 가중치는 0.1을 가질 수 있다. 이러한 이유로, 제4 모드는 R 픽셀과 B 픽셀에 구성된 서브 픽셀들의 신호를 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지 데이터를 출력하고, G 픽셀의 경우는 각 서브 픽셀 레벨의 신호를 각각 출력할 수 있다.
다양한 실시예에 따르면, 동작 748에서, 전자 장치(101)(예: 제어부(440)는 단위 픽셀 내의 서브 픽셀간의 위상 차이를 계산하기 위한 정보를 생성할 수 있다. 예를 들면, 전자 장치(101)(예: 제어부(440))는 G 픽셀 내의 서브 픽셀들에서 획득되는 신호를 이용하여 픽셀들 간의 위상 차이를 계산하기 위한 정보를 출력할 수 있다. 상기 정보는 위상 차이를 계산하기 위한 필터링된 데이터를 포함할 수 있다.
다양한 실시예에 따르면, 동작 750에서, 전자 장치(101)(예: 제어부(440))는 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 예를 들면, 전자 장치(101)(예: 제어부(440))는 R 픽셀에서 생성되는 이미지 데이터, G 픽셀에서 생성되는 이미지 데이터 및 B 픽셀에서 생성되는 이미지 데이터를 모을 수 있다. 그리고, 다양한 실시 예에 따르면, 동작 752에서, 전자 장치(101)(예: 제어부(440))는 모아진 이미지 데이터와 정보를 출력할 수 있다. 전자 장치(101)(예: 이미지 센서(430))는, 예를 들어, 제4 모드를 통해 제1 모드보다 빠른 고속 프레임 레이트(예: 초당 60 프레임)로 상기 이미지 데이터를 생성할 수 있다.
다양한 실시 예에 따르면, 상기 제4 모드는 상기 생성된 데이터와 상기 위상차를 계산하기 위한 정보를 각각 출력하거나 동시에 출력할 수 있다. 이러한 제4 모드는, 예를 들면, 고속의 이미지 처리(예: 초당 60 프레임)와 서브 픽셀 정보(예: 위상차 계산을 위한 정보)를 동시에 사용하는 시나리오(예: 연사 또는 스포츠)에 적용될 수 있다. 제4 모드는, 예를 들면, 제1 모드에 비해 인터페이스 라인을 통해 출력 해야하는 데이터량이 적을 수 있다. 또는, 상기 제4 모드는 클럭(예를 들면, 제1 모드 대비 60% 낮음)을 낮추고 픽셀 해상도(예를 들면, 제1 모드 대비 1/2 해상도)를 낮추어 저전력(예를 들면, 제1 모드 대비 10% 감소)으로 동작 가능하며 프레임 레이트(예를 들면, 최대 인터페이스(interface) 속도에 대해서 제1 모드 대비 2배의 속도)를 최대 속도로 높일 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 제어부(440))는 이미지 데이터가 상기 디스플레이(160)를 통해 출력되는 도중에 모드 변경의 발생에 대응하여 변경된 모드를 이용하여 이미지 데이터를 실시간으로 출력할 수 있다.
도 8a는 본 발명의 일 실시 예에 따른 이미지 센서의 단위 픽셀이 두 개의 서브 픽셀들을 포함한 예시도이고, 도 8b는 본 발명의 일 실시 예에 따른 이미지 센서의 단위 픽셀이 네 개의 서브 픽셀들을 포함한 예시도이다.
도 8a 및 도 8b를 참조하면, 본 발명의 일 실시 예에 따른 이미지 센서(430)는 복수 개의 단위 픽셀들을 포함하며, 각각의 단위 픽셀은 복수 개의 서브 픽셀들을 포함할 수 있다. R이라 표시된 픽셀은 적색(red color)에 관한 픽셀 이미지를 얻는 동작을 수행할 수 있고, G라 표시된 픽셀은 녹색(green color)에 관한 픽셀 이미지를 얻는 동작을 수행할 수 있고, B라 표시된 픽셀은 청색(blue color)에 관한 픽셀 이미지를 얻는 동작을 수행할 수 있다.
다양한 실시예에 따르면, 사람의 눈은 녹색에 관한 감도(sensitivity)가 가장 높을 수 있기 때문에 주로 G 픽셀은 2개로 구성되는 필터를 사용할 수 있다.
다양한 실시예에 따르면, 하나의 단위 픽셀은 적어도 둘 이상의 서브 픽셀(예: 포토 다이오드)을 포함할 수 있다. 각 단위 픽셀은 적어도 하나의 마이크로 렌즈를 포함할 수 있다. 또한, 각 단위 픽셀은 적어도 하나의 컬러 필터를 포함할 수 있다. 상기 컬러 필터는 마이크로 렌즈와 서브 픽셀 사이에 위치할 수 있다. 상기 서브 픽셀은 마이크로 렌즈와 컬러 필터를 통과한 적어도 일부 영역의 가시광선을 가지는 빛을 받아들여 이를 데이터로 출력할 수 있다. 따라서, 상기 단위 픽셀은 하나의 서브 픽셀 레벨의 신호를 출력하여 하나의 픽셀에 복수의 데이터를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 단위 픽셀은 포함된 적어도 둘 이상의 서브 픽셀 레벨의 신호를 합하여 하나의 데이터로 출력할 수도 있다. 또한, 상기 단위 픽셀은, 예를 들면, 포함된 적어도 둘 이상의 서브 픽셀들에 들어오는 빛의 위상 차이를 계산하기 위한 위상차 정보를 출력할 수도 있다. 상기 정보는, 위상 차이를 계산하기 위한 필터링된 데이터를 포함할 수 있다. 상기 정보는, 예를 들어 도 8a와 같이 2개의 서브 픽셀들을 포함하는 픽셀의 경우 좌우 픽셀의 위상 차이를 계산하기 위한 정보를 포함할 수 있다. 또한, 상기 정보는, 도 8b와 같이 4개의 서브 픽셀들을 포함하는 경우, 상하의 서브 픽셀을 이용하여 상하 픽셀의 위상 차이를 계산하기 위한 정보 또는 좌우의 서브 픽셀을 이용하여 좌우 픽셀의 위상 차이를 계산하기 위한 정보를 포함할 수도 있다. 뿐만 아니라, 상기 정보는, 대각선에 위치한 서브 픽셀을 이용하여 위상 차이를 계산하기 위한 정보를 포함할 수 있다. 또한, 상기 정보는, 예를 들면, 특정 컬러의 픽셀에 대한 위상 차이를 계산하기 위한 정보만을 출력할 수도 있다. 예를 들어 RGB 픽셀 중 상대적으로 빛을 많이 받아들이는 G픽셀에서만 컬러정보 및 위상 차이를 계산하기 위한 정보만을 출력하고 나머지 R 픽셀 및 B 픽셀에서는 컬러 정보만을 출력할 수도 있다.
이러한 픽셀 어레이에서는 적색, 녹색, 청색에 기초한 베이어 패턴이 도시되었으나 본 발명의 실시예는 이에 국한되지 않고, 다양한 필터 패턴들을 이용할 수 있다.
다양한 실시 예에 따르면, 단위 픽셀들 각각은 광 검출 엘리먼트 및 필터를 포함할 수 있다. 이때 픽셀 R은 적색 광 및/또는 적외선(infrared)을 투과시키는(passing) 필터를 포함할 수 있고, 픽셀 G은 녹색 광 필터를 포함할 수 있고, 픽셀 B은 청색 광 필터를 포함할 수 있다. 단위 픽셀들 각각은, 예를 들면, 적색, 녹색 또는 청색광뿐만 아니라, 적외선도 투과시킬 수 있으므로 픽셀들 각각을 투과한 빛에 의하여 생성된 감지 정보는 적외선에 의한 잡음(noise)을 포함할 수 있다. 감지정보 중 적외선에 의한 잡음이 적은 경우는, 예를 들면, 감지정보를 기초로 하여 칼라정보를 얻을 수 있다. 이와 달리, 적외선에 의한 잡음의 제거가 필요한 경우는, 예를 들면, 적절한 처리과정을 거쳐 적외선에 의한 잡음이 제거된 감지정보를 생성할 수 있고, 이에 기초하여 칼라정보를 얻을 수 있다.
도 9는 본 발명의 일 실시 예에 따른 이미지 데이터를 제1 모드로 출력하는 과정을 나타낸 예시도이다.
도 9를 참조하면, 제어부(440)는, 이미지 센서(430)에 포함된 복수 개의 단위 픽셀들을 구성하는 서브 픽셀 레벨의 신호를 출력하여 데이터를 생성하거나 출력할 수 있다. 제어부(440)는, 예를 들면, 각각의 단위 픽셀에 포함된 복수의 서브 픽셀들 각각으로부터 서브 픽셀 레벨의 신호를 출력할 수 있다. 이미지 센서(430)의 픽셀 어레이(901)는, 예를 들면, 복수 개의 단위 픽셀들(902, 903, 904, 905)을 포함할 수 있으며, 각각의 단위 픽셀은 복수 개의 서브 픽셀들을 포함할 수 있다. 예를 들면, 각 단위 픽셀에는 두 개의 포토 다이오드를 포함할 수 있다. 또는, 각 단위 픽셀은 네 개의 포토 다이오드를 포함할 수도 있다. 예를 들면, 제1 단위 픽셀(902)은 2 개의 서브 픽셀들을 포함할 수 있다. 예를 들면, 제1 단위 픽셀(902)은 R 픽셀이고, 제2 단위 픽셀(903)은 G 픽셀이고, 제3 단위 픽셀(904)은 G 픽셀이고, 제4 단위 픽셀(905)은 B 픽셀일 수 있다.
다양한 실시 예에 따르면, R 픽셀(902)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 제1 서브 픽셀 레벨의 신호(911) 및/또는 제2 서브 픽셀 레벨의 신호(912)를 출력할 수 있다. 또한, G 픽셀(903)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 제3 서브 픽셀 레벨의 신호(913) 및/또는 제4 서브 픽셀 레벨의 신호(914)를 출력할 수 있다.
다양한 실시 예에 따르면, G 픽셀(904)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 제5 서브 픽셀 레벨의 신호(931) 및/또는 제6 서브 픽셀 레벨의 신호(932)를 출력할 수 있다. 또한, B 픽셀(905)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 제7 서브 픽셀 레벨의 신호(933) 및/또는 제8 서브 픽셀 레벨의 신호(934)를 출력할 수 있다.
도 10은 본 발명의 일 실시 예에 따른 이미지 데이터를 제2 모드로 출력하는 과정을 나타낸 예시도이다.
도 10을 참조하면, 전자 장치(101)(예: 제어부(440))는 이미지 센서(430)의 단위 픽셀 내의 서브 픽셀의 신호를 합하여 단위 픽셀 레벨의 이미지 데이터만을 출력할 수 있다. 이 경우, 도 9의 경우보다 데이터 수가 적어지게 되므로 고속으로 이미지 데이터만을 출력할 수 있다. 이미지 센서(430)의 픽셀 어레이는, 예를 들면, 복수 개의 단위 픽셀들을 포함할 수 있으며, 각각의 단위 픽셀은 복수 개의 서브 픽셀들을 포함할 수 있다. 예를 들면, 각 단위 픽셀은 두 개의 포토 다이오드를 포함할 수 있다. 또는, 각 단위 픽셀은 네 개의 포토 다이오드를 포함할 수도 있다. 예를 들면, 제1 단위 픽셀 내지 제4 단위 픽셀(1002, 1003, 1004, 1005)은 각각 2 개의 서브 픽셀들을 포함할 수 있다. 제1 단위 픽셀(1002)은 R 픽셀이고, 제2 단위 픽셀(1003)은 G 픽셀이고, 제3 단위 픽셀(1004)은 G 픽셀이고, 제4 단위 픽셀(1005)은 B 픽셀일 수 있다.
다양한 실시 예에 따르면, R 픽셀(1002)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 각 서브 픽셀에서 신호를 합하여 단위 픽셀 레벨의 이미지 데이터(1011)를 출력할 수 있다. G 픽셀(1003)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 각 서브 픽셀의 신호를 합하여 단위 픽셀 레벨의 이미지 데이터(1012)를 출력할 수 있다. 그리고, 라인에 따른 각각의 단위 픽셀들은 각 서브 픽셀의 신호를 합하여 출력할 수 있다. 그리고, G 픽셀(1004)은, 예를 들면, 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 각 서브 픽셀의 데이터를 합하여 단위 픽셀 레벨의 이미지 데이터(1021)를 출력할 수 있으며, B 픽셀(1005)은 두 개의 서브 픽셀들(예: 포토 다이오드)을 포함할 수 있으며, 각 서브 픽셀의 데이터를 합하여 단위 픽셀 레벨의 이미지 데이터(1022)를 출력할 수 있다.
다양한 실시 예에 따르면, 전자 장치(101)(예: 제어부(440))는 이러한 복수의 서브 픽셀들의 신호를 합하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는 각각의 단위 픽셀에서 생성되는 단위 픽셀 레벨의 이미지 데이터를 함께 출력할 수 있다. 전자 장치(101)는 R 픽셀(1002)에 포함된 각 서브 픽셀에 의한 광량을 합하여 이미지 데이터를 생성하고, G 픽셀(1003)에 포함된 각 서브 픽셀에 의한 광량을 합하여 이미지 데이터(1012)를 생성할 수 있다. 그리고, 전자 장치(101)는 각각의 이미지 데이터(1011, 1012)를 합할 수 있다. 또한, 전자 장치(101)는 G 픽셀(1004)에 포함된 각 서브 픽셀에 의한 데이터를 합하여 이미지 데이터(1021)를 생성하고, B 픽셀(1005)에 포함된 각 서브 픽셀에 의한 데이터를 합하여 이미지 데이터(1022)를 생성할 수 있다.
다양한 실시예에 따르면, 제2 모드는, 예를 들면, 이미지 데이터만 고속으로 획득하기 위한 시나리오(예: 연사)에 적용될 수 있다. 이 경우 서브 픽셀간의 합이 단위 픽셀로 이루어지기 때문에 노이즈가 적어 고화질의 이미지 데이터를 획득할 수 있다. 또한, 전자 장치(101)는, 예를 들면, 단위 픽셀 내의 서브 픽셀간의 위상차이를 계산하기 위한 정보를 생성하지 않거나 출력하지 않을 수 있다.
도 11a는 본 발명의 일 실시 예에 따른 이미지 데이터를 제3 모드로 출력하는 과정을 나타낸 예시도이고, 도 11b는 본 발명의 일 실시 예에 따른 이미지 데이터를 제 4 모드로 출력하는 과정을 나타낸 예시도이다.
도 11a를 참조하면, 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 각각의 단위 픽셀들(1111, 1112, 1113, 1114)의 서브 픽셀들(1111a, 111b, 1112a, 1112b, 1113a, 1113b, 1114a, 1114b)로부터 신호(1121a, 1121b, 1122a, 1122b, 1123a, 1123b, 1124a, 1124b)를 획득할 수 있다. 그리고, 획득된 신호(1121a, 1121b, 1122a, 1122b, 1123a, 1123b, 1124a, 1124b)를 이용하여 위상 차이를 계산하기 위한 정보(1130)를 생성할 수 있다. 그리고, 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 각 단위 픽셀의 복수의 서브 픽셀들로부터 획득된 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 제1 단위 픽셀(1111)의 각 서브 픽셀(1111a, 1111b)로부터 획득된 신호(1121a, 1121b)를 합산하거나 평균하여 단위 픽셀 레벨의 제1 이미지 데이터(1125)를 생성하고, 제2 단위 픽셀(1112)의 각 서브 픽셀(1112a, 1112b)로부터 획득된 신호(1122a, 1122b)를 합산하거나 평균하여 단위 픽셀 레벨의 제2 이미지 데이터(1126)를 생성하고, 제3 단위 픽셀(1113)의 각 서브 픽셀(1113a, 1113b)로부터 획득된 신호(1123a, 1123b)를 합산하거나 평균하여 단위 픽셀 레벨의 제3 이미지 데이터(1127)를 생성하고, 제4 단위 픽셀(1114)의 각 서브 픽셀(1114a, 1114b)로부터 획득된 신호(1124a, 1124b)를 합산하거나 평균하여 단위 픽셀 레벨의 제4 이미지 데이터(1128)를 생성할 수 있다. 그리고, 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 상기 생성된 이미지 데이터(1125, 1126, 1127, 1128)와 상기 정보(1130)를 출력할 수 있다. 예를 들면, 상기 생성된 이미지 데이터(1125, 1126, 1127, 1128)와 상기 정보(1130)는 각각 출력되거나 함께 출력될 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 각각의 단위 픽셀들(1141, 1142, 1143, 1144)의 서브 픽셀들(1141a, 141b, 1142a, 1142b, 1143a, 1143b, 1144a, 1144b)로부터 신호(1151a, 1151b, 1152a, 1152b, 1153a, 1153b, 1154a, 1154b)를 획득할 수 있다. 그리고, 획득된 신호(1151a, 1151b, 1152a, 1152b, 1153a, 1153b, 1154a, 1154b)를 이용하여 위상 차이를 계산하기 위한 정보(1160)를 생성할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 각 단위 픽셀의 복수의 서브 픽셀들로부터 획득된 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제5 단위 픽셀(1141)의 각 서브 픽셀(1141a, 1141b)로부터 획득된 신호(1151a, 1151b)를 합산하거나 평균하여 단위 픽셀 레벨의 제5 이미지 데이터(1155)를 생성하고, 제6 단위 픽셀(1142)의 각 서브 픽셀(1142a, 1142b)로부터 획득된 신호(1152a, 1152b)를 합산하거나 평균하여 단위 픽셀 레벨의 제6 이미지 데이터(1156)를 생성하고, 제7 단위 픽셀(1143)의 각 서브 픽셀(1143a, 1143b)로부터 획득된 신호(1153a, 1153b)를 합산하거나 평균하여 단위 픽셀 레벨의 제7 이미지 데이터(1157)를 생성하고, 제8 단위 픽셀(1144)의 각 서브 픽셀(1144a, 1144b)로부터 획득된 신호(1154a, 1154b)를 합산하거나 평균하여 단위 픽셀 레벨의 제8 이미지 데이터(1158)를 생성할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 생성된 이미지 데이터(1155, 1156, 1157, 1158)와 상기 정보(1160)를 출력할 수 있다. 예를 들면, 상기 생성된 이미지 데이터(1155, 1156, 1157, 1158)와 상기 정보(1160)는 각각 출력되거나 함께 출력될 수 있다. 예를 들면, 상기 생성된 제1 이미지 데이터 내지 제8 이미지 데이터(1125, 1126, 1127, 1128, 1155, 1156, 1157, 1158)와 상기 정보(1130, 1160)은 함께 출력될 수 있다.
이미지 센서(430)의 픽셀 어레이(431)는 복수 개의 단위 픽셀들을 포함할 수 있으며, 각각의 단위 픽셀은 복수 개의 서브 픽셀들을 포함할 수 있다. 예를 들면, 각 단위 픽셀은 두 개의 포토 다이오드를 포함할 수 있다. 또는, 각 단위 픽셀은 네 개의 포토 다이오드를 포함할 수도 있다. 제어부(440)는 이미지 센서(430)에 포함된 단위 픽셀 내의 서브 픽셀간의 신호를 합산하거나, 평균을 계산할 수 있다. 제어부(440)는 합해진 데이터 또는 평균화된 데이터와 각 단위 픽셀내의 서브 픽셀들 간의 위상 차이를 계산하기 위한 정보를 동시에 출력할 수 있다. 또한, 제1 단위 픽셀(1111)은 R 픽셀을 포함할 수 있고, 제2 단위 픽셀(1112)은 G 픽셀을 포함할 수 있다. 그리고, 제3 단위 픽셀(1113)은 R 픽셀을 포함할 수 있고, 제4 단위 픽셀(1114)은 G 픽셀을 포함할 수 있다. 또한, 제5 단위 픽셀(1141)은 G 픽셀을 포함할 수 있고, 제6 단위 픽셀(1142)은 B 픽셀을 포함할 수 있다. 그리고, 제7 단위 픽셀(1143)은 G 픽셀을 포함할 수 있고, 제8 단위 픽셀(1144)은 B 픽셀을 포함할 수 있다.
다양한 실시 예에 따르면, 전자 장치(101)(예: 이미지 센서(430))는 각 단위 픽셀들의 각 서브 픽셀간의 위상 차이를 계산하기 위한 정보를 생성할 수 있다.
도 11b를 참조하면, 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 제1 단위 픽셀(1161)의 서브 픽셀들(1161a, 1161b)의 신호를 서브 픽셀 레벨에서 합산(1171)하여 단위 픽셀 레벨의 이미지 데이터(1175)를 출력하고 제2 단위 픽셀(1162)의 서브 픽셀들(1162a, 1162b)에서 획득되는 신호(1172a, 1172b)를 합하지 않고 각각 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제2 단위 픽셀(1162)에서 획득된 신호(1172a, 1172b)를 이용하여 위상 차이를 계산하기 위한 정보(1179)를 생성하고, 획득된 신호(1172a, 1172b)를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터(1176)를 출력할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제3 단위 픽셀(1163)의 서브 픽셀들(1163a, 1163b)의 신호를 서브 픽셀 레벨에서 합산(1173)하여 단위 픽셀 레벨의 이미지 데이터(1177)를 출력하고 제4 단위 픽셀(1164)의 서브 픽셀들(1164a, 1164b)에서 획득되는 신호(1174a, 1174b)를 합하지 않고 각각 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제4 단위 픽셀(1164)에서 획득된 신호(1174a, 1174b)를 이용하여 위상 차이를 계산하기 위한 정보(1179)를 생성하고, 획득된 신호(1174a, 1174b)를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터(1178)를 출력할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 생성된 이미지 데이터(1175, 1176, 1177, 1178)와 상기 정보(1179)를 출력할 수 있다. 예를 들면, 상기 생성된 이미지 데이터(1175, 1176, 1177, 1178)와 상기 정보(1179)는 각각 출력되거나 함께 출력될 수 있다.
전자 장치(101)(예: 제어부(440))는, 예를 들면, 제5 단위 픽셀(1181)의 서브 픽셀들(1181a, 1181b)에서 획득되는 신호(1191a, 1191b)를 합하지 않고 각각 출력하고 제6 단위 픽셀(1182)의 서브 픽셀들(1182a, 1182b)의 신호를 서브 픽셀 레벨에서 합산(1192)하여 단위 픽셀 레벨의 이미지 데이터(1192)를 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제5 단위 픽셀(1181)에서 획득된 신호(1191a, 1191b)를 이용하여 위상 차이를 계산하기 위한 정보(1199)를 생성하고, 획득된 신호(1191a, 1191b)를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터(1194)를 출력할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제7 단위 픽셀(1183)의 서브 픽셀들(1183a, 1183b)에서 획득되는 신호(1193a, 1193b)를 합하지 않고 각각 출력하고 제8 단위 픽셀(1184)의 서브 픽셀들(1184a, 1184b)의 신호를 서브 픽셀 레벨에서 합산(1194)하여 단위 픽셀 레벨의 이미지 데이터(1197)를 출력할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 제7 단위 픽셀(1183)에서 획득된 신호(1193a, 1193b)를 이용하여 위상 차이를 계산하기 위한 정보(1199)를 생성하고, 획득된 신호(1191a, 1191b)를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터(1194)를 출력할 수 있다. 그리고, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 생성된 이미지 데이터(1195, 1196, 1197, 1198)와 상기 정보(1199)를 출력할 수 있다. 예를 들면, 상기 생성된 이미지 데이터(1194, 1195, 1196, 1197)와 상기 정보(1199)는 각각 출력되거나 함께 출력될 수 있다. 다양한 실시예에 따르면, 각각의 단위 픽셀에서 생성되는 단위 픽셀 레벨의 이미지 데이터(1175, 1176, 1177, 1178, 1195, 1196, 1197, 1198)는 더해져 출력될 수 있고, 상기 제2 단위 픽셀 내의 서브 픽셀간 및 상기 제4 단위 픽셀 내의 서브 픽셀 간의 위상 차이를 계산하기 위한 정보(1179, 1199)는 상기 더해진 이미지 데이터에 추가되어 전송될 수 있다.
제1 단위 픽셀(1161)은 R 픽셀을 포함할 수 있고, 제2 단위 픽셀(1162)은 G 픽셀을 포함할 수 있다. 그리고, 제3 단위 픽셀(1163)은 R 픽셀을 포함할 수 있고, 제4 단위 픽셀(1164)은 G 픽셀을 포함할 수 있다. 또한, 제5 단위 픽셀(1181)은 G 픽셀을 포함할 수 있고, 제6 단위 픽셀(1182)은 B 픽셀을 포함할 수 있다. 그리고, 제7 단위 픽셀(1183)은 G 픽셀을 포함할 수 있고, 제8 단위 픽셀(1184)은 B 픽셀을 포함할 수 있다. 상술한 바와 같이, 제4 모드는 제1 단위 픽셀(또는 제3 단위 픽셀, 제6 단위 픽셀, 제8 단위 픽셀) 내의 서브 픽셀들의 신호를 선택적으로 합하여 생성되는 이미지 데이터, 및 제2 단위 픽셀(또는 제4 단위 픽셀, 제5 단위 픽셀, 제7 단위 픽셀) 내의 서브 픽셀에서 획득되는 신호를 이용하여 픽셀들 간의 위상차를 계산하기 위해 생성되는 정보 및 상기 획득된 신호를 합산하거나 평균하여 생성되는 이미지 데이터가 더해져 출력될 수 있다.
다양한 실시 예에 따르면, 전자 장치(101)(예: 이미지 센서(430))는 G 픽셀(1162, 1164, 1181, 1183)의 각 서브 픽셀(예: 1162a와 1162b, 1164a와 1164b, 1181a와 1181b, 1183a와 1183b)간의 위상 차이를 계산하기 위한 정보를 생성할 수 있다. 상기 정보는 서브 픽셀간의 위상 차이를 계산하기 위한 정보이며, 필터링된 데이터를 포함할 수 있다.
다양한 실시 예에 따른 제4 모드는, 고속 프레임율(High frame rate)(예: 초당 60 프레임)과 서브 픽셀 간의 위상 차이를 갖는 출력모드(예: 스포츠 또는 동영상)를 포함할 수 있다. 제4 모드는, 예를 들면, 고속의 이미지 처리와 서브 픽셀간의 위상 차이를 계산하기 위한 정보를 사용하는 시나리오(예: 연사 또는 스포츠)에 적용될 수 있다. 예를 들면, 고속으로 프리뷰(예: 고속 이미지 처리 또는 초당 60 프레임)하면서 AF가 필요한 경우, 제4 모드로 동작할 수 있다. 제4 모드는, 예를 들면, 제1 모드에 비해 인터페이스 라인을 통해서 출력해주어야 하는 데이터의 양이 적기 때문에 클럭(예를 들면, 제1 모드 대비 60% 낮음)을 낮추고 픽셀 해상도(예를 들면, 제1 모드 대비 1/2 해상도)를 낮추어 저전력(예를 들면, 제1 모드 대비 10% 감소 가능)으로 동작 가능할 수 있다. 또한, 인터페이스가 지원하는 최대 속도로 출력이 가능하여 프레임율을 높일 수 있다. 이러한 제4 모드는, 예를 들면, 일부 서브 픽셀에서 출력되는 데이터를 합하여 데이터를 출력함으로써 제1 모드 보다 출력 속도를 향상시킬 수 있다.
도 12는 본 발명의 실시 예에 따른 제4 모드에서 서브 픽셀 레벨의 신호를 선택적으로 합하는 과정을 나타낸 예시도이다.
도 12를 참조하면, 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 단위 픽셀(예: R 픽셀)의 두 개의 서브 픽셀들을 통해서 획득된 신호를 서브 픽셀 레벨에서 합산(1212)하여 해당 포토 다이오드의 커패시터에 충전하고 리드아웃 출력할 수 있다. 또한, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 단위 픽셀(예: G 픽셀)의 두 개의 서브 픽셀들 중 각각의 서브 픽셀을 통해서 획득된 신호(1220, 1230)를 해당 포토 다이오드의 각각의 커패시터에 충전하고 리드아웃 출력할 수 있다. 도 12는 제4 모드의 출력 속도를 더 개선하기 위해, 일부 픽셀의 신호를 선택적으로 합하여 단위 픽셀 레벨의 이미지 데이터를 출력함으로써, 제3 모드보다 더 빠르게 이미지 데이터를 생성할 수 있으며, 동시에 G 픽셀 내의 서브 픽셀간의 위상 차이를 출력할 수 있다.
도 13a는 본 발명의 실시 예에 따라 생성된 이미지 데이터 및/또는 위상 차이를 계산하기 위한 정보를 전송하는 채널(예: MIPI(mobile industry processor interface), 또는 MIPI VC(virtual channel))의 예시도이고, 도 13b는 본 발명의 실시 예에 따른 지정된 채널(예: MIPI, 또는 MIPI VC)을 통해 이미지 데이터와 위상 차이를 계산하기 위한 정보를 전송하는 예시도이다. 예를 들면, 전자 장치(예: 제어부(440))는, 이미지 데이터를 전송하는 4개의 라인(1311) 및 상기 이미지 데이터를 전송하는 4개의 라인(1311)과 관련된 모든 단위 픽셀을 이용하여 생성된, 위상 차이를 계산하기 위한 정보(1312, 1313)를 전송할 수 있다. 그리고, 도 13c는 본 발명의 실시 예에 따른 지정된 채널(예: MIPI, 또는 MIPI VC)을 통해 이미지 데이터와 위상 차이를 계산하기 위한 정보를 전송하는 예시도이다. 예를 들면, 전자 장치(예: 제어부(440))는, 이미지 데이터를 전송하는 4개의 라인(1321) 및 상기 이미지 데이터를 전송하는 4개의 라인(1321)과 관련된 단위 픽셀 중 일부를 이용하여 생성된, 위상 차이를 계산하기 위한 정보(1322)를 전송할 수 있다. 상기 이미지 데이터를 전송하는 4개의 라인(1311, 1321)과 위상 차이를 계산하기 위한 정보(1312, 1313, 1322)를 전송하기 위한 라인은 서로 다른 라인을 이용할 수 있다. 상기 이미지 데이터를 전송하는 4개의 라인(1311, 1321)은, 예를 들면, MIPI를 이용할 수 있고, 상기 위상 차이를 계산하기 위한 정보(1312, 1313, 1322)는 MIPI VC를 이용할 수 있다.
도 13a 내지 도 13c를 참조하면, 본 발명의 실시 예에 따라 생성된 이미지 데이터는 라인(Line) 1 내지 라인(Line) 4(1301, 1302, 1303, 1304)를 통해 전송되고, 상기 정보는 별도의 채널(1305)을 통해 전송될 수 있다. 또는, 발명의 실시 예에 따라 생성된 이미지 데이터는 라인 1 내지 라인 4(1301, 1302, 1303, 1304) 중 적어도 하나를 통해 전송될 수 있다.
도 13b를 참조하면, 전자 장치(예: 제어부(440))는, 이미지 데이터(1311)와 상기 이미지 데이터(1311)와 관련된 모든 단위 픽셀을 이용하여 생성된 위상 차이를 계산하기 위한 정보를(1312, 1313) 전송할 수 있다. 상기 이미지 데이터(1311)와 상기 위상 차이를 계산하기 위한 정보(1312, 1313)는 하나의 채널을 통해 전송되거나 각각 다른 채널을 통해 전송될 수도 있다. 한 실시예에 따르면, 제어부(440)는, 이미지 센서(430)에서 HDR(high dynamic range)를 제공하지 않는 경우, 도 13b에 도시된 바와 같이, 이미지 데이터(1311)와 관련된 모든 단위 픽셀을 이용하여 위상 차이를 계산하기 위한 정보(1312, 1313)을 생성할 수 있다. 상기 이미지 데이터(1311)는, 도 13a에 도시된 라인 1 내지 라인 4(1301, 1302, 1303, 1304)를 포함할 수 있다. 또한 상기 위상 차이를 계산하기 위한 정보(1312, 1313)는, 도 13a에 도시된 PAF data를 포함할 수 있다.
도 13c을 참조하면, 전자 장치(예: 제어부(440))는, 이미지 데이터(1321)와 상기 이미지 데이터(1321)와 관련된 모든 단위 픽셀 중 일부를 이용하여 생성된, 위상 차이를 계산하기 위한 정보(1322)를 전송할 수 있다. 상기 이미지 데이터(1321)와 위상 차이를 계산하기 위한 정보(1322)는 하나의 채널을 통해 전송될 수 있고, 각각 다른 채널을 통해 전송될 수도 있다. 한 실시예에 따르면, 제어부(440)는, 이미지 센서(430)에서 HDR(high dynamic range)를 제공하는 경우, 도 13c에 도시된 바와 같이, 이미지 데이터(1321)와 관련된 단위 픽셀 중 일부(예: 장노출을 지원하는 픽셀)를 이용하여 위상 차이를 계산하기 위한 정보(1322)을 생성할 수 있다. 상기 이미지 데이터(1321)는, 도 13a에 도시된 라인 1 내지 라인 4(1301, 1302, 1303, 1304)를 포함할 수 있다. 또한 상기 위상 차이를 계산하기 위한 정보(1322)는, 도 13a에 도시된 PAF data를 포함할 수 있다.
다양한 실시예에 따르면, 제어부(440)는, 이미지 데이터와 위상 차이를 계산하기 위한 정보를 동시 또는 순차적으로 전송하여, 위상차 정보(예: 위상 차이를 계산하기 위한 정보를 이용하여 산출된 정보)를 효율적으로 생성할 수 있다. 예를 들면, 제어부(440)는, 이미지 데이터와 위상 차이를 계산하기 위한 정보를 동시 또는 순차적으로 전송하여, 위상차 정보가 누락되거나 위상차 정보가 생성되는 시간이 느려지는 문제를 방지할 수 있다. 예를 들면, 제어부(440)는, 이미지 데이터의 4개의 라인(1311, 1321)과 위상차이를 계산하기 위한 정보(1312, 1313, 1322)를 동시 또는 순차적으로 전송하여, 이미지 데이터를 모두 전송한 후, 위상 차이를 계산하기 위한 정보를 전송할 때 발생하는 문제(예: 1 frame의 시간차 발생)를 방지 할 수 있다.
도 14는 본 발명의 일 실시 예에 따른 이미지를 생성하는 동작을 나타낸 순서도이다.
도 14를 참조하면, 동작 1410에서 전자 장치(101)(예: 이미지 센서(430))는, 예를 들면, 객체에 대응하는 광 신호를 획득할 수 있다. 상기 광 신호는 전자 장치(101)의 이미지 센서(430)에 구비된 각각의 서브 픽셀에서 획득되는 신호를 이용하여 이미지 데이터를 생성하는데 요구되는 다양한 정보를 포함할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 상기 서브 픽셀로부터 획득되는 신호를 통해서 각 서브 픽셀 간의 위상 차이를 계산하기 위한 정보를 생성하고(또는 생성하거나), 이미지 데이터를 생성할 수 있다. 상기 이미지 센서(430)는 복수 개의 단위 픽셀들을 포함할 수 있으며, 각각의 단위 픽셀은 R 픽셀, G 픽셀, 또는 B 픽셀 중 어느 하나를 포함할 수 있다.
다양한 실시예에 따르면, 동작 1412에서 전자 장치(101)(예: 제어부(440))는 적어도 하나의 이미지 속성에 대한 세팅을 확인할 수 있다. 예를 들면, 디스플레이(160)를 통해 출력될 이미지의 이미지 속성을 확인할 수 있다. 상기 이미지 속성은, 예를 들면, 객체의 크기, 상기 객체와 상기 이미지 센서와의 거리, 상기 객체의 움직임 속도, 출력될 이미지의 프레임 레이트 또는 그 조합을 포함할 수 있다. 전자 장치(101)는, 예를 들면, 각 서브 픽셀에 대응하는 신호를 통해서 위상 차이를 결정하거나 또는 결정하지 않기 위해 상기 이미지 속성을 확인할 수 있다.
다양한 실시예에 따르면, 동작 1414에서 전자 장치(101)(예: 제어부(440))는 세팅이 지정된 조건을 만족하는지 판단할 수 있다. 전자 장치(101)는, 예를 들면, 세팅이 지정된 조건을 만족하는 경우(예: 제1 지정된 범위에 속하는 경우), 제1 서브 픽셀의 제1 신호 및 제2 서브 픽셀의 제2 신호를 이용하여 이미지 데이터를 생성하도록 전자 장치(101)에 구성된 적어도 하나의 구성 요소를 제어하거나 설정할 수 있다.
다양한 실시예에 따르면, 동작 1416에서 전자 장치(101)(예: 이미지 센서(430))는 제1 서브 픽셀의 제1 신호 및 제2 서브 픽셀의 제2 신호를 이용하여 객체에 대응하는 위상 차이를 결정할 수 있다. 또는, 전자 장치(101)(예: 제어부(440))는, 동작 1418에서 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제1 신호 및 제2 신호를 이용하여 이미지 데이터를 생성할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제1 신호 및 제2 신호를 이용하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 예를 들면, 상기 제 1 신호 및 상기 제 2 신호를 합하거나, 상기 제 1 신호 및 상기 제 2 신호의 평균 값을 이용하여 상기 이미지 데이터를 생성할 수 있다.
다양한 실시예에 따르면, 동작 1414에서 전자 장치(101)(예: 제어부(440))는 상기 세팅이 지정된 조건을 만족하지 않는 경우(예: 제2 지정된 범위에 속하는 경우), 동작 1420에서 예를 들면, 제1 서브 픽셀의 제1 신호 및 제2 서브 픽셀의 제2 신호를 이용하여 객체에 대응하는 위상 차이를 결정하지 않을 수 있다. 그리고, 동작 1422에서 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제1 신호 및 제2 신호를 합하여 이미지 데이터를 생성할 수 있다. 전자 장치(101)(예: 제어부(440))는, 예를 들면, 제1 신호 및 제2 신호를 합하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 상기 지정된 조건을 만족하지 않는 경우는 다른 지정된 조건을 만족하는 경우를 포함할 수 있다.
도 15는 본 발명의 다른 실시 예에 따른 이미지 데이터를 생성하는 동작을 나타낸 순서도이다.
다양한 실시 예에 따르면, 이미지 데이터를 생성하는 동작은 이미지 데이터를 생성하기 위한 모드를 확인하는 동작과, 이미지 속성에 대한 세팅을 결정하는 동작과, 상기 세팅에 기반하여 상기 이미지 데이터를 생성하는 동작과, 상기 생성된 이미지 데이터를 출력하는 동작을 포함할 수 있다.
도 15를 참조하면, 동작 1510에서, 전자 장치(101)(예: 제어부(440))는, 예를 들면, 이미지 데이터를 생성하기 위한 모드를 확인할 수 있다. 전자 장치(101)는, 예를 들면, 사용자에 의해 선택되는 조건에 부합하는 이미지 데이터를 생성하기 위한 모드를 판단할 수 있다. 또는, 전자 장치(101)는, 예를 들면, 사용자의 상황 또는 촬영되는 이미지의 속성에 따라 모드를 선택적으로 동작시킬 수 있다. 상기 이미지의 속성은 스포츠, 인물, 풍경 또는 동영상에 따라 다를 수 있으며, 이러한 속성에 따라 상기 모드에 대응하여 전자 장치(101)는 선택적으로 동작될 수 있다.
다양한 실시예에 따르면, 전자 장치(101)(예: 제어부(440))는 이미지 데이터를 생성하는 모드가 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀에 포함된 복수 개의 서브 픽셀들의 신호가 각각 출력되는 제1 모드를 확인할 수 있다. 전자 장치(101)(예: 제어부(440))는, 각 단위 픽셀 내의 복수 개의 서브 픽셀들과의 신호가 서브 픽셀 레벨에서 합해져 단위 픽셀 레벨의 이미지 데이터가 출력되는 제2 모드를 확인할 수 있다. 전자 장치(101)(예: 제어부(440))는, 각 단위 픽셀 내의 복수 개의 서브 픽셀들에서 획득되는 신호를 통해 위상 차이를 계산하기 위한 정보가 생성되고, 상기 획득된 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터가 생성되는 제3 모드를 확인할 수 있다. 전자 장치(101)(예: 제어부(440))는, 제1 단위 픽셀(예: R 픽셀, B 픽셀) 내의 각 서브 픽셀의 신호가 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지 데이터가 출력되고, 제2 단위 픽셀(예: G 픽셀) 내의 각 서브 픽셀에서 획득된 신호를 이용하여 위상차를 계산하기 위한 정보가 출력되고, 상기 획득된 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터가 출력되는 제4 모드를 확인할 수 있다. 상기 제1 모드는, 예를 들면, 고속 AF(예: 위상차 정보를 이용한 AF)가 필요한 경우 선택되는 모드이며, 상기 제2 모드는, 예를 들면, 고속 프레임 레이트(예: 초당 60 프레임)가 필요한 경우 선택되는 모드이다. 그리고, 상기 제3 모드 및 상기 제4 모드는, 예를 들면, 고속 AF(예: 위상차 정보를 이용한 AF)와 고속 프레임 레이트(예: 초당 60 프레임)가 필요한 경우 선택되는 모드이다. 상기 제4 모드는, 예를 들면, 이미지 데이터를 제1 모드 보다 고속 프레임 레이트로 생성할 수 있고, 각각의 단위 픽셀 레벨의 이미지 데이터와 G 픽셀 내의 서브 픽셀 간의 위상 차이를 계산하기 위한 정보가 생성될 수 있는 모드이다. 상기 제4 모드는, 예를 들면, 상기 서브 픽셀들의 신호가 서브 픽셀 레벨에서 선택적으로 합산되어 단위 픽셀 레벨의 이미지 데이터가 생성되고, 상기 생성된 이미지 데이터에 상기 정보가 추가되어 출력될 수 있다. 상기 제4 모드는, 예를 들면, R 픽셀에 구성된 서브 픽셀들의 신호가 서브 픽셀 레벨에서 합산되어 단위 픽셀 레벨의 이미지 데이터가 출력되고, G 픽셀에 구성된 각각의 서브 픽셀에서 획득된 신호를 이용하여 위상 차이를 계산하기 위한 정보가 출력되고, 상기 획득된 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터가 출력되고, B 픽셀에 구성된 각각의 서브 픽셀들의 신호가 서브 픽셀 레벨에서 합산되여 단위 픽셀 레벨의 이미지 데이터가 출력될 수 있다. 그리고, 제4 모드는 생성된 각각의 이미지 데이터를 모으고, 모아진 데이터에 상기 정보가 추가되어 함께 출력될 수 있다.
다양한 실시예에 따르면, 동작 1512에서, 전자 장치(101)(예: 제어부(440))는 이미지 속성에 대한 세팅을 결정할 수 있다. 전자 장치(101)는, 예를 들면, 상기 동작 1512에서 확인된 모드에 적어도 기반하여 이미지 데이터의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정할 수 있다.
다양한 실시예에 따르면, 동작 1514에서, 전자 장치(101)(예: 제어부(440))는 상기 세팅에 기반하여 이미지 데이터를 생성할 수 있다. 상기 세팅이 제1 모드인 경우, 전자 장치(101)는, 예를 들면, 고속 AF(예: 위상차 정보를 이용한 AF)(예: 초당 60 프레임)를 제공할 수 있다. 또한, 전자 장치(101)는, 예를 들면, 저속 프레임 레이트(예: 초당 30 프레임)로 이미지 데이터를 생성할 수 있다. 본 발명의 일 실시예에서는 저속 프레임 레이트가 초당 30 프레임 또는 초당 15 프레임에 대해서 기술하였으나, 이는 단지 실시 예일 뿐, 본 발명에 따른 저속 프레임 레이트는 전자 장치(101)의 사양 또는 기술 발전 등에 따라 상술한 초당 30 프레임 또는 초당 15 프레임 보다 저속 또는 고속의 프레임 레이트를 포함할 수 있다.
다양한 실시예에 따르면, 상기 확인된 세팅이 제2 모드인 경우, 전자 장치(101)는 제1 모드의 프레임 레이트 보다 빠른 프레임 레이트(예: 초당 60 프레임)로 상기 이미지 데이터를 생성할 수 있고, 단위 픽셀 내의 서브 픽셀간의 위상 차이를 계산하기 위한 정보를 생성하지 않을 수 있다. 그리고, 제1 모드의 경우 단위 픽셀 내의 각 서브 픽셀에서 획득되는 신호가 출력되고, 제2 모드의 경우 단위 픽셀 내의 각 서브 픽셀에서 획득되는 신호를 서브 픽셀 레벨에서 합하여 단위 픽셀 레벨의 이미지가 생성되어 출력되기 때문에, 제2 모드는 제1 모드보다 데이터 수(또는 데이터 양)가 적어지게 되므로 제2 모드를 통해 고속으로 이미지 데이터만을 출력할 수 있다. 본 발명의 일 실시예에서는 고속 프레임 레이트가 초당 60 프레임에 대해서 기술하였으나, 이는 단지 실시 예일 뿐, 본 발명에 따른 고속 프레임 레이트는 전자 장치(101)의 사양 또는 기술 발전 등에 따라 상술한 초당 60 프레임 보다 저속 또는 고속의 프레임 레이트를 포함할 수 있다.
다양한 실시예에 따르면, 상기 확인된 세팅이 제3 모드인 경우, 전자 장치(101)는 각각의 단위 픽셀 내의 서브 픽셀들에서 획득되는 신호를 이용하여 각각의 단위 픽셀 내의 서브 픽셀간의 위상차를 계산하기 위한 정보를 생성하고, 상기 각각의 단위 픽셀 내의 서브 픽셀들의 신호를 서브 픽셀 레벨에서 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터를 생성할 수 있다. 전자 장치(101)는, 예를 들면, 제1 모드보다 처리하는 데이터 수(또는 데이터 양)가 적어지게 되므로, 제3 모드에서는, 제1 모드보다 고속으로 이미지 데이터와 위상 차이를 계산하기 위한 정보를 출력할 수 있다.
다양한 실시예에 따르면, 상기 확인된 세팅이 제4 모드인 경우, 제1 모드에 비해 인터페이스 라인을 통해 출력하는 데이터량이 적을 수 있다. 또는 제4 모드는 클럭(예를 들면, 제1 모드 대비 60% 낮음)을 낮추고 픽셀 해상도(예를 들면, 제1 모드 대비 1/2 해상도)를 낮추어 저전력(예를 들면, 제1 모드 대비 10% 감소 가능)으로 동작 가능하며 프레임 레이트를 최대 속도로 높일 수 있다. 상기 제4 모드에 해당되는 프레임 레이트(예를 들면, 최대 인터페이스 속도에 대해서 제1 모드 대비 2배의 속도)는 상대적으로 고속으로 프레임을 처리하는 비율로서, 초당 60 프레임인 경우를 포함할 수 있다. 본 발명의 실시 예에서는 초당 60 프레임에 대해서 기술하였으나, 이는 단지 실시 예일 뿐, 전자 장치(101)의 사양 또는 기술 발전 등에 따라 초당 60 프레임 보다 저속 또는 고속의 프레임 레이트를 포함할 수 있다.
다양한 실시예에 따르면, 동작 1516에서, 전자 장치(101)(예: 제어부(440))는 생성된 이미지 데이터를 출력할 수 있다. 전자 장치(101)는, 예를 들면, 동작 1514에서 각각의 단위 레벨에서 생성된 복수의 이미지 데이터를 더하여 출력할 수 있다. 그리고, 전자 장치(101)는, 예를 들면, 상기 더해진 복수의 이미지 데이터를 후처리 과정을 통해 처리하여 상기 전자 장치와 기능적으로 연결된 디스플레이(160)를 통해 표시할 수 있다. 전자 장치(101)는, 예를 들면, 이미지 데이터가 상기 디스플레이(160)를 통해 표시되는 도중에 모드가 변경되거나 세팅이 변경되는 경우, 변경된 세팅에 해당되는 프레임 레이트 또는 해상도 중 적어도 하나를 이용하여 이미지 데이터를 생성하고, 생성된 이미지 데이터를 실시간으로 표시할 수 있다.
도 7, 도 14 및 도 15에 도시된 과정 내지 방법에 기재된 동작들(예: 710 내지 752, 1410 내지 1422, 또는 1510 내지 1516)은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 예를 들면, 다른 순서로 실행되거나, 일부 동작이 생략되거나, 다른 동작이 추가될 수 있다.
다양한 실시 예에 따르면, 객체에 대응하는 광 신호를 획득하기 위한 이미지 센서와, 상기 이미지 센서를 제어하기 위한 제어부를 포함하는 전자 장치에서, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하는 동작과, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하는 동작과, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하는 동작과, 및 상기 이미지 데이터에 적어도 기반하여, 상기 객체에 대응하는 상기 이미지를 상기 전자 장치와 기능적으로 연결된 디스플레이를 통하여 표시하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 결정하는 동작은, 상기 모드가 제1 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제1 세팅을 상기 세팅으로 결정하는 동작과, 상기 모드가 제2 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제2 세팅을 상기 세팅으로 결정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 모드는, 이미지 센서를 구성하는 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀에 포함된 복수 개의 서브 픽셀들(subpixels)이 서브 픽셀 레벨의 픽셀 데이터를 각각 출력하는 제1 모드, 상기 단위 픽셀 내의 복수 개의 서브 픽셀들의 픽셀 데이터를 합하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제2 모드, 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들 레벨의 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제3 모드, 또는 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들의 픽셀 데이터를 선택적으로 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제4 모드를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 모드에 기반하여, 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 제2 모드에 기반하여 이미지 데이터를 출력하고, 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보를 출력하지 않을 수 있다.
다양한 실시 예에 따르면, 상기 제3 모드에 기반하여, 이미지 데이터 및 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 제4 모드에 기반하여 제1 단위 픽셀 내의 서브 픽셀들의 픽셀 데이터를 합산하거나 평균하여 생성되는 이미지 데이터 및 제2 단위 픽셀 내의 서브 픽셀들에서 획득되는 픽셀 데이터를 이용하여 픽셀간의 위상차를 계산하기 위해 생성되는 정보 및 상기 획득된 픽셀 데이터를 합산하거나 평균하여 생성되는 이미지 데이터를 출력할 수 있다.
다양한 실시 예에 따르면, 상기 제1 단위 픽셀은, 레드(R, red) 픽셀 및 블루(B, blue) 픽셀을 포함하고, 상기 제2 단위 픽셀은, 그린(G, green) 픽셀을 포함할 수 있다.
다양한 실시 예에 따르면, 이미지 데이터를 생성하는 동작은 광 신호에 적어도 기반하여 객체에 대응하는 픽셀 데이터를 획득하는 동작과, 상기 객체에 대응하는 이미지의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 확인하는 동작과, 상기 세팅이 지정된 조건을 만족하는 경우, 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 이미지에 대한 위상 차이를 결정하는 동작과, 및 상기 세팅이 지정된 조건을 만족하지 않는 경우, 상기 위상 차이를 결정하는 동작을 삼가도록 설정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 세팅이 상기 지정된 조건을 만족하는 경우, 상기 제1 신호 및 상기 제2 신호를 이용하여 서브 픽셀 레벨의 상기 이미지를 생성하도록 설정하는 과정을 포함할 수 있다. 예를 들면, 상기 세팅이 상기 지정된 조건을 만족하는 경우, 제어부(440)는 상기 제1 신호 및 상기 제2 신호 각각의 서브 픽셀 레벨의 이미지를 생성하도록 설정할 수 있다.
다양한 실시 예에 따르면, 상기 세팅이 상기 지정된 조건을 만족하지 않는 경우, 상기 제 1 신호 및 상기 제 2 신호를 합하여 단위 픽셀 레벨의 상기 이미지를 생성하도록 설정하는 과정을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 지정된 조건을 만족하지 않는 경우는, 다른(another) 지정된 조건을 만족하는 경우를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 이미지 속성은, 프레임 레이트를 포함하고, 상기 지정된 조건을 만족하는 경우는, 상기 적어도 하나의 이미지 속성에 대한 세팅이 저속 프레임 레이트인 경우를 포함하고, 상기 지정된 조건을 만족하지 않는 경우는, 상기 적어도 하나의 이미지 속성에 대한 세팅이 고속 프레임 레이트를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 이미지 속성은, 상기 객체의 크기, 상기 객체와 상기 이미지 센서와의 거리, 상기 객체의 움직임 속도, 또는 그 조합을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 서브 픽셀 및 상기 제2 서브 픽셀의 각각에 대응하는 포토 다이오드를 포함할 수 있다.
다양한 실시 예에 따르면, 이미지 데이터를 생성하는 동작은, 객체에 대응하는 광 신호를 이미지 센서를 통해 획득하는 동작과, 상기 이미지 센서는 복수 개의 단위 픽셀들을 포함하고, 상기 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀은 제 1 서브 픽셀 및 제 2 서브 픽셀을 포함하고, 상기 이미지 센서를 이용하여, 상기 광 신호에 적어도 기반하여 상기 객체에 대응하는 픽셀 데이터를 획득하는 동작과, 상기 객체에 대응하는 이미지의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 확인하는 동작과, 상기 세팅이 지정된 조건을 만족하는 경우, 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 이미지에 대한 위상 차이를 결정하는 동작과, 및 상기 세팅이 상기 지정된 조건을 만족하지 않는 경우, 상기 위상 차이를 결정하는 동작을 삼가하는 도록 설정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 세팅이 상기 지정된 조건을 만족하는 경우, 상기 제 1 신호 및 상기 제 2 신호를 이용하여 서브 픽셀 레벨의 상기 이미지를 생성하도록 설정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 세팅이 상기 지정된 조건을 만족하지 않는 경우, 상기 제 1 신호 및 상기 제 2 신호를 합하여 단위 픽셀 레벨의 상기 이미지를 생성하도록 설정하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 지정된 조건을 만족하지 않는 경우는, 다른(another) 지정된 조건을 만족하는 경우를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 이미지 속성은, 프레임 레이트를 포함하고, 상기 지정된 조건을 만족하는 경우는, 상기 적어도 하나의 이미지 속성에 대한 세팅이 저속 프레임 레이트인 경우를 포함하고, 상기 지정된 조건을 만족하지 않는 경우는, 상기 적어도 하나의 이미지 속성에 대한 세팅이 고속 프레임 레이트를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 적어도 하나의 이미지 속성은, 상기 객체의 크기, 상기 객체와 상기 이미지 센서와의 거리, 상기 객체의 움직임 속도, 또는 그 조합을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 서브 픽셀 및 상기 제2 서브 픽셀에 대응하는 포토 다이오드를 포함할 수 있다.
본 문서에서 사용된 용어 "모듈"은, 예를 들면, 하드웨어, 소프트웨어 또는 펌웨어(firmware) 중 하나 또는 둘 이상의 조합을 포함하는 단위(unit)를 의미할 수 있다. "모듈"은, 예를 들면, 유닛(unit), 로직(logic), 논리 블록(logical block), 부품(component), 또는 회로(circuit) 등의 용어와 바꾸어 사용(interchangeably use)될 수 있다. "모듈"은, 일체로 구성된 부품의 최소 단위 또는 그 일부가 될 수 있다. "모듈"은 하나 또는 그 이상의 기능을 수행하는 최소 단위 또는 그 일부가 될 수도 있다. "모듈"은 기계적으로 또는 전자적으로 구현될 수 있다. 예를 들면,"모듈"은, 알려졌거나 앞으로 개발될, 어떤 동작들을 수행하는 ASIC(application-specific integrated circuit) 칩, FPGAs(field-programmable gate arrays) 또는 프로그램 가능 논리 장치(programmable-logic device) 중 적어도 하나를 포함할 수 있다.
다양한 실시예에 따른 장치(예: 모듈들 또는 그 기능들) 또는 방법(예: 동작들)의 적어도 일부는, 예컨대, 프로그램 모듈의 형태로 컴퓨터로 읽을 수 있는 저장매체(computer-readable storage media)에 저장된 명령어로 구현될 수 있다. 상기 명령어가 프로세서(예: 프로세서(120))에 의해 실행될 경우, 상기 하나 이상의 프로세서가 상기 명령어에 해당하는 기능을 수행할 수 있다. 컴퓨터로 읽을 수 있는 저장매체는, 예를 들면, 메모리(130)가 될 수 있다.
컴퓨터로 판독 가능한 기록 매체는, 하드디스크, 플로피디스크, 마그네틱 매체(magnetic media)(예: 자기테이프), 광기록 매체(optical media)(예: CD-ROM(compact disc read only memory), DVD(digital versatile disc), 자기-광 매체(magneto-optical media)(예: 플롭티컬 디스크(floptical disk)), 하드웨어 장치(예: ROM(read only memory), RAM(random access memory), 또는 플래시 메모리 등) 등을 포함할 수 있다. 또한, 프로그램 명령에는 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드를 포함할 수 있다. 상술한 하드웨어 장치는 다양한 실시예의 동작을 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지다.
다양한 실시예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 객체에 대응하는 광 신호를 획득하기 위한 이미지 센서와, 상기 이미지 센서를 제어하기 위한 제어부를 포함하는 전자 장치에서, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하는 동작과, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하는 동작과, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하는 동작과, 및 상기 이미지 데이터에 적어도 기반하여, 상기 객체에 대응하는 상기 이미지를 상기 전자 장치와 기능적으로 연결된 디스플레이를 통하여 표시하는 동작을 포함을 포함할 수 있다.
다양한 실시예에 따르면, 명령들을 저장하고 있는 저장 매체에 있어서, 상기 명령들은 적어도 하나의 프로세서에 의하여 실행될 때에 상기 적어도 하나의 프로세서로 하여금 적어도 하나의 동작을 수행하도록 설정된 것으로서, 상기 적어도 하나의 동작은, 객체에 대응하는 광 신호를 획득하는, 적어도 하나의 단위 픽셀이 제 1 서브 픽셀 및 제 2 서브 픽셀을 포함하는, 복수 개의 상기 단위 픽셀들로 구성된 이미지 센서를 이용하여, 상기 광 신호에 적어도 기반하여 상기 객체에 대응하는 픽셀 데이터를 획득하는 동작; 상기 객체에 대응하는 이미지의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 확인하는 동작; 상기 세팅이 지정된 조건을 만족하는 경우, 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 이미지에 대한 위상 차이를 결정하는 동작; 및 상기 세팅이 상기 지정된 조건을 만족하지 않는 경우, 상기 위상 차이의 상기 결정하는 동작을 삼가는 동작을 포함할 수 있다.
다양한 실시예에 따른 모듈 또는 프로그램 모듈은 전술한 구성요소들 중 적어도 하나 이상을 포함하거나, 일부가 생략되거나, 또는 추가적인 다른 구성요소를 더 포함할 수 있다. 다양한 실시예에 따른 모듈, 프로그램 모듈 또는 다른 구성요소에 의해 수행되는 동작들은 순차적, 병렬적, 반복적 또는 휴리스틱(heuristic)한 방법으로 실행될 수 있다. 또한, 일부 동작은 다른 순서로 실행되거나, 생략되거나, 또는 다른 동작이 추가될 수 있다. 그리고 본 문서에 개시된 실시예는 개시된, 기술 내용의 설명 및 이해를 위해 제시된 것이며, 본 문서에서 기재된 기술의 범위를 한정하는 것은 아니다. 따라서, 본 문서의 범위는, 본 문서의 기술적 사상에 근거한 모든 변경 또는 다양한 다른 실시예를 포함하는 것으로 해석되어야 한다.
410: 객체 420: 렌즈
430: 이미지 센서 431: 픽셀 어레이
432: 로우 드라이버 433: 리드 아웃
434: 타이밍 생성기 435: 제어 레지스터
440: 제어부 441: 카메라 제어부
442: 이미지 신호 처리부 443: PC I/F
160: 디스플레이
430: 이미지 센서 431: 픽셀 어레이
432: 로우 드라이버 433: 리드 아웃
434: 타이밍 생성기 435: 제어 레지스터
440: 제어부 441: 카메라 제어부
442: 이미지 신호 처리부 443: PC I/F
160: 디스플레이
Claims (20)
- 객체에 대응하는 광 신호를 획득하기 위한 이미지 센서와, 상기 이미지 센서를 제어하기 위한 적어도 하나의 프로세서를 포함하는 전자 장치의 방법은,
상기 적어도 하나의 프로세서에 의해, 상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하는 동작;
상기 적어도 하나의 프로세서에 의해, 상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하는 동작;
상기 적어도 하나의 프로세서에 의해, 상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하는 동작, 적어도 두 개의 위상차 계산의 유형들 중에서 상기 픽셀 데이터에 이용되는 위상차 계산의 유형은 상기 모드를 기반하여 확인되며; 및
상기 적어도 하나의 프로세서에 의해, 상기 이미지 데이터에 적어도 기반하여, 상기 객체에 대응하는 상기 이미지를 상기 전자 장치의 디스플레이를 통하여 표시하는 동작을 포함하는 방법.
- 제1 항에 있어서,
상기 결정하는 동작은,
상기 모드가 제1 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제1 세팅을 상기 세팅으로 결정하는 동작과,
상기 모드가 제2 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제2 세팅을 상기 세팅으로 결정하는 동작을 포함하는 방법.
- 제1 항에 있어서,
상기 모드는, 상기 이미지 센서를 구성하는 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀에 포함된 복수 개의 서브 픽셀들(subpixels)이 서브 픽셀 레벨의 픽셀 데이터를 각각 출력하는 제1 모드, 상기 단위 픽셀 내의 복수 개의 서브 픽셀들의 픽셀 데이터를 합하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제2 모드, 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들 레벨의 신호를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제3 모드, 또는 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들의 픽셀 데이터를 선택적으로 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제4 모드를 포함하는 방법.
- 제3 항에 있어서,
상기 제1 모드에 기반하여, 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보를 출력하는 방법.
- 제3 항에 있어서,
상기 제2 모드에 기반하여, 이미지 데이터를 출력하고, 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보를 출력하지 않는 방법.
- 제3 항에 있어서,
상기 제3 모드에 기반하여, 이미지 데이터 및 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보를 출력하는 방법.
- 제3 항에 있어서,
상기 제4 모드에 기반하여, 제1 단위 픽셀 내의 서브 픽셀들의 픽셀 데이터를 합하여 생성되는 이미지 데이터, 및 제2 단위 픽셀 내의 서브 픽셀들에서 획득되는 픽셀 데이터를 이용하여 픽셀간의 위상차를 계산하기 위해 생성되는 정보 및 상기 획득된 픽셀 데이터를 합산하여 생성되는 이미지 데이터를 출력하는 방법.
- 제7 항에 있어서,
상기 제1 단위 픽셀은, 레드(R, red) 픽셀 또는 블루(B, blue) 픽셀을 포함하고, 상기 제2 단위 픽셀은, 그린(G, green) 픽셀을 포함하는 방법.
- 전자 장치에 있어서,
디스플레이;
객체에 대응하는 광 신호를 획득하기 위한 이미지 센서; 및
상기 디스플레이 및 상기 이미지 센서와 전기적으로 연결된 적어도 하나의 프로세서를 포함하고,
상기 적어도 하나의 프로세서는,
상기 광 신호를 이용하여 상기 객체에 대응하는 이미지를 생성하기 위한 모드를 확인하고,
상기 모드에 적어도 기반하여, 상기 이미지의 상기 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 결정하고,
상기 세팅에 적어도 기반하여, 상기 광 신호에 대응하는 픽셀 데이터를 이용하여 이미지 데이터를 생성하고, 적어도 두 개의 위상차 계산의 유형들 중에서 상기 픽셀 데이터에 이용되는 위상차 계산의 유형은 상기 모드를 기반하여 확인되며,
상기 이미지 데이터에 적어도 기반하여 상기 객체에 대응하는 상기 이미지를 상기 디스플레이를 통하여 표시하도록 설정된 전자 장치.
- 제9 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 모드가 제1 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제1 세팅을 상기 세팅으로 결정하고, 상기 모드가 제2 모드인 경우, 상기 적어도 하나의 이미지 속성에 대한 제2 세팅을 상기 세팅으로 결정하도록 설정된 전자 장치.
- 제9 항에 있어서,
상기 모드는, 상기 이미지 센서를 구성하는 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀에 포함된 복수 개의 서브 픽셀들(subpixels)이 서브 픽셀 레벨의 픽셀 데이터를 각각 출력하는 제1 모드, 상기 단위 픽셀 내의 복수 개의 서브 픽셀들의 픽셀 데이터를 합하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제2 모드, 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들 레벨의 픽셀 데이터를 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제3 모드, 또는 상기 복수 개의 서브 픽셀들의 위상차 계산을 위한 정보를 생성하고, 상기 복수 개의 서브 픽셀들의 픽셀 데이터를 선택적으로 합산하거나 평균하여 단위 픽셀 레벨의 이미지 데이터로 출력하는 제4 모드를 포함하는 전자 장치.
- 제11 항에 있어서,
상기 적어도 하나의 프로세서는, 상기 모드가 상기 제1 모드인 경우, 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보를 출력하고, 상기 모드가 상기 제2 모드인 경우, 상기 복수 개의 서브 픽셀들 간의 위상 차이에 대응하는 정보를 출력하지 않도록 설정된 전자 장치.
- 제11 항에 있어서,
상기 적어도 하나의 프로세서는, 상기 모드가 상기 제3 모드인 경우, 이미지 데이터 및 상기 복수 개의 서브 픽셀들간의 위상 차이에 대응하는 정보를 출력하도록 설정된 전자 장치.
- 제11 항에 있어서,
상기 적어도 하나의 프로세서는, 상기 모드가 상기 제4 모드인 경우, 제1 단위 픽셀 내의 서브 픽셀들의 픽셀 데이터를 합하여 생성되는 이미지 데이터, 및 제2 단위 픽셀 내의 서브 픽셀들에서 획득되는 픽셀 데이터를 이용하여 픽셀간의 위상차를 계산하기 위해 생성되는 정보 및 상기 획득된 픽셀 데이터를 합산하여 생성되는 이미지 데이터를 출력되도록 설정된 전자 장치.
- 전자 장치에 있어서,
객체에 대응하는 광 신호를 획득하는 이미지 센서, 상기 이미지 센서는 복수 개의 단위 픽셀들을 포함하고, 상기 복수 개의 단위 픽셀들 중 적어도 하나의 단위 픽셀은 제 1 서브 픽셀 및 제 2 서브 픽셀을 포함하고; 및
상기 이미지 센서와 기능적으로 연결된 적어도 하나의 프로세서를 포함하고,
상기 적어도 하나의 프로세서는,
상기 이미지 센서를 이용하여, 상기 광 신호에 적어도 기반하여 상기 객체에 대응하는 픽셀 데이터를 획득하고,
상기 객체에 대응하는 이미지의 생성에 사용될 적어도 하나의 이미지 속성에 대한 세팅을 확인하고,
상기 세팅을 기반하여 상기 이미지에 대한 위상 차이를 결정하기 위한 모드를 식별한 것에 응답하여, 적어도 두 개의 위상차 계산의 유형들 중 하나에 기반하여, 지정된 조건을 만족하는 경우, 상기 제 1 서브 픽셀에 대응하는 제 1 신호 및 상기 제 2 서브 픽셀에 대응하는 제 2 신호를 이용하여 상기 이미지에 대한 상기 위상 차이를 결정하고, 및
상기 세팅을 기반하여 상기 위상 차이를 결정하지 않는 모드를 식별한 것에 응답하여, 상기 위상 차이를 결정하는 동작을 삼가도록 설정된 전자 장치.
- 제15 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 세팅을 기반하여 상기 위상 차이를 결정하기 위한 상기 모드를 식별한 것에 응답하여, 상기 제 1 신호 및 상기 제 2 신호를 이용하여 서브 픽셀 레벨의 상기 이미지를 생성하도록 설정된 전자 장치.
- 제15 항에 있어서,
상기 적어도 하나의 프로세서는,
상기 세팅을 기반하여 상기 위상 차이를 결정하지 않는 상기 모드를 식별한 것에 응답하여, 상기 제 1 신호 및 상기 제 2 신호를 합하여 단위 픽셀 레벨의 상기 이미지를 생성하도록 설정된 전자 장치.
- 삭제
- 제15 항에 있어서,
상기 적어도 하나의 이미지 속성은, 프레임 레이트를 포함하고,
상기 세팅을 기반하여 상기 위상 차이를 결정하기 위한 상기 모드를 식별한 것에 응답하여, 상기 적어도 하나의 이미지 속성에 대한 세팅이 저속 프레임 레이트인 경우를 포함하고,
상기 세팅을 기반하여 상기 위상 차이를 결정하지 않는 상기 모드를 식별한 것에 응답하여, 상기 적어도 하나의 이미지 속성에 대한 세팅이 고속 프레임 레이트를 포함하는 전자 장치.
- 제15 항에 있어서,
상기 적어도 하나의 이미지 속성은,
상기 객체의 크기, 상기 객체와 상기 이미지 센서와의 거리, 상기 객체의 움직임 속도, 또는 그 조합을 포함하는 전자 장치.
Priority Applications (8)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020150139712A KR102390836B1 (ko) | 2015-10-05 | 2015-10-05 | 이미지 데이터를 생성하는 전자 장치 및 방법 |
| EP16853854.4A EP3342156B1 (en) | 2015-10-05 | 2016-09-30 | Electronic device and method for generating image data |
| AU2016334911A AU2016334911B2 (en) | 2015-10-05 | 2016-09-30 | Electronic device and method for generating image data |
| CN201680058394.3A CN108141535B (zh) | 2015-10-05 | 2016-09-30 | 用于生成图像数据的电子设备和方法 |
| PCT/KR2016/011027 WO2017061738A1 (en) | 2015-10-05 | 2016-09-30 | Electronic device and method for generating image data |
| US15/286,083 US10200646B2 (en) | 2015-10-05 | 2016-10-05 | Electronic device and method for generating image data |
| US16/235,357 US10951847B2 (en) | 2015-10-05 | 2018-12-28 | Electronic device and method for generating image data |
| US17/201,525 US11418751B2 (en) | 2015-10-05 | 2021-03-15 | Electronic device and method for generating image data |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| KR1020150139712A KR102390836B1 (ko) | 2015-10-05 | 2015-10-05 | 이미지 데이터를 생성하는 전자 장치 및 방법 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| KR20170040572A KR20170040572A (ko) | 2017-04-13 |
| KR102390836B1 true KR102390836B1 (ko) | 2022-04-26 |
Family
ID=58447854
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| KR1020150139712A KR102390836B1 (ko) | 2015-10-05 | 2015-10-05 | 이미지 데이터를 생성하는 전자 장치 및 방법 |
Country Status (6)
| Country | Link |
|---|---|
| US (3) | US10200646B2 (ko) |
| EP (1) | EP3342156B1 (ko) |
| KR (1) | KR102390836B1 (ko) |
| CN (1) | CN108141535B (ko) |
| AU (1) | AU2016334911B2 (ko) |
| WO (1) | WO2017061738A1 (ko) |
Families Citing this family (30)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR102390836B1 (ko) * | 2015-10-05 | 2022-04-26 | 삼성전자주식회사 | 이미지 데이터를 생성하는 전자 장치 및 방법 |
| CN105611122B (zh) * | 2015-12-18 | 2019-03-01 | Oppo广东移动通信有限公司 | 图像传感器及输出方法、相位对焦方法、成像装置和终端 |
| JP6727814B2 (ja) * | 2016-01-14 | 2020-07-22 | キヤノン株式会社 | 撮像装置、撮像装置の制御方法およびプログラム |
| JP6672081B2 (ja) * | 2016-06-01 | 2020-03-25 | キヤノン株式会社 | 撮像装置 |
| JP6847669B2 (ja) * | 2017-01-10 | 2021-03-24 | オリンパス株式会社 | 撮像装置、撮像方法 |
| US10638054B2 (en) | 2017-01-25 | 2020-04-28 | Cista System Corp. | System and method for visible and infrared high dynamic range sensing |
| US10444415B2 (en) * | 2017-02-14 | 2019-10-15 | Cista System Corp. | Multispectral sensing system and method |
| JP7071055B2 (ja) * | 2017-02-24 | 2022-05-18 | キヤノン株式会社 | 撮像素子および撮像装置 |
| US10497236B2 (en) * | 2017-03-28 | 2019-12-03 | A9.Com, Inc. | Adjustable alert tones and operational modes for audio/video recording and communication devices based upon user location |
| CN107105141B (zh) | 2017-04-28 | 2019-06-28 | Oppo广东移动通信有限公司 | 图像传感器、图像处理方法、成像装置和移动终端 |
| KR101899070B1 (ko) * | 2017-07-19 | 2018-09-14 | 국방과학연구소 | 랜덤신호에 대한 강건성 정량화를 통한 단독 영상 품질 평가 방법 및 장치 |
| KR102370881B1 (ko) * | 2017-07-21 | 2022-03-07 | 삼성전자주식회사 | 이미지 데이터의 속성에 기반하여 이미지를 압축할 수 있는 전자 장치 및 방법 |
| US10540733B2 (en) * | 2017-11-16 | 2020-01-21 | The Boeing Company | Frameless random-access image sensing |
| KR102435614B1 (ko) * | 2017-11-17 | 2022-08-24 | 삼성전자주식회사 | 카메라 모듈 내에서 이미지 센서를 위한 클럭 신호를 생성하기 위한 전자 장치 및 방법 |
| WO2019102887A1 (ja) * | 2017-11-22 | 2019-05-31 | ソニーセミコンダクタソリューションズ株式会社 | 固体撮像素子および電子機器 |
| US10147461B1 (en) * | 2017-12-29 | 2018-12-04 | Rovi Guides, Inc. | Systems and methods for alerting users to differences between different media versions of a story |
| CN108211357A (zh) * | 2018-01-15 | 2018-06-29 | 腾讯科技（上海）有限公司 | 虚拟控制对象的控制方法、装置、存储介质和电子装置 |
| JP2020013842A (ja) * | 2018-07-17 | 2020-01-23 | ソニーセミコンダクタソリューションズ株式会社 | 光電変換素子及び受光装置 |
| KR102553555B1 (ko) * | 2018-09-21 | 2023-07-10 | 엘지이노텍 주식회사 | 카메라 모듈 |
| KR102571864B1 (ko) * | 2018-10-31 | 2023-08-29 | 엘지이노텍 주식회사 | 카메라 장치 |
| KR102682859B1 (ko) * | 2019-03-25 | 2024-07-09 | 에스케이하이닉스 주식회사 | 이미지 처리 시스템, 이미지 센서, 이미지 센서의 구동 방법 |
| US11308618B2 (en) | 2019-04-14 | 2022-04-19 | Holovisions LLC | Healthy-Selfie(TM): a portable phone-moving device for telemedicine imaging using a mobile phone |
| US12014500B2 (en) | 2019-04-14 | 2024-06-18 | Holovisions LLC | Healthy-Selfie(TM): methods for remote medical imaging using a conventional smart phone or augmented reality eyewear |
| US11288773B1 (en) * | 2019-04-23 | 2022-03-29 | Alarm.Com Incorporated | Multi-resolution image or video |
| EP3996364A4 (en) * | 2019-07-02 | 2022-09-07 | Sony Semiconductor Solutions Corporation | SOLID STATE IMAGING DEVICE, CONTROL METHOD, AND ELECTRONIC APPARATUS |
| KR102694926B1 (ko) | 2019-11-18 | 2024-08-16 | 삼성디스플레이 주식회사 | 표시 장치 및 그 구동 방법 |
| CN111046819B (zh) * | 2019-12-18 | 2023-09-05 | 浙江大华技术股份有限公司 | 一种行为识别处理方法及装置 |
| WO2022130888A1 (ja) * | 2020-12-16 | 2022-06-23 | ソニーセミコンダクタソリューションズ株式会社 | 撮像装置 |
| KR20220118022A (ko) * | 2021-02-18 | 2022-08-25 | 에스케이하이닉스 주식회사 | 이미지 센싱 장치 |
| CN113849448A (zh) * | 2021-09-28 | 2021-12-28 | 联想(北京)有限公司 | 一种电子设备 |
Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013097136A (ja) * | 2011-10-31 | 2013-05-20 | Sony Corp | 情報処理装置、情報処理方法およびプログラム |
Family Cites Families (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH09331445A (ja) | 1996-06-12 | 1997-12-22 | Canon Inc | 画像処理装置 |
| JP2008109369A (ja) * | 2006-10-25 | 2008-05-08 | Olympus Imaging Corp | 撮像装置及び画像処理方法 |
| JP4994422B2 (ja) * | 2009-05-13 | 2012-08-08 | リズム時計工業株式会社 | 検知システム、検知システムの信号処理方法、および、煙感知器 |
| US8576293B2 (en) * | 2010-05-18 | 2013-11-05 | Aptina Imaging Corporation | Multi-channel imager |
| JP5744545B2 (ja) | 2011-01-31 | 2015-07-08 | キヤノン株式会社 | 固体撮像装置およびカメラ |
| EP2690871A4 (en) * | 2011-03-24 | 2014-11-05 | Fujifilm Corp | COLOR IMAGING ELEMENT, IMAGING DEVICE, AND IMAGING PROGRAM |
| JP5331945B2 (ja) * | 2011-03-31 | 2013-10-30 | 富士フイルム株式会社 | 撮像装置及びその駆動方法 |
| KR101739380B1 (ko) | 2011-04-11 | 2017-06-08 | 삼성전자주식회사 | 디지털 영상 촬영 장치 및 방법 |
| JP2013055500A (ja) | 2011-09-02 | 2013-03-21 | Sony Corp | 固体撮像素子およびカメラシステム |
| JP5914055B2 (ja) * | 2012-03-06 | 2016-05-11 | キヤノン株式会社 | 撮像装置 |
| DE112013002286B4 (de) * | 2012-05-01 | 2016-03-24 | Fujifilm Corporation | Bildaufnahmevorrichtung und Verfahren zur Fokussierungssteuerung |
| JP5657184B2 (ja) * | 2012-09-12 | 2015-01-21 | 富士フイルム株式会社 | 撮像装置及び信号処理方法 |
| JP6264616B2 (ja) * | 2013-01-30 | 2018-01-24 | パナソニックＩｐマネジメント株式会社 | 撮像装置及び固体撮像装置 |
| US9197809B2 (en) | 2013-05-01 | 2015-11-24 | Canon Kabushiki Kaisha | Image pickup apparatus, method of controlling image pickup apparatus, and non-transitory computer-readable storage medium |
| KR102155133B1 (ko) * | 2013-07-12 | 2020-09-11 | 삼성전자주식회사 | 이미지 표시 방법 및 장치 |
| KR20150096224A (ko) * | 2014-02-14 | 2015-08-24 | 삼성전자주식회사 | 고체 촬상 소자, 전자기기 및 오토 포커싱 방법 |
| KR102149448B1 (ko) | 2014-02-21 | 2020-08-28 | 삼성전자주식회사 | 이미지를 처리하기 위한 전자 장치 및 방법 |
| US9445018B2 (en) * | 2014-05-01 | 2016-09-13 | Semiconductor Components Industries, Llc | Imaging systems with phase detection pixels |
| JP6602109B2 (ja) * | 2015-08-28 | 2019-11-06 | キヤノン株式会社 | 制御装置、撮像装置、制御方法、プログラム、および、記憶媒体 |
| KR102390836B1 (ko) * | 2015-10-05 | 2022-04-26 | 삼성전자주식회사 | 이미지 데이터를 생성하는 전자 장치 및 방법 |
-
2015
- 2015-10-05 KR KR1020150139712A patent/KR102390836B1/ko active IP Right Grant
-
2016
- 2016-09-30 CN CN201680058394.3A patent/CN108141535B/zh active Active
- 2016-09-30 AU AU2016334911A patent/AU2016334911B2/en active Active
- 2016-09-30 EP EP16853854.4A patent/EP3342156B1/en active Active
- 2016-09-30 WO PCT/KR2016/011027 patent/WO2017061738A1/en active Application Filing
- 2016-10-05 US US15/286,083 patent/US10200646B2/en active Active
-
2018
- 2018-12-28 US US16/235,357 patent/US10951847B2/en active Active
-
2021
- 2021-03-15 US US17/201,525 patent/US11418751B2/en active Active
Patent Citations (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013097136A (ja) * | 2011-10-31 | 2013-05-20 | Sony Corp | 情報処理装置、情報処理方法およびプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108141535B (zh) | 2020-09-22 |
| EP3342156A1 (en) | 2018-07-04 |
| US11418751B2 (en) | 2022-08-16 |
| EP3342156C0 (en) | 2024-02-07 |
| EP3342156A4 (en) | 2019-01-02 |
| KR20170040572A (ko) | 2017-04-13 |
| US10951847B2 (en) | 2021-03-16 |
| AU2016334911B2 (en) | 2020-07-02 |
| US20170099449A1 (en) | 2017-04-06 |
| WO2017061738A1 (en) | 2017-04-13 |
| US20210203871A1 (en) | 2021-07-01 |
| US10200646B2 (en) | 2019-02-05 |
| AU2016334911A1 (en) | 2018-04-19 |
| US20190141271A1 (en) | 2019-05-09 |
| CN108141535A (zh) | 2018-06-08 |
| EP3342156B1 (en) | 2024-02-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| KR102390836B1 (ko) | 이미지 데이터를 생성하는 전자 장치 및 방법 | |
| KR102277178B1 (ko) | 카메라 모듈을 포함하는 전자 장치 및 전자 장치의 이미지 처리 방법 | |
| KR102195311B1 (ko) | 이미지의 잡음 특성 개선 방법 및 그 전자 장치 | |
| US10764521B2 (en) | Image sensor and electronic device comprising the same | |
| KR102469426B1 (ko) | 이미지 처리 장치 및 이의 동작 방법 | |
| KR102392751B1 (ko) | 카메라 모듈을 구비한 전자 장치 및 전자 장치 제어 방법 | |
| KR102425895B1 (ko) | 전자장치의 데이터 동기 장치 및 방법 | |
| KR102688614B1 (ko) | 이미지 처리 방법 및 이를 지원하는 전자 장치 | |
| EP3471400B1 (en) | Image signal processor, and electronic device | |
| US10339672B2 (en) | Method and electronic device for verifying light source of images | |
| KR102489279B1 (ko) | 이미지 처리장치 및 방법 | |
| KR102433293B1 (ko) | 전자 장치 및 전자 장치의 제어 방법 | |
| KR102477522B1 (ko) | 전자 장치 및 그의 카메라 노출 조정 방법 | |
| KR102407624B1 (ko) | 전자 장치의 영상 처리 방법 및 그 전자 장치 | |
| KR20180083593A (ko) | 이미지 처리 방법 및 이를 구현하는 전자 장치 | |
| KR102519803B1 (ko) | 촬영 장치 및 그 제어 방법 | |
| KR20170046391A (ko) | 영상 촬영 장치 및 방법 | |
| KR20170046404A (ko) | 영상 촬영 장치 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A201 | Request for examination | ||
| E902 | Notification of reason for refusal | ||
| E701 | Decision to grant or registration of patent right | ||
| GRNT | Written decision to grant |