Nothing Special   »   [go: up one dir, main page]

WO2013024920A1 - 이미지 처리 방법 및 그 전자 기기 - Google Patents

이미지 처리 방법 및 그 전자 기기 Download PDF

Info

Publication number
WO2013024920A1
WO2013024920A1 PCT/KR2011/006038 KR2011006038W WO2013024920A1 WO 2013024920 A1 WO2013024920 A1 WO 2013024920A1 KR 2011006038 W KR2011006038 W KR 2011006038W WO 2013024920 A1 WO2013024920 A1 WO 2013024920A1
Authority
WO
WIPO (PCT)
Prior art keywords
image
mode
optical lens
main subject
disparity
Prior art date
Application number
PCT/KR2011/006038
Other languages
English (en)
French (fr)
Inventor
지석만
채규열
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Priority to PCT/KR2011/006038 priority Critical patent/WO2013024920A1/ko
Priority to US14/239,125 priority patent/US9438884B2/en
Publication of WO2013024920A1 publication Critical patent/WO2013024920A1/ko

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/211—Image signal generators using stereoscopic image cameras using a single 2D image sensor using temporal multiplexing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/204—Image signal generators using stereoscopic image cameras
    • H04N13/207—Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218—Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20—Image signal generators
    • H04N13/296—Synchronisation thereof; Control thereof

Definitions

  • the present invention relates to an image processing method.
  • the basic principle of the stereoscopic method is to separate and input images arranged so that the left and right eyes of a person are orthogonal to each other, and a stereoscopic image is generated by combining images respectively input to the left and right eyes of the human brain.
  • each image does not interfere with each other.
  • FIG. 1 is an exemplary view illustrating a stereoscopic image display apparatus and a stereoscopic image camera.
  • FIG. 1A a stereoscopic image display apparatus is shown.
  • Methods of implementing a stereoscopic image display apparatus may be largely divided into a glasses method and a glasses-free method.
  • the spectacles include a polarization scheme, a time-sequential scheme, and a spectral scheme.
  • a polarization method separates each image using a polarization filter. That is, by applying polarization filters orthogonal to each other for the image using the left eye and the image for the right eye, different images filtered by the polarization filter are input to the left and right views.
  • left and right images are alternately displayed, and active glasses worn by the user are synchronized with the alternately displayed images to separate each image. That is, when the images are displayed alternately, the shutter of the active glasses synchronized with the image is opened only when the corresponding image is to be input and the other view is blocked, thereby separating the left and right images.
  • the spectral method is a method of projecting left and right images through a spectral filter having spectral bands in which RGB spectra do not overlap each other.
  • the user wears passive glasses equipped with a spectral filter passing only the spectral region set for the left and right images, thereby separating and inputting the left and right images.
  • the multi-view autostereoscopic method includes a Parallax Barrier method and a lenticular lens method.
  • the Ferrex barrier method applies a barrier to the display, which is composed of vertical lines, with a slit between the vertical lines. By the slit, the left eye creates a parallax in the right eye.
  • the lenticular method arranges the small lenses refined on the display on the display, and the image is refracted by the small lenses to display different images on the left and right eyes.
  • such a 3D or three-dimensional display device has a limitation because the spread of 3D content or content having a three-dimensional feeling is not rapidly spread.
  • FIG. 1 (b) shows a camera capable of producing 3D or stereoscopic images.
  • a camera capable of producing 3D or 3D images captures each image from two camera lenses using the stereoscopic method, and generates a 3D image through the camera.
  • an object of the present disclosure is to provide a method for more effectively capturing a general image, that is, a 2D image, using a 3D or stereoscopic camera having a plurality of lenses.
  • an object of the present specification is to enable a 3D or stereoscopic camera having a plurality of lenses to obtain an image of a quality that can only be obtained through a high performance optical lens.
  • an embodiment of the present invention provides an image processing method in an electronic device having a plurality of optical lenses.
  • the image processing method includes: acquiring a first image according to a first mode through a first optical lens; Acquiring a second image in accordance with a second mode through a second optical lens simultaneously or sequentially with the first image acquisition;
  • the method may include processing and storing the first image acquired according to the first mode and the second image acquired according to the second mode.
  • the first mode and the second mode are different from each other and may be changeable.
  • the image processing method may include adjusting a convergence point between the first optical lens and the second optical lens as a main subject for the acquisition.
  • the disperity value may be obtained after minimizing a disperity value between the main subject appearing in the first image and the main subject appearing in the second image.
  • the first image and the second image may be for the same subject or scene.
  • the first mode may be for focusing on the main subject, and the second mode may be for not focusing on the main subject.
  • the first mode may be for photographing with a first color tone
  • the second mode may be for photographing with a second color tone.
  • the first mode may be for photographing using a first effect
  • the second mode may be for photographing using a second effect.
  • the first mode may be for photographing with a first aperture value
  • the second mode may be for photographing with a second aperture value.
  • the first mode may be for photographing with a first shutter speed value
  • the second mode may be for photographing with a second shutter speed value.
  • the first mode may be for capturing a moving image
  • the second mode may be for capturing a still image.
  • the processing performed by the processor may be synthesized with the second image to generate an out-focused image in an area other than the main subject.
  • a disparity map may be generated between the first image and the second image.
  • an area having a minimum disparity is obtained from a first image according to the disparity map
  • an area having a maximum disparity is obtained from a second image
  • an area having an intermediate disparity is formed from a first image.
  • the second image may be synthesized and obtained.
  • the processor 170 may synthesize and store the obtained regions into a single image.
  • the processing may include a person color and a background color.
  • the first image may be synthesized with the second image.
  • the storing may include: synthesizing the first image, the second image, and the first and second images; One or more descriptors for one or more of the first image, the second image, and the composite image may be stored in one file.
  • an embodiment of the present invention provides an electronic device having a plurality of optical lenses.
  • the electronic device includes a first optical lens; A second optical lens; Controlling the first optical lens and the second optical lens to obtain a first image in accordance with a first mode through the first optical lens, and simultaneously in accordance with a second mode through the second optical lens
  • the processor may include a processor configured to process and store the first image and the second image.
  • a normal image that is, a 2D image by using a 3D or stereoscopic camera having a plurality of lenses.
  • FIG. 1 is an exemplary view illustrating a stereoscopic image display apparatus and a stereoscopic image camera.
  • FIG 2 shows an appearance of an electronic device according to the present invention.
  • FIG. 3 is a flowchart illustrating an image processing process according to an exemplary embodiment of the present invention.
  • FIG. 4 illustrates an example screen for the image processing process illustrated in FIG. 3.
  • FIG. 5 is a flowchart illustrating the process illustrated in FIG. 3 in more detail.
  • FIG. 6 illustrates an example of adjusting the convergence point illustrated in FIG. 5.
  • FIG. 7 illustrates another example in which the convergence point illustrated in FIG. 5 is adjusted.
  • FIG. 8 illustrates another example of adjusting the convergence point shown in FIG. 5.
  • FIG. 9 is an exemplary diagram for describing disparity in the process illustrated in FIG. 5.
  • FIG. 10 is an exemplary diagram illustrating an image photographed according to the process illustrated in FIG. 5.
  • FIG. 11 is another exemplary diagram illustrating an image photographed according to the process illustrated in FIG. 5.
  • FIG. 12 is a flowchart specifically illustrating a storage process illustrated in FIG. 5.
  • FIG. 13 is an exemplary diagram illustrating a file format stored according to the process illustrated in FIG. 12.
  • FIG. 14 is a block diagram showing the configuration when the electronic device according to the present invention is a mobile communication terminal.
  • 15 is a block diagram showing the configuration when the electronic device according to the present invention is a portable terminal.
  • first and second may be used to describe various components, but the components should not be limited by the terms. The terms are used only for the purpose of distinguishing one component from another.
  • first component may be referred to as the second component, and similarly, the second component may also be referred to as the first component.
  • FIG 2 shows an appearance of an electronic device according to the present invention.
  • the electronic device 100 is shown as an exemplary portable terminal.
  • the portable terminal may be one of a camera, a mobile communication terminal, a multimedia playback terminal, and a tablet terminal. More specifically, the portable terminal may be a mobile terminal, a personal digital assistant (PDA), a smart phone, a portable multimedia player (PMP), a notebook computer, a tablet PC. It may be any one of (Tablet PC).
  • the electronic device 100 may be a non-portable terminal, such as an IPTV terminal, a television, a 3D television, an imaging device, a telematics terminal, or a vehicle installation navigation terminal. have.
  • a non-portable terminal such as an IPTV terminal, a television, a 3D television, an imaging device, a telematics terminal, or a vehicle installation navigation terminal.
  • the electronic device may include a camera unit 121 and a display unit 151.
  • the display unit 151 is mounted on the front of the portable terminal
  • the camera unit 121 is mounted on the rear of the portable terminal, as shown in FIG. Can be.
  • the camera unit 121 may also be mounted on the front of the portable terminal.
  • the camera unit 121 may include at least one pair of optical lenses 121a and 121b spaced apart at horizontal intervals as shown.
  • the camera unit 121 may also be called a stereo camera or a stereoscopic camera.
  • the fixed horizontal interval may be set in consideration of the distance between two eyes of a general person.
  • FIG. 3 is a flowchart illustrating an image processing process according to an embodiment of the present invention
  • FIG. 4 illustrates an exemplary screen of the image processing process illustrated in FIG. 3.
  • a first image is obtained in a first mode (S120), and a second image is obtained in a second mode (S130).
  • the first optical lens 121a provides a preview image to the display unit 151 described above.
  • the second optical lens 121b may be used to acquire the first image and the second image.
  • the first optical lens 121a may be used to photograph a moving image
  • the second optical lens 121b may be used to acquire the first image and the second image.
  • the shutter of the second optical lens 121b may be opened and closed at a very high speed.
  • the first image may be obtained by the first optical lens 121a described above.
  • the second image may be obtained by the second optical lens 121b described above.
  • the first optical lens 121a and the second optical lens 121b may be driven simultaneously to acquire the first image and the second image at the same time, and the first optical lens 121a may be the first image.
  • the second optical lens 121b may immediately acquire a second image. That is, the first optical lens 121a and the second optical lens 121b may be used for the continuous shooting function.
  • a very fast burst function may be implemented.
  • the same scene can be obtained without a large difference.
  • a first image is obtained, and by taking the same scene in the second mode through the second optical lens 121b, A second image can be obtained.
  • the first mode and the second mode may be different from each other and may be changed automatically or by a user.
  • the first mode may be to photograph a scene brightly
  • the second mode may be to photograph a scene darker.
  • the aperture value of the first optical lens may be adjusted to a low value according to the first mode
  • the value of the aperture size of the second optical lens may be adjusted to a high value according to the second mode.
  • the shutter speed of the first optical lens may be slowed according to the first mode
  • the shutter speed of the second optical lens may be adjusted at high speed according to the second mode.
  • the first mode may be photographing with a blue tone highlighted on the scene, and the second mode may be photographing with a red tone emphasis on the scene.
  • the first mode may be photographed by increasing a sharpness value of the scene, and the second mode may be photographed by lowering the sharpness value of the scene.
  • the first mode may be for a white balance function in a sunlight condition among the white balance functions, and the second mode may be for a white balance in a tungsten condition among the white balance functions.
  • the first mode may be a numerical value having a high ISO sensitivity
  • the second mode may be a numerical value having a low ISO sensitivity.
  • the first mode may be for shooting a video
  • the second mode may be for shooting a still image
  • FIG. 5 is a flowchart illustrating the process illustrated in FIG. 3 in more detail. 6 shows an example of adjusting the convergence point shown in FIG. 5, FIG. 7 shows another example of adjusting the convergence point shown in FIG. 5, and FIG. 8 shows another example of adjusting the convergence point shown in FIG. 5. Indicates. FIG. 9 is an exemplary diagram for describing disparity in the process illustrated in FIG. 5.
  • the electronic device 100 adjusts a convergence point to fit the subject (S110).
  • the convergence point refers to the point where the three-dimensional effect is zero. Specifically, as can be seen with reference to FIG. 6A, a point at which the focal lengths of the first optical lens and the second optical lens coincide with each other is a convergence point. This convergence point can be adjusted in distance as shown in FIG. Therefore, when the main subject, which is a photographing target, is converged to the point of convergence, the main subject is photographed without the stereoscopic sense, that is, the degree becomes zero.
  • the acquisition processes S120 and S130 may be performed simultaneously or sequentially. If performed at the same time, as described above, the first optical lens 121a and the second optical lens 121b may be simultaneously driven to photograph. As described above, an example of sequentially performing may be to sequentially photograph the first image and the second image using any one of the first optical lens 121a and the second optical lens 121b. have. Alternatively, the first and second images may be sequentially driven by sequentially driving the first optical lens 121a and the second optical lens 121b.
  • the first mode may be to photograph a scene brightly, and the second mode may be to photograph a scene darker.
  • the first mode may be photographing with a blue tone highlighted on the scene, and the second mode may be photographing with a red tone emphasis on the scene.
  • the first mode may be photographed by increasing a sharpness value of the scene, and the second mode may be photographed by lowering the sharpness value of the scene.
  • the first mode may be for a white balance function in a sunlight condition among the white balance functions
  • the second mode may be for a white balance in a tungsten condition among the white balance functions.
  • the first mode may be a numerical value having a high ISO sensitivity
  • the second mode may be a numerical value having a low ISO sensitivity.
  • the electronic device 100 calculates a disparity between the first image and the second image (S140). Subsequently, the electronic device 100 generates a disparity map based on the disparity value.
  • Disparity between the first image and the second image refers to a difference between the pixels when an arbitrary pixel in the first image corresponds to an arbitrary pixel in the second image.
  • FIG. 9 (a) when the convergence point is aligned with the hexahedron and photographed through the first optical lens, a first image as shown in FIG. 9 (b) is obtained and the second When photographing through an optical lens, a second image paper as shown in FIG. 9C is obtained.
  • the cylinder in the first image is present in the horizontal axis coordinates 1 to 2.3, as can be seen with reference to Fig. 9 (b), and the cylinder in the second image is the horizontal axis, as can be seen with reference to Fig. (C). It exists between 2.2 and 3.5. Since the convergence point is fitted to the cube, the cube is not different in the first image and the second image.
  • FIG. 9 (d) in which the first image and the second image are superimposed, the disparity of the cylinder is shown.
  • the disparity value is increased. If there is an object located behind the convergence point, the disparity value is increased.
  • the first image and the second image are synthesized using the disparity (S150).
  • an area having a minimum disparity value between the first image and the second image is obtained from the first image
  • an area having a maximum disparity value is obtained from the second image
  • a disparity value is obtained.
  • the intermediate region is obtained by synthesizing the first image and the second image, and then synthesizes the regions to complete the composite image.
  • the exposure meter sensor provided in the camera unit 121 may perform evaluative metering, partial metering, spot metering, center-weighted average metering, and as a result of measuring by any one of them, partly dark and partially If a bright environment is detected, it can be done automatically.
  • the electronic device 100 acquires a first image by photographing a scene through a first optical lens in a first mode for brightly photographing while focusing on a human face.
  • the scene is photographed through the second optical lens to acquire a second image.
  • the second image thus obtained cannot identify the human face, but the overall brightness is justified, while the second image has the overall brightness balanced instead of the human face.
  • the human face region having the minimum disparity value is obtained from the first image that is brightly photographed, and the background part of the scene corresponding to the region having the maximum disparity value is obtained from the dark image second image.
  • the human face is identified, but the background is not too bright.
  • the electronic device 100 stores one or more of the first image, the second image, and the synthesized image (S160).
  • FIG. 10 is an exemplary diagram illustrating an image photographed according to the process illustrated in FIG. 5, and FIG. 11 is another exemplary diagram illustrating an image photographed according to the process illustrated in FIG. 5.
  • the first mode is for not focusing on the main subject or auxiliary subject
  • the second mode is for focusing on the main subject.
  • the main subject in the center of the scene is located at the frontmost side, and the auxiliary subjects at the left and right are located behind the main subject. At this time, the convergence point is adjusted to fit the main subject.
  • the scene is photographed in the first mode (the mode without focus on the main subject as described above) through the first optical lens to acquire a first image, and the second mode (focus on the main subject through the second optical lens).
  • the scene in this matched mode) to obtain a second image.
  • the first image is not focused on the main subject or the auxiliary subject, so that the first image is an overall blurry image, and the second image is displayed on the main subject, as shown in FIG. 10 (b).
  • the image is in focus and the main subject is clearly visible.
  • the main subject which is the region having the smallest disparity value
  • the region having the maximum disparity value is the background of the scene
  • the region having the middle disparity value becomes the auxiliary subject.
  • the main subject area is obtained from the second focused image
  • the background part of the scene corresponding to the area having the maximum disparity value is obtained from the first image
  • the disparity value in the first image and the second image are obtained by combining with each other.
  • the focus is focused on the main subject, and other auxiliary subjects and the background are not in focus, thereby obtaining a blurred image.
  • an out focusing effect can be obtained.
  • the aperture opening should be 2.0 or less, preferably 1.8 or less. Such lenses are expensive and difficult to manufacture.
  • the first mode is for emphasizing the color of the main subject
  • the second mode is for emphasizing the color of the auxiliary subject.
  • the main subject in the center of the scene is located at the frontmost side, and the auxiliary subjects at the left and right are located behind the main subject. At this time, the convergence point is adjusted to fit the main subject. Further, assume that the main subject is mainly blue, and the auxiliary subject is mainly red.
  • the scene is photographed in the first mode (to emphasize the color of the main subject as described above) through the first optical lens to acquire a first image
  • the second mode the mode is The second image by capturing the scene with the color of the auxiliary object
  • the first image is an image in which blue color of the main subject is further emphasized
  • the second image is an image in which red color is further emphasized as shown in FIG. 11 (b). .
  • the main subject which is the region having the smallest disparity value
  • the region having the maximum disparity value is the background of the scene
  • the region having the middle disparity value becomes the auxiliary subject.
  • the main subject area is obtained from the first image
  • the background part of the scene corresponding to the area having the largest disparity value is obtained by combining the first image and the second image
  • the area having the disparity value is the second area.
  • a desired image can be obtained without using a high performance image processing chipset and an optical lens for displaying colorful colors.
  • FIG. 12 is a flowchart specifically illustrating a storage process illustrated in FIG. 5, and FIG. 13 is an exemplary diagram illustrating a format of a file to be stored according to the process illustrated in FIG. 12.
  • the electronic device 100 generates a descriptor for one or more of the first image, the second image, and the composite image (S161).
  • the descriptor includes a thumbnail, a first image position, a second image position, and a composite image position, as shown in FIG. 13.
  • the thumbnail may be a thumbnail for the composite image.
  • the thumbnail may be for each of the first image, the second image, and the composite image. That is, the thumbnail may include both a thumbnail for the first image, a thumbnail for the second image, and a thumbnail for the composite image.
  • the location may indicate where each image is located within the file format.
  • the position may be represented by a starting point and an offset.
  • the position may be represented by a start point and an end point.
  • the electronic device 100 stores the first image, the second image, and the composite image together with the descriptor in one file (S162).
  • the electronic device 100 when receiving a request for the file (S163), extracts a thumbnail from the descriptor in the file, and displays (S164).
  • the displayed thumbnail may be a thumbnail of the composite image, as described above.
  • the displayed thumbnail may be a thumbnail for a first image, a thumbnail for the second image, and a thumbnail for the composite image.
  • the electronic device 100 After displaying a thumbnail for the first image, a thumbnail for the second image, and a thumbnail for the composite image, and receiving a selection input for any one, the electronic device 100 receives the selected input.
  • the image is displayed (S165).
  • the method described above may be implemented in a recording medium readable by a computer or a similar device using, for example, software, hardware or a combination thereof.
  • ASICs application specific integrated circuits
  • DSPs digital signal processors
  • DSPDs digital signal processing devices
  • PLDs programmable logic devices
  • FPGAs field programmable gate arrays
  • processors It may be implemented using at least one of processors, controllers, micro-controllers, microprocessors, and electrical units for performing other functions.
  • the procedures and functions described herein may be implemented as separate software modules.
  • the software modules may be implemented in software code written in a suitable programming language.
  • the software code may be stored in a storage unit and executed by a processor.
  • FIG. 14 is a block diagram showing the configuration when the electronic device according to the present invention is a mobile communication terminal.
  • the mobile communication terminal 100 includes a wireless communication unit 110, an A / V input unit 120, a user input unit 130, a sensing unit 140, an output unit 150, a memory 160,
  • the interface unit 170 may include a controller 180, a power supply unit 190, and the like.
  • the components shown in FIG. 14 are not essential, so that a mobile communication terminal having more or fewer components may be implemented.
  • the wireless communication unit 110 may include one or more modules that enable wireless communication between the mobile communication terminal 100 and the wireless communication system or between the mobile communication terminal 100 and a network in which the mobile communication terminal 100 is located.
  • the wireless communication unit 110 may include a broadcast receiving module 111, a mobile communication module 112, a wireless internet module 113, a short range communication module 114, a location information module 115, and the like. .
  • the broadcast receiving module 111 receives a broadcast signal and / or broadcast related information from an external broadcast management server through a broadcast channel.
  • the broadcast related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider.
  • the broadcast related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 112.
  • the broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.
  • the mobile communication module 112 transmits and receives a wireless signal with at least one of a base station, an external terminal, and a server on a mobile communication network.
  • the wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.
  • the wireless internet module 113 refers to a module for wireless internet access and may be embedded or external to the mobile communication terminal 100.
  • Wireless Internet technologies may include Wireless LAN (Wi-Fi), Wireless Broadband (Wibro), World Interoperability for Microwave Access (Wimax), High Speed Downlink Packet Access (HSDPA), and the like.
  • the short range communication module 114 refers to a module for short range communication.
  • Bluetooth Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, etc. may be used.
  • RFID Radio Frequency Identification
  • IrDA Infrared Data Association
  • UWB Ultra Wideband
  • ZigBee ZigBee
  • the location information module 115 is a module for obtaining a location of a mobile communication terminal, and a representative example thereof is a GPS (Global Position System) module.
  • GPS Global Position System
  • the camera unit 121 may include a first optical lens 121a and a second optical lens 121b.
  • the camera unit 121 may further include an exposure meter sensor as described above.
  • the image frame processed by the camera unit 121 may be stored in the memory 160 or transmitted to the outside through the wireless communication unit 110.
  • the microphone 122 receives an external sound signal by a microphone in a call mode, a recording mode, a voice recognition mode, etc., and processes the external sound signal into electrical voice data.
  • the processed voice data may be converted into a form transmittable to the mobile communication base station through the mobile communication module 112 and output in the call mode.
  • the microphone 122 may implement various noise removing algorithms for removing noise generated in the process of receiving an external sound signal.
  • the user input unit 130 generates input data for the user to control the operation of the terminal.
  • the user input unit 130 may include a key pad dome switch, a touch pad (static pressure / capacitance), a jog wheel, a jog switch, and the like.
  • the sensing unit 140 is a mobile communication terminal 100 such as an open / closed state of the mobile communication terminal 100, a location of the mobile communication terminal 100, presence or absence of user contact, orientation of the mobile communication terminal, acceleration / deceleration of the mobile communication terminal, and the like. Sensing the current state and generates a sensing signal for controlling the operation of the mobile communication terminal (100). For example, when the mobile communication terminal 100 is in the form of a slide phone, whether the slide phone is opened or closed may be sensed. In addition, whether the power supply unit 190 is supplied with power, whether the interface unit 170 is coupled to the external device may be sensed.
  • the sensing unit 140 may include a proximity sensor 141.
  • the output unit 150 is used to generate an output related to sight, hearing, or tactile sense, and may include a display unit 151, an audio output unit 152, an alarm unit 153, and a haptic module 154. have.
  • the display unit 151 displays (outputs) information processed by the mobile communication terminal 100. For example, when the mobile communication terminal is in a call mode, a user interface (UI) or a graphic user interface (GUI) related to a call is displayed. When the mobile communication terminal 100 is in a video call mode or a photographing mode, it displays a photographed and / or received image, a UI, or a GUI.
  • UI user interface
  • GUI graphic user interface
  • the display unit 151 includes a liquid crystal display (LCD), a thin film transistor-liquid crystal display (TFT LCD), an organic light-emitting diode (OLED), and a flexible display (flexible). display, a 3D display, or an e-ink display.
  • LCD liquid crystal display
  • TFT LCD thin film transistor-liquid crystal display
  • OLED organic light-emitting diode
  • flexible display flexible display
  • display a 3D display, or an e-ink display.
  • Some of these displays can be configured to be transparent or light transmissive so that they can be seen from the outside. This may be referred to as a transparent display.
  • a representative example of the transparent display is TOLED (Transparant OLED).
  • the rear structure of the display unit 151 may also be configured as a light transmissive structure. With this structure, the user can see the object located behind the terminal body through the area occupied by the display unit 151 of the terminal body.
  • a plurality of display units may be spaced apart or integrally disposed on one surface of the mobile communication terminal 100, or may be disposed on different surfaces.
  • the display unit 151 and a sensor for detecting a touch operation form a mutual layer structure (hereinafter, referred to as a touch screen)
  • the display unit 151 may be used in addition to an output device.
  • the touch sensor may have, for example, a form of a touch film, a touch sheet, a touch pad, or the like.
  • the touch sensor may be configured to convert a change in pressure applied to a specific portion of the display unit 151 or capacitance generated in a specific portion of the display unit 151 into an electrical input signal.
  • the touch sensor may be configured to detect not only the position and area of the touch but also the pressure at the touch.
  • the touch controller processes the signal (s) and then transmits the corresponding data to the controller 180. As a result, the controller 180 can know which area of the display unit 151 is touched.
  • a proximity sensor 141 may be disposed near the display unit 151.
  • the proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or an object present in the vicinity without using a mechanical contact by using an electromagnetic force or infrared rays.
  • Proximity sensors have a longer life and higher utilization than touch sensors.
  • the proximity sensor examples include a transmission photoelectric sensor, a direct reflection photoelectric sensor, a mirror reflection photoelectric sensor, a high frequency oscillation proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor.
  • the touch screen is capacitive, the touch screen is configured to detect the proximity of the pointer by the change of the electric field according to the proximity of the pointer.
  • the touch screen may be classified as a proximity sensor.
  • the audio output unit 152 may output audio data received from the wireless communication unit 110 or stored in the memory 160 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like.
  • the audio output unit 152 may also output a sound signal related to a function (for example, a call signal reception sound or a message reception sound) performed in the mobile communication terminal 100.
  • the audio output unit 152 may include a receiver, a speaker, a buzzer, and the like.
  • the alarm unit 153 outputs a signal for notifying occurrence of an event of the mobile communication terminal 100. Examples of events occurring in the mobile communication terminal include call signal reception, message reception, key signal input, and touch input.
  • the alarm unit 153 may output a signal for notifying occurrence of an event in a form other than a video signal or an audio signal, for example, vibration.
  • the video signal or the audio signal may be output through the display unit 151 or the audio output module 152, so that they 151 and 152 may be classified as part of the alarm unit 153.
  • the haptic module 154 generates various haptic effects that a user can feel. Vibration is a representative example of the haptic effect generated by the haptic module 154.
  • the intensity and pattern of vibration generated by the haptic module 154 can be controlled. For example, different vibrations may be synthesized and output or may be sequentially output.
  • the haptic module 154 may be configured to provide a pin array that vertically moves with respect to the contact skin surface, a jetting force or suction force of air through an injection or inlet port, grazing to the skin surface, contact of an electrode, electrostatic force, and the like.
  • Various tactile effects can be generated, such as effects by the endothermic and the reproduction of a sense of cold using the elements capable of endotherm or heat generation.
  • the haptic module 154 may not only deliver the haptic effect through direct contact, but also may implement the user to feel the haptic effect through a muscle sense such as a finger or an arm. Two or more haptic modules 154 may be provided according to a configuration aspect of the mobile communication terminal 100.
  • the memory 160 may store a program for the operation of the controller 180 and may temporarily store input / output data (for example, a phone book, a message, a still image, a video, etc.).
  • the memory 160 may store data regarding vibration and sound of various patterns output when a touch input on the touch screen is performed.
  • the memory 160 may be a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), RAM random access memory (RAM), static random access memory (SRAM), read-only memory (ROM), electrically erasable programmable read-only memory (EEPROM), programmable read-only memory (PROM), magnetic memory, magnetic It may include a storage medium of at least one type of disk, optical disk.
  • the mobile communication terminal 100 may operate in connection with a web storage that performs a storage function of the memory 160 on the Internet.
  • the interface unit 170 serves as a path with all external devices connected to the mobile communication terminal 100.
  • the interface unit 170 receives data from an external device, receives power, transfers the power to each component inside the mobile communication terminal 100, or transmits data inside the mobile communication terminal 100 to an external device.
  • wired / wireless headset ports, external charger ports, wired / wireless data ports, memory card ports, ports for connecting devices with identification modules, audio input / output (I / O) ports, The video input / output (I / O) port, the earphone port, and the like may be included in the interface unit 170.
  • the identification module is a chip that stores various types of information for authenticating the use authority of the mobile communication terminal 100.
  • the identification module may include a user identify module (UIM), a subscriber identify module (SIM), and a universal user authentication module. It may include a universal subscriber identity module (USIM) and the like.
  • a device equipped with an identification module hereinafter referred to as an 'identification device' may be manufactured in the form of a smart card. Therefore, the identification device may be connected to the terminal 100 through a port.
  • the interface unit may be a passage through which power from the cradle is supplied to the mobile terminal 100 when the mobile terminal 100 is connected to an external cradle, or various command signals inputted from the cradle by a user are moved. It may be a passage that is delivered to the terminal. Various command signals or power input from the cradle may be operated as signals for recognizing that the mobile terminal is correctly mounted on the cradle.
  • the controller 180 typically controls the overall operation of the mobile communication terminal. For example, perform related control and processing for voice calls, data communications, video calls, and the like.
  • the power supply unit 190 receives an external power source and an internal power source under the control of the controller 180 to supply power for operation of each component.
  • 15 is a block diagram showing the configuration when the electronic device according to the present invention is a portable terminal.
  • the digital device 100 is one of a portable terminal such as a camera, a multimedia playback terminal, and a tablet terminal is shown.
  • the portable terminal may include a camera unit 121, a storage unit 140, a display 151, an audio output unit 152, and a processor 170. Since these components are the same as those shown in FIG. 14, they will not be redundantly described, and only the operation thereof will be briefly described.
  • the camera unit 121 may include a first optical lens 121a and a second optical lens 121b as described above.
  • the camera unit 121 may further include an exposure meter sensor as described above.
  • the processor 170 controls the camera unit 121 to acquire a first image according to a first mode through the first optical lens 121a, and simultaneously or sequentially with the first image acquisition.
  • the second image is acquired according to the second mode through the two optical lenses 121b.
  • the processor 170 processes and stores the first image acquired according to the first mode and the second image acquired according to the second mode in the storage 140.
  • the first mode and the second mode are different from each other as described above, and may be changeable.
  • the processor 170 may adjust a convergence point between the first optical lens and the second optical lens as a main subject to acquire the images. That is, the processor 170 may adjust the disparity value between the main subject appearing in the first image and the main subject appearing in the second image to be minimized.
  • the first mode may be for focusing on the main subject, and the second mode may be for not focusing on the main subject.
  • the first mode may be for photographing with a first color tone
  • the second mode may be for photographing with a second color tone.
  • the first mode may be for photographing using a first effect
  • the second mode may be for photographing using a second effect.
  • the first mode may be for photographing with a first aperture value
  • the second mode may be for photographing with a second aperture value.
  • the first mode may be for photographing with a first shutter speed value
  • the second mode may be for photographing with a second shutter speed value.
  • the first mode may be for capturing a moving image
  • the second mode may be for capturing a still image.
  • the processing performed by the processor may be synthesized with the second image to generate an out-focused image in an area other than the main subject.
  • the processor 170 may generate a disparity map between the first image and the second image.
  • the processor 170 obtains an area having the smallest disparity from the first image according to the disparity map, obtains an area having the largest disparity from the second image, and obtains an area having the intermediate disparity from the first image.
  • a second image may be synthesized and obtained.
  • the processor 170 may synthesize and store the obtained regions into a single image.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Studio Devices (AREA)

Abstract

본 발명의 일 실시예는 복수의 광학 렌즈를 구비한 전자 기기에서의 이미지 처리 방법을 제공한다. 상기 이미지 처리 방법은 제1 광학 렌즈를 통해 제1 모드에 따라 제1 이미지를 획득하는 단계와; 상기 제1 이미지 획득과 동시에 또는 순차적으로, 제2 광학 렌즈를 통해 제2 모드에 따라 제2 이미지를 획득하는 단계와; 상기 제1 모드에 따라 획득된 제1 이미지와 상기 제2 모드에 따라 획득된 제2 이미지를 프로세싱하여 저장하는 단계를 포함할 수 있다. 여기서, 상기 제1 모드와 제2 모드는 서로 다르며, 변경 가능할 수 있다.

Description

이미지 처리 방법 및 그 전자 기기
본 발명은 이미지 처리 방법에 관한 것이다.
최근 입체 영상 서비스에 대한 관심이 점점 증대되면서, 입체 영상을 제공하는 장치들이 계속 개발되고 잇다. 이러한 입체 영상을 구현하는 방식 중에 스테레오스코픽(Stereoscopic) 방식이 있다.
상기 스테레오스코픽 방식의 기본 원리는, 사람의 좌안과 우안이 서로 직교하도록 배열된 영상을 분리하여 입력하고, 사람의 두뇌에서 좌안과 우안게 각각 입력된 영상이 결합되어 입체 영상이 생성되는 방식이다. 이때, 영상이 서로 직교하도록 배열된다는 것은 각 영상이 서로 간섭을 일으키지 않는 다는 것을 의미한다.
도 1은 입체 영상 디스플레이 장치와 입체 영상 카메라를 나타낸 예시도이다.
도 1(a)를 참조하여 알 수 있는 바와 같이, 입체 영상 디스플레이 장치가 나타나 있다.
입체 영상 디스플레이 장치를 구현하는 방법은, 안경 방식과 무안경 방식으로 크게 나뉠수 있다.
상기 안경 방식으로는 편광 방식, 시분할(time-sequential) 방식, 및 스펙트럼(spe도 ctral) 방식이 있다.
먼저, 편광 방식은 편광 필터를 이용하여 각 영상을 분리하는 것이다. 즉, 좌안(left eye)를 이용한 영상과 우안(right eye)를 위한 영상에 서로 직교하는 편광 필터를 적용함으로써, 좌우의 시야에 편광 필터에 의해 필터링된 각기 다른 영상이 입력되게 하는 것이다.
다음으로, 시분할 방식은 좌우 영상을 교대로 표시하고, 사용자가 착용하는 능동형 안경(active glasses)이 교대로 표시되는 영상과 동기화되어 각 영상을 분리하는 방법이다. 즉, 영상이 교대로 표시될 때, 이와 동기된 능동형 안경의 셔터가 해당 영상이 입력되어야 하는 시야만 개방하고 다른 시야는 차단함으로써, 좌우 영상을 분리하여 입력한다.
마지막으로, 스펙트럼 방식은 RGB 스펙트럼이 서로 중첩되지 않는 스펙트럼 대역을 갖는 스펙트럼 필터를 통해 좌우 영상을 투사(projection)하는 방법이다. 이렇게 투사된 좌우 영상에 대해, 사용자는 좌우 영상에 대해 설정된 스펙트럼 영역만 통과하는 스펙트럼 필터(spectral filter)를 장착한 수동형 안경(passive glasses)을 착용함으로써, 좌우 영상을 분리하여 입력받는 것이다.
한편, 무안경 방식으로는 다시점 무안경 방식이 있다. 상기 다시점 무안경 방식은 페러렉스 배리어 (Parallax Barrier) 방식과 렌티큘러 렌즈(Lenticular Lens) 방식이 있다.
상기 페러렉스 베리어 방식은 디스플레이에 배리어(막)을 입히는데, 상기 베리어(막)은 수직하는 라인들로 이루어지며, 수직 라인들 사이에 슬릿(slit)이 존재한다. 상기 슬릿에 의하여 좌안가 우안에 시차를 만들어 내는 방식이다.
렌티큘러 방식은 디스플레이에 정제된 작은 렌즈들을 디스플레이에 배열하여, 영상이 작은 렌즈들에 의해 굴절되어, 좌안과 우안에 각기 다른 영상을 보여주는 방식이다.
한편, 이와 같은 3D 또는 입체 디스플레이 장치는 3D 컨텐츠 또는 입체감을 갖는 컨텐츠의 보급이 빠르게 확산되지 않는 탓에, 한계점을 가지고 있다.
도 1(b)는 3D 또는 입체 영상을 제작할 수 있는 카메라를 나타낸다.
도 1(b)에 도시된 바와 같이, 3D 또는 입체 영상을 제작할 수 있는 카메라는 상기 스테레오스코픽 방식을 이용하여, 2개의 카메라 렌즈로부터 각각의 영상을 촬영하고, 이를 통해 입체 영상을 생성한다.
이와 같은 3D 카메라에 대한 개발이 많이 이루어지고 있으며, 제품이 속속 출시되고 있다.
그러나, 일반 사용자 입장에서 3D 또는 입체 영상을 제작하는 것은 익숙하지 않다. 특히, 사용자 입장에서 3D 또는 입체 영상은 아직까지 낯설기 때문에, 3D 또는 입체 영상 카메라를 구매하려는 욕구가 크지 않은 편이다.
또한, 일반 사용자 입장에서 소유하고 있는 디스플레이 장치들을 모두 3D 디스플레이 장치로 바꾸기 전까지는, 촬영된 3D 또는 입체 영상을 볼 수 있는 디스플레이가 몇 개로 국한되어, 범용성이 떨어지는 단점이 있다.
또한, 3D 또는 입체 영상을 인화하는 등의 방식으로 재생산하기 어렵기 때문에, 그 활용도가 매우 낮은 단점이 있다.
따라서, 본 명세서는 전술한 문제점들을 해결하는 방안들을 제공하는 것을 목적으로 한다.
구체적으로, 본 명세서는 복수의 렌즈를 구비한 3D 또는 입체 카메라를 이용하여, 일반 영상, 즉 2D 영상을 보다 효과적으로 촬영할 수 있게 하는 방안을 제공하는 것을 목적으로 한다.
또한, 본 명세서는 복수의 렌즈를 구비한 3D 또는 입체 카메라를 이용하여, 고성능 광학 렌즈를 통해서만 얻을 수 있는 품질의 이미지를 획득할 수 있게 하는 것을 목적으로 한다.
전술한 목적을 달성하기 위하여, 본 발명의 일 실시 예는 복수의 광학 렌즈를 구비한 전자 기기에서의 이미지 처리 방법을 제공한다. 상기 이미지 처리 방법은 제1 광학 렌즈를 통해 제1 모드에 따라 제1 이미지를 획득하는 단계와; 상기 제1 이미지 획득과 동시에 또는 순차적으로, 제2 광학 렌즈를 통해 제2 모드에 따라 제2 이미지를 획득하는 단계와; 상기 제1 모드에 따라 획득된 제1 이미지와 상기 제2 모드에 따라 획득된 제2 이미지를 프로세싱하여 저장하는 단계를 포함할 수 있다. 여기서, 상기 제1 모드와 제2 모드는 서로 다르며, 변경 가능할 수 있다.
상기 이미지 처리 방법은 상기 획득을 위해, 상기 제1 광학 렌즈와 제2 광학 렌즈 간의 컨버젼스 포인트를 주 피사체로 조절하는 단계를 포함할 수 있다.
상기 획득 단계들에서, 상기 제1 이미지에 나타나는 주 피사체와 상기 제2 이미지에 나타나는 주 피사체 간에 디스페리티 값이 최소화되도록 한 후 획득할 수 있다. 상기 제1 이미지와 제2 이미지는 동일한 피사체 또는 장면(scene)에 대한 것일 수 있다.
상기 제1 모드는 주 피사체에 초점하기 위한 것이고, 상기 제2 모드는 상기 주 피사체에 초점하지 않기 위한 것일 수 있다. 또한, 상기 제1 모드는 제1 색상 톤으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 색상 톤으로 촬영하기 위한 것일 수 있다. 또한, 상기 제1 모드는 제1 효과를 이용하여 촬영하기 위한 것이고, 상기 제2 모드는 제2 효과를 이용하여 촬영하기 위한 것일 수 있다. 또는, 상기 제1 모드는 제1 조리개 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 조리개 값으로 촬영하기 위한 것일 수 있다. 또는, 상기 제1 모드는 제1 셔터 스피드 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 셔터 스피드 값으로 촬영하기 위한 것일 수 있다. 또는, 상기 제1 모드는 동영상으로 촬영하기 위한 것이고, 상기 제2 모드는 스틸 이미지를 촬영하기 위한 것일 수 있다.
한편, 상기 제1 이미지는 상기 제1 모드에 따라 주 피사체에 초점된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 상기 주 피사체에 초점되지 않은 이미지인 경우, 상기 프로세서가 수행하는 상기 프로세싱은 상기 주 피사체 이외의 영역은 아웃 포커스된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것일 수 있다.
한편, 상기 프로세싱 과정에서는 상기 제1 이미지와 상기 제2 이미지 간에 디스패리티(Disparity) 맵을 생성할 수 있다. 그리고, 상기 프로세싱 과정에서는 상기 디스패리티 맵에 따라 디스패리티가 최소인 영역은 제1 이미지로부터 구하고, 디스패리티가 최대인 영역은 제2 이미지로부터 획득하고, 디스패리티가 중간인 영역은 제1 이미지와 제2 이미지를 합성하여 획득할 수 있다. 그리고, 상기 프로세서(170)는 상기 구해진 영역들을 하나의 이미지로 합성하여 저장할 수 있다.
한편, 상기 제1 이미지가 상기 제1 모드에 따라 인물 색상이 부각된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 배경 색상이 부각된 이미지인 경우, 상기 프로세싱 과정은 인물 색상과 배경 색상 모두 부각된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것일 수 있다.
상기 저장하는 단계에서는 상기 제1 이미지, 상기 제2 이미지, 상기 제1 및 2 이미지를 합성한 이미지와; 상기 제1 이미지, 상기 제2 이미지, 상기 합성 이미지 중 어느 하나 이상에 대한 디스크립터(Descriptor) 중 하나 이상을 하나의 파일 내에 저장할 수 있다.
전술한 목적을 달성하기 위하여, 본 발명의 일 실시예는 복수의 광학 렌즈를 구비한 전자 기기를 제공한다. 상기 전자 기기는 제1 광학 렌즈와; 제2 광학 렌즈와; 상기 제1 광학 렌즈 및 상기 제2 광학 렌즈를 제어하여, 상기 제1 광학 렌즈를 통해 제1 모드에 따라 제1 이미지를 획득하는 동시에, 상기 제2 광학 렌즈를 통해서는 제2 모드에 따라 제2 이미지를 획득한 후, 상기 제1 이미지와 상기 제2 이미지를 프로세싱하여 저장하는 프로세서를 포함할 수 있다.
본 명세서의 개시에 의하여, 전술한 종래 기술의 문제점들이 해결된다.
구체적으로, 본 명세서의 개시에 의해, 복수의 렌즈를 구비한 3D 또는 입체 카메라를 이용하여, 일반 영상, 즉 2D 영상을 보다 효과적으로 촬영할 수 있게 된다.
또한, 본 명세서의 개시에 의하여. 복수의 렌즈를 구비한 3D 또는 입체 카메라를 이용하여, 고성능 광학 렌즈를 통해서만 얻을 수 있는 품질의 이미지를 획득할 수 있다.
도 1은 입체 영상 디스플레이 장치와 입체 영상 카메라를 나타낸 예시도이다.
도 2는 본 발명에 따른 전자 기기의 외형을 나타낸다.
도 3은 본 발명의 일 실시예에 따른 이미지 처리 과정을 나타낸 흐름도이다.
도 4는 도 3에 도시된 이미지 처리 과정에 대한 예시적 화면을 나타낸다.
도 5는 도 3에 도시된 과정을 보다 구체화하여 나타낸 흐름도이다.
도 6는 도 5에 도시된 컨버젼스 포인트를 조절하는 예를 나타낸다.
도 7는 도 5에 도시된 컨버젼스 포인트를 조절한 다른 예를 나타낸다.
도 8는 도 5에 도시된 컨버젼스 포인트를 조절한 다른 예를 나타낸다.
도 9는 도 5에 도시된 과정 중 디스패리티에 대해 설명하기 위한 예시도이다.
도 10은 도 5에 도시된 과정에 따라 촬영되는 이미지를 나타낸 예시도이다.
도 11은 도 5에 도시된 과정에 따라 촬영되는 이미지를 나타낸 다른 예시도이다.
도 12는 도 5에 도시된 저장 과정을 구체적으로 나타낸 흐름도이다.
도 13은 도 12에 도시된 과정에 따라 저장되는 파일의 포맷을 나타낸 예시도이다.
도 14는 본 발명에 따른 전자 기기가 이동 통신 단말기인 경우의 구성을 나타낸 블록도이다.
도 15는 본 발명에 따른 전자 기기가 휴대 가능한 단말기인 경우의 구성을 나타낸 블록도이다.
본 명세서에서 사용되는 기술적 용어는 단지 특정한 실시 예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아님을 유의해야 한다. 또한, 본 명세서에서 사용되는 기술적 용어는 본 명세서에서 특별히 다른 의미로 정의되지 않는 한, 본 발명이 속하는 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 의미로 해석되어야 하며, 과도하게 포괄적인 의미로 해석되거나, 과도하게 축소된 의미로 해석되지 않아야 한다. 또한, 본 명세서에서 사용되는 기술적인 용어가 본 발명의 사상을 정확하게 표현하지 못하는 잘못된 기술적 용어일 때에는, 당업자 가 올바르게 이해할 수 있는 기술적 용어로 대체되어 이해되어야 할 것이다. 또한, 본 발명에서 사용되는 일반적인 용어는 사전에 정의되어 있는 바에 따라, 또는 전후 문맥상에 따라 해석되어야 하며, 과도하게 축소된 의미로 해석되지 않아야 한다.
또한, 본 명세서에서 사용되는 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "구성된다" 또는 "포함한다" 등의 용어는 명세서 상에 기재된 여러 구성 요소들, 또는 여러 단계들을 반드시 모두 포함하는 것으로 해석되지 않아야 하며, 그 중 일부 구성 요소들 또는 일부 단계들은 포함되지 않을 수도 있고, 또는 추가적인 구성 요소 또는 단계들을 더 포함할 수 있는 것으로 해석되어야 한다.
또한, 본 명세서에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.
또한, 본 명세서에서 사용되는 제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성 요소들을 설명하는데 사용될 수 있지만, 상기 구성 요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성 요소로 명명될 수 있고, 유사하게 제2 구성 요소도 제1 구성 요소로 명명될 수 있다.
이하, 첨부된 도면을 참조하여 본 발명에 따른 바람직한 실시예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성 요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다.
또한, 본 발명을 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 발명의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 발명의 사상을 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 발명의 사상이 제한되는 것으로 해석되어서는 아니 됨을 유의해야 한다.
도 2는 본 발명에 따른 전자 기기의 외형을 나타낸다.
도 2를 참조하여 알 수 있는 바와 같이, 전자 기기(100)가 예시적으로 휴대 가능한 단말기로 나타나 있다. 상기 휴대 가능한 단말기는 카메라, 이동통신 단말기, 멀티미디어 재생 단말기, 태블릿 단말기 중 하나 일 수 있다. 보다 구체적으로, 상기 휴대 가능한 단말기는 이동 단말기(Mobile Terminal), 개인 정보 단말기(Personal Digital Assistant : PDA), 스마트 폰(Smart Phone), 휴대용 멀티미디어 플레이어(Portable Multimedia Player : PMP), 노트북 컴퓨터, 태블릿 PC(Tablet PC) 중 어느 하나 일 수 있다.
그러나, 상기 전자 기기(100)는 휴대 가능하지 않은 단말기, 예컨대 IPTV(Internet Protocol Television) 단말기, 텔레비전(Television), 3D 텔레비전, 영상 기기, 텔레매틱스(Telematics) 단말기, 차량 설치용 내비게이션(Navigation) 단말기일 수도 있다.
이와 같은 상기 전자 기기는 도시된 바와 같이, 카메라부(121)와 디스플레이부(151)를 포함할 수 있다. 상기 전자 기기(100)가 휴대 가능한 단말기일 경우, 상기 디스플레이부(151)는 휴대 가능 단말기의 전면에 장착되고, 상기 카메라부(121)는 2에 도시된 바와 같이, 휴대 가능 단말기의 후면에 장착될 수 있다. 대안적으로, 상기 카메라부(121)는 휴대 가능 단말기의 전면에도 장착될 수도 있다.
상기 카메라부(121)는 도시된 바와 같이 수평 간격으로 이격되어 설치되는 적어도 한 쌍의 광학 렌즈(121a, 121b)를 포함할 수 있다. 이와 같은 상기 카메라부(121)는 스테레오 카메라(stereo camera) 또는, 스테레오코스픽 카메라(stereoscopic camera)로 불리기도 한다. 이때, 상기 고정된 수평 간격은, 일반적인 사람의 두 눈 간의 거리를 고려하여 설정할 수 있다.
이와 같이 제1 및 제2 광학 렌즈(121a, 121b)를 구비한 상기 전자 기기(100)를 이용하여, 이미지를 보다 효용성 있게 처리하는 방안에 대해서 이하 설명하기로 한다.
도 3은 본 발명의 일 실시예에 따른 이미지 처리 과정을 나타낸 흐름도이고, 도 4는 도 3에 도시된 이미지 처리 과정에 대한 예시적 화면을 나타낸다.
먼저 도 3을 참조하여 설명하면, 제1 모드로 제1 이미지를 획득하고(S120), 제2 모드로 제2 이미지를 획득한다(S130).
이때, 상기 카메라부(121)가 제1 광학 렌즈(121a)와 제2 광학 렌즈(121b)를 구비할 경우, 상기 제1 광학 렌즈(121a)는 전술한 디스플레이부(151)에 프리뷰 영상을 제공하는데 이용되고, 상기 제2 광학 렌즈(121b)는 상기 제1 이미지 및 제2 이미지를 획득하는데 이용될 수 있다. 또는, 상기 제1 광학 렌즈(121a)는 동영상을 촬영하는데 이용되고, 상기 제2 광학 렌즈(121b)는 상기 제1 이미지 및 제2 이미지를 획득하는데 이용될 수 있다. 이때, 상기 제2 광학 렌즈(121b)를 통해서 제1 이미지 및 제2 이미지를 모두 획득하기 위해서는 상기 제2 광학 렌즈(121b)의 셔터는 매우 빠른 속도로 개폐될 수 있다.
그러나, 상기 카메라부(121)가 제1 광학 렌즈(121a)와 제2 광학 렌즈(121b)를 구비할 경우, 상기 제1 이미지는 전술한 제1 광학 렌즈(121a)에 의해서 획득되는 것일 수 있고, 상기 제2 이미지는 전술한 제2 광학 렌즈(121b)에 의해서 획득되는 것일 수 있다. 이때, 상기 제1 광학 렌즈(121a)와 제2 광학 렌즈(121b)는 동시에 구동되어, 제1 이미지와 제2 이미지를 동시에 획득하는 것일 수도 있고, 상기 제1 광학 렌즈(121a)가 제1 이미지를 획득한 후, 곧바로 제2 광학 렌즈(121b)가 제2 이미지를 획득하는 것일 수 있다. 즉, 상기 제1 광학 렌즈(121a)와 제2 광학 렌즈(121b)는 연사 기능을 위해서 이용될 수 있다. 이와 같이 상기 제1 광학 렌즈(121a)와 제2 광학 렌즈(121b)을 구현할 경우, 매우 빠른 연사 기능을 구현할 수 있다.
상기 제1 광학 렌즈(121a)와 상기 제2 광학 렌즈(121b)는 도 4(a)에서와 같이 수평으로 배열되므로, 동일한 장면(scene)을 큰 차이 없이 획득할 수 있으므로. 제1 광학 렌즈(121a)를 통해서는 동일한 장면(scene)를 제1 모드로 촬영하여, 제1이미지를 획득하고, 제2 광학 렌즈(121b)를 통해서는 동일한 장면을 제2 모드로 촬영하여, 제2 이미지를 획득할 수 있다.
상기 제1 모드 및 제2 모드는 서로 다른 것일 수 있고, 자동으로 또는 사용자에 의하여 변경될 수 있다.
이때, 제1 모드 및 제2 모드로 각각 획득한 이미지의 예가 도 4(b) 및 도 4(c)에 각각 나타나 있다. 도 4(b)에서와 같이 제1 모드는 장면을 밝게 촬영하는 것일 수 있고, 도 4(c)에서와 같이 제2 모드는 장면을 보다 어둡게 촬영하는 것일 수 있다. 이를 위해, 상기 제1 모드에 따라 상기 제1 광학 렌즈의 조리개 값은 낮은 수치로 조절 조절될 수 있고, 상기 제2 모드에 따라 상기 제2 광학 렌즈의 조리개 크기의 값은 높은 수치로 조절될 수 있다. 또는, 상기 제1 모드에 따라 상기 제1 광학 렌즈의 셔터 스피드는 느려질 수 있고, 상기 제2 모드에 따라 상기 제2 광학 렌즈의 셔터 스피드는 고속으로 조정될 수 있다.
대안적으로, 제1 모드는 상기 장면에 대해서 파랑톤을 강조하여 촬영하는 것일 수 있고, 제2 모드는 상기 장면에 대해서 붉은 톤을 강조하여 촬영하는 것일 수 있다. 또는, 상기 제1 모드는 상기 장면에 대해서 샤프니스(Sharpness)의 값을 높여 촬영하는 것일 수 있고, 상기 제2 모드는 상기 장면에 대해서 샤프니스의 값을 낮춰서 촬영하는 것일 수 있다. 또는, 상기 제1 모드는 화이트 밸런스 기능들 중 태양광 조건에서의 화이트 밸런스 기능을 위한 것일 수 있고, 제2 모드는 화이트 밸런스 기능들 중 텅스텐 조건에서의 화이트 밸런스를 위한 것일 수 있다. 또는, 상기 제1 모드는 ISO 감도가 높은 수치일 수 있고, 상기 제2 모드는 ISO 감도가 낮은 수치일 수 있다.
또는, 상기 제1 모드는 동영상을 촬영하기 위한 것일 수 있고, 상기 제2 모드는 스틸 이미지를 촬영하기 위한 것일 수 있다.
도 5는 도 3에 도시된 과정을 보다 구체화하여 나타낸 흐름도이다. 도 6는 도 5에 도시된 컨버젼스 포인트를 조절하는 예를 나타내며, 도 7는 도 5에 도시된 컨버젼스 포인트를 조절한 다른 예를 나타내고, 도 8는 도 5에 도시된 컨버젼스 포인트를 조절한 다른 예를 나타낸다. 도 9는 도 5에 도시된 과정 중 디스패리티에 대해 설명하기 위한 예시도이다.
도 5를 참조하여 알 수 있는 바와 같이, 도 3을 참조하여 전술한 과정들이 보다 구체적으로 나타나 있다.
먼저, 상기 전자 기기(100)는 컨버젼스 포인트를 조절하여, 피사체에 대해 맞춘다(S110).
컨버젼스 포인트라 함은 입체감이 0인 지점을 말한다. 구체적으로, 도 6(a)을 참조하여 알 수 있는 바와 같이, 제1 광학 렌즈와 제2 광학 렌즈의 초점 거리가 서로 일치하는 지점이 컨버젼스 포인트이다. 이러한 컨버젼스 포인트는 도 6(a)에 나타난 바와 같이 거리 조절이 가능하다. 따라서, 촬영 대상물인 주 피사체를 컨버젼스 포인트 맞추게 되면, 상기 주 피사체는 입체감이 없이, 즉 상기 도가 0이 되어 촬영된다.
도 6(b)를 참조하면, 육면체와 원기둥이 있고, 이를 촬영한다고 가정하자. 육면체 보다 더 멀리 있는 지점에 컨버젼스 포인트를 맞춘 후, 상기 육면체와 상기 원기둥을 촬영하면, 상기 정육면체가 배경보다 앞에 위치하고, 원기둥은 정육면체보다 앞에 위치하는 것으로 표현된다.
한편, 도 7을 참조하면, 컨버젼스 포인트를 조절하여, 육면체에 맞춘 후, 촬영을 하게 되면, 상기 육면체는 입체도가 없이 2D로 표현되는 반면, 상기 원기둥은 상기 육면체보다 전방에 위치하는 것처럼 입체도가 표현될 수 있다.
다른 예로서, 도 8을 참조하면, 컨버젼스 포인트를 조절하여, 원기둥에 맞춘후 촬영을 하게 되면, 상기 원기둥은 입체도가 없이 2D로 표현되는 반면, 상기 육면체는 상기 원기둥 보다 뒤에 위치하는 것처럼 입체도가 표현될 수 있다.
따라서, 이와 같이 컨버젼스 포인트를 조절하여, 피사체에 맞춘 후, 피사체를 제1 모드로 촬영하여, 제1 이미지를 획득한다(S120).
그리고, 상기 동일한 피사체를 제2 모드로 촬영하여, 제2 이미지를 획득한다(S130).
상기 획득 과정들(S120, S130)은 전술한 바와 같이, 동시에 수행되거나, 순차적으로 수행될 수 있다. 동시에 수행되는 경우는, 전술한 바와 같이, 제1 광학 렌즈(121a)와 상기 제2 광학 렌즈(121b)를 동시에 구동하여 촬영하는 것일 수 있다. 상기 순차적으로 수행하는 예는 전술한 바와 같이, 상기 제1 광학 렌즈(121a) 및 제2 광학 렌즈(121b) 중 어느 하나를 이용하여, 상기 제1 이미지 및 제2 이미지를 순차적으로 촬영하는 것일 수 있다. 또는, 상기 제1 광학 렌즈(121a) 와 상기 제2 광학 렌즈(121b)를 순차적으로 구동시켜, 상기 제1 및 제2 이미지를 순차적으로 획득하는 것일 수 있다.
이때, 상기 제1 모드는 전술한 바와 같이 장면을 밝게 촬영하는 것일 수 있고, 제2 모드는 장면을 보다 어둡게 촬영하는 것일 수 있다. 대안적으로, 제1 모드는 상기 장면에 대해서 파랑톤을 강조하여 촬영하는 것일 수 있고, 제2 모드는 상기 장면에 대해서 붉은 톤을 강조하여 촬영하는 것일 수 있다. 또는, 상기 제1 모드는 상기 장면에 대해서 샤프니스(Sharpness)의 값을 높여 촬영하는 것일 수 있고, 상기 제2 모드는 상기 장면에 대해서 샤프니스의 값을 낮춰서 촬영하는 것일 수 있다. 또는, 상기 제1 모드는 화이트 밸런스 기능들 중 태양광 조건에서의 화이트 밸런스 기능을 위한 것일 수 있고, 제2 모드는 화이트 밸런스 기능들 중 텅스텐 조건에서의 화이트 밸런스를 위한 것일 수 있다. 또는, 상기 제1 모드는 ISO 감도가 높은 수치일 수 있고, 상기 제2 모드는 ISO 감도가 낮은 수치일 수 있다.
이와 같이, 상기 제1 및 제2 이미지 획득이 완료되면, 상기 전자 기기(100)는 상기 제1 이미지와 상기 제2 이미지 간에 디스패리티(Disparity)를 산출한다(S140). 이어서, 상기 전자 기기(100)는 상기 디스패리티 값에 기초하여 디스패리티 맵을 생성한다.
상기 제1 이미지와 상기 제2 이미지 간에 디스패리티라 함은 제1 이미지 내의 임의 화소가 상기 제2 이미지 내의 임의 화소와 대응할 때, 그 화소들 간의 차이를 말한다.
예를 들어 도 9(a)를 참조하여 알 수 있는 바와 같이, 컨버젼스 포인트를 육면체에 맞춘 후, 제 1 광학 렌즈를 통해 촬영하면, 도 9(b)와 같은 제1 이미지가 획득되고, 제2 광학 렌즈를 통해 촬영하면, 도 9(c)와 같은 제2 이미지지가 획득된다.
제1 이미지에서 원기둥은 도 9(b)를 참조하여 알 수 있는 바와 같이, 가로축 좌표 1~2.3 까지 존재하고, 제2 이미지에서 원기둥은 도 (c)를 참조하여 알 수 있는 바와 같이, 가로축 좌표 2.2~3.5 사이에 존재한다. 상기 컨버젼스 포인트가 상기 육면체에 맞춰졌으므로, 상기 제1 이미지 및 제2 이미지에서 상기 육면체는 차이가 없다.
디스패리티의 이해를 쉽게 하고자, 상기 제1 이미지와 상기 제2 이미지를 겹쳐 나타낸 도 9(d)를 참조하면, 상기 원기둥에 대한 디스패리티가 나타나 있다. 이와 같이 상기 원기둥은 상기 컨버젼스 포인트 보다 전방에 위치하기 때문에, 디스패리티 값이 커지게 된다. 만약, 상기 컨버젼스 포인트 보다 후방에 위치하는 오브젝트가 있다면, 디스패리티 값이 커지게 된다.
이와 같디 디스패리티를 산출한 후, 상기 제1 이미지와 상기 제2 이미지를 상기 디스패리티를 이용하여 합성한다(S150).
예를 들어, 상기 제1 이미지 및 상기 제2 이미지 간에 디스패리티 값이 최소인 영역은, 상기 제1 이미지로부터 획득하고, 디스패리티 값이 최대인 영역은 제2 이미지로부터 획득하고, 디스패리티가 값이 중간인 영역은 제1 이미지와 제2 이미지를 합성하여 획득한 후, 상기 영역들을 합성하여, 합성 이미지를 완성한다.
보다 구체적인 예를 들어 설명하면, 장면(scene)에서 역광에 의해 주 피사체인 사람의 얼굴이 검게 보이는 상황이라고 가정하자. 이와 같은 역광 조건에서, 제1 모드는 장면을 밝게 촬영하는 것으로 설정되고, 제2 모드는 장면을 보다 어둡게 촬영하는 것으로 자동으로 또는 사용자의 조작에 따라 설정될 수 있다. 자동으로 설정되는 경우는, 상기 카메라부(121)에 구비되는 노출계 센서는 평가 측광, 부분 측광, 스팟 측광, 중앙 중점 평균 측광을 수행할 수 있는데, 이중 어느 하나로 측광한 결과, 부분적으로 어둡고 부분적으로 밝은 환경을 감지한 경우에, 자동으로 수행될 수 있다. 이와 같이 역광인 조건에서, 상기 전자 기기(100)는 초점을 사람 얼굴에 포커싱한 상태로, 밝게 촬영하기 위한 제1 모드로 제1 광학 렌즈를 통해 장면을 촬영하여 제1 이미지를 획득하고, 어둡게 촬영하기 위한 제2 모드로 제2 광학 렌즈를 통해 장면을 촬영을 하여 제2 이미지를 획득한다. 이와 같이 획득한 제2 이미지는 사람 얼굴은 식별이 불가능하나, 전체적인 밝기는 정당한 반면, 제2 이미지는 사람 얼굴이 식별가능한 대신에 전체적인 밝기는 균형된 것이게 된다.
따라서, 상기 디스패리티 값이 최소인 영역인 사람 얼굴 영역은 밝게 촬영된 제1 이미지로부터 획득하고, 디스패리티 값이 최대인 영역에 해당하는 장면의 배경 부분은 어둡게 촬영된 제2 이미지로부터 획득한 후, 영역들을 합성하게 되면, 사람 얼굴이 식별되면서도, 배경이 너무 밝지 않게 된 이미지를 얻을 수 있게 된다.
상기 합성이 완료되면, 상기 전자 기기(100)는 상기 제1 이미지, 상기 제2 이미지, 상기 합성 이미지 중 하나 이상을 저장한다(S160).
이하에서는 제1 이미지와 제2 이미지를 합성하는 다른 예들에 대해서 도 10 및 도 11을 참조하여 설명하기로 한다.
도 10은 도 5에 도시된 과정에 따라 촬영되는 이미지를 나타낸 예시도이며, 도 11은 도 5에 도시된 과정에 따라 촬영되는 이미지를 나타낸 다른 예시도이다.
먼저, 도 10에 나타나는 예에서는 제1 모드는 주 피사체 또는 보조 피사체에 초점을 맞추지 않기 위한 것이고, 제2 모드는 주 피사체에 초점을 맞추기 위한 것이다.
먼저, 장면에서 정 가운데에 위치하는 주 피사체가 가장 앞쪽에 위치하며, 좌우에 존재하는 보조 피사체는 주 피사체 보다 뒤에 위치한다. 이때, 컨버젼스 포인트가 조절되어, 상기 주 피사체에 맞춰진다.
그리고 제1 광학 렌즈를 통하여 제1 모드(전술한 바와 같이 주 피사체에 초점이 없는 모드)로 장면을 촬영하여, 제1 이미지를 획득하고, 제2 광학 렌즈를 통해 제2 모드(주 피사체에 초점이 맞춰진 모드)로 장면을 촬영하여, 제2 이미지를 획득한다.
그러면, 제1 이미지는 도 10(a)에 나타난 바와 같이, 주피사체 또는 보조 피사체에도 초점이 맞지 않아, 전체적으로 흐린 이미지이고, 제2 이미지는 도 10(b)에 도시된 바와 같이, 주 피사체에 초점이 맞아, 주 피사체가 뚜렷하게 나타난 이미지이다.
이러한 제1 이미지 및 제2 이미지를 합성하는 과정을 설명하면, 다음과 같다. 먼저, 컨버젼스 포인트가 주 피사체에 맞춰졌으므로, 디스패리티 값이 최소인 영역인 상기 주 피사체이고, 디스패리티 값이 최대인 영역은 장면의 배경이며, 디스패리티 값이 중간인 영역은 보조 피사체가 된다.
따라서, 주피사체 영역은 초점이 맞은 제2 이미지로부터 획득하고, 디스패리티 값이 최대인 영역에 해당하는 장면의 배경 부분은 제1 이미지로부터 획득하고, 상기 제1 이미지 및 제2 이미지에서 디스패리티 값이 중간인 영역들은 서로 합성하여 획득한다.
그리고, 상기 영역들을 합성하면, 도 10(c)와 같이 주 피사체에 초점이 포커싱되고, 그 외의 보조 피사체 및 배경은 초점이 맞지 않아 흐리게 표현된 이미지를 얻을 수 있다.
이와 같이 예에 따라, 결과적으로, 아웃 포커싱 효과를 얻을 수 있게 된다. 이러한 예에 의하면, 상기 제1 광학 렌즈(121a) 및 상기 제2 광학 렌즈(121b)의 최대 조리개 개방도가 높은 고가의 렌즈가 아니더라고, 아웃 포커싱 효과가 나타난 이미지를 얻을 수 있게 된다. 특히, 아웃 포커싱 효과가 나타나기 위해서는 조리개 개방도가 2.0 이하, 바람직하게는 1.8 이하여야 하는데. 이러한 렌즈는 고가이고, 제작하기 어렵다.
반면, 일반적인 2개의 광학 렌즈를 통해, 본 예에 따라 촬영을 하게 되면 보다 저비용으로 아웃 포커싱 효과 이미지를 얻을 수 있게 된다.
한편, 도 11 에 나타나는 예에서는 제1 모드는 주 피사체의 색상을 강조하기 위한 것이고, 제2 모드는 보조 피사체의 색상을 강조하기 위한 것이다.
먼저, 장면에서 정 가운데에 위치하는 주 피사체가 가장 앞쪽에 위치하며, 좌우에 존재하는 보조 피사체는 주 피사체 보다 뒤에 위치한다. 이때, 컨버젼스 포인트가 조절되어, 상기 주 피사체에 맞춰진다. 그리고, 상기 주 피사체는 파랑색이 주를 이루고, 보조 피사체는 빨강색이 주를 이룬다고 하자.
그리고 제1 광학 렌즈를 통하여 제1 모드(전술한 바와 같이 주 피사체의 색상을 강조하기 위한 것)로 장면을 촬영하여, 제1 이미지를 획득하고, 제2 광학 렌즈를 통해 제2 모드(모드는 보조 피사체의 색상을 강조)로 장면을 촬영하여, 제2 이미지를 획득한다.
그러면, 제1 이미지는 도 11(a)에 나타난 바와 같이, 주피사체의 파랑색이 더 강조된 이미지이고, 제2 이미지는 도 11(b)에 도시된 바와 같이 빨강색이 더 강조되어 나타난 이미지이다.
이러한 제1 이미지 및 제2 이미지를 합성하는 과정을 설명하면, 다음과 같다. 먼저, 컨버젼스 포인트가 주 피사체에 맞춰졌으므로, 디스패리티 값이 최소인 영역인 상기 주 피사체이고, 디스패리티 값이 최대인 영역은 장면의 배경이며, 디스패리티 값이 중간인 영역은 보조 피사체가 된다.
따라서, 주피사체 영역은 제1 이미지로부터 획득하고, 디스패리티 값이 최대인 영역에 해당하는 장면의 배경 부분은 제1 이미지와 제2 이미지를 합성하여 구하고, 디스패리티 값이 중간인 영역은 제2 이미지로부터 획득한다.
그리고, 상기 영역들을 합성하면, 도 11(c)와 같이 주 피사체의 색상과 보조 피사체의 색상이 모두 강조된 이미지를 얻을 수 있게 된다.
이와 같은 예에 의하면, 다채로운 색상 표현을 위한 고성능의 이미지 처리 칩셋 및 광학 렌즈를 사용하지 않고서도, 원하는 이미지를 얻을 수 있게 된다.
도 12는 도 5에 도시된 저장 과정을 구체적으로 나타낸 흐름도이고, 도 13은 도 12에 도시된 과정에 따라 저장되는 파일의 포맷을 나타낸 예시도이다.
도 12를 참조하여 알 수 있는 바와 같이, 상기 제1 이미지, 상기 제2 이미지, 상기 합성 이미지 중 하나 이상을 저장하는 과정(S160)이 상세하게 나타나 있다.
먼저, 상기 전자 기기(100)는 상기 제1 이미지, 상기 제2 이미지, 상기 합성 이미지 중 하나 이상에 대한 디스크립터를 생성한다(S161). 상기 디스크립터는 도 13에 도시된 바와 같이, 썸네일, 제1 이미지 위치, 제2 이미지 위치, 합성 이미지 위치를 포함한다. 상기 썸네일은 상기 합성 이미지에 대한 썸네일일 수 있다. 또는, 상기 썸네일은 상기 제1 이미지, 상기 제2 이미지 및 상기 합성 이미지 각각에 대한 것일 수 있다. 즉, 상기 썸네일은 제1 이미지에 대한 썸네일, 상기 제2 이미지에 대한 썸네일 및 상기 합성 이미지에 대한 썸네일을 모두 포함할 수 있다. 상기 위치는 각 이미지가 상기 파일 포맷 내에서 어디에 위치하는지를 나타낼 수 있다. 예시적으로, 상기 위치는 시작점과 오프셋으로 표현될 수 있다. 또는, 상기 위치는 시작점과 끝점으로 표현될 수 있다.
상기 디스크립터의 생성이 완료되면(S161), 상기 전자 기기(100)는 상기 제1 이미지, 상기 제2 이미지 및 상기 합성 이미지를 상기 디스크립터와 함께 하나의 파일 내에 저장한다(S162).
한편, 이와 같이 저장이 완료된 후, 상기 파일에 대한 요청을 수신하면(S163), 상기 전자 기기(100)는 상기 파일 내의 디스크립터에서 썸네일을 추출하여, 디스플레이한다(S164). 이때, 상기 표시되는 썸네일은 전술한 바와 같이, 상기 합성 이미지에 대한 썸네일 수 있다. 또는, 상기 표시되는 썸네일은 상기 썸네일은 제1 이미지에 대한 썸네일, 상기 제2 이미지에 대한 썸네일 및 상기 합성 이미지에 대한 썸네일 모두 일 수 있다.
이와 같이, 상기 제1 이미지에 대한 썸네일, 상기 제2 이미지에 대한 썸네일 및 상기 합성 이미지에 대한 썸네일 모두 표시한 후, 어느 하나에 대한 선택 입력을 수신하면, 상기 전자 기기(100)는 상기 선택받은 이미지를 디스플레이한다(S165).
이상에서 설명한 방법은 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.
하드웨어적인 구현에 의하면, 지금까지 설명한 방법들은 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
소프트웨어적인 구현에 의하면, 본 명세서에서 설명되는 절차 및 기능들은 별도의 소프트웨어 모듈들로 구현될 수 있다. 상기 소프트웨어 모듈들 적절한 프로그램 언어로 쓰여진 소프트웨어 코드로 구현될 수 있다. 상기 소프트웨어 코드는 저장부에 저장될 수 있고, 프로세서에 의해 실행될 수 있다.
도 14는 본 발명에 따른 전자 기기가 이동 통신 단말기인 경우의 구성을 나타낸 블록도이다.
상기 이동 통신 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 14에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 통신 단말기가 구현될 수도 있다.
이하, 상기 구성요소들에 대해 차례로 살펴본다.
무선 통신부(110)는 이동 통신 단말기(100)와 무선 통신 시스템 사이 또는 이동 통신 단말기(100)와 이동 통신 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.
방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. 상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다. 방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.
이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다.
무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 이동 통신 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(Wi-Fi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다.
근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신(short range communication) 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.
위치정보 모듈(115)은 이동 통신 단말기의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Position System) 모듈이 있다.
상기 카메라부(121)는 전술한 바와 같이 제1 광학 렌즈(121a) 및 제2 광학 렌즈(121b)를 포함할 수 있다. 또한, 상기 카메라부(121)는 전술한 바와 같이 노출계 센서를 더 포함할 수 있다. 상기 카메라부(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다.
마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력 받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력 받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.
사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다.
센싱부(140)는 이동 통신 단말기(100)의 개폐 상태, 이동 통신 단말기(100)의 위치, 사용자 접촉 유무, 이동 통신 단말기의 방위, 이동 통신 단말기의 가속/감속 등과 같이 이동 통신 단말기(100)의 현 상태를 감지하여 이동 통신 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 통신 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등을 센싱할 수도 있다. 한편, 상기 센싱부(140)는 근접 센서(141)를 포함할 수 있다.
출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이부(151), 오디오 출력부(152), 알람부(153) 및 햅틱 모듈(154) 등이 포함될 수 있다.
디스플레이부(151)는 이동 통신 단말기(100)에서 처리되는 정보를 표시(출력)한다. 예를 들어, 이동 통신 단말기가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 통신 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다.
디스플레이부(151)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 TOLED(Transparant OLED) 등이 있다. 디스플레이부(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이부(151)가 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.
이동 통신 단말기(100)의 구현 형태에 따라 디스플레이부(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 통신 단말기(100)에는 복수의 디스플레이부들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다.
디스플레이부(151)와 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치스크린'이라 함)에, 디스플레이부(151)는 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.
터치 센서는 디스플레이부(151)의 특정 부위에 가해진 압력 또는 디스플레이부(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다.
터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이부(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.
도 2를 참조하면, 상기 디스플레이부(151) 근처에 근접 센서(141)가 배치될 수 있다. 상기 근접 센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접 센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다.
상기 근접 센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접 센서, 정전용량형 근접 센서, 자기형 근접 센서, 적외선 근접 센서 등이 있다. 상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치스크린(터치 센서)은 근접 센서로 분류될 수도 있다.
오디오 출력부(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수 있다. 오디오 출력부(152)은 이동 통신 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력하기도 한다. 이러한 오디오 출력부(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.
알람부(153)는 이동 통신 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 통신 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 상기 비디오 신호나 오디오 신호는 디스플레이부(151)나 음성 출력 모듈(152)을 통해서도 출력될 수 있어서, 그들(151,152)은 알람부(153)의 일부로 분류될 수도 있다.
햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다.
햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력, 피부 표면에 대한 스침, 전극(eletrode)의 접촉, 정전기력 등의 자극에 의한 효과와, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다.
햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자가 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 이동 통신 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.
메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.
메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 통신 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.
인터페이스부(170)는 이동 통신 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나, 전원을 공급받아 이동 통신 단말기(100) 내부의 각 구성 요소에 전달하거나, 이동 통신 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다.
식별 모듈은 이동 통신 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(user identify module; UIM), 가입자 인증 모듈(subscriber identify module; SIM), 범용 사용자 인증 모듈(universal subscriber identity module; USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다.
상기 인터페이스부는 이동단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.
제어부(controller, 180)는 통상적으로 이동 통신 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다.
전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급한다.
이상에서는, 상기 전자 기기(100)가 이동통신 단말기인 경우에 구성에 대해서 설명하였다. 이하에서는 상기 전자 기기(100)가 휴대 가능 단말기 인 경우에 구성에 대해서 설명하기로 한다.
도 15는 본 발명에 따른 전자 기기가 휴대 가능 단말기인 경우의 구성을 나타낸 블록도이다.
도 15를 참조하면, 본 발명의 일 실시예에 의한 디지털 기기(100)가 휴대 가능한 단말기, 예컨대 카메라, 멀티미디어 재생 단말기, 태블릿 단말기 중 하나 일 경우가 나타나 있다.
이러한 휴대 가능 단말기는 카메라부(121)과, 저장부(140)과, 디스플레이(151)과, 오디오 출력부(152)와, 프로세서(170)을 포함할 수 있다. 이와 같은 구성요소들은 도 14에 도시된 구성 요소와 동일하므로, 중복하여 설명하지 않기로 하고, 그 동작에 대해서만 간략하게 설명하기로 한다.
먼저, 상기 카메라부(121)는 전술한 바와 같이 제1 광학 렌즈(121a) 및 제2 광학 렌즈(121b)를 포함할 수 있다. 또한, 상기 카메라부(121)는 전술한 바와 같이 노출계 센서를 더 포함할 수 있다.
상기 프로세서(170)는 상기 카메라부(121)를 제어하여, 상기 제1 광학 렌즈(121a)를 통해 제1 모드에 따라 제1 이미지를 획득하고, 상기 제1 이미지 획득과 동시에 또는 순차적으로, 제2 광학 렌즈(121b)를 통해 제2 모드에 따라 제2 이미지를 획득한다. 그리고, 상기 프로세서(170)는 상기 제1 모드에 따라 획득된 제1 이미지와 상기 제2 모드에 따라 획득된 제2 이미지를 프로세싱하여 상기 저장부(140)에 저장한다. 여기서, 상기 제1 모드와 제2 모드는 전술한 바와 같이 서로 다르며, 변경 가능할 수 있다.
상기 프로세서(170)는 상기 이미지들의 획득을 위해, 상기 제1 광학 렌즈와 제2 광학 렌즈 간의 컨버젼스 포인트를 주 피사체로 조절할 수 있다. 즉, 상기 프로세서(170)는 상기 제1 이미지에 나타나는 주 피사체와 상기 제2 이미지에 나타나는 주 피사체 간에 디스페리티 값이 최소화되도록 조절할 수 있다.
상기 제1 모드는 주 피사체에 초점하기 위한 것이고, 상기 제2 모드는 상기 주 피사체에 초점하지 않기 위한 것일 수 있다. 또한, 상기 제1 모드는 제1 색상 톤으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 색상 톤으로 촬영하기 위한 것일 수 있다. 또한, 상기 제1 모드는 제1 효과를 이용하여 촬영하기 위한 것이고, 상기 제2 모드는 제2 효과를 이용하여 촬영하기 위한 것일 수 있다. 또는, 상기 제1 모드는 제1 조리개 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 조리개 값으로 촬영하기 위한 것일 수 있다. 또는, 상기 제1 모드는 제1 셔터 스피드 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 셔터 스피드 값으로 촬영하기 위한 것일 수 있다. 또는, 상기 제1 모드는 동영상으로 촬영하기 위한 것이고, 상기 제2 모드는 스틸 이미지를 촬영하기 위한 것일 수 있다.
한편, 상기 제1 이미지는 상기 제1 모드에 따라 주 피사체에 초점된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 상기 주 피사체에 초점되지 않은 이미지인 경우, 상기 프로세서가 수행하는 상기 프로세싱은 상기 주 피사체 이외의 영역은 아웃 포커스된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것일 수 있다.
한편, 상기 프로세서(170)는 상기 제1 이미지와 상기 제2 이미지 간에 디스패리티(Disparity) 맵을 생성할 수 있다. 그리고, 상기 프로세서(170) 상기 디스패리티 맵에 따라 디스패리티가 최소인 영역은 제1 이미지로부터 구하고, 디스패리티가 최대인 영역은 제2 이미지로부터 획득하고, 디스패리티가 중간인 영역은 제1 이미지와 제2 이미지를 합성하여 획득할 수 있다. 그리고, 상기 프로세서(170)는 상기 구해진 영역들을 하나의 이미지로 합성하여 저장할 수 있다.
이상에서는 본 발명의 바람직한 실시예를 예시적으로 설명하였으나, 본 발명의 범위는 이와 같은 특정 실시예에만 한정되는 것은 아니므로, 본 발명은 본 발명의 사상 및 특허청구범위에 기재된 범주 내에서 다양한 형태로 수정, 변경, 또는 개선될 수 있다.

Claims (17)

  1. 복수의 광학 렌즈를 구비한 전자 기기에서의 방법으로서,
    제1 광학 렌즈를 통해 제1 모드에 따라 제1 이미지를 획득하는 단계와;
    상기 제1 이미지 획득과 동시에 또는 순차적으로, 제2 광학 렌즈를 통해 제2 모드에 따라 제2 이미지를 획득하는 단계와;
    상기 제1 모드에 따라 획득된 제1 이미지와 상기 제2 모드에 따라 획득된 제2 이미지를 프로세싱하여 저장하는 단계를 포함하고,
    상기 제1 모드와 제2 모드는 서로 다르며, 변경 가능한 것을 특징으로 하는 이미지 처리 방법.
  2. 제1항에 있어서, 상기 획득을 위해
    상기 제1 광학 렌즈와 제2 광학 렌즈 간의 컨버젼스 포인트를 주 피사체로 조절하는 단계를 포함하는 것을 특징으로 하는 이미지 처리 방법.
  3. 제1항에 있어서, 상기 획득 단계들에서
    상기 제1 이미지에 나타나는 주 피사체와 상기 제2 이미지에 나타나는 주 피사체 간에 디스페리티 값이 최소화되도록 한 후 획득하는 것을 특징으로 하는 이미지 처리 방법.
  4. 제1항에 있어서,
    상기 제1 이미지와 제2 이미지는 동일한 피사체 또는 장면(scene)에 대한 것을 특징으로 하는 이미지 처리 방법.
  5. 제1항에 있어서,
    상기 제1 모드는 주 피사체에 초점하기 위한 것이고, 상기 제2 모드는 상기 주 피사체에 초점하지 않기 위한 것이거나
    상기 제1 모드는 제1 색상 톤으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 색상 톤으로 촬영하기 위한 것이거나,
    상기 제1 모드는 제1 효과를 이용하여 촬영하기 위한 것이고, 상기 제2 모드는 제2 효과를 이용하여 촬영하기 위한 것이거나,
    상기 제1 모드는 제1 조리개 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 조리개 값으로 촬영하기 위한 것이거나,
    상기 제1 모드는 제1 셔터 스피드 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 셔터 스피드 값으로 촬영하기 위한 것이거나,
    상기 제1 모드는 동영상으로 촬영하기 위한 것이고, 상기 제2 모드는 스틸 이미지를 촬영하기 위한 것인 것을 특징으로 하는 이미지 처리 방법.
  6. 제1항에 있어서,
    상기 제1 이미지는 상기 제1 모드에 따라 주 피사체에 초점된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 상기 주 피사체에 초점되지 않은 이미지인 경우,
    상기 프로세싱은 상기 주 피사체 이외의 영역은 아웃 포커스된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것을 특징으로 하는 이미지 처리 방법.
  7. 제6항에 있어서, 상기 프로세싱은
    상기 제1 이미지와 상기 제2 이미지 간에 디스패리티(Disparity) 맵을 생성하는 과정과;
    상기 디스패리티 맵에 따라 디스패리티가 최소인 영역은 제1 이미지로부터 구하고, 디스패리티가 최대인 영역은 제2 이미지로부터 획득하고, 디스패리티가 중간인 영역은 제1 이미지와 제2 이미지를 합성하여 구하는 과정과;
    상기 구해진 영역들을 하나의 이미지로 합성하는 과정을 포함하는 것을 특징으로 하는 이미지 처리 방법.
  8. 제1항에 있어서,
    상기 제1 이미지는 상기 제1 모드에 따라 인물 색상이 부각된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 배경 색상이 부각된 이미지인 경우,
    상기 프로세싱은 인물 색상과 배경 색상 모두 부각된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것을 특징으로 하는 이미지 처리 방법.
  9. 제1항에 있어서, 상기 저장하는 단계에서는
    상기 제1 이미지, 상기 제2 이미지, 상기 제1 및 2 이미지를 합성한 이미지와,
    상기 제1 이미지, 상기 제2 이미지, 상기 합성 이미지 중 어느 하나 이상에 대한 디스크립터(Descriptor) 중
    하나 이상을 하나의 파일 내에 저장하는 것을 특징으로 하는 이미지 처리 방법.
  10. 제1 광학 렌즈와;
    제2 광학 렌즈와;
    상기 제1 광학 렌즈 및 상기 제2 광학 렌즈를 제어하여, 상기 제1 광학 렌즈를 통해 제1 모드에 따라 제1 이미지를 획득하는 동시에, 상기 제2 광학 렌즈를 통해서는 제2 모드에 따라 제2 이미지를 획득한 후, 상기 제1 이미지와 상기 제2 이미지를 프로세싱하여 저장하는 프로세서를 포함하고,
    상기 제1 모드와 제2 모드는 서로 다르며, 변경 가능한 것을 특징으로 하는 전자 기기.
  11. 제10항에 있어서, 상기 프로세서는
    상기 제1 광학 렌즈와 제2 광학 렌즈 간의 컨버젼스 포인트를 주 피사체로 조절하는 것을 특징으로 하는 전자 기기.
  12. 제10항에 있어서, 상기 프로세서는
    상기 제1 이미지에 나타나는 주 피사체와 상기 제2 이미지에 나타나는 주 피사체 간에 디스페리티 값이 최소화되도록 한 후, 상기 제1 이미지와 상기 제2 이미지를 획득하는 것을 특징으로 하는 전자 기기.
  13. 제10항에 있어서,
    상기 제1 모드는 주 피사체에 초점하기 위한 것이고, 상기 제2 모드는 상기 주 피사체에 초점하지 않기 위한 것이거나
    상기 제1 모드는 제1 색상 톤으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 색상 톤으로 촬영하기 위한 것이거나,
    상기 제1 모드는 제1 효과를 이용하여 촬영하기 위한 것이고, 상기 제2 모드는 제2 효과를 이용하여 촬영하기 위한 것이거나,
    상기 제1 모드는 제1 조리개 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 조리개 값으로 촬영하기 위한 것이거나,
    상기 제1 모드는 제1 셔터 스피드 값으로 촬영하기 위한 것이고, 상기 제2 모드는 제2 셔터 스피드 값으로 촬영하기 위한 것이거나,
    상기 제1 모드는 동영상으로 촬영하기 위한 것이고, 상기 제2 모드는 스틸 이미지를 촬영하기 위한 것인 것을 특징으로 하는 전자 기기.
  14. 제10항에 있어서,
    상기 제1 이미지는 상기 제1 모드에 따라 주 피사체에 초점된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 상기 주 피사체에 초점되지 않은 이미지인 경우,
    상기 프로세서에 의해 수행되는 프로세싱은 상기 주 피사체 이외의 영역은 아웃 포커스된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것을 특징으로 하는 전자 기기.
  15. 제14항에 있어서, 상기 프로세서에 의한 프로세싱은
    상기 제1 이미지와 상기 제2 이미지 간에 디스패리티(Disparity) 맵을 생성하는 과정과;
    상기 디스패리티 맵에 따라 디스패리티가 최소인 영역은 제1 이미지로부터 구하고, 디스패리티가 최대인 영역은 제2 이미지로부터 획득하고, 디스패리티가 중간인 영역은 제1 이미지와 제2 이미지를 합성하여 구하는 과정과;
    상기 구해진 영역들을 하나의 이미지로 합성하는 과정을 포함하는 것을 특징으로 하는 전자 기기.
  16. 제10항에 있어서,
    상기 제1 이미지는 상기 제1 모드에 따라 인물 색상이 부각된 이미지이고, 상기 제2 이미지는 상기 제2 모드에 따라 배경 색상이 부각된 이미지인 경우,
    상기 프로세서에 의한 프로세싱은 인물 색상과 배경 색상 모두 부각된 이미지를 생성하기 위하여, 상기 제1 이미지를 상기 제2 이미지와 합성하는 것을 특징으로 하는 전자 기기.
  17. 제10항에 있어서,
    상기 전자기기는 휴대 가능한 단말기이고
    상기 휴대 가능 단말기는 카메라, 이동통신 단말기, 멀티미디어 재생 단말기, 태블릿 단말기 중 하나 이상을 포함하는 것을 특징으로 하는 전자 기기.
PCT/KR2011/006038 2011-08-17 2011-08-17 이미지 처리 방법 및 그 전자 기기 WO2013024920A1 (ko)

Priority Applications (2)

Application Number Priority Date Filing Date Title
PCT/KR2011/006038 WO2013024920A1 (ko) 2011-08-17 2011-08-17 이미지 처리 방법 및 그 전자 기기
US14/239,125 US9438884B2 (en) 2011-08-17 2011-08-17 Method for processing an image and electronic device for same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2011/006038 WO2013024920A1 (ko) 2011-08-17 2011-08-17 이미지 처리 방법 및 그 전자 기기

Publications (1)

Publication Number Publication Date
WO2013024920A1 true WO2013024920A1 (ko) 2013-02-21

Family

ID=47715232

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2011/006038 WO2013024920A1 (ko) 2011-08-17 2011-08-17 이미지 처리 방법 및 그 전자 기기

Country Status (2)

Country Link
US (1) US9438884B2 (ko)
WO (1) WO2013024920A1 (ko)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017086516A1 (ko) * 2015-11-20 2017-05-26 엘지전자 주식회사 이동 단말기 및 그의 동작 방법
WO2017104865A1 (ko) * 2015-12-17 2017-06-22 엘지전자 주식회사 이동단말기 및 그 제어방법
US20220400211A1 (en) * 2021-06-11 2022-12-15 Bennet Langlotz Digital camera with multi-subject focusing

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217474A (ja) * 2005-02-07 2006-08-17 Fujinon Corp レンズ装置、デジタルカメラ、及び光学装置
KR20080019686A (ko) * 2005-06-03 2008-03-04 미디어팟 엘엘씨 다차원 이미징 시스템 및 방법
US20100097707A1 (en) * 2006-10-17 2010-04-22 Samsung Digital Imaging Co., Ltd. Dual lens optical system and digital camera module including the same

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI507807B (zh) * 2011-06-24 2015-11-11 Mstar Semiconductor Inc 自動對焦方法與裝置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006217474A (ja) * 2005-02-07 2006-08-17 Fujinon Corp レンズ装置、デジタルカメラ、及び光学装置
KR20080019686A (ko) * 2005-06-03 2008-03-04 미디어팟 엘엘씨 다차원 이미징 시스템 및 방법
US20100097707A1 (en) * 2006-10-17 2010-04-22 Samsung Digital Imaging Co., Ltd. Dual lens optical system and digital camera module including the same

Also Published As

Publication number Publication date
US9438884B2 (en) 2016-09-06
US20140152775A1 (en) 2014-06-05

Similar Documents

Publication Publication Date Title
WO2015053449A1 (ko) 안경형 영상표시장치 및 그것의 제어방법
WO2017209533A1 (en) Mobile device and controlling method thereof
WO2020032473A2 (en) Electronic device for blurring image obtained by combining plural images based on depth information and method for driving the electronic device
WO2013129780A1 (ko) 영상 표시 장치 및 이의 제어 방법
WO2016186257A1 (ko) 헤드 마운티드 디스플레이
WO2016200102A1 (ko) 카메라의 초점을 변경하는 방법 및 장치
WO2018026247A1 (ko) 차량용 디스플레이 장치 및 이의 제어 방법
WO2019027090A1 (ko) 이동 단말기 및 그 제어 방법
WO2017164573A1 (en) Near-eye display apparatus and near-eye display method
WO2022108076A1 (ko) 증강 현실 환경의 무선 연결 방법 및 이를 위한 전자 장치
WO2020080845A1 (en) Electronic device and method for obtaining images
WO2019039870A1 (ko) 이미지의 표시 효과를 제어할 수 있는 전자 장치 및 영상 표시 방법
WO2021157954A1 (ko) 복수의 카메라를 이용한 동영상 촬영 방법 및 그 장치
WO2019139404A1 (ko) 전자 장치 및 그의 영상 처리 방법
WO2019045517A1 (ko) 복수의 이미지 센서들의 동기화 제어 방법 및 이를 구현한 전자 장치
WO2019039861A1 (ko) 전자 장치 및 전자 장치에서 카메라 기능과 연관된 콘텐트 제공 방법
WO2013024920A1 (ko) 이미지 처리 방법 및 그 전자 기기
WO2019059635A1 (ko) 하나의 이미지 센서를 통해 획득된 rgb 이미지와 ir 이미지를 이용하여 기능을 제공하는 전자 장치
WO2022149829A1 (ko) 웨어러블 전자 장치 및 모션 센서를 이용한 입력 구조물
WO2013015466A1 (en) Electronic device for displaying three-dimensional image and method of using the same
WO2012165718A1 (ko) 아이 트래킹을 이용한 컨버전스 자동 조절 장치 및 그 방법
WO2015002377A1 (en) Display device and method of controlling the same
WO2021235884A1 (ko) Awb를 수행하여 이미지를 생성하는 전자 장치 및 방법
WO2013094786A1 (en) Electronic device having 3-dimensional display and method of operating thereof
WO2021025285A1 (ko) 얼굴이 포함된 영상의 노출 값을 조절하는 전자 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11871007

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 14239125

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 11871007

Country of ref document: EP

Kind code of ref document: A1