KR20110132031A

KR20110132031A - Mobile terminal and image processing method for mobile terminal

Info

Publication number: KR20110132031A
Application number: KR1020100051819A
Authority: KR
Inventors: 김찬
Original assignee: 엘지전자 주식회사
Priority date: 2010-06-01
Filing date: 2010-06-01
Publication date: 2011-12-07
Also published as: KR101676800B1

Abstract

PURPOSE: A portable terminal and image processing method of a portable terminal are provided to offer the selective convenience of a user by recommending a combinable object based on the color information of an image. CONSTITUTION: A control unit displays an image through a display module(S101). When the image and an specific object is combined, the control unit changes the shape of the object according to the display location of the object within the image(S102, S103). The control unit the changed shape object with the image(S104). The control unit overlaps the object with the image.

Description

Mobile terminal and image processing method for mobile terminal

본 발명은 이동 단말기 및 이동 단말기의 영상 처리 방법에 관한 것이다.
The present invention relates to a mobile terminal and an image processing method of the mobile terminal.

최근 이동 단말기에서 증강 현실(Augmented Reality)을 이용한 다양한 서비스를 제공하는 움직임이 활발해지는 추세이다. 이를 위해, 단말기의 구조적인 부분 및/또는 소프트웨어적인 부분을 개량하는 것이 고려되고 있다. Recently, the movement of providing various services using augmented reality in mobile terminals is becoming more active. To this end, it is contemplated to improve the structural and / or software parts of the terminal.

본 발명의 과제는, 영상과 객체를 결합 시 영상에 결합되는 객체가 영상 내 다른 객체들 또는 영상과 자연스럽게 결합되도록 지원하는 이동 단말기 및 이동 단말기의 영상 처리 방법을 제공하는 것이다.
An object of the present invention is to provide an image processing method of a mobile terminal and a mobile terminal that supports the object to be combined with the image when the image and the object is combined with other objects or the image in the image naturally.

본 발명의 양상에 따른 이동 단말기는, 디스플레이 모듈; 및 상기 디스플레이 모듈을 통해 표시되는 영상에 특정 객체를 중첩하여 표시하고, 상기 특정 객체가 표시되는 위치에 따라 상기 특정 객체의 형태를 제어하는 제어부를 포함한다.According to an aspect of the present invention, a mobile terminal includes a display module; And a controller configured to superimpose and display a specific object on an image displayed through the display module, and to control a shape of the specific object according to a position where the specific object is displayed.

또한, 본 발명의 양상에 따른 이동 단말기의 영상 처리 방법은, 영상을 표시하는 단계; 상기 영상에 대한 특정 객체의 결합 요청을 수신하는 단계; 상기 특정 객체의 상기 영상 내 표시 위치에 따라 상기 특정 객체의 형태를 변형하는 단계; 및 상기 형태가 변형된 특정 객체를 상기 표시 위치에 중첩하여 표시하는 단계를 포함한다.
In addition, the image processing method of a mobile terminal according to an aspect of the present invention, the step of displaying an image; Receiving a request for combining a specific object with respect to the image; Deforming the shape of the specific object according to the display position of the specific object in the image; And displaying the specific object having the deformed shape overlapping the display position.

본 발명에 따른 이동 단말기 및 이동 단말기의 영상 처리 방법은, 영상에 객체를 결합 시, 객체가 추가되는 영상 내 위치에 따라 객체의 형태를 변형함으로써 객체가 원 영상에 자연스럽게 어울리도록 지원한다. In the mobile terminal and the image processing method of the mobile terminal according to the present invention, when the object is combined with the image, the object is naturally matched to the original image by changing the shape of the object according to the position in the image where the object is added.

또한, 영상에 결합된 객체를 이동 시키거나 표시 특성을 가변하는 것이 가능하여, 사용자로 하여금 자신이 원하는 대로 객체가 배치될 수 있도록 지원한다. 또한, 사용자가 객체의 위치를 이동시키더라도 이동하는 위치의 원근감에 맞게 객체를 변형하여 표시함으로써, 사용자는 객체의 위치가 이동될 때마다 객체의 표시 크기를 일일이 설정해야 하는 번거로움 없이 객체를 이동시킬 수 있다. In addition, it is possible to move the object coupled to the image or to change the display characteristics, so that the user can arrange the object as desired by the user. Also, even if the user moves the position of the object, the object is transformed and displayed according to the perspective of the moving position, so that the user can move the object without having to set the display size of the object every time the position of the object is moved. You can.

또한, 추가되는 객체의 영상 내 위치를 기억하여, 이동 단말기의 이동으로 인해 촬영 위치가 이동하더라도 동일한 위치에 객체가 배치될 수 있도록 제어함으로써, 촬영 위치가 이동될 때마다 사용자가 일일이 이전의 위치로 객체를 이동시키는 번거로움을 피할 수 있다. In addition, by storing the position in the image of the object to be added, so that even if the shooting position is moved due to the movement of the mobile terminal control so that the object can be placed in the same position, each time the user moves the shooting position to the previous position This can avoid the hassle of moving objects.

또한, 이동 단말기의 현재 위치, 화면에 표시 중인 영상 내 포함된 객체의 종류, 영상의 색 정보 등을 토대로 화면에 표시 중인 영상에 결합 가능한 객체들을 추천함으로써, 사용자의 선택 편의성을 제공하는 효과가 있다.
In addition, by recommending objects that can be combined with the image displayed on the screen based on the current position of the mobile terminal, the type of the object included in the image displayed on the screen, the color information of the image, there is an effect of providing a user's convenience of selection. .

도 1은 본 발명의 실시 예들과 관련된 이동 단말기의 블록 구성도(block diagram)이다.
도 2는 본 발명의 실시 예들과 관련된 서비스 망을 도시한 구조도이다.
도 3은 본 발명의 제1 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다.
도 4는 본 발명의 제1 실시 예에 따른 이동 단말기에서 객체의 표시 위치를 선택하는 일 예를 도시한 것이다.
도 5는 본 발명의 제1 실시 예에 따른 이동 단말기에서 표시 위치에 따라 객체의 음영 표시를 가변하는 일 예를 도시한 것이다.
도 6은 본 발명의 제2 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다.
도 7은 본 발명의 제2 실시 예에 따른 이동 단말기에서 객체의 표시 위치가 이동됨에 따라 객체의 표시 크기가 가변되는 일 예를 도시한 것이다.
도 8은 본 발명의 제2 실시 예에 따른 이동 단말기에서 객체의 회전을 통해 객체의 형태를 가변하는 일 예를 도시한 것이다.
도 9는 본 발명의 제3 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다.
도 10은 본 발명의 제3 실시 예에 따른 이동 단말기에서 촬영 위치가 이동함에 객체의 표시 위치를 제어하는 일 예를 도시한 것이다.
도 11은 본 발명의 제3 실시 예에 따른 이동 단말기에서 촬영 위치가 이동함에 객체의 표시 크기를 가변하는 일 예를 도시한 것이다.
도 12는 본 발명의 제4 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다.
도 13은 본 발명의 제4 실시 예에 따른 이동 단말기에서 영상에 결합 가능한 객체들의 리스트를 표시하는 일 예를 도시한 것이다.
도 14는 본 발명의 제5 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다.1 is a block diagram of a mobile terminal according to embodiments of the present invention.
2 is a structural diagram illustrating a service network according to embodiments of the present invention.
3 is a flowchart illustrating an image processing method of a mobile terminal according to a first embodiment of the present invention.
4 illustrates an example of selecting a display position of an object in a mobile terminal according to the first embodiment of the present invention.
5 illustrates an example in which a shade display of an object is changed according to a display position in a mobile terminal according to the first embodiment of the present invention.
6 is a flowchart illustrating an image processing method of a mobile terminal according to a second embodiment of the present invention.
FIG. 7 illustrates an example in which the display size of an object is changed as the display position of the object is moved in the mobile terminal according to the second embodiment of the present disclosure.
8 illustrates an example of changing the shape of an object through the rotation of the object in the mobile terminal according to the second embodiment of the present invention.
9 is a flowchart illustrating an image processing method of a mobile terminal according to a third embodiment of the present invention.
FIG. 10 illustrates an example of controlling a display position of an object when a photographing position moves in a mobile terminal according to a third embodiment of the present disclosure.
FIG. 11 illustrates an example in which a display size of an object is changed when a photographing position moves in a mobile terminal according to a third embodiment of the present disclosure.
12 is a flowchart illustrating an image processing method of a mobile terminal according to a fourth embodiment of the present invention.
FIG. 13 illustrates an example of displaying a list of objects that can be combined with an image in a mobile terminal according to a fourth embodiment of the present disclosure.
14 is a flowchart illustrating an image processing method of a mobile terminal according to a fifth embodiment of the present invention.

본 발명의 상술한 목적, 특징들 및 장점은 첨부된 도면과 관련된 다음의 상세한 설명을 통해 보다 분명해질 것이다. 다만, 본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시 예들을 가질 수 있는 바, 이하에서는 특정 실시 예들을 도면에 예시하고 이를 상세히 설명하고자 한다. 명세서 전체에 걸쳐서 동일한 참조번호들은 원칙적으로 동일한 구성요소들을 나타낸다. 또한, 본 발명과 관련된 공지 기능 혹은 구성에 대한 구체적인 설명이 본 발명의 요지를 불필요하게 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 본 명세서의 설명 과정에서 이용되는 숫자(예를 들어, 일, 일 등)는 하나의 구성요소를 다른 구성요소와 구분하기 위한 식별기호에 불과하다The above objects, features and advantages of the present invention will become more apparent from the following detailed description taken in conjunction with the accompanying drawings. It is to be understood, however, that the invention is not limited to the disclosed embodiments, but, on the contrary, is intended to cover various modifications and similarities. Like reference numerals designate like elements throughout the specification. In addition, when it is determined that the detailed description of the known function or configuration related to the present invention may unnecessarily obscure the subject matter of the present invention, the detailed description thereof will be omitted. In addition, numerals (e.g., days, days, etc.) used in the description of the present invention are merely an identifier for distinguishing one component from another component

어떤 구성요소가 다른 구성요소에 "접속되어" 있다거나 "연결되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 접속되어 있거나 또는 연결되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 한다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 접속되어" 있다거나 "직접 연결되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.It is to be understood that when an element is referred to as being "connected" or "connected" to another element, it may be directly connected or connected to the other element, . On the other hand, when an element is referred to as being "directly connected" or "directly connected" to another element, it should be understood that there are no other elements in between.

또한, 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다.In addition, the suffixes "module" and "unit" for the components used in the following description are given or mixed in consideration of ease of specification, and do not have distinct meanings or roles from each other.

또한, 본 명세서에서 설명되는 이동 단말기에는 휴대폰, 스마트 폰(smart phone), 노트북 컴퓨터(laptop computer), 디지털방송용 단말기, PDA(Personal Digital Assistants), PMP(Portable Multimedia Player), 내비게이션 등이 포함될 수 있다.In addition, the mobile terminal described herein may include a mobile phone, a smart phone, a laptop computer, a digital broadcasting terminal, a personal digital assistant (PDA), a portable multimedia player (PMP), navigation, and the like. .

이하, 첨부된 도면들을 참조하여 본 발명에 대하여 상세히 설명하기로 한다.Hereinafter, the present invention will be described in detail with reference to the accompanying drawings.

도 1은 본 발명의 실시 예들과 관련된 이동 단말기의 블록 구성도(block diagram)이다.1 is a block diagram of a mobile terminal according to embodiments of the present invention.

상기 이동 단말기(100)는 무선 통신부(110), A/V(Audio/Video) 입력부(120), 사용자 입력부(130), 센싱부(140), 출력부(150), 메모리(160), 인터페이스부(170), 제어부(180) 및 전원 공급부(190) 등을 포함할 수 있다. 도 1에 도시된 구성요소들이 필수적인 것은 아니어서, 그보다 많은 구성요소들을 갖거나 그보다 적은 구성요소들을 갖는 이동 단말기를 구현될 수도 있다.The mobile terminal 100 includes a wireless communication unit 110, an A / V input unit 120, a user input unit 130, a sensing unit 140, an output unit 150, a memory 160, and an interface. The unit 170, the controller 180, and the power supply unit 190 may be included. The components shown in Fig. 1 are not essential, and a mobile terminal having more or fewer components may be implemented.

이하, 상기 구성요소들에 대해 차례로 살펴본다.Hereinafter, the components will be described in order.

무선 통신부(110)는 이동 단말기(100)와 무선 통신 시스템 사이 또는 이동 단말기(100)와 이동 단말기(100)가 위치한 네트워크 사이의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 예를 들어, 무선 통신부(110)는 방송 수신 모듈(111), 이동통신 모듈(112), 무선 인터넷 모듈(113), 근거리 통신 모듈(114) 및 위치정보 모듈(115) 등을 포함할 수 있다.The wireless communication unit 110 may include one or more modules that enable wireless communication between the mobile terminal 100 and the wireless communication system or between the mobile terminal 100 and a network in which the mobile terminal 100 is located. For example, the wireless communication unit 110 may include a broadcast receiving module 111, a mobile communication module 112, a wireless Internet module 113, a short range communication module 114, and a location information module 115 .

방송 수신 모듈(111)은 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 및/또는 방송 관련된 정보를 수신한다. The broadcast receiving module 111 receives a broadcast signal and / or broadcast related information from an external broadcast management server through a broadcast channel.

상기 방송 채널은 위성 채널, 지상파 채널을 포함할 수 있다. 상기 방송 관리 서버는, 방송 신호 및/또는 방송 관련 정보를 생성하여 송신하는 서버 또는 기 생성된 방송 신호 및/또는 방송 관련 정보를 제공받아 단말기에 송신하는 서버를 의미할 수 있다. 상기 방송 신호는, TV 방송 신호, 라디오 방송 신호, 데이터 방송 신호를 포함할 뿐만 아니라, TV 방송 신호 또는 라디오 방송 신호에 데이터 방송 신호가 결합한 형태의 방송 신호도 포함할 수 있다. The broadcast channel may include a satellite channel and a terrestrial channel. The broadcast management server may mean a server that generates and transmits a broadcast signal and / or broadcast related information or a server that receives a previously generated broadcast signal and / or broadcast related information and transmits the same to a terminal. The broadcast signal may include not only a TV broadcast signal, a radio broadcast signal, and a data broadcast signal, but also a broadcast signal having a data broadcast signal combined with a TV broadcast signal or a radio broadcast signal.

상기 방송 관련 정보는, 방송 채널, 방송 프로그램 또는 방송 서비스 제공자에 관련한 정보를 의미할 수 있다. 상기 방송 관련 정보는, 이동통신망을 통하여도 제공될 수 있다. 이러한 경우에는 상기 이동통신 모듈(112)에 의해 수신될 수 있다.The broadcast related information may mean information related to a broadcast channel, a broadcast program, or a broadcast service provider. The broadcast related information may also be provided through a mobile communication network. In this case, it may be received by the mobile communication module 112.

상기 방송 관련 정보는 다양한 형태로 존재할 수 있다. 예를 들어, DMB(Digital Multimedia Broadcasting)의 EPG(Electronic Program Guide) 또는 DVBH(Digital Video BroadcastHandheld)의 ESG(Electronic Service Guide) 등의 형태로 존재할 수 있다.The broadcast related information may exist in various forms. For example, it may exist in the form of Electronic Program Guide (EPG) of Digital Multimedia Broadcasting (DMB) or Electronic Service Guide (ESG) of Digital Video BroadcastHandheld (DVBH).

상기 방송 수신 모듈(111)은, 각종 방송 시스템을 이용하여 방송 신호를 수신하는데, 특히, DMBT(Digital Multimedia BroadcastingTerrestrial), DMBS(Digital Multimedia BroadcastingSatellite), MediaFLO(Media Forward Link Only), DVBH(Digital Video BroadcastHandheld), ISDBT(Integrated Services Digital BroadcastTerrestrial) 등의 디지털 방송 시스템을 이용하여 디지털 방송 신호를 수신할 수 있다. 물론, 상기 방송 수신 모듈(111)은, 상술한 디지털 방송 시스템뿐만 아니라 방송 신호를 제공하는 다른 방송 시스템에 적합하도록 구성될 수도 있다.The broadcast receiving module 111 receives broadcast signals using various broadcasting systems. In particular, the broadcast receiving module 111 may be a digital multimedia broadcasting broadcasting (DMBT), a digital multimedia broadcasting satellite (DMBS), a media forward link only (MediaFLO), a digital video broadcasting ), And ISDBT (Integrated Services Digital Broadcast Terrestrial). Of course, the broadcast receiving module 111 may be adapted to other broadcasting systems that provide broadcast signals as well as the digital broadcasting system described above.

방송 수신 모듈(111)을 통해 수신된 방송 신호 및/또는 방송 관련 정보는 메모리(160)에 저장될 수 있다.The broadcast signal and / or broadcast related information received through the broadcast receiving module 111 may be stored in the memory 160.

이동통신 모듈(112)은, 이동 통신망 상에서 기지국, 외부의 단말, 서버 중 적어도 하나와 무선 신호를 송수신한다. 상기 무선 신호는, 음성 호 신호, 화상 통화 호 신호 또는 문자/멀티미디어 메시지 송수신에 따른 다양한 형태의 데이터를 포함할 수 있다. The mobile communication module 112 transmits and receives a wireless signal with at least one of a base station, an external terminal, and a server on a mobile communication network. The wireless signal may include various types of data according to transmission and reception of a voice call signal, a video call call signal, or a text / multimedia message.

무선 인터넷 모듈(113)은 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 무선 인터넷 모듈(113)은 이동 단말기(100)에 내장되거나 외장될 수 있다. 무선 인터넷 기술로는 WLAN(Wireless LAN)(WiFi), Wibro(Wireless broadband), Wimax(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access) 등이 이용될 수 있다. The wireless Internet module 113 refers to a module for wireless Internet access, and the wireless Internet module 113 can be embedded in the mobile terminal 100 or externally. WLAN (WiFi), Wibro (Wireless broadband), Wimax (World Interoperability for Microwave Access), HSDPA (High Speed Downlink Packet Access) and the like can be used as wireless Internet technologies.

근거리 통신 모듈(114)은 근거리 통신을 위한 모듈을 말한다. 근거리 통신 기술로 블루투스(Bluetooth), RFID(Radio Frequency Identification), 적외선 통신(IrDA, infrared Data Association), UWB(Ultra Wideband), ZigBee 등이 이용될 수 있다.The short range communication module 114 refers to a module for short range communication. As a short range communication technology, Bluetooth, Radio Frequency Identification (RFID), Infrared Data Association (IrDA), Ultra Wideband (UWB), ZigBee, and the like may be used.

위치정보 모듈(115)은 이동 단말기의 위치를 확인하거나 얻기 위한 모듈이다. 상기 위치정보 모듈의 대표적인 예로는 GPS(Global Position System) 모듈이 있다. 현재 기술에 의하면, 상기 GPS모듈(115)은, 일 포인트(개체)이 3개 이상의 위성으로부터 떨어진 거리에 관한 정보와, 상기 거리 정보가 측정된 시간에 관한 정보를 산출한 다음 상기 산출된 거리 정보에 삼각법을 적용함으로써, 일 시간에 일 포인트(개체)에 대한 위도, 경도, 및 고도에 따른 3차원의 위치 정보를 산출할 수 있다. 나아가, 3개의 위성을 이용하여 위치 및 시간 정보를 산출하고, 또 다른 1개의 위성을 이용하여 상기 산출된 위치 및 시간 정보의 오차를 수정하는 방법 또한 사용되고 있다. GPS 모듈(115)은 현 위치를 실시간으로 계속 산출하고 그를 이용하여 속도 정보를 산출하기도 한다. The location information module 115 is a module for confirming or obtaining the location of the mobile terminal. A representative example of the location information module is a GPS (Global Position System) module. According to the current technology, the GPS module 115 calculates information about a distance of one point (object) away from three or more satellites, and information on a time when the distance information is measured, and then calculates the calculated distance information. By applying the trigonometric method to, three-dimensional positional information according to latitude, longitude, and altitude of one point (object) in one time can be calculated. Furthermore, a method of calculating position and time information using three satellites and correcting the error of the calculated position and time information using another satellite is also used. The GPS module 115 may continuously calculate the current position in real time and use the same to calculate speed information.

도 1을 참조하면, A/V(Audio/Video) 입력부(120)는 오디오 신호 또는 비디오 신호 입력을 위한 것으로, 이에는 카메라(121)와 마이크(122) 등이 포함될 수 있다. 카메라(121)는 화상 통화모드 또는 촬영 모드에서 이미지 센서에 의해 얻어지는 정지영상 또는 동영상 등의 화상 프레임을 처리한다. 처리된 화상 프레임은 디스플레이 모듈(151)에 표시될 수 있다.Referring to FIG. 1, the A / V input unit 120 is for inputting an audio signal or a video signal, and may include a camera 121 and a microphone 122. The camera 121 processes image frames such as still images or moving images obtained by the image sensor in the video call mode or the photographing mode. The processed image frame can be displayed on the display module 151. [

카메라(121)에서 처리된 화상 프레임은 메모리(160)에 저장되거나 무선 통신부(110)를 통하여 외부로 전송될 수 있다. 카메라(121)는 단말기의 구성 태양에 따라 2개 이상이 구비될 수도 있다.The image frame processed by the camera 121 may be stored in the memory 160 or transmitted to the outside through the wireless communication unit 110. The camera 121 may be equipped with two or more cameras according to the configuration of the terminal.

마이크(122)는 통화모드 또는 녹음모드, 음성인식 모드 등에서 마이크로폰(Microphone)에 의해 외부의 음향 신호를 입력받아 전기적인 음성 데이터로 처리한다. 처리된 음성 데이터는 통화 모드인 경우 이동통신 모듈(112)을 통하여 이동통신 기지국으로 송신 가능한 형태로 변환되어 출력될 수 있다. 마이크(122)에는 외부의 음향 신호를 입력받는 과정에서 발생되는 잡음(noise)을 제거하기 위한 다양한 잡음 제거 알고리즘이 구현될 수 있다.The microphone 122 receives an external sound signal by a microphone in a call mode, a recording mode, a voice recognition mode, etc., and processes the external sound signal into electrical voice data. The processed voice data can be converted into a form that can be transmitted to the mobile communication base station through the mobile communication module 112 when the voice data is in the call mode, and output. The microphone 122 may implement various noise removing algorithms for removing noise generated in the process of receiving an external sound signal.

사용자 입력부(130)는 사용자가 단말기의 동작 제어를 위한 입력 데이터를 발생시킨다. 사용자 입력부(130)는 키 패드(key pad) 돔 스위치 (dome switch), 터치 패드(정압/정전), 조그 휠, 조그 스위치 등으로 구성될 수 있다. The user input unit 130 generates input data for the user to control the operation of the terminal. The user input unit 130 may include a key pad dome switch, a touch pad (static pressure / capacitance), a jog wheel, a jog switch, and the like.

센싱부(140)는 이동 단말기(100)의 개폐 상태, 이동 단말기(100)의 위치, 사용자 접촉 유무, 이동 단말기의 방위, 이동 단말기의 가속/감속 등과 같이 이동 단말기(100)의 현 상태를 감지하여 이동 단말기(100)의 동작을 제어하기 위한 센싱 신호를 발생시킨다. 예를 들어 이동 단말기(100)가 슬라이드 폰 형태인 경우 슬라이드 폰의 개폐 여부를 센싱할 수 있다. 또한, 전원 공급부(190)의 전원 공급 여부, 인터페이스부(170)의 외부 기기 결합 여부 등과 관련된 센싱 기능을 담당할 수도 있다. 한편, 상기 센싱부(140)는 근접센서를 포함할 수 있다. The sensing unit 140 detects a current state of the mobile terminal 100 such as an open / closed state of the mobile terminal 100, a location of the mobile terminal 100, presence or absence of a user contact, orientation of the mobile terminal, acceleration / deceleration of the mobile terminal, and the like. To generate a sensing signal for controlling the operation of the mobile terminal 100. For example, when the mobile terminal 100 is in the form of a slide phone, it may sense whether the slide phone is opened or closed. In addition, it may be responsible for sensing functions related to whether the power supply unit 190 is supplied with power, whether the interface unit 170 is coupled to an external device, and the like. Meanwhile, the sensing unit 140 may include a proximity sensor.

출력부(150)는 시각, 청각 또는 촉각 등과 관련된 출력을 발생시키기 위한 것으로, 이에는 디스플레이 모듈(151), 음향 출력 모듈(152), 알람부(153), 및 햅틱 모듈(154) 등이 포함될 수 있다.The output unit 150 is for generating output related to visual, auditory or tactile sense and includes a display module 151, an acoustic output module 152, an alarm unit 153, and a haptic module 154 .

디스플레이 모듈(151)은 이동 단말기(100)에서 처리되는 정보를 표시한다. 예를 들어, 이동 단말기(100)가 통화 모드인 경우 통화와 관련된 UI(User Interface) 또는 GUI(Graphic User Interface)를 표시한다. 이동 단말기(100)가 화상 통화 모드 또는 촬영 모드인 경우에는 촬영 또는/및 수신된 영상 또는 UI, GUI를 표시한다. The display module 151 displays information processed by the mobile terminal 100. For example, when the mobile terminal 100 is in a call mode, the mobile terminal 100 displays a user interface (UI) or a graphic user interface (GUI) related to the call. When the mobile terminal 100 is in a video call mode or a photographing mode, the mobile terminal 100 displays photographed and / or received images, a UI, and a GUI.

디스플레이 모듈(151)은 액정 디스플레이(liquid crystal display), 박막 트랜지스터 액정 디스플레이(thin film transistorliquid crystal display), 유기 발광 다이오드(organic lightemitting diode), 플렉시블 디스플레이(flexible display), 3차원 디스플레이(3D display) 중에서 적어도 하나를 포함할 수 있다. The display module 151 is a liquid crystal display, a thin film transistor liquid crystal display, an organic light emitting diode, a flexible display, or a 3D display. It may include at least one.

이들 중 일부 디스플레이는 그를 통해 외부를 볼 수 있도록 투명형 또는 광투과형으로 구성될 수 있다. 이는 투명 디스플레이라 호칭될 수 있는데, 상기 투명 디스플레이의 대표적인 예로는 투명 LCD 등이 있다. 디스플레이 모듈(151)의 후방 구조 또한 광 투과형 구조로 구성될 수 있다. 이러한 구조에 의하여, 사용자는 단말기 바디의 디스플레이 모듈(151)이 차지하는 영역을 통해 단말기 바디의 후방에 위치한 사물을 볼 수 있다.Some of these displays can be configured to be transparent or light transmissive so that they can be seen from the outside. This may be referred to as a transparent display. A representative example of the transparent display is a transparent LCD. The rear structure of the display module 151 may also be of a light transmission type. With this structure, the user can see the object located behind the terminal body through the area occupied by the display module 151 of the terminal body.

이동 단말기(100)의 구현 형태에 따라 디스플레이 모듈(151)이 2개 이상 존재할 수 있다. 예를 들어, 이동 단말기(100)에는 복수의 디스플레이 모듈들이 하나의 면에 이격되거나 일체로 배치될 수 있고, 또한 서로 다른 면에 각각 배치될 수도 있다. There may be two or more display modules 151 according to the implementation form of the mobile terminal 100. For example, in the mobile terminal 100, a plurality of display modules may be spaced apart or integrally arranged on one surface, and may be disposed on different surfaces, respectively.

디스플레이 모듈(151)과 터치 동작을 감지하는 센서(이하, '터치 센서'라 함)가 상호 레이어 구조를 이루는 경우(이하, '터치 스크린'이라 약칭함)에, 디스플레이 모듈(151)은 출력 장치 이외에 입력 장치로도 사용될 수 있다. 터치 센서는, 예를 들어, 터치 필름, 터치 시트, 터치 패드 등의 형태를 가질 수 있다.In a case where the display module 151 and the sensor for sensing the touch operation (hereinafter, referred to as 'touch sensor') have a mutual layer structure (hereinafter referred to as 'touch screen' It can also be used as an input device. The touch sensor may have, for example, a form of a touch film, a touch sheet, a touch pad, or the like.

터치 센서는 디스플레이 모듈(151)의 특정 부위에 가해진 압력 또는 디스플레이 모듈(151)의 특정 부위에 발생하는 정전 용량 등의 변화를 전기적인 입력신호로 변환하도록 구성될 수 있다. 터치 센서는 터치 되는 위치 및 면적뿐만 아니라, 터치 시의 압력까지도 검출할 수 있도록 구성될 수 있다. The touch sensor may be configured to convert a change in pressure applied to a specific portion of the display module 151 or capacitance generated at a specific portion of the display module 151 into an electrical input signal. The touch sensor may be configured to detect not only the position and area of the touch but also the pressure at the touch.

터치 센서에 대한 터치 입력이 있는 경우, 그에 대응하는 신호(들)는 터치 제어기로 보내진다. 터치 제어기는 그 신호(들)를 처리한 다음 대응하는 데이터를 제어부(180)로 전송한다. 이로써, 제어부(180)는 디스플레이 모듈(151)의 어느 영역이 터치 되었는지 여부 등을 알 수 있게 된다.If there is a touch input to the touch sensor, the corresponding signal (s) is sent to the touch controller. The touch controller processes the signal (s) and then transmits the corresponding data to the controller 180. Thus, the control unit 180 can know which area of the display module 151 is touched or the like.

도 1을 참조하면, 상기 터치스크린에 의해 감싸지는 이동 단말기의 내부 영역 또는 상기 터치 스크린의 근처에 근접센서가 배치될 수 있다. 상기 근접센서는 소정의 검출면에 접근하는 물체, 혹은 근방에 존재하는 물체의 유무를 전자계의 힘 또는 적외선을 이용하여 기계적 접촉이 없이 검출하는 센서를 말한다. 근접센서는 접촉식 센서보다는 그 수명이 길며 그 활용도 또한 높다. Referring to FIG. 1, a proximity sensor may be disposed in an inner region of the mobile terminal or in the vicinity of the touch screen, which is enclosed by the touch screen. The proximity sensor refers to a sensor that detects the presence or absence of an object approaching a predetermined detection surface or a nearby object without mechanical contact using the force of an electromagnetic field or infrared rays. The proximity sensor has a longer life span than the contact sensor and its utilization is also high.

상기 근접센서의 예로는 투과형 광전 센서, 직접 반사형 광전 센서, 미러 반사형 광전 센서, 고주파 발진형 근접센서, 정전용량형 근접센서, 자기형 근접센서, 적외선 근접센서 등이 있다.Examples of the proximity sensor include a transmission type photoelectric sensor, a direct reflection type photoelectric sensor, a mirror reflection type photoelectric sensor, a high frequency oscillation type proximity sensor, a capacitive proximity sensor, a magnetic proximity sensor, and an infrared proximity sensor.

상기 터치스크린이 정전식인 경우에는 상기 포인터의 근접에 따른 전계의 변화로 상기 포인터의 근접을 검출하도록 구성된다. 이 경우 상기 터치 스크린(터치 센서)은 근접센서로 분류될 수도 있다.When the touch screen is capacitive, the touch screen is configured to detect the proximity of the pointer by the change of the electric field according to the proximity of the pointer. In this case, the touch screen (touch sensor) may be classified as a proximity sensor.

이하에서는 설명의 편의를 위해, 상기 터치스크린 상에 포인터가 접촉되지 않으면서 근접되어 상기 포인터가 상기 터치스크린 상에 위치함이 인식되도록 하는 행위를 "근접 터치(proximity touch)"라고 칭하고, 상기 터치스크린 상에 포인터가 실제로 접촉되는 행위를 "접촉 터치(contact touch)"라고 칭한다. 상기 터치스크린 상에서 포인터로 근접 터치가 되는 위치라 함은, 상기 포인터가 근접 터치될 때 상기 포인터가 상기 터치스크린에 대해 수직으로 대응되는 위치를 의미한다.Hereinafter, for convenience of explanation, the act of allowing the pointer to be recognized without being in contact with the touch screen so that the pointer is located on the touch screen is referred to as a "proximity touch", and the touch The act of actually touching the pointer on the screen is called "contact touch." The position where the proximity touch is performed by the pointer on the touch screen refers to a position where the pointer is perpendicular to the touch screen when the pointer is in proximity proximity.

상기 근접센서는, 근접 터치 및 근접 터치 패턴(예를 들어, 근접 터치 거리, 근접 터치 방향, 근접 터치 속도, 근접 터치 시간, 근접 터치 위치, 근접 터치 이동 상태 등)을 감지한다. 상기 감지된 근접 터치 동작 및 근접 터치 패턴에 상응하는 정보는 터치 스크린상에 출력될 수 있다. The proximity sensor detects a proximity touch and a proximity touch pattern (e.g., a proximity touch distance, a proximity touch direction, a proximity touch speed, a proximity touch time, a proximity touch position, a proximity touch movement state, and the like). Information corresponding to the sensed proximity touch operation and proximity touch pattern may be output on the touch screen.

음향 출력 모듈(152)은 호신호 수신, 통화모드 또는 녹음 모드, 음성인식 모드, 방송수신 모드 등에서 무선 통신부(110)로부터 수신되거나 메모리(160)에 저장된 오디오 데이터를 출력할 수도 있다. 음향 출력 모듈(152)은 이동 단말기(100)에서 수행되는 기능(예를 들어, 호신호 수신음, 메시지 수신음 등)과 관련된 음향 신호를 출력한다. 이러한 음향 출력 모듈(152)에는 리시버(Receiver), 스피커(speaker), 버저(Buzzer) 등이 포함될 수 있다.The sound output module 152 may output audio data received from the wireless communication unit 110 or stored in the memory 160 in a call signal reception, a call mode or a recording mode, a voice recognition mode, a broadcast reception mode, and the like. The sound output module 152 outputs an acoustic signal related to a function (e.g., a call signal reception sound, a message reception sound, etc.) performed in the mobile terminal 100. The sound output module 152 may include a receiver, a speaker, a buzzer, and the like.

알람부(153)는 이동 단말기(100)의 이벤트 발생을 알리기 위한 신호를 출력한다. 이동 단말기에서 발생 되는 이벤트의 예로는 호 신호 수신, 메시지 수신, 키 신호 입력, 터치 입력 등이 있다. 알람부(153)는 비디오 신호나 오디오 신호 이외에 다른 형태, 예를 들어 진동으로 이벤트 발생을 알리기 위한 신호를 출력할 수도 있다. 비디오 신호나 오디오 신호는 디스플레이 모듈(151)이나 음성 출력 모듈(152)을 통해서도 출력될 수 있다.The alarm unit 153 outputs a signal for notifying occurrence of an event of the mobile terminal 100. Examples of events occurring in the mobile terminal include call signal reception, message reception, key signal input, and touch input. The alarm unit 153 may output a signal for notifying occurrence of an event in a form other than a video signal or an audio signal, for example, vibration. The video signal or audio signal may also be output through the display module 151 or the audio output module 152.

햅틱 모듈(haptic module)(154)은 사용자가 느낄 수 있는 다양한 촉각 효과를 발생시킨다. 햅틱 모듈(154)이 발생시키는 촉각 효과의 대표적인 예로는 진동이 있다. 햅택 모듈(154)이 발생하는 진동의 세기와 패턴 등은 제어가능하다. 예를 들어, 서로 다른 진동을 합성하여 출력하거나 순차적으로 출력할 수도 있다. The haptic module 154 generates various tactile effects that the user can feel. Vibration is a representative example of the haptic effect generated by the haptic module 154. The intensity and pattern of vibration generated by the haptic module 154 can be controlled. For example, different vibrations may be synthesized and output or may be sequentially output.

햅틱 모듈(154)은, 진동 외에도, 접촉 피부면에 대해 수직 운동하는 핀 배열에 의한 자극에 의한 효과, 분사구나 흡입구를 통한 공기의 분사력이나 흡입력을 통한 자극에 의한 효과, 피부 표면을 스치는 자극에 의한 효과, 전극(eletrode)의 접촉을 통한 자극에 의한 효과, 정전기력을 이용한 자극에 의한 효과, 흡열이나 발열 가능한 소자를 이용한 냉온감 재현에 의한 효과 등 다양한 촉각 효과를 발생시킬 수 있다. In addition to the vibration, the haptic module 154 may be used for the effects of stimulation by the arrangement of pins vertically moving with respect to the contact skin surface, the effect of the injection force of the air through the injection or inlet or the stimulation through the suction force, and the stimulation that rubs the skin surface. Various tactile effects may be generated, such as effects by stimulation through contact of electrodes, effects by stimulation using electrostatic force, and effects of reproducing a sense of warmth and heat using an endothermic or heat generating element.

햅틱 모듈(154)은 직접적인 접촉을 통해 촉각 효과의 전달할 수 있을 뿐만 아니라, 사용자의 손가락이나 팔 등의 근 감각을 통해 촉각 효과를 느낄 수 있도록 구현할 수도 있다. 햅틱 모듈(154)은 휴대 단말기(100)의 구성 태양에 따라 2개 이상이 구비될 수 있다.The haptic module 154 may not only deliver the haptic effect through direct contact, but also implement the haptic effect through the muscle sense of the user's finger or arm. Two or more haptic modules 154 may be provided according to a configuration aspect of the mobile terminal 100.

메모리(160)는 제어부(180)의 동작을 위한 프로그램을 저장할 수 있고, 입/출력되는 데이터들(예를 들어, 폰북, 메시지, 정지영상, 동영상 등)을 임시 저장할 수도 있다. 상기 메모리(160)는 상기 터치스크린 상의 터치 입력시 출력되는 다양한 패턴의 진동 및 음향에 관한 데이터를 저장할 수 있다.The memory 160 may store a program for the operation of the controller 180 and may temporarily store input / output data (for example, a phone book, a message, a still image, a video, etc.). The memory 160 may store data regarding vibration and sound of various patterns output when a touch input on the touch screen is performed.

메모리(160)는 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(Random Access Memory, RAM), SRAM(Static Random Access Memory), 롬(ReadOnly Memory, ROM), EEPROM(Electrically Erasable Programmable ReadOnly Memory), PROM(Programmable ReadOnly Memory) 자기 메모리, 자기 디스크, 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다. 이동 단말기(100)는 인터넷(internet)상에서 상기 메모리(160)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작할 수도 있다.The memory 160 may be a flash memory type, a hard disk type, a multimedia card micro type, a card type memory (for example, SD or XD memory), a RAM At least one of a random access memory (RAM), a static random access memory (SRAM), a read-only memory (ROM), an electrically erasable programmable read-only memory (EEPROM), a programmable read- Type storage medium. The mobile terminal 100 may operate in connection with a web storage that performs a storage function of the memory 160 on the Internet.

인터페이스부(170)는 이동 단말기(100)에 연결되는 모든 외부기기와의 통로 역할을 한다. 인터페이스부(170)는 외부 기기로부터 데이터를 전송받거나 전원을 공급받아 이동 단말기(100) 내부의 각 구성 요소에 전달하거나 이동 단말기(100) 내부의 데이터가 외부 기기로 전송되도록 한다. 예를 들어, 유/무선 헤드셋 포트, 외부 충전기 포트, 유/무선 데이터 포트, 메모리 카드(memory card) 포트, 식별 모듈이 구비된 장치를 연결하는 포트, 오디오 I/O(Input/Output) 포트, 비디오 I/O(Input/Output) 포트, 이어폰 포트 등이 인터페이스부(170)에 포함될 수 있다. The interface unit 170 serves as a path with all external devices connected to the mobile terminal 100. The interface unit 170 receives data from an external device or receives power from the external device to transfer the data to each component in the mobile terminal 100 or to transmit data in the mobile terminal 100 to an external device. For example, a wired / wireless headset port, an external charger port, a wired / wireless data port, a memory card port, a port for connecting a device having an identification module, an audio I / O port, A video input / output (I / O) port, an earphone port, and the like may be included in the interface unit 170.

상기 식별 모듈은 이동 단말기(100)의 사용 권한을 인증하기 위한 각종 정보를 저장한 칩으로서, 사용자 인증 모듈(User Identify Module, UIM), 가입자 인증 모듈(Subscriber Identify Module, SIM), 범용 사용자 인증 모듈(Universal Subscriber Identity Module, USIM) 등을 포함할 수 있다. 식별 모듈이 구비된 장치(이하 '식별 장치')는, 스마트 카드(smart card) 형식으로 제작될 수 있다. 따라서 식별 장치는 포트를 통하여 단말기(100)와 연결될 수 있다. The identification module is a chip that stores various types of information for authenticating the use authority of the mobile terminal 100, and includes a user identification module (UIM), a subscriber identify module (SIM), and a universal user authentication module. (Universal Subscriber Identity Module, USIM) and the like. Devices with identification modules (hereinafter referred to as "identification devices") can be manufactured in a smart card format. Accordingly, the identification device can be connected to the terminal 100 through the port.

상기 인터페이스부는 이동 단말기(100)가 외부 크래들(cradle)과 연결될 때 상기 크래들로부터의 전원이 상기 이동 단말기(100)에 공급되는 통로가 되거나, 사용자에 의해 상기 크래들에서 입력되는 각종 명령 신호가 상기 이동 단말기로 전달되는 통로가 될 수 있다. 상기 크래들로부터 입력되는 각종 명령 신호 또는 상기 전원은 상기 이동 단말기가 상기 크래들에 정확히 장착되었음을 인지하기 위한 신호로 동작될 수도 있다.The interface unit may be a passage through which power from the cradle is supplied to the mobile terminal 100 when the mobile terminal 100 is connected to an external cradle, or various command signals input from the cradle by a user may be moved. It may be a passage that is delivered to the terminal. Various command signals or power input from the cradle may be operated as signals for recognizing that the mobile terminal is correctly mounted on the cradle.

제어부(180)는 통상적으로 이동 단말기의 전반적인 동작을 제어한다. 예를 들어 음성 통화, 데이터 통신, 화상 통화 등을 위한 관련된 제어 및 처리를 수행한다. 제어부(180)는 멀티 미디어 재생을 위한 멀티미디어 모듈(181)을 구비할 수도 있다. 멀티미디어 모듈(181)은 제어부(180) 내에 구현될 수도 있고, 제어부(180)와 별도로 구현될 수도 있다.The control unit 180 typically controls the overall operation of the mobile terminal. For example, perform related control and processing for voice calls, data communications, video calls, and the like. The controller 180 may include a multimedia module 181 for playing multimedia. The multimedia module 181 may be implemented in the controller 180 or may be implemented separately from the controller 180.

상기 제어부(180)는 상기 터치스크린 상에서 행해지는 필기 입력 또는 그림 그리기 입력을 각각 문자 및 이미지로 인식할 수 있는 패턴 인식 처리를 행할 수 있다. The controller 180 may perform a pattern recognition process for recognizing a writing input or a drawing input performed on the touch screen as text and an image, respectively.

전원 공급부(190)는 제어부(180)의 제어에 의해 외부의 전원, 내부의 전원을 인가받아 각 구성요소들의 동작에 필요한 전원을 공급한다.The power supply unit 190 receives an external power source and an internal power source under the control of the controller 180 to supply power for operation of each component.

여기에 설명되는 다양한 실시 예는 예를 들어, 소프트웨어, 하드웨어 또는 이들의 조합된 것을 이용하여 컴퓨터 또는 이와 유사한 장치로 읽을 수 있는 기록매체 내에서 구현될 수 있다.Various embodiments described herein may be implemented in a recording medium readable by a computer or similar device using, for example, software, hardware or a combination thereof.

하드웨어적인 구현에 의하면, 여기에 설명되는 실시 예는 ASICs (application specific integrated circuits), DSPs (digital signal processors), DSPDs (digital signal processing devices), PLDs (programmable logic devices), FPGAs (field programmable gate arrays, 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(microcontrollers), 마이크로 프로세서(microprocessors), 기능 수행을 위한 전기적인 유닛 중 적어도 하나를 이용하여 구현될 수 있다. 일부의 경우에 그러한 실시 예들이 제어부(180)에 의해 구현될 수 있다.According to a hardware implementation, the embodiments described herein may be implemented as application specific integrated circuits (ASICs), digital signal processors (DSPs), digital signal processing devices (DSPDs), programmable logic devices (PLDs), field programmable gate arrays May be implemented using at least one of processors, controllers, microcontrollers, microprocessors, and electrical units for performing functions. In some cases such embodiments may be implemented using a controller 180 < / RTI >

소프트웨어적인 구현에 의하면, 절차나 기능과 같은 실시 예들은 적어도 하나의 기능 또는 작동을 수행하게 하는 별개의 소프트웨어 모듈과 함께 구현될 수 있다. 소프트웨어 코드는 적절한 프로그램 언어로 쓰여진 소프트웨어 어플리케이션에 의해 구현될 수 있다. 또한, 소프트웨어 코드는 메모리(160)에 저장되고, 제어부(180)에 의해 실행될 수 있다.
According to a software implementation, embodiments such as procedures or functions may be implemented with separate software modules that perform at least one function or operation. The software code may be implemented by a software application written in a suitable programming language. In addition, the software codes may be stored in the memory 160 and executed by the control unit 180. [

본 문서에서 개시되는 실시 예들은, 도 1을 참조하여 설명한 상기 이동 단말기(100)에서 구현될 수 있다. Embodiments disclosed in this document may be implemented in the mobile terminal 100 described with reference to FIG. 1.

도 2는 본 발명의 실시 예들과 관련된 서비스 망을 도시한 구조도이다. 2 is a structural diagram illustrating a service network according to embodiments of the present invention.

도 2를 참조하면, 이동 단말기(100)는 네트워크를 통해 컨텐츠 제공 서버(200)에 접속한다. 그리고, 컨텐츠 제공 서버(200)로부터 다양한 입체 객체(object)를 다운로드(download) 하여 메모리(160)에 저장한다. 예를 들어, 동물, 식물, 캐릭터 등 다양한 입체 객체를 다운로드 한다. 또한, 실사 영상에 입체 객체를 결합하여 표시하라는 요청이 입력되면, 다운로드한 입체 객체들 중 어느 하나를 실사 영상에 중첩(overlap)되게 표시할 수도 있다.
Referring to FIG. 2, the mobile terminal 100 accesses the content providing server 200 through a network. In addition, various stereoscopic objects are downloaded from the content providing server 200 and stored in the memory 160. For example, it downloads various three-dimensional objects such as animals, plants, and characters. In addition, when a request for combining and displaying a stereoscopic object is input to the live image, one of the downloaded stereoscopic objects may be displayed to overlap the live image.

이하, 도 3 내지 도 5를 참조하여 본 발명의 제1 실시 예에 따른 이동 단말기의 영상 처리 방법과 이를 구현하기 위한 이동 단말기(100)의 동작을 상세하게 설명한다. Hereinafter, an image processing method of a mobile terminal and an operation of the mobile terminal 100 for implementing the same will be described in detail with reference to FIGS. 3 to 5.

도 3은 본 발명의 제1 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다. 도 4 및 도 5는 본 발명의 제1 실시 예에 따른 이동 단말기의 영상 처리 방법을 설명하기 위한 도면이다. 3 is a flowchart illustrating an image processing method of a mobile terminal according to a first embodiment of the present invention. 4 and 5 are diagrams for describing an image processing method of a mobile terminal according to a first embodiment of the present invention.

도 3을 참조하면, 제어부(180)는 디스플레이 모듈(151)을 통해 영상을 표시한다(S101). 여기서, 이동 단말기(100)의 화면에 표시되는 영상은 실사 영상으로, 카메라(121)의 프리뷰(preview) 영상일 수도 있고, 메모리(160)에 저장된 사진일 수도 있다. Referring to FIG. 3, the controller 180 displays an image through the display module 151 (S101). Here, the image displayed on the screen of the mobile terminal 100 may be a live image, and may be a preview image of the camera 121 or a photo stored in the memory 160.

화면에 표시 중인 영상과 특정 객체의 결합이 요청되면(S102), 제어부(180)는 영상 내에서 객체가 추가될 위치 즉, 객체가 표시될 위치에 따라 해당 객체의 형태를 가변한다(S103). 그리고, 형태가 가변된 객체를 표시 중인 영상과 결합하여 표시한다. 즉, 화면에 표시 중인 영상에 객체를 중첩하여 표시한다(S104). 영상에 추가되는 객체는 메모리(160)에 기 저장된 객체 또는 컨텐츠 제공 서버(200)로부터 다운로드한 객체일 수 있다. When a combination of an image displayed on the screen and a specific object is requested (S102), the controller 180 changes the shape of the corresponding object according to a position in which the object is to be added, that is, a position where the object is to be displayed (S103). The object having a variable shape is displayed in combination with the image being displayed. In other words, the object is superimposed on the image displayed on the screen (S104). The object added to the image may be an object previously stored in the memory 160 or an object downloaded from the content providing server 200.

객체가 표시되는 위치는 사용자에 의해 선택이 가능하다. 예를 들어, 화면에 영상이 표시된 상태에서 디스플레이 모듈(151)의 특정 위치가 터치됨에 따라, 제어부(180)는 터치된 위치에 객체를 표시하도록 디스플레이 모듈(151)을 제어할 수 있다. 도 4는 객체의 표시 위치를 선택하는 일 예를 도시한 것이다. 도 4를 참조하면, 화면에 정원의 실사 영상(4)이 표시된다. 사용자가 영상(4)의 특정 위치(4a)를 터치함에 따라(S201). 제어부(180)는 해당 위치(4a)에 사용자가 선택한 입체 객체인 나무(4b)를 중첩하여 표시한다(S202). 이에 따라, 사용자는 이동 단말기(100)를 이용하여 자신의 정원을 원하는 대로 미리 꾸며 볼 수 있다. The location where the object is displayed can be selected by the user. For example, when a specific position of the display module 151 is touched while an image is displayed on the screen, the controller 180 may control the display module 151 to display an object at the touched position. 4 illustrates an example of selecting a display position of an object. Referring to FIG. 4, the live-action image 4 of the garden is displayed on the screen. As the user touches a specific position 4a of the image 4 (S201). The controller 180 displays the tree 4b, which is the three-dimensional object selected by the user, on the corresponding position 4a (S202). Accordingly, the user can decorate his or her own garden in advance using the mobile terminal 100 as desired.

다시, 도 3을 보면, 제어부(180)는 객체가 표시되는 위치에 따라 해당 객체의 표시 형태를 자동으로 가변하는 것이 가능하다. Again, referring to FIG. 3, the controller 180 may automatically change the display form of the object according to the position where the object is displayed.

예를 들어, 제어부(180)는 객체가 추가되는 영상 내 위치에 따라 해당 객체의 표시 크기를 자동으로 가변할 수 있다. 제어부(180)는 화면에 표시 중인 영상에 대한 영상 분석을 통해 객체가 표시되는 위치의 원근감을 나타내는 거리 정보를 획득한다. 또한, 제어부(180)는 화면에 표시 중인 영상으로부터 적어도 하나의 객체를 추출하고, 추출된 각 객체의 크기를 획득한다. 그리고, 획득한 거리 정보 또는 객체 크기를 토대로 영상에 추가하고자 하는 객체의 표시 크기를 가변한다. 도 4를 예로 들면, 제어부(180)는 화면에 표시 중인 정원 영상(4)을 분석하여 나무(4b)를 추가하고자 하는 위치(4a)의 거리 정보를 획득한다. 여기서, 획득되는 거리 정보는 영상 내 다른 위치와 나무(4b)를 추가하고자 하는 위치(4a) 간의 상대적인 원근감을 나타낼 수 있다. 또한, 제어부(180)는 정원 영상(4)으로부터 나무(4b)를 추가하고자 하는 위치(4a)로부터 일정 거리 이내에 위치하는 다른 나무(4c)를 추출하고, 추출된 나무(4c)의 크기를 획득한다. 그리고, 획득한 거리 정보 또는 나무(4c) 크기를 토대로 추가하고자 하는 나무(4c)의 표시 크기를 설정한다. 이에 따라, 사용자는 실제 정원에 새로운 나무를 심은 듯한 영상을 미리 확인하는 것이 가능하다. 영상 내 특정 위치에 대한 거리 정보를 획득하고, 영상으로부터 객체 및 객체 크기를 획득하는 방법은 주지된 기술로서, 본 발명의 요지를 벗어난 내용이므로 본 문서에서는 상세한 설명을 생략한다. For example, the controller 180 may automatically change the display size of the object according to the position in the image to which the object is added. The controller 180 obtains distance information indicating a perspective of a position where an object is displayed through image analysis of an image displayed on a screen. In addition, the controller 180 extracts at least one object from the image displayed on the screen, and obtains the size of each extracted object. The display size of the object to be added to the image is changed based on the acquired distance information or the object size. For example, the controller 180 analyzes the garden image 4 displayed on the screen to obtain distance information of the position 4a to which the tree 4b is to be added. Here, the acquired distance information may indicate a relative perspective between another position in the image and a position 4a to which the tree 4b is to be added. In addition, the controller 180 extracts another tree 4c located within a predetermined distance from the position 4a to which the tree 4b is to be added from the garden image 4 and obtains the size of the extracted tree 4c. do. The display size of the tree 4c to be added is set based on the acquired distance information or the size of the tree 4c. Accordingly, the user can check in advance the image as if the new tree is planted in the actual garden. A method of acquiring distance information about a specific position in an image and acquiring an object and an object size from the image is a well-known technique, which is outside the gist of the present invention, and thus detailed description thereof will be omitted.

또한, 예를 들어, 제어부(180)는 객체가 추가되는 영상 내 위치에 따라 해당 객체의 음영 표시를 자동으로 가변할 수 있다. 제어부(180)는 화면에 표시 중인 영상에 대한 영상 분석을 통해, 영상 내 빛의 방향을 획득한다. 그리고, 이를 토대로 영상에 새롭게 추가될 객체의 음영 표시를 가변할 수 있다. 도 5는 표시 위치에 따라 객체의 음영 표시를 가변하는 일 예를 도시한 것이다. 도 5를 참조하면, 캐릭터(5a)이 포함된 실사 영상(5)이 화면에 표시된 상태에서, 입체 객체인 캐릭터2(5b)가 영상(5)에 추가된다. 이에 따라, 제어부(180)는 영상(5)을 분석하여 빛의 방향을 인지한다. 빛의 방향은 영상(5) 내 다른 객체(5a)의 음영 정보 등을 이용하여 획득이 가능하다. 제어부(180)는 인지된 빛의 방향을 토대로 영상(5)에 새롭게 추가되는 캐릭터2(5b)의 음영 표시를 제어한다. 이에 따라, 새롭게 추가되는 객체는 영상 내 다른 객체들과 자연스럽게 어울려 표시될 수 있다. 영상 분석을 통해 영상 내 빛의 방향을 획득하는 방법은 주지된 기술로서, 본 발명의 요지를 벗어난 내용이므로 본 문서에서는 상세한 설명을 생략한다.
Also, for example, the controller 180 may automatically change the shade display of the object according to the position in the image to which the object is added. The controller 180 acquires the direction of light in the image through image analysis of the image displayed on the screen. And, based on this, the shading of the object to be newly added to the image can be changed. 5 illustrates an example of changing a shaded display of an object according to a display position. Referring to FIG. 5, in the state where the live image 5 including the character 5a is displayed on the screen, the character 2 5b as a three-dimensional object is added to the image 5. Accordingly, the controller 180 analyzes the image 5 to recognize the direction of light. The direction of the light can be obtained using shadow information of the other object 5a in the image 5 or the like. The controller 180 controls the display of the shadow of the character 2 (5b) newly added to the image 5 based on the recognized light direction. Accordingly, the newly added object may be displayed naturally matching other objects in the image. The method of acquiring the direction of light in the image through image analysis is a well-known technique, and the detailed description is omitted in this document because it is outside the gist of the present invention.

이하, 도 6 내지 도 8을 참조하여 본 발명의 제2 실시 예에 따른 이동 단말기의 영상 처리 방법과 이를 구현하기 위한 이동 단말기(100)의 동작을 상세하게 설명한다. Hereinafter, the image processing method of the mobile terminal according to the second embodiment of the present invention and the operation of the mobile terminal 100 for implementing the same will be described in detail with reference to FIGS. 6 to 8.

도 6은 본 발명의 제2 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다. 도 7 및 도 8은 본 발명의 제2 실시 예에 따른 이동 단말기의 영상 처리 방법을 설명하기 위한 도면이다.6 is a flowchart illustrating an image processing method of a mobile terminal according to a second embodiment of the present invention. 7 and 8 are diagrams for describing an image processing method of a mobile terminal according to a second embodiment of the present invention.

도 6을 참조하면, 제어부(180)는 디스플레이 모듈(151)을 통해 영상을 표시한다(S301). 여기서, 이동 단말기(100)의 화면에 표시되는 영상은 실사 영상으로, 카메라(121)의 프리뷰 영상일 수도 있고, 메모리(160)에 저장된 사진일 수도 있다.Referring to FIG. 6, the controller 180 displays an image through the display module 151 (S301). Here, the image displayed on the screen of the mobile terminal 100 may be a live image, and may be a preview image of the camera 121 or a photo stored in the memory 160.

또한, 제어부(180)는 화면에 표시 중인 영상과 특정 객체를 결합하여 표시한다. 즉, 표시 중인 영상에 특정 객체를 중첩되게 표시한다(S302). 여기서, 영상과 결합되는 객체가 표시되는 위치는 전술한 제1 실시 예에 개시된 바와 같이 사용자에 의해 선택될 수도 있고, 제어부(180)에 의해 임의로 선택될 수도 있다. 또한, 영상과 결합되는 객체의 형태 또한 전술한 제1 실시 예에 개시된 바와 같이 해당 객체가 표시되는 위치에 따라 가변될 수도 있다. In addition, the controller 180 displays a combination of an image displayed on the screen and a specific object. That is, a specific object is displayed to be superimposed on the image being displayed (S302). Here, the position where the object combined with the image is displayed may be selected by the user as described in the above-described first embodiment, or may be arbitrarily selected by the controller 180. In addition, the shape of the object combined with the image may also vary according to the position at which the object is displayed, as disclosed in the above-described first embodiment.

제어부(180)는 특정 객체가 결합된 영상이 화면에 표시된 상태에서, 영상에 결합된 객체를 영상 내 다른 위치로 이동시키거나 객체 형태의 변형이 요청됨에 따라(S303), 해당 객체의 형태를 가변한다(S304). The controller 180 changes the shape of the object as the object coupled to the image is moved to another position in the image or a deformation of the object shape is requested (S303) while the image combined with the specific object is displayed on the screen (S303). (S304).

예를 들어, 제어부(180)는 객체를 영상 내 제1 위치에서 제2 위치로 이동시킴에 따라, 객체의 표시 크기를 원근법에 따라 자동으로 가변할 수 있다. 제어부(180)는 화면에 표시 중인 영상에 대한 영상 분석을 통해 제1 위치 및 제2 위치의 상대적인 원근감에 해당하는 거리 정보를 획득한다. 그리고, 이를 토대로 위치 이동에 따른 원근감 변화에 따라 객체의 표시 크기를 자동으로 가변한다. 이에 따라, 사용자는 영상에 새롭게 결합된 객체의 표시 위치를 가변할 때마다 객체의 표시 크기를 일일이 가변하는 번거로움을 줄일 수 있다. 도 7은 객체의 표시 위치가 이동됨에 따라 객체의 표시 크기가 가변되는 일 예를 도시한 것이다. 도 7을 참조하면, 정원의 실사 영상(7)에 나무(7a)가 새롭게 결합된 상태에서, 사용자의 제어 입력을 토대로 새롭게 추가된 나무(7a)의 표시 위치가 제1 위치(7b)에서 제2 위치(7c)로 이동된다. 사용자는 디스플레이 모듈(151)을 터치하거나 드래그하는 터치 조작을 통해 새롭게 추가된 객체(7a)의 표시 위치를 이동시킬 수 있다. 새롭게 추가된 나무(7a)의 표시 위치가 이동됨에 따라, 제어부(180)는 제1 위치(7a) 및 제2 위치(7b)의 상대적인 원근감을 나타내는 거리 정보를 획득한다. 그리고, 획득된 거리 정보를 토대로 원근감의 변화에 맞춰 객체(7a)의 표시 크기를 가변한다. For example, the controller 180 may automatically change the display size of the object according to the perspective as the object is moved from the first position to the second position in the image. The controller 180 obtains distance information corresponding to a relative perspective of the first position and the second position through image analysis of the image displayed on the screen. Based on this, the display size of the object is automatically changed according to the change in perspective according to the positional movement. Accordingly, the user may reduce the trouble of changing the display size of the object every time the display position of the object newly coupled to the image is changed. 7 illustrates an example in which the display size of an object is changed as the display position of the object is moved. Referring to FIG. 7, in a state where the tree 7a is newly coupled to the live-action image 7 of the garden, the display position of the newly added tree 7a is changed from the first position 7b based on a user's control input. It is moved to two positions 7c. The user may move the display position of the newly added object 7a through a touch operation of touching or dragging the display module 151. As the display position of the newly added tree 7a is moved, the controller 180 obtains distance information indicating the relative perspective of the first position 7a and the second position 7b. The display size of the object 7a is changed according to the change of perspective based on the obtained distance information.

또한, 예를 들어, 제어부(180)는 사용자의 제어 입력을 토대로 객체를 회전시켜 표시할 수 있다. 이에 따라, 사용자는 영상에 새롭게 결합된 객체의 배치 방향 등을 원하는 대로 변경할 수 있다. 도 8은 객체의 회전을 통해 객체의 형태를 가변하는 일 예를 도시한 것이다. 도 8을 참조하면, 방 내부의 실사 영상(8)에 새롭게 추가된 객체인 커튼(8a)이 중첩되게 표시된다(S401). 이때, 커튼(8a)은 표시되는 위치에 맞게 객체 크기가 가변된 상태로 추가될 수 있다. 커튼(8a)을 영상(8) 내에 추가한 이후에, 제어부(180)는 사용자 입력부(130)를 통해 커튼(8a)의 회전 요청을 입력 받는다. 이에 따라, 제어부(180)는 커튼(8a)을 사용자가 요청한 방향으로 회전시켜 표시한다(S402). 즉, 커튼(8a)이 사용자가 요청한 방향으로 회전되어 표시되도록 커튼(8a)에 대한 영상 처리를 수행한다. 이에 따라, 사용자는 자신의 방에 커튼이나 가구 등의 소품을 배치하여 확인하고 싶은 경우, 실제 소품을 일일이 배치해보는 번거로움 없이 이동 단말기(100)를 이용하여 방에 소품이 배치된 영상을 확인하는 것이 가능하다. Also, for example, the controller 180 may rotate and display an object based on a user's control input. Accordingly, the user can change the arrangement direction of the object newly coupled to the image as desired. 8 illustrates an example of changing the shape of an object through rotation of the object. Referring to FIG. 8, the curtain 8a, which is a newly added object, is displayed on the live image 8 inside the room so as to overlap each other (S401). In this case, the curtain 8a may be added in a state in which the size of the object is changed to match the displayed position. After the curtain 8a is added to the image 8, the controller 180 receives a rotation request of the curtain 8a through the user input unit 130. Accordingly, the controller 180 rotates and displays the curtain 8a in the direction requested by the user (S402). That is, image processing is performed on the curtain 8a so that the curtain 8a is rotated and displayed in the direction requested by the user. Accordingly, when a user wants to check and place props such as curtains and furniture in his room, the user checks an image in which the props are placed in the room using the mobile terminal 100 without the hassle of placing the actual props one by one. It is possible.

또한, 예를 들어, 제어부(180)는 사용자 입력부(130)를 통해 입력되는 제어 입력을 토대로 영상에 추가된 객체의 표정, 자세, 움직임, 색상, 무늬 등을 가변하는 것이 가능하다. 또한, 영상 내 새로운 객체를 추가하는 것 이외에도 원 영상(original image)에 포함된 특정 객체를 삭제하거나, 해당 객체를 다른 객체로 대체하여 표시하는 것 또한 가능하다.
In addition, for example, the controller 180 may change the expression, posture, movement, color, pattern, etc. of the object added to the image based on the control input input through the user input unit 130. In addition to adding a new object in the image, it is also possible to delete a specific object included in the original image, or replace the object with another object to display it.

이하, 도 9 내지 도 11을 참조하여 본 발명의 제3 실시 예에 따른 이동 단말기의 영상 처리 방법과 이를 구현하기 위한 이동 단말기(100)의 동작을 상세하게 설명한다. Hereinafter, the image processing method of the mobile terminal according to the third embodiment of the present invention and the operation of the mobile terminal 100 for implementing the same will be described in detail with reference to FIGS. 9 to 11.

도 9는 본 발명의 제3 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다. 도 10 및 도 11은 본 발명의 제3 실시 예에 따른 이동 단말기의 영상 처리 방법을 설명하기 위한 도면이다.9 is a flowchart illustrating an image processing method of a mobile terminal according to a third embodiment of the present invention. 10 and 11 are diagrams for describing an image processing method of a mobile terminal according to a third embodiment of the present invention.

도 9를 참조하면, 제어부(180)는 디스플레이 모듈(151)을 통해 카메라(121)이 프리뷰영상을 표시한다(S501). 여기서, 이동 단말기(100)의 화면에 표시되는 영상은 실사 영상으로, 카메라(121)의 프리뷰 영상이다. 9, the controller 180 displays a preview image by the camera 121 through the display module 151 (S501). Here, the image displayed on the screen of the mobile terminal 100 is a live image, which is a preview image of the camera 121.

또한, 제어부(180)는 화면에 표시 중인 영상과 특정 객체를 결합하여 표시한다 (S502). 여기서, 영상과 결합되는 객체가 표시되는 위치는 전술한 제1 실시 예에 개시된 바와 같이 사용자에 의해 선택될 수도 있고, 제어부(180)에 의해 임의로 선택될 수도 있다. 또한, 영상과 결합되는 객체의 형태 또한 전술한 제1 실시 예에 개시된 바와 같이 해당 객체가 표시되는 위치에 따라 가변될 수도 있다.In addition, the controller 180 displays a combination of an image displayed on the screen and a specific object (S502). Here, the position where the object combined with the image is displayed may be selected by the user as described in the above-described first embodiment, or may be arbitrarily selected by the controller 180. In addition, the shape of the object combined with the image may also vary according to the position at which the object is displayed, as disclosed in the above-described first embodiment.

제어부(180)는 특정 객체가 결합된 카메라(121)의 프리뷰 영상이 화면에 표시된 상태에서, 이동 단말기(100)의 이동으로 인해 카메라(121)의 촬영 위치 또는 촬영 각도가 이동하거나, 카메라(121)의 줌(zoom) 기능 작동으로 인해 영상의 움직임이 발생하면(S503), 영상의 움직임을 토대로 프리뷰 영상에 결합된 객체의 표시 크기, 표시 위치 등의 표시 특성을 가변한다(S504). The controller 180 displays the preview image of the camera 121 combined with a specific object on the screen, and the photographing position or the photographing angle of the camera 121 moves due to the movement of the mobile terminal 100, or the camera 121. When the movement of the image occurs due to the operation of the zoom function (S503), the display characteristics of the object coupled to the preview image, the display position, etc. are changed based on the movement of the image (S504).

예를 들어, 제어부(180)는 카메라(121)의 촬영 각도가 이동함에 따라 객체의 표시 위치를 가변할 수 있다. 제어부(180)는 프리뷰 영상에 특정 객체가 결합됨에 따라, 추가된 객체의 영상 내 위치를 저장한다. 여기서, 기억되는 위치는 영상 내에서 해당 객체가 표시되는 위치일 수도 있고, 프리뷰 영상에 포함된 공간 내에서 해당 객체가 배치된 위치일 수도 있다. 그리고, 제어부(180)는 저장된 위치 정보를 토대로, 촬영 위치가 이동하더라도 동일한 위치에 객체가 위치할 수 있도록 객체의 표시 위치를 제어한다. 이를 위해, 제어부(180)는 촬영 위치가 이동함에 따라 화면에 표시되는 영상의 움직임 정도를 획득한다. 여기서, 영상의 움직임 정도는 원 영상에 포함된 객체의 위치가 영상 내에서 이동한 정도를 의미한다. 그리고, 영상과 결합된 객체의 이전 위치에 즉, 촬영 위치가 이동하기 이전의 위치에 영상의 움직임 정도를 반영하여 객체의 표시 위치를 결정한다. 이에 따라, 영상에 추가된 객체는 촬영 위치가 이동하더라도 영상 내 똑 같은 위치에 표시될 수 있다. 도 10은 촬영 위치가 이동함에 객체의 표시 위치를 제어하는 일 예를 도시한 것이다. 도 10을 참조하면, 카메라(121)가 오른쪽으로 이동함에 따라 프리뷰 영상 또한 카메라(121)의 이동 방향으로 움직인다(S601, S602). 그러나, 촬영 위치가 이동하더라도 영상과 결합된 객체(10a)의 영상 내 위치는 촬영 위치가 이동하기 이전에 표시된 영상 내 위치(10b)에 표시된다. For example, the controller 180 may change the display position of the object as the photographing angle of the camera 121 moves. The controller 180 stores the position in the image of the added object as the specific object is coupled to the preview image. Here, the stored position may be a position where the object is displayed in the image or may be a position where the object is disposed in the space included in the preview image. The controller 180 controls the display position of the object so that the object can be positioned at the same position even if the photographing position moves. To this end, the controller 180 acquires the degree of movement of the image displayed on the screen as the photographing position moves. Here, the degree of motion of the image means the degree to which the position of the object included in the original image is moved within the image. The display position of the object is determined by reflecting the degree of movement of the image at the previous position of the object combined with the image, that is, the position before the photographing position moves. Accordingly, the object added to the image may be displayed at the same position in the image even if the shooting position is moved. 10 illustrates an example of controlling a display position of an object as the photographing position moves. Referring to FIG. 10, as the camera 121 moves to the right, the preview image also moves in the moving direction of the camera 121 (S601 and S602). However, even if the photographing position moves, the position in the image of the object 10a combined with the image is displayed in the position in the image 10b displayed before the photographing position moves.

또한, 예를 들어, 제어부(180)는 카메라(121)의 촬영 위치가 이동하거나 카메라(121)의 줌 기능이 작동하여 영상이 움직임에 따라 객체의 표시 크기를 제어할 수 있다. 제어부(180)는 카메라(121)의 촬영 위치가 이동하거나 줌 기능이 작동함에 따라 화면에 표시되는 영상의 원근감 변화를 나타내는 거리 변화를 획득한다. 이를 위해, 제어부(180)는 원 영사에 포함된 객체의 크기 변화를 획득한다. 그리고, 이를 토대로 영상의 원근감 변화를 나타내는 거리 변화를 획득한다. 제어부(180)는 거리 변화를 획득하면, 이를 토대로 영상과 결합된 객체의 표시 크기를 가변한다. 따라서, 이동 단말기(100)는 영상의 원근감이 변경되면, 영상의 원근감 변화에 맞춰 영상에 결합된 객체의 원근감을 변경하는 것이 가능하다. 도 11은 촬영 위치가 이동함에 객체의 표시 크기를 가변하는 일 예를 도시한 것이다. 도 11을 참조하면, 카메라(121)의 줌 기능이 동작함에 따라 프리뷰 영상의 원근감이 변경된다(S701, S702). 이에 따라, 영상에 추가된 객체(11a)의 표시 크기 또한 변경된 원근감을 반영하여 가변되어 표시된다.
Also, for example, the controller 180 may control the display size of the object as the photographing position of the camera 121 moves or the zooming function of the camera 121 operates to move the image. The controller 180 acquires a distance change indicating a change in perspective of the image displayed on the screen as the photographing position of the camera 121 is moved or the zoom function is operated. To this end, the controller 180 obtains a change in the size of the object included in the original projection. Based on this, a distance change indicating a change in perspective of the image is obtained. When the controller 180 obtains the distance change, the controller 180 changes the display size of the object combined with the image based on the change in distance. Therefore, when the perspective of the image is changed, the mobile terminal 100 may change the perspective of the object coupled to the image in accordance with the change of the perspective of the image. FIG. 11 illustrates an example in which a display size of an object is changed when a photographing position is moved. Referring to FIG. 11, as the zoom function of the camera 121 operates, the perspective of the preview image is changed (S701 and S702). Accordingly, the display size of the object 11a added to the image is also displayed to be changed to reflect the changed perspective.

이하, 도 12 내지 도 13을 참조하여 본 발명의 제4 실시 예에 따른 이동 단말기의 영상 처리 방법과 이를 구현하기 위한 이동 단말기(100)의 동작을 상세하게 설명한다. Hereinafter, the image processing method of the mobile terminal according to the fourth embodiment of the present invention and the operation of the mobile terminal 100 for implementing the same will be described in detail with reference to FIGS. 12 to 13.

도 12는 본 발명의 제4 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다. 도 13은 본 발명의 제4 실시 예에 따른 이동 단말기의 영상 처리 방법을 설명하기 위한 도면이다.12 is a flowchart illustrating an image processing method of a mobile terminal according to a fourth embodiment of the present invention. 13 is a diagram for describing an image processing method of a mobile terminal according to a fourth embodiment of the present invention.

도 12를 참조하면, 제어부(180)는 디스플레이 모듈(151)을 통해 영상을 표시한다(S801). 여기서, 이동 단말기(100)의 화면에 표시되는 영상은 실사 영상으로, 카메라(121)의 프리뷰 영상일 수도 있고, 메모리(160)에 저장된 사진일 수도 있다. Referring to FIG. 12, the controller 180 displays an image through the display module 151 (S801). Here, the image displayed on the screen of the mobile terminal 100 may be a live image, and may be a preview image of the camera 121 or a photo stored in the memory 160.

화면에 표시 중인 영상에 결합 가능한 객체의 추천이 요청되면(S802), 제어부(180)는 영상에 결합할 수 있는 객체들의 리스트를 생성한다. 그리고, 생성된 객체들의 리스트를 화면에 표시한다(S803). 그리고, 리스트에서 어느 하나의 객체가 선택되면(S804), 선택된 객체를 영상에 결합하여 표시한다(S805). 여기서, 영상과 결합되는 객체가 표시되는 위치는 전술한 제1 실시 예에 개시된 바와 같이 사용자에 의해 선택될 수도 있고, 제어부(180)에 의해 임의로 선택될 수도 있다. 또한, 영상과 결합되는 객체의 형태 또한 전술한 제1 실시 예에 개시된 바와 같이 해당 객체가 표시되는 위치에 따라 가변될 수도 있다.When a recommendation of an object that can be combined with the image displayed on the screen is requested (S802), the controller 180 generates a list of objects that can be combined with the image. The list of generated objects is displayed on the screen (S803). When any one object is selected from the list (S804), the selected object is displayed in combination with the image (S805). Here, the position where the object combined with the image is displayed may be selected by the user as described in the above-described first embodiment, or may be arbitrarily selected by the controller 180. In addition, the shape of the object combined with the image may also vary according to the position at which the object is displayed, as disclosed in the above-described first embodiment.

제어부(180)는 이동 단말기(100)의 현재 위치, 화면에 표시 중인 영상 내 포함된 객체의 종류, 영상의 색 정보 등을 토대로 메모리(160)에 저장된 객체들 중 영상에 결합 가능한 객체들의 리스트를 획득할 수 있다. The controller 180 may list a list of objects that can be combined with an image among the objects stored in the memory 160 based on the current location of the mobile terminal 100, the type of the object included in the image displayed on the screen, and the color information of the image. Can be obtained.

예를 들어, 제어부(180)는 이동 단말기(100)의 현재 위치를 확인하고, 현재 위치에 적합한 객체를 선택할 수 있다. 또한, 예를 들어, 제어부(180)는 영상 내 포함된 객체들의 종류를 토대로 영상 내 포함된 객체들에 매칭되는 객체들을 선택할 수도 있다. 또한, 예를 들어, 제어부(180)는 영상의 색 정보를 토대로 영상에 적합한 색을 띄는 객체를 선택할 수도 있다. 도 13은 영상에 결합 가능한 객체들의 리스트를 표시하는 일 예를 도시한 것이다. For example, the controller 180 may check the current location of the mobile terminal 100 and select an object suitable for the current location. Also, for example, the controller 180 may select objects matching the objects included in the image based on the type of the objects included in the image. For example, the controller 180 may select an object having a color suitable for the image based on the color information of the image. 13 illustrates an example of displaying a list of objects that can be combined with an image.

도 13을 참조하면, 제어부(180)는 카메라(121)의 프리뷰 영상(13)을 화면에 표시한다. 그리고, 영상에 대한 객체 결합이 요청됨에 따라, 현재 표시 중인 프리뷰 영상(13)에 결합 가능한 객체들의 리스트(13a)를 화면에 표시한다. 제어부(180)는 이동 단말기(100)의 현재 위치와 프리뷰 영상(13)의 색 정보를 토대로 현재 프리뷰 영상(13)이 정원을 촬영한 영상임을 감지한다. 그리고, 메모리(160)에 저장된 객체들 중 정원에 배치 가능한 객체들 예를 들어, 나무, 동물 등의 리스트(13a)에 표시한다. 이후, 제어부(180)는 리스트(13a)에서 특정 객체가 선택되면, 해당 객체를 영상(13)에 결합하여 표시한다.
Referring to FIG. 13, the controller 180 displays a preview image 13 of the camera 121 on the screen. When the object is combined with the image, a list 13a of objects that can be combined with the preview image 13 currently displayed is displayed on the screen. The controller 180 detects that the current preview image 13 is an image of a garden based on the current position of the mobile terminal 100 and the color information of the preview image 13. Then, objects that can be placed in the garden among the objects stored in the memory 160 are displayed on the list 13a of a tree, an animal, and the like. Subsequently, when a specific object is selected in the list 13a, the controller 180 combines and displays the corresponding object in the image 13.

이하, 도 14를 참조하여 본 발명의 제5 실시 예에 따른 이동 단말기의 영상 처리 방법과 이를 구현하기 위한 이동 단말기(100)의 동작을 상세하게 설명한다. Hereinafter, an image processing method of a mobile terminal and an operation of the mobile terminal 100 for implementing the same will be described in detail with reference to FIG. 14.

도 14는 본 발명의 제5 실시 예에 따른 이동 단말기의 영상 처리 방법을 도시한 흐름도이다. 14 is a flowchart illustrating an image processing method of a mobile terminal according to a fifth embodiment of the present invention.

도 14를 참조하면, 제어부(180)는 디스플레이 모듈(151)을 통해 영상을 표시한다(S901). 여기서, 이동 단말기(100)의 화면에 표시되는 영상은 실사 영상으로, 카메라(121)의 프리뷰 영상일 수도 있고, 메모리(160)에 저장된 사진일 수도 있다. Referring to FIG. 14, the controller 180 displays an image through the display module 151 (S901). Here, the image displayed on the screen of the mobile terminal 100 may be a live image, and may be a preview image of the camera 121 or a photo stored in the memory 160.

화면에 표시 중인 영상과 특정 객체의 결합이 요청되면(S902), 제어부(180)는 표시 중인 영상에 특정 객체를 결합하여 표시한다(S903). 여기서, 영상과 결합되는 객체가 표시되는 위치는 전술한 제1 실시 예에 개시된 바와 같이 사용자에 의해 선택될 수도 있고, 제어부(180)에 의해 임의로 선택될 수도 있다. 또한, 영상과 결합되는 객체의 형태 또한 전술한 제1 실시 예에 개시된 바와 같이 해당 객체가 표시되는 위치에 따라 가변될 수도 있다.When a combination of the image displayed on the screen and the specific object is requested (S902), the controller 180 combines and displays the specific object on the displayed image (S903). Here, the position where the object combined with the image is displayed may be selected by the user as described in the above-described first embodiment, or may be arbitrarily selected by the controller 180. In addition, the shape of the object combined with the image may also vary according to the position at which the object is displayed, as disclosed in the above-described first embodiment.

이후, 제어부(180)는 특정 객체가 결합된 영상의 저장이 요청됨에 따라(S904), 특정 객체가 결합된 영상을 메모리(160)에 저장한다(S905). Then, the controller 180 stores the image in which the specific object is combined in the memory 160 as the storage of the image in which the specific object is combined is requested (S905).

예를 들어, 화면에 카메라(121)의 프리뷰 영상을 표시 중에 특정 객체의 결합이 요청되면, 제어부(180)는 해당 객체를 프리뷰 영상에 결합하여 표시한다. 그리고, 영상의 캡쳐가 요청됨에 따라, 특정 객체가 결합된 프리뷰 영상을 메모리(160)에 저장한다.
For example, when a combination of a specific object is requested while displaying the preview image of the camera 121 on the screen, the controller 180 displays the object by combining the object with the preview image. As a capture of an image is requested, the preview image combined with a specific object is stored in the memory 160.

전술한 실시 예들에 따르면, 이동 단말기는 영상에 객체를 추가 시, 추가되는 객체가 원 영상에 자연스럽게 어울리도록 객체가 추가되는 위치에 따라 객체의 표시 특성을 가변 한다. According to the embodiments described above, when an object is added to an image, the mobile terminal varies display characteristics of the object according to a position at which the object is added so that the added object naturally matches the original image.

또한, 영상에 결합된 객체를 이동 시키거나 표시 특성을 가변하는 것이 가능하여, 사용자로 하여금 자신이 원하는 대로 객체가 배치될 수 있도록 지원한다. 또한, 사용자가 객체의 위치를 이동시키더라도 이동하는 위치의 원근감에 맞게 객체를 변형하여 표시함으로써, 사용자는 객체의 위치가 이동될 때마다 객체의 표시 크기를 일일이 설정해야 하는 번거로움 없이 객체를 이동시킬 수 있다. In addition, it is possible to move the object coupled to the image or to change the display characteristics, so that the user can arrange the object as desired by the user. Also, even if the user moves the position of the object, the object is transformed and displayed according to the perspective of the moving position, so that the user moves the object without having to set the display size of the object every time the position of the object is moved. You can.

또한, 이동 단말기의 현재 위치, 화면에 표시 중인 영상 내 포함된 객체의 종류, 영상의 색 정보 등을 토대로 화면에 표시 중인 영상에 결합 가능한 객체들을 추천함으로써, 사용자의 선택 편의성을 제공하는 효과가 있다. In addition, by recommending objects that can be combined with the image displayed on the screen based on the current position of the mobile terminal, the type of the object included in the image displayed on the screen, the color information of the image, there is an effect of providing a user convenience of selection. .

한편, 본 문서에서 개시된 실시 예들은, 각각 실시될 수도 있고, 서로 결합하여 실시될 수도 있다. 예를 들어, 이동 단말기(100)는 영상에 객체를 배치 시 본 발명의 제1 실시 예에 개시된 바와 같이 표시 위치에 따라 객체의 형태를 변형하여 표시한다. 그리고, 이후에 객체가 이동 되거나 객체의 변형이 요청되면, 본 발명의 제2 실시 예에 개시된 바와 같이 객체의 표시 특성을 가변할 수 있다. 또한, 예를 들어, 이동 단말기(100)는 본 발명의 제5 실시 예에 개시된 바와 같이, 영상에 결합 가능한 객체들을 추천하고, 추천된 객체들 중 어느 하나의 객체가 선택되면 본 발명의 제1 실시 예에 개시된 바와 같이 표시 위치에 따라 개체의 형태를 변형하여 영상에 결합할 수도 있다.
On the other hand, the embodiments disclosed in the present document, may be implemented in each case, may be implemented in combination with each other. For example, the mobile terminal 100 deforms and displays the shape of the object according to the display position as described in the first embodiment of the present invention when placing the object on the image. If the object is later moved or a deformation of the object is requested, the display characteristics of the object may be changed as disclosed in the second embodiment of the present invention. Also, for example, the mobile terminal 100 recommends objects that can be combined with an image, as disclosed in the fifth embodiment of the present invention, and if any one of the recommended objects is selected, the first terminal of the present invention. As disclosed in the embodiment, the shape of the object may be modified and combined with the image according to the display position.

상기에서 설명한 본 발명에 의한 이동 단말기의 영상 처리 방법은, 컴퓨터에서 실행시키기 위한 프로그램으로 컴퓨터로 읽을 수 있는 기록매체에 기록하여 제공될 수 있다. The image processing method of the mobile terminal according to the present invention described above may be provided by recording on a computer-readable recording medium as a program for executing in a computer.

본 발명에 의한 이동 단말기의 영상 처리 방법은 소프트웨어를 통해 실행될 수 있다. 소프트웨어로 실행될 때, 본 발명의 구성 수단들은 필요한 작업을 실행하는 코드 세그먼트들이다. 프로그램 또는 코드 세그먼트들은 프로세서 판독 기능 매체에 저장되거나 전송 매체 또는 통신 망에서 반송파와 결합된 컴퓨터 데이터 신호에 의하여 전송될 수 있다. The image processing method of the mobile terminal according to the present invention can be executed through software. When implemented in software, the constituent means of the present invention are code segments that perform the necessary work. The program or code segments may be stored in a processor readable medium or transmitted by a computer data signal coupled with a carrier in a transmission medium or communication network.

컴퓨터가 읽을 수 있는 기록매체는 컴퓨터 시스템에 의하여 읽혀질 수 있는 데이터가 저장되는 모드 종류의 기록 장치를 포함한다. 컴퓨터가 읽을 수 있는 기록 장치의 예로는, ROM, RAM, CD-ROM, DVD-ROM, DVD-RAM, 자기 테이프, 플로피 디스크, 하드 디스크(hard disk), 광 데이터 저장장치 등이 있다. 또한, 컴퓨터로 읽을 수 있는 기록매체는 네트워크로 연결된 컴퓨터 장치에 분산되어 분산방식으로 컴퓨터가 읽을 수 있는 코드가 저장되고 실행될 수 있다.
The computer-readable recording medium includes a mode type recording device in which data that can be read by a computer system is stored. Examples of computer-readable recording devices include ROM, RAM, CD-ROM, DVD-ROM, DVD-RAM, magnetic tape, floppy disks, hard disks, optical data storage devices, and the like. The computer readable recording medium can also be distributed over network coupled computer devices so that the computer readable code is stored and executed in a distributed fashion.

이상에서 설명한 본 발명은, 본 발명이 속하는 기술분야에서 통상의 지식을 가진 자에 있어 본 발명의 기술적 사상을 벗어나지 않는 범위 내에서 여러 가지 치환, 변형 및 변경이 가능하므로 전술한 실시 예 및 첨부된 도면에 의해 한정되는 것이 아니라, 다양한 변형이 이루어질 수 있도록 각 실시 예들의 전부 또는 일부가 선택적으로 조합되어 구성될 수 있다. It will be apparent to those skilled in the art that various modifications and variations can be made in the present invention without departing from the spirit or scope of the invention. The present invention is not limited to the drawings, and all or some of the embodiments may be selectively combined so that various modifications may be made.

Claims

Display module; And
Control unit for superimposing and displaying a specific object on the image displayed through the display module, and controls the shape of the specific object according to the position where the specific object is displayed
Mobile terminal comprising a.

The method of claim 1,
The controller acquires distance information indicating a perspective of a position where the specific object is displayed through analysis of the image, and controls the display size of the specific object based on the distance information.

The method of claim 1,
The control unit obtains a direction of light at a position where the specific object is displayed through analysis of the image, and controls the display of the shadow of the specific object based on the direction of the light.

The method of claim 1,
As the display position of the specific object moves from the first position to the second position, the controller acquires distance information indicating a relative perspective of the first position and the second position through analysis of the image, and the distance And a display size of the specific object is varied based on the information.

The method of claim 1,
Further includes a camera,
And the first image is a preview image of the camera.

The method of claim 5,
The controller may vary display characteristics of the specific object according to the degree of movement of the image when the movement of the image occurs.

The method of claim 6,
The controller may vary the display position of the specific object based on the degree of movement when the movement of the image occurs.

The method of claim 6,
The controller acquires a distance change corresponding to a change in perspective of the image when the movement of the image occurs, and varies the display size of the specific object based on the change in distance.

The method of claim 1,
The controller may display a list of at least one object that can be combined with the image based on at least one of a current position of the mobile terminal, a type of an object included in the image, and color information of the image. .

Displaying an image;
Receiving a request for combining a specific object with respect to the image;
Deforming the shape of the specific object according to the display position of the specific object in the image; And
Displaying a specific object whose shape is deformed and overlapping the display position
Image processing method of a mobile terminal comprising a.