Nothing Special   »   [go: up one dir, main page]

KR102740847B1 - 사용자 입력 처리 방법 및 이를 지원하는 전자 장치 - Google Patents

사용자 입력 처리 방법 및 이를 지원하는 전자 장치 Download PDF

Info

Publication number
KR102740847B1
KR102740847B1 KR1020190019546A KR20190019546A KR102740847B1 KR 102740847 B1 KR102740847 B1 KR 102740847B1 KR 1020190019546 A KR1020190019546 A KR 1020190019546A KR 20190019546 A KR20190019546 A KR 20190019546A KR 102740847 B1 KR102740847 B1 KR 102740847B1
Authority
KR
South Korea
Prior art keywords
electronic device
user
information
location
processor
Prior art date
Application number
KR1020190019546A
Other languages
English (en)
Other versions
KR20200101221A (ko
Inventor
김문식
김기범
여재영
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020190019546A priority Critical patent/KR102740847B1/ko
Priority to PCT/KR2020/002327 priority patent/WO2020171548A1/ko
Publication of KR20200101221A publication Critical patent/KR20200101221A/ko
Priority to US17/406,727 priority patent/US12197204B2/en
Application granted granted Critical
Publication of KR102740847B1 publication Critical patent/KR102740847B1/ko

Links

Images

Classifications

    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/0011—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement
    • G05D1/0016—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots associated with a remote control arrangement characterised by the operator's input device
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B25—HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25J—MANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J11/00—Manipulators not otherwise provided for
    • B25J11/0005—Manipulators having means for high-level communication with users, e.g. speech generator, face recognition means
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/02—Control of position or course in two dimensions
    • G05D1/021—Control of position or course in two dimensions specially adapted to land vehicles
    • G05D1/0255—Control of position or course in two dimensions specially adapted to land vehicles using acoustic signals, e.g. ultra-sonic singals
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/20—Control system inputs
    • G05D1/22—Command input arrangements
    • G05D1/221—Remote-control arrangements
    • G05D1/222—Remote-control arrangements operated by humans
    • G05D1/223—Command input arrangements on the remote controller, e.g. joysticks or touch screens
    • G—PHYSICS
    • G05—CONTROLLING; REGULATING
    • G05D—SYSTEMS FOR CONTROLLING OR REGULATING NON-ELECTRIC VARIABLES
    • G05D1/00—Control of position, course, altitude or attitude of land, water, air or space vehicles, e.g. using automatic pilots
    • G05D1/20—Control system inputs
    • G05D1/24—Arrangements for determining position or orientation
    • G05D1/247—Arrangements for determining position or orientation using signals provided by artificial sources external to the vehicle, e.g. navigation beacons
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29—Geographical information databases
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33—Querying
    • G06F16/3331—Query processing
    • G06F16/334—Query execution
    • G06F16/3343—Query execution using phonetics
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/002—Specific input/output arrangements not covered by G06F3/01 - G06F3/16
    • G06F3/005—Input arrangements through a video camera
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/004—Artificial life, i.e. computing arrangements simulating life
    • G06N3/008—Artificial life, i.e. computing arrangements simulating life based on physical entities controlled by simulated intelligence so as to replicate intelligent life forms, e.g. based on robots replicating pets or humans in their appearance or behaviour
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N5/00—Computing arrangements using knowledge-based models
    • G06N5/04—Inference or reasoning models
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00—Arrangements for image or video recognition or understanding
    • G06V10/10—Image acquisition
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16—Human faces, e.g. facial parts, sketches or expressions
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/083—Recognition networks
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/08—Speech classification or search
    • G10L15/18—Speech classification or search using natural language modelling
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/04—Training, enrolment or model building
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00—Speaker identification or verification techniques
    • G10L17/22—Interactive procedures; Man-machine interfaces
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L25/00—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00
    • G10L25/48—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use
    • G10L25/51—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination
    • G10L25/54—Speech or voice analysis techniques not restricted to a single one of groups G10L15/00 - G10L21/00 specially adapted for particular use for comparison or discrimination for retrieval
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/223—Execution procedure of a spoken command
    • G—PHYSICS
    • G10—MUSICAL INSTRUMENTS; ACOUSTICS
    • G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L15/00—Speech recognition
    • G10L15/22—Procedures used during a speech recognition process, e.g. man-machine dialogue
    • G10L2015/226—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics
    • G10L2015/227—Procedures used during a speech recognition process, e.g. man-machine dialogue using non-speech characteristics of the speaker; Human-factor methodology

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Computational Linguistics (AREA)
  • Acoustics & Sound (AREA)
  • Remote Sensing (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Artificial Intelligence (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Automation & Control Theory (AREA)
  • Aviation & Aerospace Engineering (AREA)
  • Software Systems (AREA)
  • Evolutionary Computation (AREA)
  • Robotics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Signal Processing (AREA)
  • Mechanical Engineering (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

본 발명의 일 실시 예는, 메모리, 마이크, 통신 회로, 구동 모듈, 센서 모듈, 및 상기 메모리, 상기 마이크, 상기 통신 회로, 상기 구동 모듈 및 상기 센서 모듈과 작동적으로 연결되는 프로세서를 포함하고, 상기 프로세서는, 상기 메모리에 복수의 사용자 각각에 관계되는 정보를 저장하고, 상기 마이크를 통하여 상기 전자 장치의 태스크(task) 수행과 관계되는 사용자 발화를 수신하고, 상기 통신 회로를 이용하여 상기 사용자 발화와 관계되는 제1 데이터를 지정된 외부 장치로 전송하고, 상기 통신 회로를 이용하여 상기 태스크 수행과 관련한 상기 전자 장치의 적어도 하나의 동작 정보 및 상기 동작을 수행하는데 요구되는 적어도 하나의 파라미터를 포함하는 제2 데이터를 상기 외부 장치로부터 수신하고, 상기 적어도 하나의 파라미터에 기초하여 상기 복수의 사용자 중 상기 태스크 수행의 타겟과 관계되는 제1 사용자를 식별하고, 상기 복수의 사용자 각각에 관계되는 정보가 포함하는 상기 제1 사용자 관련 정보에 기초하여 상기 타겟의 위치를 추론하고, 상기 구동 모듈을 제어하여 상기 추론에 기반한 제1 위치로 상기 전자 장치를 이동시키고, 상기 제1 위치에서 상기 센서 모듈 또는 상기 마이크를 이용하여 획득되는 정보 및 상기 제1 사용자 관련 정보를 비교하여 상기 제1 사용자를 탐색하고, 상기 탐색에 기반하여 상기 제1 사용자가 인식되면, 상기 센서 모듈을 이용하여 상기 제1 사용자의 지정된 신체 정보가 획득되도록, 상기 구동 모듈을 제어하여 상기 제1 사용자를 기준한 지정된 임계 거리 범위 내의 제2 위치로 상기 전자 장치를 이동시키도록 설정된 전자 장치를 개시한다. 이 외에도 명세서를 통하여 파악되는 다양한 실시 예가 가능하다.

Description

사용자 입력 처리 방법 및 이를 지원하는 전자 장치{Method for processing user input and electronic device supporting the same}
본 문서에서 개시되는 다양한 실시 예들은, 전자 장치의 사용자 입력 처리 기술과 관련된다.
전자 장치는 사용자와의 인터렉션(interaction)을 지향하기 위한 일환으로 다양한 입력 방식을 제안하고 있다. 예를 들어, 전자 장치는 지정된 어플리케이션 프로그램의 실행을 기반으로 사용자 발화에 따른 음성 데이터를 입력 받는 음성 입력 방식을 지원하고 있다. 나아가, 전자 장치는 입력 받은 음성 데이터를 인식하여 사용자 발화의 의도를 도출하고, 도출된 사용자 발화 의도에 대응하는 태스크(task)를 수행하는 음성 인식 서비스를 지원하고 있다.
음성 인식 서비스의 상용화에 따라, 상기 음성 인식 서비스에 대한 다양한 운용 플랫폼이 구축되고 있다. 일례로, 전자 장치는 메시지 정보를 포함하는 사용자 발화를 수신하고, 상기 사용자 발화에 따른 음성 데이터를 인식하여 관계되는 메시지 수신인 소유의 외부 장치로 상기 메시지 정보에 대응하는 데이터를 전송할 수 있다. 그러나, 이와 같은 전자 장치의 태스크(예: 메시지 전달) 수행은 상기 전자 장치와 상호작용하기 위한 외부 장치가 요구될 수 있으며, 상기 외부 장치의 통신 장애 또는 전원 오프(off) 시 태스크 수행이 유효하지 않거나, 불완전하게 종료될 수 있다.
본 문서에서 개시되는 다양한 실시 예들은, 사용자 발화 수신 시, 상기 사용자 발화에 대응하는 태스크의 수행 위치로 이동하여 태스크(예: 메시지 전달)를 수행할 수 있는, 사용자 입력 처리 방법 및 이를 지원하는 전자 장치를 제공할 수 있다.
일 실시 예에 따른 전자 장치는, 메모리, 마이크, 통신 회로, 구동 모듈, 센서 모듈, 및 상기 메모리, 상기 마이크, 상기 통신 회로, 상기 구동 모듈 및 상기 센서 모듈과 작동적(operatively)으로 연결되는 프로세서를 포함할 수 있다.
일 실시 예에 따르면, 상기 프로세서는, 상기 메모리에 복수의 사용자 각각에 관계되는 정보를 저장하고, 상기 마이크를 통하여 상기 전자 장치의 태스크(task) 수행과 관계되는 사용자 발화를 수신하고, 상기 통신 회로를 이용하여 상기 사용자 발화와 관계되는 제1 데이터를 지정된 외부 장치로 전송하고, 상기 통신 회로를 이용하여 상기 태스크 수행과 관련한 상기 전자 장치의 적어도 하나의 동작 정보 및 상기 동작을 수행하는데 요구되는 적어도 하나의 파라미터를 포함하는 제2 데이터를 상기 외부 장치로부터 수신하고, 상기 적어도 하나의 파라미터에 기초하여 상기 복수의 사용자 중 상기 태스크 수행의 타겟과 관계되는 제1 사용자를 식별하고, 상기 복수의 사용자 각각에 관계되는 정보가 포함하는 상기 제1 사용자 관련 정보에 기초하여 상기 타겟의 위치를 추론하고, 상기 구동 모듈을 제어하여 상기 추론에 기반한 제1 위치로 상기 전자 장치를 이동시키고, 상기 제1 위치에서 상기 센서 모듈 또는 상기 마이크를 이용하여 획득되는 정보 및 상기 제1 사용자 관련 정보를 비교하여 상기 제1 사용자를 탐색하고, 상기 탐색에 기반하여 상기 제1 사용자가 인식되면, 상기 센서 모듈을 이용하여 상기 제1 사용자의 지정된 신체 정보가 획득되도록, 상기 구동 모듈을 제어하여 상기 제1 사용자를 기준한 지정된 임계 거리 범위 내의 제2 위치로 상기 전자 장치를 이동시킬 수 있다.
다양한 실시 예에 따르면, 전자 장치가 태스크(예: 메시지 전달) 수행과 관련 있는 타겟(target) 사용자(예: 메시지 수신인)의 위치로 근접 이동하여 태스크를 수행함으로써, 상기 타겟 사용자에게 태스크 수행에 따른 정보를 직관적으로 제공할 수 있다.
다양한 실시 예에 따르면, 사용자 발화 상에 태스크 수행과 관련되는 타겟 사용자의 위치 정보가 부재하더라도, 전자 장치가 상기 타겟 사용자의 위치를 추론하여 태스크를 수행함으로써, 태스크 수행의 신뢰도가 향상될 수 있다.
이 외에, 본 문서를 통해 직접적 또는 간접적으로 파악되는 다양한 효과들이 제공될 수 있다.
도 1은 일 실시 예에 따른 전자 장치의 운용 일례를 도시한 도면이다.
도 2는 일 실시 예에 따른 인텔리전트(intelligent) 시스템을 도시한 도면이다.
도 3은 일 실시 예에 따른 인텔리전트(intelligent) 서버를 도시한 도면이다.
도 4는 일 실시 예에 따른 전자 장치를 도시한 도면이다.
도 5는 일 실시 예에 따른 전자 장치의 사용자 발화 예측 형태를 도시한 도면이다.
도 6은 일 실시 예에 따른 전자 장치의 타겟(target) 식별 형태를 도시한 도면이다.
도 7은 일 실시 예에 따른 전자 장치의 공간 판단 형태를 도시한 도면이다.
도 8은 일 실시 예에 따른 전자 장치의 이동 형태를 도시한 도면이다.
도 9는 일 실시 예에 따른 전자 장치의 기능 설정 화면을 도시한 도면이다.
도 10은 일 실시 예에 따른 전자 장치의 사용자 입력 처리 방법을 도시한 도면이다.
도 11은 일 실시 예에 따른 네트워크 환경 내의 전자 장치를 도시한 도면이다.
도면의 설명과 관련하여, 동일 또는 대응되는 구성요소에 대해서는 동일한 참조 번호가 부여될 수 있다.
이하, 본 발명의 다양한 실시 예가 첨부된 도면을 참조하여 기재된다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 실시 예의 다양한 변경(modification), 균등물(equivalent), 및/또는 대체물(alternative)을 포함하는 것으로 이해되어야 한다.
도 1은 일 실시 예에 따른 전자 장치의 운용 일례를 도시한 도면이고, 도 2는 일 실시 예에 따른 인텔리전트(intelligent) 시스템을 도시한 도면이다.
도 1을 참조하면, 일 실시 예에 따른 전자 장치(100)는 배치되는 특정 공간(10)(예: 가정, 사무실, 교실 또는 작업장 등) 상에서 사용자 발화에 따른 음성 데이터를 입력 받을 수 있다. 예를 들어, 전자 장치(100)는 탑재된 마이크를 통하여 사용자 발화에 따른 음성 데이터를 입력 받고, 상기 음성 데이터를 처리하여 관계되는 동작을 수행하거나, 또는 상태가 천이될 수 있다. 이와 관련하여, 일 실시 예에 따른 사용자 발화는 전자 장치(100)의 특정 태스크(task) 수행과 관계된 명령 또는 의도를 내포하는 태스크 명령 발화(예: “유진이한테 밥 먹으라고 전해줘” 등)일 수 있다. 이 경우, 전자 장치(100)는 네트워크로 연결된 인텔리전트 서버(200)와의 상호작용을 통하여 사용자 발화에 따른 음성 데이터를 처리함으로써, 상기 사용자 발화에 대응하는 태스크(예: 메시지 전달)를 수행할 수 있다.
다른 실시 예에서, 상기 사용자 발화는 전자 장치(100)의 상태 변경을 제어하는 웨이크 업(wake up) 발화(예: “hi, Chat Bot!” 또는 “wake up!” 등)일 수 있다. 예를 들어, 상기 사용자 발화는 전자 장치(100)의 상태를 사용자 발화의 수신을 대기하는 리스닝(listening) 상태로부터, 사용자 발화 발생에 따라 입력되는 음성 데이터를 처리할 수 있는 웨이크 업 상태로 천이(또는, 음성 인식 서비스 기능을 활성화)시키기 위한 발화일 수 있다. 이 경우, 상기 사용자 발화는 전자 장치(100)의 웨이크 업 상태 천이와 관계되는 지정된 웨이크 업 키워드를 포함할 수 있다. 전자 장치(100)는 입력 받은 음성 데이터 상에서 상기 웨이크 업 키워드가 인식되는 경우, 태스크 명령 발화를 처리할 수 있는 웨이크 업 상태로 천이될 수 있다. 다양한 실시 예에서, 전자 장치(100)의 웨이크 업 상태 천이(또는, 음성 인식 서비스 기능 활성화)는 상기 사용자의 웨이크 업 발화 이외에도, 전자 장치(100)의 일 영역으로 배치되는 하드웨어 버튼에 대한 사용자 조작에 의해 구현될 수 있다.
일 실시 예에서, 제1 사용자(20)로부터 수신하는 사용자 발화가 특정 태스크 수행을 명령 또는 의도하는 태스크 명령 발화(예: “유진이한테 밥 먹으라고 전해줘”)인 경우, 전자 장치(100)는 상기 제1 사용자(20) 발화에 따른 음성 데이터를 인텔리전트 서버(200)로 전송할 수 있다. 인텔리전트 서버(200)는 상기 음성 데이터에 대한 인식을 기반으로 전자 장치(100)의 음성 인식 서비스 운용을 지원할 수 있으며, 이와 관련하여 전자 장치(100)는 상기 인텔리전트 서버(200)의 신뢰도 높은 음성 데이터 인식을 위해 제1 사용자(20) 발화에 따른 음성 데이터를 전처리(예: 에코 제거, 배경 잡음 억제, 음량 조절, 이퀄라이징 또는 종점 검출 등)하여 전송할 수 있다.
일 실시 예에서, 인텔리전트 서버(200)는 전자 장치(100)로부터 수신한 음성 데이터를 인식하여 제1 사용자(20) 발화의 의도를 도출할 수 있다. 또한, 인텔리전트 서버(200)는 전자 장치(100)가 상기 도출된 제1 사용자(20) 발화 의도에 대응하는 태스크를 수행할 수 있도록, 상기 태스크 수행과 관계되는 전자 장치(100) 동작에 대한 시퀀스(sequence)를 생성하여 전자 장치(100)로 전송할 수 있다. 다양한 실시 예에 따르면, 상기 인텔리전트 서버(200)의 기능 동작은 전자 장치(100)에 의해 대행될 수 있다. 예를 들어, 전자 장치(100)는 제1 사용자(20) 발화에 따른 음성 데이터를 자체적으로 인식하여 제1 사용자(20) 발화 의도를 도출하고, 상기 제1 사용자(20) 발화 의도에 대응하는 태스크를 수행하기 위한 시퀀스를 생성 또는 선택할 수 있다.
일 실시 예에서, 전자 장치(100)는 상기 시퀀스에 기초하여 동작함으로써, 제1 사용자(20)가 명령 또는 의도한 태스크(예: 메시지 전달)를 수행할 수 있다. 이와 관련하여, 상기 시퀀스는 전자 장치(100)가 수행할 적어도 하나의 동작 정보를 비롯하여, 상기 동작 수행(또는, 태스크 수행)에 요구되는 적어도 하나의 파라미터(예: 메시지 내용 또는 메시지 수신인 등)를 포함할 수 있다. 전자 장치(100)는 시퀀스에 포함된 파라미터에 기초하여 태스크 수행의 타겟(target)에 해당하는 제2 사용자(30)를 식별하고, 전자 장치(100) 상에 사전 저장된 상기 제2 사용자(30) 관련 정보를 근거로 제2 사용자(30)의 위치를 추정할 수 있다. 전자 장치(100)는 상기 추정된 위치로 이동하고, 해당 위치에서 탑재된 적어도 하나의 센서를 통해 획득되는 정보를 이용하여 제2 사용자(30)를 탐색할 수 있다. 일 실시 예에서, 전자 장치(100)는 상기 탐색 동작에서 제2 사용자(30) 관련 정보에 근거하여 제2 사용자(30)가 인식되는 경우, 상기 제2 사용자(30)에 근접된 위치로 이동하여 시퀀스 상의 일부 동작에 따른 음성 출력(예: “유진아 엄마가 밥 먹으래”)(또는, 영상 출력)을 수행할 수 있다. 이하 참조되는 도면을 통하여, 전자 장치(100)의 태스크 명령 발화 처리와 관련한 다양한 실시 예를 살펴보기로 한다.
도 3은 일 실시 예에 따른 인텔리전트(intelligent) 서버를 도시한 도면이다.
도 3을 참조하면, 인텔리전트 서버(200)는 전자 장치(도 1 또는 도 2의 100)로부터 수신하는 사용자 발화에 따른 음성 데이터를 처리하기 위한 음성 입력 처리 모듈(210)을 포함할 수 있다. 일 실시 예에 따르면, 음성 입력 처리 모듈(210)은 상기 음성 데이터에 대한 인식을 기반으로 사용자 발화에 대한 전자 장치(100) 응답(예: 태스크 수행과 관련한 전자 장치(100)의 동작)의 적어도 일부를 생성할 수 있으며, 이와 관련하여 ASR(automatic speech recognition) 모듈(211), NLU(natural language understanding) 모듈(212) 또는 TTS(text to speech) 모듈(213)을 포함할 수 있다. 상기 음성 입력 처리 모듈(210)이 포함하는 적어도 하나의 모듈은 예컨대, 하드웨어 또는 소프트웨어로 구현될 수 있으며, 상호 독립적이거나, 적어도 일부가 통합될 수 있다. 다양한 실시 예에서, 인텔리전트 서버(200)는 상기 음성 입력 처리 모듈(210)의 기능 동작을 제어하는 프로세서, 상기 음성 데이터의 인식과 관계된 적어도 하나의 모델을 저장하는 메모리 또는 전자 장치(100)와의 통신을 지원하는 통신 회로를 더 포함할 수 있다.
일 실시 예에서, 상기 ASR 모듈(211)은 전자 장치(100)로부터 수신된 음성 데이터를 인식하여 텍스트 데이터로 변환할 수 있다. 예를 들어, ASR 모듈(211)은 발화 또는 발성에 관련한 적어도 하나의 정보를 포함하는 음향 모델 또는 적어도 하나의 단위 음소 정보 및 단위 음소들의 조합 정보를 포함하는 언어 모델을 이용하여 상기 음성 데이터를 텍스트 데이터로 변환할 수 있다. 일 실시 예에 따르면, ASR 모듈(211)은 변환된 텍스트 데이터를 상기 통신 회로를 이용하여 전자 장치(100)에 전송할 수 있다.
일 실시 예에서, 상기 NLU 모듈(212)은 ASR 모듈(211)로부터 텍스트 데이터를 전달받고, 상기 텍스트 데이터에 기초하여 음성 데이터와 관계된 사용자 발화의 의도를 도출할 수 있다. 예를 들어, NLU 모듈(212)은 상기 텍스트 데이터를 문법적 단위(예: 단어, 구 또는 형태소 등)로 구분하고, 각각의 단위에 대한 문법적 요소 또는 언어적 특징을 분석하여 상기 텍스트 데이터에 대한 의미를 판단함으로써, 음성 데이터와 관계되는 사용자 발화의 의도를 도출할 수 있다. 일 실시 예에 따르면, NLU 모듈(212)은 도출된 사용자 발화 의도에 기초하여, 상기 텍스트 데이터 상에서 도메인(domain), 의도(intent) 및 상기 의도를 표현하는데 필요한 파라미터(parameter)를 획득할 수 있다. NLU 모듈(212)은 획득된 도메인, 의도 및 파라미터에 기초하여 상기 사용자 발화 의도에 대응하는 태스크 수행을 위한 전자 장치(100) 동작의 시퀀스를 생성할 수 있다. 일 실시 예에 따르면, 상기 시퀀스는 태스크 수행과 관계되는 전자 장치(100)의 적어도 하나의 동작 정보 및 상기 적어도 하나의 동작을 실행하는데 요구되는 적어도 하나의 파라미터를 포함할 수 있다. NLU 모듈(212)은 생성된 시퀀스를 상기 통신 회로를 이용하여 전자 장치(100)에 전송할 수 있다.
일 실시 예에서, 상기 TTS 모듈(213)은 NLU 모듈(212)로부터 상기 텍스트 데이터에 대한 문법적 단위(예: 단어, 구 또는 형태소 등)를 전달받고, 텍스트 형태의 문법적 단위를 음성 데이터로 변환할 수 있다. 다양한 실시 예에 따르면, TTS 모듈(213)은 상기 변환 동작에서 문법적 단위의 품사를 변경하거나, 문법적 단위에 품사를 부가하거나, 또는 문법적 단위의 어순을 변경함으로써, 상기 텍스트 형태의 문법적 단위를 다양한 양상의 음성 데이터로 변환할 수 있다. TTS 모듈(213)은 변환된 음성 데이터를 상기 통신 회로를 이용하여 전자 장치(100)에 전송할 수 있다.
다양한 실시 예에 따르면, 상술된 음성 입력 처리 모듈(210)의 적어도 일부는 전자 장치(100)에 포함될 수 있다. 예를 들어, 음성 입력 처리 모듈(210)의 ASR 모듈(211), NLU 모듈(212) 또는 TTS 모듈(213) 중 적어도 일부는 전자 장치(100)에 포함되어, 사용자 발화에 따른 음성 데이터에 대한 전자 장치(100)의 인식 또는 응답 생성의 적어도 일부를 지원할 수 있다.
도 4는 일 실시 예에 따른 전자 장치를 도시한 도면이다.
도 4를 참조하면, 일 실시 예에 따른 전자 장치(100)는 마이크(110), 통신 회로(120), 메모리(130), 프로세서(140), 구동 모듈(150), 센서 모듈(160), 스피커(170) 또는 디스플레이(180)를 포함할 수 있다. 다양한 실시 예에 따르면, 전자 장치(100)는 상술한 구성요소들 중 적어도 하나를 생략하거나, 다른 구성요소를 추가적으로 포함할 수 있다. 예를 들어, 전자 장치(100)는 후술되는 도 13을 통하여 언급될 전자 장치(도 13의 1301)의 구성요소들을 더 포함할 수 있다. 다양한 실시 예에서, 상술한 전자 장치(100)의 구성요소들은 상기 전자 장치(100) 외관의 적어도 일부를 형성하는 하우징 내부에 배치되거나, 상기 하우징에 연결 또는 결합될 수 있다.
일 실시 예에서, 마이크(110)는 사용자 발화에 따른 음성 신호를 수신할 수 있다. 마이크(110)는 예컨대, 상기 음성 신호를 수신하기 위하여 항시 구동하는 상태(예: always on)로 동작할 수 있다. 또는, 마이크(110)는 전자 장치(100)의 일 영역으로 배치되는 하드웨어 버튼에 대한 사용자 조작에 따라, 상기 전자 장치(100)가 웨이크 업 상태로 천이되는 경우 활성화되어 동작할 수 있다. 다양한 실시 예에 따르면, 마이크(110)는 상기 음성 신호의 효율적 수신과 관련하여, 복수의 마이크를 포함할 수 있으며, 적어도 일부가 전자 장치(100)의 일 영역을 통하여 외부에 노출될 수 있다.
일 실시 예에서, 상기 통신 회로(120)는 전자 장치(100)와 적어도 하나의 외부 장치 간의 통신을 지원할 수 있다. 예를 들어, 통신 회로(120)는 인텔리전트 서버(도 2 또는 도 3의 200)와 네트워크를 구축하고, 규정된 프로토콜(protocol)에 따른 유선 통신 또는 무선 통신을 통하여 상기 네트워크에 접속함으로써, 인텔리전트 서버(200)와 음성 인식 서비스 운용에 관계되는 데이터 또는 신호의 송수신을 수행할 수 있다. 다양한 실시 예에서, 통신 회로(120)는 전자 장치(100)가 배치되는 특정 공간(10) 상의 적어도 하나의 사물인터넷 장치와 네트워크로 연결되는 사물인터넷 환경을 구축할 수 있다.
일 실시 예에서, 상기 메모리(130)는 전자 장치(100)의 음성 인식 서비스 기능 운용과 관계되는 적어도 하나의 데이터를 저장하거나, 전자 장치(100) 구성요소들의 기능 동작 제어와 관계되는 적어도 하나의 명령을 저장할 수 있다. 예를 들어, 메모리(130)는 사용자 발화 수신에 따른 음성 데이터를 저장하거나, 인텔리전트 서버(200)로부터 수신하는(또는, 전자 장치(100)가 생성하는) 시퀀스를 저장할 수 있다. 또는, 메모리(130)는 적어도 하나의 어플리케이션(131)을 저장할 수 있다. 상기 어플리케이션(131)은 예컨대, 전자 장치(100)의 음성 인식 서비스 운용을 지원하는 인텔리전트 어플리케이션을 포함할 수 있다. 상기 인텔리전트 어플리케이션은 전자 장치(100)의 태스크 수행과 관계되는 다른 어플리케이션을 실행시키거나, 상기 시퀀스에 따른 전자 장치(100)의 동작 중 적어도 일부의 수행을 지원할 수 있다. 일 실시 예에 따르면, 메모리(130)는 사용자 발화의 화자에 대한 인식 또는 태스크 수행과 관련한 타겟에 대한 인식을 지원하는 적어도 하나의 모듈을 더 포함할 수 있다. 예를 들어, 메모리(130)는 후술되는 프로세서(140)의 제어에 의해 실행되는 화자 인식 모듈(133), 공간 인식 모듈(135), 오브젝트 인식 모듈(137) 또는 타겟 인식 모듈(139)을 더 포함할 수 있다. 일 실시 예에 따르면, 상기 화자 인식 모듈(133), 공간 인식 모듈(135), 오브젝트 인식 모듈(137) 또는 타겟 인식 모듈(139)이 포함하는 모델은 전자 장치(100)에 등록된 적어도 한 명의 사용자와 관련한 정보로 이해될 수 있다.
일 실시 예에서, 상기 화자 인식 모듈(133)은 마이크(110)를 통하여 사용자 발화(예: 태스크 명령 발화 또는 웨이크 업 발화) 수신 시, 상기 사용자 발화의 대상(예: 화자)를 인식할 수 있다. 이와 관련하여, 화자 인식 모듈(133)은 전자 장치(100)에 등록된 적어도 한 명의 사용자를 인식하기 위하여 상기 적어도 한 명의 사용자 각각에 대응하는 화자 인식 모델을 포함할 수 있다. 일 실시 예에 따르면, 화자 인식 모듈(133)은 상기 전자 장치(100) 상에 적어도 한 명의 사용자 등록 시, 마이크(110)를 통하여 각각의 사용자로부터 기준 발화를 수신하고, 상기 기준 발화에서 추출되는 특징 벡터(feature vector)의 통계적 특성을 이용하여 상기 각각의 사용자에 대응하는 화자 인식 모델을 생성할 수 있다. 상기 통계적 특성은 예컨대, 특정 사용자의 기준 발화에서 추출되는 특징 벡터와, 상기 특정 사용자에 의한 복수 번의 발화에서 추출되는 특징 벡터들 간의 차이 값 분포를 포함할 수 있다. 다른 실시 예에 따르면, 화자 인식 모듈(133)은 전자 장치(100) 상에 적어도 한 명의 사용자 등록 시, 각각의 사용자에 대하여 촬영되는 영상(예: still image 또는 video)을 기반으로 화자 인식 모델을 생성할 수 있다. 예를 들어, 화자 인식 모듈(133)은 후술되는 센서 모듈(160)에 포함된 이미지 센서를 이용하여 상기 각각의 사용자의 얼굴 영상을 획득(또는, 촬영)하고, 상기 얼굴 영상에 대한 적어도 하나의 특징점 추출을 기반으로 각각의 사용자에 대응하는 화자 인식 모델을 생성할 수 있다. 또는, 화자 인식 모듈(133)은 상기 센서 모듈(160)이 포함하는 이미지 센서 및/또는 뎁스 센서를 이용하여 사용자 신체에 대한 영상을 획득(또는, 촬영)하고, 상기 신체에 대한 영상으로부터 판단되는 사용자 골격 정보, 키 정보 또는 몸집 정보를 이용하여 각각의 사용자에 대응하는 화자 인식 모델을 생성할 수 있다. 또 다른 실시 예에서, 화자 인식 모듈(133)은 전자 장치(100) 상에 적어도 한 명의 사용자 등록 시, 상기 센서 모듈(160)이 포함하는 생체 센서(예: 지문 센서 또는 홍채 센서)를 사용자 생체 정보를 획득하고, 상기 생체 정보를 기반으로 각각의 사용자에 대응하는 화자 인식 모델을 생성할 수 있다. 화자 인식 모듈(133)은 상기 생성된 화자 인식 모델을 학습하고, 사용자 발화 수신 시 입력되는 음성 데이터 또는 획득하는 얼굴 영상을 상기 화자 인식 모델과 비교하여 상기 사용자 발화를 수행한 사용자(예: 화자)를 인식할 수 있다.
일 실시 예에서, 상기 공간 인식 모듈(135)은 전자 장치(100)가 배치되는 특정 공간(도 1의 10)(예: 가정, 사무실, 교실 또는 작업장 등)에 대한 맵(map) 정보 또는 상기 센서 모듈(160)에 포함된 위치 센서를 통해 획득되는 전자 장치(100)의 실시간 위치 정보를 포함할 수 있다. 또는, 공간 인식 모듈(135)은 전자 장치(100)에 등록된 적어도 한 명의 사용자 각각에 대응하는 공간 인식 모델을 포함할 수 있다. 일 실시 예에서, 상기 공간 인식 모델은 해당 사용자와 매핑된 공간 정보(예: 룸(room) 정보 또는 섹션(section) 정보 등)를 포함할 수 있다. 이와 관련하여, 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 시, 사용자 각각은 본인에게 관계되는 상기 특정 공간(10) 내의 룸 정보 또는 섹션 정보를 입력할 수 있다. 일례로, 상기 특정 공간(10)이 가정인 경우, 사용자 각각은 상기 룸 정보로써 본인의 침실 정보를 입력할 수 있다. 다른 예로, 상기 특정 공간(10)이 사무실인 경우, 사용자 각각은 상기 섹션 정보로써 본인의 업무 공간 정보를 입력할 수 있다. 다양한 실시 예에 따르면, 상기 적어도 한 명의 사용자 중 적어도 일부는 특정 시간대에 본인이 위치하거나 활동하는 패턴에 기초하여, 상기 룸 정보 또는 섹션 정보를 시간대 별로 입력할 수 있다. 예를 들어, 상기 적어도 일부의 사용자는 제1 시간대에 대하여 제1 룸 정보 또는 제1 섹션 정보를 입력하고, 제2 시간대에 대하여 상기 제1 룸 정보 또는 제1 섹션 정보와 상이한 제2 룸 정보 또는 제2 섹션 정보를 입력할 수 있다. 공간 인식 모듈(135)은 사용자 각각으로부터 입력되는 룸 정보 또는 섹션 정보를 해당 사용자와 매핑하여 상기 공간 인식 모델을 생성할 수 있다. 일 실시 예에서, 공간 인식 모듈(135)은 생성된 공간 인식 모델을 실시간 또는 지정된 주기에 따라 업데이트할 수 있다. 이와 관련하여, 전자 장치(100) 이동 시 센서 모듈(160)의 이미지 센서를 통하여 임의의 사용자가 촬영되는 경우, 공간 인식 모듈(135)은 상술된 화자 인식 모델(또는, 후술되는 타겟 인식 모델)을 참조하여 상기 촬영된 사용자를 인식할 수 있다. 공간 인식 모듈(135)은 메모리(130)에 저장된 공간(10)에 대한 맵 정보 및 전자 장치(100)의 실시간 위치 정보를 이용하여 상기 인식된 사용자가 위치한 룸 또는 섹션을 확인하고, 확인된 룸 또는 섹션에 대한 정보 및 상기 촬영의 타임 스탬프 정보를 인식된 사용자와 매핑하여 공간 인식 모델에 등록할 수 있다. 또는, 전자 장치(100) 이동 시 마이크(110)를 통하여 임의의 사용자 발화에 따른 음성 신호가 수신되는 경우, 공간 인식 모듈(135)은 상술된 화자 인식 모델(또는, 후술되는 타겟 인식 모델)을 참조하여 상기 음성 신호와 관계되는 사용자를 인식할 수 있다. 공간 인식 모듈(135)은 인식된 사용자가 위치한 룸 또는 섹션에 대한 정보 및 상기 음성 신호 수신의 타임 스탬프 정보를 상기 인식된 사용자와 매핑하여 공간 인식 모델에 등록할 수 있다. 일 실시 예에 따르면, 공간 인식 모델이 업데이트되는 경우, 공간 인식 모듈(135)은 이전 업데이트된 정보(예: 사용자와 매핑된 룸 또는 섹션 정보 및 타임 스탬프 정보)를 상기 공간 인식 모델에서 제거할 수 있다.
일 실시 예에서, 상기 오브젝트 인식 모듈(137)은 전자 장치(100) 이동 시 센서 모듈(160)의 이미지 센서를 통하여 획득(또는, 촬영)되는 영상 내의 오브젝트를 인식할 수 있다. 이와 관련하여, 상기 오브젝트 인식 모듈(137)은 전자 장치(100)가 배치되는 특정 공간(10) 내의 적어도 하나의 오브젝트에 대한 인식을 지원하는 오브젝트 인식 모델을 포함할 수 있다. 일 실시 예에 따르면, 오브젝트 인식 모듈(137)은 전자 장치(100)의 개발자 또는 사용자에 의하여 입력되는 상기 특정 공간(10)과 유관의 오브젝트(예: 가전 제품 또는 가구) 영상을 기계 학습(예: 딥 러닝(deep learning))할 수 있다. 다른 실시 예에 따르면, 오브젝트 인식 모듈(137)은 사용자로부터 입력되는 해당 사용자 소유의 오브젝트 영상을 기계 학습할 수 있다. 예를 들어, 오브젝트 인식 모듈(137)은 사용자가 애용하는 의류 또는 액세서리에 대한 영상을 학습할 수 있다. 오브젝트 인식 모듈(137)은 상기 기계 학습을 기반으로 오브젝트 영상에 포함된 적어도 하나의 오브젝트에 대한 오브젝트 인식 모델을 생성할 수 있다. 일 실시 예에서, 상기 오브젝트가 사용자 소유의 의류 또는 액세서리에 해당하는 경우, 오브젝트 인식 모듈(137)은 해당 오브젝트에 대한 오브젝트 인식 모델 생성 시, 상기 오브젝트 인식 모델에 상기 오브젝트와 관계된 사용자(예: 오브젝트 소유자)의 정보를 포함시킬 수 있다. 일 실시 예에서, 오브젝트 인식 모듈(137)은 전자 장치(100) 이동 시 상기 센서 모듈(160)의 이미지 센서를 통해 촬영되는 영상을 오브젝트 인식 모델을 이용하여 분석함으로써, 상기 영상에 포함된 적어도 하나의 오브젝트를 인식할 수 있다. 오브젝트 인식 모듈(137)은 상기 특정 공간(10)에 대한 맵 정보 및 전자 장치(100)의 실시간 위치 정보를 이용하여 상기 인식된 오브젝트가 위치한 룸 또는 섹션을 확인하고, 확인된 룸 또는 섹션에 대한 정보 및 상기 촬영의 타임 스탬프 정보를 인식된 오브젝트와 매핑하여 오브젝트 인식 모델에 등록할 수 있다.
일 실시 예에서, 상기 타겟 인식 모듈(139)은 전자 장치(100)의 태스크(예: 메시지 전달) 수행 시, 상기 태스크 수행의 타겟에 해당하는 사용자를 인식할 수 있다. 이와 관련하여, 타겟 인식 모듈(139)은 상기 타겟 사용자의 인식에 이용되는 타겟 인식 모델을 포함할 수 있다. 예를 들어, 타겟 인식 모듈(139)은 상술된 화자 인식 모델의 생성과 유사하게, 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 시 각각의 사용자에 대하여 수신하는 발화, 각각의 사용자로부터 입력 받는 생체 정보(예: 지문 정보 또는 홍채 정보), 또는 각각에 사용자에 대하여 촬영하는 얼굴 영상 또는 신체 영상을 기반으로 상기 타겟 인식 모델을 생성할 수 있다. 일 실시 예에서, 타겟 인식 모듈(139)은 인텔리전트 서버(200)로부터 수신하는 시퀀스에 포함된 파라미터(예: 메시지 수신인)에 기초하여 상기 태스크 수행의 타겟을 식별하고, 태스크 수행과 관련한 전자 장치(100)의 이동 시 상기 타겟 인식 모델을 이용하여 식별된 타겟에 해당하는 사용자를 인식할 수 있다. 예를 들어, 타겟 인식 모듈(139)은 전자 장치(100) 이동 시(또는, 이동 완료 시) 획득되는 음성, 감지되는 생체 정보 또는 촬영되는 영상(예: 얼굴 영상 또는 신체 영상)에 대응하는 사용자를 상기 타겟 인식 모델을 이용하여 판단하고, 판단된 사용자와 상기 식별된 타겟 간의 대응 여부를 확인하여 상기 타겟에 해당하는 사용자를 인식할 수 있다. 다양한 실시 예에 따르면, 타겟 인식 모듈(139)은 상기 얼굴 영상 기반의 타겟 인식 모델을 생성하는 경우, 사용자 각각에 대한 복수의 얼굴 영상을 이용하여 상기 타겟 인식 모델을 생성할 수 있다. 이와 관련하여, 타겟 인식 모듈(139)은 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 동작에서, 상기 센서 모듈(160)로 하여금 이미지 센서를 이용하여 사용자 각각에 대한 복수의 얼굴 영상을 촬영하도록 요청할 수 있다. 예를 들어, 타겟 인식 모듈(139)은 상기 사용자 각각에 대하여 좌측 얼굴 영상, 우측 얼굴 영상 및 정면 얼굴 영상을 촬영하도록 요청할 수 있다. 상기 복수의 얼굴 영상은 예컨대, 타겟에 해당하는 사용자 인식에 참조될 수 있으며, 이에 대해서는 도 8을 통하여 후술하기로 한다.
일 실시 예에서, 상기 프로세서(140)는 중앙처리장치(central processing unit), 어플리케이션 프로세서(application processor) 또는 커뮤니케이션 프로세서(communication processor) 중 적어도 하나로 구현되어, 전자 장치(100)의 구성요소들을 제어할 수 있다. 예를 들어, 프로세서(140)는 전자 장치(100) 구성요소들과 전기적 또는 기능적(operatively)으로 연결되어, 상기 구성요소들로 기능 동작과 관계되는 적어도 하나의 명령을 전달하거나, 각종 연산 또는 데이터 처리 등을 수행할 수 있다. 일 실시 예에 따르면, 프로세서(140)는 상술된 메모리(130)가 포함하는 적어도 하나의 모듈(예: 화자 인식 모듈(133), 공간 인식 모듈(135), 오브젝트 인식 모듈(137) 또는 타겟 인식 모듈(139))의 기능 동작을 제어할 수 있다. 또는, 프로세서(140)는 상기 적어도 하나의 모듈의 기능 동작을 대행할 수 있다. 이 경우, 프로세서(140)는 메모리(130)에 저장된 적어도 하나의 모델(예: 화자 인식 모델, 공간 인식 모델, 오브젝트 인식 모델 또는 타겟 인식 모델)을 참조하여, 화자 인식, 공간 인식, 오브젝트 인식 또는 태스크 수행의 타겟 인식을 수행할 수 있다. 다양한 실시 예에서, 상기 프로세서(140)는 통신 회로(120)를 이용하여 전자 장치(100)가 배치되는 특정 공간(10) 내의 적어도 하나의 사물인터넷 장치(예: 컴퓨터, TV 또는 센싱 장치)와 사물인터넷 환경(또는, 사물인터넷 시스템)을 구축할 수 있다. 프로세서(140)는 상기 사물인터넷 장치로부터 전자 장치(100)에 등록된 사용자와 관계되는 알림을 수신할 수 있다. 예를 들어, 프로세서(140)는 상기 사물인터넷 장치에 특정 사용자가 사용자 개인 정보(예: 아이디) 또는 생체 정보(예: 지문 정보 또는 홍채 정보)를 입력하는 경우, 이에 대한 알림을 해당 사물인터넷 장치로부터 수신할 수 있다.
일 실시 예에서, 상기 구동 모듈(150)은 전자 장치(100)의 이동(또는, 주행)을 지원할 수 있다. 이와 관련하여, 구동 모듈(150)은 동력에너지를 발생시키는 적어도 하나의 모터, 상기 적어도 하나의 모터로부터 동력을 전달받아 회전하는 구동륜 및 상기 구동륜의 조향 각을 제어하는 조향 유닛 중 적어도 하나를 포함할 수 있다.
일 실시 예에서, 상기 센서 모듈(160)은 전자 장치(100)의 작동 상태 또는 외부 환경 상태에 대응하는 신호 또는 데이터를 생성할 수 있다. 이와 관련하여, 센서 모듈(160)은 위치 센서를 포함할 수 있으며, 상기 위치 센서를 기반으로 전자 장치(100)의 정거 또는 이동에 따른 실시간 위치 신호 또는 데이터를 생성할 수 있다. 또는, 센서 모듈(160)은 이미지 센서를 포함할 수 있으며, 상기 이미지 센서를 이용하여 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 시 사용자 각각의 얼굴 영상 또는 신체 영상을 촬영하거나, 전자 장치(100)의 정거 또는 이동 시 주변 환경(예: 주변 오브젝트 또는 주변 사용자 등)에 대한 영상을 촬영하여 영상 신호 또는 데이터를 생성할 수 있다. 또는, 센서 모듈(160)은 생체 센서(예: 홍채 센서 또는 지문 센서)를 포함하여 사용자 고유의 신체적 신호 또는 데이터를 생성할 수 있다. 센서 모듈(160)은 생성된 신호 또는 데이터를 스케줄링된 정보 또는 요청에 따라, 메모리(130) 내의 적어도 하나의 모듈(예: 화자 인식 모듈(133), 공간 인식 모듈(135), 오브젝트 인식 모듈(137) 또는 타겟 인식 모듈(139)) 또는 프로세서(140)로 전달할 수 있다. 다양한 실시 예에 따르면, 센서 모듈(160)은 상기 위치 센서 또는 이미지 센서 이외에도, 전자 장치(100)의 이동 시 주변 오브젝트와의 충돌을 방지하기 위한 근접 센서를 더 포함할 수 있다. 또는, 센서 모듈(160)은 전자 장치(100)와 주변 오브젝트 간의 거리를 산출하기 위한 뎁스(depth) 센서를 더 포함할 수 있다. 다양한 실시 예에 따르면, 센서 모듈(160)은 상기 뎁스 센서 및 이미지 센서를 기반으로 사용자 제스처(예: 특정 방향을 가리키는 손가락 등)에 따른 방향을 판단할 수 있다.
일 실시 예에서, 상기 스피커(170)는 전자 장치(100)의 태스크 수행 시 지정된 음성 데이터를 출력할 수 있다. 일 실시 예에 따르면, 상기 지정된 음성 데이터는 인텔리전트 서버(200)의 TTS 모듈(도 3의 213)로부터 수신하는 음성 데이터를 포함할 수 있다. 이에 따르면, 상기 스피커(170)에 의한 지정된 음성 데이터 출력은 전자 장치(100)가 수행하는 태스크(예: 메시지 전달)의 적어도 일부로 이해될 수 있다. 다양한 실시 예에서, 스피커(170)는 상기 음성 데이터의 출력 효율과 관련하여, 복수의 스피커를 포함할 수 있으며, 적어도 일부가 전자 장치(100)의 일 영역을 통하여 외부에 노출될 수 있다.
일 실시 예에서, 상기 디스플레이(180)는 전자 장치(100)의 태스크 수행 시 지정된 시각적 콘텐츠를 출력할 수 있다. 일 실시 예에 따르면, 상기 지정된 시각적 콘텐츠는 인텔리전트 서버(200)의 ASR 모듈(도 3의 211)로부터 수신하는 텍스트 데이터를 포함할 수 있다. 다양한 실시 예에서, 디스플레이(180)의 시각적 콘텐츠 출력은 스피커(170)의 음성 데이터 출력과 동시에 수행될 수 있다. 또는, 디스플레이(180)의 시각적 콘텐츠 출력은 스피커(170)의 음성 데이터 출력과는 독립적으로 수행될 수 있다. 예를 들어, 디스플레이(180)의 콘텐츠 출력은 지정된 시간대(예: 심야 시간대)에 한하여 상기 스피커(170)의 음성 데이터 출력을 배제시키며 수행될 수 있다. 이와 관련하여, 사용자는 디스플레이(180)의 시각적 콘텐츠 출력과 관계되는 상기 지정된 시간대를 설정할 수 있으며, 상기 지정된 시간대에 전자 장치(100)가 태스크를 수행하는 경우, 프로세서(140)는 스피커(170)에 대한 제어를 배제하고, 디스플레이(180)만을 제어할 수 있다.
도 5는 일 실시 예에 따른 전자 장치의 사용자 발화 예측 형태를 도시한 도면이다.
도 5를 참조하면, 전자 장치(100)는 지정된 시간대 별로 특정 사용자의 발화(예: 웨이크 업 발화 또는 태스크 명령 발화)(또는, 음성 인식 서비스 운용)를 예측할 수 있다. 예를 들어, 전자 장치(100)는 태스크를 수행하지 않는 상태에 한하여, 상기 지정된 시간대 별로 사용자의 발화를 예측하고, 해당 사용자에 근접되는 위치로 이동할 수 있다. 일 실시 예에 따르면, 전자 장치(100)의 프로세서(도 4의 140)는 상기 사용자 발화 예측과 관련하여, 메모리(도 4의 130)(또는, 메모리(130) 내의 공간 인식 모델)가 포함하는 적어도 일부 사용자의 시간대 별 룸 정보 또는 섹션 정보를 참조할 수 있다. 예를 들어, 프로세서(140)는 메모리(130) 상에서 현재 시각에 대응하는 룸 정보 또는 섹션 정보를 식별하고, 구동 모듈(도 4의 150)을 제어하여 전자 장치(100)를 식별된 룸 또는 섹션으로 이동시킬 수 있다.
사용자 발화 예측에 따른 전자 장치(100) 이동에 관한 일례를 들면, 전자 장치(100)가 태스크를 수행하지 않는 상태에서 현재 시각이 제1 시간대에 포함되는 경우, 프로세서(140)는 메모리(130)(또는, 메모리(130) 내의 공간 인식 모델)를 참조하여 상기 제1 시간대에 대응하는 룸 정보 또는 섹션 정보를 식별할 수 있다. 프로세서(140)는 식별된 제1 시간대의 룸 정보 또는 섹션 정보를 입력한 제3 사용자(40)의 발화를 예측하고, 상기 제1 시간대의 룸 정보 또는 섹션 정보에 대응하는 룸 또는 섹션으로 전자 장치(100)를 이동시킬 수 있다. 다양한 실시 예에 따르면, 상기 메모리(130)가 포함하는 시간대 별 룸 정보 또는 섹션 정보 상에 상기 제1 시간대에 대응하는 룸 정보 또는 섹션 정보가 부재한 경우, 프로세서(140)는 전자 장치(100)의 현재 위치를 유지시킬 수 있다. 유사하게, 전자 장치(100)가 태스크를 수행하지 않는 상태에서 현재 시각이 제2 시간대에 포함되는 경우, 프로세서(140)는 상기 제2 시간대에 대응하는 룸 정보 또는 섹션 정보를 입력한 제4 사용자(50)의 발화를 예측하여, 상기 제2 시간대의 룸 정보 또는 섹션 정보에 대응하는 룸 또는 섹션으로 전자 장치(100)를 이동시킬 수 있다.
일 실시 예에 따르면, 메모리(130)(또는, 메모리(130) 내의 공간 인식 모델)가 포함하는 적어도 일부 사용자의 시간대 별 룸 정보 또는 섹션 정보에는 제3 시간대에 대응하는 룸 정보 또는 섹션 정보가 복수로 존재할 수 있다. 예를 들어, 메모리(130)는 상기 제3 시간대에 대하여 제5 사용자(60)가 입력한 룸 정보 또는 섹션 정보와, 상기 제3 시간대에 대하여 제6 사용자(70)가 입력한 룸 정보 또는 섹션 정보를 포함할 수 있다. 이 경우, 프로세서(140)는 상기 제3 시간대에 전자 장치(100)를 이동시킬 룸 또는 섹션에 대한 우선순위를 결정할 수 있다. 예를 들어, 프로세서(140)는 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 시 각각의 사용자로부터 입력되는 사용자 개인 정보(예: 이름, 나이, 성별, 신체 특성 또는 병력 등)를 참조하여 상기 우선순위를 결정할 수 있다. 프로세서(140)는 상기 사용자 개인 정보에 기초하여 제3 시간대에 대응하는 룸 정보 또는 섹션 정보를 입력한 복수의 사용자(예: 제5 사용자(60) 및 제6 사용자(70)) 중 지정된 조건(예: 유아 여부, 노인 여부, 장애 여부 또는 환자 여부 등)에 만족되는 사용자를 식별하고, 식별된 사용자에 대응하는 룸 또는 섹션으로 전자 장치(100)를 이동시킬 수 있다. 또는, 프로세서(140)는 상기 복수의 사용자의 음성 인식 서비스 운용 이력(예: 태스크 명령 발화 수행 횟수 등)을 확인하여 상기 음성 인식 서비스를 상대적으로 많이 운용한 사용자를 식별하고, 식별된 사용자에 대응하는 룸 또는 섹션으로 전자 장치(100)를 이동시킬 수 있다. 또는, 프로세서(140)는 특정 시간대에 대응하는 룸 정보 또는 섹션 정보가 복수로 존재하지 않더라도, 사용자로부터 입력되는 우선순위 정보에 기초하여 전자 장치(100)를 이동시킬 룸 또는 섹션을 결정할 수 있다.
도 6은 일 실시 예에 따른 전자 장치의 타겟(target) 식별 형태를 도시한 도면이고, 도 7은 일 실시 예에 따른 전자 장치의 공간 판단 형태를 도시한 도면이다. 이하, 도 6 및 도 7을 참조하여 설명되는 적어도 하나의 데이터베이스는 전자 장치(도 1, 도 2, 도 4 또는 도 5의 100)에 등록된 적어도 한 명의 사용자와 관련한 정보로 이해될 수 있다.
도 6을 참조하면, 전자 장치(도 1, 도 2, 도 4 또는 도 5의 100)가 수신하는 사용자 발화(예: 태스크 명령 발화) 상에는 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어가 포함될 수 있다. 이 경우, 전자 장치(100)의 프로세서(도 4의 140)(또는, 타겟 인식 모듈(도 4의 139))는 인텔리전트 서버(도 3의 200)의 NLU 모듈(도 2의 212)로부터 상기 태스크 수행과 관계되는 시퀀스를 수신한 이후, 전자 장치(100)에 등록된 적어도 한 명의 사용자 중 상기 시퀀스에 포함된 파라미터(예: target person)에 대응하는 타겟 사용자를 식별할 수 있다.
일 실시 예에 따르면, 메모리(도 4의 130) 내의 타겟 인식 모듈(139)은 상기 타겟 사용자 식별에 참조되는 타겟 데이터베이스를 포함할 수 있다. 일 실시 예에서, 상기 타겟 데이터베이스는 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 시 각각의 사용자에 대하여 개별적으로 생성될 수 있다. 예를 들어, 특정 사용자에 대응하는 타겟 데이터베이스는 해당 사용자가 입력하는 사용자 개인 정보(예: 이름, 직책 또는 다른 사용자들과의 관계 등)를 포함하도록 생성될 수 있다. 또는, 특정 사용자에 대응하는 타겟 데이터베이스는 상기 특정 사용자에 대하여 다른 적어도 한 명의 사용자가 입력하는 정보(예: 특정 사용자의 닉네임 또는 호칭 등)를 포함하도록 생성될 수 있다.
상기 타겟 데이터베이스를 기반으로 하는 타겟 사용자 식별에 대한 일례를 들면, 전자 장치(100)는 화자에 해당하는 제1 사용자(20)로부터 태스크 명령 발화(예: “큰애에게 학원 가라고 전해줘”)를 수신하고, 이에 대응하여 인텔리전트 서버(200)의 NLU 모듈(212)로부터 전자 장치(100)의 동작에 관한 시퀀스를 수신할 수 있다. 일 실시 예에서, 상기 태스크 명령 발화는 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어(예: 큰애)를 포함함에 따라, 인텔리전트 서버(200)로부터 제공되는 시퀀스는 상기 타겟 지칭의 단어와 대응하는 파라미터(예: target person_큰애)를 포함할 수 있다. 일 실시 예에 따르면, 전자 장치(100)의 프로세서(140)(또는, 타겟 인식 모듈(139))는 등록된 적어도 한 명의 사용자 각각에 대한 타겟 데이터베이스를 참조하여, 상기 시퀀스의 파라미터에 대응하는 제2 사용자(30)를 식별할 수 있다. 예를 들어, 프로세서(140)는 상기 파라미터에 대응하는 사용자 개인 정보(예: 김유진 등), 닉네임 정보(예: 공주 등) 또는 호칭 정보(예: 큰애, 큰딸, 첫째 또는 우리 딸 등)를 포함하는 타겟 데이터베이스를 확인하고, 확인된 타겟 데이터베이스에 관계되는 사용자를 태스크 수행의 타겟인 제2 사용자(30)로 식별할 수 있다.
다양한 실시 예에서, 전자 장치(100)가 수신하는 제1 사용자(20)의 태스크 명령 발화 상에는 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어가 부재할 수 있다. 이 경우, 전자 장치(100)는 인텔리전트 서버(200)로부터 상기 타겟과 관련한 적어도 하나의 파라미터(예: target person)가 누락된 시퀀스를 수신할 수 있다. 프로세서(140)는 상기 시퀀스의 파라미터 누락을 식별하고, 제1 사용자(20)에게 상기 타겟에 해당하는(또는, 누락된 파라미터에 해당하는) 정보의 입력을 요청할 수 있다. 예를 들어, 프로세서(140)는 전자 장치(100)의 스피커(도 4의 170)를 제어하여 지정된 음성(예: “메시지 수신인을 말씀해 주세요” 등)을 출력할 수 있다. 또는, 프로세서(140)는 전자 장치(100)의 디스플레이(도 4의 180)를 제어하여 지정된 텍스트(예: 메시지 수신인을 입력해 주세요” 등)를 포함하는 그래픽 사용자 인터페이스를 출력할 수 있다. 이와 관련하여, 상기 그래픽 사용자 인터페이스는 사용자 입력을 지원하는 SIP(software input panel) 자판을 포함할 수 있다.
도 7을 참조하면, 전자 장치(100)가 수신하는 태스크 명령 발화 상에는 태스크 수행과 관련하여 상기 전자 장치(100)가 이동할 룸 또는 섹션을 지칭하는 적어도 하나의 단어가 포함될 수 있다. 이 경우, 전자 장치(100)의 프로세서(140)(또는, 공간 인식 모듈(도 4의 135))는 인텔리전트 서버(200)의 NLU 모듈(212)로부터 전자 장치(100)의 동작에 관한 시퀀스를 수신한 이후, 전자 장치(100)가 배치된 특정 공간(도 1의 10)(예: 가정, 사무실, 교실 또는 작업장 등) 상에서 상기 시퀀스가 포함하는 파라미터(예: room)에 대응하는 룸 또는 섹션을 판단할 수 있다.
일 실시 예에 따르면, 메모리(130) 내의 공간 인식 모듈(135)은 상기 룸 또는 섹션 판단에 참조되는 공간 데이터베이스를 포함할 수 있다. 일 실시 예에서, 상기 공간 데이터베이스는 전자 장치(100)에 대한 적어도 한 명의 사용자 등록 시 상기 특정 공간(10)에 포함되는 적어도 하나의 룸 또는 섹션 각각에 대하여 개별적으로 생성될 수 있다. 예를 들어, 특정 룸 또는 섹션에 대응하는 공간 데이터베이스는 상기 특정 룸 또는 섹션과 관계된 사용자(예: 상기 특정 룸 또는 섹션을 침실 또는 업무 공간으로 이용하는 사용자)로부터 입력되는 정보(예: 상기 사용자가 지칭하는 룸 또는 섹션의 호칭 등)를 포함하도록 생성될 수 있다. 또는, 상기 특정 룸 또는 섹션에 대응하는 공간 데이터베이스는 상기 특정 룸 또는 섹션과 관계된 사용자 이외의 다른 적어도 한 명의 사용자가 입력하는 정보(예: 다른 적어도 한 명의 사용자가 지칭하는 룸 또는 섹션 호칭 등)를 포함하도록 생성될 수 있다.
상기 공간 데이터베이스를 기반으로 하는 룸 또는 섹션 판단에 대한 일례를 들면, 전자 장치(100)는 임의의 화자로부터 태스크 명령 발화(예: “유진이 방에 가서 밥 먹으라고 전해줘”)를 수신하고, 이에 대응하여 인텔리전트 서버(200)의 NLU 모듈(212)로부터 전자 장치(100)의 동작에 관한 시퀀스를 수신할 수 있다. 일 실시 예에서, 상기 태스크 명령 발화는 태스크 수행과 관련하여 전자 장치(100)가 이동할 룸 또는 섹션을 지칭하는 적어도 하나의 단어(예: 유진이 방)를 포함함에 따라, 인텔리전트 서버(200)로부터 제공되는 시퀀스는 상기 룸 또는 섹션 지칭의 단어와 대응하는 파라미터(예: room_유진이 방)를 포함할 수 있다. 일 실시 예에 따르면, 전자 장치(100)의 프로세서(140)(또는, 공간 인식 모듈(135))는 상기 전자 장치(100)가 배치된 특정 공간(10) 내의 적어도 하나의 룸 또는 섹션 각각에 대한 공간 데이터베이스를 참조하여, 상기 시퀀스의 파라미터에 대응하는 룸 또는 섹션을 판단할 수 있다. 예를 들어, 프로세서(140)는 상기 파라미터에 대응하는 룸 또는 섹션 호칭 정보(예: 유진이 방, 큰애 방, 첫째 방, 공주 방 또는 컴퓨터 방 등)를 포함하는 공간 데이터베이스를 확인하고, 확인된 공간 데이터베이스에 관계되는 룸 또는 섹션을 전자 장치(100)가 이동할 공간으로 판단할 수 있다.
다양한 실시 예에 따르면, 전자 장치(100)는 태스크 명령 발화를 수신하는 동작에서, 상기 태스크 명령 발화를 수행한 사용자의 제스처를 인식할 수 있다. 예를 들어, 전자 장치(100)는 지시대명사(예: 저기 또는 저 곳 등)를 포함하는 태스크 명령 발화를 수신하는 동시에, 특정 룸 또는 섹션을 가리키는 사용자 제스처를 인식할 수 있다. 이 경우, 전자 장치(100)의 프로세서(140)는 센서 모듈(도 4의 160)이 포함하는 이미지 센서 및 뎁스 센서를 이용하여 상기 사용자 제스처의 방향을 판단하고, 판단된 방향에 존재하는 룸 또는 섹션을 상기 지시대명사에 대응하는 전자 장치(100)가 이동할 공간으로 판단할 수 있다.
도 8은 일 실시 예에 따른 전자 장치의 이동 형태를 도시한 도면이다.
도 8을 참조하면, 전자 장치(100)는 태스크 명령 발화 수신에 따른 태스크(예: 메시지 전달) 수행과 관련하여, 상기 전자 장치(100)가 배치된 특정 공간(10) 내부를 이동(또는, 주행)할 수 있다. 일 실시 예에서, 상기 태스크 명령 발화는 상기 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어 및 태스크 수행 시 전자 장치(100)가 이동할 공간을 지칭하는 적어도 하나의 단어를 포함할 수 있다. 이 경우, 전자 장치(100)의 프로세서(도 4의 140)는 메모리(도 4의 130)가 포함하는 타겟 데이터베이스 및 공간 데이터베이스를 참조하여 상기 태스크 수행의 타겟에 해당하는 사용자 및 전자 장치(100)가 이동할 룸 또는 섹션을 판단할 수 있다. 예를 들어, 프로세서(140)는 상기 타겟 데이터베이스 및 공간 데이터베이스가 포함하는 정보들 상에서 인텔리전트 서버(도 3의 200)로부터 제공되는 시퀀스 내의 적어도 하나의 파라미터(예: target person 및 room)와 대응하는 정보를 식별함으로써, 상기 타겟 사용자 및 전자 장치(100)가 이동할 룸 또는 섹션을 판단할 수 있다. 프로세서(140)는 전자 장치(100)를 상기 판단된 타겟 사용자가 위치한 룸 또는 섹션에 진입시키기 위하여 구동 모듈(도 4의 150)을 제어할 수 있으며, 상기 룸 또는 섹션은 전자 장치(100)가 이동할 제1 위치로 이해될 수 있다.
다른 실시 예에 따르면, 상기 태스크 명령 발화는 상기 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어를 포함하지 않고, 태스크 수행 시 전자 장치(100)가 이동할 공간을 지칭하는 적어도 하나의 단어를 포함 또는 포함하지 않을 수 있다. 이 경우, 프로세서(140)는 상기 태스크 명령 발화를 수행한 사용자(예: 화자)에게 태스크의 타겟에 해당하는 정보의 입력을 요청할 수 있다. 예를 들어, 프로세서(140)는 스피커(도 4의 170)를 제어하여 상기 정보의 입력을 요청하는 지정된 음성을 출력할 수 있다. 또는, 프로세서(140)는 디스플레이(도 4의 180)를 제어하여 상기 정보의 입력 요청과 관계된 텍스트를 포함하는 그래픽 사용자 인터페이스를 출력할 수 있다.
또 다른 실시 예에 따르면, 상기 태스크 명령 발화는 상기 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어는 포함하고, 태스크 수행 시 전자 장치(100)가 이동할 공간을 지칭하는 적어도 하나의 단어는 포함하지 않을 수 있다. 이 경우, 프로세서(140)는 메모리(130)가 포함하는 타겟 데이터베이스를 참조하여 인텔리전트 서버(200)로부터 제공되는 시퀀스 내의 적어도 하나의 파라미터(예: target person)에 대응하는 타겟 사용자를 식별할 수 있다. 또한, 프로세서(140)는 메모리(130)(또는, 메모리(130) 내의 공간 인식 모델)가 포함하는 상기 타겟 사용자와 매핑된 공간 정보에 근거하여 타겟 사용자의 위치를 추론할 수 있다. 예를 들어, 프로세서(140)는 상기 타겟 사용자와 매핑된 공간 정보에 기초하여 타겟 사용자의 존재가 예상되는 룸 또는 섹션을 추론하고, 상기 추론된 룸 또는 섹션을 태스크 수행과 관련하여 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 타겟 사용자의 위치 추론과 관련하여, 메모리(130)가 포함하는 적어도 하나의 정보를 지정된 우선순위에 따라 참조할 수 있다. 예를 들어, 프로세서(130)는 제1 순위로 상기 메모리(130)가 포함하는 타겟 사용자 관련의 공간 인식 모델에 대한 업데이트 이력을 참조할 수 있다. 이와 관련하여, 상기 공간 인식 모델의 업데이트는 전자 장치(100)의 이동 시 촬영을 통해 임의의 사용자가 인식되면, 인식된 사용자가 위치한 룸 또는 섹션에 대한 정보 및 상기 촬영의 타임 스탬프 정보를 상기 인식된 사용자와 매핑하여 등록하는 프로세스를 포함할 수 있다. 일 실시 예에서, 프로세서(140)는 식별된 타겟 사용자에 대응하는 공간 인식 모델이 업데이트된 것으로 판단되면, 상기 업데이트에 따라 타겟 사용자와 매핑된 타임 스탬프 정보를 확인할 수 있다. 프로세서(140)는 확인되는 타임 스탬프 정보가 상기 타겟 사용자의 위치를 추론하는 시점(time)을 기준하여 지정된 임계 시간 범위 내에 포함되는 경우, 상기 타임 스탬프 정보와 매핑된 룸 또는 섹션을 식별된 타겟 사용자의 위치로 추론하고, 해당 룸 또는 섹션을 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 타겟 사용자의 위치 추론과 관련하여, 제2 순위로 상기 메모리(130)가 포함하는 타겟 사용자와 매핑된 시간대 별 공간 정보를 참조할 수 있다. 이와 관련하여, 프로세서(140)는 상기 식별된 타겟 사용자와 관계되는 공간 인식 모델 상에서 현재 시각을 포함하는 시간대로 타겟 사용자와 매핑된 룸 정보 또는 섹션 정보의 유무를 확인할 수 있다. 일 실시 예에 따르면, 상기 타겟 사용자와 관계되는 공간 인식 모델에 현재 시각을 포함하는 시간대의 룸 정보 또는 섹션 정보가 존재하는 경우, 프로세서(140)는 해당 시간대의 룸 또는 섹션을 식별된 타겟 사용자의 현 시각 위치로 추론하고, 추론된 룸 또는 섹션을 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 타겟 사용자의 위치 추론과 관련하여, 제3 순위로 상기 메모리(130)가 포함하는 타겟 사용자와 매핑된 공간 정보(예: 시간대 별 공간 정보 이외의 공간 정보)를 참조할 수 있다. 프로세서(140)는 상기 식별된 타겟 사용자에 대응하는 공간 인식 모델 상에서 타겟 사용자와 매핑된 룸 정보 또는 섹션 정보를 확인하여, 해당 룸 또는 섹션을 식별된 타겟 사용자의 위치로 추론하고, 추론된 룸 또는 섹션을 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다. 다양한 실시 예에서, 상기 공간 인식 모델 상에 타겟 사용자와 매핑된 룸 정보 또는 섹션 정보가 복수로 존재하는 경우, 프로세서(140)는 복수의 룸 또는 섹션 중 임의의 룸 또는 섹션을 랜덤으로 선택하고, 선택된 룸 또는 섹션을 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 타겟 사용자의 위치 추론과 관련하여, 제4 순위로 전자 장치(100)와 사물인터넷 환경(또는, 사물인터넷 시스템)을 구축하는 적어도 하나의 사물인터넷 장치(예: 컴퓨터, TV 또는 센싱 장치)로부터 수신한 알림 정보를 참조할 수 있다. 일 실시 예에 따르면, 상기 알림 정보는 사물인터넷 장치에 사용자 개인 정보 또는 생체 정보가 입력되는 경우, 전자 장치(100)로 전송될 수 있으며, 예컨대 사용자 개인 정보의 일부(예: 이름) 및 해당 사물인터넷 장치의 위치 정보를 포함할 수 있다. 프로세서(140)는 상기 타겟 사용자의 위치 추론 시점을 기준하여 지정된 임계 시간 범위 내에 적어도 하나의 사물인터넷 장치로부터 수신한 알림 정보가 존재하는 경우, 상기 알림 정보가 포함하는 사물인터넷 장치의 위치를 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
다양한 실시 예에 따르면, 상기 메모리(130)에 식별된 타겟 사용자와 관계되는 공간 인식 모델이 부재한 경우(예: 타겟 사용자에 대응하는 공간 인식 모델이 생성되지 않은 경우), 프로세서(140)는 태스크 수행과 관련하여 전자 장치(100)를 지정된 위치로 이동시킬 수 있다. 예를 들어, 프로세서(140)는 상기 전자 장치(100)가 배치되는 특정 공간(10)에 대한 맵 정보 및 전자 장치(100)의 실시간 위치 정보를 이용하여 상기 특정 공간(10)의 센터(center)(예: 특정 공간(10)이 가정인 경우 거실 등)를 확인하고, 상기 센터에 해당하는 룸 또는 섹션을 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
일 실시 예에서, 프로세서(140)는 구동 모듈(도 4의 150)을 제어하여 상기 판단된 제1 위치로 전자 장치(100)를 이동시킬 수 있다. 상기 제1 위치로의 전자 장치(100) 이동이 완료되면, 프로세서(140)는 식별된 타겟 사용자를 탐색하기 위한 동작을 수행할 수 있다. 이와 관련하여, 프로세서(140)는 전자 장치(100)가 상기 제1 위치에서 지정된 각도(예: 360도)로 회전하도록 구동 모듈(150)을 제어하고, 상기 회전하는 동작에서 제1 위치에서의 주변 환경에 대한 적어도 하나의 정보를 수집할 수 있다. 예를 들어, 프로세서(140)는 센서 모듈(도 4의 160)이 포함하는 이미지 센서를 제어하여 상기 제1 위치에서의 주변 환경에 대한 영상 정보를 수집할 수 있다. 또는, 프로세서(140)는 마이크(도 4의 110)를 제어하여 상기 제1 위치에서의 주변 환경에 대한 음성 정보를 수집할 수 있다. 일 실시 예에서, 프로세서(140)는 수집된 영상 정보 또는 음성 정보를 메모리(130)에 저장된 타겟 사용자 관련 정보와 비교할 수 있다. 예를 들어, 프로세서(140)는 상기 이미지 센서를 통하여 촬영된 영상(예: 얼굴 영상 또는 신체 영상)에서 지정된 오브젝트(예: 사람)가 검출되는 경우, 상기 오브젝트와 타겟 사용자에 대응하는 타겟 인식 모델을 비교하여 대응 여부를 판단할 수 있다. 상기 판단 결과, 오브젝트와 타겟 사용자의 타겟 인식 모델에 포함된 얼굴 영상 또는 신체 영상이 지정된 비율 이상으로 일치하는 경우, 프로세서(140)는 상기 오브젝트와 관계되는 사용자를 식별된 타겟 사용자로 인식할 수 있다. 또는, 프로세서(140)는 마이크(110)를 통하여 수신하는 음성을 타겟 사용자에 대응하는 타겟 인식 모델과 비교하여 대응 여부를 판단할 수 있다. 상기 판단 결과, 수신한 음성과 타겟 사용자의 타겟 인식 모델에 포함된 발화 데이터가 지정된 비율 이상으로 일치하는 경우, 프로세서(140)는 상기 수신한 음성과 관계되는 사용자를 식별된 타겟 사용자로 인식할 수 있다. 또는, 프로세서(140)는 이미지 센서를 통하여 촬영된 오브젝트(예: 의류 또는 액세서리)에 대응하는 오브젝트 인식 모델 내에서 사용자 정보(예: 의류 또는 액세서리 소유자)를 확인하고, 확인된 사용자 정보와 상기 식별된 타겟 사용자의 타겟 인식 모델에 포함된 사용자 정보가 지정된 비율 이상으로 일치하는 경우, 상기 오브젝트(예: 의류 또는 액세서리)와 관계된(예: 착용) 사용자를 식별된 타겟 사용자로 인식할 수 있다. 다양한 실시 예에 따르면, 프로세서(140)는 상술된 비교 동작을 상기 전자 장치(100)의 지정된 각도 회전이 완료되는 경우 수행하거나, 또는 상기 지정된 각도 회전 중에 실시간으로 수행할 수 있다. 만일, 상기 지정된 각도 회전 중에 식별된 타겟 사용자가 인식되는 경우, 프로세서(140)는 전자 장치(100)의 회전 제어를 중단할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 제1 위치에서 타겟 사용자가 인식되지 않는 경우, 태스크 명령 발화를 수신한 위치로 복귀하여 상기 태스크 명령 발화를 수행한 사용자(예: 화자)에게 타겟 사용자가 인식되지 않았음을(또는, 태스크 수행을 완료하지 못하였음을) 나타내는 음성 데이터 또는 시각적 콘텐츠를 출력할 수 있다. 또는, 프로세서(140)는 상기 이미지 센서를 통하여 촬영된 영상 내의 오브젝트(예: 타겟 사용자 이외의 사용자)에 근접되도록 전자 장치(100)를 이동시켜, 상기 타겟 사용자의 위치를 문의하는 음성 데이터 또는 시각적 콘텐츠를 출력할 수 있다. 또는, 프로세서(140)는 타겟 사용자 소유의 이동 통신 단말(예: 스마트폰)과 통신하여 태스크 수행과 관계되는 정보(예: 메시지)를 전송할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 제1 위치에서 타겟 사용자가 인식된 경우, 구동 모듈(150)을 제어하여 상기 타겟 사용자를 기준한 지정된 임계 거리 범위 내의 제2 위치로 전자 장치(100)를 이동시킬 수 있다. 이와 관련하여, 센서 모듈(160)은 뎁스(depth) 센서를 더 포함할 수 있으며, 프로세서(140)는 상기 뎁스 센서를 기반으로 산출되는 타겟 사용자와 전자 장치(100) 간의 거리 정보에 기초하여 상기 임계 거리 범위 내로 전자 장치(100)를 이동시킬 수 있다. 일 실시 예에 따르면, 프로세서(140)는 전자 장치(100)가 상기 임계 거리 범위 내로 이동하는 상태에서 센서 모듈(150)의 이미지 센서를 이용하여 타겟 사용자를 촬영할 수 있다. 이 동작에서, 프로세서(140)는 촬영되는 영상과 타겟 사용자에 대응하는 타겟 인식 모델에 포함된 얼굴 영상을 비교할 수 있다. 예를 들어, 프로세서(140)는 상기 얼굴 영상이 포함하는 타겟 사용자의 좌측 얼굴 영상, 우측 얼굴 영상 및 정면 얼굴 영상을 촬영되는 영상과 비교할 수 있다. 프로세서(140)는 타겟 사용자에 대응하는 타겟 인식 모델 내의 정면 얼굴 영상과 지정된 비율 이상으로 일치하는 촬영 영상이 획득되는 지정된 임계 거리 범위 내의 위치를 상기 제2 위치로 결정하고, 전자 장치(100)를 제2 위치로 이동시켜 인식된 타겟 사용자와 전자 장치(100)를 근접시킬 수 있다. 다양한 실시 예에 따르면, 프로세서(140)는 상기 타겟 사용자를 촬영하는 동작에서, 타겟 사용자로 하여금 전자 장치(100)의 근접을 인지하도록, 스피커(도 4의 170)를 이용하여 지정된 음향을 출력하거나, 디스플레이(도 4의 180)를 이용하여 지정된 시각적 효과(예: 디스플레이(180) 점멸 발광 등)를 출력할 수 있다. 또는 다양한 실시 예에서, 프로세서(140)는 전자 장치(100)가 상기 임계 거리 범위 내로 이동하는 상태에서, 스피커(170) 또는 디스플레이(180)를 이용하여 사용자 인증을 요청하는 데이터를 출력하고, 상기 요청에 대응하여 입력되는 사용자 생체 정보(예: 지문 정보 또는 홍채 정보)를 생체 센서를 이용하여 감지할 수 있다. 프로세서(140)는 감지된 생체 정보를 기반으로 타겟 사용자에 대한 인식을 더 수행하거나, 확정할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 제2 위치로의 전자 장치(100) 이동이 완료되면, 태스크 수행에 따른 시퀀스 내의 일부 동작을 수행할 수 있다. 예를 들어, 프로세서(140)는 스피커(170)를 이용하여 인텔리전트 서버(도 2 또는 도 3의 200)의 TTS 모듈(도 3의 213)로부터 수신한 음성 데이터(예: 태스크 명령 발화에 대응하는 음성 데이터)를 출력할 수 있다. 또는, 프로세서(140)는 전자 장치(100)의 태스크 수행 시각이 지정된 시간대(예: 심야 시간대)에 포함되는 경우, 상기 스피커(170)를 이용한 데이터 출력을 배제하고, 디스플레이(180)를 이용하여 인텔리전트 서버(200)의 ASR 모듈(도 3의 211)로부터 수신한 텍스트 데이터(예: 태스크 명령 발화에 대응하는 텍스트 데이터)를 출력할 수 있다. 다양한 실시 예에서, 프로세서(140)는 스피커(170)를 통한 음성 데이터 출력 또는 디스플레이(180)를 통한 텍스트 데이터 출력 이후, 상기 스피커(170)를 통하여 타겟 사용자의 응답 발화(예: 전자 장치(100)의 태스크 수행에 대한 응답)를 수신할 수 있다. 이 경우, 프로세서(140)는 인텔리전트 서버(200)와 상호작용을 통하여 상기 응답 발화에 대응하는 음성 데이터가 변환된 텍스트 데이터 또는 음성 데이터를 획득하고, 전자 장치(100)를 태스크 명령 발화를 수행한 사용자에게 이동시켜 상기 획득된 텍스트 데이터 또는 음성 데이터를 출력할 수 있다. 다양한 실시 예에서, 프로세서(140)는 상기 태스크 명령 발화를 수행한 사용자가 다른 용무(예: 취침, 샤워 또는 통화 등) 중임이 인식되면, 상기 획득된 텍스트 데이터 또는 음성 데이터의 출력을 보류하고, 상기 태스크 명령 발화를 수행한 사용자를 지정된 주기로 모니터링하여 상기 획득된 텍스트 데이터 또는 음성 데이터의 출력을 결정할 수 있다. 또는, 상기 태스크 명령 발화를 수행한 사용자가 전자 장치(100)가 배치된 특정 공간(예: 가정, 사무실, 교실 또는 작업장 등)에서 인식되지 않는 경우, 프로세서(140)는 태스크 명령 발화를 수행한 사용자 소유의 이동 통신 단말과 통신하여 상기 획득된 텍스트 데이터 또는 음성 데이터를 전송할 수 있다.
도 9는 일 실시 예에 따른 전자 장치의 기능 설정 화면을 도시한 도면이다.
도 9를 참조하면, 전자 장치(100)의 프로세서(도 4의 140)는 상기 전자 장치(100)의 일 영역을 통해 외부로 노출된 디스플레이(180)를 제어하여 지정된 화면을 출력할 수 있다. 예를 들어, 프로세서(140)는 전자 장치(100)의 태스크 수행(예: 메시지 전달)에 따른 정보(예: 메시지) 전달 방식과 관련하여, 상기 전자 장치(100)의 기능을 선택적으로 설정할 수 있는 사용자 인터페이스(181)를 출력할 수 있다. 이와 관련하여, 상기 사용자 인터페이스(181)는 전자 장치(100)의 제1 시간대 동작과 관련한 어터런스 기능의 설정을 지원하는 인터페이스(183) 및 전자 장치(100)의 제2 시간대 동작과 관련한 사일런트 기능의 설정을 지원하는 인터페이스(185)를 포함할 수 있다. 일 실시 예에 따르면, 상기 어터런스 기능 및 사일런트 기능은 동시적으로 설정될 수 있으며, 이 경우 프로세서(140)는 상기 어터런스 기능에 대응하는 제1 시간대에서 전자 장치(100)의 태스크 수행 시 스피커(도 4의 170)를 이용하여 지정된 음성 데이터를 출력하고, 상기 사일런트 기능에 대응하는 제2 시간대에서 전자 장치(100)의 태스크 수행 시 디스플레이(도 4의 180)를 이용하여 지정된 텍스트 데이터를 출력할 수 있다. 다양한 실시 예에서, 상기 사일런트 기능에 대하여 별도의 설정이 배제된 경우, 프로세서(140)는 상기 제1 시간대 및 제2 시간대에서 전자 장치(100)의 태스크 수행 시 스피커(170)만을 운용할 수 있다. 다양한 실시 예에 따르면, 상기 어터런스 기능과 관련한 제1 시간대 또는 상기 사일런트 기능과 관련한 제2 시간대는 사용자 제어에 따라 변경될 수 있다. 다양한 실시 예에 따르면, 상기 사용자 인터페이스(181)는 상술된 어터런스 기능 또는 사일런트 기능 설정 이외에도, 상기 스피커(170)를 통한 전자 장치(100)의 음성 데이터 출력의 크기(예: 음량), 전자 장치(100)의 특정 룸 또는 섹션 진입 시 상기 사일런트 기능으로의 자동 전환 기능 또는 타겟 사용자의 다른 용무(예: 취침, 샤워 또는 통화 등)가 인식되는 경우 상기 사일런트 기능으로의 자동 전환 기능 등에 대한 설정을 더 지원할 수 있다.
도 10은 일 실시 예에 따른 전자 장치의 사용자 입력 처리 방법을 도시한 도면이다.
도 10을 참조하면, 동작 1001에서, 전자 장치(도 1, 도 2, 도 4, 도 5, 도 8 또는 도 9의 100)의 프로세서(도 4의 140)는 복수의 사용자 정보를 수집하여 저장할 수 있다. 예를 들어, 프로세서(140)는 상기 전자 장치(100)에 등록된 복수의 사용자 각각에 관계되는 정보를 수집할 수 있다. 상기 복수의 사용자 정보는 예컨대, 전자 장치(100)가 수신하는 사용자 발화에 대한 화자 인식 또는 전자 장치(100)의 태스크 수행과 관련한 타겟 인식에 참조되는 정보일 수 있다.
일 실시 예에 따르면, 프로세서(140)는 상기 복수의 사용자 정보의 적어도 일부로서, 각각의 사용자에 대응하는 화자 인식 모델 및 타겟 인식 모델을 생성하여 저장할 수 있다. 예를 들어, 프로세서(140)는 마이크(도 4의 110)를 통하여 각각의 사용자로부터 발화를 수신하고, 상기 발화 상에서 추출되는 특징 벡터를 이용하여 상기 화자 인식 모델 및 타겟 인식 모델을 생성할 수 있다. 또는, 프로세서(140)는 이미지 센서를 이용하여 각각의 사용자의 얼굴 영상 또는 신체 영상을 획득(또는, 촬영)하고, 상기 얼굴 영상에 대한 특징점 추출을 기반으로 상기 화자 인식 모델 및 타겟 인식 모델을 생성하거나, 상기 신체 영상으로부터 판단되는 사용자 골격 정보, 키 정보 또는 몸집 정보를 이용하여 상기 화자 인식 모델 및 타겟 인식 모델을 생성할 수 있다. 일 실시 예에 따르면, 프로세서(140)는 상기 복수의 사용자 정보의 적어도 일부로서, 각각의 사용자로부터 특정 공간(예: 전자 장치(100)가 배치된 공간) 내의 룸 정보 또는 섹션 정보를 입력 받고, 상기 룸 정보 또는 섹션 정보를 해당 사용자와 매핑하여 공간 인식 모델을 생성할 수 있다. 또는, 프로세서(140)는 상기 복수의 사용자 정보의 적어도 일부로서, 타겟 데이터베이스 또는 공간 데이터베이스를 생성할 수도 있다. 일 실시 예에서, 상기 타겟 데이터베이스는 사용자 각각에 대하여 생성될 수 있으며, 해당 사용자가 입력하는 사용자 개인 정보(예: 이름, 직책 또는 다른 사람들과의 관계 등) 또는 해당 사용자에 대하여 다른 적어도 한 명의 사용자가 입력하는 정보(예: 해당 사용자의 닉네임 또는 호칭 등)를 포함할 수 있다. 유사하게, 상기 공간 데이터베이스는 상기 전자 장치가 배치되는 공간 내의 룸 또는 섹션 각각에 대하여 생성될 수 있으며, 해당 룸 또는 섹션과 관계된 사용자(예: 해당 룸 또는 섹션을 침실 또는 업무 공간으로 이용하는 사용자)로부터 입력되는 정보(예: 해당 사용자가 지칭하는 룸 또는 섹션의 호칭 등) 또는 해당 룸 또는 섹션과 무관한 다른 적어도 한 명의 사용자가 입력하는 정보(예: 다른 적어도 한 명의 사용자가 지칭하는 룸 또는 섹션의 호칭 등)를 포함할 수 있다.
동작 1003에서, 프로세서(140)는 전자 장치(100)에 탑재된 마이크(도 4의 110)를 통하여 특정 태스크 수행(예: 메시지 전달)과 관계된 명령 또는 의도를 내포하는 태스크 명령 발화를 수신할 수 있다.
동작 1005에서, 프로세서(140)는 통신 회로(도 4의 120)를 이용하여 상기 전자 장치(100)와 네트워크로 연결된 인텔리전트 서버(도 2 또는 도 3의 200)로 상기 태스크 명령 발화에 따른 제1 데이터를 전송하고, 상기 제1 데이터 전송에 대한 응답으로 인텔리전트 서버(200)로부터 제2 데이터를 수신할 수 있다. 일 실시 예에 따르면, 상기 제2 데이터는 태스크 수행과 관계되는 전자 장치(100)의 동작 정보 및 상기 동작 수행에 요구되는 적어도 하나의 파라미터(예: message content, target person 및/또는 room)를 포함할 수 있다.
동작 1007에서, 프로세서(140)는 태스크 수행의 타겟에 해당하는 사용자를 식별할 수 있다. 이와 관련하여, 상기 태스크 명령 발화 상에 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어가 포함된 경우, 프로세서는 사전 생성된 타겟 데이터베이스를 참조하여 상기 태스크 수행의 타겟에 해당하는 사용자를 판단할 수 있다. 예를 들어, 프로세서(140)는 상기 타겟 데이터베이스가 포함하는 정보들 중 상기 제2 데이터에 포함된 파라미터(예: target person)와 대응하는 정보를 식별함으로써, 상기 타겟 사용자를 식별할 수 있다. 또는, 상기 태스크 명령 발화는 태스크 수행의 타겟을 지칭하는 적어도 하나의 단어를 포함하지 않을 수 있다. 이 경우, 프로세서(140)는 상기 태스크 명령 발화를 수행한 사용자에게 스피커(도 4의 170) 또는 디스플레이(도 4의 180)를 제어하여 타겟에 해당하는 정보의 입력을 요청할 수 있다.
동작 1009에서, 프로세서(140)는 상기 태스크 수행의 타겟에 해당하는 사용자의 위치를 추론할 수 있다. 이와 관련하여, 상기 태스크 명령 발화 상에 태스크 수행 시 전자 장치(100)가 이동할 공간을 지칭하는 적어도 하나의 단어가 포함된 경우, 프로세서(140)는 사전 생성된 공간 데이터베이스를 참조하여 상기 전자 장치(100)가 이동할 룸 또는 섹션을 판단할 수 있다. 또는, 상기 태스크 명령 발화 상에 전자 장치(100)가 이동할 공간을 지칭하는 적어도 하나의 단어가 포함되지 않은 경우, 프로세서(140)는 사전 생성된 공간 인식 모델이 포함하는 상기 타겟 사용자와 매핑된 공간 정보에 근거하여 타겟 사용자의 존재가 예상되는 룸 또는 섹션을 추론할 수 있다.
일 실시 예에서, 프로세서(140)는 상기 타겟 사용자의 위치 추론과 관련하여, 사전 수집 및 저장된 적어도 하나의 정보를 지정된 우선순위에 따라 참조할 수 있다. 예를 들어, 프로세서(140)는 제1 순위로 공간 인식 모델의 업데이트 정보(예: 전자 장치(100) 이동 시 인식되는 임의의 사용자가 위치한 룸 또는 섹션에 대한 정보 및 인식 시점의 타임 스탬프 정보에 대한 업데이트)를 참조할 수 있다. 프로세서(140)는 식별된 타겟 사용자에 대응하는 공간 인식 모델이 업데이트된 것으로 판단되면, 해당 업데이트의 타임 스탬프 정보를 확인할 수 있다. 프로세서(140)는 상기 타임 스탬프 정보가 타겟 사용자의 위치 추론 시점(time)을 기준하여 지정된 임계 시간 범위 내에 포함되면, 상기 타임 스탬프 정보와 함께 업데이트된 룸 또는 섹션을 식별된 타겟 사용자의 위치로 추론할 수 있다.
일 실시 예에서, 프로세서(140)는 제2 순위로 상기 타겟 사용자에 대응하는 공간 인식 모델 내의 시간대 별 공간 정보를 참조할 수 있다. 예를 들어, 프로세서(140)는 상기 공간 인식 모델 상에 현재 시각을 포함하는 시간대의 룸 정보 또는 섹션 정보가 존재하는 경우, 해당 시간대의 룸 또는 섹션을 타겟 사용자의 위치로 추론할 수 있다. 일 실시 예에서, 프로세서(140)는 제3 순위로 상기 타겟 사용자에 대응하는 공간 인식 모델에 포함된 공간 정보(예: 시간대 별 공간 정보 이외의 공간 정보)를 참조할 수 있다. 예를 들어, 프로세서(140)는 상기 공간 인식 모델 상에서 타겟 사용자와 매핑된 룸 정보 또는 섹션 정보를 확인하고, 해당 룸 또는 섹션을 타겟 사용자의 위치로 추론할 수 있다. 일 실시 예에서, 프로세서(140)는 제4 순위로 전자 장치(100)와 사물인터넷 환경(또는, 사물인터넷 시스템)을 구축하는 적어도 하나의 사물인터넷 장치(예: 컴퓨터, TV 또는 센싱 장치)로부터 수신한 알림 정보를 참조할 수 있다. 프로세서(140)는 상기 타겟 사용자의 위치 추론 시점을 기준하여 지정된 임계 시간 범위 내에 적어도 하나의 사물인터넷 장치로부터 수신한 알림 정보가 존재하는 경우, 상기 알림 정보가 포함하는 사물인터넷 장치의 위치를 전자 장치(100)를 이동시킬 제1 위치로 판단할 수 있다.
동작 1011에서, 프로세서(140)는 추론된 타겟 사용자의 위치로 전자 장치(100)를 이동시킬 수 있다. 예를 들어, 프로세서(140)는 전자 장치(100)가 포함하는 구동 모듈(도 4의 150)을 제어하여, 타겟 사용자의 위치로 추론된 룸 또는 섹션에 전자 장치(100)를 이동시킬 수 있다.
동작 1013에서, 프로세서(140)는 전자 장치(100)의 이동에 따른 룸 또는 섹션에서 식별된 타겟 사용자를 탐색할 수 있다. 이와 관련하여, 프로세서(140)는 이동한 룸 또는 섹션에서 전자 장치(100)가 지정된 각도(예: 360도)로 회전하도록 구동 모듈(150)을 제어하고, 상기 회전하는 동작에서 주변 환경에 대한 적어도 하나의 정보를 수집할 수 있다. 예를 들어, 프로세서(140)는 이미지 센서 또는 마이크(110)를 제어하여 주변 환경에 대한 영상 정보 또는 음성 정보를 수집하고, 수집된 정보를 타겟 사용자 관련 정보와 비교할 수 있다. 프로세서(140)는 상기 영상 정보가 타겟 사용자와 대응하는 타겟 인식 모델에 포함된 얼굴 영상 또는 신체 영상과 지정된 비율 이상으로 일치하거나, 상기 음성 정보가 타겟 인식 모델에 포함된 타겟 사용자의 발화 데이터와 지정된 비율 이상으로 일치하는 경우, 상기 영상 또는 음성과 관계된 사용자를 타겟 사용자로 인식할 수 있다. 또는, 프로세서(140)는 오젝트 인식 모델을 참조하여, 상기 영상 정보 상에서 인식되는 오브젝트가 특정 사용자 소유의 의류 또는 액세서리로 인식되는 경우, 상기 오브젝트를 착용한 사용자를 타겟 사용자로 인식할 수 있다.
동작 1015에서, 프로세서(140)는 인식된 타겟 사용자에 근접되는 위치로 전자 장치(100)를 이동시킬 수 있다. 예를 들어, 프로세서(140)는 구동 모듈(150)을 제어하여 인식된 타겟 사용자를 기준한 지정된 임계 거리 범위 내로 전자 장치(100)를 이동시킬 수 있다. 이 동작에서, 프로세서(140)는 이미지 센서를 이용하여 타겟 사용자를 촬영하고, 촬영된 영상과 타겟 사용자에 대응하는 타겟 인식 모델에 포함된 얼굴 영상을 비교할 수 있다. 이와 관련하여, 상기 타겟 인식 모델에 포함된 얼굴 영상은 타겟 사용자의 좌측 얼굴 영상, 우측 얼굴 영상 및 정면 얼굴 영상을 포함할 수 있다. 프로세서(140)는 상기 지정된 임계 거리 범위 내에서 상기 정면 얼굴 영상과 지정된 비율 이상으로 일치하는 촬영 영상이 획득되는 위치로 전자 장치(100)를 더 이동시키고, 해당 위치에서 태스크 수행에 따른 일부 동작(예: 인텔리전트 서버(200)로부터 수신한 음성 데이터 또는 텍스트 데이터 출력 등)을 수행할 수 있다. 또는, 프로세서(140)는 상기 지정된 임계 거리 범위 내로 전자 장치(100)가 이동하는 동작에서, 스피커 또는 디스플레이를 통하여 사용자 인증을 요청하는 데이터를 출력하고, 상기 요청에 대응하여 입력되는 사용자 생체 정보를 생체 센서를 이용하여 감지할 수 있다. 프로세서(140)는 상기 사용자 생체 정보에 기초하여 타겟 사용자가 더 인식되는 경우, 상기 태스크 수행에 따른 일부 동작을 수행할 수 있다.
전술한 다양한 실시 예에 따른 전자 장치는, 메모리, 마이크, 통신 회로, 구동 모듈, 센서 모듈, 및 상기 메모리, 상기 마이크, 상기 통신 회로, 상기 구동 모듈 및 상기 센서 모듈과 작동적(operatively)으로 연결되는 프로세서를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 메모리에 복수의 사용자 각각에 관계되는 정보를 저장하고, 상기 마이크를 통하여 상기 전자 장치의 태스크(task) 수행과 관계되는 사용자 발화를 수신하고, 상기 통신 회로를 이용하여 상기 사용자 발화와 관계되는 제1 데이터를 지정된 외부 장치로 전송하고, 상기 통신 회로를 이용하여 상기 태스크 수행과 관련한 상기 전자 장치의 적어도 하나의 동작 정보 및 상기 동작을 수행하는데 요구되는 적어도 하나의 파라미터를 포함하는 제2 데이터를 상기 외부 장치로부터 수신하고, 상기 적어도 하나의 파라미터에 기초하여 상기 복수의 사용자 중 상기 태스크 수행의 타겟과 관계되는 제1 사용자를 식별하고, 상기 복수의 사용자 각각에 관계되는 정보가 포함하는 상기 제1 사용자 관련 정보에 기초하여 상기 타겟의 위치를 추론하고, 상기 구동 모듈을 제어하여 상기 추론에 기반한 제1 위치로 상기 전자 장치를 이동시키고, 상기 제1 위치에서 상기 센서 모듈 또는 상기 마이크를 이용하여 획득되는 정보 및 상기 제1 사용자 관련 정보를 비교하여 상기 제1 사용자를 탐색하고, 상기 탐색에 기반하여 상기 제1 사용자가 인식되면, 상기 센서 모듈을 이용하여 상기 제1 사용자의 지정된 신체 정보가 획득되도록, 상기 구동 모듈을 제어하여 상기 제1 사용자를 기준한 지정된 임계 거리 범위 내의 제2 위치로 상기 전자 장치를 이동시킬 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 중 적어도 일부의 사용자 각각으로부터 입력되는 시간대 별 공간 정보를 이용하여 상기 적어도 일부의 사용자 각각에 대응하는 공간 인식 모델을 생성하고, 상기 공간 인식 모델을 상기 적어도 일부의 사용자 각각에 관계되는 정보로서 저장하고, 상기 전자 장치가 상기 태스크를 수행하지 않는 상태에서, 상기 공간 인식 모델에 기초하여 현재 시각에 대응하는 시간대의 공간 정보가 식별되면, 상기 구동 모듈을 제어하여 상기 전자 장치를 상기 식별된 공간 정보에 대응하는 제3 위치로 이동시킬 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 각각으로부터 입력되는 사용자 개인 정보를 상기 복수의 사용자 각각에 관계되는 정보로서 저장하고, 상기 제2 데이터 수신 시, 상기 사용자 개인 정보 중 상기 적어도 하나의 파라미터에 대응하는 사용자 개인 정보를 식별하고, 상기 식별된 사용자 개인 정보에 대응하는 사용자를 상기 태스크 수행의 타겟과 관계되는 제1 사용자로 식별할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 각각으로부터 입력되는 공간 정보를 이용하여 상기 복수의 사용자 각각에 대응하는 공간 인식 모델을 생성하고, 상기 공간 인식 모델을 상기 복수의 사용자 각각에 관계되는 정보로서 저장하고, 상기 타겟의 위치를 추론하는 동작의 적어도 일부로서, 상기 공간 인식 모델을 이용하여 상기 제1 사용자와 관계된 공간 정보에 대응하는 공간을 상기 제1 위치로 판단할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 각각으로부터 입력되는 공간 정보를 이용하여 상기 복수의 사용자 각각에 대응하는 공간 인식 모델을 생성하고, 상기 공간 인식 모델을 상기 복수의 사용자 각각에 관계되는 정보로서 저장하고, 전자 장치 이동 시, 상기 센서 모듈을 통한 촬영 또는 상기 마이크를 통한 음성 신호 수신을 기반으로 특정 사용자가 인식되면, 상기 특정 사용자가 인식된 공간 정보 및 상기 인식의 타임 스탬프 정보를 매핑하여 상기 특정 사용자에 대응하는 공간 인식 모델에 포함시킬 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 타겟의 위치를 추론하는 동작의 적어도 일부로서, 상기 제1 사용자에 대응하는 공간 인식 모델의 타임 스탬프 정보 포함 여부를 판단하고, 상기 제1 사용자에 대응하는 공간 인식 모델이 상기 타겟의 위치를 추론하는 시각(time)을 기준하여 지정된 임계 시간 범위 내의 타임 스탬프 정보를 포함하면, 상기 임계 시간 범위 내의 타임 스탬프 정보와 매핑된 공간 정보에 대응하는 공간을 상기 제1 위치로 판단할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 중 적어도 일부의 사용자 각각으로부터 입력되는 시간대 별 공간 정보를 이용하여 상기 적어도 일부의 사용자 각각에 대응하는 공간 인식 모델을 생성하고, 상기 공간 인식 모델을 상기 적어도 일부의 사용자 각각에 관계되는 정보로서 저장하고, 상기 타겟의 위치를 추론하는 동작의 적어도 일부로서, 상기 제1 사용자에 대응하는 공간 인식 모델의 상기 타겟의 위치를 추론하는 시각(time)을 포함하는 시간대의 공간 정보 포함 여부를 판단하고, 상기 제1 사용자에 대응하는 공간 인식 모델이 상기 타겟의 위치를 추론하는 시각을 포함하는 시간대의 공간 정보를 포함하면, 상기 타겟의 위치를 추론하는 시각을 포함하는 시간대의 공간 정보에 대응하는 공간을 상기 제1 위치로 판단할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 각각으로부터 수신하는 발화 정보 또는 상기 복수의 사용자 각각에 대하여 촬영하는 영상 정보를 이용하여 상기 복수의 사용자 각각에 대응하는 화자 인식 모델을 생성하고, 상기 화자 인식 모델을 상기 복수의 사용자 각각에 관계되는 정보로서 저장하고, 상기 사용자 발화 수신 시, 상기 화자 인식 모델을 이용하여 상기 사용자 발화를 수행한 제2 사용자를 인식할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 제1 위치로의 상기 전자 장치 이동이 완료되면, 상기 구동 모듈을 제어하여 상기 전자 장치를 지정된 각도로 회전시키고, 상기 센서 모듈 또는 상기 마이크를 이용하여 상기 제1 위치에서의 주변 환경에 대한 정보를 획득할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 복수의 사용자 각각으로부터 수신하는 발화 정보 또는 상기 복수의 사용자 각각에 대하여 촬영하는 영상 정보를 이용하여 상기 복수의 사용자 각각에 대응하는 타겟 인식 모델을 생성하고, 상기 타겟 인식 모델을 상기 복수의 사용자 각각에 관계되는 정보로서 저장하고, 상기 제1 위치에서 상기 센서 모듈을 이용하여 획득되는 영상 정보 내의 오브젝트(object) 또는 상기 마이크를 이용하여 획득되는 음성 정보가 상기 제1 사용자에 대응하는 타겟 인식 모델과 지정된 비율 이상으로 일치하면, 상기 오브젝트 또는 상기 음성과 관계되는 사용자를 상기 제1 사용자로 인식할 수 있다.
다양한 실시 예에 따르면, 상기 제1 사용자에 대응하는 타겟 인식 모델은 상기 제1 사용자의 정면 얼굴 정보를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 전자 장치가 상기 지정된 임계 거리 범위 내로 이동하는 상태에서, 상기 센서 모듈을 이용하여 상기 제1 사용자의 지정된 신체 정보를 획득하기 위한 촬영을 수행하고, 상기 제1 사용자의 정면 얼굴 정보와 지정된 비율 이상으로 일치하는 상기 촬영에 의한 영상 정보가 획득되는 상기 지정된 임계 거리 범위 내의 위치를 상기 제2 위치로 결정할 수 있다.
다양한 실시 예에 따르면, 상기 전자 장치는 스피커를 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제2 데이터는, 상기 제1 데이터에 대응하는 음성 데이터를 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 프로세서는, 상기 전자 장치가 상기 제2 위치로 이동되면, 상기 스피커를 이용하여 상기 음성 데이터를 출력할 수 있다.
전술한 다양한 실시 예에 따른 전자 장치는, 하우징, 유저 인터페이스, 상기 하우징을 이동시키도록 상기 하우징에 배치되거나 상기 하우징에 연결된 구동부, 상기 하우징에 또는 상기 하우징 내부에 위치하는 제1 센서 및 제2 센서, 상기 하우징 내부에 위치하는 무선 통신 회로, 상기 유저 인터페이스, 상기 구동부, 상기 제1 센서, 상기 제2 센서 및 상기 무선 통신 회로와 작동적으로 연결되는 프로세서, 및 상기 프로세서와 작동적으로 연결된 메모리를 포함할 수 있다.
다양한 실시 예에 따르면, 상기 메모리는, 실행 시에, 상기 프로세서가, 상기 유저 인터페이스를 통해 태스크를 수행하기 위한 사용자의 발화를 수신하고, 상기 제1 센서를 이용하여 감지된 제1 정보 및/또는 상기 무선 통신 회로를 통해 외부 장치로부터 수신된 제2 정보에 적어도 일부 기반하여, 상기 태스크를 수행하기 위한 대상의 위치를 파악하고, 상기 구동부를 이용하여 상기 위치로 상기 하우징을 이동하고, 상기 제2 센서를 이용하여 오브젝트를 인식하고, 상기 인식된 오브젝트가 상기 대상과 일치하는지 결정하고, 상기 유저 인터페이스를 통해 상기 오브젝트에 대하여 상기 태스크를 수행하도록 하는 인스트럭션들을 저장할 수 있다.
전술한 다양한 실시 예에 따른 전자 장치의 사용자 입력 처리 방법은, 복수의 사용자 각각에 관계되는 정보를 저장하는 동작, 상기 전자 장치의 태스크(task) 수행과 관계되는 사용자 발화를 수신하는 동작, 상기 사용자 발화와 관계되는 제1 데이터를 지정된 외부 장치로 전송하는 동작, 상기 태스크 수행과 관련한 상기 전자 장치의 적어도 하나의 동작 정보 및 상기 동작을 수행하는데 요구되는 적어도 하나의 파라미터를 포함하는 제2 데이터를 상기 외부 장치로부터 수신하는 동작, 상기 적어도 하나의 파라미터에 기초하여 상기 복수의 사용자 중 상기 태스크 수행의 타겟과 관계되는 제1 사용자를 식별하는 동작, 상기 복수의 사용자 각각에 관계되는 정보가 포함하는 상기 제1 사용자 관련 정보에 기초하여 상기 타겟의 위치를 추론하는 동작, 상기 추론에 기반한 제1 위치로 상기 전자 장치가 이동하는 동작, 상기 제1 위치에서 획득되는 정보 및 상기 제1 사용자 관련 정보를 비교하여 상기 제1 사용자를 탐색하는 동작, 및 상기 탐색에 기반하여 상기 제1 사용자가 인식되면, 상기 제1 사용자의 지정된 신체 정보가 획득되도록, 상기 제1 사용자를 기준한 지정된 임계 거리 범위 내의 제2 위치로 상기 전자 장치가 이동하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 복수의 사용자 각각에 관계되는 정보를 저장하는 동작은, 상기 복수의 사용자 각각으로부터 입력되는 사용자 개인 정보를 상기 복수의 사용자 각각에 관계되는 정보로서 저장하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 사용자를 식별하는 동작은, 상기 제2 데이터 수신 시, 상기 사용자 개인 정보 중 상기 적어도 하나의 파라미터에 대응하는 사용자 개인 정보를 식별하는 동작, 및 상기 식별된 사용자 개인 정보에 대응하는 사용자를 상기 태스크 수행의 타겟과 관계되는 제1 사용자로 식별하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 복수의 사용자 각각에 관계되는 정보를 저장하는 동작은, 상기 복수의 사용자 각각으로부터 입력되는 공간 정보를 이용하여 상기 복수의 사용자 각각에 대응하는 공간 인식 모델을 생성하는 동작, 및 상기 공간 인식 모델을 상기 복수의 사용자 각각에 관계되는 정보로서 저장하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 타겟의 위치를 추론하는 동작은, 상기 공간 인식 모델을 이용하여 상기 제1 사용자와 관계되는 공간 정보에 대응하는 공간을 상기 제1 위치로 판단하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 복수의 사용자 각각에 관계되는 정보를 저장하는 동작은, 상기 복수의 사용자 중 적어도 일부의 사용자 각각으로부터 입력되는 시간대 별 공간 정보를 이용하여 상기 적어도 일부의 사용자 각각에 대응하는 공간 인식 모델을 생성하는 동작, 및 상기 공간 인식 모델을 상기 적어도 일부의 사용자 각각에 관계되는 정보로서 저장하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 타겟의 위치를 추론하는 동작은, 상기 제1 사용자에 대응하는 공간 인식 모델의 상기 타겟의 위치를 추론하는 시각(time)을 포함하는 시간대의 공간 정보 포함 여부를 판단하는 동작, 및 상기 제1 사용자에 대응하는 공간 인식 모델이 상기 타겟의 위치를 추론하는 시각을 포함하는 시간대의 공간 정보를 포함하면, 상기 타겟의 위치를 추론하는 시각을 포함하는 시간대의 공간 정보에 대응하는 공간을 상기 제1 위치로 판단하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 사용자 입력 처리 방법은, 상기 제1 위치로의 상기 전자 장치 이동이 완료되면, 상기 구동 모듈을 제어하여 상기 전자 장치가 지정된 각도로 회전하는 동작, 및 상기 제1 위치에서의 주변 환경에 대한 정보를 획득하는 동작을 더 포함할 수 있다.
다양한 실시 예에 따르면, 상기 복수의 사용자 각각에 관계되는 정보를 저장하는 동작은, 상기 복수의 사용자 각각으로부터 수신하는 발화 정보 또는 상기 복수의 사용자 각각에 대하여 촬영하는 영상 정보를 이용하여 상기 복수의 사용자 각각에 대응하는 타겟 인식 모델을 생성하는 동작, 및, 상기 타겟 인식 모델을 상기 복수의 사용자 각각에 관계되는 정보로서 저장하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 사용자를 탐색하는 동작은, 상기 제1 위치에서 획득되는 영상 정보 내의 오브젝트(object) 또는 음성 정보가 상기 제1 사용자에 대응하는 타겟 인식 모델과 지정된 비율 이상으로 일치하면, 상기 오브젝트 또는 상기 음성과 관계되는 사용자를 상기 제1 사용자로 인식하는 동작을 포함할 수 있다.
다양한 실시 예에 따르면, 상기 제1 사용자를 기준한 지정된 임계 거리 범위 내의 제2 위치로 상기 전자 장치가 이동하는 동작은, 상기 전자 장치가 상기 지정된 임계 거리 범위 내로 이동하는 상태에서, 상기 제1 사용자의 지정된 신체 정보를 획득하기 위한 촬영을 수행하는 동작, 및 상기 제1 사용자의 정면 얼굴 정보와 지정된 비율 이상으로 일치하는 상기 촬영에 의한 영상 정보가 획득되는 상기 지정된 임계 거리 범위 내의 위치를 상기 제2 위치로 결정하는 동작을 포함할 수 있다.
도 11은 일 실시 예에 따른 네트워크 환경 내의 전자 장치를 도시한 도면이다.
도 11을 참조하면, 네트워크 환경(1100)에서 전자 장치(1101)는 제 1 네트워크(1198)(예: 근거리 무선 통신 네트워크)를 통하여 전자 장치(1102)와 통신하거나, 또는 제 2 네트워크(1199)(예: 원거리 무선 통신 네트워크)를 통하여 전자 장치(1104) 또는 서버(1108)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(1101)는 서버(1108)를 통하여 전자 장치(1104)와 통신할 수 있다. 일 실시 예에 따르면, 전자 장치(1101)는 프로세서(1120), 메모리(1130), 입력 장치(1150), 음향 출력 장치(1155), 표시 장치(1160), 오디오 모듈(1170), 센서 모듈(1176), 인터페이스(1177), 햅틱 모듈(1179), 카메라 모듈(1180), 전력 관리 모듈(1188), 배터리(1189), 통신 모듈(1190), 가입자 식별 모듈(1196), 또는 안테나 모듈(1197)을 포함할 수 있다. 어떤 실시 예에서는, 전자 장치(1101)에는, 이 구성요소들 중 적어도 하나(예: 표시 장치(1160) 또는 카메라 모듈(1180))가 생략되거나, 하나 이상의 다른 구성 요소가 추가될 수 있다. 어떤 실시 예에서는, 이 구성요소들 중 일부들은 하나의 통합된 회로로 구현될 수 있다. 예를 들면, 센서 모듈(1176)(예: 지문 센서, 홍채 센서, 또는 조도 센서)은 표시 장치(1160)(예: 디스플레이)에 임베디드된 채 구현될 수 있다.
프로세서(1120)는, 예를 들면, 소프트웨어(예: 프로그램(1140))를 실행하여 프로세서(1120)에 연결된 전자 장치(1101)의 적어도 하나의 다른 구성요소(예: 하드웨어 또는 소프트웨어 구성요소)을 제어할 수 있고, 다양한 데이터 처리 또는 연산을 수행할 수 있다. 일 실시 예에 따르면, 데이터 처리 또는 연산의 적어도 일부로서, 프로세서(1120)는 다른 구성요소(예: 센서 모듈(1176) 또는 통신 모듈(1190))로부터 수신된 명령 또는 데이터를 휘발성 메모리(1132)에 로드하고, 휘발성 메모리(1132)에 저장된 명령 또는 데이터를 처리하고, 결과 데이터를 비휘발성 메모리(1134)에 저장할 수 있다. 일 실시 예에 따르면, 프로세서(1120)는 메인 프로세서(1121)(예: 중앙 처리 장치 또는 어플리케이션 프로세서), 및 이와는 독립적으로 또는 함께 운영 가능한 보조 프로세서(1123)(예: 그래픽 처리 장치, 이미지 시그널 프로세서, 센서 허브 프로세서, 또는 커뮤니케이션 프로세서)를 포함할 수 있다. 추가적으로 또는 대체적으로, 보조 프로세서(1123)은 메인 프로세서(1121)보다 저전력을 사용하거나, 또는 지정된 기능에 특화되도록 설정될 수 있다. 보조 프로세서(1123)는 메인 프로세서(1121)와 별개로, 또는 그 일부로서 구현될 수 있다.
보조 프로세서(1123)는, 예를 들면, 메인 프로세서(1121)가 인액티브(예: 슬립) 상태에 있는 동안 메인 프로세서(1121)를 대신하여, 또는 메인 프로세서(1121)가 액티브(예: 어플리케이션 실행) 상태에 있는 동안 메인 프로세서(1121)와 함께, 전자 장치(1101)의 구성요소들 중 적어도 하나의 구성요소(예: 표시 장치(1160), 센서 모듈(1176), 또는 통신 모듈(1190))와 관련된 기능 또는 상태들의 적어도 일부를 제어할 수 있다. 일 실시 예에 따르면, 보조 프로세서(1123)(예: 이미지 시그널 프로세서 또는 커뮤니케이션 프로세서)는 기능적으로 관련 있는 다른 구성 요소(예: 카메라 모듈(1180) 또는 통신 모듈(1190))의 일부로서 구현될 수 있다.
메모리(1130)는, 전자 장치(1101)의 적어도 하나의 구성요소(예: 프로세서(1120) 또는 센서 모듈(1176))에 의해 사용되는 다양한 데이터를 저장할 수 있다. 데이터는, 예를 들어, 소프트웨어(예: 프로그램(1140)) 및, 이와 관련된 명령에 대한 입력 데이터 또는 출력 데이터를 포함할 수 있다. 메모리(1130)는, 휘발성 메모리(1132) 또는 비휘발성 메모리(1134)를 포함할 수 있다.
프로그램(1140)은 메모리(1130)에 소프트웨어로서 저장될 수 있으며, 예를 들면, 운영 체제(1142), 미들 웨어(1144) 또는 어플리케이션(1146)을 포함할 수 있다.
입력 장치(1150)는, 전자 장치(1101)의 구성요소(예: 프로세서(1120))에 사용될 명령 또는 데이터를 전자 장치(1101)의 외부(예: 사용자)로부터 수신할 수 있다. 입력 장치(1150)은, 예를 들면, 마이크, 마우스, 키보드, 또는 디지털 펜(예: 스타일러스 펜)을 포함할 수 있다.
음향 출력 장치(1155)는 음향 신호를 전자 장치(1101)의 외부로 출력할 수 있다. 음향 출력 장치(1155)는, 예를 들면, 스피커 또는 리시버를 포함할 수 있다. 스피커는 멀티미디어 재생 또는 녹음 재생과 같이 일반적인 용도로 사용될 수 있고, 리시버는 착신 전화를 수신하기 위해 사용될 수 있다. 일 실시 예에 따르면, 리시버는 스피커와 별개로, 또는 그 일부로서 구현될 수 있다.
표시 장치(1160)는 전자 장치(1101)의 외부(예: 사용자)로 정보를 시각적으로 제공할 수 있다. 표시 장치(1160)은, 예를 들면, 디스플레이, 홀로그램 장치, 또는 프로젝터 및 해당 장치를 제어하기 위한 제어 회로를 포함할 수 있다. 일 실시 예에 따르면, 표시 장치(1160)는 터치를 감지하도록 설정된 터치 회로(touch circuitry), 또는 상기 터치에 의해 발생되는 힘의 세기를 측정하도록 설정된 센서 회로(예: 압력 센서)를 포함할 수 있다.
오디오 모듈(1170)은 소리를 전기 신호로 변환시키거나, 반대로 전기 신호를 소리로 변환시킬 수 있다. 일 실시 예에 따르면, 오디오 모듈(1170)은, 입력 장치(1150)를 통해 소리를 획득하거나, 음향 출력 장치(1155), 또는 전자 장치(1101)와 직접 또는 무선으로 연결된 외부 전자 장치(예: 전자 장치(1102)) (예: 스피커 또는 헤드폰))를 통해 소리를 출력할 수 있다.
센서 모듈(1176)은 전자 장치(1101)의 작동 상태(예: 전력 또는 온도), 또는 외부의 환경 상태(예: 사용자 상태)를 감지하고, 감지된 상태에 대응하는 전기 신호 또는 데이터 값을 생성할 수 있다. 일 실시 예에 따르면, 센서 모듈(1176)은, 예를 들면, 제스처 센서, 자이로 센서, 기압 센서, 마그네틱 센서, 가속도 센서, 그립 센서, 근접 센서, 컬러 센서, IR(infrared) 센서, 생체 센서, 온도 센서, 습도 센서, 또는 조도 센서를 포함할 수 있다.
인터페이스(1177)는 전자 장치(1101)이 외부 전자 장치(예: 전자 장치(1102))와 직접 또는 무선으로 연결되기 위해 사용될 수 있는 하나 이상의 지정된 프로토콜들을 지원할 수 있다. 일 실시 예에 따르면, 인터페이스(1177)는, 예를 들면, HDMI(high definition multimedia interface), USB(universal serial bus) 인터페이스, SD카드 인터페이스, 또는 오디오 인터페이스를 포함할 수 있다.
연결 단자(1178)는, 그를 통해서 전자 장치(1101)가 외부 전자 장치(예: 전자 장치(1102))와 물리적으로 연결될 수 있는 커넥터를 포함할 수 있다. 일 실시 예에 따르면, 연결 단자(1178)은, 예를 들면, HDMI 커넥터, USB 커넥터, SD 카드 커넥터, 또는 오디오 커넥터(예: 헤드폰 커넥터)를 포함할 수 있다.
햅틱 모듈(1179)은 전기적 신호를 사용자가 촉각 또는 운동 감각을 통해서 인지할 수 있는 기계적인 자극(예: 진동 또는 움직임) 또는 전기적인 자극으로 변환할 수 있다. 일 실시 예에 따르면, 햅틱 모듈(1179)은, 예를 들면, 모터, 압전 소자, 또는 전기 자극 장치를 포함할 수 있다.
카메라 모듈(1180)은 정지 영상 및 동영상을 촬영할 수 있다. 일 실시 예에 따르면, 카메라 모듈(1180)은 하나 이상의 렌즈들, 이미지 센서들, 이미지 시그널 프로세서들, 또는 플래시들을 포함할 수 있다.
전력 관리 모듈(1188)은 전자 장치(1101)에 공급되는 전력을 관리할 수 있다. 일 실시 예에 따르면, 전력 관리 모듈(1188)은, 예를 들면, PMIC(power management integrated circuit)의 적어도 일부로서 구현될 수 있다.
배터리(1189)는 전자 장치(1101)의 적어도 하나의 구성 요소에 전력을 공급할 수 있다. 일 실시 예에 따르면, 배터리(1189)는, 예를 들면, 재충전 불가능한 1차 전지, 재충전 가능한 2차 전지 또는 연료 전지를 포함할 수 있다.
통신 모듈(1190)은 전자 장치(1101)와 외부 전자 장치(예: 전자 장치(1102), 전자 장치(1104), 또는 서버(1108))간의 직접(예: 유선) 통신 채널 또는 무선 통신 채널의 수립, 및 수립된 통신 채널을 통한 통신 수행을 지원할 수 있다. 통신 모듈(1190)은 프로세서(1120)(예: 어플리케이션 프로세서)와 독립적으로 운영되고, 직접(예: 유선) 통신 또는 무선 통신을 지원하는 하나 이상의 커뮤니케이션 프로세서를 포함할 수 있다. 일 실시 예에 따르면, 통신 모듈(1190)은 무선 통신 모듈(1192)(예: 셀룰러 통신 모듈, 근거리 무선 통신 모듈, 또는 GNSS(global navigation satellite system) 통신 모듈) 또는 유선 통신 모듈(1194)(예: LAN(local area network) 통신 모듈, 또는 전력선 통신 모듈)을 포함할 수 있다. 이들 통신 모듈 중 해당하는 통신 모듈은 제 1 네트워크(1198)(예: 블루투스, WiFi direct 또는 IrDA(infrared data association) 같은 근거리 통신 네트워크) 또는 제 2 네트워크(1199)(예: 셀룰러 네트워크, 인터넷, 또는 컴퓨터 네트워크(예: LAN 또는 WAN)와 같은 원거리 통신 네트워크)를 통하여 외부 전자 장치와 통신할 수 있다. 이런 여러 종류의 통신 모듈들은 하나의 구성 요소(예: 단일 칩)으로 통합되거나, 또는 서로 별도의 복수의 구성 요소들(예: 복수 칩들)로 구현될 수 있다. 무선 통신 모듈(1192)은 가입자 식별 모듈(1196)에 저장된 가입자 정보(예: 국제 모바일 가입자 식별자(IMSI))를 이용하여 제 1 네트워크(1198) 또는 제 2 네트워크(1199)와 같은 통신 네트워크 내에서 전자 장치(1101)를 확인 및 인증할 수 있다.
안테나 모듈(1197)은 신호 또는 전력을 외부(예: 외부 전자 장치)로 송신하거나 외부로부터 수신할 수 있다. 일 실시 예에 따르면, 안테나 모듈은 서브스트레이트(예: PCB) 위에 형성된 도전체 또는 도전성 패턴으로 이루어진 방사체를 포함하는 하나의 안테나를 포함할 수 있다. 일 실시 예에 따르면, 안테나 모듈(1197)은 복수의 안테나들을 포함할 수 있다. 이런 경우, 제 1 네트워크(1198) 또는 제 2 네트워크(1199)와 같은 통신 네트워크에서 사용되는 통신 방식에 적합한 적어도 하나의 안테나가, 예를 들면, 통신 모듈(1190)에 의하여 상기 복수의 안테나들로부터 선택될 수 있다. 신호 또는 전력은 상기 선택된 적어도 하나의 안테나를 통하여 통신 모듈(1190)과 외부 전자 장치 간에 송신되거나 수신될 수 있다. 어떤 실시 예에 따르면, 방사체 이외에 다른 부품(예: RFIC)이 추가로 안테나 모듈(1197)의 일부로 형성될 수 있다.
상기 구성요소들 중 적어도 일부는 주변 기기들과 통신 방식(예: 버스, GPIO(general purpose input and output), SPI(serial peripheral interface), 또는 MIPI(mobile industry processor interface))을 통해 서로 연결되고 신호(예: 명령 또는 데이터)를 상호간에 교환할 수 있다.
일 실시 예에 따르면, 명령 또는 데이터는 제 2 네트워크(1199)에 연결된 서버(1108)를 통해서 전자 장치(1101)와 외부의 전자 장치(1104)간에 송신 또는 수신될 수 있다. 전자 장치(1102, 1104) 각각은 전자 장치(1101)와 동일한 또는 다른 종류의 장치일 수 있다. 일 실시 예에 따르면, 전자 장치(1101)에서 실행되는 동작들의 전부 또는 일부는 외부 전자 장치들(1102, 1104, or 1108) 중 하나 이상의 외부 장치에서 실행될 수 있다. 예를 들면, 전자 장치(1101)가 어떤 기능이나 서비스를 자동으로, 또는 사용자 또는 다른 장치로부터의 요청에 반응하여 수행해야 할 경우에, 전자 장치(1101)는 기능 또는 서비스를 자체적으로 실행시키는 대신에 또는 추가적으로, 하나 이상의 외부 전자 장치에 그 기능 또는 그 서비스의 적어도 일부를 수행하라고 요청할 수 있다. 상기 요청을 수신한 하나 이상의 외부 전자 장치들은 요청된 기능 또는 서비스의 적어도 일부, 또는 상기 요청과 관련된 추가 기능 또는 서비스를 실행하고, 그 실행의 결과를 전자 장치(1101)로 전달할 수 있다. 전자 장치(1101)는 상기 결과를, 그대로 또는 추가적으로 처리하여, 상기 요청에 대한 응답의 적어도 일부로서 제공할 수 있다. 이를 위하여, 예를 들면, 클라우드 컴퓨팅, 분산 컴퓨팅, 또는 클라이언트-서버 컴퓨팅 기술이 이용될 수 있다.
본 문서에 개시된 다양한 실시 예들에 따른 전자 장치는 다양한 형태의 장치가 될 수 있다. 전자 장치는, 예를 들면, 휴대용 통신 장치 (예: 스마트폰), 컴퓨터 장치, 휴대용 멀티미디어 장치, 휴대용 의료 기기, 카메라, 웨어러블 장치, 또는 가전 장치를 포함할 수 있다. 본 문서의 실시 예에 따른 전자 장치는 전술한 기기들에 한정되지 않는다.
본 문서의 다양한 실시 예들 및 이에 사용된 용어들은 본 문서에 기재된 기술적 특징들을 특정한 실시 예들로 한정하려는 것이 아니며, 해당 실시 예의 다양한 변경, 균등물, 또는 대체물을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 또는 관련된 구성요소에 대해서는 유사한 참조 부호가 사용될 수 있다. 아이템에 대응하는 명사의 단수 형은 관련된 문맥상 명백하게 다르게 지시하지 않는 한, 상기 아이템 한 개 또는 복수 개를 포함할 수 있다. 본 문서에서, "A 또는 B", "A 및 B 중 적어도 하나","A 또는 B 중 적어도 하나,""A, B 또는 C," "A, B 및 C 중 적어도 하나,"및 "A, B, 또는 C 중 적어도 하나"와 같은 문구들 각각은 그 문구들 중 해당하는 문구에 함께 나열된 항목들 중 어느 하나, 또는 그들의 모든 가능한 조합을 포함할 수 있다. "제 1", "제 2", 또는 "첫째" 또는 "둘째"와 같은 용어들은 단순히 해당 구성요소를 다른 해당 구성요소와 구분하기 위해 사용될 수 있으며, 해당 구성요소들을 다른 측면(예: 중요성 또는 순서)에서 한정하지 않는다. 어떤(예: 제 1) 구성요소가 다른(예: 제 2) 구성요소에, "기능적으로" 또는 "통신적으로"라는 용어와 함께 또는 이런 용어 없이, "커플드" 또는 "커넥티드"라고 언급된 경우, 그것은 상기 어떤 구성요소가 상기 다른 구성요소에 직접적으로(예: 유선으로), 무선으로, 또는 제 3 구성요소를 통하여 연결될 수 있다는 것을 의미한다.
본 문서에서 사용된 용어 "모듈"은 하드웨어, 소프트웨어 또는 펌웨어로 구현된 유닛을 포함할 수 있으며, 예를 들면, 로직, 논리 블록, 부품, 또는 회로 등의 용어와 상호 호환적으로 사용될 수 있다. 모듈은, 일체로 구성된 부품 또는 하나 또는 그 이상의 기능을 수행하는, 상기 부품의 최소 단위 또는 그 일부가 될 수 있다. 예를 들면, 일 실시 예에 따르면, 모듈은 ASIC(application-specific integrated circuit)의 형태로 구현될 수 있다.
본 문서의 다양한 실시 예들은 기기(machine)(예: 전자 장치(1101)) 의해 읽을 수 있는 저장 매체(storage medium)(예: 내장 메모리(1136) 또는 외장 메모리(1138))에 저장된 하나 이상의 명령어들을 포함하는 소프트웨어(예: 프로그램(1140))로서 구현될 수 있다. 예를 들면, 기기(예: 전자 장치(1101))의 프로세서(예: 프로세서(1120))는, 저장 매체로부터 저장된 하나 이상의 명령어들 중 적어도 하나의 명령을 호출하고, 그것을 실행할 수 있다. 이것은 기기가 상기 호출된 적어도 하나의 명령어에 따라 적어도 하나의 기능을 수행하도록 운영되는 것을 가능하게 한다. 상기 하나 이상의 명령어들은 컴파일러에 의해 생성된 코드 또는 인터프리터에 의해 실행될 수 있는 코드를 포함할 수 있다. 기기로 읽을 수 있는 저장매체 는, 비일시적(non-transitory) 저장매체의 형태로 제공될 수 있다. 여기서, '비일시적'은 저장매체가 실재(tangible)하는 장치이고, 신호(signal)(예: 전자기파)를 포함하지 않는다는 것을 의미할 뿐이며, 이 용어는 데이터가 저장매체에 반영구적으로 저장되는 경우와 임시적으로 저장되는 경우를 구분하지 않는다.
일 실시 예에 따르면, 본 문서에 개시된 다양한 실시 예들에 따른 방법은 컴퓨터 프로그램 제품(computer program product)에 포함되어 제공될 수 있다. 컴퓨터 프로그램 제품은 상품으로서 판매자 및 구매자 간에 거래될 수 있다. 컴퓨터 프로그램 제품은 기기로 읽을 수 있는 저장 매체(예: compact disc read only memory (CD-ROM))의 형태로 배포되거나, 또는 어플리케이션 스토어(예: 플레이 스토어™)를 통해 또는 두개의 사용자 장치들(예: 스마트폰들) 간에 직접, 온라인으로 배포(예: 다운로드 또는 업로드)될 수 있다. 온라인 배포의 경우에, 컴퓨터 프로그램 제품의 적어도 일부는 제조사의 서버, 어플리케이션 스토어의 서버, 또는 중계 서버의 메모리와 같은 기기로 읽을 수 있는 저장 매체에 적어도 일시 저장되거나, 임시적으로 생성될 수 있다.
다양한 실시 예들에 따르면, 상기 기술한 구성요소들의 각각의 구성요소(예: 모듈 또는 프로그램)는 단수 또는 복수의 개체를 포함할 수 있다. 다양한 실시 예들에 따르면, 전술한 해당 구성요소들 중 하나 이상의 구성요소들 또는 동작들이 생략되거나, 또는 하나 이상의 다른 구성요소들 또는 동작들이 추가될 수 있다. 대체적으로 또는 추가적으로, 복수의 구성요소들(예: 모듈 또는 프로그램)은 하나의 구성요소로 통합될 수 있다. 이런 경우, 통합된 구성요소는 상기 복수의 구성요소들 각각의 구성요소의 하나 이상의 기능들을 상기 통합 이전에 상기 복수의 구성요소들 중 해당 구성요소에 의해 수행되는 것과 동일 또는 유사하게 수행할 수 있다. 다양한 실시 예들에 따르면, 모듈, 프로그램 또는 다른 구성요소에 의해 수행되는 동작들은 순차적으로, 병렬적으로, 반복적으로, 또는 휴리스틱하게 실행되거나, 상기 동작들 중 하나 이상이 다른 순서로 실행되거나, 생략되거나, 또는 하나 이상의 다른 동작들이 추가될 수 있다.

Claims (20)

  1. 전자 장치에 있어서,
    메모리;
    마이크;
    구동 모듈;
    센서 모듈; 및
    상기 메모리, 상기 마이크, 상기 구동 모듈 및 상기 센서 모듈과 작동적(operatively)으로 연결되는 프로세서;를 포함하고,
    상기 프로세서는,
    상기 메모리에 복수의 사용자 각각에 관계되는 정보를 포함하는 데이터베이스를 저장하고,
    제1 위치에서 상기 마이크를 통하여 태스크(task) 수행을 지시하는 발화를 수신하고,
    상기 발화와 관계되는 제1 데이터에 기반하여, 상기 태스크 수행과 관련한 동작 시퀀스 및 상기 동작 시퀀스를 수행하는데 요구되는 적어도 하나의 파라미터를 포함하는 제2 데이터를 획득하고,
    상기 적어도 하나의 파라미터에 기초하여 상기 복수의 사용자 중 상기 태스크 수행과 관계되는 타겟 사용자를 식별하고,
    상기 데이터베이스에 기초하여, 상기 식별된 타겟 사용자와 관련된 공간을 확인하고,
    상기 구동 모듈을 제어하여 상기 전자 장치를 상기 제1 위치에서 상기 확인된 공간과 관련된 제2 위치로 이동시키고,
    상기 제2 위치로의 이동에 기반하여, 상기 확인된 공간에 대한 탐색 동작을 수행하고,
    상기 확인된 공간에 대한 탐색 동작에 기반하여, 상기 공간에 존재하는 사람을 식별하고,
    상기 공간에 존재하는 사람을 식별하는 것에 응답하여, 상기 식별된 사람이 상기 타겟 사용자에 대응되는지 확인하고,
    상기 식별된 사람이 상기 타겟 사용자에 대응되면, 상기 동작 시퀀스에 기반하여 태스크를 수행하고,
    상기 식별된 사람이 상기 타겟 사용자에 대응되지 않으면, 상기 식별된 사람에게 상기 타겟 사용자의 위치를 문의하는 정보를 출력하고, 상기 제1 위치로 상기 전자 장치를 이동시킨 후 상기 타겟 사용자의 인식 실패를 나타내는 탐색 결과를 제공하도록 설정된, 전자 장치.
  2. 제1항에 있어서,
    상기 프로세서는,
    상기 식별된 사람이 상기 타겟 사용자에 대응되면, 상기 구동 모듈을 제어하여 상기 타겟 사용자를 기준으로 지정된 임계 거리 범위 내의 제3 위치로 상기 전자 장치를 이동시키고,
    상기 제3 위치로의 이동이 감지되면 상기 동작 시퀀스에 기반하여 태스크를 수행하도록 설정된, 전자 장치.
  3. 제1항에 있어서,
    상기 프로세서는,
    상기 제2 위치에서, 상기 구동 모듈을 제어하여 상기 전자 장치를 지정된 각도로 회전시키고,
    상기 전자 장치를 지정된 각도로 회전되는 동안, 상기 공간과 관련된 환경 정보를 획득하고,
    상기 획득된 환경 정보에 기반하여, 상기 공간을 탐색하도록 설정된 전자 장치.
  4. 제3항에 있어서,
    상기 프로세서는,
    상기 공간과 관련된 영상 정보를 상기 환경 정보로 획득하도록 설정된 전자 장치.
  5. 삭제
  6. 제1항에 있어서,
    상기 프로세서는,
    상기 태스크 수행과 관계되는 타겟 사용자의 식별에 실패한 경우, 상기 타겟 사용자의 식별을 위한 추가 발화를 요청하도록 설정된 전자 장치.
  7. 제1항에 있어서,
    외부 장치와 통신을 형성하도록 구성된 통신 회로를 더 포함하며,
    상기 프로세서는,
    상기 제1 데이터를 상기 외부 장치로 제공하고,
    상기 제1 데이터에 대한 응답으로 상기 외부 장치로부터 상기 제2 데이터를 수신하도록 설정된 전자 장치.
  8. 전자 장치의 동작 방법에 있어서,
    제1 위치에서 태스크(task) 수행을 지시하는 발화를 수신하는 동작;
    상기 발화와 관계되는 제1 데이터에 기반하여, 상기 태스크 수행과 관련한 동작 시퀀스 및 상기 동작 시퀀스를 수행하는데 요구되는 적어도 하나의 파라미터를 포함하는 제2 데이터를 획득하는 동작;
    상기 적어도 하나의 파라미터에 기초하여 상기 전자 장치에 저장된 복수의 사용자 중 상기 태스크 수행과 관계되는 타겟 사용자를 식별하는 동작;
    상기 복수의 사용자 각각에 관계되는 정보를 포함하는 데이터베이스에 기초하여, 상기 식별된 타겟 사용자와 관련된 공간을 확인하고,
    상기 전자 장치를 상기 제1 위치에서 상기 확인된 공간과 관련된 제2 위치로 이동시키는 동작;
    상기 제2 위치로의 이동에 기반하여, 상기 확인된 공간을 탐색하는 동작;
    상기 확인된 공간에 대한 탐색 동작에 기반하여, 상기 공간에 존재하는 사람을 식별하는 동작;
    상기 공간에 존재하는 사람을 식별하는 것에 응답하여, 상기 식별된 사람이 상기 타겟 사용자에 대응되는지 확인하는 동작;
    상기 식별된 사람이 상기 타겟 사용자에 대응되면, 상기 동작 시퀀스에 기반하여 태스크를 수행하는 동작; 및
    상기 식별된 사람이 상기 타겟 사용자에 대응되지 않으면, 상기 식별된 사람에게 상기 타겟 사용자의 위치를 문의하는 정보를 출력하고, 상기 제1 위치로 상기 전자 장치를 이동시킨 후 상기 타겟 사용자의 인식 실패를 나타내는 탐색 결과를 제공하는 동작을 포함하는 방법.
  9. 제8항에 있어서,
    상기 식별된 사람이 상기 타겟 사용자에 대응되면, 상기 타겟 사용자를 기준으로 지정된 임계 거리 범위 내의 제3 위치로 상기 전자 장치를 이동시키는 동작; 및,
    상기 제3 위치로의 이동이 감지되면 상기 동작 시퀀스에 기반하여 태스크를 수행하는 동작을 포함하는 방법.
  10. ◈청구항 10은(는) 설정등록료 납부시 포기되었습니다.◈
    제8항에 있어서,
    상기 제2 위치에서, 상기 전자 장치를 지정된 각도로 회전시키는 동작;
    상기 전자 장치를 지정된 각도로 회전되는 동안, 상기 공간과 관련된 환경 정보를 획득하는 동작; 및
    상기 획득된 환경 정보에 기반하여, 상기 공간을 탐색하는 동작을 포함하는 방법.
  11. ◈청구항 11은(는) 설정등록료 납부시 포기되었습니다.◈
    제10항에 있어서,
    상기 공간과 관련된 영상 정보를 상기 환경 정보로 획득하는 동작을 포함하는 방법.
  12. 삭제
  13. 제8항에 있어서,
    상기 태스크 수행과 관계되는 타겟 사용자의 식별에 실패한 경우, 상기 타겟 사용자의 식별을 위한 추가 발화를 요청하는 동작을 포함하는 방법.
  14. 제8항에 있어서,
    상기 제1 데이터를 외부 장치로 제공하는 동작; 및
    상기 제1 데이터에 대한 응답으로 상기 외부 장치로부터 상기 제2 데이터를 수신하는 동작을 포함하는 방법.


  15. 삭제
  16. 삭제
  17. 삭제
  18. 삭제
  19. 삭제
  20. 삭제
KR1020190019546A 2019-02-19 2019-02-19 사용자 입력 처리 방법 및 이를 지원하는 전자 장치 KR102740847B1 (ko)

Priority Applications (3)

Application Number Priority Date Filing Date Title
KR1020190019546A KR102740847B1 (ko) 2019-02-19 2019-02-19 사용자 입력 처리 방법 및 이를 지원하는 전자 장치
PCT/KR2020/002327 WO2020171548A1 (ko) 2019-02-19 2020-02-18 사용자 입력 처리 방법 및 이를 지원하는 전자 장치
US17/406,727 US12197204B2 (en) 2019-02-19 2021-08-19 User input processing method and electronic device supporting same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020190019546A KR102740847B1 (ko) 2019-02-19 2019-02-19 사용자 입력 처리 방법 및 이를 지원하는 전자 장치

Publications (2)

Publication Number Publication Date
KR20200101221A KR20200101221A (ko) 2020-08-27
KR102740847B1 true KR102740847B1 (ko) 2024-12-13

Family

ID=72144125

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020190019546A KR102740847B1 (ko) 2019-02-19 2019-02-19 사용자 입력 처리 방법 및 이를 지원하는 전자 장치

Country Status (3)

Country Link
US (1) US12197204B2 (ko)
KR (1) KR102740847B1 (ko)
WO (1) WO2020171548A1 (ko)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102740847B1 (ko) * 2019-02-19 2024-12-13 삼성전자주식회사 사용자 입력 처리 방법 및 이를 지원하는 전자 장치
FR3103955A1 (fr) * 2019-11-29 2021-06-04 Orange Dispositif et procédé d’analyse environnementale, et dispositif et procédé d’assistance vocale les implémentant
US12002458B1 (en) * 2020-09-04 2024-06-04 Amazon Technologies, Inc. Autonomously motile device with command processing
US12117838B1 (en) * 2021-03-31 2024-10-15 Amazon Technologies, Inc. Object tracking and entity resolution
KR20240027364A (ko) * 2022-08-23 2024-03-04 삼성전자주식회사 사용자의 위치를 식별하기 위한 전자 장치 및 그 제어 방법
KR20240132972A (ko) * 2023-02-27 2024-09-04 삼성전자주식회사 사용자의 위치에 기반하여 미디어 콘텐트를 표시하기 위한 전자 장치, 방법, 및 컴퓨터 판독 가능 저장 매체

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180288104A1 (en) 2017-03-30 2018-10-04 Intel Corporation Methods, systems and apparatus to enable voice assistant device communication

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20140254896A1 (en) 2011-07-18 2014-09-11 Tiger T G Zhou Unmanned drone, robot system for delivering mail, goods, humanoid security, crisis negotiation, mobile payments, smart humanoid mailbox and wearable personal exoskeleton heavy load flying machine
JP4026758B2 (ja) * 2002-10-04 2007-12-26 富士通株式会社 ロボット
KR20040042242A (ko) * 2002-11-13 2004-05-20 삼성전자주식회사 홈서버를 이용하는 홈로봇 및 이를 포함하는 홈네트워크시스템
US20050131645A1 (en) 2003-06-09 2005-06-16 Panopoulos Peter J. Machine having automatic transport with scanning and GPS functions
JP4257230B2 (ja) * 2004-02-26 2009-04-22 株式会社東芝 移動ロボット
JP4266211B2 (ja) * 2005-03-23 2009-05-20 株式会社東芝 ロボット装置、ロボット装置の移動方法、および、プログラム
JP4455417B2 (ja) * 2005-06-13 2010-04-21 株式会社東芝 移動ロボット、プログラム及びロボット制御方法
US20090143910A1 (en) 2007-12-03 2009-06-04 Electronics And Telecommunications Research Institute Intelligent printing system with delivery robots for delivering printed documents and method therefor
US9259842B2 (en) 2011-06-10 2016-02-16 Microsoft Technology Licensing, Llc Interactive robot initialization
JP5765153B2 (ja) 2011-09-12 2015-08-19 日本電気株式会社 人物監視システム、ロボット、人物監視方法およびロボット制御プログラム
KR101505078B1 (ko) * 2013-02-27 2015-03-23 주식회사 케이티 이동 로봇에서의 퀴즈 게임 서비스 제공 방법 및 이를 위한 이동 로봇
KR102071575B1 (ko) * 2013-04-23 2020-01-30 삼성전자 주식회사 이동로봇, 사용자단말장치 및 그들의 제어방법
US9557740B2 (en) 2013-07-02 2017-01-31 David Crawley Autonomous mobile platform for service applications
US9471059B1 (en) * 2015-02-17 2016-10-18 Amazon Technologies, Inc. Unmanned aerial vehicle assistant
US20170090456A1 (en) * 2015-09-25 2017-03-30 Multimedia Image Solution Limited Autonomous cleaning robot
AU2017285019B2 (en) * 2016-06-15 2022-11-10 Irobot Corporation Systems and methods to control an autonomous mobile robot
KR20180038871A (ko) * 2016-10-07 2018-04-17 엘지전자 주식회사 공항용 로봇 및 그의 동작 방법
WO2018094272A1 (en) * 2016-11-18 2018-05-24 Robert Bosch Start-Up Platform North America, LLC, Series 1 Robotic creature and method of operation
KR101907548B1 (ko) 2016-12-23 2018-10-12 한국과학기술연구원 휴먼 추종을 위한 이동로봇의 주행 및 탐색방법
KR102616403B1 (ko) 2016-12-27 2023-12-21 삼성전자주식회사 전자 장치 및 그의 메시지 전달 방법
US10574945B1 (en) * 2017-02-03 2020-02-25 Alarm.com Incorported Asset management monitoring
WO2018151933A1 (en) * 2017-02-16 2018-08-23 Walmart Apollo, Llc Unmanned aerial/ground vehicle (uagv) detection system and method
US10754351B2 (en) * 2017-02-28 2020-08-25 Toyota Jidosha Kabushiki Kaisha Observability grid-based autonomous environment search
CN110462546A (zh) * 2017-03-28 2019-11-15 日本电产株式会社 移动体
KR102416782B1 (ko) 2017-03-28 2022-07-05 삼성전자주식회사 음성 인식 서비스 운용 방법 및 이를 지원하는 전자 장치
US11215464B2 (en) * 2017-04-10 2022-01-04 Mitsubishi Electric Corporation Map management device and autonomous mobile body control device
KR101966253B1 (ko) * 2017-06-09 2019-04-05 네이버 주식회사 무빙 디바이스를 이용하여 사용자의 위치 및 공간에 알맞은 정보를 제공하는 방법 및 장치
KR102391914B1 (ko) * 2017-06-30 2022-04-27 엘지전자 주식회사 이동 로봇의 동작 방법
US10606269B2 (en) * 2017-12-19 2020-03-31 X Development Llc Semantic obstacle recognition for path planning
US11687869B2 (en) * 2018-02-22 2023-06-27 Flytrex Aviation Ltd. System and method for securing delivery using an autonomous vehicle
WO2019163279A1 (ja) * 2018-02-26 2019-08-29 ソニー株式会社 情報処理装置、情報処理方法、およびプログラム
JP7102169B2 (ja) * 2018-02-28 2022-07-19 パナソニックホールディングス株式会社 装置、ロボット、方法、及びプログラム
US20190278294A1 (en) * 2018-03-07 2019-09-12 Casio Computer Co., Ltd. Autonomous mobile apparatus, autonomous move method, and recording medium
US20210018912A1 (en) * 2018-04-10 2021-01-21 Fetch Robotics, Inc. Robot Management System
US10852724B2 (en) * 2018-04-30 2020-12-01 DJI Research LLC Customizable waypoint missions
KR101919354B1 (ko) * 2018-07-05 2018-11-16 주식회사 스토리안트 기계학습과 음성인식 기반의 스마트폰 착탈식 지능형 이동로봇 시스템
US20210141381A1 (en) * 2018-07-06 2021-05-13 Sony Corporation Information processing device, information processing system, behavior planning method, and computer program
US11460849B2 (en) * 2018-08-09 2022-10-04 Cobalt Robotics Inc. Automated route selection by a mobile robot
JP7205148B2 (ja) * 2018-10-04 2023-01-17 カシオ計算機株式会社 ロボット、制御方法、及び、プログラム
US11433546B1 (en) * 2018-10-24 2022-09-06 Amazon Technologies, Inc. Non-verbal cuing by autonomous mobile device
CA3121788A1 (en) * 2018-12-07 2020-06-11 Serve Robotics Inc. Delivery robot
KR20200076438A (ko) * 2018-12-19 2020-06-29 삼성전자주식회사 사용자의 액티비티를 추적하는 전자 장치 및 전자 장치의 동작 방법
US20200201338A1 (en) * 2018-12-24 2020-06-25 Harmonicareu co., Ltd. Hospital Automated Guided Vehicle and Method of Operating the Same
WO2020145189A1 (ja) * 2019-01-12 2020-07-16 株式会社Ｚｍｐ 自律走行車両、配送システム、及びプログラム
KR20200094396A (ko) * 2019-01-30 2020-08-07 삼성전자주식회사 전자 장치 및 복수의 액션들을 포함하는 태스크를 결정하는 방법
KR102740847B1 (ko) * 2019-02-19 2024-12-13 삼성전자주식회사 사용자 입력 처리 방법 및 이를 지원하는 전자 장치
US12202125B2 (en) * 2021-11-19 2025-01-21 Google Llc Robotic computing device with adaptive user-interaction

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20180288104A1 (en) 2017-03-30 2018-10-04 Intel Corporation Methods, systems and apparatus to enable voice assistant device communication

Also Published As

Publication number Publication date
KR20200101221A (ko) 2020-08-27
US20210383806A1 (en) 2021-12-09
WO2020171548A1 (ko) 2020-08-27
US12197204B2 (en) 2025-01-14

Similar Documents

Publication Publication Date Title
KR102740847B1 (ko) 사용자 입력 처리 방법 및 이를 지원하는 전자 장치
CN111699528B (zh) 电子装置及执行电子装置的功能的方法
US10832674B2 (en) Voice data processing method and electronic device supporting the same
KR102411766B1 (ko) 음성 인식 서비스를 활성화하는 방법 및 이를 구현한 전자 장치
US11004451B2 (en) System for processing sound data and method of controlling system
KR102717792B1 (ko) 전자 장치의 기능 실행 방법 및 이를 사용하는 전자 장치
KR102347208B1 (ko) 외부 장치를 이용한 태스크 수행 방법 및 이를 지원하는 전자 장치, 서버 및 저장 매체
US11804224B2 (en) Electronic device and method for operation thereof
CN111919248B (zh) 用于处理用户发声的系统及其控制方法
CN112331196A (zh) 管理多个智能代理的电子设备及其操作方法
US20200257496A1 (en) Electronic device for providing voice-based service using external device, external device and operation method thereof
CN112639962A (zh) 处理用户话语的电子设备及其控制方法
CN113330392A (zh) 用于确定包括多个动作的任务的电子装置和方法
CN112912955B (zh) 提供基于语音识别的服务的电子装置和系统
KR102629796B1 (ko) 음성 인식의 향상을 지원하는 전자 장치
KR20200093094A (ko) 전자 장치 및 그 제어 방법
KR20200043642A (ko) 동작 상태에 기반하여 선택한 마이크를 이용하여 음성 인식을 수행하는 전자 장치 및 그의 동작 방법
US12183327B2 (en) Voice recognition service operating method and electronic device supporting same
US11749271B2 (en) Method for controlling external device based on voice and electronic device thereof
CN111640429A (zh) 提供语音识别服务的方法和用于该方法的电子装置
KR20200076438A (ko) 사용자의 액티비티를 추적하는 전자 장치 및 전자 장치의 동작 방법
KR20190101100A (ko) 음성 입력 처리 방법 및 이를 지원하는 전자 장치
CN112119372B (zh) 电子设备及其控制方法
US11127400B2 (en) Electronic device and method of executing function of electronic device
CN112219235A (zh) 包括处理用户语音的电子设备和控制电子设备上语音识别的方法的系统

Legal Events

Date Code Title Description
PA0109 Patent application

Patent event code: PA01091R01D

Comment text: Patent Application

Patent event date: 20190219

PG1501 Laying open of application
A201 Request for examination
PA0201 Request for examination

Patent event code: PA02012R01D

Patent event date: 20211222

Comment text: Request for Examination of Application

Patent event code: PA02011R01I

Patent event date: 20190219

Comment text: Patent Application

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

Comment text: Notification of reason for refusal

Patent event date: 20231110

Patent event code: PE09021S01D

E601 Decision to refuse application
PE0601 Decision on rejection of patent

Patent event date: 20240708

Comment text: Decision to Refuse Application

Patent event code: PE06012S01D

PX0701 Decision of registration after re-examination

Patent event date: 20241016

Comment text: Decision to Grant Registration

Patent event code: PX07013S01D

X701 Decision to grant (after re-examination)
PG1601 Publication of registration