Nothing Special   »   [go: up one dir, main page]

CN104023208A - 一种自动监测与自主反应的装置及方法 - Google Patents

一种自动监测与自主反应的装置及方法 Download PDF

Info

Publication number
CN104023208A
CN104023208A CN201410247458.7A CN201410247458A CN104023208A CN 104023208 A CN104023208 A CN 104023208A CN 201410247458 A CN201410247458 A CN 201410247458A CN 104023208 A CN104023208 A CN 104023208A
Authority
CN
China
Prior art keywords
audio
information
video
specific action
action
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410247458.7A
Other languages
English (en)
Other versions
CN104023208B (zh
Inventor
宋晨枫
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shanghai Xiaodu Technology Co Ltd
Original Assignee
Beijing Small Fish Science And Technology Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Small Fish Science And Technology Ltd filed Critical Beijing Small Fish Science And Technology Ltd
Priority to CN201410247458.7A priority Critical patent/CN104023208B/zh
Publication of CN104023208A publication Critical patent/CN104023208A/zh
Priority to US15/316,451 priority patent/US10445587B2/en
Priority to PCT/CN2014/086571 priority patent/WO2015184700A1/zh
Application granted granted Critical
Publication of CN104023208B publication Critical patent/CN104023208B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/24Classification techniques
    • G06F18/241Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2415Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on parametric or probabilistic models, e.g. based on likelihood ratio or false acceptance rate versus a false rejection rate
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/41Higher-level, semantic clustering, classification or understanding of video scenes, e.g. detection, labelling or Markovian modelling of sport events or news items
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/40Scenes; Scene-specific elements in video content
    • G06V20/48Matching video sequences
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V30/00Character recognition; Recognising digital ink; Document-oriented image-based pattern recognition
    • G06V30/10Character recognition
    • G06V30/19Recognition using electronic means
    • G06V30/191Design or setup of recognition systems or techniques; Extraction of features in feature space; Clustering techniques; Blind source separation
    • G06V30/19173Classification techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/20Movements or behaviour, e.g. gesture recognition
    • GPHYSICS
    • G10MUSICAL INSTRUMENTS; ACOUSTICS
    • G10LSPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
    • G10L17/00Speaker identification or verification techniques
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/188Capturing isolated or intermittent images triggered by the occurrence of a predetermined event, e.g. an object reaching a predetermined position
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Health & Medical Sciences (AREA)
  • Human Computer Interaction (AREA)
  • Psychiatry (AREA)
  • Software Systems (AREA)
  • Computational Linguistics (AREA)
  • Social Psychology (AREA)
  • Data Mining & Analysis (AREA)
  • General Health & Medical Sciences (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Evolutionary Biology (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Probability & Statistics with Applications (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Artificial Intelligence (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Acoustics & Sound (AREA)
  • Alarm Systems (AREA)
  • Measurement Of The Respiration, Hearing Ability, Form, And Blood Characteristics Of Living Organisms (AREA)

Abstract

本发明公开了一种自动监测与自主反应的装置及方法。该装置包括:视频采集单元,用于实时采集并发送视频信息;音频采集单元,用于实时采集并发送音频信息;处理设备,用于响应于所接收的视频、音频信息,对视频、音频信息的内容进行识别并发出指令信息;反应器,用于接收所述指令信息并按照所述指令信息作出反应。与现有技术相比,本发明使得摄像监控系统监视到某些情况时能够自动处理和自主反应,而不需要人的干预。

Description

一种自动监测与自主反应的装置及方法
技术领域
本发明涉及通信技术,尤其涉及一种自动监测与自主反应的装置及方法。
背景技术
现有技术中,存在着一种家庭摄像监控系统。在家庭中安装有摄像头,在监视端的屏幕上显示采集到的视频。但是,这种家庭摄像监控系统仅能执行监视功能。如果监视到某种情况需要处理时,仍需要人来处理。
发明内容
本发明解决的技术问题之一是使得摄像监控系统监视到某些情况时能够自动处理和自主反应,而不需要人的干预。
根据本发明的一个方面的一个实施例,提供了一种自动监测与自主反应装置,包括:视频采集单元、音频采集单元、处理设备以及反应器。视频采集单元、音频采集单元分别采集并发送视、音频信息。处理设备响应于所接收的视、音频信息,对视、音频信息的内容进行识别并向反应器发出指令信息。反应器接收到指令信息,按照指令信息作出反应。
根据本发明的一个实施例,所述反应器包括以下中的一个或多个:致动器,用于响应于所述指令信息是要求产生特定反应动作的信息,产生特定反应动作;扬声器,用于响应于所述指令信息是要求发出特定反应声音的信息,发出特定反应声音;显示器,用于响应于所述指令信息是要求显示特定反应画面的信息,显示特定反应画面。
根据本发明的一个实施例,所述处理设备耦合或包含有存储器,用于存储监测和反应记录,且响应于调取请求,处理设备调取存储器上的相关记录。
根据本发明的一个实施例,所述处理设备从视频采集单元、音频采集单元采集到的视频、音频信息中识别出人的特定动作或特定人的特定动作,并发出与该人的特定动作或特定人的特定动作对应的指令信息。
根据本发明的一个实施例,所述人或特定人是基于人脸识别、身高识别、声音识别中的一个或多个来识别的。
根据本发明的一个实施例,处理设备还接收携带手机发出的无线信号,基于该无线信号中标明的携带手机的身份,来识别人或特定人。
根据本发明的一个实施例,特定动作是通过事先为特定动作建立模型,并从视频采集单元、音频采集单元分别采集到的视频、音频信息中搜索与建立的模型的匹配识别的。
根据本发明的一个实施例,所述模型是通过自学习的方式产生的。
根据本发明的一个实施例,所述模型是预先输入的标准化的模型。
根据本发明的一个实施例,自动监测与自主反应装置还包括深度传感器,所述特定动作是基于视频采集单元、音频采集单元分别采集到的视频、音频以及深度传感器感测的深度识别的。
根据本发明的一个实施例,处理设备响应于识别出的特定动作和/或特定人的特定动作,匹配存储器中的模型,预测下一步可能产生的动作,向致动器发出与该预测的动作对应的指令信息,致动器基于该指令信息产生该预测的动作。
根据本发明的一个实施例,存储器还存储与特定动作和/或特定人的特定动作对应的限制条件、以及如果该限制条件被满足应采取的强制动作,处理设备响应于识别出的特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的限制条件,判断该限制条件是否被满足,且响应于判断出该限制条件未被满足,向致动器发出对应于该强制动作的指令信息,致动器基于该指令信息产生该强制的动作。
根据本发明的一个实施例,存储器还存储与特定动作和/或特定人的特定动作对应的限制条件,处理设备响应于识别出的特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的限制条件,判断该限制条件是否被满足,且响应于判断出该限制条件未被满足,向扬声器或显示器发出指示提醒的指令信息,扬声器或显示器基于该指令信息发出提醒声音或显示提醒画面。
根据本发明的一个实施例,存储器还存储与特定动作和/或特定人的特定动作对应的互动声音或画面,处理设备响应于识别出的特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的互动声音或画面,向扬声器或显示器发出对应于该互动声音或画面的指令信息,由扬声器基于该指令信息产生该互动声音,或由显示器基于该指令信息显示该互动画面。
根据本发明的另一个方面的一个实施例,提供了一种自动监测与自主反应的方法,包括以下步骤:采集环境的视频、音频信息;响应于所采集的视频、音频信息,对视频、音频信息的内容进行识别;基于识别结果做出反应。
根据本发明的一个实施例,所述反应包括以下中的一个或多个:产生特定反应动作;发出特定反应声音;显示特定反应画面。
根据本发明的一个实施例,响应于所采集的视频、音频信息,对视频、音频信息的内容进行识别的内容包括:从采集到的视频、音频信息中识别出特定动作和/或特定人的特定动作。
根据本发明的一个实施例,所述人或特定人是基于人脸识别、身高识别、声音识别中的一个或多个来识别的。
根据本发明的一个实施例,该方法还包括接收携带手机发出的无线信号,且所述人或特定人是基于该无线信号中标明的携带手机的身份来识别的。
根据本发明的一个实施例,所述特定动作基于所采集的视频、音频信息和深度传感器感测的深度进行识别。
根据本发明的一个实施例,特定动作是通过事先为特定动作建立模型,并从采集到的视频、音频信息中搜索与建立的模型的匹配识别的。
根据本发明的一个实施例,所述模型是通过自学习的方式产生的。
根据本发明的一个实施例,所述模型是预先输入的标准化的模型。
由于本发明的一个实施例能够对采集到的视、音频信息内容进行识别,并按照识别出的视、音频信息的内容作出反应,因此实现了摄像监控系统监视到某些情况时能够自动处理和反应而不需要人的干预的效果。
本领域普通技术人员将了解,虽然下面的详细说明将参考图示实施例、附图进行,但本发明并不仅限于这些实施例。而是,本发明的范围是广泛的,且意在仅通过后附的权利要求限定本发明的范围。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本发明的其它特征、目的和优点将会变得更明显:
图1示出了根据本发明一个实施例的自动监测与自主反应装置的示意性框图;
图2示出了根据本发明一个实施例的自动监测与自主反应装置的外部正视图;
图3示出了根据本发明一个实施例的自动监测与自主反应装置的外部左视图;
图4示出了根据本发明一个实施例的自动监测与自主反应方法的流程图;
图5示出了根据本发明的一个实施例的行为模式触发的预测执行系统的示意性框图;
图6示出了根据本发明的一个实施例的行为模式触发的纠正致动系统的示意性框图;
图7示出了根据本发明的一个实施例的行为模式触发的报警系统的示意性框图;
图8示出了根据本发明的一个实施例的行为模式触发的互动系统的示意性框图。
附图中相同或相似的附图标记代表相同或相似的部件。
具体实施方式
下面结合附图对本发明作进一步详细描述。
图1示出了根据本发明一个实施例的自动监测与自主反应装置(nemo)1的示意性框图。根据本发明一个实施例的自动监测与自主反应装置1包括视频采集单元101、音频采集单元102、处理设备105以及反应器107。视频采集单元101、音频采集单元102分别实时采集视、音频并将其发送给处理设备105。处理设备105响应于所接收的视、音频信息,对视、音频信息的内容进行识别并向反应器107发出指令信息。反应器107接收到指令信息,按照指令信息作出反应。
视频采集单元是指用于视频采集的装置,例如摄像头、摄像机、有摄像功能的手机等。音频采集单元是指用于音频采集的装置,例如麦克风、录音机、有录音功能的手机等。处理设备是指具有数据处理、分析功能的设备,用来接收视频采集单元、音频采集单元发送来的视、音频信息,并对所述视、音频信息进行处理、识别,发出对应指令信息,例如一个CPU芯片、一台计算机或多台计算机组成的处理中心。
所述处理设备耦合或包含有存储器1051,用于存储监测和反应记录。响应于调取请求,处理设备105调取存储器1051上的相关记录。
如图5所示,反应器107可以包括有以下中的一个或多个:致动器1071、扬声器1072、显示器1073。致动器1071例如是窗帘开关、电灯开关、热水器开关等,用于响应于所述指令信息是要求产生特定反应动作的信息,产生特定反应动作。所述扬声器1072例如是电脑音箱、外设独立音箱、扩音器等,用于响应于所述指令信息是要求发出特定反应声音的信息,发出特定反应声音。所述显示器1073例如是电脑屏幕、电视屏幕、外接显示屏等,用于响应于所述指令信息是要求显示特定反应画面的信息,显示特定反应画面。
反应器中包括的多种类型增加了反应的种类和灵活性,提高了用户体验。
图2示出了根据本发明一个实施例的自动监测与自主反应装置的外部正视图。在该实施例中,视频采集单元101是位于显示器1073上端的摄像头。处理设备105封闭在底座中。
在工作过程中,视频采集单元101、音频采集单元102将其采集到的视、音频信息发送给处理设备105,处理设备105对接收到的视、音频信息进行识别,识别出人的特定动作或特定人的特定动作,向反应器107发出对应的指令信息,指令致动器1071、扬声器1072、显示器1073中的一个或多个完成反应动作。所述指令信息可以是产生特定动作的指令信息,发出特定声音的指令信息或者是显示特定画面的指令信息。
这样,就可以实现自动监视环境中是否出现了特定动作,或特定人是否执行了特定动作,一旦特定动作发生,就产生相应的反应的有益效果。
所述自动监测与自主反应装置1可以通过视频采集单元101、音频采集单元102以及其他装置或单元,基于人脸识别、身高识别、声音识别、携带手机发出的无线信号表明的身份中的一个或多个来识别人或特定人。多种识别人的方式结合相比于只靠单一的方式识别,增加了识别人的准确度。
在识别人的情况下,由于人脸的模式是很像的,绝大多数人的身高也是在特定范围内、人的声音频率也是在特定范围内,因此,例如当拍摄的图像中的某一区域与存储的人脸的模式类似,且/或结合位置传感器和/或深度传感器感测到的人脸与自动监测与反应装置1的距离判断出其身高在特定范围内,且/或音频采集单元102采集到的音频也在特定范围内,可识别出人的存在。
在识别特定人的情况下,可以预先将特定人的人脸的模式和/或身高和/或声音频率存储在存储器中。当拍摄的图像中的某一区域与存储的该特定人脸的模式匹配,且/或结合位置传感器和/或深度传感器感测到的该特定人脸与自动监测与自主反应装置1的距离判断出其身高与存储的身高匹配,且/或音频采集单元102采集到的音频的匹配与存储的改特定人的声音的频率匹配时,可识别出特定人的存在。
识别人或特定人的存在也可以采用自学习的方法。例如,如果拍摄的图像中的某个模式与采集到的声音的某个频率总是同时出现,可以在显示器上显示提示,即识别到了人,请自动监测与自主反应装置1旁的人判断并命名。如果实况自动监测与自主反应装置1旁的人发现识别错误,则在显示器的界面上反馈。接收到这种反馈后,在下一次拍摄的图像中的这种模式与采集到的声音的这种频率同时出现时就不认为出现了人或特定人。在自学习的方式下,也可以预先不将特定人的人脸的模式和/或身高和/或声音频率存储在存储器中。
另外,也可以基于携带手机发出的无线信号表明的身份识别人或特定人。例如自动监测与自主反应装置1具有蓝牙设备,用户的手机中也具有蓝牙无线单元。当自动监测与自主反应装置1识别出特定身份的蓝牙无线单元出现在一定距离内时,则认为识别出了特定人。
特定动作是通过事先为特定动作建立模型,并从视频采集单元101、音频采集单元102分别采集到的视频、音频信息中搜索与建立的模型的匹配识别的。
可选地,所述模型是预先输入的标准化的模型,即人为地事先设定并根据设定的动作建立模型。例如,对于看电视这样一个动作,建立一个模型:识别出一个人坐在沙发上;顺着该人的目光方向看去,有一个物体;识别出该物体是电视;该人目光停留在电视上至少10秒。如果从视频采集单元101拍摄的图像中检测到人,然后检测到此人坐在沙发上(沙发的识别类似人脸识别,也可以通过模式匹配进行,也可以将人坐在沙发上的图像整体作为一个对象进行模式匹配识别),然后检测此人的目光方向,然后检测此人目光方向上的物体是否是电视(例如将电视作为一个对象进行模式匹配),如果是则计数10秒。如果达到10秒则认为检测到了看电视这样一个动作。
当然,所述处理设备105也可以通过机器学习等自学习的方式自动建立动作模型。例如,处理设备105从视频采集单元101、音频采集单元102所采集的视、音频中提取动作特征,并基于提取的特征建立动作模型。例如,从视频采集单元101、音频采集单元102所采集的视、音频中发现有一个人坐在沙发上、顺着此人目光看去的方向有一个电视、在此人目光停留在电视上的事件超过10秒的频率超过阈值,则认为这是一个特定动作的模型。在这种情况下,动作模型可以不预先存储在存储器中,而是根据从视频采集单元101、音频采集单元102所采集的视、音频以学习的方式提取动作的模型。
为了更准确地识别出特定动作,所述自动监测与自主反应装置1还包括深度传感器197,由视频采集单元101、音频采集单元102以及深度传感器通过采集的视、音频以及感测的深度共同识别出特定动作。虽然在图2中深度传感器197位于显示器上部边框中心偏左的位置,其也可以设置在其他合理的位置。
深度传感器197感测人或物体与自动监测与自主反应装置1的距离。当人或物体发生一个动作的时候,同样的动作幅度由于与自动监测与自主反应装置1的距离不同在拍摄到的图像中产生的变化幅度会是不同的。因此,结合深度传感器,对动作能够进行更准确的识别,从而提高识别精度。
图3示出了根据本发明一个实施例的自动监测与自主反应装置的外部左视图。如图3所示,为了更好地采集信息,自动监测与自主反应装置1还可包括转动装置199,用于使视频采集单元101转动。优选地,响应于从视频采集单元101、音频采集单元102分别采集到的视、音频中识别出以下要素中的一个,转动装置199使视频采集单元101向着面对识别出的要素的方向转动:人或特定人;特定动作;异常状况。
在一个实施例中,图3所示的视频采集单元101可以向着识别出的要素左右转动。在另一个实施例中,图3所示的视频采集单元101可以向着识别出的要素上下左右转动。
继续参考图2,如图2所示,自动监测与自主反应装置1还可包括:光线传感器198,用于感测自动监测与自主反应装置1周围环境光线的变化,其中显示器1073的显示亮度是根据所述光线的变化调整的。如果周围光线比较强,可以将显示器的显示亮度增加。如果周围光线比较弱,可以将显示器的显示亮度减少。这样,可以减少眼睛观看显示器的不舒适感。
虽然图2中的光线传感器位于显示器上边框的中心偏右的位置处,但其也可以设置在任何其他的合理的位置处。
以下是本发明实施例的几个典型应用场景。
I.行为模式触发的预测执行系统
图5示出了根据本发明的一个实施例的行为模式触发的预测执行系统的示意性框图。在本实施例中,用户每次回到家里,每次都是先换拖鞋,然后走到窗帘处将窗帘拉开。本实施例的自动监测与自主反应装置1就会学习用户的行为模式,在用户回到家里,换拖鞋后,帮用户自动将窗帘拉开。
在此实施例中,致动器1071是窗帘开关。
图5的行为模式触发的预测执行的具体过程如下。存储器1051中存储着视频采集单元101、音频采集单元102等识别出的各个人的各个动作的记录。尽管一些动作不会产生反应器的反应,但这些动作仍然被记录在存储器1051中。当一些动作连续出现的次数超过一个预设的阈值,就把这些连续的动作记录在存储器1051中记录为模型。例如,当用户进门——换拖鞋——拉窗帘这一系列的动作出现超过10次,则将用户进门——换拖鞋——拉窗帘记录为模型。这时,当处理设备105根据视频采集单元101、音频采集单元102等采集的视、音频识别出家里人或家里的特定人进门、然后换拖鞋,则认为与存储器中存储的用户进门——换拖鞋——拉窗帘这一模型匹配,从而预测出下一步可能产生的动作是拉窗帘。因此,处理设备105向窗帘开关发出拉窗帘的指令信息,窗帘开关基于该指令信息拉上窗帘。
类型的应用场景还有例如,用户进门,走进洗手间的洗澡龙头下,摘下墙上挂着的洗澡用品,自动帮助用户打开洗澡龙头等。
II.行为模式触发的纠正致动系统
图6示出了根据本发明的一个实施例的行为模式触发的纠正致动系统的示意性框图。在本实施例中,家长预先设定小孩看电视不能超过3个小时。如果超过3个小时,电视自动关机。
在此实施例中,致动器1071是电视开关。
图6的行为模式触发的纠正致动系统的工作过程如下。
存储器1051存储与特定动作和/或特定人的特定动作对应的限制条件、以及如果该限制条件被满足应采取的强制动作。例如,前面提到的小孩看电视——不超过3小时——自动关机。
处理设备响应于从视频采集单元101、音频采集单元102采集的视、音频信息识别出特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的限制条件,判断该限制条件是否被满足,且响应于判断出该限制条件未被满足,向致动器1071发出对应于该强制动作的指令信息,致动器1071基于该指令信息产生强制动作。例如,处理设备识别出小孩在看电视后,在存储器1051中检索出小孩看电视——不超过3小时——自动关机这样一条信息,然后监视小孩看电视的时长,当超过3小时后,向电视开关发出关电视的指令。电视开关基于该指令关电视。
其它的应用场景例如还有,睡觉超过8小时自动开灯开窗让用户起床等。
III.行为模式触发的报警系统
图7示出了根据本发明的一个实施例的行为模式触发的报警系统的示意性框图。在本实施例中,当小孩看电视的时间超过3小时后,不是强制性关上电视,而是由扬声器发出提醒。
行为模式触发的报警系统的工作过程如下。
存储器1051存储与特定动作和/或特定人的特定动作对应的限制条件。例如,前面提到的小孩看电视——不超过3小时。
处理设备105响应于识别出的特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的限制条件,判断该限制条件是否被满足,且响应于判断出该限制条件未被满足,向扬声器1072发出指示提醒的指令信息。扬声器1072基于该指令信息发出提醒声音。例如,处理设备105识别出小孩在看电视后,在存储器1051中监视出小孩看电视——不超过3小时这一信息,监视小孩看电视的时长。当判断出超过3小时后,向扬声器发出指示,指示扬声器发出提醒。该提醒例如嘟嘟声。
另外,也可以录制好一段专用于该场景的提醒,例如“你看电视已经超过3小时了,该歇歇了”,与小孩看电视——不超过3小时相关联地存储在存储器中。处理设备105识别出小孩在看电视后,在存储器1051中监视出小孩看电视——不超过3小时——“你看电视已经超过3小时了,该歇歇了”这一信息,监视小孩看电视的时长。当判断出超过3小时后,向扬声器发出指示,指示扬声器发出“你看电视已经超过3小时了,该歇歇了”的语音提醒。
虽然图7中示出了扬声器1072,但也可以用显示器1073取代扬声器1072。当处理设备向显示器发出提示提醒的指令信息后,显示器基于该指令显示提醒画面。
IV.行为模式触发的互动系统
图8示出了根据本发明的一个实施例的行为模式触发的互动系统的示意性框图。在本实施例中,当家里的人走到洗衣机前时,显示器1073上自动显示洗衣机的操作步骤,供该人参考。
行为模式触发的互动系统的工作过程如下。
存储器1051存储与特定动作和/或特定人的特定动作对应的互动画面。例如人走到洗衣机面前——包含洗衣机的操作步骤的画面。
处理设备105响应于从视频采集单元101、音频采集单元102采集到的视、音频中识别到特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的互动画面,向显示器1073发出对应于该互动画面的指令信息,由显示器1073基于该指令信息显示该互动画面。例如,当处理设备105识别出人走到洗衣机面前时,在存储器1051中检索到人走到洗衣机面前——包含洗衣机的操作步骤的画面这一条目,向显示器1073发指令信息,由显示器显示包含洗衣机的操作步骤的画面。
当然,显示器1073可以被扬声器1072代替。即,存储器1051存储与特定动作和/或特定人的特定动作对应的互动声音。处理设备105响应于识别出的特定动作和/或特定人的特定动作,检索与该特定动作和/或特定人的特定动作对应的互动声音,向扬声器1072或显示器1073发出对应于该互动声音的指令信息,由扬声器1072基于该指令信息产生该互动声音。
根据本发明的一个实施例,为了更好地采集信息,视频采集单元101是可转动的。优选地,所述自动监测与自主反应装置1基于视频采集单元101、音频采集单元102所采集的视、音频识别出以下要素中的一个,视频采集单元101向着面对识别出的要素的方向转动:人或特定人;特定动作。
在一个实施例中,图3所示的视频采集单元101可以向着识别出的要素左右转动。在另一个实施例,图3所示的视频采集单元101可以向着识别出的要素上下左右转动。
图4示出了根据本发明一个实施例的自动监测与自主反应方法2的流程图。自动监测与自主反应方法2包括:
步骤S1:采集环境的视频、音频信息;
步骤S2:响应于所采集的视频、音频信息,对视频、音频信息的内容进行识别;
步骤S3:基于识别结果做出反应。
可选地,所述反应可包括以下中的一个或多个:产生特定反应动作;发出特定反应声音;显示特定反应画面。
可选地,响应于所采集的视频、音频信息,对视频、音频信息的内容进行识别的内容可包括:从采集到的视频、音频信息中识别出特定动作和/或特定人的特定动作。
可选地,所述人或特定人可以是基于人脸识别、身高识别、声音识别中的一个或多个来识别的。
可选地,该方法还可以包括接收携带手机发出的无线信号,且所述人或特定人是基于该无线信号中标明的携带手机的身份来识别的。
可选地,所述特定动作可基于所采集的视频、音频信息和深度传感器感测的深度进行识别。
可选地,特定动作可以是通过事先为特定动作建立模型,并从采集到的视频、音频信息中搜索与建立的模型的匹配识别的。
可选地,所述模型可以是通过自学习的方式产生的。
可选地,所述模型可以是预先输入的标准化的模型。
附图中的流程图和框图显示了根据本发明的多个实施例的系统、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的系统来实现,或者可以用专用硬件与计算机指令的组合来实现。
对于本领域技术人员而言,显然本发明不限于上述示范性实施例的细节,而且在不背离本发明的精神或基本特征的情况下,能够以其他的具体形式实现本发明。因此,无论从哪一点来看,均应将实施例看作是示范性的,而且是非限制性的,本发明的范围由所附权利要求而不是上述说明限定,因此旨在将落在权利要求的等同要件的含义和范围内的所有变化囊括在本发明内。不应将权利要求中的任何附图标记视为限制所涉及的权利要求。

Claims (10)

1.一种自动监测与自主反应装置(1),包括:
视频采集单元(101),用于实时采集并发送视频信息;
音频采集单元(102),用于实时采集并发送音频信息;
处理设备(105),用于响应于所接收的视频、音频信息,对视频、音频信息的内容进行识别并发出指令信息;
反应器(107),用于接收所述指令信息并按照所述指令信息作出反应。
2.根据权利要求1所述的自动监测与自主反应装置(1),其中所述反应器(107)包括以下中的一个或多个:
致动器(1071),用于响应于所述指令信息是要求产生特定反应动作的信息,产生特定反应动作;
扬声器(1072),用于响应于所述指令信息是要求发出特定反应声音的信息,发出特定反应声音;
显示器(1073),用于响应于所述指令信息是要求显示特定反应画面的信息,显示特定反应画面。
3.根据权利要求2所述的自动监测与自主反应装置(1),所述处理设备(105)耦合或包含有存储器(1051),用于存储监测和反应记录,且响应于调取请求,处理设备(105)调取存储器(1051)上的相关记录。
4.根据权利要求3所述的自动监测与自主反应装置(1),所述处理设备(105)从视频采集单元(101)、音频采集单元(102)采集到的视频、音频信息中识别出人的特定动作或特定人的特定动作,并发出与该人的特定动作或特定人的特定动作对应的指令信息。
5.根据权利要求4所述的自动监测与自主反应装置(1),其中所述人或特定人是基于人脸识别、身高识别、声音识别中的一个或多个来识别的。
6.根据权利要求4所述的自动监测与自主反应装置(1),其中处理设备(105)还接收携带手机发出的无线信号,基于该无线信号中标明的携带手机的身份,来识别人或特定人。
7.根据权利要求4所述的自动监测与自主反应装置(1),其中特定动作是通过事先为特定动作建立模型,并从视频采集单元(101)、音频采集单元(102)分别采集到的视频、音频信息中搜索与建立的模型的匹配识别的。
8.根据权利要求7所述的自动监测与自主反应装置(1),其中所述模型是通过自学习的方式产生的。
9.根据权利要求7所述的自动监测与自主反应装置(1),其中所述模型是预先输入的标准化的模型。
10.根据权利要求4所述的自动监测与自主反应装置(1),还包括深度传感器,所述特定动作是基于视频采集单元(101)、音频采集单元(102)分别采集到的视频、音频以及深度传感器感测的深度识别的。
CN201410247458.7A 2014-06-05 2014-06-05 一种自动监测与自主反应的装置及方法 Active CN104023208B (zh)

Priority Applications (3)

Application Number Priority Date Filing Date Title
CN201410247458.7A CN104023208B (zh) 2014-06-05 2014-06-05 一种自动监测与自主反应的装置及方法
US15/316,451 US10445587B2 (en) 2014-06-05 2014-09-15 Device and method for automatic monitoring and autonomic response
PCT/CN2014/086571 WO2015184700A1 (zh) 2014-06-05 2014-09-15 一种自动监测与自主反应的装置及方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410247458.7A CN104023208B (zh) 2014-06-05 2014-06-05 一种自动监测与自主反应的装置及方法

Publications (2)

Publication Number Publication Date
CN104023208A true CN104023208A (zh) 2014-09-03
CN104023208B CN104023208B (zh) 2019-07-05

Family

ID=51439752

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410247458.7A Active CN104023208B (zh) 2014-06-05 2014-06-05 一种自动监测与自主反应的装置及方法

Country Status (3)

Country Link
US (1) US10445587B2 (zh)
CN (1) CN104023208B (zh)
WO (1) WO2015184700A1 (zh)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104333686A (zh) * 2014-11-27 2015-02-04 天津天地伟业数码科技有限公司 基于人脸和声纹识别的智能监控摄像机及其控制方法
WO2015184700A1 (zh) * 2014-06-05 2015-12-10 北京小鱼儿科技有限公司 一种自动监测与自主反应的装置及方法
CN105957305A (zh) * 2016-07-17 2016-09-21 合肥赑歌数据科技有限公司 一种基于视觉识别和大数据技术的监狱反恐预警系统
CN106022294A (zh) * 2016-06-01 2016-10-12 北京光年无限科技有限公司 一种面向智能机器人的人机交互方法及装置
CN106101614A (zh) * 2016-06-07 2016-11-09 朱兰英 一种基于三维轮廓的室内巡逻估计分析系统
CN109190494A (zh) * 2018-08-09 2019-01-11 宁波工程学院 一种面向实时人体的检测系统
CN110176117A (zh) * 2019-06-17 2019-08-27 广东翔翼科技信息有限公司 一种基于行为识别技术的监控装置及监控方法
CN110503045A (zh) * 2019-08-26 2019-11-26 北京华捷艾米科技有限公司 一种人脸定位方法及装置
CN112066185A (zh) * 2020-09-17 2020-12-11 国家电网有限公司客户服务中心 一种用于客服人员工作信息采集监控设备

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104038717B (zh) * 2014-06-26 2017-11-24 北京小鱼在家科技有限公司 一种智能录制系统
CN107370983B (zh) * 2016-05-13 2019-12-17 腾讯科技(深圳)有限公司 用于视频监控系统的行踪轨迹的获取方法和装置
CN110826406A (zh) * 2019-10-08 2020-02-21 赵奕焜 一种基于深度学习模型的儿童高空防护方法

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101408754A (zh) * 2008-10-30 2009-04-15 中山大学 基于数据挖掘的智能家居优化系统
US20110001813A1 (en) * 2009-07-03 2011-01-06 Electronics And Telecommunications Research Institute Gesture recognition apparatus, robot system including the same and gesture recognition method using the same
CN102542739A (zh) * 2012-02-09 2012-07-04 苏州大学 一种视力保护方法及系统
CN102932212A (zh) * 2012-10-12 2013-02-13 华南理工大学 一种基于多通道交互方式的智能家居控制系统
CN202801140U (zh) * 2012-08-31 2013-03-20 华南理工大学 一种窗帘的智能手势和语音控制系统
CN103472796A (zh) * 2013-09-11 2013-12-25 厦门狄耐克电子科技有限公司 一种基于手势识别的智能家居系统

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6804396B2 (en) * 2001-03-28 2004-10-12 Honda Giken Kogyo Kabushiki Kaisha Gesture recognition system
US9183580B2 (en) * 2010-11-04 2015-11-10 Digimarc Corporation Methods and systems for resource management on portable devices
CN101807072B (zh) * 2010-04-01 2012-07-04 王建国 智能家庭监控系统
EP2407943B1 (en) * 2010-07-16 2016-09-28 Axis AB Method for event initiated video capturing and a video camera for capture event initiated video
CN102824092A (zh) * 2012-08-31 2012-12-19 华南理工大学 一种窗帘的智能手势和语音控制系统及其控制方法
KR102158208B1 (ko) * 2013-07-26 2020-10-23 엘지전자 주식회사 전자기기 및 그것의 제어 방법
US9886094B2 (en) * 2014-04-28 2018-02-06 Microsoft Technology Licensing, Llc Low-latency gesture detection
CN104023208B (zh) * 2014-06-05 2019-07-05 北京小鱼在家科技有限公司 一种自动监测与自主反应的装置及方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101408754A (zh) * 2008-10-30 2009-04-15 中山大学 基于数据挖掘的智能家居优化系统
US20110001813A1 (en) * 2009-07-03 2011-01-06 Electronics And Telecommunications Research Institute Gesture recognition apparatus, robot system including the same and gesture recognition method using the same
CN102542739A (zh) * 2012-02-09 2012-07-04 苏州大学 一种视力保护方法及系统
CN202801140U (zh) * 2012-08-31 2013-03-20 华南理工大学 一种窗帘的智能手势和语音控制系统
CN102932212A (zh) * 2012-10-12 2013-02-13 华南理工大学 一种基于多通道交互方式的智能家居控制系统
CN103472796A (zh) * 2013-09-11 2013-12-25 厦门狄耐克电子科技有限公司 一种基于手势识别的智能家居系统

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10445587B2 (en) 2014-06-05 2019-10-15 Ainemo Inc. Device and method for automatic monitoring and autonomic response
WO2015184700A1 (zh) * 2014-06-05 2015-12-10 北京小鱼儿科技有限公司 一种自动监测与自主反应的装置及方法
CN104333686B (zh) * 2014-11-27 2018-03-27 天地伟业技术有限公司 基于人脸和声纹识别的智能监控摄像机及其控制方法
CN104333686A (zh) * 2014-11-27 2015-02-04 天津天地伟业数码科技有限公司 基于人脸和声纹识别的智能监控摄像机及其控制方法
CN106022294A (zh) * 2016-06-01 2016-10-12 北京光年无限科技有限公司 一种面向智能机器人的人机交互方法及装置
CN106101614A (zh) * 2016-06-07 2016-11-09 朱兰英 一种基于三维轮廓的室内巡逻估计分析系统
CN105957305A (zh) * 2016-07-17 2016-09-21 合肥赑歌数据科技有限公司 一种基于视觉识别和大数据技术的监狱反恐预警系统
CN109190494A (zh) * 2018-08-09 2019-01-11 宁波工程学院 一种面向实时人体的检测系统
CN110176117A (zh) * 2019-06-17 2019-08-27 广东翔翼科技信息有限公司 一种基于行为识别技术的监控装置及监控方法
CN110176117B (zh) * 2019-06-17 2023-05-19 广东翔翼科技信息有限公司 一种基于行为识别技术的监控装置及监控方法
CN110503045A (zh) * 2019-08-26 2019-11-26 北京华捷艾米科技有限公司 一种人脸定位方法及装置
CN112066185A (zh) * 2020-09-17 2020-12-11 国家电网有限公司客户服务中心 一种用于客服人员工作信息采集监控设备
CN112066185B (zh) * 2020-09-17 2021-10-26 国家电网有限公司客户服务中心 一种用于客服人员工作信息采集监控设备

Also Published As

Publication number Publication date
WO2015184700A1 (zh) 2015-12-10
US10445587B2 (en) 2019-10-15
US20180039837A1 (en) 2018-02-08
CN104023208B (zh) 2019-07-05

Similar Documents

Publication Publication Date Title
CN104023208A (zh) 一种自动监测与自主反应的装置及方法
CN203812384U (zh) 一种智能家居报警装置
CN105282490A (zh) 一种新型空巢老人的智能家庭交互系统及方法
WO2015196582A1 (zh) 一种行为模式统计装置与方法
CN104104910A (zh) 一种进行双向实况共享与智能监控的终端及方法
KR101038370B1 (ko) 스마트폰과 유/무선 통신망을 이용한 놀이터 모니터링 시스템 및 그 제어방법
US10867217B1 (en) Fusion of visual and non-visual information for training deep learning models
US20160371950A1 (en) Information processing apparatus, information processing method, and program
CN205594741U (zh) 基于身份识别的智能门禁系统
US8681009B2 (en) Activity trend detection and notification to a caregiver
CN106101629A (zh) 输出图像的方法及装置
CN1404695A (zh) 选择最佳视频帧向一个远程站传送的用于基于cctv的住宅安全监控的方法和装置
CN106534785A (zh) 监控方法及装置
CN102509369A (zh) 嵌入式智能门禁系统
CN209375691U (zh) 家庭智能监控系统
WO2023280273A1 (zh) 一种控制方法和系统
CN101998081A (zh) 利用眼睛进行电视屏幕菜单选择的实现方法
KR101479271B1 (ko) 신생아 정보 전송 시스템 및 방법
US20160125318A1 (en) User-Assisted Learning in Security/Safety Monitoring System
CN105551189A (zh) 物联网设备智能看护方法
CN107016224A (zh) 用于老年保健陪伴的Nounou智能监护装置
CN105551188A (zh) 具有看护功能的物联网智能设备实现方法
CN112102574A (zh) 保密室智能报警系统
JP2017194971A (ja) 被監視者監視装置および該方法ならびに被監視者監視システム
CN202306668U (zh) 嵌入式智能门禁系统

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
CB02 Change of applicant information

Address after: 100088 room 2, building 5, Huayuan Road 2031, Haidian District, Beijing, China

Applicant after: Beijing fish in the home Technology Co., Ltd.

Address before: 100088 room 2, building 5, Huayuan Road 2031, Haidian District, Beijing, China

Applicant before: Beijing small fish Science and Technology Ltd.

CB02 Change of applicant information
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right

Effective date of registration: 20210705

Address after: 201210 4 / F, building 1, 701 Naxian Road, Shanghai pilot Free Trade Zone, Pudong New Area, Shanghai, China

Patentee after: Shanghai Xiaodu Technology Co.,Ltd.

Address before: 100088 room 2031, building 2, 5 Huayuan Road, Haidian District, Beijing.

Patentee before: AINEMO Inc.

TR01 Transfer of patent right