CN106650662B - 目标对象遮挡检测方法及装置 - Google Patents
目标对象遮挡检测方法及装置 Download PDFInfo
- Publication number
- CN106650662B CN106650662B CN201611191940.9A CN201611191940A CN106650662B CN 106650662 B CN106650662 B CN 106650662B CN 201611191940 A CN201611191940 A CN 201611191940A CN 106650662 B CN106650662 B CN 106650662B
- Authority
- CN
- China
- Prior art keywords
- face
- thermodynamic diagram
- neural network
- target object
- occlusion
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/50—Context or environment of the image
- G06V20/52—Surveillance or monitoring of activities, e.g. for recognising suspicious objects
- G06V20/53—Recognition of crowd images, e.g. recognition of crowd congestion
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/10—Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
- G06V40/16—Human faces, e.g. facial parts, sketches or expressions
- G06V40/161—Detection; Localisation; Normalisation
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Oral & Maxillofacial Surgery (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Human Computer Interaction (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Image Analysis (AREA)
Abstract
本发明提供了一种目标对象遮挡检测方法及装置,所述目标对象遮挡检测方法包括:接收输入图像;利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图;以及基于所述热力图检测所述目标对象是否存在遮挡。根据本发明实施例的目标对象遮挡检测方法及装置基于训练好的神经网络将输入图像中的目标对象转换为热力图,并通过热力图检测目标对象是否存在遮挡,可有效降低对目标对象的识别难度,提升识别精度和稳定性。
Description
技术领域
本发明涉及图像处理技术领域,更具体地涉及一种目标对象遮挡检测方法及装置。
背景技术
对于图像中某对象的识别而言,图像中所存在的对该对象的遮挡是一个严重的干扰因素,例如人脸识别时人脸上的口罩、眼镜、刘海、帽子、纹饰等会对人脸造成遮挡。另一方面,在一些应用中,如监控视频中的人脸识别中,会出现通过遮挡而有意干扰、对抗识别的情况。这些都将会严重影响识别的精度和稳定性。
由于遮挡的方式和类型的多种多样、难以穷尽,如果对每一个遮挡种类训练一个分类器,会使得工作量巨大,并严重受到数据量的约束。因此,需要一种能够检测图像中的对象是否存在遮挡的技术或系统。
发明内容
为了解决上述问题而提出了本发明。根据本发明一方面,提供了一种目标对象遮挡检测方法,所述目标对象遮挡检测方法包括:接收输入图像;利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图;以及基于所述热力图检测所述目标对象是否存在遮挡。
在本发明的一个实施例中,所述训练好的神经网络为全卷积神经网络。
在本发明的一个实施例中,所述全卷积神经网络基于将训练好的卷积神经网络的全连接层替换为卷积层而生成。
在本发明的一个实施例中,所述卷积层为1×1卷积层。
在本发明的一个实施例中,所述全卷积神经网络还包括上采样层。
在本发明的一个实施例中,所述上采样层的数目取决于所述输出的热力图的期望分辨率。
在本发明的一个实施例中,所述目标对象遮挡检测方法还包括:在输出所述热力图后,对所述热力图中的目标对象进行标注;并且所述对目标对象是否存在遮挡的检测是基于经所述标注后的热力图。
在本发明的一个实施例中,所述基于所述热力图检测所述目标对象是否存在遮挡的步骤包括:检测所述热力图中的目标对象的形状是否符合所述目标对象的类别的对象的形状;以及当所述热力图中的目标对象的形状符合所述目标对象的类别的对象的形状时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在本发明的一个实施例中,所述基于所述热力图检测所述目标对象是否存在遮挡的步骤包括:检测所述热力图中的目标对象的区域是否为连通区域;以及当检测到所述热力图中的目标对象的区域为连通区域时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在本发明的一个实施例中,所述目标对象遮挡检测方法还包括:当检测到所述热力图中的目标对象存在遮挡时,确定遮挡区域。
根据本发明另一方面,提供了一种目标对象遮挡检测装置,所述目标对象遮挡检测装置包括:接收模块,用于接收输入图像;热力图输出模块,用于利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图;以及遮挡检测模块,用于基于所述热力图检测所述目标对象是否存在遮挡。
在本发明的一个实施例中,所述训练好的神经网络为全卷积神经网络。
在本发明的一个实施例中,所述全卷积神经网络基于将训练好的卷积神经网络的全连接层替换为卷积层而生成。
在本发明的一个实施例中,所述卷积层为1×1卷积层。
在本发明的一个实施例中,所述全卷积神经网络还包括上采样层。
在本发明的一个实施例中,所述上采样层的数目取决于所述输出的热力图的期望分辨率。
在本发明的一个实施例中,所述目标对象遮挡检测装置还包括:自动标注模块,用于对所述热力图中的目标对象进行标注;并且所述遮挡检测模块还用于基于经所述标注后的热力图检测所述目标对象是否存在遮挡。
在本发明的一个实施例中,所述遮挡检测模块还用于:检测所述热力图中的目标对象的形状是否符合所述目标对象的类别的对象的形状;以及当所述热力图中的目标对象的形状符合所述目标对象的类别的对象的形状时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在本发明的一个实施例中,所述遮挡检测模块还用于:检测所述热力图中的目标对象的区域是否为连通区域;以及当检测到所述热力图中的目标对象的区域为连通区域时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在本发明的一个实施例中,所述遮挡检测模块还用于:当检测到所述热力图中的目标对象存在遮挡时,确定遮挡区域。
根据本发明实施例的目标对象遮挡检测方法及装置基于训练好的神经网络将输入图像中的目标对象转换为热力图,并通过热力图检测目标对象是否存在遮挡,可有效降低对目标对象的识别难度,提升识别精度和稳定性。
附图说明
通过结合附图对本发明实施例进行更详细的描述,本发明的上述以及其它目的、特征和优势将变得更加明显。附图用来提供对本发明实施例的进一步理解,并且构成说明书的一部分,与本发明实施例一起用于解释本发明,并不构成对本发明的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1示出用于实现根据本发明实施例的目标对象遮挡检测方法和装置的示例电子设备的示意性框图;
图2示出根据本发明实施例的目标对象遮挡检测方法的示意性流程图;
图3A和图3B分别示出根据本发明实施例的卷积神经网络和全卷积神经网络的示意性结构图;
图4A和图4B分别示出输入图像的示例以及输出的相对应的热力图的示例;
图5示出根据本发明实施例的目标对象遮挡检测装置的示意性框图;以及
图6示出根据本发明实施例的目标对象遮挡检测系统的示意性框图。
具体实施方式
为了使得本发明的目的、技术方案和优点更为明显,下面将参照附图详细描述根据本发明的示例实施例。显然,所描述的实施例仅仅是本发明的一部分实施例,而不是本发明的全部实施例,应理解,本发明不受这里描述的示例实施例的限制。基于本发明中描述的本发明实施例,本领域技术人员在没有付出创造性劳动的情况下所得到的所有其它实施例都应落入本发明的保护范围之内。
首先,参照图1来描述用于实现本发明实施例的目标对象遮挡检测方法和装置的示例电子设备100。
如图1所示,电子设备100包括一个或多个处理器102、一个或多个存储装置104、输入装置106、输出装置108以及图像传感器110,这些组件通过总线系统112和/或其它形式的连接机构(未示出)互连。应当注意,图1所示的电子设备100的组件和结构只是示例性的,而非限制性的,根据需要,所述电子设备也可以具有其他组件和结构。
所述处理器102可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其它形式的处理单元,并且可以控制所述电子设备100中的其它组件以执行期望的功能。
所述存储装置104可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器102可以运行所述程序指令,以实现下文所述的本发明实施例中(由处理器实现)的客户端功能以及/或者其它期望的功能。在所述计算机可读存储介质中还可以存储各种应用程序和各种数据,例如所述应用程序使用和/或产生的各种数据等。
所述输入装置106可以是用户用来输入指令的装置,并且可以包括键盘、鼠标、麦克风和触摸屏等中的一个或多个。
所述输出装置108可以向外部(例如用户)输出各种信息(例如图像或声音),并且可以包括显示器、扬声器等中的一个或多个。
所述图像传感器110可以拍摄用户期望的图像(例如照片、视频等),并且将所拍摄的图像存储在所述存储装置104中以供其它组件使用。图像采集装置110可以是摄像头。应当理解,图像采集装置110仅是示例,电子设备100可以不包括图像采集装置110。在这种情况下,可以利用其他图像采集装置采集待识别图像,并将采集的待识别图像发送给电子设备100。
示例性地,用于实现根据本发明实施例的目标对象遮挡检测方法和装置的示例电子设备可以被实现为诸如智能手机、平板电脑等。
下面,将参考图2描述根据本发明实施例的目标对象遮挡检测方法200。
在步骤S210,接收输入图像。
在一个实施例中,所接收的输入图像可以为包括待识别的目标对象的图像。目标对象可以为任意一种类别或多种类别的对象(如人脸、动物、各种物体等)。在对输入图像中的目标对象进行识别之前,先进行根据本发明实施例的目标对象遮挡检测方法,以确定待识别的目标对象是否存在遮挡,然后再对其进行识别,可降低识别难度,提高识别精度。
在一个示例中,所接收的输入图像可以为实时采集的图像。在其他示例中,所接收的输入图像也可以为来自任何源的图像。此处,所接收的输入图像可以为视频数据,也可以为图片数据。
在步骤S220,利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图。
在一个实施例中,可以基于训练好的作为一般分类器的卷积神经网络来生成在步骤S220所利用的输出热力图的神经网络。
在该实施例中,可以基于待识别的目标对象的类别确定要进行遮挡检测的目标对象的类别,然后首先利用该类别对象的识别数据集训练得到一个能识别该类别的目标对象的分类器,再基于该分类器生成输出热力图的神经网络。
例如,可以首先训练一个能识别该类别的目标对象的卷积神经网络。图3A示出了根据本发明实施例的卷积神经网络300A的示意性结构图。如图3A所示,能识别某个类别或某多个类别的目标对象的卷积神经网络300A可以包括卷积层、池化层和全连接层。输入图像输入卷积神经网络300A后可以得到分类结果,如图3A所示。
然后,基于该训练好的卷积神经网络,可以将该卷积神经网络(例如如图3A所示的卷积神经网络300A)的全连接层替换为卷积层来生成全卷积神经网络,该全卷积神经网络经过训练后可以作为在步骤S220所利用的输出热力图的神经网络。如图3B示出根据本发明实施例的全卷积神经网络300B的示意性结构图。如图3B所示,全卷积神经网络300B可以包括卷积层和池化层。输入图像输入全卷积神经网络300B后可以得到热力图,如图3B所示。
在一个示例中,替换卷积神经网络300A的全连接层的卷积层可以为1×1卷积层。使用1×1卷积层可以在实现期望功能的情况下相对减小运算量,可以提高运算速度。在其他示例中,替换卷积神经网络300A的全连接层的卷积层也可以为任意其他合适尺度的卷积层。
继续参考图3B,全卷积神经网络300B还可以包括上采样层,上采样层可以提高输出的热力图的分辨率,以更好地基于热力图检测目标对象是否存在遮挡。在一个示例中,上采样层的数目可以取决于输出的热力图的期望分辨率。在其他示例中,也可以考虑其他因素综合设置上采样层的数目。
在上述示例中,训练卷积神经网络300A的步骤可以称为预训练阶段,在该阶段训练能够识别目标对象的类别的普通分类器;训练全卷积神经网络300B的步骤可以称为微调阶段,在该阶段基于卷积神经网络300A而生成全卷积神经网络300B,并通过训练而使该全卷积神经网络300B成为在步骤S220所利用的输出热力图的神经网络。全卷积神经网络300B可以看作是从卷积神经网络300A中提取出嵌入映射后接上热力图输出层而构成的新的神经网络。
上述示例示例性地描述了在步骤S220所利用的输出热力图的神经网络的训练过程,本领域普通技术人员可以理解,虽然在图3A和图3B中示出了训练时所使用的卷积神经网络以及训练后所得到的全卷积神经网络的示意性结构图,但其仅是示例性的,它们还可以为其他任意合适的结构。此外,在步骤S220所利用的输出热力图的神经网络也可直接训练生成,而不需要通过先训练一般分类器后来生成。
基于训练好的神经网络(例如如图3B所示的全卷积神经网络300B),可以对输入图像中的目标对象进行检测并输出相应的热力图,如图4A和4B所示的。图4A示出了输入图像的示例,假定待检测的目标对象为人脸,则经过上述训练好的神经网络(例如如图3B所示的全卷积神经网络300B),可输出相对应的热力图,如图4B所示,在热力图中示出了热力图形式的目标对象(即人脸),从该图可以看出有遮挡的人脸(例如图4B中最左侧的人脸热力图)与无遮挡的人脸明显不同。
下面返回参考图2继续描述根据本发明实施例的目标对象遮挡检测方法200的步骤。
在步骤S230,基于所述热力图检测所述目标对象是否存在遮挡。
在一个实施例中,基于热力图检测目标对象是否存在遮挡的步骤可以包括:检测热力图中的目标对象的形状是否符合该目标对象的类别的对象的形状;以及当热力图中的目标对象的形状符合该目标对象的类别的对象的形状时,确定目标对象不存在遮挡,反之,则确定目标对象存在遮挡。在该实施例中,“形状”可以理解为由边界所构成的面(即,边界构成的区域)而非边界本身。
例如,当对人脸进行遮挡检测时,如果人脸上有较长的刘海、或戴有墨镜(例如图4A中最左侧的人脸)等,则热力图上的人脸区域上面将出现“黑洞”(例如如图4B最左侧的人脸所示)或其他形式的遮挡区域,通过检测其形状,可判定是否存在遮挡。
在另一个实施例中,可检测热力图中的目标对象的区域是否为连通区域,当目标对象存在遮挡时,其可能不再是完整的连通区域,而是被遮挡物从中“截断”,从而在热力图中的目标对象的区域中出现黑色区域(如图4B中最左侧的人脸区域中的黑色区域所示),因此也可基于热力图中的目标对象的区域是否为连通区域来判定目标对象是否存在遮挡。
在其他示例中,也可以通过任何其他合适的方式来基于热力图检测目标对象是否存在遮挡。
进一步地,在一个实施例中,可以在输出热力图后,先对热力图中的目标对象进行标注(例如如图4B中所示的对目标对象的框选),然后基于经标注后的热力图检测遮挡。这样做可以将相距较近的目标对象隔离开来,也可将因距镜头较远而在图像中显示较小的目标对象也清楚地框选出来,避免遗漏或遮挡检测出现误差,实现更精确地遮挡检测,提高检测结果的可靠性。在一个示例中,可以采用神经网络来实现对目标对象的标注。在另一个示例中,也可以采用合适的算法实现对目标对象的标注。在其他示例中,还可以采用任何其他合适的方法实现对目标对象的标注。
在又一个实施例中,在检测到热力图中的目标对象存在遮挡时,可以进一步确定遮挡区域。例如,可以将遮挡区域分割出来,以确定对目标对象的遮挡位置,从而为后续的对目标对象的识别提供更可靠的依据。在实时应用的场景中,也可以为待识别的目标对象(例如待识别的人)提供提示作为参考,告知其重新调整待识别的位置或者去掉遮挡物,提高识别的效率和准确度。
基于上面的描述,根据本发明实施例的目标对象遮挡检测方法基于训练好的神经网络将输入图像中的目标对象转换为热力图,并通过热力图检测目标对象是否存在遮挡,可有效降低对目标对象的识别难度,提升识别精度和稳定性。
示例性地,根据本发明实施例的目标对象遮挡检测方法可以在具有存储器和处理器的设备、装置或者系统中实现。
此外,根据本发明实施例的目标对象遮挡检测方法处理速度快、模型体积小,可以方便地部署到智能手机、平板电脑、个人计算机等移动设备上。替代地,根据本发明实施例的目标对象遮挡检测方法还可以部署在服务器端(或云端)。替代地,根据本发明实施例的目标对象遮挡检测方法还可以分布地部署在服务器端(或云端)和个人终端处。
下面结合图5描述本发明另一方面提供的目标对象遮挡检测装置。图5示出了根据本发明实施例的目标对象遮挡检测装置500的示意性框图。
如图5所示,根据本发明实施例的目标对象遮挡检测装置500包括接收模块510、热力图输出模块520以及遮挡检测模块530。所述各个模块可分别执行上文中结合图2描述的目标对象遮挡检测方法的各个步骤/功能。以下仅对目标对象遮挡检测装置500的各模块的主要功能进行描述,而省略以上已经描述过的细节内容。
接收模块510用于接收输入图像。热力图输出模块520用于利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图。遮挡检测模块530用于基于所述热力图检测所述目标对象是否存在遮挡。接收模块510、热力图输出模块520以及遮挡检测模块530均可以由图1所示的电子设备中的处理器102运行存储装置104中存储的程序指令来实现。
在一个实施例中,接收模块510所接收的输入图像可以为包括待识别的目标对象的图像。目标对象可以为任意一种类别或多种类别的对象(如人脸、动物、各种物体等)。在对输入图像中的目标对象进行识别之前,先对其进行遮挡检测,然后再对其进行识别,可降低识别难度,提高识别精度。
在一个示例中,接收模块510所接收的输入图像可以为实时采集的图像。在其他示例中,接收模块510所接收的输入图像也可以为来自任何源的图像。此处,接收模块510所接收的输入图像可以为视频数据,也可以为图片数据。
在一个实施例中,热力图输出模块520所利用的神经网络为全卷积神经网络(如图3B所示的全卷积神经网络300B)。示例性地,该全卷积神经网络可以基于将训练好的卷积神经网络(如图3A所示的卷积神经网络300A)的全连接层替换为卷积层而生成。热力图输出模块520所利用的神经网络的训练可以参照上述结合图3A和图3B所描述的过程,为了简洁,此处不再赘述。
在一个示例中,热力图输出模块520所利用的神经网络还可以包括上采样层,上采样层可以提高输出的热力图的分辨率,以更好地由遮挡检测模块530基于热力图检测目标对象是否存在遮挡。在一个示例中,上采样层的数目可以取决于输出的热力图的期望分辨率。在其他示例中,上采样层的数目也可以考虑其他因素而综合设置。
在一个实施例中,遮挡检测模块530基于热力图检测目标对象是否存在遮挡的步骤可以包括:检测热力图中的目标对象的形状是否符合该目标对象的类别的对象的形状;以及当热力图中的目标对象的形状符合该目标对象的类别的对象的形状时,确定目标对象不存在遮挡,反之,则确定目标对象存在遮挡。在该实施例中,“形状”可以理解为由边界所构成的面(即,边界构成的区域)而非边界本身。
在另一个实施例中,遮挡检测模块530也可用于检测热力图中的目标对象的区域是否为连通区域,当目标对象存在遮挡时,其可能不再是完整的连通区域,而是被遮挡物从中“截断”,从而在热力图中的目标对象的区域中出现黑色区域(如图4B中最左侧的人脸区域中的黑色区域所示),因此遮挡检测模块530也可用于基于目标对象的区域是否为连通区域来判定目标对象是否存在遮挡。
在一个实施例中,目标对象遮挡检测装置500还可以包括自动标注模块(未在图5中示出),用于对热力图输出模块520所输出的热力图中的目标对象进行标注(例如如图4B中所示的对目标对象的框选)。并且,遮挡检测模块530还可以用于基于经所述自动标注模块标注后的热力图检测目标对象是否存在遮挡。基于自动标注模块的标注,可以将相距较近的目标对象隔离开来,也可将因距镜头较远而在图像中显示较小的目标对象也清楚地框选出来,避免遗漏或遮挡检测出现误差,实现更精确地遮挡检测,提高检测结果的可靠性。
在又一个实施例中,遮挡检测模块530还可以用于在检测到热力图中的目标对象存在遮挡时,进一步确定遮挡区域。例如,遮挡检测模块530可以将遮挡区域分割出来,以确定对目标对象的遮挡位置,从而为后续的对目标对象的识别提供更可靠的依据。在实时应用的场景中,遮挡检测模块530所确定的遮挡区域也可以为待识别的目标对象(例如待识别的人)提供提示作为参考,告知其重新调整待识别的位置或者去掉遮挡物,提高识别的效率和准确度。
基于上面的描述,根据本发明实施例的目标对象遮挡检测装置基于训练好的神经网络将输入图像中的目标对象转换为热力图,并通过热力图检测目标对象是否存在遮挡,可有效降低对目标对象的识别难度,提升识别精度和稳定性。
图6示出了根据本发明实施例的目标对象遮挡检测系统600的示意性框图。目标对象遮挡检测系统600包括存储装置610以及处理器620。
其中,存储装置610存储用于实现根据本发明实施例的目标对象遮挡检测方法中的相应步骤的程序代码。处理器620用于运行存储装置610中存储的程序代码,以执行根据本发明实施例的目标对象遮挡检测方法的相应步骤,并且用于实现根据本发明实施例的目标对象遮挡检测装置中的相应模块。此外,目标对象遮挡检测系统600还可以包括图像采集装置(未在图6中示出),其可以用于采集输入图像。当然,图像采集装置不是必需的,可直接接收来自其他源的输入图像的输入。
在一个实施例中,在所述程序代码被处理器620运行时使得目标对象遮挡检测系统600执行以下步骤:接收输入图像;利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图;以及基于所述热力图检测所述目标对象是否存在遮挡。
在一个实施例中,所述训练好的神经网络为全卷积神经网络。
在一个实施例中,所述全卷积神经网络基于将训练好的卷积神经网络的全连接层替换为卷积层而生成。
在一个实施例中,所述卷积层为1×1卷积层。
在一个实施例中,所述全卷积神经网络还包括上采样层。
在一个实施例中,所述上采样层的数目取决于所述输出的热力图的期望分辨率。
在一个实施例中,在所述程序代码被处理器620运行时还使得目标对象遮挡检测系统600执行以下步骤:在输出所述热力图后,对所述热力图中的目标对象进行标注;并且在所述程序代码被处理器620运行时使得目标对象遮挡检测系统600执行的所述对目标对象是否存在遮挡的检测是基于经所述标注后的热力图。
在一个实施例中,在所述程序代码被处理器620运行时使得目标对象遮挡检测系统600执行的基于所述热力图检测所述目标对象是否存在遮挡的步骤包括:检测所述热力图中的目标对象的形状是否符合所述目标对象的类别的对象的形状;以及当所述热力图中的目标对象的形状符合所述目标对象的类别的对象的形状时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在一个实施例中,在所述程序代码被处理器620运行时使得目标对象遮挡检测系统600执行的基于所述热力图检测所述目标对象是否存在遮挡的步骤包括:检测所述热力图中的目标对象的区域是否为连通区域;以及当检测到所述热力图中的目标对象的区域为连通区域时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在一个实施例中,在所述程序代码被处理器620运行时还使得目标对象遮挡检测系统600执行以下步骤:当检测到所述热力图中的目标对象存在遮挡时,确定遮挡区域。
此外,根据本发明实施例,还提供了一种存储介质,在所述存储介质上存储了程序指令,在所述程序指令被计算机或处理器运行时用于执行本发明实施例的目标对象遮挡检测方法的相应步骤,并且用于实现根据本发明实施例的目标对象遮挡检测装置中的相应模块。所述存储介质例如可以包括智能电话的存储卡、平板电脑的存储部件、个人计算机的硬盘、只读存储器(ROM)、可擦除可编程只读存储器(EPROM)、便携式紧致盘只读存储器(CD-ROM)、USB存储器、或者上述存储介质的任意组合。所述计算机可读存储介质可以是一个或多个计算机可读存储介质的任意组合,例如一个计算机可读存储介质包含接收输入图像的计算机可读的程序代码,另一个计算机可读存储介质包含检测目标对象并输出热力图的计算机可读的程序代码,又一个计算机可读存储介质包含检测遮挡的计算机可读的程序代码。
在一个实施例中,所述计算机程序指令在被计算机运行时可以实现根据本发明实施例的目标对象遮挡检测装置的各个功能模块,并且/或者可以执行根据本发明实施例的目标对象遮挡检测方法。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:接收输入图像;利用训练好的神经网络检测所述输入图像中的目标对象、并输出所述目标对象的热力图;以及基于所述热力图检测所述目标对象是否存在遮挡。
在一个实施例中,所述训练好的神经网络为全卷积神经网络。
在一个实施例中,所述全卷积神经网络基于将训练好的卷积神经网络的全连接层替换为卷积层而生成。
在一个实施例中,所述卷积层为1×1卷积层。
在一个实施例中,所述全卷积神经网络还包括上采样层。
在一个实施例中,所述上采样层的数目取决于所述输出的热力图的期望分辨率。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:在输出所述热力图后,对所述热力图中的目标对象进行标注;并且所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的所述对目标对象是否存在遮挡的检测是基于经所述标注后的热力图。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的基于所述热力图检测所述目标对象是否存在遮挡的步骤包括:检测所述热力图中的目标对象的形状是否符合所述目标对象的类别的对象的形状;以及当所述热力图中的目标对象的形状符合所述目标对象的类别的对象的形状时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行的基于所述热力图检测所述目标对象是否存在遮挡的步骤包括:检测所述热力图中的目标对象的区域是否为连通区域;以及当检测到所述热力图中的目标对象的区域为连通区域时,确定所述目标对象不存在遮挡,反之,则确定所述目标对象存在遮挡。
在一个实施例中,所述计算机程序指令在被计算机或处理器运行时使计算机或处理器执行以下步骤:当检测到所述热力图中的目标对象存在遮挡时,确定遮挡区域。
根据本发明实施例的目标对象遮挡检测装置中的各模块可以通过根据本发明实施例的目标对象遮挡检测的电子设备的处理器运行在存储器中存储的计算机程序指令来实现,或者可以在根据本发明实施例的计算机程序产品的计算机可读存储介质中存储的计算机指令被计算机运行时实现。
根据本发明实施例的目标对象遮挡检测方法、装置、系统以及存储介质基于训练好的神经网络将输入图像中的目标对象转换为热力图,并通过热力图检测目标对象是否存在遮挡,可有效降低对目标对象的识别难度,提升识别精度和稳定性。
尽管这里已经参考附图描述了示例实施例,应理解上述示例实施例仅仅是示例性的,并且不意图将本发明的范围限制于此。本领域普通技术人员可以在其中进行各种改变和修改,而不偏离本发明的范围和精神。所有这些改变和修改意在被包括在所附权利要求所要求的本发明的范围之内。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。
在本申请所提供的几个实施例中,应该理解到,所揭露的设备和方法,可以通过其它的方式实现。例如,以上所描述的设备实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个设备,或一些特征可以忽略,或不执行。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本发明的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本发明并帮助理解各个发明方面中的一个或多个,在对本发明的示例性实施例的描述中,本发明的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该本发明的方法解释成反映如下意图:即所要求保护的本发明要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如相应的权利要求书所反映的那样,其发明点在于可以用少于某个公开的单个实施例的所有特征的特征来解决相应的技术问题。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本发明的单独实施例。
本领域的技术人员可以理解,除了特征之间相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此所述的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本发明的范围之内并且形成不同的实施例。例如,在权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本发明的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本发明实施例的物品分析设备中的一些模块的一些或者全部功能。本发明还可以实现为用于执行这里所描述的方法的一部分或者全部的装置程序(例如,计算机程序和计算机程序产品)。这样的实现本发明的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本发明进行说明而不是对本发明进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本发明可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。
以上所述,仅为本发明的具体实施方式或对具体实施方式的说明,本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本发明的保护范围之内。本发明的保护范围应以权利要求的保护范围为准。
Claims (20)
1.一种人脸遮挡检测方法,其特征在于,所述人脸遮挡检测方法包括:
接收输入图像;
利用训练好的神经网络检测所述输入图像中的人脸、并输出所述人脸的热力图,所述热力图中示出了热力图形式的人脸;以及
基于所述热力图检测所述人脸是否存在遮挡;
所述基于所述热力图检测所述人脸是否存在遮挡的步骤包括:
检测所述热力图中的人脸的形状是否符合所述人脸的类别的对象的形状,当所述热力图中的人脸的形状符合所述人脸的类别的对象的形状时,确定所述人脸不存在遮挡,反之,则确定所述人脸存在遮挡;或者
检测所述热力图中的人脸的区域是否为连通区域,当检测到所述热力图中的人脸的区域为连通区域时,确定所述人脸不存在遮挡,反之,则确定所述人脸存在遮挡。
2.根据权利要求1所述的人脸遮挡检测方法,其特征在于,所述训练好的神经网络为全卷积神经网络;所述全卷积神经网络是从能识别人脸的卷积神经网络中提取出嵌入映射后接上热力图输出层构成的;所述热力图输出层包括卷积层。
3.根据权利要求1所述的人脸遮挡检测方法,其特征在于,所述训练好的神经网络为全卷积神经网络;所述全卷积神经网络基于将训练好的能识别人脸的卷积神经网络的全连接层替换为卷积层而生成。
4.根据权利要求3所述的人脸遮挡检测方法,其特征在于,所述卷积层为1×1卷积层。
5.根据权利要求3所述的人脸遮挡检测方法,其特征在于,所述全卷积神经网络还包括上采样层。
6.根据权利要求2所述的人脸遮挡检测方法,其特征在于,所述热力图输出层还包括上采样层。
7.根据权利要求5或6所述的人脸遮挡检测方法,其特征在于,所述上采样层的数目取决于所述输出的热力图的期望分辨率。
8.根据权利要求2或3所述的人脸遮挡检测方法,其特征在于,所述全卷积神经网络是通过如下步骤训练的:
在预训练阶段,训练能够识别人脸的卷积神经网络;
在微调阶段,基于所述能够识别人脸的卷积神经网络生成全卷积神经网络,并通过训练而使所述全卷积神经网络成为输出热力图的神经网络。
9.根据权利要求1所述的人脸遮挡检测方法,其特征在于,所述人脸遮挡检测方法还包括:
在输出所述热力图后,对所述热力图中的人脸进行标注;并且
对 所述人脸是否存在遮挡的检测是基于经所述标注后的热力图。
10.根据权利要求1所述的人脸遮挡检测方法,其特征在于,所述人脸遮挡检测方法还包括:
当检测到所述热力图中的人脸存在遮挡时,确定遮挡区域。
11.一种人脸遮挡检测装置,其特征在于,所述人脸遮挡检测装置包括:
接收模块,用于接收输入图像;
热力图输出模块,用于利用训练好的神经网络检测所述输入图像中的人脸、并输出所述人脸的热力图,所述热力图中示出了热力图形式的人脸;以及
遮挡检测模块,用于基于所述热力图检测所述人脸是否存在遮挡;
所述遮挡检测模块还用于:
检测所述热力图中的人脸的形状是否符合所述人脸的类别的对象的形状,当所述热力图中的人脸的形状符合所述人脸的类别的对象的形状时,确定所述人脸不存在遮挡,反之,则确定所述人脸存在遮挡;或者
检测所述热力图中的人脸的区域是否为连通区域,当检测到所述热力图中的人脸的区域为连通区域时,确定所述人脸不存在遮挡,反之,则确定所述人脸存在遮挡。
12.根据权利要求11所述的人脸遮挡检测装置,其特征在于,所述训练好的神经网络为全卷积神经网络;所述全卷积神经网络是从能识别人脸的卷积神经网络中提取出嵌入映射后接上热力图输出层构成的;所述热力图输出层包括卷积层。
13.根据权利要求11所述的人脸遮挡检测装置,其特征在于,所述训练好的神经网络为全卷积神经网络;所述全卷积神经网络基于将训练好的能识别人脸的卷积神经网络的全连接层替换为卷积层而生成。
14.根据权利要求13所述的人脸遮挡检测装置,其特征在于,所述卷积层为1×1卷积层。
15.根据权利要求13所述的人脸遮挡检测装置,其特征在于,所述全卷积神经网络还包括上采样层。
16.根据权利要求12所述的人脸遮挡检测装置,其特征在于,所述热力图输出层还包括上采样层。
17.根据权利要求15或16所述的人脸遮挡检测装置,其特征在于,所述上采样层的数目取决于所述输出的热力图的期望分辨率。
18.根据权利要求12或13所述的人脸遮挡检测装置,其特征在于,所述全卷积神经网络是通过如下步骤训练的:
在预训练阶段,训练能够识别人脸的卷积神经网络;
在微调阶段,基于所述能够识别人脸的卷积神经网络生成全卷积神经网络,并通过训练而使所述全卷积神经网络成为输出热力图的神经网络。
19.根据权利要求11所述的人脸遮挡检测装置,其特征在于,所述人脸遮挡检测装置还包括:
自动标注模块,用于对所述热力图中的人脸进行标注;并且
所述遮挡检测模块还用于基于经所述标注后的热力图检测所述人脸是否存在遮挡。
20.根据权利要求11所述的人脸遮挡检测装置,其特征在于,所述遮挡检测模块还用于:
当检测到所述热力图中的人脸存在遮挡时,确定遮挡区域。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611191940.9A CN106650662B (zh) | 2016-12-21 | 2016-12-21 | 目标对象遮挡检测方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201611191940.9A CN106650662B (zh) | 2016-12-21 | 2016-12-21 | 目标对象遮挡检测方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN106650662A CN106650662A (zh) | 2017-05-10 |
CN106650662B true CN106650662B (zh) | 2021-03-23 |
Family
ID=58833491
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201611191940.9A Active CN106650662B (zh) | 2016-12-21 | 2016-12-21 | 目标对象遮挡检测方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN106650662B (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108932456B (zh) * | 2017-05-23 | 2022-01-28 | 北京旷视科技有限公司 | 人脸识别方法、装置和系统及存储介质 |
CN107330900A (zh) * | 2017-06-22 | 2017-11-07 | 成都品果科技有限公司 | 一种自动人像分割方法 |
CN108875537B (zh) * | 2018-02-28 | 2022-11-08 | 北京旷视科技有限公司 | 对象检测方法、装置和系统及存储介质 |
CN108875540B (zh) * | 2018-03-12 | 2021-11-05 | 北京旷视科技有限公司 | 图像处理方法、装置和系统及存储介质 |
CN109146924B (zh) * | 2018-07-18 | 2020-09-08 | 苏州飞搜科技有限公司 | 一种基于热力图的目标跟踪方法及装置 |
CN110765815B (zh) * | 2018-07-26 | 2024-05-24 | 北京京东尚科信息技术有限公司 | 展示架遮挡检测方法和装置 |
CN109063695A (zh) * | 2018-09-18 | 2018-12-21 | 图普科技(广州)有限公司 | 一种人脸关键点检测方法、装置及其计算机存储介质 |
CN109389599A (zh) * | 2018-10-25 | 2019-02-26 | 北京阿丘机器人科技有限公司 | 一种基于深度学习的缺陷检测方法及装置 |
CN110287760A (zh) * | 2019-03-28 | 2019-09-27 | 电子科技大学 | 一种基于深度学习的人脸五官点遮挡检测方法 |
CN110428394B (zh) * | 2019-06-14 | 2022-04-26 | 北京迈格威科技有限公司 | 用于目标移动侦测的方法、装置及计算机存储介质 |
CN112288676A (zh) * | 2019-07-12 | 2021-01-29 | 富士通株式会社 | 检测产品缺陷的方法和装置 |
CN111126402B (zh) * | 2019-11-04 | 2023-11-03 | 京东科技信息技术有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
CN111126379B (zh) * | 2019-11-22 | 2022-05-17 | 苏州浪潮智能科技有限公司 | 一种目标检测方法与装置 |
CN111046858B (zh) * | 2020-03-18 | 2020-09-08 | 成都大熊猫繁育研究基地 | 一种基于图像的动物物种细分类方法、系统及介质 |
CN111695495B (zh) * | 2020-06-10 | 2023-11-14 | 杭州萤石软件有限公司 | 人脸识别方法、电子设备及存储介质 |
CN112380981B (zh) * | 2020-11-12 | 2024-06-28 | 平安科技(深圳)有限公司 | 人脸关键点的检测方法、装置、存储介质及电子设备 |
CN113468975B (zh) * | 2021-06-09 | 2024-07-12 | 浙江大华技术股份有限公司 | 打架行为检测方法及装置 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103942535B (zh) * | 2014-03-28 | 2017-04-12 | 广东威创视讯科技股份有限公司 | 多目标跟踪方法及装置 |
CN104978582B (zh) * | 2015-05-15 | 2018-01-30 | 苏州大学 | 基于轮廓弦角特征的遮挡目标识别方法 |
CN105631427A (zh) * | 2015-12-29 | 2016-06-01 | 北京旷视科技有限公司 | 可疑人员检测方法与系统 |
US9424494B1 (en) * | 2016-01-28 | 2016-08-23 | International Business Machines Corporation | Pure convolutional neural network localization |
CN106204587B (zh) * | 2016-05-27 | 2019-01-08 | 浙江德尚韵兴图像科技有限公司 | 基于深度卷积神经网络和区域竞争模型的多器官分割方法 |
-
2016
- 2016-12-21 CN CN201611191940.9A patent/CN106650662B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN106650662A (zh) | 2017-05-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN106650662B (zh) | 目标对象遮挡检测方法及装置 | |
CN106203305B (zh) | 人脸活体检测方法和装置 | |
CN109255352B (zh) | 目标检测方法、装置及系统 | |
CN108256404B (zh) | 行人检测方法和装置 | |
CN108710847B (zh) | 场景识别方法、装置及电子设备 | |
CN108932456B (zh) | 人脸识别方法、装置和系统及存储介质 | |
CN109086691B (zh) | 一种三维脸部活体检测方法、脸部认证识别方法及装置 | |
CN108875523B (zh) | 人体关节点检测方法、装置、系统和存储介质 | |
CN109815843B (zh) | 图像处理方法及相关产品 | |
CN108875731B (zh) | 目标识别方法、装置、系统及存储介质 | |
JP6868119B2 (ja) | ホログラフィック偽造防止コードの検査方法及び装置 | |
CN106845352B (zh) | 行人检测方法和装置 | |
CN108875492B (zh) | 人脸检测及关键点定位方法、装置、系统和存储介质 | |
CN109086734B (zh) | 一种对人眼图像中瞳孔图像进行定位的方法及装置 | |
CN108875542B (zh) | 一种人脸识别方法、装置、系统及计算机存储介质 | |
CN111178341A (zh) | 一种活体检测方法、装置及设备 | |
CN106203425B (zh) | 字符识别方法及装置 | |
CN108009466B (zh) | 行人检测方法和装置 | |
CN106327546B (zh) | 人脸检测算法的测试方法和装置 | |
CN108875517B (zh) | 视频处理方法、装置和系统及存储介质 | |
CN108875750B (zh) | 物体检测方法、装置和系统及存储介质 | |
CN106650743B (zh) | 图像强反光检测方法和装置 | |
CN111008935A (zh) | 一种人脸图像增强方法、装置、系统及存储介质 | |
CN111695405B (zh) | 一种狗脸特征点的检测方法、装置、系统及存储介质 | |
CN108875506B (zh) | 人脸形状点跟踪方法、装置和系统及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information | ||
CB02 | Change of applicant information |
Address after: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313 Applicant after: MEGVII INC. Applicant after: Beijing maigewei Technology Co., Ltd. Address before: 100190 Beijing, Haidian District Academy of Sciences, South Road, No. 2, block A, No. 313 Applicant before: MEGVII INC. Applicant before: Beijing aperture Science and Technology Ltd. |
|
GR01 | Patent grant | ||
GR01 | Patent grant |