CN112200004B - 图像检测模型的训练方法、装置及终端设备 - Google Patents
图像检测模型的训练方法、装置及终端设备 Download PDFInfo
- Publication number
- CN112200004B CN112200004B CN202010965685.9A CN202010965685A CN112200004B CN 112200004 B CN112200004 B CN 112200004B CN 202010965685 A CN202010965685 A CN 202010965685A CN 112200004 B CN112200004 B CN 112200004B
- Authority
- CN
- China
- Prior art keywords
- image
- training
- training data
- images
- detection model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 245
- 238000001514 detection method Methods 0.000 title claims abstract description 92
- 238000000034 method Methods 0.000 title claims abstract description 66
- 230000015572 biosynthetic process Effects 0.000 claims abstract description 31
- 238000003786 synthesis reaction Methods 0.000 claims abstract description 31
- 238000012545 processing Methods 0.000 claims abstract description 24
- 239000002131 composite material Substances 0.000 claims description 85
- 238000004590 computer program Methods 0.000 claims description 20
- 238000004513 sizing Methods 0.000 claims description 2
- 230000002194 synthesizing effect Effects 0.000 claims description 2
- 230000008569 process Effects 0.000 abstract description 16
- 238000010586 diagram Methods 0.000 description 5
- 230000009466 transformation Effects 0.000 description 5
- 230000006870 function Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000003062 neural network model Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 238000003491 array Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/40—Scenes; Scene-specific elements in video content
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本申请适用于图像处理技术领域,提供了一种图像检测模型的训练方法、装置及终端设备,包括:获取多组训练数据,其中,每组训练数据中包括N幅训练图像,所述N为大于1的正整数;获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像;利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型。通过上述方法,能够有效减轻图像检测模型训练过程中训练图像的采集工作量。
Description
技术领域
本申请属于图像处理技术领域,尤其涉及图像检测模型的训练方法、图像检测模型的训练装置、终端设备及计算机可读存储介质。
背景技术
图像检测是指从一幅已知图像中获取某个特定的子图像的过程。现有的图像检测方法,通常是利用训练后的图像检测模型(如神经网络模型等)对待处理图像进行图像检测,即将待处理图像输入到训练后的图像检测模型中,得到输出的图像检测结果。
为了保证图像检测模型的检测准确度,往往需要利用大量的训练图像对图像检测模型进行训练。例如:当图像检测模型对拍摄物体与拍摄装置之间的距离有要求时,需要将拍摄物体放置在距离拍摄装置的不同位置处,并分别在每个位置处采集拍摄物体的训练图像。可见,采集训练图像的工作量较大、任务繁重。
发明内容
本申请实施例提供了一种图像检测模型的训练方法、装置及终端设备,可以减轻图像检测模型训练过程中训练图像的采集工作量。
第一方面,本申请实施例提供了一种图像检测模型的训练方法,包括:
获取多组训练数据,其中,每组训练数据中包括N幅训练图像,所述N为大于1的正整数;
获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像;
利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型。
在第一方面的一种可能的实现方式中,所述模型参数包括输入图像的尺寸;
所述根据所述模型参数分别将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像,包括:
对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸;
将所述训练数据中的N幅训练图像按照各自对应的合成尺寸进行图像合成处理,得到每组训练数据对应的合成图像。
在第一方面的一种可能的实现方式中,所述输入图像的尺寸包括输入图像的长度值和宽度值;
所述每幅训练图像的合成尺寸包括所述每幅训练图像在所述合成图像中对应的长度值和宽度值;
所述对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸,包括:
根据所述输入图像的长度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的长度值;
根据所述输入图像的宽度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的宽度值。
在第一方面的一种可能的实现方式中,在利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型之后,所述方法还包括:
获取待检测图像,并将所述待检测图像输入到所述训练后的图像检测模型中,得到输出的目标图像,其中,所述目标图像为所述待检测图像中目标物体对应的子图像;
利用预设的模板图像库对所述目标图像进行图像识别,得到识别结果。
在第一方面的一种可能的实现方式中,所述模板图像库中包括至少两种类别的图像,每种类别的图像中包括至少一张模板图像;
所述利用预设的模板图像库对所述目标图像进行图像识别,得到识别结果,包括:
将所述目标图像分别与所述模板图像库中每种类别的图像进行比对,得到所述目标图像与所述每种类别的图像的比对结果;
根据所述目标图像与所述每种类别的图像的比对结果,确定所述目标图像所属的图像类别,并将所述图像类别记为所述识别结果。
在第一方面的一种可能的实现方式中,所述将所述目标图像分别与所述模板图像库中每种类别的图像进行比对,得到所述目标图像与所述每种类别的图像的比对结果,包括:
对于所述模板图像库中每种类别的图像,分别计算所述目标图像与所述类别的图像中的每幅模板图像之间的相似值;
计算所述相似值的平均值,并将所述平均值记为所述目标图像与所述类别的图像的比对结果。
在第一方面的一种可能的实现方式中,所述对于所述模板图像库中每种类别的图像,分别计算所述目标图像与所述类别的图像中的每幅模板图像之间的相似值,包括:
对于所述类别的图像中的每幅模板图像,将所述模板图像和所述目标图像分别缩放至预设尺寸;
将缩放后的模板图像转换为第一灰度图像,并根据所述第一灰度图像中像素点的像素值生成第一像素编码;
将缩放后的目标图像转换为第二灰度图像,并根据所述第二灰度图像中像素点的像素值生成第二像素编码;
计算所述第一像素编码和所述第二像素编码之间的重合度,并将所述重合度记为所述模板图像和所述目标图像之间的相似值。
第二方面,本申请实施例提供了一种图像检测模型的训练装置,包括:
训练数据获取单元,用于获取多组训练数据,其中,每组训练数据中包括N幅训练图像,所述N为大于1的正整数;
图像合成单元,用于获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像;
模型训练单元,用于利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型。
第三方面,本申请实施例提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如上述第一方面中任一项所述的图像检测模型的训练方法。
第四方面,本申请实施例提供了一种计算机可读存储介质,本申请实施例提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如上述第一方面中任一项所述的图像检测模型的训练方法。
第五方面,本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行上述第一方面中任一项所述的图像检测模型的训练方法。
可以理解的是,上述第二方面至第五方面的有益效果可以参见上述第一方面中的相关描述,在此不再赘述。
本申请实施例与现有技术相比存在的有益效果是:
本申请实施例获取多组训练数据,其中,每组训练数据中包括N幅训练图像;然后获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像,相当于对每组训练数据中的训练图像进行了尺寸变换;由于拍摄图像的尺寸与拍摄距离相关,因此,对训练图像进行尺寸变换相当于采集了不同距离下的训练图像,通过上述方法,有效减轻了训练图像的采集任务量;另外,将N幅训练图像进行尺寸变换(缩小)后合成为一张合成图像,那么合成图像中包含了更丰富的小体积目标物体,因此,利用合成图像对图像检测模型进行训练,能够有效提高训练后的图像检测模型对小体积目标物体的检测能力。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的图像检测模型的训练方法的流程示意图;
图2是本申请实施例提供的合成图像的示意图;
图3是本申请实施例提供的图像检测方法的流程示意图;
图4是本申请实施例提供的图像检测模型的训练装置的结构框图;
图5是本申请实施例提供的终端设备的结构示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定系统结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的系统、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
应当理解,当在本申请说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
另外,在本申请说明书和所附权利要求书的描述中,术语“第一”、“第二”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
在本申请说明书中描述的参考“一个实施例”或“一些实施例”等意味着在本申请的一个或多个实施例中包括结合该实施例描述的特定特征、结构或特点。由此,在本说明书中的不同之处出现的语句“在一个实施例中”、“在一些实施例中”、“在其他一些实施例中”、“在另外一些实施例中”等不是必然都参考相同的实施例,而是意味着“一个或多个但不是所有的实施例”,除非是以其他方式另外特别强调。
参见图1,是本申请实施例提供的图像检测模型的训练方法的流程示意图,作为示例而非限定,所述方法可以包括以下步骤:
S101,获取多组训练数据,每组训练数据中包括N幅训练图像。
其中,所述N为大于1的正整数。
实际应用中,在获取训练数据时,可以只获取某个位置处的多个拍摄物体的训练图像。然后将多幅训练图像随机打乱、并进行随机分组,得到多组训练数据。可以根据实际需要确定每组训练数据中训练图像的幅数,即N。例如:可以将每两幅训练图像划分为一组训练数据,也可以将每四幅训练图像划分为一组训练数据,还可以将每9幅训练图像划分为一组训练数据,在此不做具体限定。N的数值越大,最后得到的合成图像中包含的训练图像的幅数越多,合成图像中包含的拍摄物体的个数越多,训练后的图像检测模型对小体积目标物体的检测能力越强。但是,N值过大,数据处理量也会较大。
S102,获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像。
由于需要对图像检测模型进行训练,因此,合成图像的尺寸需要满足图像检测模型的输入尺寸。其中,所述模型参数包括输入图像的尺寸。例如,当图像检测模型为神经网络模型时,模型参数为神经网络模型的输入图像的尺寸。
可选的,图像合成处理的步骤可以是,先将N幅训练图像拼接成一幅拼接图像,然后再将该幅拼接图像缩放至输入图像的尺寸。
但是当训练图像的尺寸相同时,利用上述方法得到的合成图像中,各幅训练图像所占的比例相同,不具有随机性,无法体现图像中各个目标物体之间的体积大小对比关系,进而无法提高训练后的图像检测模型对不同体积的目标物体的检测能力。
为了解决上述问题,可选的,可以先确定N幅训练图像在合成图像中的比例关系,再进行拼接处理。具体的,图像合成处理可以包括以下步骤:
I、对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸。
其中,输入图像的尺寸包括输入图像的长度值和宽度值;每幅训练图像的合成尺寸包括每幅训练图像在合成图像中对应的长度值和宽度值。
进一步的,步骤I的一种实现方式为:
根据所述输入图像的长度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的长度值;根据所述输入图像的宽度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的宽度值。
示例性的,参见图2,是本申请实施例提供的合成图像的示意图。
如图2中的(A)所示,假设N=2,合成图像中训练图像的排列方式为2×1,即2行1列。输入图像的长度值W即为训练图像在合成图像中对应的长度值W。根据输入图像的宽度值H,先确定第一幅训练图像a在合成图像中对应的宽度值S1,再根据H-S1确定第二幅训练图像b在合成图像中对应的宽度值。
如图2中的(B)所示,假设N=4,合成图像中训练图像的排列方式为2×2,即2行2列。根据输入图像的长度值W,先确定第一幅训练图像a在合成图像中对应的长度值S1(也是第三幅训练图像c在合成图像中对应的长度值),再根据W-S1确定第二幅训练图像b在合成图像中对应的长度值(也是第四幅训练图像d在合成图像中对应的长度值)。根据输入图像的宽度值H,先确定第一幅训练图像a在合成图像中对应的宽度值S2(也是第二幅训练图像b在合成图像中对应的宽度值),再根据H-S2确定第三幅训练图像c在合成图像中对应的宽度值(也是第四幅训练图像d在合成图像中对应的宽度值)。
如图2中的(C)所示,假设N=9,合成图像中训练图像的排列方式为3×3,即3行3列。根据输入图像的长度值依次确定第一幅训练图像a在合成图像中对应的长度值S1、第二幅训练图像b在合成图像中对应的长度值S2以及第三幅训练图像c在合成图像中对应的长度值。根据输入图像的宽度值依次确定第一幅训练图像a在合成图像中对应的宽度值S3、第四幅训练图像d在合成图像中对应的宽度值S4以及第七幅训练图像g在合成图像中对应的宽度值。
有上述示例可以看出,N值越大,需要确定的合成尺寸越多。因此,在实际应用中,优选的,N取4。这样既能保证合成图像中包含足够多的目标物体,又无需确定较多的合成尺寸,节约计算量。
在根据输入图像的长度值/宽度值确定合成尺寸时,可以预先设置固定的比例关系。例如:当N=4,且合成图像中训练图像的排列方式为2×2时,可以设定第一幅训练图像与第二幅训练图像的长度比值、以及第一幅训练图像和第三幅训练图像的宽度比值。这样,每组训练数据都可以按照设定的长度比值和宽度比值进行图像合成。但是这种方法得到的多幅合成图像中,训练图像的比例关系固定,无法体现图像中各个目标物体之间的体积大小对比关系的随机性,进而无法提高训练后的图像检测模型对不同体积的目标物体的检测能力。
为了解决上述问题,可选的,在根据输入图像的长度值/宽度值确定合成尺寸时,可以先确定合成尺寸的取值范围,然后再取值范围内随机选取一个数值作为合成尺寸。示例性的,当N=4,且合成图像中训练图像的排列方式为2×2时,先确定第一幅训练图像在合成图像中对应的长度值S1的取值范围,如W/2上下波动20%(W为输入图像的长度值),在该范围内随机取一个数值作为第一幅训练图像在合成图像中对应的长度值,再根据W-S1计算第二幅训练图像在合成图像中对应的长度值。同理,先确定第一幅训练图像在合成图像中对应的宽度值S2的取值范围,如H/2上下波动20%(H为输入图像的宽度值),在该范围内随机取一个数值作为第一幅训练图像在合成图像中对应的宽度值,再根据H-S2计算第三幅训练图像在合成图像中对应的宽度值。当然,上述只是示例,并不对取值范围的确定方式做具体限定。
II、将所述训练数据中的N幅训练图像按照各自对应的合成尺寸进行图像合成处理,得到每组训练数据对应的合成图像。
合成图像中N幅训练图像的排列顺序可以预先设定。例如:N=4时,可以合成2×2的合成图像,即合成图像中包含2行2列;还可以合成1×4的合成图像,即合成图像中包含1行4列。
另外,每组训练数据也可以放入一个矢量数据结构中进行存储,即一组训练数据对应一个矢量数据结构。在进行图像合成时,可以按照存储的顺序进行合成。示例性的,假设每组训练数据中有4幅训练图像a、b、c和d。矢量数据结构中的存储顺序为a、b、c、d。合成图像为2×2的结构,那么可以是a位于第一行第一列的位置,b位于第一行第二列的位置,c位于第二行第一列的位置,d位于第二行第二列的位置。当然,上述只是N幅训练图像在合成图像中位置的示例,并不用于限定N幅训练图像在合成图像中的位置关系。
上述方法中图像合成的步骤可以离线完成,不用占用模型训练的时间。另外,利用上述方法,可以自动变换训练图像的尺寸,生成的合成图像能够起到数据增强的作用。当图像检测模型对拍摄距离有要求时,无需采集每个距离下对应的训练图像,可以通过上述方法生成各个距离对应的合成图像,大大减轻了训练图像的采集工作量。
S103,利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型。
通过上述方法,根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像,相当于对每组训练数据中的训练图像进行了尺寸变换;由于拍摄图像的尺寸与拍摄距离相关,因此,对训练图像进行尺寸变换相当于采集了不同距离下的训练图像,通过上述方法,有效减轻了训练图像的采集任务量;另外,将N幅训练图像进行尺寸变换(缩小)后合成为一张合成图像,那么合成图像中包含了更丰富的小体积目标物体,因此,利用合成图像对图像检测模型进行训练,能够有效提高训练后的图像检测模型对小体积目标物体的检测能力。
在得到训练后的图像检测模型后,可以利用训练后的图像检测模型对待检测图像进行图像检测。参见图3,是本申请实施例提供的图像检测方法的流程示意图。作为示例而非限定,所述方法可以包括以下步骤:
S301,获取待检测图像,并将所述待检测图像输入到所述训练后的图像检测模型中,得到输出的目标图像。
其中,所述目标图像为所述待检测图像中目标物体对应的子图像。
示例性的,当需要对手势进行检测时,可以拍摄大量的包含手部的训练图像,然后将训练图像生成合成图像,利用合成图像对图像检测模型进行训练。然后获取待检测图像,将待检测图像输入到训练后的图像检测模型中,得到的目标图像即为待检测图像中手部对应的子图像。
由于目标图像中除目标物体外的背景图像较少,因此利用目标图像进行目标识别,能够减少背景图像的影响,提高图像识别的准确度和鲁棒性。
S302,利用预设的模板图像库对所述目标图像进行图像识别,得到识别结果。
其中,所述模板图像库中包括至少两种类别的图像,每种类别的图像中包括至少一张模板图像。
建立模板图像库时,应尽量保证模板图像的丰富性。例如:假设需要对手势进行识别,且假设有5种标准手势。那么建立模板图像库时,对于每种标准手势,都可以录入多个人的该种手势的模板图像。这样有利于避免模板图像库的单一性和特殊性,进而提高后续图像识别结果的准确性。
可选的,S302中图像识别的一种实现方式可以包括以下步骤:
1)将所述目标图像分别与所述模板图像库中每种类别的图像进行比对,得到所述目标图像与所述每种类别的图像的比对结果。
由于图像识别的过程是确定目标图像所属图像类别的过程,因此,需要按照图像的类别进行比对。
进一步的,目标图像与每种类别的图像的比对结果的获取方式可以包括:
对于所述模板图像库中每种类别的图像,分别计算所述目标图像与所述类别的图像中的每幅模板图像之间的相似值;计算所述相似值的平均值,并将所述平均值记为所述目标图像与所述类别的图像的比对结果。
示例性的,假设某一类别的图像中包括10幅模板图像,那么,分别计算目标图像与每幅模板图像之间的相似值,再计算得到的10个相似值的平均值,将该平均值记为目标图像与该类别的图像的比对结果。
再进一步的,计算目标图像与每幅模板图像之间的相似值的一种实现方式为:
对于所述类别的图像中的每幅模板图像,将所述模板图像和所述目标图像分别缩放至预设尺寸;将缩放后的模板图像转换为第一灰度图像,并根据所述第一灰度图像中像素点的像素值生成第一像素编码;将缩放后的目标图像转换为第二灰度图像,并根据所述第二灰度图像中像素点的像素值生成第二像素编码;计算所述第一像素编码和所述第二像素编码之间的重合度,并将所述重合度记为所述模板图像和所述目标图像之间的相似值。
其中,预设尺寸可以人为预先设定的,通常预设尺寸小于模板图像的尺寸、且小于目标图像的尺寸。这样能够减少数据处理的计算量。
转换为灰度图像时,即将待转换的图像中的每个像素点的像素值转换为相应的灰度值(如0-255)。相应的,在生成像素编码时,可以按照像素点的排列顺序,将各像素点对应的灰度值组成像素编码。例如:一幅2×2的灰度图像中包括4个像素点,按照先行后列的顺序,各像素点对应的灰度值依次为:2、55、67、100。那么生成的像素编码为25567100。
从上述示例可以看出,由于灰度值可能是个位数、十位数或百位数,因此生成的像素编码具有不确定性。如上述示例所示的像素编码25567100,也可能是由一幅2×2的灰度图像、且各像素点对应的灰度值为255、6、7、100生成。这种情况下,两个重合度较高的像素编码,并不一定能够表示模板图像和目标图像之间具有较高的相似度。即这种方式计算出的模板图像和目标图像之间的相似值不够准确。
为了解决上述问题,进一步的,可以限定灰度图像为二值图像。具体的,在得到灰度图像后,取灰度图像中所有像素点的像素值的平均值;然后利用该平均值对灰度图像进行二值化处理,得到二值图像;最后将二值图像中各像素点的像素值生成像素编码。由于二值图像中像素点的像素值只有两种取值,因此,生成的像素编码具有唯一性,进而可以保证计算出的模板图像和目标图像之间的相似值足够准确。
其中,利用平均值对灰度图像进行二值化处理的过程可以包括:分别将灰度图像中的每个像素点的像素值与平均值比较;若像素点的像素值大于平均值,则将该像素点的像素值更新为1;若像素点的像素值小于或等于平均值,则将该像素点的像素值更新为0。当然,上述只是二值化处理的示例,并不对二值图像的像素值做具体限定(可以取其他数值,如0和255等)。
2)根据所述目标图像与所述每种类别的图像的比对结果,确定所述目标图像所属的图像类别,并将所述图像类别记为所述识别结果。
由于比对结果即为目标图像与某类别的图像之间的相似值,因此,可以将最大的相似值对应的图像类别记为目标图像所属的图像类别。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
对应于上文实施例所述的图像检测模型的训练方法,图4是本申请实施例提供的图像检测模型的训练装置的结构框图,为了便于说明,仅示出了与本申请实施例相关的部分。
参照图4,该装置包括:
训练数据获取单元41,用于获取多组训练数据,其中,每组训练数据中包括N幅训练图像,所述N为大于1的正整数。
图像合成单元42,用于获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像。
模型训练单元43,用于利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型。
可选的,所述模型参数包括输入图像的尺寸。
可选的,图像合成单元42包括:
合成尺寸确定模块,用于对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸。
图像合成模块,用于将所述训练数据中的N幅训练图像按照各自对应的合成尺寸进行图像合成处理,得到每组训练数据对应的合成图像。
可选的,所述输入图像的尺寸包括输入图像的长度值和宽度值;所述每幅训练图像的合成尺寸包括所述每幅训练图像在所述合成图像中对应的长度值和宽度值。
可选的,合成尺寸确定模块还用于:
根据所述输入图像的长度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的长度值;根据所述输入图像的宽度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的宽度值。
可选的,装置4还包括:
图像检测单元44,用于在利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型之后,获取待检测图像,并将所述待检测图像输入到所述训练后的图像检测模型中,得到输出的目标图像,其中,所述目标图像为所述待检测图像中目标物体对应的子图像。
图像识别单元45,用于利用预设的模板图像库对所述目标图像进行图像识别,得到识别结果。
可选的,所述模板图像库中包括至少两种类别的图像,每种类别的图像中包括至少一张模板图像。
可选的,图像识别单元45包括:
比对模块,用于将所述目标图像分别与所述模板图像库中每种类别的图像进行比对,得到所述目标图像与所述每种类别的图像的比对结果。
识别模块,用于根据所述目标图像与所述每种类别的图像的比对结果,确定所述目标图像所属的图像类别,并将所述图像类别记为所述识别结果。
可选的,比对模块还用于:
对于所述模板图像库中每种类别的图像,分别计算所述目标图像与所述类别的图像中的每幅模板图像之间的相似值;计算所述相似值的平均值,并将所述平均值记为所述目标图像与所述类别的图像的比对结果。
可选的,比对模块还用于:
对于所述类别的图像中的每幅模板图像,将所述模板图像和所述目标图像分别缩放至预设尺寸;
将缩放后的模板图像转换为第一灰度图像,并根据所述第一灰度图像中像素点的像素值生成第一像素编码;
将缩放后的目标图像转换为第二灰度图像,并根据所述第二灰度图像中像素点的像素值生成第二像素编码;
计算所述第一像素编码和所述第二像素编码之间的重合度,并将所述重合度记为所述模板图像和所述目标图像之间的相似值。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
另外,图4所示的图像检测模型的训练装置可以是内置于现有的终端设备内的软件单元、硬件单元、或软硬结合的单元,也可以作为独立的挂件集成到所述终端设备中,还可以作为独立的终端设备存在。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述系统中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
图5是本申请实施例提供的终端设备的结构示意图。如图5所示,该实施例的终端设备5包括:至少一个处理器50(图5中仅示出一个)处理器、存储器51以及存储在所述存储器51中并可在所述至少一个处理器50上运行的计算机程序52,所述处理器50执行所述计算机程序52时实现上述任意各个图像检测模型的训练方法实施例中的步骤。
所述终端设备可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。该终端设备可包括,但不仅限于,处理器、存储器。本领域技术人员可以理解,图5仅仅是终端设备5的举例,并不构成对终端设备5的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如还可以包括输入输出设备、网络接入设备等。
所称处理器50可以是中央处理单元(Central Processing Unit,CPU),该处理器50还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器51在一些实施例中可以是所述终端设备5的内部存储单元,例如终端设备5的硬盘或内存。所述存储器51在另一些实施例中也可以是所述终端设备5的外部存储设备,例如所述终端设备5上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器51还可以既包括所述终端设备5的内部存储单元也包括外部存储设备。所述存储器51用于存储操作系统、应用程序、引导装载程序(Boot Loader)、数据以及其他程序等,例如所述计算机程序的程序代码等。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
本申请实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现可实现上述各个方法实施例中的步骤。
本申请实施例提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行时实现可实现上述各个方法实施例中的步骤。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质至少可以包括:能够将计算机程序代码携带到装置/终端设备的任何实体或装置、记录介质、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random AccessMemory)、电载波信号、电信信号以及软件分发介质。例如U盘、移动硬盘、磁碟或者光盘等。在某些司法管辖区,根据立法和专利实践,计算机可读介质不可以是电载波信号和电信信号。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个系统,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (8)
1.一种图像检测模型的训练方法,其特征在于,包括:
获取多组训练数据,其中,每组训练数据中包括N幅训练图像,所述N为大于1的正整数;
获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像;
利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型;
所述模型参数包括输入图像的尺寸;
所述根据所述模型参数分别将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像,包括:
对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸;
将所述训练数据中的N幅训练图像按照各自对应的合成尺寸进行图像合成处理,得到每组训练数据对应的合成图像;
所述输入图像的尺寸包括输入图像的长度值和宽度值;
所述每幅训练图像的合成尺寸包括所述每幅训练图像在所述合成图像中对应的长度值和宽度值;
所述对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸,包括:
根据所述输入图像的长度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的长度值;
根据所述输入图像的宽度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的宽度值。
2.如权利要求1所述的图像检测模型的训练方法,其特征在于,在利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型之后,所述方法还包括:
获取待检测图像,并将所述待检测图像输入到所述训练后的图像检测模型中,得到输出的目标图像,其中,所述目标图像为所述待检测图像中目标物体对应的子图像;
利用预设的模板图像库对所述目标图像进行图像识别,得到识别结果。
3.如权利要求2所述的图像检测模型的训练方法,其特征在于,所述模板图像库中包括至少两种类别的图像,每种类别的图像中包括至少一张模板图像;
所述利用预设的模板图像库对所述目标图像进行图像识别,得到识别结果,包括:
将所述目标图像分别与所述模板图像库中每种类别的图像进行比对,得到所述目标图像与所述每种类别的图像的比对结果;
根据所述目标图像与所述每种类别的图像的比对结果,确定所述目标图像所属的图像类别,并将所述图像类别记为所述识别结果。
4.如权利要求3所述的图像检测模型的训练方法,其特征在于,所述将所述目标图像分别与所述模板图像库中每种类别的图像进行比对,得到所述目标图像与所述每种类别的图像的比对结果,包括:
对于所述模板图像库中每种类别的图像,分别计算所述目标图像与所述类别的图像中的每幅模板图像之间的相似值;
计算所述相似值的平均值,并将所述平均值记为所述目标图像与所述类别的图像的比对结果。
5.如权利要求4所述的图像检测模型的训练方法,其特征在于,所述对于所述模板图像库中每种类别的图像,分别计算所述目标图像与所述类别的图像中的每幅模板图像之间的相似值,包括:
对于所述类别的图像中的每幅模板图像,将所述模板图像和所述目标图像分别缩放至预设尺寸;
将缩放后的模板图像转换为第一灰度图像,并根据所述第一灰度图像中像素点的像素值生成第一像素编码;
将缩放后的目标图像转换为第二灰度图像,并根据所述第二灰度图像中像素点的像素值生成第二像素编码;
计算所述第一像素编码和所述第二像素编码之间的重合度,并将所述重合度记为所述模板图像和所述目标图像之间的相似值。
6.一种图像检测模型的训练装置,其特征在于,包括:
训练数据获取单元,用于获取多组训练数据,其中,每组训练数据中包括N幅训练图像,所述N为大于1的正整数;
图像合成单元,用于获取待训练的图像检测模型的模型参数,并根据所述模型参数将每组训练数据中的N幅训练图像进行图像合成处理,得到每组训练数据对应的合成图像;
模型训练单元,用于利用所述合成图像对所述图像检测模型进行训练,得到训练后的图像检测模型;
所述模型参数包括输入图像的尺寸;
所述图像合成单元包括:
合成尺寸确定模块,用于对于每组训练数据,根据所述输入图像的尺寸确定所述训练数据中每幅训练图像的合成尺寸;
图像合成模块,用于将所述训练数据中的N幅训练图像按照各自对应的合成尺寸进行图像合成处理,得到每组训练数据对应的合成图像;
所述输入图像的尺寸包括输入图像的长度值和宽度值;所述每幅训练图像的合成尺寸包括所述每幅训练图像在所述合成图像中对应的长度值和宽度值;
所述合成尺寸确定模块还用于:
根据所述输入图像的长度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的长度值;根据所述输入图像的宽度值确定所述训练数据中的每幅训练图像在所述合成图像中对应的宽度值。
7.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至5任一项所述的方法。
8.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010965685.9A CN112200004B (zh) | 2020-09-15 | 2020-09-15 | 图像检测模型的训练方法、装置及终端设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010965685.9A CN112200004B (zh) | 2020-09-15 | 2020-09-15 | 图像检测模型的训练方法、装置及终端设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112200004A CN112200004A (zh) | 2021-01-08 |
CN112200004B true CN112200004B (zh) | 2024-01-16 |
Family
ID=74014921
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010965685.9A Active CN112200004B (zh) | 2020-09-15 | 2020-09-15 | 图像检测模型的训练方法、装置及终端设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112200004B (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114001810A (zh) * | 2021-11-08 | 2022-02-01 | 厦门熵基科技有限公司 | 一种体重计算方法及装置 |
JP2024082337A (ja) * | 2022-12-08 | 2024-06-20 | キヤノン株式会社 | 情報処理装置、情報処理方法およびプログラム |
Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109871829A (zh) * | 2019-03-15 | 2019-06-11 | 北京行易道科技有限公司 | 一种基于深度学习的检测模型训练方法和装置 |
CN109903393A (zh) * | 2019-02-22 | 2019-06-18 | 清华大学 | 基于深度学习的新视角场景合成方法和装置 |
WO2019144469A1 (zh) * | 2018-01-24 | 2019-08-01 | 华讯方舟科技有限公司 | 一种图像质量分类方法、系统及终端设备 |
CN110288019A (zh) * | 2019-06-21 | 2019-09-27 | 北京百度网讯科技有限公司 | 图像标注方法、装置和存储介质 |
CN110765876A (zh) * | 2019-09-20 | 2020-02-07 | 深圳码隆科技有限公司 | 一种商品识别模型的训练方法及装置 |
CN111104538A (zh) * | 2019-12-06 | 2020-05-05 | 深圳久凌软件技术有限公司 | 一种基于多尺度约束的细粒度车辆图像检索的方法及装置 |
CN111145147A (zh) * | 2019-12-14 | 2020-05-12 | 中国科学院深圳先进技术研究院 | 多模态医学图像的分割方法及终端设备 |
CN111310775A (zh) * | 2018-12-11 | 2020-06-19 | Tcl集团股份有限公司 | 数据训练方法、装置、终端设备及计算机可读存储介质 |
CN111311475A (zh) * | 2020-02-21 | 2020-06-19 | 广州腾讯科技有限公司 | 检测模型训练方法、装置、存储介质和计算机设备 |
CN111582410A (zh) * | 2020-07-16 | 2020-08-25 | 平安国际智慧城市科技股份有限公司 | 图像识别模型训练方法、装置、计算机设备及存储介质 |
-
2020
- 2020-09-15 CN CN202010965685.9A patent/CN112200004B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2019144469A1 (zh) * | 2018-01-24 | 2019-08-01 | 华讯方舟科技有限公司 | 一种图像质量分类方法、系统及终端设备 |
CN111310775A (zh) * | 2018-12-11 | 2020-06-19 | Tcl集团股份有限公司 | 数据训练方法、装置、终端设备及计算机可读存储介质 |
CN109903393A (zh) * | 2019-02-22 | 2019-06-18 | 清华大学 | 基于深度学习的新视角场景合成方法和装置 |
CN109871829A (zh) * | 2019-03-15 | 2019-06-11 | 北京行易道科技有限公司 | 一种基于深度学习的检测模型训练方法和装置 |
CN110288019A (zh) * | 2019-06-21 | 2019-09-27 | 北京百度网讯科技有限公司 | 图像标注方法、装置和存储介质 |
CN110765876A (zh) * | 2019-09-20 | 2020-02-07 | 深圳码隆科技有限公司 | 一种商品识别模型的训练方法及装置 |
CN111104538A (zh) * | 2019-12-06 | 2020-05-05 | 深圳久凌软件技术有限公司 | 一种基于多尺度约束的细粒度车辆图像检索的方法及装置 |
CN111145147A (zh) * | 2019-12-14 | 2020-05-12 | 中国科学院深圳先进技术研究院 | 多模态医学图像的分割方法及终端设备 |
CN111311475A (zh) * | 2020-02-21 | 2020-06-19 | 广州腾讯科技有限公司 | 检测模型训练方法、装置、存储介质和计算机设备 |
CN111582410A (zh) * | 2020-07-16 | 2020-08-25 | 平安国际智慧城市科技股份有限公司 | 图像识别模型训练方法、装置、计算机设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112200004A (zh) | 2021-01-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111815754B (zh) | 一种三维信息确定方法、三维信息确定装置及终端设备 | |
CN109117773B (zh) | 一种图像特征点检测方法、终端设备及存储介质 | |
CN112336342B (zh) | 手部关键点检测方法、装置及终端设备 | |
CN110852311A (zh) | 一种三维人手关键点定位方法及装置 | |
CN112200004B (zh) | 图像检测模型的训练方法、装置及终端设备 | |
CN112085701A (zh) | 一种人脸模糊度检测方法、装置、终端设备及存储介质 | |
CN114187333A (zh) | 一种图像对齐方法、图像对齐装置及终端设备 | |
CN108960246B (zh) | 一种用于图像识别的二值化处理装置及方法 | |
CN111931794B (zh) | 一种基于草图的图像匹配方法 | |
CN114758268A (zh) | 手势识别方法、装置及智能设备 | |
CN111222446B (zh) | 人脸识别方法、人脸识别装置及移动终端 | |
CN112862703A (zh) | 基于移动拍照的图像校正方法、装置、电子设备及介质 | |
CN110287943B (zh) | 图像的对象识别方法、装置、电子设备及存储介质 | |
CN113191189A (zh) | 人脸活体检测方法、终端设备及计算机可读存储介质 | |
CN112629828A (zh) | 一种光学信息检测方法、装置及设备 | |
CN108629219B (zh) | 一种识别一维码的方法及装置 | |
CN116129496A (zh) | 一种图像遮挡方法、装置、计算机设备及存储介质 | |
CN115439733A (zh) | 图像处理方法、装置、终端设备及计算机可读存储介质 | |
CN114693919A (zh) | 一种目标检测方法、终端设备及存储介质 | |
CN114219831A (zh) | 目标跟踪方法、装置、终端设备及计算机可读存储介质 | |
CN113240723A (zh) | 一种单目深度估计方法、装置以及深度评估设备 | |
CN112465007B (zh) | 目标识别模型的训练方法、目标识别方法及终端设备 | |
CN112270257A (zh) | 一种运动轨迹确定方法、装置及计算机可读存储介质 | |
CN115423855B (zh) | 图像的模板匹配方法、装置、设备及介质 | |
CN112464753B (zh) | 图像中关键点的检测方法、检测装置及终端设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |