Nothing Special   »   [go: up one dir, main page]

CN112991330A - 基于知识蒸馏的正样本工业缺陷检测方法 - Google Patents

基于知识蒸馏的正样本工业缺陷检测方法 Download PDF

Info

Publication number
CN112991330A
CN112991330A CN202110415805.2A CN202110415805A CN112991330A CN 112991330 A CN112991330 A CN 112991330A CN 202110415805 A CN202110415805 A CN 202110415805A CN 112991330 A CN112991330 A CN 112991330A
Authority
CN
China
Prior art keywords
network model
positive sample
industrial
teacher
defect
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110415805.2A
Other languages
English (en)
Other versions
CN112991330B (zh
Inventor
和江镇
王岩松
都卫东
方志斌
夏海峰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Zhengtu Intelligent Technology Jiangsu Co ltd
Focusight Technology Co Ltd
Original Assignee
Zhengtu Intelligent Technology Jiangsu Co ltd
Focusight Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Zhengtu Intelligent Technology Jiangsu Co ltd, Focusight Technology Co Ltd filed Critical Zhengtu Intelligent Technology Jiangsu Co ltd
Priority to CN202110415805.2A priority Critical patent/CN112991330B/zh
Publication of CN112991330A publication Critical patent/CN112991330A/zh
Application granted granted Critical
Publication of CN112991330B publication Critical patent/CN112991330B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8806Specially adapted optical and illumination features
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/08Learning methods
    • G06N3/088Non-supervised learning, e.g. competitive learning
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8854Grading and classifying of flaws
    • G01N2021/8874Taking dimensions of defect into account
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20112Image segmentation details
    • G06T2207/20132Image cropping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Computational Linguistics (AREA)
  • Pathology (AREA)
  • Biochemistry (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Analytical Chemistry (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Immunology (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Chemical & Material Sciences (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Abstract

本发明涉及一种基于知识蒸馏的正样本工业缺陷检测方法,包括步骤(S1):构建工业数据集。步骤(S2):预处理操作,预处理后的工业数据集包括正样本集和无标注的缺陷样本集。步骤(S3):使用自监督对比学习在步骤(S2)形成的工业数据集上预训练教师网络模型;步骤(S4):在步骤(S2)形成的正样本集的基础上,利用步骤(S3)训练得到的教师网络模型指导学生网络模型训练。步骤(S5):使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测。由于学生网络模型只学习到提取正样本特征的能力,对缺陷区域提取的特征与教师网络模型存在较大差异,从而可以作为缺陷判断的依据。

Description

基于知识蒸馏的正样本工业缺陷检测方法
技术领域
本发明涉及工业缺陷检测技术领域,尤其是一种基于知识蒸馏的正样本工业缺陷检测方法。
背景技术
质量检测是工业自动化生产中的重要一环,基于机器学习的缺陷检测技术已经在很多工业场景广泛替代人工肉眼检测,包括纺织、汽车和机械制造等行业。由于工业缺陷的种类多种多样,难以完整地进行人为划分,传统的机器学习算法就很难通过特征工程实现对缺陷特征的完整建模和迁移,难以具备复用性。近些年来,随着深度学习的不断发展,卷积神经网络由于其强大的特征提取能力,在各种计算机视觉任务上取得了突破性的进展,一些基于深度学习的缺陷检测算法也被广泛应用于各种工业场景。基于深度学习的工业缺陷检测算法不仅具有重要的学术研究价值,而且有着非常广阔的市场应用前景。
当前的工业缺陷检测大多是基于有监督算法,依赖于缺陷标注信息,费时费力。正样本图片在像素分布上可能千差万别,但是内部有一定的特征规律,通常可以用较低维度的潜空间特征来描述,称之为流形。而缺陷样本的分布在潜空间上远离正样本流形,会表现出与正样本不同的结果。常用的正样本缺陷检测大致可以分为生成模型重建方法和特征比对的方法。
生成模型通过训练来学习近似训练集的数据分布,自编码器是常用的一种生成模型方法。自编码器由编码器和解码器两部分构成,编码器将输入样本数据压缩成一个低维的潜空间特征表示,然后解码器将潜空间特征重构回原始输入空间,通过最小化原始输入样本和解码器重构样本之间的距离,实现编码器和解码器的联合学习。自编码器用于无监督缺陷检测时,在训练阶段尝试学习重建无缺陷的正样本。在测试阶段,对于输入的负样本,无法正确重建出缺陷,因此通过对重建样本和原始样本进行逐像素比较可以判断缺陷的位置,实现对缺陷的检测和定位。
生成模型重建方法通过在图像空间上逐像素比较重建图与原图的重建误差来作为缺陷的判定依据,而特征比对方法是在特征空间上进行异常缺陷判定。由于需要在图像空间上逐像素比较重建图与原图之间的重建误差作为异常缺陷判定的依据,因此检测效果依赖于图片的重建质量。自编码器的重建能力有限,当样本复杂,图片重建质量不佳时,就会影响缺陷的检测效果。生成对抗网络的重建能力虽然强,但是容易遇到模式崩溃,即生成结果多样性不足,倾向于只生成原始数据分布的一个子集,这对于缺陷检测而言是致命的。
特征比对的方法通常采取在ImageNet自然数据集上预训练的模型作为提取特征的教师网络。而工业缺陷数据和自然数据的分布差异很大,因此直接将在自然数据集上预训练的模型迁移到工业缺陷场景,可能会遇到跨域的问题,会影响检测能力。另外特征比对的方法对细微缺陷的检测能力不够强,因为特征层的微小差异,在特征层面很难区分差异。
在有监督缺陷检测中,标签需要覆盖所有缺陷类型,同时负样本数据需要尽可能地多。然而在实际的工业生产中,事先不知道可能会出现哪种类型的缺陷,而且大部分缺陷出现的频率非常低,即使某些缺陷类型是已知的,在生产过程中随时可能出现新的缺陷类型。因此制作一个详尽且有标注的缺陷数据集是非常困难和耗时的。
发明内容
本发明要解决的技术问题是:提供一种基于知识蒸馏的正样本工业缺陷检测方法。
本发明解决其技术问题所采用的技术方案是:一种基于知识蒸馏的正样本工业缺陷检测方法,包括步骤(S1):构建工业数据集;特别的,还包括:
步骤(S2):对步骤(S1)中的工业数据集的数据进行预处理操作,预处理后的工业数据集包括正样本集和无标注的缺陷样本集。
步骤(S3):使用自监督对比学习在步骤(S2)形成的工业数据集上预训练教师网络模型;使得教师网络模型学习到正样本集的正样本特征和缺陷样本集的缺陷特征的能力。
步骤(S4):在步骤(S2)形成的正样本集的基础上,利用步骤(S3)训练得到的教师网络模型指导学生网络模型训练,使得学生网络模型学习到正样本集的正样本特征的能力。
步骤(S5):使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测。
进一步地,步骤(S1)中的工业数据集中所采集的数据为检测平台上的相机获得的待检测工件的图像数据。
进一步地,所述教师网络模型采用在ImageNet上预训练的ResNet18网络模型,并采用SimCLR算法对教师网络模型进行无监督微调。
进一步地,分别用教师网络模型和学生网络模型对待测图片提取多尺度特征并形成特征图;所述学生网络模型的MSE损失函数LMSE定义为公式一。
公式一:
Figure 68325DEST_PATH_IMAGE001
公式一中,f(T)表示教师网络模型提取的多尺度特征,f(S)表示学生网络模型提取的多尺度特征,H和W分别表示特征图的长和宽,N表示特征图包含的像素值个数,C表示通道个数。
进一步地,使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测得到待测图片的异常得分图Score_map, 异常得分图Score_map为公式四。
公式四:
Figure 188728DEST_PATH_IMAGE002
公式四中,f(T)表示教师网络模型提取的多尺度特征,f(S)表示学生网络模型提取的多尺度特征,C表示通道个数,upsample表示上采样。
本发明的有益效果是:在本发明中,首先在完整的工业数据集上(正样本集加无标注的缺陷样本集)预训练教师网络模型,然后在正样本集上通过教师网络模型指导学生网络模型训练。测试时,由于学生网络模型只学习到提取正样本特征的能力,对缺陷特征与教师网络模型存在较大差异,从而可以作为缺陷判断的依据。
本发明的一种基于知识蒸馏的正样本工业缺陷检测方法,教师网络模型和学生网络模型的训练过程不依赖标注信息,可以极大的减轻工业数据集的制作难度和标注压力。
附图说明
图1是本发明的基于知识蒸馏的正样本工业缺陷检测方法的流程图。
具体实施方式
现在结合附图和优选实施例对本发明作进一步详细的说明。这些附图均为简化的示意图,仅以示意方式说明本发明的基本结构,因此其仅显示与本发明有关的构成。
图1是本发明的基于知识蒸馏的正样本工业缺陷检测方法的流程图,如图1所示,一种基于知识蒸馏的正样本工业缺陷检测方法,包括步骤(S1):构建工业数据集。利用数据集构建模块构建工业数据集,步骤(S1)中的工业数据集中所采集的数据为检测平台上的相机获得的待检测工件的图像数据。待检测工件在稳定均匀的光照环境下,检测平台上的相机拍摄获得待检测工件的图像数据。
步骤(S2):对步骤(S1)中的工业数据集的数据进行预处理操作,预处理后的工业数据集包括正样本集和无标注的缺陷样本集。
利用数据预处理模块对步骤(S1)中的工业数据集的数据进行预处理操作。预处理操作包括,首先将采集的待检测工件的大图像裁剪成预设尺寸的小图像,并进行去噪、滤波、对比度增强和平移翻转等操作,得到质量较好的处理后的小图像。然后对得到的小图像进行旋转、翻转和随机噪声等数据增强操作得到增强图像来扩充工业数据集。由于需要对教师网络模型进行自监督预训练,因此完整的工业数据集由正样本集和缺陷样本集构成,但是整个方法过程都是无监督的,因此不需要对缺陷样本集进行缺陷标注。
步骤(S3):使用自监督对比学习在步骤(S2)形成的工业数据集上预训练教师网络模型;使得教师网络模型学习到正样本集的正样本特征和缺陷样本集的缺陷特征的能力。所述教师网络模型采用在ImageNet上预训练的ResNet18网络模型,并采用SimCLR算法对教师网络模型进行无监督微调。
利用教师网络自监督训练模块,使用自监督对比学习在步骤(S2)形成的工业数据集上预训练教师网络模型。针对跨域问题,由于工业场景数据分布与自然数据分布差异大,ImageNet上预训练的ResNet18网络模型不能很好的直接迁移到工业场景中。自监督对比学习通过利用辅助任务从大规模的无监督数据中挖掘自身的监督信息,通过这种构造的监督信息对教师网络模型进行训练,从而可以学习到对下游任务有价值的表征。SimCLR算法通过自监督方法学习到的特征表示在一些计算机视觉任务上取得了接近有监督算法的效果。所述教师网络模型采用在ImageNet上预训练的ResNet18网络模型,并采用SimCLR算法对教师网络模型进行无监督微调,使得在ImageNet上预训练的教师网络模型可以更好地迁移到工业数据集上,避免跨域迁移问题。
步骤(S4):在步骤(S2)形成的工业数据集的正样本集的基础上,利用步骤(S3)训练得到的教师网络模型指导学生网络模型训练,使得学生网络模型学习到正样本集的正样本特征的能力。
利用学生网络正样本训练模块,在步骤(S2)形成的工业数据集的正样本集的基础上,利用步骤(S3)训练得到的教师网络模型指导学生网络模型训练。学生网络模型与教师网络模型架构一致,总训练损失由MSE损失和注意力损失构成。教师网络模型和学生网络模型对输入的待测图片分别提取多尺度特征,然后在通道维度上进行聚合。通过优化MSE损失使得学生网络模型提取的特征尽可能地接近教师网络模型,从而学习到提取正样本特征的能力。
分别用教师网络模型和学生网络模型对待测图片提取多尺度特征并形成特征图;所述学生网络模型的MSE损失函数LMSE定义为公式一。
公式一:
Figure 296361DEST_PATH_IMAGE003
公式一中,f(T)表示教师网络模型提取的多尺度特征,f(S)表示学生网络模型提取的多尺度特征,H和W分别表示特征图的长和宽,N表示特征图包含的像素值个数,C表示通道个数。
所述学生网络模型增加注意力损失,注意力损失的注意力图由如下得到:使用grad_cam算法将学生网络模型的输出结果对最后一个卷积层的输出特征图求导,然后对得到的梯度做全局平均池化得到对应特征图每个通道的权重系数,最后加权求和得到最终的注意力图。
grad_cam算法通常用于分类任务,用类别输出结果对卷积层的输出特征图求导,然后对得到的梯度做全局平均池化得到对应特征图每个通道的权重系数,最后加权得到激活图。在无监督任务中没有类别,因此采用学生网络模型的输出结果对学生网络模型中卷积层的输出特征图求导得到梯度,然后再通过全局平均池化得到对应特征图通道的权重系数w。
Figure 770199DEST_PATH_IMAGE004
其中,y是学生网络模型的输出,ak是第k个卷积层,z表示卷积层包含的特征数。
最后将得到的权重系数w和对应的特征图按通道进行加权求和,并送入ReLU激活函数中,得到最后的注意力图A,A=ReLU(wak)。
针对特征比对方法中细微缺陷检测差的问题,本发明进行了两点改进。一是提取多尺度特征进行聚合,增强对小缺陷特征的提取能力,更适用于工业缺陷尺寸大小不一的场景。二是提出了注意力损失,更关注注意力响应高的有效区域,忽略响应低的无关背景区域,更好地增强特征表示能力,可有效缓解过杀现象。
步骤(S5):使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测。
利用工业缺陷检测模块,使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型进行缺陷检测任务。使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测得到待测图片的异常得分图Score_map,异常得分图Score_map为公式四。
公式四:
Figure 53413DEST_PATH_IMAGE002
公式四中,f(T)表示教师网络模型提取的多尺度特征,f(S)表示学生网络模型提取的多尺度特征,C表示通道个数,upsample表示上采样。
基于教师-学生网络的知识蒸馏框架是特征比对方法的一种,教师网络模型具备提取正样本特征和提取缺陷特征的能力,而学生网络模型只具备提取正样本特征的能力,因此缺陷特征的差异即可作为异常缺陷判定的依据。
本发明的一种基于知识蒸馏的正样本工业缺陷检测方法采用无监督技术,教师网络模型和学生网络模型的训练过程不依赖标注信息,可以极大的减轻工业数据集的制作难度和标注压力。
由于工业数据集分布复杂,基于重建的方法可能会出现某些场景下完全失效的情况。而特征比对的方法在特征空间上进行异常缺陷判定,不需要对图片进行精准重建,适用场景更广。因此在本发明中,采用特征比对的路线来解决正样本工业缺陷检测的问题,并对目前存在的问题进行针对性的改进。
在本发明中,在完整的工业数据集上(正样本集加无标注的缺陷样本集)预训练教师网络模型,在正样本集上通过教师网络模型指导学生网络模型训练。测试时,由于学生网络模型只学习到提取正样本特征的能力,对缺陷区域提取的特征与教师网络模型存在较大差异,从而可以作为缺陷判断的依据。
以上说明书中描述的只是本发明的具体实施方式,各种举例说明不对本发明的实质内容构成限制,所属技术领域的普通技术人员在阅读了说明书后可以对以前所述的具体实施方式做修改或变形,而不背离发明的实质和范围。

Claims (5)

1.一种基于知识蒸馏的正样本工业缺陷检测方法,包括步骤(S1):构建工业数据集;其特征在于:还包括:
步骤(S2):对步骤(S1)中的工业数据集的数据进行预处理操作,预处理后的工业数据集包括正样本集和无标注的缺陷样本集;
步骤(S3):使用自监督对比学习在步骤(S2)形成的工业数据集上预训练教师网络模型;使得教师网络模型学习到正样本集的正样本特征和缺陷样本集的缺陷特征的能力;
步骤(S4):在步骤(S2)形成的正样本集的基础上,利用步骤(S3)训练得到的教师网络模型指导学生网络模型训练,使得学生网络模型学习到正样本集的正样本特征的能力;
步骤(S5):使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测。
2.根据权利要求1所述的基于知识蒸馏的正样本工业缺陷检测方法,其特征在于:步骤(S1)中的工业数据集中所采集的数据为检测平台上的相机获得的待检测工件的图像数据。
3.根据权利要求1所述的基于知识蒸馏的正样本工业缺陷检测方法,其特征在于:所述教师网络模型采用在ImageNet上预训练的ResNet18网络模型,并采用SimCLR算法对教师网络模型进行无监督微调。
4.根据权利要求1所述的基于知识蒸馏的正样本工业缺陷检测方法,其特征在于:分别用教师网络模型和学生网络模型对待测图片提取多尺度特征并形成特征图;所述学生网络模型的MSE损失函数LMSE定义为公式一;
公式一:
Figure 218344DEST_PATH_IMAGE001
公式一中,f(T)表示教师网络模型提取的多尺度特征,f(S)表示学生网络模型提取的多尺度特征,H和W分别表示特征图的长和宽,N表示特征图包含的像素值个数,C表示通道个数。
5.根据权利要求1所述的基于知识蒸馏的正样本工业缺陷检测方法,其特征在于:使用步骤(S3)训练得到的教师网络模型以及步骤(S4)训练得到的学生网络模型对待测图片进行缺陷检测得到待测图片的异常得分图Score_map,异常得分图Score_map为公式四;
公式四:
Figure 829585DEST_PATH_IMAGE002
公式四中,f(T)表示教师网络模型提取的多尺度特征,f(S)表示学生网络模型提取的多尺度特征,C表示通道个数,upsample表示上采样。
CN202110415805.2A 2021-04-19 2021-04-19 基于知识蒸馏的正样本工业缺陷检测方法 Active CN112991330B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110415805.2A CN112991330B (zh) 2021-04-19 2021-04-19 基于知识蒸馏的正样本工业缺陷检测方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110415805.2A CN112991330B (zh) 2021-04-19 2021-04-19 基于知识蒸馏的正样本工业缺陷检测方法

Publications (2)

Publication Number Publication Date
CN112991330A true CN112991330A (zh) 2021-06-18
CN112991330B CN112991330B (zh) 2021-08-13

Family

ID=76340918

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110415805.2A Active CN112991330B (zh) 2021-04-19 2021-04-19 基于知识蒸馏的正样本工业缺陷检测方法

Country Status (1)

Country Link
CN (1) CN112991330B (zh)

Cited By (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113888538A (zh) * 2021-12-06 2022-01-04 成都考拉悠然科技有限公司 一种基于内存分块模型的工业异常检测方法
CN113902710A (zh) * 2021-10-12 2022-01-07 菲特(天津)检测技术有限公司 基于异常检测算法进行工业零件表面缺陷检测方法及系统
CN113947590A (zh) * 2021-10-26 2022-01-18 四川大学 一种基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法
CN113962928A (zh) * 2021-09-03 2022-01-21 宁波海棠信息技术有限公司 一种基于多尺度特征蒸馏的缺陷检测方法、装置及介质
CN114119972A (zh) * 2021-10-29 2022-03-01 北京百度网讯科技有限公司 模型获取及对象处理方法、装置、电子设备及存储介质
CN114219762A (zh) * 2021-11-16 2022-03-22 杭州三米明德科技有限公司 基于图像修复的缺陷检测方法
CN114332007A (zh) * 2021-12-28 2022-04-12 福州大学 一种基于Transformer的工业缺陷检测和识别方法
CN114372580A (zh) * 2021-12-31 2022-04-19 北京旷视科技有限公司 模型训练方法、存储介质、电子设备和计算机程序产品
CN114742799A (zh) * 2022-04-18 2022-07-12 华中科技大学 基于自监督异构网络的工业场景未知类型缺陷分割方法
CN114862838A (zh) * 2022-06-02 2022-08-05 深圳市华汉伟业科技有限公司 基于无监督学习的缺陷检测方法及设备
CN114972225A (zh) * 2022-05-16 2022-08-30 上海可明科技有限公司 一种基于深度学习的两阶段光伏板缺陷检测方法
CN114972952A (zh) * 2022-05-29 2022-08-30 重庆科技学院 一种基于模型轻量化的工业零部件缺陷识别方法
CN114973156A (zh) * 2022-08-02 2022-08-30 松立控股集团股份有限公司 一种基于知识蒸馏的夜间渣土车检测方法
CN115082435A (zh) * 2022-07-21 2022-09-20 浙江霖研精密科技有限公司 一种基于自监督动量对比的缺陷检测方法
CN115239638A (zh) * 2022-06-28 2022-10-25 厦门微图软件科技有限公司 一种工业缺陷检测方法、装置、设备及可读存储介质
CN115829983A (zh) * 2022-12-13 2023-03-21 广东工业大学 一种基于知识蒸馏的高速工业场景视觉质量检测方法
WO2023097638A1 (zh) * 2021-12-03 2023-06-08 宁德时代新能源科技股份有限公司 一种基于对比表征蒸馏的快速异常检测方法和系统
CN116309245A (zh) * 2022-09-07 2023-06-23 南京江源测绘有限公司 基于深度学习的地下排水管道缺陷智能检测方法与系统

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110390950A (zh) * 2019-08-17 2019-10-29 杭州派尼澳电子科技有限公司 一种基于生成对抗网络的端到端语音增强方法
CN111209832A (zh) * 2019-12-31 2020-05-29 华瑞新智科技(北京)有限公司 变电站巡检机器人辅助避障训练方法、设备及介质
CN112163238A (zh) * 2020-09-09 2021-01-01 中国科学院信息工程研究所 一种多方参与数据不共享的网络模型训练方法
CN112215262A (zh) * 2020-09-21 2021-01-12 清华大学 基于自监督对比学习的图像深度聚类方法及系统
CN112381763A (zh) * 2020-10-23 2021-02-19 西安科锐盛创新科技有限公司 一种表面缺陷检测方法
CN112633406A (zh) * 2020-12-31 2021-04-09 天津大学 一种基于知识蒸馏的少样本目标检测方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110390950A (zh) * 2019-08-17 2019-10-29 杭州派尼澳电子科技有限公司 一种基于生成对抗网络的端到端语音增强方法
CN111209832A (zh) * 2019-12-31 2020-05-29 华瑞新智科技(北京)有限公司 变电站巡检机器人辅助避障训练方法、设备及介质
CN112163238A (zh) * 2020-09-09 2021-01-01 中国科学院信息工程研究所 一种多方参与数据不共享的网络模型训练方法
CN112215262A (zh) * 2020-09-21 2021-01-12 清华大学 基于自监督对比学习的图像深度聚类方法及系统
CN112381763A (zh) * 2020-10-23 2021-02-19 西安科锐盛创新科技有限公司 一种表面缺陷检测方法
CN112633406A (zh) * 2020-12-31 2021-04-09 天津大学 一种基于知识蒸馏的少样本目标检测方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
TING CHEN 等: "Big Self-Supervised Models are Strong Semi-Supervised Learners", 《COMPUTER VISION AND PATTERN RECOGNITION (CS.CV)ARXIV:2006.10029》 *
厉任杰: "基于深度随机森林和知识蒸馏的高光谱图像分类", 《中国优秀硕士学位论文全文数据库工程科技Ⅱ辑(月刊)》 *

Cited By (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN113962928A (zh) * 2021-09-03 2022-01-21 宁波海棠信息技术有限公司 一种基于多尺度特征蒸馏的缺陷检测方法、装置及介质
CN113902710A (zh) * 2021-10-12 2022-01-07 菲特(天津)检测技术有限公司 基于异常检测算法进行工业零件表面缺陷检测方法及系统
CN113947590A (zh) * 2021-10-26 2022-01-18 四川大学 一种基于多尺度注意力引导和知识蒸馏的表面缺陷检测方法
CN114119972A (zh) * 2021-10-29 2022-03-01 北京百度网讯科技有限公司 模型获取及对象处理方法、装置、电子设备及存储介质
CN114219762A (zh) * 2021-11-16 2022-03-22 杭州三米明德科技有限公司 基于图像修复的缺陷检测方法
WO2023097638A1 (zh) * 2021-12-03 2023-06-08 宁德时代新能源科技股份有限公司 一种基于对比表征蒸馏的快速异常检测方法和系统
US12020425B2 (en) * 2021-12-03 2024-06-25 Contemporary Amperex Technology Co., Limited Fast anomaly detection method and system based on contrastive representation distillation
US20230368372A1 (en) * 2021-12-03 2023-11-16 Contemporary Amperex Technology Co., Limited Fast anomaly detection method and system based on contrastive representation distillation
CN113888538A (zh) * 2021-12-06 2022-01-04 成都考拉悠然科技有限公司 一种基于内存分块模型的工业异常检测方法
CN114332007A (zh) * 2021-12-28 2022-04-12 福州大学 一种基于Transformer的工业缺陷检测和识别方法
CN114332007B (zh) * 2021-12-28 2024-06-28 福州大学 一种基于Transformer的工业缺陷检测和识别方法
CN114372580A (zh) * 2021-12-31 2022-04-19 北京旷视科技有限公司 模型训练方法、存储介质、电子设备和计算机程序产品
CN114742799A (zh) * 2022-04-18 2022-07-12 华中科技大学 基于自监督异构网络的工业场景未知类型缺陷分割方法
CN114742799B (zh) * 2022-04-18 2024-04-26 华中科技大学 基于自监督异构网络的工业场景未知类型缺陷分割方法
CN114972225A (zh) * 2022-05-16 2022-08-30 上海可明科技有限公司 一种基于深度学习的两阶段光伏板缺陷检测方法
CN114972225B (zh) * 2022-05-16 2023-04-25 上海可明科技有限公司 一种基于深度学习的两阶段光伏板缺陷检测方法
CN114972952B (zh) * 2022-05-29 2024-03-22 重庆科技学院 一种基于模型轻量化的工业零部件缺陷识别方法
CN114972952A (zh) * 2022-05-29 2022-08-30 重庆科技学院 一种基于模型轻量化的工业零部件缺陷识别方法
CN114862838A (zh) * 2022-06-02 2022-08-05 深圳市华汉伟业科技有限公司 基于无监督学习的缺陷检测方法及设备
CN115239638A (zh) * 2022-06-28 2022-10-25 厦门微图软件科技有限公司 一种工业缺陷检测方法、装置、设备及可读存储介质
CN115082435B (zh) * 2022-07-21 2022-11-22 浙江霖研精密科技有限公司 一种基于自监督动量对比的缺陷检测方法
CN115082435A (zh) * 2022-07-21 2022-09-20 浙江霖研精密科技有限公司 一种基于自监督动量对比的缺陷检测方法
CN114973156A (zh) * 2022-08-02 2022-08-30 松立控股集团股份有限公司 一种基于知识蒸馏的夜间渣土车检测方法
CN114973156B (zh) * 2022-08-02 2022-10-25 松立控股集团股份有限公司 一种基于知识蒸馏的夜间渣土车检测方法
CN116309245A (zh) * 2022-09-07 2023-06-23 南京江源测绘有限公司 基于深度学习的地下排水管道缺陷智能检测方法与系统
CN116309245B (zh) * 2022-09-07 2024-01-19 南京唐壹信息科技有限公司 基于深度学习的地下排水管道缺陷智能检测方法与系统
CN115829983A (zh) * 2022-12-13 2023-03-21 广东工业大学 一种基于知识蒸馏的高速工业场景视觉质量检测方法
CN115829983B (zh) * 2022-12-13 2024-05-03 广东工业大学 一种基于知识蒸馏的高速工业场景视觉质量检测方法

Also Published As

Publication number Publication date
CN112991330B (zh) 2021-08-13

Similar Documents

Publication Publication Date Title
CN112991330B (zh) 基于知识蒸馏的正样本工业缺陷检测方法
CN111768432B (zh) 基于孪生深度神经网络的动目标分割方法及系统
CN107169956B (zh) 基于卷积神经网络的色织物疵点检测方法
CN109063723B (zh) 基于迭代挖掘物体共同特征的弱监督图像语义分割方法
CN110598767A (zh) 一种基于ssd卷积神经网络的地下排水管道缺陷识别方法
CN111882620B (zh) 一种基于多尺度信息道路可行驶区域分割方法
CN107133943A (zh) 一种防震锤缺陷检测的视觉检测方法
CN112950561B (zh) 光纤端面缺陷检测方法、设备及存储介质
CN112365514A (zh) 基于改进PSPNet的语义分割方法
CN105657402A (zh) 一种深度图恢复方法
CN112102229A (zh) 一种基于深度学习的工业ct检测缺陷的智能识别方法
CN106528826A (zh) 一种基于深度学习的多视图外观专利图像检索方法
CN108595558B (zh) 一种数据均衡策略和多特征融合的图像标注方法
CN110310277B (zh) 基于深度特征和ntv-rpca的织物疵点检测方法
CN111382785A (zh) 一种gan网络模型及实现样本自动清洗、辅助标记的方法
CN115410059B (zh) 基于对比损失的遥感图像部分监督变化检测方法及设备
WO2024021461A1 (zh) 缺陷检测方法及装置、设备、存储介质
WO2024102565A1 (en) System and method for joint detection, localization, segmentation and classification of anomalies in images
CN113496480A (zh) 一种焊缝图像缺陷的检测方法
CN113313000A (zh) 一种基于光学图像的气液两相流智能识别方法
CN114943708A (zh) 图像缺陷检测方法、装置、设备、存储介质和程序产品
CN116342536A (zh) 基于轻量化模型的铝带材表面缺陷检测方法、系统及设备
CN111340898A (zh) 基于深度学习的印刷品背景异色缺陷检测方法
CN115994900A (zh) 基于迁移学习的无监督缺陷检测方法和系统、存储介质
US20230073223A1 (en) Method for detecting anomalies in images using a plurality of machine learning programs

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant