本发明涉及异常检测,具体涉及一种基于记忆专家指导的无监督异常检测方法及系统。
背景技术:
1、在智能制造中,异常检测作为关键技术之一,能够帮助企业实时监控生产过程,及时发现和处理潜在问题,从而保障产品质量和生产安全。异常检测是识别图像或视频中的不正常或罕见的对象、事件和模式的过程。异常可以是任何不符合预期模式或显著偏离大多数数据的情况。在工业缺陷检测中,由于数据采集和标注成本高以及工业产品异常类型的不可预测性,无监督异常检测方法受到了广泛关注。
2、在玻璃容器生产过程中,异常检测尤为重要。玻璃容器的生产过程中,微小的缺陷如气泡、裂纹或不均匀的涂层可能会影响产品质量,甚至导致产品报废。由于这些缺陷的类型多样且难以完全标注,因此无监督异常检测技术成为了玻璃容器缺陷检测的关键。
3、在无监督的异常检测任务中,知识蒸馏方法已经成为一种重要技术。基于知识蒸馏的异常检测框架能够有效地利用教师网络的优势,引导学生网络学习正常模式的表示,并通过识别教师网络和学生网络之间的差异来检测异常。然而,在这一过程中,常出现以下问题:
4、(1)提炼不充分:知识从教师网络传递到学生网络时,可能由于模型容量或训练不足导致知识提炼不完全,影响学生网络对缺陷特征的学习。
5、(2)特征提取不足:教师网络和学生网络之间的特征提取能力差异可能导致学生网络无法充分学习异常特征,尤其是在处理细微缺陷时。
6、(3)教师约束不强:教师网络对学生网络的指导约束可能不够充分,导致学生网络在检测玻璃容器缺陷时表现不佳。
技术实现思路
1、为了解决现有技术的至少一项不足,本发明的目的是提供一种基于记忆专家指导的无监督异常检测方法及系统,以提高玻璃容器表面缺陷检测的准确性。
2、为了实现上述目的,根据一些实施例,本发明的第一方面,提供了一种基于记忆专家指导的无监督异常检测方法,包括:
3、获取待检测缺陷图像;
4、将待检测缺陷图像输入训练好的缺陷检测模型中进行检测,获得玻璃容器表面缺陷检测结果;
5、其中,缺陷检测模型包括依次连接的用于提取差异显著特征图的特征蒸馏网络和用于根据差异显著特征图生成缺陷检测结果的异常细化网络,所述差异显著特征图根据特征蒸馏网络的去噪学生网络和教师网络得到;特征蒸馏网络基于正态记忆专家帮助去噪学生网络学习正常样本,正态记忆专家中存储由教师网络根据正态样例特征得到的记忆向量,去噪学生网络根据所述记忆向量,对根据待检测缺陷图像生成的查询特征进行更新。
6、本发明的第二方面,提供了一种基于记忆专家指导的无监督异常检测系统,包括:
7、图像获取模块,被配置为获取待检测缺陷图像;
8、缺陷检测模块,被配置为将待检测缺陷图像输入训练好的缺陷检测模型中进行检测,获得玻璃容器表面缺陷检测结果;
9、其中,缺陷检测模型包括依次连接的用于提取差异显著特征图的特征蒸馏网络和用于根据差异显著特征图生成缺陷检测结果的异常细化网络,所述差异显著特征图根据特征蒸馏网络的去噪学生网络和教师网络得到;特征蒸馏网络基于正态记忆专家帮助去噪学生网络学习正常样本,正态记忆专家中存储由教师网络根据正态样例特征得到的记忆向量,去噪学生网络根据所述记忆向量,对根据待检测缺陷图像生成的查询特征进行更新。
10、与现有技术相比,本发明的有益效果是:
11、本发明提供了一种基于记忆专家指导的无监督异常检测方法及系统,在知识蒸馏过程中引入记忆专家机制,通过教师网络提取正态样例(即正常样本)中的高级正态特征,并将高级正态特征以记忆向量的形式存储在正态记忆专家中并传递给去噪学生网络,去噪学生网络根据正态记忆专家中存储的记忆向量,对查询特征进行更新,从而加快了图像的压缩过程,同时增强了知识蒸馏的程度,提高了去噪学生网络对微小缺陷识别的准确性。在去噪学生网络中引入了自适应感知状态增强模块,以充分提取重建过程中的全局信息和局部信息,从而使去噪学生网络在去噪时能够更好地关注玻璃容器表面细节和结构的精确恢复,提高了对正常样本的重建质量。采用双域对比方法,在空间域的基础上引入频域信息,增强了教师网络对去噪学生网络的约束,使得教师网络能够指导去噪学生网络重建出更高质量的正常图像,从而进一步提升了玻璃容器表面缺陷检测的准确性。
12、本发明附加方面的优点将在下面的描述中部分给出,部分将从下面的描述中变得明显,或通过本发明的实践了解到。
1.一种基于记忆专家指导的无监督异常检测方法,其特征在于,包括:
2.如权利要求1所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,所述特征蒸馏网络包括教师网络和去噪学生网络,所述去噪学生网络为编码器解码器架构,编码器包括四个resnet18块,编码器的前三个resnet18块后均连接有一个正态信息存储与回忆网络,每个所述正态信息存储与回忆网络均包括一个正态记忆专家,所述正态记忆专家根据教师网络对应层从正常样本中提取到的正态样例特征,更新自身的记忆向量。
3.如权利要求2所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,记忆向量的更新过程表示为:
4.如权利要求3所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,正态记忆专家训练过程中的损失函数为正态记忆损失函数,正态记忆损失函数为:
5.如权利要求2所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,去噪学生网络根据所述记忆向量,对根据待检测缺陷图像生成的查询特征进行更新,包括:
6.如权利要求2所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,所述去噪学生网络的解码器包括两个resnet18块和连接在resnet18块后的两个自适应感知状态增强模块,所述自适应感知状态增强模块使用视觉空间状态块对输入特征进行处理,并分别获取视觉状态空间块输出结果的全局平均特征和全局最大特征,拼接全局平均特征和全局最大特征得到拼接特征,并对拼接特征进行增强,得到输出的特征图。
7.如权利要求6所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,所述对拼接特征进行增强,包括:
8.如权利要求6所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,将去噪学生网络的解码器中最后一个resnet18块和两个自适应感知状态增强模块输出的特征图,与教师网络对应层输出的特征图,进行空间域和频域的对比,以通过教师网络引导去噪学生网络对正常图像的重建。
9.如权利要求1所述的一种基于记忆专家指导的无监督异常检测方法,其特征在于,所述差异显著特征图根据去噪学生网络解码器后三层的输出特征,和教师网络三个尺度的输出特征对应融合拼接得到;所述异常细化网络包括依次连接的多尺度特征提取模块、自注意力融合模块、级联卷积模块、全局上下文感知模块、注意力引导的特征融合模块、细化输出模块,异常细化网络对所述差异显著特征图进一步细化,生成异常检测结果。
10.一种基于记忆专家指导的无监督异常检测系统,其特征在于,包括:
