本技术涉及缺陷检测,特别是涉及一种设备缺陷检测模型训练方法、设备缺陷检测方法及其装置、计算机设备、计算机可读存储介质和计算机程序产品。
背景技术:
1、随着技术的发展,出现了对设备进行缺陷检测的技术,通过对设备进行缺陷检测,能够及时发现设备的缺陷情况,减少设备由于存在缺陷,导致无法正常运行、甚至损坏的情况发生。
2、以对绝缘子进行缺陷检测为例,目前对绝缘子进行缺陷检测包括:通过对绝缘子图像进行阈值分割、图像边缘检测等处理,实现对绝缘子的缺陷检测;或是,通过深度学习模型对绝缘子图像进行处理,实现绝缘子的缺陷检测。然而,目前的设备缺陷检测仍然存在检测方式不够准确的技术问题。
技术实现思路
1、基于此,有必要针对上述技术问题,提供一种准确的设备缺陷检测模型训练方法、设备缺陷检测方法及其装置、计算机设备、计算机可读存储介质和计算机程序产品。
2、第一方面,本技术提供了一种设备缺陷检测模型训练方法,包括:
3、获取目标设备的二维缺陷图像和三维点云数据,二维缺陷图像携带缺陷标注数据;
4、对二维缺陷图像进行图像特征提取,得到二维缺陷图像特征;
5、将三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像,确定点云投影特征图像中的点云投影特征;
6、对二维缺陷图像特征与点云投影特征进行特征融合,得到融合特征数据;
7、基于融合特征数据进行缺陷预测,得到缺陷预测结果;
8、基于缺陷预测结果与缺陷标注数据的损失值,对已构建的初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。
9、在其中一个实施例中,获取目标设备的二维缺陷图像和三维点云数据,包括:
10、获取目标设备的初始二维缺陷图像与初始三维点云数据;
11、对初始二维缺陷图像进行去噪处理与图像增强处理,得到二维缺陷图像;
12、对初始三维点云数据进行去噪处理与数据增强处理,得到三维点云数据。
13、在其中一个实施例中,将三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像,包括:
14、提取三维点云数据中的三维点云特征数据;
15、根据三维点云特征数据,对三维点云数据进行线性插值,更新三维点云数据;
16、按照二维缺陷图像的尺寸,将更新后的三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像。
17、在其中一个实施例中,提取三维点云数据中的三维点云特征数据,包括:
18、对三维点云数据进行最远点采样,得到m组点云数据;其中,m为正整数;
19、对m组点云数据进行特征向量编码,得到m个点云特征向量;
20、基于m个点云特征向量,确定m个三维点云特征数据。
21、在其中一个实施例中,对二维缺陷图像特征与点云投影特征进行特征融合,得到融合特征数据,包括:
22、将二维缺陷图像特征与点云投影图像特征进行特征拼接,得到拼接特征;
23、对拼接特征进行位置编码,得到位置编码结果;
24、基于位置编码结果与注意力机制,对拼接特征进行特征融合,得到融合特征数据。
25、在其中一个实施例中,缺陷标注数据包括缺陷标注概率与缺陷标注位置框;缺陷预测结果包括缺陷预测概率与缺陷预测位置框;
26、基于缺陷预测结果与缺陷标注数据的损失值,对已构建的初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型,包括:
27、基于缺陷标注概率与缺陷预测概率之间的损失值、以及缺陷预测位置框与缺陷标注位置框之间的损失值,对初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。
28、第二方面,本技术还提供了一种设备缺陷检测模型训练装置,装置包括:
29、训练数据获取模块,用于获取目标设备的二维缺陷图像和三维点云数据,二维缺陷图像携带缺陷标注数据;
30、图像特征提取模块,用于对二维缺陷图像进行图像特征提取,得到二维缺陷图像特征;
31、点云特征提取模块,用于将三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像,确定点云投影特征图像中点云投影特征;
32、特征融合模块,用于对二维缺陷图像特征与点云投影特征进行特征融合,得到融合特征数据;
33、预测模块,用于基于融合特征数据进行缺陷预测,得到缺陷预测结果;
34、训练模块,用于基于缺陷预测结果与缺陷标注数据的损失值,对已构建的初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。
35、第三方面,本技术还提供了一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现以下步骤:
36、获取目标设备的二维缺陷图像和三维点云数据,二维缺陷图像携带缺陷标注数据;
37、对二维缺陷图像进行图像特征提取,得到二维缺陷图像特征;
38、将三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像,确定点云投影特征图像中的点云投影特征;
39、对二维缺陷图像特征与点云投影特征进行特征融合,得到融合特征数据;
40、基于融合特征数据进行缺陷预测,得到缺陷预测结果;
41、基于缺陷预测结果与缺陷标注数据的损失值,对已构建的初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。
42、第四方面,本技术还提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
43、获取目标设备的二维缺陷图像和三维点云数据,二维缺陷图像携带缺陷标注数据;
44、对二维缺陷图像进行图像特征提取,得到二维缺陷图像特征;
45、将三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像,确定点云投影特征图像中的点云投影特征;
46、对二维缺陷图像特征与点云投影特征进行特征融合,得到融合特征数据;
47、基于融合特征数据进行缺陷预测,得到缺陷预测结果;
48、基于缺陷预测结果与缺陷标注数据的损失值,对已构建的初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。
49、第五方面,本技术还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
50、获取目标设备的二维缺陷图像和三维点云数据,二维缺陷图像携带缺陷标注数据;
51、对二维缺陷图像进行图像特征提取,得到二维缺陷图像特征;
52、将三维点云数据映射至二维平面,得到与二维缺陷图像的尺寸相同的点云投影特征图像,确定点云投影特征图像中的点云投影特征;
53、对二维缺陷图像特征与点云投影特征进行特征融合,得到融合特征数据;
54、基于融合特征数据进行缺陷预测,得到缺陷预测结果;
55、基于缺陷预测结果与缺陷标注数据的损失值,对已构建的初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。
56、上述设备缺陷检测模型训练方法、装置、计算机设备、计算机可读存储介质和计算机程序产品,对目标设备的二维缺陷图像的二维缺陷图像特征、与三维点云投影特征图像的点云投影特征进行特征融合,基于融合特征数据进行缺陷预测得到的缺陷预测结果与缺陷标注数据的损失值,对初始设备缺陷检测模型进行训练,得到训练完成的设备缺陷检测模型。整个过程中,点云投影特征图的尺寸与二维缺陷图像的尺寸相同,提高了对二维缺陷图像特征与三维点云投影特征进行特征融合的准确性;进一步地,由于融合特征数据融合了三维点云投影特征与二维缺陷图像特征两个角度的多模态特征数据,使得基于融合特征数据对应的缺陷预测结果与缺陷标注数据的损失值,训练出的设备缺陷检测模型能够支持更为准确的设备缺陷检测。
57、第六方面,本技术还提供了一种设备缺陷检测方法,方法包括:
58、获取待测设备的待检测图像与待检测点云数据;
59、通过设备缺陷检测模型,对待检测图像与待检测点云数据进行缺陷检测,得到待测设备的缺陷检测结果;
60、其中,设备缺陷检测模型通过上述的设备缺陷检测模型训练方法训练得到。
61、第七方面,本技术还提供了一种设备缺陷检测装置,装置包括:
62、检测数据获取模块,用于获取待测设备的待检测图像与待检测点云数据;
63、缺陷检测模块,用通过设备缺陷检测模型,对待检测图像与待检测点云数据进行缺陷检测,得到待测设备的缺陷检测结果;其中,设备缺陷检测模型通过上述的设备缺陷检测模型训练方法训练得到。
64、第八方面,本技术还提供了一种计算机设备,包括存储器和处理器,存储器存储有计算机程序,处理器执行计算机程序时实现以下步骤:
65、获取待测设备的待检测图像与待检测点云数据;
66、通过设备缺陷检测模型,对待检测图像与待检测点云数据进行缺陷检测,得到待测设备的缺陷检测结果;
67、其中,设备缺陷检测模型通过上述的设备缺陷检测模型训练方法训练得到。
68、第九方面,本技术还提供了一种计算机可读存储介质,其上存储有计算机程序,计算机程序被处理器执行时实现以下步骤:
69、获取待测设备的待检测图像与待检测点云数据;
70、通过设备缺陷检测模型,对待检测图像与待检测点云数据进行缺陷检测,得到待测设备的缺陷检测结果;
71、其中,设备缺陷检测模型通过上述的设备缺陷检测模型训练方法训练得到。
72、第十方面,本技术还提供了一种计算机程序产品,包括计算机程序,该计算机程序被处理器执行时实现以下步骤:
73、获取待测设备的待检测图像与待检测点云数据;
74、通过设备缺陷检测模型,对待检测图像与待检测点云数据进行缺陷检测,得到待测设备的缺陷检测结果;
75、其中,设备缺陷检测模型通过上述的设备缺陷检测模型训练方法训练得到。
76、上述设备缺陷检测方法、装置、计算机设备、计算机可读存储介质和计算机程序产品,由于设备缺陷检测模型支持更为准确的设备缺陷检测,因此,通过设备缺陷检测模型,对待测设备的待检测图像与待检测点云数据进行缺陷检测,能够准确得到待测设备的缺陷检测结果。
1.一种设备缺陷检测模型训练方法,其特征在于,所述方法包括:
2.根据权利要求1所述的方法,其特征在于,获取目标设备的二维缺陷图像和三维点云数据,包括:
3.根据权利要求1所述的方法,其特征在于,所述将所述三维点云数据映射至二维平面,得到与所述二维缺陷图像的尺寸相同的点云投影特征图像,包括:
4.根据权利要求3所述的方法,其特征在于,所述提取所述三维点云数据中的三维点云特征数据,包括:
5.根据权利要求1所述的方法,其特征在于,所述对所述二维缺陷图像特征与所述点云投影特征进行特征融合,得到融合特征数据,包括:
6.根据权利要求1-5任意一项所述的方法,其特征在于,所述缺陷标注数据包括缺陷标注概率与缺陷标注位置框;所述缺陷预测结果包括缺陷预测概率与缺陷预测位置框;
7.一种设备缺陷检测方法,其特征在于,所述方法包括:
8.一种设备缺陷检测模型训练装置,其特征在于,所述装置包括:
9.一种设备缺陷检测装置,其特征在于,所述装置包括:
10.一种计算机设备,包括存储器和处理器,所述存储器存储有计算机程序,其特征在于,所述处理器执行所述计算机程序时实现权利要求1至7中任一项所述的方法的步骤。