本发明涉及图像生成,尤其涉及一种基于特征融合的内窥镜图像数据集增强方法及装置。
背景技术:
1、伪病灶图像可能会对临床诊断造成困扰,但在应用人工智能方法进行的医学图像分析中,利用伪病灶图像进行训练,一方面可以帮助ai模型更好地理解病变区域与正常区域之间的差异,从而提高诊断准确性,另一方面可以增加训练数据的数量。
2、现有的伪病灶图像生成方法主要包括两种:在病灶图像的基础上进行变形,以及在正常图像上添加病灶。但是,第一种方式生成的图像与原图差异小,缺乏多样性;第二种方式生成的图像真实性较差,可能导致网络训练的偏移,因此,通常需要人为参与病灶的添加,如对病灶图像进行矫正、删除不合理的病灶图p像等。
技术实现思路
1、针对现有技术中所存在的不足,本发明提供了一种基于特征融合的内窥镜图像数据集增强方法,其解决了现有技术中存在的伪病灶图像生成方法真实性差、缺乏多样性的问题。
2、根据本发明的实施例,第一方面提供一种基于特征融合的内窥镜图像数据集增强方法,包括:
3、获取待增强内窥镜图像;
4、识别所述待增强内窥镜图像表示的第一解剖位置;
5、根据所述第一解剖位置获得第二解剖位置,并获取基于所述第二解剖位置的n张病变图像;
6、对每张病变图像进行图像分割,其中,基于第n病变图像获得第n病灶图像,基于第n病变图像获得第n病灶蒙版;
7、根据所述第一解剖位置和所述n张病灶图像生成n个第一提示词,根据所述n张病灶图像生成n个第二提示词,根据所述待增强内窥镜图像和所述n张病灶蒙版生成n张蒙版融合图像;
8、将所述n个第一提示词、所述n个第二提示词、所述n张蒙版融合图像和所述n张病灶图像输入多特征融合生成器,获得内窥镜图像的增强数据集。
9、可选地,根据所述第一解剖位置获得第二解剖位置,包括:
10、获取与第一解剖位置相邻的相邻解剖位置;
11、获取第一解剖位置的第一位置类型,以及与相邻解剖位置的第二位置类型;
12、将属于所述第一位置类型的所有解剖位置以及属于所述第二位置类型的所有解剖位置作为所述第二解剖位置。
13、可选地,获取基于所述第二解剖位置的n张病变图像,包括:
14、在病灶数据库中获取病灶位于所述第二解剖位置的n张病变图像。
15、可选地,根据所述第一解剖位置和n张病灶图像生成n个第一提示词,包括:
16、识别n张病灶图像的病灶类别;
17、将第一病灶图像的病灶类别至第n病灶图像的病灶类别依次与所述第一解剖位置进行第一预设文本格式的转换,获得n个第一提示词。
18、可选地,根据n张病灶图像生成n个第二提示词,包括:
19、识别每张病灶图像的病灶类别;
20、将每张病灶图像的病灶类别进行第二预设文本格式的转换,获得n个第二提示词。
21、可选地,根据所述待增强内窥镜图像和n张病灶蒙版生成n张蒙版融合图像,包括:
22、通过第n病灶蒙版表示病灶区域;
23、在所述待增强内窥镜图像中,将第n病灶蒙版表示的病灶区域设置为待填充区域,获得第n蒙版融合图像。
24、第二方面提供一种基于特征融合的内窥镜图像数据集增强装置,包括:
25、第一图像获取模块,用于获取待增强内窥镜图像;
26、部位识别模块,用于识别所述待增强内窥镜图像表示的第一解剖位置;
27、第二图像获取模块,用于根据所述第一解剖位置获得第二解剖位置,并获取基于所述第二解剖位置的n张病变图像;
28、图像处理模块,用于对每张病变图像进行图像分割,其中,基于第n病变图像获得第n病灶图像,基于第n病变图像获得第n病灶蒙版;
29、提示词生成及蒙版融合模块,用于根据所述第一解剖位置和所述n张病灶图像生成n个第一提示词,根据所述n张病灶图像生成n个第二提示词,根据所述待增强内窥镜图像和所述n张病灶蒙版生成n张蒙版融合图像;
30、数据增强模块,用于将所述n个第一提示词、所述n个第二提示词、所述n张蒙版融合图像和所述n张病灶图像输入多特征融合生成器,获得内窥镜图像的增强数据集。
31、本发明的技术原理为:首先确定待增强内窥镜图像表示的第一解剖位置,然后通过第二解剖位置获得多张病变图像,使得病变图像不再限于第一解剖位置,但同时与第一解剖位置相关。在将病变图像中的病灶图像融合到待增强内窥镜图像之前,通过第一解剖位置和病灶图像生成两种提示词,即包括第一解剖位置和病灶图像的第一提示词以及仅包括病灶图像的第二提示词,还通过病灶蒙版,将待增强内窥镜图像转换为蒙版融合图像,其中,由于一次性获取了多张病变图像,待拼接的蒙版融合图像也包括多个。基于此,本发明实施例通过多特征融合器,将病变图像中的病灶图像融合到待增强内窥镜图像,且使用第一提示词和第二提示词作为控制条件,帮助多特征融合器生成更高质量病灶融合图像,最终获得差异化、真实性强的n张内窥镜增强图像,且效率高,不需人为参与控制。
1.一种基于特征融合的内窥镜图像数据集增强方法,其特征在于,包括:
2.如权利要求1所述的基于特征融合的内窥镜图像数据集增强方法,其特征在于,根据所述第一解剖位置获得第二解剖位置,包括:
3.如权利要求1或2所述的基于特征融合的内窥镜图像数据集增强方法,其特征在于,获取基于所述第二解剖位置的n张病变图像,包括:
4.如权利要求1所述的基于特征融合的内窥镜图像数据集增强方法,其特征在于,根据所述第一解剖位置和n张病灶图像生成n个第一提示词,包括:
5.如权利要求1所述的基于特征融合的内窥镜图像数据集增强方法,其特征在于,根据n张病灶图像生成n个第二提示词,包括:
6.如权利要求1所述的基于特征融合的内窥镜图像数据集增强方法,其特征在于,根据所述待增强内窥镜图像和n张病灶蒙版生成n张蒙版融合图像,包括:
7.一种基于特征融合的内窥镜图像数据集增强装置,其特征在于,包括:
