本发明涉及图像处理,特别涉及一种基于多层次特征分布的图像质量评价方法。
背景技术:
1、电子信息技术飞速发展,5g时代进入了万物互联时代,人们可以做到足不出户,便可以通过手机等电子工具获得实时信息。图像作为人们进行信息传递的一种载体,是最简洁、最迅速的视觉信息传达语言,其在航空航天领域、工业检测和卫生医疗等方面有着广泛的应用。例如在航空航天领域,利用星载相机获得月球上的数据,人们可以全方位的看到月球的地形地貌;在工业检测领域,图像检测可以解决人工检测存在的准确性低、检测速度慢等问题;在卫生医疗领域,高质量的图像可以提高医生的诊断精度和效率,为患者提供更好的医疗服务。然而,图像在采集、压缩等过程中会引入各种失真,导致图像质量下降,从而影响人们的主观感受和信息获取。因此,为了改善图像的感知质量,图像质量评价(imagequality assessment,iqa)就显得尤为重要。
2、iqa主要分为主观评价和客观评价,主观评价依靠观察者对图像质量评分,准确度高,但耗时耗力,易受到环境、观察者认知背景等因素的影响,客观评价是设计与图像质量相关的模型来评估图像的质量。根据对参考图像的依赖程度,客观评价可分为全参考iqa(full-reference iqa,fr-iqa),半参考iqa(reduced-reference iqa,rr-iqa)和无参考iqa(nol-reference iqa,nr-iqa)三类评价方法。fr-iqa方法需要参考图像的所有信息,通过比较失真图像与参考图像之间的差异,分析失真图像的失真程度,从而获得失真图像的质量分数,此类方法评价结果准确、可靠;rr-iqa方法需要参考图像的部分信息,有传输数据量小、灵活性强的有点;nr-iqa方法也称盲图像质量评价,此类方法不需要考虑参考图像的具体信息,广泛应用于各种领域。然而在实际中,人们很难获取参考图像的具体信息。考虑到fr-iqa方法和rr-iqa方法在评价过程中需要图像信息这一局限性,人们通常采用nr-iqa方法对图像质量进行评价。
3、目前,在采用nr-iqa的方法对图像质量进行评价时,主要采用两种方式。第一种方式只提取单一层次的特征,即深度神经网络dnn的最后一层,进行质量评价。然而,不同层次的失真会在层次特征上产生不同的退化,现有方案没有充分考虑层次特征的退化,导致与主观感知之间存在很大的差距,即图像质量评价的准确性较低。第二种方式采用提取所有层次的特征进行图像质量预测,然而该方式虽然有所改进,但所提取的不同层次特征不够明显,不能有效反映层次之间的退化,而且该方式需要提取大量的特征,维数较高,处理器的负荷较大,大大降低了模型的预测效率。
技术实现思路
1、有鉴于此,针对以上不足,有必要提出一种基于多层次特征分布的图像质量评价方法,以提高图像质量评价的准确性和效率。
2、第一方面,本发明提供了一种基于多层次特征分布的图像质量评价方法,包括:
3、预先训练一个16层的卷积神经网络vgg-16;其中,所述卷积神经网络vgg-16的前13层为卷积层,后3层为全连接层;13个卷积层中包括nl个浅层卷积层、nm个中层卷积层和nh个高层卷积层,用于分别提取底层特征、中层特征和高层特征;nl+nm+nh=13;
4、将待进行图像质量评价的待评价图像输入所述卷积神经网络vgg-16中进行特征提取;
5、确定一个目标卷积层组合;其中,该目标卷积层组合中包括一个浅层卷积层、一个中层卷积层和一个高层卷积层;
6、基于广义高斯分布模型对所述目标卷积组合中的各卷积层所提取的图像特征进行特征图系数拟合,得到图像特征向量;
7、利用预先构建的深度森林模型将得到的所述图像特征向量映射到与图像对应的主观得分上,得到所述待评价图像的质量评价预测值。
8、优选的,
9、所述底层特征包括图像的纹理和边缘特征;
10、所述中层特征包括图像的轮廓和形状特征;
11、所述高层特征包括图像的内容或空间结构。
12、优选的,所述13个卷积层中前4个为浅层卷积层,中间6个为中层卷积层,后3个为高层卷积层;
13、所述确定一个目标卷积层组合,包括:
14、从所述浅层卷积层、中层卷积层和高层卷积层中各选择1个构成初级卷积层组合,得到个初级卷积层组合;
15、利用预设的图像质量评价数据集对各初级卷积层组合所对应的图像特征进行评价;
16、将各初级卷积层组合中评价结果最优的初级卷积层这确定为所述目标卷积层组合。
17、优选的,所述图像质量评价数据集包括live、tid2008、tid2013和csiq中的至少一个。
18、优选的,4个浅层卷积层为{conv1_1,conv1_2,conv2_1,conv2_2},6个中层卷积层为{conv3_1,conv3_2,conv3_3,conv4_1,conv4_2,conv4_3},3个为高层卷积层为{conv5_1,conv5_2,conv5_3};
19、所述目标卷积层组合为{conv2_1,conv3_1,conv5_2}。
20、优选的,所述基于广义高斯分布模型对所述目标卷积组合中的各卷积层所提取的图像特征进行特征图系数拟合,包括:以广义高斯分布模型的参数作为质量感知特征,对特征图系数进行拟合;
21、其中,广义高斯分布模型的概率密度函数为:
22、
23、其中,
24、式中,α表示分布模型的形状参数,β表示分布模型的尺度参数;
25、分布模型的参数分别用αi,j和βi,j进行表示则有:
26、
27、所有特征图产生的图像特征向量则有:
28、fi,j={fl,j,fm,j,fh,j}
29、其中,
30、其中,fi,j表示第i个卷积层提取的第j个特征图,其中i=l,m,h,表示conv2_1,conv3_1,conv5_2三个浅层卷积层、中层卷积层和高层卷积层,j=128,256,512;ggd表示所述广义高斯分布模型。
31、优选的,所述深度森林模型每层由4个随机森林组成,每个随机森林各包含d棵决策树;d≥50;
32、所述利用预先构建的深度森林模型将得到的所述图像特征向量映射到与图像对应的主观得分上,包括:
33、所述图像特征向量通过第一层的4个随机森林,得到4维特征向量;
34、将原始的图像特征向量与所述4维特征向量合并作为下一层的输入;
35、依次类推,直至最后输出所述质量评价预测值。
36、第二方面,本发明提供了一种计算机可读存储介质,其上存储有计算机程序,当计算机程序在计算机中执行时,令计算机执行如第一方面中任一所述的方法。
37、第三方面,本发明提供了一种计算设备,包括存储器和处理器,存储器中存储有可执行代码,处理器执行可执行代码时,实现如第一方面中任一所述的方法。
38、由上述技术方案可知,本方案提供的基于多层次特征分布的图像质量评价方法中,首先预先训练一个16层的卷积神经网络vgg-16,该卷积神经网络的前13层为卷积层,后3层为全连接层,且卷积层又可以划分为浅层卷积层、中层卷积层和高层卷积层,用于分别提取底层特征、中层特征和高层特征。然后将待进行图像质量评价的图像输入训练的卷积神经网络vgg-16中进行特征提取。进一步,确定一个由一个浅层卷积层、一个中层卷积层和一个高层卷积层构成的目标卷积层组合,并基于广义高斯分布模型对目标卷积组合中的各卷积层所提取的图像进行特征图系数的拟合,最后利用预先构建的深度森林模型将得到的图像特征向量映射到与图像对应的主观得分上,得到质量评价预测值。由此可见,本方案充分考虑了不同层次特征的退化,分别从浅层卷积层、中层卷积层和高层卷积层进行了特征提取,从而覆盖到每种卷积层所关注的特征类型,通过将所提取到的底层特征、中层特征和高层特征进行了融合,大大提高了图像质量评价的准确性。而且本方案通过从浅层卷积层、中层卷积层和高层卷积层各选择一个构成目标卷积层组合,基于该目标卷积层组合所提取的图像特征进行质量评价,大大降低了数据的处理量和维数,从而减轻了处理器的处理负荷,能够提高图像质量评价的效率。此外,本方案还通过深度森林的方法进行预测,能够解决模型过拟合且不适合大数据集等问题。
1.一种基于多层次特征分布的图像质量评价方法,其特征在于,包括:
2.根据权利要求1所述的基于多层次特征分布的图像质量评价方法,其特征在于,
3.根据权利要求1所述的基于多层次特征分布的图像质量评价方法,其特征在于,所述13个卷积层中前4个为浅层卷积层,中间6个为中层卷积层,后3个为高层卷积层;
4.根据权利要求3所述的基于多层次特征分布的图像质量评价方法,其特征在于,所述图像质量评价数据集包括live、tid2008、tid2013和csiq中的至少一个。
5.根据权利要求3所述的基于多层次特征分布的图像质量评价方法,其特征在于,4个浅层卷积层为{conv1_1,conv1_2,conv2_1,conv2_2},6个中层卷积层为{conv3_1,conv3_2,conv3_3,conv4_1,conv4_2,conv4_3},3个为高层卷积层为{conv5_1,conv5_2,conv5_3};
6.根据权利要求1所述的基于多层次特征分布的图像质量评价方法,其特征在于,所述基于广义高斯分布模型对所述目标卷积组合中的各卷积层所提取的图像特征进行特征图系数拟合,包括:以广义高斯分布模型的参数作为质量感知特征,对特征图系数进行拟合;
7.根据权利要求1所述的基于多层次特征分布的图像质量评价方法,其特征在于,所述深度森林模型每层由4个随机森林组成,每个随机森林各包含d棵决策树;d≥50;
8.一种计算机可读存储介质,其上存储有计算机程序,当计算机程序在计算机中执行时,令计算机执行如权利要求1-7中任一所述的方法。
9.一种计算设备,包括存储器和处理器,存储器中存储有可执行代码,处理器执行可执行代码时,实现权利要求1-7中任一所述的方法。