1.本发明属于面向深度学习样本的安全问题领域，具体涉及一种基于损失函数敏感度的深度学习样本测试方法与装置。
背景技术：2.深度学习是近年来人工智能备受关注的方向之一，随着深度神经网络(dnn)已经在许多应用上取得了巨大的成功，同时海量的数据也随之而来，神经网络在图像分类任务上也取得了很好地表现，例如imagenet数据集拥有320万张人工标注的图像。尽管亚马逊等大平台已经尽可能对大规模图像的类标进行标注，但是在标注的过程中仍然有一些错误不可避免，并且错误标签的样本容易损害在同类样本上训练的模型性能。并且深度神经网络记忆随机分配标签的海量数据的能力证明了当训练噪声样本时的过拟合的敏感性。因此，需要一种对噪声标签具有鲁棒性的dnn算法来解决潜在问题。进一步来说，样本是很容易获得但是准确标注的成本是很昂贵的，该算法能够使得拥有更多且噪声大的标签的数据集比更少更准确的标签的数据集更有益。
3.目前，人工智能的攻击主要分为中毒攻击和对抗攻击两种，中毒攻击主要是通过在正常样本上加上印记，形成中毒样本。再将中毒样本注入训练数据集，从而在训练阶段完成对深度学习模型嵌入后门触发器，在测试阶段输入毒药样本，则触发攻击爆发。对抗攻击主要在原始样本中添加一些人眼无法察觉的扰动，与其他攻击不同，对抗性攻击主要发生在构造对抗样本的时候，利用生成的对抗样本和正常样本一样输入机器学习模型并取得欺骗的识别结果，对抗攻击分为白盒攻击和黑盒攻击两种。
4.然而现有的神经网络测试的方法专注于模型的识别精度以及在恶意样本下模型的鲁棒性，此外对于样本的测试方法，也只能针对于少量样本或者特定样本的鉴别，忽略了多类型恶意样本在应用于边缘端时存在对模型进行破坏的危险。被不同类型的恶意样本在经过防御的神经网络模型中依旧有破坏效果。当神经网络被应用在现实生活中，例如自动驾驶场景中，行人或者路牌等目标受到不同天气、污染产生的样本形成的恶意样本会对自动判别模型产生攻击，从而使得模型出错带来重大风险，所以这种潜在的风险不容忽视。
技术实现要素：5.针对现有技术不足，本发明提出了一种基于损失函数敏感度的深度学习样本测试方法与装置。
6.为实现上述目的，本发明的技术方案为：1、一种基于损失函数敏感度的深度学习样本测试方法，包括以下步骤：
7.(1)获取图像数据集作为干净样本，构建深度学习网络；
8.(2)选取对抗攻击方法，对步骤(1)获取的图像数据集进行对抗攻击操作，得到对抗样本；并进行筛选，将筛选后的干净样本和对抗样本作为总样本集；将总样本集划分为训练样本集与测试样本集；
9.(3)基于损失函数和训练样本集设定损失函数敏感度函数；
10.(4)建立粒子群优化模型，计算所有样本的损失敏感度漂移值，对损失敏感度漂移值进行迭代更新，选取正常样本与对抗样本两类最优漂移样本集；利用最优漂移样本集进行训练，得到损失敏感度分类器；
11.(5)将步骤(4)得到的两类最优漂移样本集输入步骤(1)构建的深度学习网络进行重训练，得到测试模型；将步骤(2)得到的测试样本集输入测试模型进行迭代更新，寻找出该测试样本对应的最优漂移噪声样本，计算出最优漂移噪声样本的损失函数敏感度漂移值，并将该漂移值输入到步骤(4)构建的损失敏感度分类器中进行判别，完成样本的检测。
12.进一步地，所述图像数据集为mnist、cifar10、imagenet、gtsrb、casia等典型图像数据集。
13.进一步地，所述深度学习网络为vgg16、alexnet、vgg11或resnet34等网络。
14.进一步地，所述对抗攻击方法为fgsm、boundary、mifgsm中的一种。
15.进一步地，所述步骤(3)具体为：
16.3.1)构建损失函数：将交叉熵函数设置为损失函数，公式为：
[0017][0018]
其中，c表示分类结果的个数；n表示训练样本的综述，h为网络的最终输出。
[0019]
3.2)构建损失敏感度函数：利用损失函数对样本求导生成的梯度函数作为目标函数，并利用二阶范数对其进行降维，其函数为：
[0020][0021]
通过在训练样本集上添加不同程度的噪声生成新的噪声样本，并且将训练样本集与噪声样本同时输入到深度学习模型中生成损失函数值；利用训练样本集与噪声样本的损失函数的偏移值，作为其损失函数敏感度函数：
[0022]
ls＝lf
noise-lf
nor
[0023]
其中，lf
noise
是添加噪声后的样本损失敏感度值，lf
nor
是初始未添加噪声的损失敏感度值。
[0024]
进一步地，所述步骤(4)具体包括以下步骤：
[0025]
(4.1)对输入样本添加随机噪声，进行粒子群优化模型初始化；
[0026]
(4.2)样本损失敏感度漂移值计算：通过步骤(3)设定的损失函数敏感度函数计算初始化后的添加随机噪声的样本的损失函数敏感度，然后与输入样本的损失函数敏感度作差，得到出不同噪声样本的损失函数敏感度的漂移值；
[0027]
(4.3)更新历史最优位置与全局最优位置：计算粒子群的损失函数敏感度值，比较历史最佳损失函数敏感度并更新每个粒子的历史最优位置p
best
、粒子群的全局最优位置g
best
；
[0028]
(4.4)更新粒子群的速度vi和位置xi；
[0029]
(4.5)最优漂移样本选取：对输入样本的损失函数敏感度进行不断地更新与优化，产生不同损失敏感度的噪声样本，在同一张输入样本的迭代更新中，记录下每张样本对应的最大损失函数敏感度的噪声样本，即最优漂移样本；将正常样本和对抗样本生成的不同
最优漂移样本汇总，组成正常样本与对抗样本两类最优漂移样本集。
[0030]
(4.6)损失敏感度分类器构建：:选取最优漂移样本区间记录下不同类样本的漂移区间，组成样本区间数据集，该数据集包括正常样本漂移区间类与对抗样本漂移区间类，利用二分类器，对上述数据集进行训练，训练出可以根据损失敏感度能分辨正常样本与对抗样本的二分类器；将该二分类器作为损失敏感度分类器。
[0031]
进一步地，所述步骤(5)具体为：
[0032]
(5.1)将步骤(4)得到的中两类最优漂移样本集根据漂移值的大小进行排序，选取每类的前top-k张样本与标签，输入步骤(1)训练好的深度学习模型中进行重新训练，生成测试模型；
[0033]
(5.1)将步骤(2)中划分的测试样本集输入到测试模型中，得到预测标签；将测试样本与预测标签输入中粒子群优化模型中进行迭代更新，寻找出该测试样本对应的最优漂移噪声样本，计算出最优漂移噪声样本的损失函数敏感度漂移值，并将改漂移值输入到步骤(4)中进行判别，从而实现推断出该样本属于正常样本还是对抗样本，完成样本的检测。
[0034]
本发明实施例的第二方面提供了一种基于损失函数敏感度的深度学习样本测试装置，包括一个或多个处理器，用于实现上述的基于损失函数敏感度的深度学习样本测试方法。
[0035]
本发明实施例的第三方面一种计算机可读存储介质，其上存储有程序，、该程序被处理器执行时，用于上述的基于损失函数敏感度的深度学习样本测试方法。
[0036]
本发明的有益效果为：本发明能够保障样本在输入深度学习模型前，对输入样本进行安全性检测，测试该样本是否为恶意样本，是否会扰乱深度学习模型的判别策略，以免在实际应用中产生严重的后果，保证常用的模型训练和样本测试过程中的有效性。
附图说明
[0037]
图1为本发明方法的流程图；
[0038]
图2为本发明装置的示意图。
具体实施方式
[0039]
这里将详细地对示例性实施例进行说明，其示例表示在附图中。下面的描述涉及附图时，除非另有表示，不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本发明相一致的所有实施方式。相反，它们仅是与如所附权利要求书中所详述的、本发明的一些方面相一致的装置和方法的例子。
[0040]
在本发明使用的术语是仅仅出于描述特定实施例的目的，而非旨在限制本发明。在本发明和所附权利要求书中所使用的单数形式的“一种”、“所述”和“该”也旨在包括多数形式，除非上下文清楚地表示其他含义。还应当理解，本文中使用的术语“和/或”是指并包含一个或多个相关联的列出项目的任何或所有可能组合。
[0041]
应当理解，尽管在本发明可能采用术语第一、第二、第三等来描述各种信息，但这些信息不应限于这些术语。这些术语仅用来将同一类型的信息彼此区分开。例如，在不脱离本发明范围的情况下，第一信息也可以被称为第二信息，类似地，第二信息也可以被称为第一信息。取决于语境，如在此所使用的词语“如果”可以被解释成为“在
……
时”或“当
……
时”或“响应于确定”。
[0042]
下面结合附图，对本发明的基于损失函数敏感度的深度学习样本测试方法与装置进行详细说明。在不冲突的情况下，下述的实施例及实施方式中的特征可以相互组合。
[0043]
在拿到样本库进行模型训练之前，首先需要对模型库进行样本鉴别任务。具体来说，通过将同一类型的干净样本以及对应的对抗样本作为测试数据集输入到模型中，寻到每一类样本的损失敏感度区间，将不在正常样本区间的异常样本剔除，这样可以保证主任务训练收敛的基础上去除恶意样本的效果。不同攻击类型的样本在输入测试模型时，他们的损失函数与优化后模型的损失函数的漂移程度是不同的，利用其漂移的区间差异性来反向推断出样本的种类。利用干净样本x
clean
和对抗样本x
adv
三种数据集输入到模型中，生成相对应三种损失函数敏感度。利用粒子群优化算法，将生成的损失敏感度进行优化排序，选取出每类中top-k的样本，输入到原模型中进行重新训练，生成新的判别模型。再将需要测试的未知样本，输入到判别模新中，利用重新生成的损失敏感度对样本进行判别。
[0044]
参照图1，本发明实施例提出的基于损失函数敏感度的深度学习恶意样本检测方法，步骤如下：
[0045]
1)数据集选择：
[0046]
选择mnist，cifar10，imagenet，gtsrb，casia等典型图像数据集，本发明实施例以cifar10数据集为例，所述cifar10数据集是一个图片大小为32*32的10分类6000张的图片数据集。
[0047]
2)样本攻击准备：
[0048]
2.1)选择深度学习网络：可以选择vgg16，alexnet，vgg11，resnet34等网络，本发明实施例以vgg16网络为例。
[0049]
2.3)选取对抗攻击方法，生成对抗样本：选择fgsm，boundary，mifgsm等对抗攻击方法。本发明实施例以在mnist以fgsm和boundary为例，其中fgsm为白盒攻击，boundary为黑盒攻击。这两种攻击均为无目标攻击，即添加的随机噪声，只需要改变其原始标签即可。
[0050]
2.4)样本筛选以及组合：本发明实施例以在对原始干净样本和对抗样本进行筛选，首先剔除模型不能正确分类干净样本和对抗攻击不成功的恶意样本。其次将筛选完成的两类样本，并将两类样本进行单独归类，组成总样本集。从总样本集中每类挑选出4000张样本，组成训练样本集。最后从总样本集中每类挑选出与训练样本不同的1000张样本组成测试样本集，用于最后的性能测试。
[0051]
3)设定损失函数敏感度函数：
[0052]
3.1)构建损失函数：在理想情况下，有一个干净数据集其中xi为特征空间，yi为类标签。分类器的作用为将不同的特征空间寻到找不同的类标签f:x
→
rc。在本发明实施例中，将dnn模型的输出层设置为softmax层，将交叉熵函数设置为损失函数，故损失函数为：
[0053][0054]
其中，c表示分类结果的个数；n表示训练样本的总数，h为网络的最终输出。
[0055]
3.2)构建损失敏感度函数：首先为了让损失函数对样本的敏感度进一步提高，利
用损失函数对样本求导生成的梯度函数作为目标函数，并利用二阶范数对其进行降维，其函数lf为：
[0056][0057]
通过在训练样本集上添加不同程度的噪声生成新的噪声样本，并且将训练样本集与噪声样本同时输入到目标模型中生成的损失函数值。利用训练样本集与噪声样本的损失函数的偏移值，作为其损失函数敏感度函数ls：
[0058]
ls＝lf
noise-lf
nor
[0059]
其中，lf
noise
是添加噪声后的样本损失敏感度值，lf
nor
是初始未添加噪声的损失敏感度值。
[0060]
在对样本添加噪声时，选择沿梯度方向进行噪声添加，其添加噪声过程如下所示：
[0061]
x'＝x+s*grad
[0062]
其中s为迭代步长。
[0063]
改变图像的像素值时需满足：
[0064][0065]
其中，x表示原始图像；x’表示改变像素值后的图像；l0表示已更改像素的最大数量；l∞表示像素更改的最大值；size(x)是图像中0《x的像素数量；0《α,β《1。
[0066]
4)粒子群优化模型(pso)建立
[0067]
4.1)粒子群优化模型初始化
[0068]
pso初始化为一群随机粒子，在本发明实施例中，每一张样本输入到粒子群优化模型中时，通过添加随机噪声，构建20张添加不同随机噪声的初始化样本，将每张初始化样本作为一个粒子，构建20个pso模型的粒子。将每张输入样本的所有像素点的rgb值作为粒子的位置矩阵xi,rgb值的变化矩阵作为粒子的速度矩阵vi。以及当前迭代数g，最大迭代数gk，当前惯性权重因子ωg。第i个粒子的历史最优位置p
best
,粒子种群发现的全局最优位置g
best
。
[0069]
4.2)样本损失敏感度值计算
[0070]
通过步骤(3)设定的损失函数敏感度函数计算上述初始化完成后的20张添加随机噪声的初始化样本的损失函数敏感度，然后与输入样本的损失函数敏感度作差，计算出不同噪声样本的损失函数敏感度的漂移值。
[0071]
4.3)计算粒子群的损失函数敏感度值，比较历史最佳损失函数敏感度并更新每个粒子的历史最优位置p
best
、粒子群的全局最优位置g
best
。
[0072]
4.4)更新粒子群的速度vi和位置xi，在粒子速度和位置的更新过程中采用惯性因子，其值较大时，全局搜索能力较强，其值较小时局部搜索能力强。其计算公式如下所示：
[0073]
ω
(g)
＝(ω
ini-ω
end
)(g
k-g)/gk+ω
end
[0074]
υi＝ω
(g)
×
υi+c1×
rand()
×
(pbest
i-xi)+c2×
rand()
×
(gbest
i-xi)
[0075]
xi＝xi+υi[0076]
其中，ω
ini
为初始权重因子值、ω
end
为最终权重因子值，c1和c2为初始化学习因子，rand()为系统产生的介于(0，1)之间的随机数。
[0077]
4.5)最优漂移样本集选取
[0078]
经过步骤4.4)中对输入样本的损失函数敏感度进行不断地更新与优化，产生不同损失敏感度的噪声样本，在同一张输入样本的迭代更新中，记录下每张样本对应的最大损失函数敏感度的噪声样本，即最优漂移样本。将正常样本和对抗样本生成的不同最优漂移样本汇总，组成正常样本与对抗样本两类最优漂移样本集。
[0079]
4.6)损失敏感度分类器构建
[0080]
选取最优漂移样本区间记录下不同类样本的漂移区间，组成样本区间数据集，该数据集包括正常样本漂移区间类与对抗样本漂移区间类，利用二分类器，对上述数据集进行训练，从而训练出可以根据损失敏感度能分辨正常样本与对抗样本的二分类器。将该二分类器作为损失敏感度分类器。
[0081]
5)样本测试
[0082]
5.1)模型重训练
[0083]
为了加大两类样本的损失函数区分度，将4.5)中两类最优漂移样本集根据漂移值的大小进行排序，选取每类的前top-k张样本与标签，送入步骤(1)训练好的深度学习模型(本实施例中为vgg16模型)中进行重新训练，生成测试模型，用于后续测试数据集的测试。
[0084]
5.2)样本测试
[0085]
将2.4)中的测试样本集中每张样本输入到5.1)中的测试模型，可以得到预测标签。将测试样本与预测标签输入到5.1)中粒子群优化模型中进行迭代更新，寻找出该测试样本对应的最优漂移噪声样本，计算出最优漂移噪声样本的损失函数敏感度漂移值，并将改漂移值输入到步骤4.6)构建的二分类器中进行判别，从而实现推断出该样本属于正常样本还是对抗样本，从而完成样本的检测。
[0086]
与前述基于损失函数敏感度的深度学习样本测试方法的实施例相对应，本发明还提供了基于损失函数敏感度的深度学习样本测试装置的实施例。
[0087]
参见图2，本发明实施例提供的一种基于损失函数敏感度的深度学习样本测试装置，包括一个或多个处理器，用于实现上述实施例中的基于损失函数敏感度的深度学习样本测试方法。
[0088]
本发明基于损失函数敏感度的深度学习样本测试装置的实施例可以应用在任意具备数据处理能力的设备上，该任意具备数据处理能力的设备可以为诸如计算机等设备或装置。装置实施例可以通过软件实现，也可以通过硬件或者软硬件结合的方式实现。以软件实现为例，作为一个逻辑意义上的装置，是通过其所在任意具备数据处理能力的设备的处理器将非易失性存储器中对应的计算机程序指令读取到内存中运行形成的。从硬件层面而言，如图2所示，为本发明基于损失函数敏感度的深度学习样本测试装置所在任意具备数据处理能力的设备的一种硬件结构图，除了图2所示的处理器、内存、网络接口、以及非易失性存储器之外，实施例中装置所在的任意具备数据处理能力的设备通常根据该任意具备数据处理能力的设备的实际功能，还可以包括其他硬件，对此不再赘述。
[0089]
上述装置中各个单元的功能和作用的实现过程具体详见上述方法中对应步骤的实现过程，在此不再赘述。
[0090]
对于装置实施例而言，由于其基本对应于方法实施例，所以相关之处参见方法实施例的部分说明即可。以上所描述的装置实施例仅仅是示意性的，其中所述作为分离部件
说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部模块来实现本发明方案的目的。本领域普通技术人员在不付出创造性劳动的情况下，即可以理解并实施。
[0091]
本发明实施例还提供一种计算机可读存储介质，其上存储有程序，该程序被处理器执行时，实现上述实施例中的基于损失函数敏感度的深度学习样本测试方法。
[0092]
所述计算机可读存储介质可以是前述任一实施例所述的任意具备数据处理能力的设备的内部存储单元，例如硬盘或内存。所述计算机可读存储介质也可以是任意具备数据处理能力的设备，例如所述设备上配备的插接式硬盘、智能存储卡(smart media card，smc)、sd卡、闪存卡(flash card)等。进一步的，所述计算机可读存储介质还可以既包括任意具备数据处理能力的设备的内部存储单元也包括外部存储设备。所述计算机可读存储介质用于存储所述计算机程序以及所述任意具备数据处理能力的设备所需的其他程序和数据，还可以用于暂时地存储已经输出或者将要输出的数据。
[0093]
以上实施例仅用于说明本发明的设计思想和特点，其目的在于使本领域内的技术人员能够了解本发明的内容并据以实施，本发明的保护范围不限于上述实施例。所以，凡依据本发明所揭示的原理、设计思路所作的等同变化或修饰，均在本发明的保护范围之内。
技术特征：1.一种基于损失函数敏感度的深度学习样本测试方法，其特征在于，包括以下步骤：(1)获取图像数据集作为干净样本，构建深度学习网络；(2)选取对抗攻击方法，对步骤(1)获取的图像数据集进行对抗攻击操作，得到对抗样本；并进行筛选，将筛选后的干净样本和对抗样本作为总样本集；将总样本集划分为训练样本集与测试样本集；(3)基于损失函数和训练样本集设定损失函数敏感度函数；(4)建立粒子群优化模型，计算所有样本的损失敏感度漂移值，对损失敏感度漂移值进行迭代更新，选取正常样本与对抗样本两类最优漂移样本集；利用最优漂移样本集进行训练，得到损失敏感度分类器；(5)将步骤(4)得到的两类最优漂移样本集输入步骤(1)构建的深度学习网络进行重训练，得到测试模型；将步骤(2)得到的测试样本集输入测试模型进行迭代更新，寻找出该测试样本对应的最优漂移噪声样本，计算出最优漂移噪声样本的损失函数敏感度漂移值，并将该漂移值输入到步骤(4)构建的损失敏感度分类器中进行判别，完成样本的检测。2.根据权利要求1所述的基于损失函数敏感度的深度学习样本测试方法，其特征在于，所述图像数据集为mnist、cifar10、imagenet、gtsrb、casia等典型图像数据集。3.根据权利要求1所述的基于损失函数敏感度的深度学习样本测试方法，其特征在于，所述深度学习网络为vgg16、alexnet、vgg11或resnet34等网络。4.根据权利要求1所述的基于损失函数敏感度的深度学习样本测试方法，其特征在于，所述对抗攻击方法为fgsm、boundary、mifgsm中的一种。5.根据权利要求1所述的基于损失函数敏感度的深度学习样本测试方法，其特征在于，所述步骤(3)具体为：3.1)构建损失函数：将交叉熵函数设置为损失函数，公式为：其中，c表示分类结果的个数；n表示训练样本的综述，h为网络的最终输出。3.2)构建损失敏感度函数：利用损失函数对样本求导生成的梯度函数作为目标函数，并利用二阶范数对其进行降维，其函数为：通过在训练样本集上添加不同程度的噪声生成新的噪声样本，并且将训练样本集与噪声样本同时输入到深度学习模型中生成损失函数值；利用训练样本集与噪声样本的损失函数的偏移值，作为其损失函数敏感度函数：ls＝lf
noise-lf
nor
其中，lf
noise
是添加噪声后的样本损失敏感度值，lf
nor
是初始未添加噪声的损失敏感度值。6.根据权利要求1所述的基于损失函数敏感度的深度学习样本测试方法，其特征在于，所述步骤(4)具体包括以下步骤：(4.1)对输入样本添加随机噪声，进行粒子群优化模型初始化；(4.2)样本损失敏感度漂移值计算：通过步骤(3)设定的损失函数敏感度函数计算初始
化后的添加随机噪声的样本的损失函数敏感度，然后与输入样本的损失函数敏感度作差，得到出不同噪声样本的损失函数敏感度的漂移值；(4.3)更新历史最优位置与全局最优位置：计算粒子群的损失函数敏感度值，比较历史最佳损失函数敏感度并更新每个粒子的历史最优位置p
best
、粒子群的全局最优位置g
best
；(4.4)更新粒子群的速度v
i
和位置x
i
；(4.5)最优漂移样本选取：对输入样本的损失函数敏感度进行不断地更新与优化，产生不同损失敏感度的噪声样本，在同一张输入样本的迭代更新中，记录下每张样本对应的最大损失函数敏感度的噪声样本，即最优漂移样本；将正常样本和对抗样本生成的不同最优漂移样本汇总，组成正常样本与对抗样本两类最优漂移样本集。(4.6)损失敏感度分类器构建：:选取最优漂移样本区间记录下不同类样本的漂移区间，组成样本区间数据集，该数据集包括正常样本漂移区间类与对抗样本漂移区间类，利用二分类器，对上述数据集进行训练，训练出可以根据损失敏感度能分辨正常样本与对抗样本的二分类器；将该二分类器作为损失敏感度分类器。7.根据权利要求1所述的基于损失函数敏感度的深度学习样本测试方法，其特征在于，所述步骤(5)具体为：(5.1)将步骤(4)得到的中两类最优漂移样本集根据漂移值的大小进行排序，选取每类的前top-k张样本与标签，输入步骤(1)训练好的深度学习模型中进行重新训练，生成测试模型；(5.1)将步骤(2)中划分的测试样本集输入到测试模型中，得到预测标签；将测试样本与预测标签输入中粒子群优化模型中进行迭代更新，寻找出该测试样本对应的最优漂移噪声样本，计算出最优漂移噪声样本的损失函数敏感度漂移值，并将改漂移值输入到步骤(4)中进行判别，从而实现推断出该样本属于正常样本还是对抗样本，完成样本的检测。8.一种基于损失函数敏感度的深度学习样本测试装置，其特征在于，包括一个或多个处理器，用于实现权利要求1-7中任一项所述的基于损失函数敏感度的深度学习样本测试方法。9.一种计算机可读存储介质，其上存储有程序，其特征在于，该程序被处理器执行时，用于实现权利要求1-7中任一项所述的基于损失函数敏感度的深度学习样本测试方法。
技术总结本发明公开了一种基于损失函数敏感度的深度学习样本测试方法与装置，获取图像数据集作为干净样本，构建深度学习网络；对图像数据集进行对抗攻击操作，得到对抗样本；并进行筛选，得到总样本集，划分为训练样本集与测试样本集；设定损失函数敏感度函数；建立粒子群优化模型，计算损失敏感度漂移值，进行迭代更新，选取正常样本与对抗样本两类最优漂移样本集；利用最优漂移样本集进行训练，得到损失敏感度分类器；将两类最优漂移样本集输入深度学习网络重训练，得到测试模型；将测试样本集输入测试模型迭代，寻找最优漂移噪声样本，计算最优漂移噪声样本的损失函数敏感度漂移值，利用损失敏感度分类器判别，完成样本的检测。完成样本的检测。完成样本的检测。
技术研发人员：陈晋音 李晓豪 金海波 郑海斌 宣琦 倪洪杰
受保护的技术使用者：浙江工业大学
技术研发日：2022.02.24
技术公布日：2022/7/5
