1.本发明涉及机器学习技术领域,尤其涉及一种基于网络架构搜索的模型构建方法、装置及存储介质。
背景技术:2.随着深度学习模型的广泛应用,现有的基于深度学习模型相较于机器学习模型有了很大的进步,但由于不同的模型构建者的目的不同,模型结构也有所不同,如何将大量的超参数与网络结构参数结合起来以达到理想的性能是值得研究的问题。
3.网络架构搜索(nas)属于自动化的机器学习(automl)中的一个分支,automl为构建深度学习模型中大部分的步骤提供了自动化的方法,除了nas还包括自动化的数据清洗、自动化的特征工程。nas自动构建网络结构,实现nas包括三个流程分别是定义搜索空间、确定搜索策略和评估候选模型,现有的方式中可以通过网络架构搜索的方式为使用者搭建适用于自身的模型。
4.而随着使用者对模型要求的提高,现有的模型搭建往往被预设了多个搭建目标,包括但不限于模型大小、参数数量每秒的浮点运算次数等,而现有的网络架构搜索方法目前还不能在多种搭建目标的前提下起到较高的效果。
技术实现要素:5.鉴于此,本发明的实施例提供了一种基于网络架构搜索的模型构建方法,以消除或改善现有技术中存在的一个或更多个缺陷。
6.本发明的一个方面提供了一种基于网络架构搜索的模型构建方法,所述方法的步骤包括,
7.将预设的节点数和操作数进行组合,得到第一数量个构建方案,将每个构建方案表示为一个多维向量,将第一数量个构建方案对应的多维向量构建为初始种群;
8.采用交叉变异的方法基于初始种群获得新种群,所述新种群中的多维向量的数量与初始种群中的多维向量的数量相等;
9.将新种群和初始种群中的多维向量进行融合,得到融合种群,所述融合种群中包括新种群和初始种群中任一个多维向量;
10.基于预设的搭建目标的数量在杨辉三角中确定第一范围,基于融合种群中的多维向量的数量在所述第一范围中划分第二范围,计算在杨辉三角中的第二范围中的参数之和,该参数之和即为参考点数量,基于采样参考点方法将每个参考点表示为参考点向量;
11.采用非支配排序的方式对融合种群中的多维向量进行等级划分,将多维向量所处的等级与阈值等级进行对比,建立第一向量集;
12.获取所述阈值等级下一等级的多维向量,分别计算该等级的每个多维向量与每个参考点向量之间的距离,输出距离较近的第二数量个多维向量,建立第二向量集;
13.将第一向量集和第二向量集合并为目标向量集,获取目标向量集中的多维向量所
对应的构建方案为目标方案。
14.采用上述方案,本方法基于杨辉三角在超平面上生成很多参考点来表征帕累托集合,创建的参考点能够广泛并均匀的分布在帕累托最优前沿面,同时拓展了更深层次的空间,在其他超平面上形成与基群相类似的排列形状,达到尽可能延拓参考点分布的目的,这使得在保证参考点个数充足的同时也能够以最大限度降低计算的复杂度,保证了本方案能够更好的适用于多种搭建目标的前提下构建模型。
15.在本发明的一些实施方式中,所述方法的步骤还包括,基于模型预设的搭建目标对多个目标方案进行筛选,得到最终方案。
16.在本发明的一些实施方式中,基于预设的搭建目标的数量在杨辉三角中确定第一范围的步骤包括,
17.获取杨辉三角的中参数上角标为搭建目标的数量的参数,将上角标为搭建目标的数量的所有参数作为初始范围,若搭建目标的数量为m,则初始范围为
18.基于第一边界条件对初始范围的一侧边界进行限定,将完成限定的初始范围作为第一范围。
19.在本发明的一些实施方式中,基于第一边界条件对初始范围的一侧边界进行限定的步骤中,第一边界条件为:
20.t
min
=2m-1;
21.t
min
表示初始范围中参数下角标的最小值,m为搭建目标的数量。
22.在本发明的一些实施方式中,基于融合种群中的多维向量的数量在所述第一范围中划分第二范围的步骤包括,
23.基于融合种群中的多维向量数量计算边界阈值;
24.将所述边界阈值与第一范围中的参数由大到小进行对比,得到第二边界,基于所述第二边界对第一范围进行限定,得到第二范围。
25.在本发明的一些实施方式中,非支配排序划分的每个等级中包括至少一个多维向量,采用非支配排序的方式对融合种群中的多维向量进行等级划分,将多维向量所处的等级与阈值等级进行对比,建立第一向量集的步骤包括:
26.所述目标向量集中的多维向量个数预设为第三预定个数;
27.获取每个等级中的多维向量的数量,基于等级顺序,由等级较高的向等级较低的等级对多维向量的数量进行叠加,每次完成叠加后,将当前叠加得到的多维向量的总数与第三预定个数进行对比,直到叠加至等级δ时,等级1至等级δ中多维向量的总数大于第三预定个数;
28.将等级δ-1作为阈值等级。
29.在本发明的一些实施方式中,建立第一向量集的步骤还包括,
30.将等级1至至等级δ-1中所有的多维向量进行汇总,作为第一向量集。
31.在本发明的一些实施方式中,获取所述阈值等级下一等级的多维向量,分别计算该等级的每个多维向量与每个参考点向量之间的距离,输出距离较近的第二数量个多维向量,建立第二向量集的步骤还包括:
32.分别计算该等级的每个多维向量与每个参考点向量之间的距离,并计算得到基于
每个多维向量的距离和;
33.将第三预定个数与第一向量集中多维向量的个数作差,得到第二数量个的参数;
34.输出该等级的多维向量中,距离和较小的第二数量个多维向量,建立为第二向量集。
35.本发明的附加优点、目的,以及特征将在下面的描述中将部分地加以阐述,且将对于本领域普通技术人员在研究下文后部分地变得明显,或者可以根据本发明的实践而获知。本发明的目的和其它优点可以通过在说明书以及附图中具体指出并获得。
36.本领域技术人员将会理解的是,能够用本发明实现的目的和优点不限于以上具体所述,并且根据以下详细说明将更清楚地理解本发明能够实现的上述和其他目的。
附图说明
37.此处所说明的附图用来提供对本发明的进一步理解,构成本技术的一部分,并不构成对本发明的限定。
38.图1为本发明基于网络架构搜索的模型构建方法第一种实施方式的示意图;
39.图2为本发明基于网络架构搜索的模型构建方法第二种实施方式的示意图;
40.图3为在杨辉三角中确定范围的一种实施方式的示意图;
41.图4为杨辉三角的结构示意图;
42.图5为采样参考点方法的一种实施方式示意图;
43.图6为模型的一种结构示意图。
具体实施方式
44.为使本发明的目的、技术方案和优点更加清楚明白,下面结合实施方式和附图,对本发明做进一步详细说明。在此,本发明的示意性实施方式及其说明用于解释本发明,但并不作为对本发明的限定。
45.在此,还需要说明的是,为了避免因不必要的细节而模糊了本发明,在附图中仅仅示出了与根据本发明的方案密切相关的结构和/或处理步骤,而省略了与本发明关系不大的其他细节。
46.应该强调,术语“包括/包含”在本文使用时指特征、要素、步骤或组件的存在,但并不排除一个或更多个其它特征、要素、步骤或组件的存在或附加。
47.在此,还需要说明的是,如果没有特殊说明,术语“连接”在本文不仅可以指直接连接,也可以表示存在中间物的间接连接。
48.在下文中,将参考附图描述本发明的实施例。在附图中,相同的附图标记代表相同或类似的部件,或者相同或类似的步骤。
49.为解决以上问题,如图1所示,本发明提出一种基于网络架构搜索的模型构建方法,所述方法的步骤包括,
50.步骤s100,将预设的节点数和操作数进行组合,得到第一数量个构建方案,将每个构建方案表示为一个多维向量,将第一数量个构建方案对应的多维向量构建为初始种群;
51.在本发明的一些实施方式中,所述节点用于搭载操作,所述操作可以为空洞卷积、跳跃连接、平均池化等,每个节点均可以搭载任一操作,再通过将节点设置于模型的不同的
层中,可以得到多种构建方案。
52.在本发明的一些实施方式中,不同的节点可以设置于模型的同一层。
53.在本发明的一些实施方式中,所述第一数量个可以为50、100或150个,所述第一数量个为多种构建方案中的一部分,所述第一数量个构建方案为从全部的构建方案中任选出的第一数量个。
54.在本发明的一些实施方式中,可以通过基于单元的微编码方法将每个构建方案表示为多维向量,所述多维向量可以为2、3或4维等。
55.步骤s200,采用交叉变异的方法基于初始种群获得新种群,所述新种群中的多维向量的数量与初始种群中的多维向量的数量相等;
56.在本发明的一些实施方式中,对初始种群内部的多维向量之间采用交叉变异的方式,得到交叉变异后的新种群,若初始种群中的多维向量的数量为n,则新种群中的多维向量的数量也为n。
57.步骤s300,将新种群和初始种群中的多维向量进行融合,得到融合种群,所述融合种群中包括新种群和初始种群中任一个多维向量;
58.在本发明的一些实施方式中,若若初始种群中的多维向量的数量为n,则新种群中的多维向量的数量也为n,则融合种群中的多维向量的数量为2n。
59.如图4所示,步骤s400,基于预设的搭建目标的数量在杨辉三角中确定第一范围,基于融合种群中的多维向量的数量在所述第一范围中划分第二范围,计算在杨辉三角中的第二范围中的参数之和,该参数之和即为参考点数量,基于采样参考点方法将每个参考点表示为参考点向量;
60.在本发明的一些实施方式中,所述搭建目标可以为内存访问成本(mac)、每秒的浮点运算次数(floating-point operations per second,flops)、f1-score和模型的参数数量等,本方案可以同时设定多种搭建目标。
61.f1-score是分类问题的一个衡量指标,一些多分类问题常常将f1-score作为测评的方法,f1-score是模型的精确率和模型的召回率的调和平均数。
62.在本发明的一些实施方式中,所述采样参考点方法可以为das and dennis's method、deb and jain's method或mixture uniform design的方法,优选为das and dennis's method。
63.采用上述方案,在用das and dennis's method的生成参考点坐标的方法中,das and dennis's method中最关键的是参数空间分割数,而利用基于杨辉三角能够规整且方便的生成这一参数,并且能尽可能的保证这一参数取值的完整性。
64.所述空间分割数可以通过如下公式得到:t=m+h-1,t表示杨辉三角的行数,m为搭建目标的数量,h表示空间分割数。
65.步骤s500,采用非支配排序的方式对融合种群中的多维向量进行等级划分,将多维向量所处的等级与阈值等级进行对比,建立第一向量集;
66.在本发明的一些实施方式中,采用非支配排序的方式可以将融合种群中的多维向量划分为多个等级可以为(l1,l2,l3,
…
,l
max
),每个等级中至少包括一个多维向量。
67.步骤s600,获取所述阈值等级下一等级的多维向量,分别计算该等级的每个多维向量与每个参考点向量之间的距离,输出距离较近的第二数量个多维向量,建立第二向量
集;
68.在本发明的一些实施方式中,若所述阈值等级为l
x
,则分别计算l
x+1
等级中每个多维向量与每个每个参考点向量之间的距离,所述距离的计算方式可以采用欧氏距离计算方法,所述第二数量可以为预设的数量,也可以为通过计算得出的数量。
69.步骤s700,将第一向量集和第二向量集合并为目标向量集,获取目标向量集中的多维向量所对应的构建方案为目标方案。
70.在本发明的一些实施方式中,本方案通过基于单元的微编码方法将每个构建方案表示为多维向量,在步骤s700中再次通过基于单元的微编码方法将目标向量集中的多维向量还原为构建方案,得出的多个构建方案均为目标方案。
71.采用上述方案,本方法基于杨辉三角在超平面上生成很多参考点来表征帕累托集合,创建的参考点能够广泛并均匀的分布在帕累托最优前沿面,同时拓展了更深层次的空间,在其他超平面上形成与基群相类似的排列形状,达到尽可能延拓参考点分布的目的,这使得在保证参考点个数充足的同时也能够以最大限度降低计算的复杂度,保证了本方案能够更好的适用于多种搭建目标的前提下构建模型。
72.本方案可以基于多目标的搜索方式,通过nsga-ii或nsga-iii搜索得到三维帕累托最优平面,该平面由帕累托最优解的集合组成,最优解即从该解的集合中选出。
73.如图2所示,在本发明的一些实施方式中,所述方法的步骤还包括,步骤s800,基于模型预设的搭建目标对多个目标方案进行筛选,得到最终方案。
74.在本发明的一些实施方式中,本方案可以通过预设搭建目标的阈值参数的方式从目标方案中筛选出最终方案,也可以通过后期人为对目标方案进行测试的方式筛选出最终方案;若采用预设搭建目标的阈值参数的方式从目标方案中筛选出最终方案,可以预设mac阈值、flops阈值、f1-score阈值和参数数量阈值,筛选出低于mac阈值,高于flops阈值,低于f1-score阈值,低于参数数量阈值的目标方案作为最终方案。
75.如图3所示,在本发明的一些实施方式中,基于预设的搭建目标的数量在杨辉三角中确定第一范围的步骤包括,
76.步骤s410,获取杨辉三角的中参数上角标为搭建目标的数量的参数,将上角标为搭建目标的数量的所有参数作为初始范围,若搭建目标的数量为m,则初始范围为搭建目标的数量的所有参数作为初始范围,若搭建目标的数量为m,则初始范围为初始范围为上角标为m的参数所处的斜列,初始范围中的参数c的计算方式为概率中c的计算方式,即为0,为3;
77.步骤s420,基于第一边界条件对初始范围的一侧边界进行限定,将完成限定的初始范围作为第一范围。
78.在本发明的一些实施方式中,基于第一边界条件对初始范围的一侧边界进行限定的步骤中,第一边界条件为:
79.t
min
=2m-1;
80.t
min
表示初始范围中参数下角标的最小值,a为搭建目标的数量。
81.初始范围中参数下角标也是杨辉三角的行数。
82.采用上述方案,在采样参考点方法中,要生成归一化的坐标,生成参考点坐标与h和m两个参数有关,如图5所示,假设此时的h为5,m为3,则要将下列长度1划分为5份,每一份
是0.2。将其分成3份,分别是s1、s2和s3,而这三个数的组合能够在空间中组成不同的参考点坐标集合。
83.而t=m+h-1,h≥m,若h=2,m=3,按照h要分成m份,就无法做到,因此设定第一边界条件为t
min
=2m-1,提高计算精度。
84.如图3所示,在本发明的一些实施方式中,基于融合种群中的多维向量的数量在所述第一范围中划分第二范围的步骤包括,
85.步骤s430,基于融合种群中的多维向量数量计算边界阈值;
86.在本发明的一些实施方式中,基于融合种群中的多维向量数量计算边界阈值的步骤可以为若融合种群中的多维向量数量为2n,则边界阈值=2n/2=n。
87.步骤s440,将所述边界阈值与第一范围中的参数由大到小进行对比,得到第二边界,基于所述第二边界对第一范围进行限定,得到第二范围。
88.在本发明的一些实施方式中,将所述边界阈值与第一范围中的参数由大到小进行对比,得到第二边界的步骤为,将所述边界阈值与第一范围中的参数由大到小进行对比,将第一个小于边界阈值的参数作为第二边界,若m=4,则第一范围可以为则若第二边界为则第二范围为
89.采用上述方案,使参考点的数量与多维向量数量相匹配,提高计算精度。
90.在本发明的一些实施方式中,非支配排序划分的每个等级中包括至少一个多维向量,采用非支配排序的方式对融合种群中的多维向量进行等级划分,将多维向量所处的等级与阈值等级进行对比,建立第一向量集的步骤包括:
91.所述目标向量集中的多维向量个数预设为第三预定个数;
92.获取每个等级中的多维向量的数量,基于等级顺序,由等级较高的向等级较低的等级对多维向量的数量进行叠加,每次完成叠加后,将当前叠加得到的多维向量的总数与第三预定个数进行对比,直到叠加至等级δ时,等级1至等级δ中多维向量的总数大于第三预定个数;
93.将等级δ-1作为阈值等级。
94.采用上述方案,本方案能够根据实际情况,灵活计算阈值等级,相比于传统的固定设置阈值等级的方案,更加具有灵活性。
95.在本发明的一些实施方式中,若第三预定个数为20,等级1中包括2个多维向量,等级2中包括10个多维向量,等级3中包括10个多维向量,则叠加至等级3时,2+10+10>20,将等级2作为阈值等级。
96.在本发明的一些实施方式中,建立第一向量集的步骤还包括,
97.将等级1至至等级δ-1中所有的多维向量进行汇总,作为第一向量集。
98.在本发明的一些实施方式中,若第三预定个数为20,等级1中包括2个多维向量,等级2中包括10个多维向量,等级3中包括10个多维向量,则叠加至等级3时,2+10+10>20,将等级2作为阈值等级,将等级1和2中的12个多维向量汇总作为第一向量集。
99.在本发明的一些实施方式中,获取所述阈值等级下一等级的多维向量,分别计算该等级的每个多维向量与每个参考点向量之间的距离,输出距离较近的第二数量个多维向量,建立第二向量集的步骤还包括:
100.分别计算该等级的每个多维向量与每个参考点向量之间的距离,并计算得到基于每个多维向量的距离和;
101.将第三预定个数与第一向量集中多维向量的个数作差,得到第二数量个的参数;
102.输出该等级的多维向量中,距离和较小的第二数量个多维向量,建立为第二向量集。
103.在本发明的一些实施方式中,若等级2为阈值等级,等级3中包括10个多维向量,则逐个计算等级3中的多维向量与每个参考点向量之间的距离,将多维向量与每个参考点向量之间的距离相加得到距离和,若第三预定个数为20,第一向量集中多维向量的个数为12,则第二数量个为8,输出等级3中的10个多维向量中距离和较小的8个建立第二向量集。
104.采用上述方案,基于距离筛选多维向量,能够更加满足对稀疏度的要求,提高筛选准确度。
105.如图6所示,在本发明的一些实施方式中,本方案的模型中包括卷积神经网络(cnn)、双向长短时记忆循环神经网络(lstm)、全连接层和分类器,利用cnn层作为特征提取器,提取传感器数据的抽象表示,生成特征图;双向lstm通过正向和反向两个方向对输入的数据进行两次训练。cnn层指的是搜索的块结构,它采用空洞卷积、跳跃连接、平均池化等多种操作,将这些操作按照路径顺序拼接起来,构成大量可能的连接方式,为网络架构搜索构造有界的搜索空间。
106.在本发明的一些实施方式中,本方案的模型构建方法可以用于构建卷积神经网络(cnn)层。
107.构建搜索块模型:搜索空间是网络架构搜索的基础,在定义完成搜索空间后,在该有界空间内寻找最优的模型。为了尽可能的降低模型的复杂度,采用了通道剪枝的方法,具体结构如图2所示。搜索的块模块是一个有向无环图(dag),连线表示不同的操作,节点为上一个操作输出的特征图。dag中包含三种类型的节点,分别是根节点(0,1)、中间节点(2,3,4)和输出节点(5,6)。与根节点连接的操作通道数要减少到输出节点个数分之一,而输出节点的通道数重新被连接在一起,保证输入和输出通道数一致,但中间部分的通道被剪掉。从而保证模型的输出精度尽可能不变,而模型参数量、模型复杂度尽可能降低。
108.在本发明的一些实施方式中,本方案能够适用于不同的应用环境中,包括人体动作识别、面部识别等。
109.在本发明的一些实施方式中,若应用场景为人体动作识别,则可以预先构建关于人体动作的训练集和测试集,采用训练集对最终模型进行训练,并使用测试集完成测试,得到最终使用的计算模型。
110.在本发明的一些实施方式中,本方案的双向lstm通过正向和反向两个方向对输入的数据进行两次训练,提高训练效率。
111.本发明的实施例还提供一种基于网络架构搜索的模型构建装置,该装置包括计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有计算机指令,所述处理器用于执行所述存储器中存储的计算机指令,当所述计算机指令被处理器执行时该装置实现如前所述方法的步骤。
112.本发明实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该计算机程序被处理器执行时以实现前述基于网络架构搜索的模型构建方法的步骤。该计算机可
读存储介质可以是有形存储介质,诸如随机存储器(ram)、内存、只读存储器(rom)、电可编程rom、电可擦除可编程rom、寄存器、软盘、硬盘、可移动存储盘、cd-rom、或技术领域内所公知的任意其它形式的存储介质。
113.本领域普通技术人员应该可以明白,结合本文中所公开的实施方式描述的各示例性的组成部分、系统和方法,能够以硬件、软件或者二者的结合来实现。具体究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本发明的范围。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(asic)、适当的固件、插件、功能卡等等。当以软件方式实现时,本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。
114.需要明确的是,本发明并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本发明的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本发明的精神后,做出各种改变、修改和添加,或者改变步骤之间的顺序。
115.本发明中,针对一个实施方式描述和/或例示的特征,可以在一个或更多个其它实施方式中以相同方式或以类似方式使用,和/或与其他实施方式的特征相结合或代替其他实施方式的特征。
116.以上所述仅为本发明的优选实施例,并不用于限制本发明,对于本领域的技术人员来说,本发明实施例可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
技术特征:1.一种基于网络架构搜索的模型构建方法,其特征在于,所述方法的步骤包括,将预设的节点数和操作数进行组合,得到第一数量个构建方案,将每个构建方案表示为一个多维向量,将第一数量个构建方案对应的多维向量构建为初始种群;采用交叉变异的方法基于初始种群获得新种群,所述新种群中的多维向量的数量与初始种群中的多维向量的数量相等;将新种群和初始种群中的多维向量进行融合,得到融合种群,所述融合种群中包括新种群和初始种群中任一个多维向量;基于预设的搭建目标的数量在杨辉三角中确定第一范围,基于融合种群中的多维向量的数量在所述第一范围中划分第二范围,计算在杨辉三角中的第二范围中的参数之和,该参数之和即为参考点数量,基于采样参考点方法将每个参考点表示为参考点向量;采用非支配排序的方式对融合种群中的多维向量进行等级划分,将多维向量所处的等级与阈值等级进行对比,建立第一向量集;获取所述阈值等级下一等级的多维向量,分别计算该等级的每个多维向量与每个参考点向量之间的距离,输出距离较近的第二数量个多维向量,建立第二向量集;将第一向量集和第二向量集合并为目标向量集,获取目标向量集中的多维向量所对应的构建方案为目标方案。2.根据权利要求1所述的基于网络架构搜索的模型构建方法,其特征在于,所述方法的步骤还包括,基于模型预设的搭建目标对多个目标方案进行筛选,得到最终方案。3.根据权利要求1或2所述的基于网络架构搜索的模型构建方法,其特征在于,基于预设的搭建目标的数量在杨辉三角中确定第一范围的步骤包括,获取杨辉三角的中参数上角标为搭建目标的数量的参数,将上角标为搭建目标的数量的所有参数作为初始范围,若搭建目标的数量为m,则初始范围为的所有参数作为初始范围,若搭建目标的数量为m,则初始范围为基于第一边界条件对初始范围的一侧边界进行限定,将完成限定的初始范围作为第一范围。4.根据权利要求3所述的基于网络架构搜索的模型构建方法,其特征在于,基于第一边界条件对初始范围的一侧边界进行限定的步骤中,第一边界条件为:t
min
=2m-1;t
min
表示初始范围中参数下角标的最小值,m为搭建目标的数量。5.根据权利要求1或4所述的基于网络架构搜索的模型构建方法,其特征在于,基于融合种群中的多维向量的数量在所述第一范围中划分第二范围的步骤包括,基于融合种群中的多维向量数量计算边界阈值;将所述边界阈值与第一范围中的参数由大到小进行对比,得到第二边界,基于所述第二边界对第一范围进行限定,得到第二范围。6.根据权利要求1所述的基于网络架构搜索的模型构建方法,其特征在于,非支配排序划分的每个等级中包括至少一个多维向量,采用非支配排序的方式对融合种群中的多维向量进行等级划分,将多维向量所处的等级与阈值等级进行对比,建立第一向量集的步骤包括:所述目标向量集中的多维向量个数预设为第三预定个数;
获取每个等级中的多维向量的数量,基于等级顺序,由等级较高的向等级较低的等级对多维向量的数量进行叠加,每次完成叠加后,将当前叠加得到的多维向量的总数与第三预定个数进行对比,直到叠加至等级δ时,等级1至等级δ中多维向量的总数大于第三预定个数;将等级δ-1作为阈值等级。7.根据权利要求6所述的基于网络架构搜索的模型构建方法,其特征在于,建立第一向量集的步骤还包括,将等级1至至等级δ-1中所有的多维向量进行汇总,作为第一向量集。8.根据权利要求6或7所述的基于网络架构搜索的模型构建方法,其特征在于,获取所述阈值等级下一等级的多维向量,分别计算该等级的每个多维向量与每个参考点向量之间的距离,输出距离较近的第二数量个多维向量,建立第二向量集的步骤还包括:分别计算该等级的每个多维向量与每个参考点向量之间的距离,并计算得到基于每个多维向量的距离和;将第三预定个数与第一向量集中多维向量的个数作差,得到第二数量个的参数;输出该等级的多维向量中,所述距离和较小的第二数量个多维向量,建立为第二向量集。9.一种基于网络架构搜索的模型构建装置,其特征在于,该装置包括计算机设备,所述计算机设备包括处理器和存储器,所述存储器中存储有计算机指令,所述处理器用于执行所述存储器中存储的计算机指令,当所述计算机指令被处理器执行时该装置实现如权利要求1-8任一项所述方法的步骤。10.一种计算机可读存储介质,其特征在于,其上存储有计算机程序,该计算机程序被处理器执行时以实现上述权利要求1-8任一项所述基于网络架构搜索的模型构建方法的步骤。
技术总结本发明提供一种基于网络架构搜索的模型构建方法、装置及存储介质,所述方法的步骤包括,将节点数和操作数进行组合,得到第一数量个构建方案,将构建方案对应的多维向量构建为初始种群;交叉变异获得新种群;新种群和初始种群融合为融合种群;基于搭建目标数量在杨辉三角中确定第一范围,基于融合种群在第一范围中划分第二范围,计算第二范围中的参数之和,为参考点数量,将参考点表示为参考点向量;采用非支配排序对融合种群中多维向量进行等级划分,基于阈值等级建立第一向量集;计算阈值等级下一等级的多维向量与参考点向量之间的距离,输出较近的多维向量为第二向量集;合并为目标向量集,目标向量集中的多维向量对应的构建方案为目标方案。构建方案为目标方案。构建方案为目标方案。
技术研发人员:王欣蕾 王小娟 何明枢 金磊 阳柳
受保护的技术使用者:北京邮电大学
技术研发日:2022.03.14
技术公布日:2022/7/4