本发明属于电商大数据推荐领域，特别涉及一种基于多尺度特征融合的广告点击率预测方法。
背景技术：
1、随着互联网和电子商务的迅猛发展，线上购物已成为人们日常生活中不可或缺的一部分。电子商务平台在激烈的市场竞争中，依赖于高效的推荐系统来提高用户体验和转化率。推荐系统通过分析用户行为数据，预测用户可能感兴趣的商品，从而提供个性化的商品推荐服务。点击率(click-through rate，ctr)预测是推荐系统中的关键技术，直接影响推荐系统的性能和用户满意度。
2、点击率预测的目的是估计用户在看到某个推荐商品或广告时，点击该商品或广告的概率。准确的点击率预测不仅可以提高推荐的精准性，还能有效地优化广告投放策略和提高平台的商业收益。传统的ctr预测方法主要基于浅层模型，如逻辑回归模型。这些方法在特征处理和模型复杂度方面较为简单，但在处理高维、稀疏和非线性特征时，效果往往不够理想。
3、近年来，随着大数据和人工智能技术的发展，深度学习模型在ctr预测中的应用取得了显著进展。深度学习模型能够自动提取和学习数据的多层次特征，有效捕捉用户行为和商品特征之间的复杂关系。例如，深度神经网络(dnn)、卷积神经网络(cnn)和长短期记忆网络(lstm)等模型被广泛应用于ctr预测中，并展示出优于传统方法的性能。
4、综上所述，众多研究人员已经在个性化研究方面取得了诸多成就，为进一步的研究奠定了坚实的基础。结合实际电商平台的营销数据进行点击率预测的研究过程中仍然存在如下的一些挑战：
5、挑战1：电商平台上的数据具有多源异构性和高维稀疏性。电商平台的数据类型多样、结构各异，需要不同的特征提取和处理方法，这会导致特征工程复杂性增加、模型训练难度增大。而数据稀疏性会带来冷启动问题和噪声问题，模型的鲁棒性和泛化能力受到影响。
6、挑战2：特征单一且多粒度特征构建不足。当前模型在特征构建上呈现单一性，且对多粒度特征的考量不足。这些模型往往侧重于特征间的交互或用户兴趣的提取，但这种单一的特征构建方式难以全面揭示用户行为的复杂性和多样性，因此限制了其个性化推荐的能力。
7、挑战3：特征数量庞大，关键特征挖掘困难。从海量原始数据中，能够捕捉到丰富的用户特征和商品特征，然而，这两种特征之间的复杂交互常常使得特征总数呈指数级增长。并且，在这众多的特征中，有一部分实际上所含的信息量极其有限，对模型预测准确性的贡献微乎其微。因此，有效地识别和剔除这些冗余特征，对于提升模型的性能和效率而言，显得尤为关键和重要。
技术实现思路
1、为解决上述现有技术问题，本发明采用一种基于多尺度特征融合的广告点击率预测方法，包括：获取用户属性信息、商品属性信息以及用户历史行为序列，将用户属性信息、商品属性信息以及用户历史行为序列输入训练好的广告点击率预测模型，得到预测的广告点击率；广告点击率预测模型包括：特征交互模型、兴趣捕获模型、多尺度特征提取模块以及多尺度特征融合模块；
2、广告点击率预测模型的训练过程包括：
3、s1：从电商平台获取用户属性信息、商品属性信息以及用户历史行为序列；
4、s2：将用户属性信息和商品属性信息输入特征交互模型，得到低阶特征向量llow和高阶特征向量hhigh；将用户历史行为序列输入兴趣捕获模型，得到兴趣特征向量iint；
5、s3：利用协同图增强嵌入方法将低阶特征向量llow、高阶特征向量hhigh以及兴趣特征向量iint转换为对应的增强特征图表示，得到低阶增强特征图高阶增强特征图以及兴趣增强特征图
6、s4：将低阶增强特征图高阶增强特征图以及兴趣增强特征图输入多尺度特征提取模块，得到低阶多尺度特征嵌入集合高阶多尺度特征嵌入集合以及兴趣多尺度特征嵌入集合
7、s5：将以及输入多尺度特征融合模块进行融合，得到多尺度综合特征；
8、s6：根据多尺度综合特征得到预测的广告点击率；
9、s7：根据预测的广告点击率计算损失函数值，根据损失函数值更新广告点击率预测模型的参数，当损失函数值最小时，完成模型训练。
10、特征交互模型包括：因子分解机fm和深度交叉神经网络；特征交互模型对用户属性信息和商品属性信息进行处理包括：
11、s21：分别对用户属性信息和商品属性信息进行特征提取，得到用户属性集合u＝{u1,u2,…un}和商品属性集合c＝{c1,c2,…cm}；其中，un表示用户的第n个属性，cm表示用户的第m个属性，n为用户属性的数量，m为商品属性的数量；用户属性集合和商品属性集合均包括类别属性和数值属性；
12、s22：分别对用户属性集合u和商品属性集合c的类别属性进行one-hot编码，得到用户类别属性的编码向量xn和商品类别属性的编码向量ym；将用户类别属性的编码向量和用户数值属性进行组合，得到新的用户属性集合u′，将商品类别属性的编码向量和商品数值属性进行组合，得到新的商品属性集合c′，其中，ym为商品属性的第m个属性的编码向量，xn为用户属性的第n个属性的编码向量；
13、s23：对新的用户属性集合u′进行组合和缩放，得到用户属性的特征向量表示对新的商品属性集合c′进行组合和缩放，得到商品属性的特征向量表示
14、s24、将用户属性的特征向量表示vuser和商品属性的特征向量表示ccom输入因子分解机fm，得到低阶特征向量llow＝{l1,l2,…,ls}；将用户属性的特征向量表示vuser和商品属性的特征向量表示ccom输入深度交叉神经网络，得到高阶特征向量hhigh＝{h1,h2,…,hg}，其中，li表示低阶特征向的量第i个特征，hg表示高阶特征向量的第g个特征，s为低阶特征向量的维度，g为高阶特征向量的维度。
15、对新的用户属性集合u′进行组合和缩放包括：对新的用户属性集合u′中的用户属性进行两两组合，生成多个新特征将每个新特征进行最小-最大缩放，得到缩放特征xρ′，根据缩放特征xρ′得到用户属性的特征向量表示
16、
17、兴趣捕获模型包括：注意力机制模块和残差网络；兴趣捕获模型对用户历史行为序列进行处理包括：
18、对用户历史行为序列b＝{b1,b2,…,bv}进行嵌入，得到嵌入后的向量序列eemb＝{e1,e2,…,ev}；利用注意力机制模块捕捉嵌入后的向量序列中各向量之间的依赖关系，将注意力机制模块输出的特征输入残差网络，得到最终的兴趣特征向量iint；其中，bv为用户的第v个行为，ev为bv的嵌入向量，v为用户历史行为序列的长度。
19、利用协同图增强嵌入方法将低阶特征向量llow、高阶特征向量hhigh以及兴趣特征向量iint转换为对应的增强特征图包括：
20、s31：将低阶特征向量llow中的每一个特征作为一个节点，计算节点之间的相似度，根据相似度构建边，得到低阶增强特征图为低阶特征向量的节点集合，εlow为低阶特征向量的边集合；
21、s32：将高阶特征向量hhigh中的每一个特征作为一个节点，计算节点之间的相似度，根据相似度构建边，得到高阶增强特征图为高阶特征向量的节点集合，εhigh为高阶特征向量的边集合；
22、s33：将兴趣特征向量iint中的每一个特征看作一个节点，计算节点之间的相似度，根据相似度构建边，得到用户兴趣特征图；利用图卷积神经网络聚合用户兴趣图的节点特征，得到兴趣增强特征图其中，是兴趣特征向量的节点集合，εint为兴趣特征向量的边集合。
23、多尺度特征提取模块对低阶增强特征图高阶增强特征图以及兴趣增强特征图进行处理包括：
24、利用多尺度特征金字塔特征提取算法分别对低阶增强特征图高阶增强特征图以及兴趣增强特征图进行梯次尺度的图卷积，得到低阶多尺度特征集合、高阶多尺度特征集合以及兴趣多尺度特征集合，并将所有多尺度特征集合嵌入到一个高维的统一特征空间，得到低阶多尺度特征嵌入集合高阶多尺度特征嵌入集合以及兴趣多尺度特征嵌入集合
25、利用多尺度特征金字塔提取算法分别对低阶增强特征图高阶增强特征图以及兴趣增强特征图进行梯次尺度的图卷积包括：
26、
27、其中，以及分别为第k个尺度的图图以及图的加了自环的归一化邻接矩阵，以及分别表示第q层的第k个尺度的图图以及图的的节点特征矩阵，为图卷积的第q层在第k个尺度下的权重矩阵，ωl,k、ωh,k、ωi,k为分别为图图以及图对应的窗函数，gcn表示图卷积。
28、窗函数表示为：
29、
30、其中，t、s、f分别表示窗函数的时间、空间和频率维度的可学习参数，t0、s0、f0为窗函数在时间、空间和频率维度的中心位置，t、σs、σf为时间、空间和频率维度的窗口宽度，tk、sk、fk分别为时间、空间和频率维度的系数。
31、第k个尺度的增强特征图加了自环的归一化邻接矩阵为：
32、
33、其中，i是单位矩阵，dk为第k个尺度的增强特征图的度矩阵。
34、多尺度特征融合模块对以及进行融合包括：采用基于通道注意力机制的多尺度特征融合策略分别对以及进行处理，得到融合特征以及对融合特征以及进行加权融合，得到多尺度综合特征。
35、有益效果：
36、1、本发明采用基于用户-行为-商品的协同图增强嵌入方法，将特征的向量表示转换成一种增强的图数据形式，从而不仅能够捕捉到用户、商品和行为之间的复杂关系，还能够通过图结构的传播机制丰富稀疏特征节点的信息，可以有效缓解点击率预测中的数据稀疏性问题，从而提升模型的预测性能；
37、2、本发明采用了一种创新的多尺度特征金字塔提取算法融合了时间、空间和频率三个维度，通过精心设计“窗函数”精准地从低阶增强特征图、高阶增强特征图以及用户兴趣增强特征图中捕捉并提取多尺度的特征信息，在高效学习到多粒度的特征的同时，深入挖掘了特征的内在联系和深层次的信息，从而显著提升了数据处理的全面性和准确性。
38、3、本发明采用了一种基于通道注意力机制的多尺度特征融合方法对多尺度特征嵌入进行加权处理，计算出每个通道的重要性系数，能够增强对重要特征的关注，抑制不相关或冗余特征。
1.一种基于多尺度特征融合的广告点击率预测方法，其特征在于，包括：获取用户属性信息、商品属性信息以及用户历史行为序列，将用户属性信息、商品属性信息以及用户历史行为序列输入训练好的广告点击率预测模型，得到预测的广告点击率；广告点击率预测模型包括：特征交互模型、兴趣捕获模型、多尺度特征提取模块以及多尺度特征融合模块；
2.根据权利要求1所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，特征交互模型包括：因子分解机fm和深度交叉神经网络；特征交互模型对用户属性信息和商品属性信息进行处理包括：
3.根据权利要求2所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，对新的用户属性集合u′进行组合和缩放包括：对新的用户属性集合u′中的用户属性进行两两组合，生成多个新特征将每个新特征进行最小-最大缩放，得到缩放特征xρ′，根据缩放特征xρ′得到用户属性的特征向量表示
4.根据权利要求1所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，兴趣捕获模型包括：注意力机制模块和残差网络；兴趣捕获模型对用户历史行为序列进行处理包括：
5.根据权利要求1所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，利用协同图增强嵌入方法将低阶特征向量llow、高阶特征向量hhigh以及兴趣特征向量iint转换为对应的增强特征图包括：
6.根据权利要求1所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，多尺度特征提取模块对低阶增强特征图高阶增强特征图以及兴趣增强特征图进行处理包括：
7.根据权利要求6所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，利用多尺度特征金字塔提取算法分别对低阶增强特征图高阶增强特征图以及兴趣增强特征图进行梯次尺度的图卷积包括：
8.根据权利要求7所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，窗函数表示为：
9.根据权利要求7所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，第k个尺度的增强特征图加了自环的归一化邻接矩阵为：
10.根据权利要求1所述的一种基于多尺度特征融合的广告点击率预测方法，其特征在于，多尺度特征融合模块对以及进行融合包括：采用基于通道注意力机制的多尺度特征融合策略分别对以及进行处理，得到融合特征以及对融合特征以及进行加权融合，得到多尺度综合特征。
