本发明属于机器学习,具体涉及一种无监督学习全局以物体为中心的表示物体识别方法及装置。
背景技术:
1、以物体为中心的无监督表示学习方法,旨在从复杂的视觉场景中解析出每个物体并在没有监督的情况下学习每个物体的表示。现有的研究工作在简单的合成场景中取得了良好的结果。这些方法通过组合多个由混合解码器生成的物体图像来重建场景图像。为了处理更复杂的场景,一些方法放弃使用混合解码器,而是采用自回归的transformer解码器,如slate,或扩散模型解码器,如lsd,来重建视觉场景。此类方法在场景图像重构损失基础上,增加了场景区域特征的重构损失,该损失可以为物体为中心的表示学习提供更强的监督信号,从而赋予模型能够处理复杂场景的能力。更进一步地,dinosaur使用预训练的transformer网络提取的特征作为自监督信息,学习以物体为中心的表示,使其能够有效处理更复杂的现实场景。
2、但是,现有的以物体为中心的无监督表示学习方法仅通过提取依赖于场景的、局部的以物体为中心的表示来发现当前场景中的物体,导致其缺乏像人类一样识别不同场景中同类物体的能力。
技术实现思路
1、本发明是为了解决上述问题而进行的,目的在于提供一种无监督学习全局以物体为中心的表示物体识别方法及装置。
2、本发明提供了一种无监督学习全局以物体为中心的表示物体识别方法,用于得到场景图像中各个物体的身份预测结果,具有这样的特征,包括以下步骤:步骤s1,根据现有图片数据构建训练数据集;步骤s2,构建预测训练模型;步骤s3,根据训练数据集对预测训练模型进行训练,得到训练好的预测训练模型;步骤s4,根据训练好的预测训练模型构建身份预测模型;步骤s5,将场景图像输入身份预测模型,得到身份预测结果,其中,身份预测模型包括:场景块特征提取单元,用于从场景图像中提取场景块特征;背景编码单元,用于对场景块特征进行编码,得到背景表示;插槽注意力单元,用于根据场景块特征和背景表示,得到各个物体对应的物体表示;解耦单元,用于对背景表示和所有物体表示构成的局部以物体为中心的表示进行解耦,得到各个物体对应的内在表示和外在表示;相似性单元,存储有全局以物体为中心的表示,用于对每个物体,将对应的内在表示与全局以物体为中心的表示计算相似性,得到对应的身份表示作为身份预测结果。
3、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,预测训练模型包括局部表示学习模块和全局表示学习模块,局部表示学习模块包括场景块特征提取单元、背景编码单元和插槽注意力单元,全局表示学习模块包括解耦单元和相似性单元,在步骤s3中,根据训练数据集分别对局部表示学习模块和全局表示学习模块进行训练,得到训练好的场景块特征提取单元、背景编码单元、插槽注意力单元、解耦单元、相似性单元和全局以物体为中心的表示,在步骤s4中,根据训练好的场景块特征提取单元、背景编码单元、插槽注意力单元、解耦单元和相似性单元构成身份预测模型。
4、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,局部表示学习模块还包括背景块解码单元和物体块解码单元,背景块解码单元用于对背景表示进行解码,得到重建背景块特征,物体块解码单元用于对物体表示进行解码,得到重建物体块特征,在步骤s3中,根据场景块特征、重建场景块特征和背景块解码单元生成的背景掩码经由归一化后的背景归一化掩码计算损失函数,并根据损失计算结果对局部表示学习模块的参数进行优化。
5、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,损失函数为损失函数llocl,其表达式为:式中ssce为训练数据集中训练图片对应的场景块特征,osce为该训练图片对应的重建场景块特征,重建场景块特征osce包括该训练图片对应的重建背景块特征和重建物体块特征,η为超参数,a0为该训练图片对应的重建背景块特征,为背景归一化掩码。
6、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,全局表示学习模块还包括物体选择子模块和对比学习子模块,物体选择子模块用于从场景图像中选取两个物体作为对比学习物体,并将两个对比学习物体对应的外在表示进行交换,对比学习子模块用于根据物体选择子模块处理后的各个物体对应的内在表示和外在表示,得到各个物体对应的映射物体表示和类相关特征表示,在对比学习子模块中,内在表示通过将对应的物体的身份表示作为权重,与全局以物体为中心的表示相加得到,在步骤s3中,根据各个物体对应的局部以物体为中心的表示、映射物体表示、内在表示和类相关特征表示计算损失函数,并根据损失计算结果对全局以物体为中心的表示、解耦单元和相似性单元的参数进行优化。
7、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,在步骤s3中,损失函数为损失函数lgocl,其表达式为:lgocl=lgl+β1lcl+β2loi,式中β1和β2均为超参数,loi为正则化项,k为训练数据集中训练图片中的物体个数,为训练图片对应的局部以物体为中心的表示中第k个物体对应的物体表示,为第k个物体对应的映射物体表示,fcos()为余弦相似性计算函数,为物体i对应的内在表示,为物体j对应的类相关特征表示。
8、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,插槽注意力单元还用于根据场景块特征和背景表示,得到各个物体对应的物体掩码,物体选择子模块包括:权重计算单元,用于根对所有归一化后的物体掩码的值进行求和,计算得到各个物体对应的权重;排序单元,用于对所有权重按照大小进行排序,得到排序结果;交换单元,用于从排序结果中选取最大和次大的权重对应的物体作为对比学习物体,并将这两个对比学习物体对应的外在表示进行交换。
9、在本发明提供的无监督学习全局以物体为中心的表示物体识别方法中,还可以具有这样的特征:其中,对比学习子模块包括:映射单元,用于对各个物体,将对应的内在表示和外在表示进行线性映射,得到对应的映射物体表示;图像生成单元,用于对对比学习物体对应的映射物体表示进行解码。得到对应的图像;类特征提取单元,用于对图像进行类别相关特征表示提取,得到该图像对应的对比学习物体的类相关特征表示。
10、本发明还提供了一种无监督学习全局以物体为中心的表示物体识别装置,用于得到场景图像中各个物体的身份预测结果,具有这样的特征,包括:数据存储部,用于存储根据现有图片数据构建的训练数据集;模型训练部,用于构建预测训练模型,并根据训练数据集对预测训练模型进行训练,得到训练好的预测训练模型;模型构建部,用于根据训练好的预测训练模型构建身份预测模型;预测部,用于将场景图像输入身份预测模型,得到身份预测结果,其中,身份预测模型包括:场景块特征提取单元,用于从场景图像中提取场景块特征;背景编码单元,用于对场景块特征进行编码,得到背景表示;插槽注意力单元,用于根据场景块特征和背景表示,得到各个物体对应的物体表示;解耦单元,用于对背景表示和所有物体表示构成的局部以物体为中心的表示进行解耦,得到各个物体对应的内在表示和外在表示;相似性单元,存储有全局以物体为中心的表示,用于对每个物体,将对应的内在表示与全局以物体为中心的表示计算相似性,得到对应的身份表示作为身份预测结果。
11、发明的作用与效果
12、根据本发明所涉及的无监督学习全局以物体为中心的表示物体识别方法及装置,通过对局部表示学习模块的训练赋予身份预测模型区分场景中物体和背景的能力,通过对全局表示学习模块的训练进一步提升身份预测模型对同一物体的识别性能,从而能够处理具有复杂形状和外观物体的组成式场景,显著提高对物体属性的解耦效果,并有效提升了物体识别的准确率和鲁棒性。所以,本发明的无监督学习全局以物体为中心的表示物体识别方法及装置能够准确地识别场景图像中的物体。
1.一种无监督学习全局以物体为中心的表示物体识别装方法,用于得到场景图像中各个物体的身份预测结果,其特征在于,包括以下步骤:
2.根据权利要求1所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
3.根据权利要求2所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
4.根据权利要求3所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
5.根据权利要求2所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
6.根据权利要求5所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
7.根据权利要求5所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
8.根据权利要求5所述的无监督学习全局以物体为中心的表示物体识别装方法,其特征在于:
9.一种无监督学习全局以物体为中心的表示物体识别装置,用于得到场景图像中各个物体的身份预测结果,其特征在于,包括:
