基于手势识别的混合现实工业控制方法及装置

allin2022-08-01  103



1.本发明涉及人机交互技术领域,具体来说是一种基于手势识别的混合现实工业控制方法及装置。


背景技术:

2.随着增强现实(ar)、虚拟现实(vr)及机器学习(ml)等相关学科的发展,人机交互技术(hci)逐渐从以“计算机为中心”向“以人为中心”转移。自“工业4.0”以及《中国制造2025》提出以来,现代工业控制迫切需要向智能化转型。
3.实现工业控制智能化的前提之一在于信息连通性,传统的工业控制方式基于按键式、触摸式,无法保证人机交互过程中的实时性,导致工业控制效率低,作业周期长。基于混合现实技术(mr)的协同制造可令工作人员通过混合现实装置,取得背景数据无缝、直观的视线线索,从而协助工作人员实时获取工作中的关键信息,并高效完成相关工作。
4.科学技术的发展促使人机交互方式不断升级,手势识别相关技术日趋成熟。手势识别的一个关键技术在于如何提取手势特征,目前常用的手势特征提取方法包括:利用可穿戴设备辅助进行手势特征提取,利用多摄像头进行立体空间提取手势活动或利用机器学习算法对大量手势数据集进行训练学习。
5.然而,上述方法中采用可穿戴设备难免会影响用户体验;采用多摄像头方式需要配备多个高精度摄像头,成本高,并且空间局限性大;机器学习算法需要建立庞大的数据库,对于硬件设备及计算机算力要求高。
6.本发明提出了一种基于手势识别的增强现实工业控制方法及装置。相对上述方法,本发明基于计算机视觉的无标记、非接触式的手势跟踪识别,更加适用于工业控制自动化及人机交互操作。


技术实现要素:

7.为克服上述已存在的问题,本发明旨在提出一种基于手势识别的混合现实工业控制方法及装置,能够以较低成本快速、准确地识别手势,并协助工作人员实时控制工业设备。
8.为此,本发明的第一个目的是提出一种基于手势识别的混合现实工业控制方法,由设备初始化、手势识别、工业控制三部分组成,具体包括以下步骤。
9.步骤一:设备初始化,启动工业设备,启动混合现实系统中的图像采集、图像显示以及无线通信模块。
10.步骤二:图像采集模块实时采集工作人员手势图像,并实时显示手势识别采样点及手势特征在图像显示模块上。
11.步骤三:根据预设手势识别算法,对采集的手势图像进行识别,并与预设手势图像进行匹配。
12.步骤四:若手势匹配成功,则混合现实系统通过无线通信模块,发送工业控制相关
命令。
13.步骤五:工业设备接收到工业控制相关命令后,执行工业控制相关操作。
14.前述的步骤二中,图像采集模块实时采集工作人员手势图像,并进行手势追踪,若手势存在,则显示手势识别采样点及手势特征在图像显示模块上,工作人员实时观察手势特征;若手势不存在,则判断是否终止手势追踪。若手势追踪不终止,则继续手势追踪;若手势追踪终止,则系统结束运行。
15.前述的步骤三中,混合现实系统首先确定手势识别图像关键帧,再通过预设手势识别算法,进行手势匹配。
16.为应用上述方法,本发明的第二个目的是提出一种基于手势识别的混合现实工业控制装置,所述装置包括。
17.图像采集单元,用于手势追踪并采集工作人员的手势图像帧。
18.图像显示单元,用于显示工作人员的手势采样点及手势特征。
19.图像处理单元,用于运行手势识别算法,与预设手势图像进行特征匹配及执行工业控制相关命令。
20.存储单元,用于存储手势识别算法及预设手势图像。
21.无线通信模块,用于发送和接受工业控制相关命令。
22.供电单元,用于存储电能,并给各单元提供电能。
23.执行设备,用于执行工业控制相关命令。
24.本发明应用于非接触式工业控制自动化及人机交互,低成本地解决了当前工业控制实时性差,工作效率低等问题,提高了工作人员的操作体验感及操作效率。
附图说明
25.利用附图对本发明作进一步说明,但附图中的实施例不构成对本发明的任何限制,对于本领域的普通技术人员,在不付出创造性劳动的前提下,还可以根据以下附图获得其它的附图。
26.图1为本发明所提出的基于手势识别的混合现实工业控制方法的流程示意图。
27.图2为本发明示出的基于手势识别的混合现实工业控制命令的信息示意图。
28.图3为本发明实施例一的基于手势识别的混合现实工业控制方法的流程示意图。
29.图4为本发明实施例二的基于手势识别的混合现实工业控制装置的硬件系统示意图。
30.图5为本发明实施例三的基于手势识别的混合现实工业控制装置的结构示意图。
具体实施方式
31.下面结合说明书附图对本发明的具体实施例加以详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释本发明,而不能以此来限制本发明的保护范围。另外还需说明的是,为了便于描述,附图中仅示出了与本发明相关的部分而非全部结构。
32.实施例一。
33.图1示出了本发明所提出的基于手势识别的混合现实工业控制方法的流程示意图,该方法包括。
34.步骤一:设备初始化,启动工业设备,启动混合现实系统中的图像采集、图像显示以及无线通信模块。
35.步骤二:图像采集模块实时采集工作人员手势图像,并实时显示手势识别采样点及手势特征在图像显示模块上。
36.步骤三:根据预设手势识别算法,对采集的手势图像进行识别,并与预设手势图像进行匹配。
37.步骤四:若手势匹配成功,则混合现实系统通过无线通信模块,发送工业控制相关命令。
38.步骤五:工业设备接收到工业控制相关命令后,执行工业控制相关操作。
39.在本发明的实施例一中,图2示出了一组预设手势命令,预设手势命令包括但不限于:抬高命令,手部呈掌状平摊,平稳向上移动,命令控制设备做出抬高操作;降低命令,手部呈掌状平摊,平稳向下移动,命令控制设备做出降低操作;停手势,从最初的掌状,手指逐渐合拢,最后变为拳状,命令控制设备暂停操作;动手势,从最初的拳状,手指逐渐张开,最后变为掌状,命令控制设备启动;慢手势,手部呈掌状平摊,平稳向左移动,命令控制设备移动速度减慢;快手势,手部呈掌状平摊,平稳向右移动,命令控制设备移动速度加快。
40.在本实施例中,为了避免误操作,需要工作人员完成一定时长的手势操作,并在图像显示模块上通过计时器计时来确认手势状态后,才能手势匹配成功,发送工业控制相关命令。
41.图3示出了根据本发明实施例一的另一种基于基于手势识别的混合现实工业控制方法的流程示意图。如图3所示,在s301处,打开混合现实装置,启动程序;在s303处,初始化混合现实装置;同时在s302处,启动工业设备,并在s304处,初始化工业设备,工业设备初始化完成后,转到s312处,进入等待接受控制命令状态。
42.混合现实装置各模块初始化完成后,启动手势识别流程。
43.在s305处,图像采集模块实时采集工作人员手势,并做手势跟踪。
44.在s306处,判断手势是否存在,若手势存在,则转s307处理,否则转s308处理。
45.在s307处,显示手势识别采样点及手势特征在图像显示模块上。
46.在s308处,判断是否终止手势追踪,若手势追踪终止,则退出手势识别;若手势最终不终止,则转s305处。
47.在s309处,确定手势识别图像关键帧。
48.在s310处,通过预设手势识别算法,进行目标手势匹配,若匹配成功,则转s311处,若匹配失败,则转s305处。
49.手势匹配成功后,启动工业控制流程。
50.在s311处,混合现实装置通过无线通信模块,发送工业设备相关控制命令给工业设备。命令发送完成后,混合现实设备转到s314处,等待接收ack命令。
51.在s312处,工业设备处于等待接收控制命令状态,若收到控制命令,则转到s313处,若未收到控制命令,则转回至s312处,继续等待。
52.在s313处,工业设备通过无线通信模块,发送ack命令给混合现实装置。
53.在s314处,判断是否接收到工业设备发送的ack命令,若收到ack命令,则转到s315处,若未收到ack命令,则转回至s314处,继续等待。
54.在s315处,混合现实装置的图像显示模块显示当前工业设备操作状态。
55.在s316处,工业设备按照控制命令,执行相关设备操作。
56.在s317处,工业设备完成相关操作,通过无线通信模块发送操作完成命令给混合现实装置。
57.在s318处,混合现实装置判断是否接收到工业设备操作完成命令,若收到,则转至s319处,若未收到,则转至s315处。
58.在s319处,混合现实装置通过无线通信模块,发送ack命令给工业设备。
59.在s320处,工业设备判断是否收到ack命令,若收到命令,则转至s312处,若未收到命令,则转回s320处,继续等待。
60.在s321处,混合现实装置显示当前设备状态,并转至s305,进行手势跟踪。
61.实施例二。
62.图4示出了根据本发明实施例二的基于手势识别的混合现实工业控制装置的硬件系统示意图,该装置由混合现实装置和工业设备两部分组成,具体包括。
63.图像处理单元s410,用于混合现实装置系统启动、各模块运行、手势识别算法执行等操作。
64.图像采集单元s420,用于实时采集工作人员的手势图像,具体包括:图像采集传感器s421,用于做图像数据采集预处理;图像采集设备s422,用于采集图像;以及连接各个模块的连接线。
65.图像显示单元s430,用于显示手势识别特征及相关控制状态,具体包括:图像显示设备s431,用于显示图像信息;图像显示模组s432,用于处理图像数据;以及连接各个模块的连接线。
66.混合现实装置的无线通信模块s440,用于发送工业设备控制相关命令以及接收工业设备状态命令。
67.存储单元s450,用于存储系统程序、手势识别算法、预设手势命令等。
68.供电单元s460,用于给混合现实装置各个单元进行供电,具体包括:电源管理模块s461,用于将外部电能转换成电池电能以及将电池电能转换成各个单元的供电电平;充电模组s462,用于外部电源电平转换成电池充电电平;电池s463,用于存储电能;以及连接各个模组的连接线。
69.工业设备的无线通信模块s470,用于发送工业设备状态命令以及接收工业设备控制相关命令。
70.执行设备s480,用于执行工业设备控制命令的相关操作。
71.实施例三。
72.图5为本发明实施例三的基于手势识别的混合现实工业控制装置的结构示意图,本实施例在上述各实施例的基础上,提供一个优选实施例,参考图5,具体包括。
73.混合现实工业控制装置包括一个镜架s510,一个供电单元s520,一个混合现实单元s530,一个电源连接线s540。
74.其中,供电单元s520由一个充电接口s521,一个充电模组s522,一个电池组s523,一个电源管理模组s524组成,通过电源连接线s540为整个混合现实单元s530提供电源。
75.混合现实单元s530由一个无线通信模块s531,一个存储单元s532,一个处理器
s533,一个图像采集传感器s534,一个图像采集设备s535,一个图像显示模组s536,一个图像显示设备s537,一个图像显示设备连接结构件s538组成,用于采集手势图像,运行手势识别算法并显示手势识别特征及工业设备运行状态。
76.最后应当说明的是,以上实施例仅用于说明本发明的技术方案,而非对本发明保护范围的限制,尽管参照优选实施例对本发明做了详细地说明,本领域的普通技术人员应当分析,可以对本发明的技术方案进行修改或者等同替换,而不脱离本发明技术方案的实质和范围。

技术特征:
1.基于手势识别的混合现实工业控制方法,其特征在于,包括:设备初始化,启动工业设备,启动混合现实系统中的图像采集、图像显示以及无线通信模块;图像采集模块实时采集工作人员手势图像,并实时显示手势识别采样点及手势特征在图像显示模块上;根据预设手势识别算法,对采集的手势图像进行识别,并与预设手势图像进行匹配;若手势匹配成功,则混合现实系统通过无线通信模块,发送工业控制相关命令;工业设备接收到工业控制相关命令后,执行工业控制相关操作。2.根据权利要求1所述的基于手势识别的混合现实工业控制方法,其特征在于,所述图像采集模块实时采集工作人员手势图像,包括:图像采集模块实时采集工作人员手势图像,并进行手势追踪,若手势存在,则显示手势识别采样点及手势特征在图像显示模块上,工作人员实时观察手势特征;若手势不存在,则判断是否终止手势追踪;若手势追踪不终止,则继续手势追踪;若手势追踪终止,则系统结束运行。3.根据权利要求1所述的基于手势识别的混合现实工业控制方法,其特征在于,所述根据预设手势识别算法,对采集的手势图像进行识别,并与预设手势图像进行匹配,包括:混合现实系统首先确定手势识别图像关键帧,再通过预设手势识别算法,进行手势匹配。4.根据权利要求1所述的基于手势识别的混合现实工业控制方法,其特征在于,所述工业设备接收到工业控制相关命令后,执行工业控制相关操作,包括:混合现实装置通过无线通信模块,发送工业设备相关控制命令给工业设备;工业设备收到控制命令后,通过无线通信模块,发送ack命令给混合现实装置;混合现实装置收到ack命令后,显示当前工业设备操作状态在图像显示模块;工业设备按照控制命令,执行相关设备操作;工业设备完成相关操作,通过无线通信模块发送操作完成命令给混合现实装置;混合现实装置收到操作完成命令后,通过无线通信模块,发送ack命令给工业设备;混合现实装置显示当前设备状态。5.基于手势识别的混合现实工业控制装置,其特征在于,包括:图像处理单元s410,用于混合现实装置系统启动、各模块运行、手势识别算法执行等操作;图像采集单元s420,用于实时采集工作人员的手势图像;图像显示单元s430,用于显示手势识别特征及相关控制状态;混合现实装置的无线通信模块s440,用于发送工业设备控制相关命令以及接收工业设备状态命令;存储单元s450,用于存储系统程序、手势识别算法、预设手势命令等;供电单元s460,用于给混合现实装置各个单元进行供电;工业设备的无线通信模块s470,用于发送工业设备状态命令以及接收工业设备控制相关命令;执行设备s480,用于执行工业设备控制命令的相关操作。6.根据权利要求5所述的基于手势识别的混合现实工业控制装置的图像采集单元
s420,包括图像采集传感器s421,用于做图像数据采集预处理;图像采集设备s422,用于采集图像;以及连接各个模块的连接线,其特征在于:实时采集工作人员的手势图像。7.根据权利要求5所述的基于手势识别的混合现实工业控制装置的图像显示单元s430,其组件包括图像显示设备s431,用于显示图像信息;图像显示模组s432,用于处理图像数据;以及连接各个模块的连接线,其特征在于:用于显示手势识别特征及相关控制状态。8.据权利要求书5所述的基于手势识别的混合现实工业控制装置的供电单元s460,其组件包括电源管理模块s461,用于将外部电能转换成电池电能以及将电池电能转换成各个单元的供电电平;充电模组s462,用于外部电源电平转换成电池充电电平;电池s463,用于存储电能;以及连接各个模组的连接线,其特征在于:给混合现实装置各个单元提供电能。

技术总结
本发明公开一种基于手势识别的混合现实工业控制方法及装置,所述方法由手势识别和工业控制两部分组成,具体包括,启动工业设备和混合现实系统;图像采集模块实时采集用户手势图像,同步显示于图像显示模块;根据预设手势识别算法,识别手势图像,并与预设手势图像匹配;若匹配成功,系统通过无线通信模块,发送工业控制命令;工业设备接收到命令后,执行相应操作。本发明应用于非接触式工业控制自动化及人机交互,低成本地解决了当前工业控制实时性差,效率低等问题。同时,本发明从系统角度,提出了一种基于手势识别的混合现实工业控制装置,易于工程实现。该方法和装置能够以较低成本快速、准确地识别手势,并协助工作人员实时控制工业设备。控制工业设备。控制工业设备。


技术研发人员:翟震 马力
受保护的技术使用者:四川大学
技术研发日:2022.04.26
技术公布日:2022/7/5
转载请注明原文地址: https://www.8miu.com/read-2407.html

最新回复(0)