一种基于虚拟现实技术的打击乐演奏方法、设备及介质

allin2025-03-19  28


本发明涉及虚拟现实,尤其是涉及一种基于虚拟现实技术的打击乐演奏方法及演奏系统。


背景技术:

1、乐器演奏是一种广受人们喜爱的娱乐方式。研究表明,打击乐器的学习和演奏可以提高个体的协调性、节奏感和音乐理解能力,同时可以锻炼大脑、延缓认知衰退。然而,对于初学者,需要双手以不同的节奏、强度、速度和力度配合来完成一首乐曲的演奏是具有挑战的。打击乐器是一种常见的打击乐乐器,在现实生活中,打击乐器的学习者通常还需要有专门的场所进行练习,目前的打击乐器学习通常存在以下问题:

2、1、学习者在自我练习过程中常常缺乏有效的指导,需要识谱并同时找到对应鼓进行敲击,难度较大,不利于练习;

3、2、练习过程中,学习者难以获得即时反馈,影响练习效率;

4、3、对于初学者而言,同时阅读和理解乐谱,并按照谱的内容以不同的节奏、强度、速度和力度来完成曲子的演奏练习非常困难;

5、4、缺乏专门的场所提供给学习者进行打击乐练习,或场景单一,长时间的练习会感到乏味,不能适用于多种情况;

6、5、因打击乐器占地面积较大且声音较大等问题,缺乏提供场地供打击乐器的置放以及避免打击乐的声音对他人造成干扰。


技术实现思路

1、本发明的目的在于提供一种基于虚拟现实技术的打击乐演奏方法,以解决现有技术中如何有效地实现打击乐训练并降低对周围环境影响的问题。

2、为了达到上述目的,本发明采用这样的技术方案:

3、一种基于虚拟现实技术的打击乐演奏方法,包括如下步骤:

4、s1、搭建不同的虚拟场景并对虚拟场景内架子鼓、灯光和背景参数进行设置;

5、s2、搭建不同的虚拟人物,包括m个男生模型和n个女生模型,m和n为正整数,设置不同虚拟人物对应的发型和服装;

6、s3、对虚拟场景的内部项目与虚拟人物进行动画制作,采用ae软件对场景模型的内部项目进行二维动画的设计与制作;

7、s4、创建乐曲库,并对乐曲库的音频参数进行识别;

8、s41、获取架子鼓谱音频,并对架子鼓谱音频进行预处理;

9、s42、将音频中音符信息的特征提取,使用傅梅尔频率倒谱系数(mfcc)来识别音乐的捕捉音频信号中的节奏模式和音高信息,获得音符特征信息序列;

10、s43、训练集由已有的音符特征信息序列数据及其对应的音轨事件构成;

11、s44、利用训练集对rnn神经网络进行训练;

12、s45、利用训练好的rnn神经网络对s42获得的音符特征信息序列数据进行自动化音轨事件生成;

13、s46、根据音轨事件生成可视化图像;

14、s5、创建智能交互应用,并对智能交互设备进行指令识别检测;

15、s6、构建评分系统,根据该评分系统对演奏学习的结果进行评分;

16、s7、虚拟现实体验模块,用于搭建基于unity3d的android开发环境,基于unity3d开发完成sdk接入,从而完成人机虚拟演奏互动。

17、进一步,s1具体包括:

18、s11、使用基础建模以及复合建模完成小型酒吧到大型音乐会的不同表演场景及其内部项目的基础搭建;

19、s12、虚拟舞台上设置有虚拟灯光,使用编辑器对不同场景的虚拟灯光进行设置,根据乐曲的节奏和用户的演奏强度,虚拟灯光会相应变化,为用户提供视觉上的享受和情感上的共鸣;

20、s13、虚拟舞台上设置有虚拟打击乐器,包括鼓皮的材质、鼓边的金属质感;

21、s14、设置虚拟观众效果,生成虚拟观众席,并在每个虚拟观众席上显示一个虚拟观众的头像。

22、进一步,s3具体包括:

23、s31、在photoshop中分不同图层绘制完成素材,分别保存为设定格式的图片;

24、s32、用图片素材拼接成视频动画;

25、s33、用ae软件在视频动画中加上所需要的动画效果与转场效果。

26、进一步,智能交互应用包括语音交互、文字交互、图形界面交互、手势交互以及虚拟现实交互。

27、进一步,s6通过4鼓点判分体系进行判分,具体包括:

28、s61、 利用s43的训练集采用baum-welch算法训练隐马尔可夫模型(hiddenmarkov model, hmm)参数;

29、s62、由s61获得初始状态概率、状态转移概率和观测概率;

30、s63、由s62获得对应的音频的专家序列;

31、s64、获取用户击鼓练习过程的演奏时间和位置信息序列;

32、s65、应用viterbi算法通过动态规划来找出最有可能产生观测序列的状态序列;

33、s66、计算viterbi路径的总概率,获得s64对应的用户序列概率;

34、s67、将音轨事件s62和解码后的用户实时演奏数据序列概率s66进行对比,计算用户的得分;

35、s68、根据用户序列与专家序列的一致性来分配得分。

36、本发明提供了一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,处理器执行程序时实现一种基于虚拟现实技术的打击乐演奏方法。

37、本发明提供了一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现一种基于虚拟现实技术的打击乐演奏方法。

38、通过采用前述设计方案,本发明的有益效果是:

39、1、针对初学者边学边练定义了音轨事件,通过音轨事件将鼓谱和对应鼓的位置进行了映射提出了节奏可视化机制,帮助用户更直观地感知和理解乐曲的乐谱和节奏;

40、2、与传统枯燥单一的演奏教学不同,vr的沉浸感,临场感和趣味性,可以将枯燥乏味的知识以生动有趣的方式呈现,大大提高表演者学习的积极性;

41、3、设计了多种交互方式,可以针对没有实力购买打击乐器的用户,提供更加实惠的练习娱乐方式,还可以避免打击乐器的声音对周围环境的干扰;

42、3、设计了多种虚拟场景供用户选择,用户可以在不同的场景下进行演奏,使演奏者获得更加真实的交互式的体验,增加练习的趣味性和挑战性,解除了物理空间的限制;

43、4、为了更方便用户获得打击正误的反馈,提出了鼓点裁决分析,4鼓点判分体系通过监听音符事件、计算音符触发到用户敲击鼓面的时间间隔和动画时间的差值,判分效果的实时展示会在用户敲击鼓面后立即在屏幕上显示与敲击准确性相对应的评分等级;

44、5、建立乐曲库,对乐曲库中的素材进行了难度以及类型的分类,其中按类型分类是按照练习曲目和心理辅助治疗曲目分类;按难度分类可根据学习进度进行阶梯性激励用户不断进步。

45、本发明能够有效地辅助用户完成打击乐指定曲目的训练,同时可以有效地进行情绪的调节,释放压力、缓解焦虑的同时减少对周围环境影响。



技术特征:

1.一种基于虚拟现实技术的打击乐演奏方法,其特征在于:包括如下步骤:

2.根据权利要求1的一种基于虚拟现实技术的打击乐演奏方法,其特征在于:

3.根据权利要求1的一种基于虚拟现实技术的打击乐演奏方法,其特征在于:

4.根据权利要求1的一种基于虚拟现实技术的打击乐演奏方法,其特征在于:智能交互应用包括语音交互、文字交互、图形界面交互、手势交互以及虚拟现实交互。

5.根据权利要求1的一种基于虚拟现实技术的打击乐演奏方法,其特征在于:其中,s6通过4鼓点判分体系进行判分,具体包括:

6.一种电子设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于:处理器执行程序时实现如权利要求1至5任一项的方法。

7.一种计算机可读存储介质,其上存储有计算机程序,其特征在于:程序被处理器执行时实现如权利要求1至5任一项的方法。


技术总结
本发明涉及虚拟现实技术领域,公开了一种基于虚拟现实技术的打击乐演奏方法、设备及介质,包括S1、搭建不同的虚拟场景并对虚拟场景内架子鼓、灯光和背景参数进行设置;S2、搭建不同的虚拟人物;S3、对虚拟场景的内部项目与虚拟人物进行动画制作,采用AE软件对场景模型的内部项目进行二维动画的设计与制作;S4、创建乐曲库,并对乐曲库的音频参数进行识别;S5、创建智能交互应用,并对智能交互设备进行指令识别检测;S6、构建评分系统;S7、虚拟现实体验模块。本发明能够有效地辅助用户完成打击乐指定曲目的训练,可以有效地进行情绪的调节,同时减少对周围环境影响。

技术研发人员:吴伊萍,程思琦,曾紫萱
受保护的技术使用者:泉州师范学院
技术研发日:
技术公布日:2024/10/31
转载请注明原文地址: https://www.8miu.com/read-19379.html

最新回复(0)