本发明属于脑电信号锋电位序列时间序列建模领域，尤其是涉及一种基于双重自注意力机制的大脑神经元锋电位序列特征提取方法。
背景技术：
1、在当今的神经科学与生物医学工程领域，理解神经系统的复杂动态及信息编码机制是核心挑战之一。锋电位(action potential)作为神经元兴奋性的标志，其序列发放模式携带着大脑活动的基本信息，对于认知功能、感知处理乃至疾病诊断具有重要意义。尤其在多通道记录技术日益成熟的背景下，同步监测多个神经元的锋电位活动成为了研究大脑神经信息流编解码方式的关键手段。因而，准确预测多通道锋电位序列的后续发放时刻，对于解析神经编码机制、设计神经假体及开发高级脑机接口系统至关重要。
2、当前，由于神经信号的高维性、稀疏性及非平稳特性，对神经元集群的发放时间序列进行建模并预测后续各神经元的发放动态是一项艰巨且具有较高挑战性的任务。目前主流的基于神经网络的建模方法包含：
3、(1)变分自编码器(variational auto-encoder，vae)系列，这一系列模型从潜变量分析(latent variable analysis)的角度利用vae结构分析神经元群体发放的低维动态轨迹(neural trajetories)。例如lfads(latent factor analysis via dynamicalsystems)算法，它使用两个rnn网络结构分别作为编码器和生成器，编码器将锋电位发放矩阵压缩编码为潜在代码(latent code)，随后该潜在代码用于生成器生成后续的锋电位发放速率曲线。
4、(2)基于transformer的序列到序列模型，其核心在于引入了自注意力(self-attention)机制，自注意力通过计算查询(query)、键(key)和值(value)之间的相似度，为序列中的每个元素赋予不同的权重，进而加权求和得到当前位置的上下文表示。例如ndt(neural data transformer)模型，该模型采取原始的编码解码架构，在时间上进行自注意力的计算，完成对神经群体锋电位发放动态的建模。
5、总体来说，由于神经元发放表现出的高度变异性(variaty)以及群体活动相关性(correlation)，锋电位序列数据表现为高度非平稳的、稀疏的高维离散时间点数据，这使得锋电位序列发放的神经元群体活动动态建模变得更加具有挑战性。同时，相较于lfads系列算法，基于自注意力机制的网络模型优点在于执行效率的提高以及并行化程度的提升，网络构建可扩展性强，另外由于其天然的序列到序列的结构，也使得模型更易于搭建和训练。
6、但是，目前已有的基于自注意力架构的锋电位序列特征提取模型仅使用了原始的编码解码架构，并未针对锋电位序列发放的稀疏性与高度变异性的数据特点作出适应性的调整，因此需要对原始的注意力架构进行调整和改进来达到更好的特征提取和时序预测的能力。
技术实现思路
1、本发明提供了一种基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，可以提升锋电位序列时序预测模型的鲁棒性，能够在多神经元锋电位时间序列分析预测任务上取得很好的预测准确性。
2、一种基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，包括以下步骤：
3、(1)采用运动脑机接口获取大脑神经元锋电位数据，包含多通道锋值发放时间戳序列和实验中刺激信号时间戳序列，经过预处理后将数据划分为训练集、验证集和测试集；
4、(2)构建双重自注意力机制的时间序列预测模型，模型包含一个位置编码层和一个时序嵌入层，随后是多个双重注意力编码模块构成的编码器；整个编码器外层具有一个平稳化-去平稳化框架和一个分段注意力框架，最后模型包含一个线性时序预测层；
5、(3)构建交叉熵损失函数，使用训练集和验证集对构建的时间序列预测模型进行训练和评估，通过降低网络损失优化网络参数，最终使得网络收敛，得到一个用于锋电位时序预测的模型；
6、(4)使用训练好的模型在测试集上进行测试，预测各个通道在接下来的一段时间内的锋值发放序列，使用每尖锋比特数对模型进行评估；
7、(5)使用经过测试和评估后的模型进行锋电位时序预测，输入为历史多通道锋电位计数矩阵，输出为预测多通道锋电位发放速率矩阵。
8、本发明同时考虑了时序自注意力和通道自注意力，另外还提出了基于神经信号的分段注意力机制以缓解因数据稀疏带来的不稳定问题，提出了一种用于提取神经信号非平稳信息的平稳化-去平稳化框架，提升锋电位序列时序预测模型的鲁棒性。
9、步骤(1)中，基于迷宫任务获取大脑神经元锋电位数据；
10、其中，迷宫任务是具有障碍物的中心向外延迟到达任务，受试对象需要在目标出现并在下达指令后快速控制光标从当前位置移动到目标位置，移动期间不可以触碰到障碍；设备从猴子的背前侧运动皮层和初级运动皮层记录神经活动，记录得到的数据经过锋电位分选后得到多通道锋值发放时间戳序列；另外，每次实验都会有若干个外部刺激，记录实验中刺激信号时间戳序列。
11、步骤(1)中，所述的预处理是依据实验刺激时间将多通道锋电位时间序列转为刺激周围尖锋计数矩阵；具体如下：
12、以行动指示刺激stimulus0为基准，其中0表示行动指示，其长度为e，表示一共进行了e次实验，则就表示第e次实验中行动指示刺激发生的时刻；
13、以多通道锋电位时间序列spikes为预处理对象，其大小为c，表示一共有c个通道，spikesc表示第c个通道记录的神经元锋值发放时间戳序列，各个通道包含的锋值发放数量不一定相等；指定一个偏移区间[-bias_start,bias_stop]，对stimulus0中每个刺激时间戳以及spikes的每个通道spikesc：
14、在时间区间上以bin_size为采样间隔，计算spikesc落到该时间区间中每个bin中锋电位数量，注意这里保证t＝(bias_start+bias_stop)/bin_size是一个整数，表示单次实验中的采样时间槽数；对每一个刺激时间戳和采集通道的记录进行计数处理，得到刺激周围尖锋计数矩阵spikecountarray(s)，该矩阵的形状是(e,t,c)。
15、步骤(1)中，将数据划分为训练集、验证集和测试集具体为：
16、将预处理得到的刺激周围尖锋计数矩阵作为原始数据集，在第一个维度(实验维度)按照6:2:2的比例随机划分为训练集、验证集和测试集，同时，在第二个维度(时间维度)将训练集、验证集和测试集按照10:4的比例划分输入部分和预测部分。
17、步骤(2)中，平稳化-去平稳化框架用于对输入的在时间维度t进行归一化得到同时保留输入的均值μ和方差σ用于预测；se表示第e次实验的尖锋计数矩阵，表示t行c列的实数矩阵集合，t在数值上表示单次实验中的采样时间槽数，c表示通道数；
18、分段注意力框架用于对输入的在时间维度t上按照设定的窗口大小进行分段，将原始时间序列切分成多个不重叠或轻微重叠的时间片段，每个时间片段代表时间序列中的一个局部时段，得到矩阵其中n是时间片段的数量，p是时间片段的长度。
19、步骤(2)中，时序嵌入层包含一个全连接层f1:p→d，位置编码层包含一个可学习的位置编码参数矩阵经过时序嵌入层和位置编码层，得到：
20、
21、其中，d是隐藏层维度。
22、步骤(2)中，编码器包含多个双重注意力编码模块，作为双重注意力编码模块的输入，首先计算基于序列的注意力，接着计算基于通道的注意力；最后将将两个注意力的输出求和并进行归一化，在随机丢弃一定比例的参数后再加上残差链接；
23、在经过多个双重注意力编码模块的编码后，得到最终编码输出
24、
25、线性时序预测层接收到编码器输出后，先对后两个维度进行合并，接着经过线性层
26、fout:n×d→tpred
27、最后，加上输入的均值μ和方差σ，得到最终预测结果：
28、
29、步骤(3)中，使用通道独立的二元交叉熵损失，其计算方式为：
30、
31、其中，损失函数是逐时刻计算的，均为c维向量；yt是真实值，表示在t时刻各个通道是否包含锋值发放；为预测值，表示在t时刻各个通道包含锋值发放的概率，其值在0和1之间；在实际计算时，各通道在独立计算后进行求和，得到损失值，经过模型的反向传播，更新模型参数。
32、步骤(4)中，使用每尖锋比特数对模型进行评估，指的是将预测的神经元发放速率矩阵与真实的尖锋计数矩阵进行比较，比较策略是：
33、计算基于泊松分布的模型预测发放速率与真实尖锋计数矩阵负对数似然：
34、nll＝-log(exp(-r)/n！*rn)
35、其中，n为实际发放次数，n！表示实际发放次数的阶乘，r为预测发放速率；
36、计算基于泊松分布的平均值预测发放速率与真实尖锋计数矩阵负对数似然：
37、
38、其中，n为实际发放次数，r0为平均值预测，最后取差值并除以总的尖峰数量并转换为比特，得到的就是每尖峰的比特数；这个值越高，表明模型在单位尖峰上携带的信息越多，即模型的预测更加高效和信息丰富；
39、
40、其中，nsp表示真实尖锋计数矩阵包含的全部发放的数量。
41、与现有技术相比，本发明具有以下有益效果：
42、(1)本发明训练得到的注意力模型训练参数规模更小，效果仍能达到预期；
43、(2)本发明提出了平稳化-非平稳化的训练框架，能够学习到神经发放的非平稳性；
44、(3)本发明提出了分段注意力机制，它有效的整合了时序信息，减少了原始数据稀疏性带来的影响，增强了模型鲁棒性；
45、(4)本发明提出了基于分段数据的双重注意力机制，同时考虑了时序注意力和通道注意力。
1.一种基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，包括以下步骤：
2.根据权利要求1所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(1)中，基于迷宫任务获取大脑神经元锋电位数据；
3.根据权利要求1所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(1)中，所述的预处理是依据实验刺激时间将多通道锋电位时间序列转为刺激周围尖锋计数矩阵；具体如下：
4.根据权利要求1所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(1)中，将数据划分为训练集、验证集和测试集具体为：
5.根据权利要求1所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(2)中，平稳化-去平稳化框架用于对输入的在时间维度t进行归一化得到同时保留输入的均值μ和方差σ用于预测；se表示第e次实验的尖锋计数矩阵，表示t行c列的实数矩阵集合，c表示通道数；
6.根据权利要求5所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(2)中，时序嵌入层包含一个全连接层f1:p→d，位置编码层包含一个可学习的位置编码参数矩阵经过时序嵌入层和位置编码层，得到：
7.根据权利要求6所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(2)中，编码器包含多个双重注意力编码模块，作为双重注意力编码模块的输入，首先计算基于序列的注意力，接着计算基于通道的注意力；最后将将两个注意力的输出求和并进行归一化，在随机丢弃一定比例的参数后再加上残差链接；
8.根据权利要求1所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(3)中，使用通道独立的二元交叉熵损失，其计算方式为：
9.根据权利要求1所述的基于双重自注意力机制的大脑神经元锋电位序列特征提取方法，其特征在于，步骤(4)中，使用每尖锋比特数对模型进行评估，指的是将预测的神经元发放速率矩阵与真实的尖锋计数矩阵进行比较，比较策略是：
