欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2022107245451
申请人: 沈阳建筑大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2024-02-28
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.基于深度学习的多元时间序列趋势预测方法,其特征在于,包括以下步骤:步骤一、读取多元时间序列数据,对多元时间序列数据进行预处理,经过预处理的多元时间序列数据,通过卷积神经网络模型CNN捕获多元时间序列的局部特征,获取数据之间的相关性;

步骤二、将卷积神经网络模型CNN的输出特征向量输入到GRU门控循环单元神经网络模型中,捕获数据的长短期趋势;

步骤三、将卷积神经网络模型CNN的输出特征向量输入到循环双阶注意力层获取数据的动态周期特性;

步骤四、①将步骤一经过数据预处理的多元时间序列数据采用线性模型ARIMA进行处理;

②对步骤二GRU门控循环单元神经网络模型输出的数据和步骤三经过循环双阶注意力层处理后的数据通过全连接层进行全连接处理;

③将步骤①和步骤②处理得到的数据进行预测结果加和,同时判断模型是否达到了设置的训练次数,若达到训练次数,输出最优预测模型,否则返回卷积神经网络模型CNN继续训练;

步骤五、设置阈值,把步骤四得到的最优预测模型的预测结果数据与设置的阈值进行比较,若超过设定阈值,数据标红并给出检修预警提示信息,完成预警工作后结束,否则正常结束。

2.如权利要求1所述的基于深度学习的多元时间序列趋势预测方法,其特征在于,所述步骤一中的卷积神经网络模型CNN依次包括输入层、第一卷积层和第二卷积层,其中,输入层为二维矩阵,二维矩阵高度为多元时间序列的元数,宽度是多元时间序列的时间长短;所述第一卷积层为纵向卷积层,第二卷积层为横向卷积层。

3.如权利要求2所述的基于深度学习的多元时间序列趋势预测方法,其特征在于,所述第一卷积层用于提取多元时间序列数据变量的自相关特征,第一卷积层使用多个滤波器,然后把多个滤波器扫过输入层的二维矩阵得到的多张二维特征图,通过线性加权计算得到一张二维特征图;所述第二卷积层用于提取多元时间序列数据变量间的互相关特征,第二卷积层使用多个滤波器,激活函数使用RELU函数,经第二卷积层输出特征向量,第一卷积层和第二卷积层提取多元时间序列的自相关特征及互相关特征的具体计算公式为:式(1)中,ym是在第一卷积层中第m个过滤器的权值与输入的多元时间序列数据Xt卷积计算后得到的特征图值,*为卷积运算,Wm为第m列的权值,Xt是输入的多元时间序列数据,bm为第一卷积层的偏置;

是经过线性加权计算操作之后在i行j列的特征图值,Fc为第一卷积层的过滤器数量;ωm是线性加权计算时使用的权值;

hn是第二卷积层中隐藏层第n个过滤器权值与第i行j列的 卷积计算后得到的一维特征向量,Wn为第二卷积层的第n列的权值,bn为第二卷积层的偏置;

max()为最大值函数;

RELU()为激活函数;

其中hn作为GRU门控循环单元网络模型和循环双阶注意力层的输入。

4.如权利要求1所述的基于深度学习的多元时间序列趋势预测方法,其特征在于,所述步骤二中GRU门控循环单元神经网络模型隐藏层的具体计算公式为:式(2)中,·是矩阵点乘运算,σ是sigmoid激活函数,xt是当前t时刻输入的经第二层卷积层输出的一维特征向量hn;

Wxr、br分别为GRU门控循环单元神经网络模型中重置门当前t时刻输入数据使用的权值矩阵和偏置值;

Whr、Whu、Whc分别为t‑1时刻输出矩阵ht‑1重置门、更新门和记忆单元分别使用的权值矩阵;

Wxu、bu分别为GRU门控循环单元神经网络模型中更新门当前t时刻输入数据使用的权值矩阵和偏置值;

Wxc、bc分别为GRU门控循环单元神经网络模型中记忆单元当前t时刻输入数据使用的权值矩阵和偏置值;

ut是当前t时刻的更新门,使用sigmoid函数来指明历史信息是否需要更新;

ct'是当前t时刻得到的新的记忆值,rt是当前t时刻的重置门,使用sigmoid函数来指明历史信息是否需要重置;

ht是当前t时刻GRU门控循环单元神经网络模型经过更新和重置后的输出神经元状态;

tanh()为更新激活函数;

步骤三的具体计算过程为:

首先计算当前t时刻GRU门控循环单元神经网络模型经过更新和重置后的神经元状态ht与第i时刻历史记忆神经元状态hi的相似值si,然后将相似值si通过softmax函数转换成相应的概率数值αi,最后将之前记忆的历史记忆神经元状态hi与概率数值αi进行加权求和运算,得到循环双阶注意力层的输出向量ct;计算公式如下:式(3)中,si是当前t时刻GRU门控循环单元神经网络模型经过更新和重置后的神经元状T态ht与第i时刻历史记忆神经元状态hi的注意力得分;Wd、Ud均为模型训练的q阶方阵,v为q×1的参数矩阵,q是需要初始化的神经元个数;

αi是将si通过softmax函数转换成相应的概率数值;

p为需要记忆的历史信息条数;

ct为循环双阶注意力层的输出向量,ct中包含当前t时刻时间序列的动态周期特性。

5.如权利要求1所述的基于深度学习的多元时间序列趋势预测方法,其特征在于,所述步骤四的计算公式如下:式(4)中, 代表使用的线性统计模型ARIMA的输出的多元时间序列预测值,Wi、b分别表示在线性统计模型ARIMA中使用的权值矩阵和偏置值,yt‑i表示在第t‑i时刻的传输的多元时间序列数据,window表示线性统计模型ARIMA使用的滑动窗口值;

为GRU门控循环单元神经网络模型及循环双阶注意力层全连接处理后作为当前时R S刻非线性神经网络的预测输出值,W、W分别是与GRU门控循环单元网络模型当前t时刻记忆的神经元状态 和循环双阶注意力层输出向量ct进行全连接运算分别使用的权值矩阵,bi为全连接层使用的偏置值;

为当前t时刻最优预测模型的预测结果。

6.一种基于深度学习的多元时间序列趋势预测系统,用于执行如权利要求1‑5中任意一项所述的基于深度学习的多元时间序列趋势预测方法。