1.基于注意力机制的多时间尺度卷积神经网络软测量方法,其特征在于:该方法内容包括以下步骤:
步骤1、确定辅助变量并且进行数据处理通过对工业工艺流程的分析,初步选取与难测参量相关的易测变量作为软测量模型的辅助变量并采集辅助变量与难测参量的时间序列;
然后采用3σ准则对采集到的时间序列中的异常值进行剔除,并且在训练前对数据进行归一化处理;
步骤2、注意力机制及关注区域的选择采取硬注意力机制,根据工艺流程中各辅助变量相对于难测参量的时延和有效时间尺度划分出关注区域;
通过对具体工业工艺流程的分析并结合专家经验,判断各辅助变量相对于难测参量的时延参数;根据各辅助变量在工艺流程中作用的时间长短来确定各个辅助变量的时间尺度,由此构建出各辅助变量时间序列中的关注区域;
具体方法为:
设某一采样频率为fi的某辅助变量样本数据在难测参量采样间隔T内的全部时间序列为xi(k)=(xi(0),…,xi(Ni‑1)),Ni为该辅助变量时间序列的长度;由经验得到的该辅助变量相对于难测参量的时延范围为Tdimin~Tdimax,作用时长范围为Tsimin~Tsimax,则该辅助变量的关注区域内的时间范围 为:则该辅助变量时间关注区域内的时间序列 为:步骤3、构建软测量模型的输入将各辅助变量的时间序列构成矩阵,并结合注意力机制的关注区域确定软测量模型的输入;
步骤4、建立时序卷积神经网络软测量模型确定时序卷积神经网络模型的初始参数,并对网络进行前向训练;其中初始参数包括时序卷积神经网络的卷积层数和池化层数,学习率,各隐层、全连接层以及输出层的权值w和偏置b,卷积核以及池化核的个数及大小;
步骤5、训练时序卷积神经网络软测量模型利用误差反向微调进行有监督训练,通过对误差的修正,优化时序卷积神经网络中的权值w和偏置b;
步骤6、利用步骤5训练好的时序卷积神经网络模型对难测参量进行实时估计。
2.根据权利要求1所述的基于注意力机制的多时间尺度卷积神经网络软测量方法,其特征在于:步骤1中,在采用3σ准则处理数据异常值时,剔除难测参量的异常值;在剔除难测参量异常值的过程中,要剔除该异常值对应的辅助变量的时间序列;
具体方法为:
设难测参量在不同时刻的采样序列为y(k)=(y(0),…,y(N)),对y(k)中的每一个点y(i)进行判断,如果满足式(1),则说明该点为异常点需被剔除,同时应剔除该点对应的各辅助变量数据;
式中,为变量y(k)的均值;σ为变量y(k)的标准差;
将各变量的数据依据式(2)进行Min‑Max标准化处理,转化为无量纲化指标测评值,使各变量数据处于同一数量级别,进行综合测评分析;
式中, 为变量i归一化后的时间序列,ximin为变量xi的最小值,ximax为变量xi的最大值。
3.根据权利要求1所述的基于注意力机制的多时间尺度卷积神经网络软测量方法,其特征在于:步骤3中,将各个辅助变量的原始时间序列以及受关注时间段内的时间序列进行特征压缩,然后将经过特征压缩后的各辅助变量时间序列构成二维输入矩阵作为软测量模型的输入;
具体处理方法为:
3‑1)、特征压缩过程:
(1)辅助变量全部时间序列特征压缩过程:在难测参量采样间隔T内辅助变量的全部时间序列为xi(k)=(xi(0),…,xi(Ni‑1)),特征压缩后的时间序列内数值个数为m,特征压缩后的时间序列为x′i(k)=(x′i(0),……x′i(m‑1));
特征压缩程度li为:
特征压缩过程公式:
(2)辅助变量关注区域内时间序列特征压缩过程:某辅助变量关注区域内的时间序列为 特征压缩后的时间序列内数值个数为n,特征压缩后的时间序列为特征压缩程度 为:
特征压缩过程公式为:
3‑2)、构建软测量模型的输入矩阵:(1)辅助变量的全部时间序列构成的二维输入矩阵为:式中, 分别为由全部时间序列x′0和x′r‑1所构成向量的转置,m为特征压缩后各辅助变量时间序列内含有的数值个数,r为辅助变量的个数;
(2)辅助变量关注区域内时间序列构成的二维输入矩阵为:式中, 分别为由关注区域内时间序列 和 所构成向量的转置,n为特征压缩后各辅助变量关注区域内时间序列的数值个数,r为辅助变量的个数。
4.根据权利要求1所述的基于注意力机制的多时间尺度卷积神经网络软测量方法,其特征在于:步骤4中,软测量模型为多通道卷积神经网络,各通道的卷积层数和池化层数,各隐层、全连接层的权值w和偏置b,卷积核以及池化核的个数及大小可根据各通道的输入数据特征分别设置;各通道采用一维卷积池化方式提取每一列的特征,最后对各通道提取到的特征进行特征融合后输入全连接层;
其中,特征融合的具体方法为:基于注意力机制的多时间尺度卷积神经网络模型对各通道特征的特征融合过程在全连接层完成,特征融合公式为:k‑1
式中,y 为融合后的全连接层, 分别为通道0、通道i和通道n的全连接层,a为全连接层的特征向量对应位置,MAX()为求取特征的最大值。
5.根据权利要求1所述的基于注意力机制的多时间尺度卷积神经网络软测量方法,其特征在于:步骤5中,有监督的反向微调参考BP神经网络中的反向误差修正算法实现逐层优化权值w和偏置b,时序卷积神经网络中的反向训练为有监督训练。