1.一种基于正则化注意力卷积神经网络的示功图识别方法,其特征在于:步骤一、建立数据预处理模块,对抽油机的工况样本集进行量纲和灰度图处理;
(1)为保证样本集中每个示功图的量纲一致,抽油机工况样本集在数据筛选和处理过程中,进行数据归一化处理,x和y分别为抽油机驴头运动的原始位移和载荷,归一化后的位移 和载荷 为:
其中xmax和xmin分别为某抽油机的最大和最小位移,ymax和ymin为最大和最小载荷;
(2)根据位移和载荷的时间序列数据,利用计算机绘制示功图的轮廓曲线,并将其转换成224×224像素的灰度图;
步骤二、建立正则化注意力卷积模块,对自主学习的卷积特征进行加强、抑制和失活;
正则化注意力卷积模块包括两种机制,一种是注意力机制,加强模型的特征提取能力,通过通道的特征加权方式,使模型在学习训练过程中重点关注那些对示功图类别有明显相关性的特征;另外一种是正则化机制,通过建立通道的丢弃方式,加强模型在后期使用时的泛化能力;
构建正则化注意力卷积模块的过程:某个卷积层的输出特征图为U=[u1,u2,…,uC], C为通道数,H和W分别为通道的高和宽,经过正则化注意力卷积模块后,新的特征图记为X=[x1,x2,…,xC],具体计算过程如下:
(1)通道聚合
首先沿着通道方向,压缩特征图中每个通道的空间维度,分别使用最大、平均、随机三种全局池化聚合每个通道ui到通道注意力分量smax、smean、ssto中,其中注意力掩码分量中的第c个元素为:
其中pc(i,j)表示通道中某个元素的选择概率,按如下公式计算;
(2)通道注意力
将通道注意力分量smax、smean和ssto,分别输入到单隐层神经网络,通过权值和通道注意力分量的逐点相乘、累加和激活函数完成聚合,因此,特征图U的通道注意力s=[s1,s2,…,sC]的定义如下:
s=σ(w1δ(w0smax)+w1δ(w0smean)+w1δ(w0ssto))其中σ是sigmoid函数,δ是ReLu函数,w0和w1为单隐层神经网络的权值,这些权重对于两个通道注意力掩码分量是共享的;
(3)通道正则化
根据通道注意力s=[s1,s2,…,sC]构建通道注意力掩码m=[m1,m2,…,mC],其中掩码mi是用来标识某通道是是否被激活, 表示第i个通道注意力的归一化值,每个通道被选择的概率定义为:
rand(0,1)
使用e 表示通道的随机注意力,通道的随机选择概率表示为 如果某通道选择概率pi大于该随机选择概率,通道被激活,否则失活,即通道的选择概率越大,通道越容易被激活,因此掩码mi可定义为:(4)正则化通道注意力特征图
根据通道注意力s和通道注意力掩码m=[m1,m2,…,mC],在原始特征图U的基础上,构建正则化通道注意力特征图 具体定义为:其中 代表逐点相乘;
步骤三、将正则化注意力卷积模块嵌入到卷积神经网络中,形成正则化注意力卷积神经网络RA‑CNN;
(1)采用VGG‑16卷积神经网络作为基础模型,在每两个连续的卷积层中嵌入正则化注意力卷积模块,正则化注意力卷积模块不改变原始特征图的尺寸,并且为原始特征图增加了通道注意力和正则化机制;
(2)正则化注意力卷积神经网络RA‑CNN共5个卷积层、5个池化层、4个正则化注意力卷积模块;
(3)每个卷积层使用的卷积核尺寸、步长和填充大小分别为3×3,1和1;
步骤四、建立示功图识别模块,将示功图的灰度图像输入到正则化注意力卷积神经网络RA‑CNN中识别;
(1)尺寸为224×224示功图的灰度图,分别经过每个卷积层、正则化注意力卷积模块和池化层,完成特征的自动抽取;记某个卷积层、池化层和正则化注意力卷积模块和池化层为一个卷积单元,则第1个卷积单元的输出维度是112×112×128,第2个卷积单元的输出维度是56×56×256,第3个卷积单元的输出维度是28×28×512,第4个卷积单元的输出维度是
14×14×512,第5个卷积单元的输出维度是7×7×512;
(2)将最后一个卷积单元的输出向量展平,输入给全连接神经网络,进行示功图的种类识别;
(3)RA‑CNN中的全连接神经网络的输入是7×7×512,隐层是4096个节点,输出是10个节点,其中每个输出节点代表一种工况;真实示功图样本标签使用hot‑one编码;
步骤五、建立注意力损失函数,训练正则化注意力卷积神经网络模型RA‑CNN;
根据每个样本对训练损失的贡献来调节样本权重,使正则化注意力卷积神经网络模型RA‑CNN在训练过程中注意那些容易错分的样本,忽略那些对损失贡献较小、容易识别正确的样本,注意力损失函数为:
其中,yj和 分别表示第j类示功图样本的真实类别和模型识别概率,T表示示功图类别数目, 是示功图样本的损失调节系数;
步骤六、将实时采集到的抽油机工况数据,输入到训练好的示功图识别模型中,进行识别;
步骤七、以基于RA‑CNN的示功图识别方法为核心,构建抽油机工况的智能诊断系统;
(1)以基于正则化注意力卷积神经网络的示功图识别方法为核心,构建抽油机工况智能诊断系统,该系统具有短信和邮件发送模块;
(2)利用抽油机工况智能诊断系统对于抽油机的示功图进行实时分析识别,若有故障工况发生,通过邮件和短信的形式将诊断结果推送给管理人员,及时采取措施处理发生故障的油井。