1.一种改进的脉冲深度神经网络的图像分类方法,由下述步骤组成:
(1)图像预处理
应用DOG层和简化脉冲耦合神经网络对图像进行预处理,具体步骤如下:
(a)将图像归一化至160像素×250像素并进行灰度化;
(b)生成DOG层高斯滤波器
式中filt为DOG层的高斯滤波器,s1和s2为高斯滤波器的标准差,x为一个n×n的矩阵,其中每一行元素为1~n按顺序排列的数字,0<n<图像行数和列数中的最小值,y为x矩阵的转置,size为DOG层高斯滤波器像素级别的大小;
(c)DOG层的高斯滤波器与步骤(a)生成的灰度图像Image做关联操作生成对比度图像img式中imgij为图像img第i行第j列的像素值,filtkl为步骤(b)中DOG层的高斯滤波器第k行第l列的值, 为灰度图像Image第 行、第 列的像素值;
(d)对步骤(c)生成的对比度图像进行阈值提取得到单通道对比度图像并归一化处理式(3)中img1ij为单通道对比度图像第i行第j列的像素值,式(4)将单通道对比度图像的像素范围归一化至0~255之间,式中ymax=255,ymin=0,img1为阈值提取后的对比度图像,img1max、img1min分别为阈值提取后的对比度图像中像素的最大值和最小值,img1'为经过归一化处理的阈值提取后的图像;
(e)图像img1'进入简化的脉冲耦合神经网络生成时间序列脉冲图
简化的脉冲耦合神经网络模型为:
式(5)中Uij[t]为t时刻神经元ij的内部活动值,af内部活动值的衰减时间常数,Uij[t‑
1]为t‑1时刻神经元ij的内部活动值,img1ij'为外部激励值即图像img1'第i行第j列的像素值,β为内部活动项的连接系数,VL为耦合连接域的放大系数,Wijkl为耦合连接域的连接矩阵,Ykl[t‑1]为t‑1时刻神经元kl的输出脉冲;式(6)Yij[t]为t时刻神经元ij的输出脉冲,Eij[t‑1]为t‑1时刻神经元ij的阈值;式(7)中Eij[t]为t时刻神经元ij的阈值,Eij[t‑1]为t‑1时刻神经元ij的阈值,VE和ae分别为阈值E的放大系数和衰减时间常数;
(2)构建脉冲深度神经网络结构
脉冲深度神经网络结构为:输入层(1)是400张大小为160像素×250像素的训练样本图像,输入层(1)后连接DOG层(2)生成二维对比度图,DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成三维的时间序列脉冲图像,简化的脉冲耦合神经网络层(3)后连接含有4个特征图的卷积层(4),含有4个特征图的卷积层(4)后连接含有4个特征图的池化层(5),含有4个特征图的池化层(5)后接含有20个特征图的卷积层(4),含有20个特征图的卷积层(4)后连接含有20个特征图的池化层(5),含有20个特征图的池化层(5)后连接含有10个特征图的卷积层(4),含有10个特征图的卷积层(4)后连接含有10个特征图的全局最大池化层(6);
(3)引入激活函数
在每个卷积层(4)后引入激活函数为:
式中xr为与前一层输出相连的第r个权重矩阵与当前层输入的内积,即卷积结果,yr为第r个特征图的输出,0≤r≤20,th为卷积层(4)的阈值;
(4)确定池化方法
脉冲深度神经网络中池化层(5)选用最大池化方法或均值池化方法或随机池化方法进行池化;
(5)训练脉冲深度神经网络,具体步骤为:
A1:用均值为0.8,标准差为0.01的正态分布初始化方法分别生成4个、20个、10个权重矩阵;
A2:将400张训练样本图像输入脉冲深度神经网络,取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵,权重更新后退出前向传播,取出下一张图像重复以上的过程,直至达到第一个卷积层(4)的迭代次数;取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重,重复这个过程直到达到第二个卷积层(4)的迭代次数;取出下一张训练图像经过前向传播通过第三个卷积层(4)后同样采用STDP机制更新权重,重复这个过程直至达到第三个卷积层(4)的迭代次数,至此训练过程结束,得到训练好的脉冲深度神经网络;
(6)对测试样本图像进行识别
将396张测试样本图像输入到训练好的脉冲深度神经网络中,对每张经过最后一个卷积层(4)得到的10张特征图进行最大池化操作,最终得到10×396的特征向量进入分类器得到分类结果。
2.根据权利要求1所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(1)的步骤(a)中将图像归一化至28像素×28像素并进行灰度化;所述的步骤(1)的步骤(d)中将步骤(c)生成的对比度图像进行阈值提取得到具有两个通道的对比度图像并归一化处理式(9)中img1(:,:,1)为第一通道对比度图像,式(10)中img1(:,:,2)为第二通道对比度图像,式(11)将具有两个通道的对比度图像的像素范围归一化至0~255之间,式中ymax=
255,ymin=0,img1为阈值提取后的图像,img1max,img1min分别为阈值提取后的图像中像素的最大值和最小值,图像img1'为经过归一化处理的阈值提取后的图像;
所述的步骤(2)中设定脉冲深度神经网络结构:输入层(1)是5000张大小为28像素×28像素的训练样本图像,输入层(1)后连接DOG层(2)生成三维对比度图,DOG层(2)后连接简化的脉冲耦合神经网络层(3)生成四维的时间序列脉冲图像,简化的脉冲耦合神经网络层(3)后连接含有30个特征图的卷积层(4),含有30个特征图的卷积层(4)后连接含有30个特征图的池化层(5),含有30个特征图的池化层(5)后接含有100个特征图的卷积层(4),含有100个特征图的卷积层(4)后连接含有100个特征图的全局最大池化层(6);
所述的步骤(3)中0<r<100;
所述的步骤(5)的步骤A1中用均值为0.8,标准差为0.01的正态分布初始化方法分别生成30个、100个权重矩阵;步骤A2中将5000张训练样本图像输入脉冲深度神经网络,取出一张图像经过前向传播通过第一个卷积层(4)后采用STDP权重修改机制更新权重矩阵,权重更新后退出前向传播,取出下一张图像重复以上的过程,直至达到第一个卷积层(4)的迭代次数;取出下一张训练图像经过前向传播通过第二个卷积层(4)后同样采用STDP机制更新权重,重复这个过程直到达到第二个卷积层(4)的迭代次数,至此训练过程结束,得到训练好的脉冲深度神经网络;
所述的步骤(6)中将10000张测试样本图像输入到训练好的脉冲深度神经网络中,对每张经过最后一个卷积层(4)得到的100张特征图进行最大池化操作,最终得到10×10000的特征向量进入分类器得到分类结果。
3.根据权利要求1或2所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(1)的步骤(e)中简化的脉冲耦合神经网络中参数af、β、VL、VE和ae的自适应生成方法为:式中μ为图像img1'的像素值均值,N,M分别为图像img1'的行数和列数,xij为图像img1'中第i行第j列像素的像素值;
式中Smax为图像img1'中最大的像素值,w0为前景点数占图像点数的比例,u0为前景的平均灰度,w1背景点数占图像点数的比例,u1为背景的平均灰度,a为常系数;
‑af
VE=e +1+6βVL (14)
4.根据权利要求1或2所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(5)中STDP权重更新机制如下:
式中g和h分别表示突触后神经元和突触前神经元,tg和th分别对应突触后神经元和突+触前神经元的脉冲时间,Δwgh为连接突触后神经元g和突触前神经元h权重的修改值,a 和‑a为学习率,wgh为连接突触后神经元g和突触前神经元h的权重。
5.根据权利要求3所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的常系数α为1~1.8,ae的取值如下:式中int()为向下取整。
6.根据权利要求1所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(2)中卷积层(4)滤波器像素级的大小分别为5×5、17×17、5×5,池化层(5)滤波器像素级的大小分别为7×7和2×2,步长分别为6和2;所述的步骤(3)中卷积层(4)中激活函数的阈值th分别为10、60、2。
7.根据权利要求1所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(5)中脉冲深度神经网络中卷积层(4)的迭代次数分别为2000、4000、4000。
8.根据权利要求2所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(2)中卷积层(4)滤波器像素级的大小分别为5×5、5×5,池化层(5)滤波器像素级的大小为2×2,步长为2;所述的步骤(3)中卷积层(4)中激活函数的阈值th分别为15和10。
9.根据权利要求2所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:所述的步骤(5)中,脉冲深度神经网络中卷积层(4)的迭代次数分别为3000和6000。
10.根据权利要求4所述的改进的脉冲深度神经网络的图像分类方法,其特征在于:学+ ‑习率a在卷积层(4)中的值分别为0.004,0.0004和0.0004,学习率a在卷积层(4)中的值分别为0.003,0.0003和0.0003。