1.一种改进贝叶斯优化的LightGBM故障诊断方法,其特征在于包括以下步骤:
1)确定LightGBM模型需要优化的超参数及超参数取值范围;
2)对贝叶斯优化算法进行改进,得到改进贝叶斯优化算法GP‑ProbHedge;
步骤2)的对贝叶斯优化算法进行改进的步骤如下:
2.1)高斯过程改进:采用多策略组合形式的协方差函数用来同时捕捉目标函数的平滑性和振幅,协方差函数如式(1)所示:其中,r=|λ‑λ′|,λ表示当前评估点,λ′表示下一个评估点,l为协方差函数的超参数,属于Matérn协方差函数簇,用来捕捉目标函数的波动情况;
用来捕捉目标函数的长期变化趋势,ρ1以及ρ2分别为式中两项的系数,用来表示相应组合形式的协方差函数偏向于捕捉目标整体趋势或周期性;
超参数采用最大化边际似然的方法得到最优,具体如下:把式中ρ1以及ρ2作为超参数,则此组合形式的协方差函数中涉及到的超参数θ={ρ1,ρ2,l}通过最大化边际似然来优化,其log形式的边际似然如式(2)所示:其中:y表示历史观测值,σn表示方差,I表示单位矩阵,k表示协方差函数,p表示概率;通过梯度下降方法来最大化上述边际似然,得到对θ的一个最优估计,使用最优的θ来更新高斯模型,便于下一步的迭代搜索最佳评估点;
2.2)采集函数改进:在贝叶斯优化算法GP‑Hedge的基础上进行改进,得到改进后的采集函数GP‑ProbHedge,所述采集函数在第t步迭代时,计算每种采集函数的最大值得到对应的候选点,并从所有候选点中选取最优的点,把每种采集函数的候选点与其有效概率相结合,把 作为最佳评估点,式中N表示采集函数个数;
具体过程如下:首先设置参数η及初始累计收益 然后根据每个采集函数计算对应的i i
候选点λt,同时根据初始累计收益 计算对应的有效概率pt(j),根据λt、pt(j)及最终评估点的计算公式计算得到最佳评估点,最后更新原始数据集为Dt以及高斯模型的协方差超参i
数θ,并在更新此时的累计收益gt之后进入下一轮迭代;
2.3)改进贝叶斯优化算法实现,包括如下计算步骤:步骤2.3.1)根据提出的采集函数GP‑ProbHedge计算方式,以及初始化5个超参数样本点,得到下一个最佳评估点λt;
步骤2.3.2)根据λt及高斯过程计算目标函数值yt;
步骤2.3.3)使用历史样本D1:t‑1及新样本(λt,yt)更新数据集为D1:t;
步骤2.3.4)更新GP模型多策略组合形式协方差函数的超参数θ={ρ1,ρ2,l};
i i
步骤2.3.5)计算当前对应系数rt及总收益gt;
3)使用步骤2)的方法结合五折交叉验证方式选取故障诊断模型最优超参数组合;
4)构建改进贝叶斯优化LightGBM故障诊断模型,并给出模型迭代过程及优化结果。
2.根据权利要求1所述的一种改进贝叶斯优化的LightGBM故障诊断方法,其特征在于步骤1)的确定LightGBM模型需要优化的超参数及超参数取值范围如下:超参数max_depth设定取值范围为区间[1,11];
超参数learning_rate设定取值范围为区间[0.1,0.9];
超参数colsample_bytree设定取值范围为区间[0.1,0.9];
超参数subsample设定取值范围为区间[0.1,0.9];
超参数max_bin设定取值范围为区间[25,150]。
3.根据权利要求1所述的一种改进贝叶斯优化的LightGBM故障诊断方法,其特征在于步骤3)的使用步骤2)方法结合五折交叉验证方式选取故障诊断模型最优超参数组合,所述五折交叉验证方式如下:先把采集的原始数据打乱,然后随机分成五份,依次使用其中的四份数据来训练模型,用剩下的一份数据作为验证集,来检测故障诊断模型的识别分类准确度,最后取在验证集上得到的五份准确度的平均值来评估该模型在故障问题上的诊断性能。
4.根据权利要求1所述的一种改进贝叶斯优化的LightGBM故障诊断方法,其特征在于步骤4)的构建改进贝叶斯优化LightGBM故障诊断模型,并给出模型迭代过程及优化结果,具体过程如下:
首先根据LightGBM故障诊断模型确定需要优化的超参数,然后设定每个超参数的取值范围,使用改进贝叶斯优化方法并五折交叉验证方式选取最优超参数组合,得到对应的改进贝叶斯优化LightGBM故障诊断模型,并记录模型迭代过程及优化结果。