欢迎来到知嘟嘟! 联系电话:13095918853 卖家免费入驻,海量在线求购! 卖家免费入驻,海量在线求购!
知嘟嘟
我要发布
联系电话:13095918853
知嘟嘟经纪人
收藏
专利号: 2020103442042
申请人: 浙江工业大学
专利类型:发明专利
专利状态:已下证
专利领域: 计算;推算;计数
更新日期:2023-12-11
缴费截止日期: 暂无
价格&联系人
年费信息
委托购买

摘要:

权利要求书:

1.一种基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,实现所述防御方法的系统包括一个服务器和K个终端,所述防御方法包括:(1)为服务器配置图像数据集Dglobal、验证图像数据集Dval以及共享图像数据集Dshare,利用所述图像数据集Dglobal训练初始化一个模型Gt;为每个终端配置一个本地图像数据集Dlocal;

(2)将所述当前模型Gt和所述共享图像数据集Dshare发送至每个终端,t表示当前迭代次数;

(3)选择F个终端以模型Gt为基础,利用本地图像数据集Dlocal和共享图像数据集Dshare中的训练图像样本对初始化模型Gt进行训练以更新模型参数,获得模型参数更新后的模型再利用共享图像数据集Dshare中的测试图像样本对模型 进行训练阶段的第一轮信用评估,获得第一轮信用评估结果,其中,F≤K,K为大于2的自然数,i为模型索引,i∈F;

(4)将F个模型 上传到服务器,计算模型 与其他模型 之间的L2范数,对L2范数进行统计以完成上传阶段的第二轮信用评估,获得第二轮信用评估结果,其中,m∈F且m不等于i;

(5)服务器将F个模型 与模型Gt聚合成模型 利用验证图像数据集Dval对模型进行验证以完成聚合阶段的第三轮信用评估,获得第三轮信用评估结果;

(6)根据第一轮信用评估结果、第二轮信用评估结果以及第三轮信用评估结果统计F个模型 的综合信用评估结果,根据综合信用评估结果筛选小于综合信用评估阈值的L个模型 进行聚合获得模型Gt+1,利用图像数据集Dglobal和共享图像数据集Dshare对模型Gt+1训练一定次数后,跳转执行步骤(2),其中L≤F。

2.如权利要求1所述的基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,步骤(3)中,第一轮信用评估的过程为:首先,采用公式(1)计算第一轮信用评估值:

i

其中,r 为第一轮信用评估值,{xjs,yjs}是共享图像数据集Dshare的第j个图像样本和对应标签, 表示图像样本xjs在模型 的输出值,f(xjs;Gt)表示图像样本xjs在模型Gt的输出值, 表示判断图像样本xjs在模型 的输出值是否与标签yjs相同,C(f(xjs;Gt),yjs)表示判断图像样本xjs在模型Gt的输出值是否与标签yjs相同,sum(·)表示求和;

i i

然后,比较第一轮信用评估值r 与阈值γt,当第一轮信用评估值r大于阈值γt的模型i i给予较高的评价,对第一轮信用评估值r 小于阈值γt的模型的第一轮信用评估值r清零,i并将获得较高评价的模型的第一轮信用评估值r 与信用参数α的乘积作为第一轮信用评估结果。

3.如权利要求1所述的基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,步骤(4)中,第二轮信用评估的过程为:首先,计算模型 与其他模型 之间的L2范数,并依据所述L2范数值根据公式(2)i确定L2范数的范围R;

其中, 表示模型 的模型参数, 表示模型 的模型参数, 表示模型参数 与模型参数 之间的L2范数,i∈F\m表示i属于F但不等于m;

然后,根据公式(3)计算第二轮信用评估值:

i i

其中,κ 表示第二轮信用评估值, 为范围R 的上限,i

为范围R 的下限, 表示其他模型 对应

m m

范围R的下限, 表示其他模型 对应范围R的上限,m∈[F\i]表示m属于F但等于i;

i i

最后,比较第二轮信用评估值κ与阈值κt,当第二轮信用评估值κ大于阈值κt的模型给i i予较高的评价,对第二轮信用评估值κ小于阈值κt的模型的第二轮信用评估值κ清零,并将i获得较高评价的模型的第二轮信用评估值κ与信用参数β的比值作为第二轮信用评估结果。

4.如权利要求1所述的基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,步骤(5)中,第三轮信用评估的过程为:首先,采用公式(4)计算第三轮信用评估值:

i

其中,δ为第三轮信用评估值,{xjv,yjv}是验证图像数据集Dval的第j个图像样本和对应标签, 表示图像样本xjv在模型 的输出值,f(xjv;Gt)表示图像样本xjv在模型Gt的输出值, 表示判断图像样本xjv在模型 的输出值是否与标签yjv相同,C(f(xjv;Gt),yjv)表示判断图像样本xjv在模型Gt的输出值是否与标签yjv相同,sum(·)表示求和;

i i

然后,比较第三轮信用评估值δ与阈值δt,当第三轮信用评估值δ大于阈值δt的模型给i i予较高的评价,对第三轮信用评估值δ小于阈值δt的模型的第三轮信用评估值δ清零,并将i获得较高评价的模型的第三轮信用评估值δ与信用参数η的乘积作为第三轮信用评估结果。

5.如权利要求1所述的基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,步骤(5)中,将模型 的模型参数与模型Gt的模型参数合并组成模型 的模型参数以获得模型

6.如权利要求1所述的基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,步骤(6)中,将模型 的第一轮信用评估结果、第二轮信用评估结果以及第三轮信用评估结果相加获得模型 的综合评价结果。

7.如权利要求1所述的基于信用评估的面向联邦学习中毒攻击的防御方法,其特征在于,步骤(6)中,综合信用评估结果筛选小于综合信用评估阈值的L个模型 的模型参数与模型Gt的模型参数合并组成模型Gt+1的模型参数以获得模型Gt+1。