(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111444193.6 (22)申请日 2021.11.30 (71)申请人 北京邮电大 学 地址 100876 北京市海淀区西土城路10号 北京邮电大 学 (72)发明人 杨树杰　许长桥　王明泽　周赞　 马腾超　丁中医　 (74)专利代理 机构 北京路浩知识产权代理有限 公司 11002 代理人 任少瑞 (51)Int.Cl. G06F 21/56(2013.01) G06N 20/00(2019.01) (54)发明名称 分层安全联邦学习方法、 装置、 电子设备及 存储介质 (57)摘要 本发明提供一种分层安全 联邦学习方法、 装 置、 电子设备及存储介质， 其中方法包括： 将全局 模型下发至每个本地用户， 并指示每个所述本地 用户将训练所述全局模型后产生的本地模型发 送至中间层； 获取所述中间层针对每个本地模型 进行匿名处理后产生的用户行为标识及用户行 为分值； 其中， 所述匿名处理包括所述中间层对 每个本地模型进行模型洗牌及添加扰动后产生 匿名模型， 再对所述匿名模型进行异常检测处 理， 得到所述用户行为标识及用户行为分值； 根 据所述用户行为标识及用户行为 分值， 确定恶意 用户并进行封禁。 使用本发明方法通过中间层对 每个本地模型所携带的隐私信息进行匿名保护 及异常检测的方式， 实现提升隐私保护的安全性 和可靠性。 权利要求书3页 说明书13页 附图2页 CN 114398635 A 2022.04.26 CN 114398635 A 1.一种分层安全联邦学习方法， 其特 征在于， 包括： 将全局模型下发至每个本地用户， 并指示每个所述本地用户将训练所述全局模型后产 生的本地模型发送至中间层； 获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标识及用户行为 分值； 其中， 所述匿名处理包括所述中间层对每个本地模型进行模型洗牌及添加扰动后产 生匿名模型， 再对所述匿名模型进行异常检测处理， 得到所述用户行为标识及用户行为分 值； 根据所述用户行为标识及用户行为分值， 确定恶意用户并进行封禁。 2.根据权利要求1所述的分层安全联邦学习方法， 其特征在于， 所述中间层包括至少两 个子中间层时， 所述将全局模型下发至每个本地用户， 并指示每个所述本地用户将训练所 述全局模型后产生的本地模型发送至中间层， 包括： 对所有本地用户进行分组处理， 得到至少两个用户分组及每个用户分组里的至少两个 本地用户； 建立所述用户分组与所述子中间层之间的对应关系； 将全局模型下发至每个所述本地用户时携带接收所述本地用户训练所述全局模型后 产生的本地模型的子中间层标识， 以使得每个所述本地用户将其产生的所述本地模型发送 至对应的子中间层。 3.根据权利要求1所述的分层安全联邦学习方法， 其特征在于， 所述获取所述中间层针 对每个本地模型进行匿名处 理后产生的用户行为标识及用户行为分值， 包括： 获取所述中间层针对每个匿名模型进行异常检测处理后产生的用户行为标识及用户 行为分值； 其中， 所述匿名模型包括各个本地模型进 行模型标识之间洗牌处理、 模型内容之 间洗牌处 理以及添加扰动 后产生的模型。 4.根据权利要求1所述的分层安全联邦学习方法， 其特征在于， 所述根据 所述用户行为 标识及用户行为分值， 确定恶意用户并进行封禁， 包括： 根据所述用户行为标识及用户行为分值对应更新用户分组内每个本地用户的至少两 个用户分值， 得到 至少两个新的用户分值； 当所述至少两个新的用户分值中存在超过预设用户分值阈值的目标用户分值 时， 则确 定所述目标用户分值对应恶意用户， 并对所述恶意用户执 行封禁处 理。 5.根据权利要求4所述的分层安全联邦学习方法， 其特征在于， 在所述根据所述用户行 为标识及用户行为分值对应更新用户分组内每个本地用户的至少两个用户分值， 得到至少 两个新的用户分值的步骤之后， 所述方法还 包括： 基于所述用户行为分值确定对应用户分组中匿名模型的权 重； 根据所述匿名模型的权重进行模型聚合操作， 得到新的全局模型， 然后返回所述将全 局模型下发至每个本地用户， 并指示每个所述本地用户将训练所述全局模 型后产生的本地 模型发送至中间层的步骤执 行下一轮训练； 直至得到 达到预设精度要求且符合收敛 条件的全局模型。 6.根据权利要求5所述的分层安全联邦学习方法， 其特征在于， 在所述直至得到达到预 设精度要求且符合收敛 条件的全局模型的步骤之前， 所述方法还 包括： 确定训练轮数达到M轮时， 根据第M轮训练产生的新的用户行为标识和新的用户行为分权　利　要　求　书 1/3 页 2 CN 114398635 A 2值执行对应用户分值的更新操作后， 得到第M轮的至少两个新的用户分值； 其中， M为正整 数； 判断所述至少两个新的用户分值中是否存在超过 预设用户分值阈值的目标用户分值； 当所述至少两个新的用户分值中存在所述目标用户分值 时， 则确定所述目标用户分值 对应恶意用户， 并对所述恶意用户执 行封禁处 理。 7.根据权利要求5所述的分层安全联邦学习方法， 其特征在于， 所述直至得到达到预设 精度要求且收敛的全局模型， 包括： 确定训练轮数达到N轮时， 对第 N轮训练产生的新的全局模型进行精度测试及收敛性测 试； 其中， N 为正整数； 如果第N轮训练产生的新的全局模型达到预设精度要求且符合预设收敛条件， 则将所 述第N轮训练产生的新的全局模型确定为达 到预设精度要求且收敛的全局模型； 如果第N轮训练产生的新的全局模型未达到预设精度要求和/或不符合预设 收敛条件， 则返回所述将全局模型下发至每个本地用户， 并指示每个所述本地用户将训练所述全局模 型后产生的本地模型发送至中间层的步骤执 行训练。 8.一种分层安全联邦学习系统， 其特征在于， 包括： 中心服务器、 若干本地用户及中间 层； 其中： 所述中心服务器， 用于将全局模型下发至每个本地用户， 并指示每个所述本地用户将 训练所述全局模型后产生的本地模型发送至所述中间层； 所述本地用户， 用于对接收的所述全局模型进行训练产生本地模型， 并将本地模型发 送至所述中间层； 所述中间层， 用于对每个本地模型进行匿名处理后产生用户行为标识及用户行为分 值； 所述匿名处理包括所述中间层 对每个本地模型进 行模型洗牌及添加扰动后产生匿名模 型， 再对所述匿名模型进行异常检测处理， 得到所述用户行为标识及用户行为分值后同步 至所述中心 服务器； 所述中心 服务器， 用于根据所述用户行为标识及用户行为分值， 确定恶 意用户并进行封禁。 9.一种分层安全联邦学习装置， 其特 征在于， 包括： 发送模块， 用于将全局模型下发至每个本地用户， 并指示每个所述本地用户将训练所 述全局模型后产生的本地模型发送至中间层； 获取模块， 用于获取所述中间层针对每个本地模型进行匿名处理后产生的用户行为标 识及用户行为分值； 其中， 所述匿名处理包括所述中间层对每个本地模型进行模型洗牌及 添加扰动后产生匿名模型， 再对所述匿名模型进行异常检测处理， 得到所述用户行为标识 及用户行为分值； 处理模块， 用于根据所述用户行为标识及用户行为分值， 确定恶意用户并进行封禁。 10.一种电子设备， 包括存储器、 处理器及存储在所述存储器上并可在所述处理器上运 行的计算机程序， 其特征在于， 所述处理器执行所述程序时实现如权利要求1至7任一项所 述分层安全联邦学习方法的步骤。 11.一种非暂态计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算 机程序被处 理器执行时实现如权利要求1至7任一项所述分层安全联邦学习方法的步骤。 12.一种计算机程序产品， 包括计算机程序， 其特征在于， 所述计算机程序被处理器执权　利　要　求　书 2/3 页 3 CN 114398635 A 3