(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211233677.0 (22)申请日 2022.10.10 (71)申请人 上海交通大 学深圳研究院 地址 518000 广东省深圳市粤海街道高新 区南区虚拟大 学园楼B202 申请人 上海交通大 学　杭州电子科技大 学 (72)发明人 蒋炜　张忠良　郑志强　费秦君　 (74)专利代理 机构 上海锻创知识产权代理有限 公司 314 48 专利代理师 陈少凌 (51)Int.Cl. G06N 20/00(2019.01) G06Q 40/00(2012.01) G06Q 30/06(2012.01) (54)发明名称 基于公平性和信誉机制的联邦学习系统及 方法 (57)摘要 本发明提供了一种基于公平性和信誉机制 的联邦学习系统及方法， 包括： 发布训练任务信 息， 接受参与方基于所述训练任务信息提交的报 价信息并创建对应的数据库； 计算参与方的公平 性和信誉的效用值； 获得被选择的参与方集合； 发送全局模 型给所述被选择的参与方， 所述被选 择的参与方本地训练后生 成新一轮的模型； 对所 述模型进行聚合得到新一轮全局模 型； 验证所述 新一轮的模型性能同时更新所述模型对应的参 与方数据库中的记录信息， 并反馈所述参与方对 应的报价报酬； 直至全局模型达到预期效果或联 邦学习达到预定轮数。 本发明中联邦学习参与方 选择是一个动态的多轮过程， 提升了联邦学习系 统的安全性、 稳定性和高效性。 权利要求书5页 说明书13页 附图5页 CN 115511102 A 2022.12.23 CN 115511102 A 1.一种基于公平性和信誉机制的联邦学习方法， 其特 征在于， 包括： 步骤S1： 发布训练任务信息， 接受参与方基于所述训练任务信息提交的报价信息并创 建对应的数据库； 步骤S2： 根据所述数据库中的记录信息， 计算 参与方的公平性效用值和信誉效用值； 步骤S3： 根据所述公平性效用值和信誉效用值， 获得被选择的参与方的集 合； 步骤S4： 发送全局模型给所述被选择的参与方， 所述被选择的参与方本地训练后生成 新一轮的上传模型； 步骤S5： 对所述 新一轮的上传模型进行聚合得到新 一轮全局模型； 步骤S6： 验证所述新一轮的上传模型性能， 同时更新所述上传模型对应的参与方数据 库中的记录信息， 并根据报价信息反馈所述 参与方对应的报酬； 重复步骤S2至S6， 直至全局模型达 到预期效果或联邦学习达 到预定轮数。 2.根据权利要求1所述的基于公平性和信誉机制的联邦学习方法， 其特征在于， 所述任 务信息包括训练要求与每 轮预算； 所述报价信息为完成一轮联邦学习任务所需的报酬； 在联邦学习第 一轮开始前， 初始化数据库中的记录信息为0， 每一轮结束时更新所述数 据库中的记录信息 。 3.根据权利要求1所述的基于公平性和信誉机制的联邦学习方法， 其特征在于， 所述数 据库中的记录信息包括： 响应任务的参与方的公平性分数、 信誉值； 步骤S2还 包括： 步骤S2.1： 服 务方根据公平性效用评分机制对公平性效用值进行计算， 计算方法如下： 其中， g(fair(ci))表示参与方ci的公平性效用值， fair(ci)表示数据库中记录的参与 方ci的公平性分数， ci表示第i个参与方， K表 示参与方的数量； e表 示自然底数； cj表示第j个 参与方； 步骤S2.2： 服 务方根据信誉效用评分机制对信誉效用值进行计算， 计算方法如下： 其中， h(r(ci))表示参与方ci的信誉效用值， r(ci)表示数据库中记 录的参与方ci的信誉 值， z(r(ci))表示参与方ci的信誉价 值函数,信誉价 值函数z(r(ci))如下： 其中， 表示所有参与方的信誉均值， α 、 β 和γ表示可调的参数。 4.根据权利要求1所述的基于公平性和信誉机制的联邦学习方法， 其特征在于， 在所述 步骤S3中， 根据所述 公平性效用值和信誉效用值， 构建联邦学习参与方选择优化模 型， 通过 所述联邦学习参与方选择优化模型获得被选择的参与方的集 合；权　利　要　求　书 1/5 页 2 CN 115511102 A 2所述构建联邦学习参与方选择优化模型， 包括： 满足如下 条件： 其中， bi表示参与方ci的报价， B表示一轮联邦学习的预算， N表示参与报价联邦学习的 参与方总数量， xi表示候选参与方ci是否被选择参与本轮联邦学习， xi＝0时表示未被选择 参与本轮联邦学习， xi＝1时表示被选择参与 本轮联邦学习， 本轮参与方的选择在总预算内 进行构建， 公式如下： 其中， wf表示效用权 重系数， 取值 为0≤wf≤1。 5.根据权利要求1所述的基于公平性和信誉机制的联邦学习方法， 其特征在于， 步骤S6 还包括： 步骤S6.1： 服务方通过拥有 的验证集对上传模型的公平性进行评估， 根据评估结果更 新数据库中记录的参与方的公平 性分数； 采用公平 性指标Equalopportunity作为公平 性分 数计算标准， 计算公式如下： 其中， EOD表示上传模型的公平性得分， 表示预测标签， Xs表示受保护属性， Y表示真实 标签,Pr表示占比； 计算本轮 被选择参与方 上传模型的公平性分数EOD并更新 参与方的公平性分数： 其中， 表示被选择的参与方的集合， EODi表示被选择参与方ci的上传模型的公平性得 分； 步骤S6.2： 服务方根据夏普利值Shapleyvalue确定本轮被选择参与方对本轮全局模型 预测性能的贡献度， 计算公式如下： 其中， svi表示参与方ci的夏普利值S hapleyvalue， 表示集合 除去参与方ci后的真子 集， v(·)表示括号内参与方集合组成的联盟进行模型聚合得到的全局模型在验证集上 的 AUC得分； 步骤S6.3： 确定信誉更新系数， 计算方式如下： 权　利　要　求　书 2/5 页 3 CN 115511102 A 3