(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202211124251.1 (22)申请日 2022.09.15 (65)同一申请的已公布的文献号 申请公布号 CN 115238250 A (43)申请公布日 2022.10.25 (73)专利权人 支付宝 （杭州） 信息技 术有限公司 地址 310000 浙江省杭州市西湖区西溪路 556号8层B段801-1 1 (72)发明人 王维强　吴晓烽　王昊天　 (74)专利代理 机构 北京国昊天诚知识产权代理 有限公司 1 1315 专利代理师 朱文杰 (51)Int.Cl. G06F 21/16(2013.01) G06N 20/00(2019.01)(56)对比文件 CN 111523094 A,2020.08.1 1 CN 114429222 A,2022.05.03 审查员 张莹 (54)发明名称 一种模型的处 理方法、 装置及设备 (57)摘要 本说明书实施例公开了一种模型的处理方 法、 装置及设备， 该方法包括： 基于提示学习的方 式对目标模 型进行模型训练， 并获取训练后的目 标模型中针对需要插入的提示信息确定的第一 模型权重； 获取所述目标模型对应的目标水印信 息， 并基于所述目标水印信息和所述第一模型权 重， 为每个所述第一模型权重生成相应的权重扰 动信息， 其中， 生成的权重扰动信息能够对相应 的第一模型权重进行扰动的程度小于预设阈值； 将生成的权重扰动信息与相应的第一模型权重 进行融合处理， 生成目标模型权重， 并使用所述 目标模型权重替换所述训练后的目标模型中针 对需要插入的提示信息确定的第一模 型权重， 得 到待部署的目标模型， 将待部署的目标模型部署 于相应的业 务中。 权利要求书4页 说明书20页 附图6页 CN 115238250 B 2022.12.27 CN 115238250 B 1.一种模型的处 理方法， 所述方法包括： 基于提示学习的方式对目标模型进行模型训练， 并获取训练后的目标模型中针对需要 插入的提示信息确定的第一模型权 重； 获取所述目标模型对应的目标水印信 息， 并基于所述目标水印信 息和所述第 一模型权 重， 为每个所述第一模型权重生成相应的权重扰动信息， 其中， 生成的权重扰动信息能够对 相应的第一模型权 重进行扰动的程度小于预设阈值； 将生成的权重扰动信息与相应的第一模型权重进行融合处理， 生成目标模型权重， 并 使用所述目标模型权重替换所述训练后的目标模型中针对需要插入的提示信息确定的第 一模型权 重， 得到待部署的目标模型， 将待部署的目标模型部署于相应的业 务中。 2.根据权利要求1所述的方法， 所述基于所述目标水印信 息和所述第 一模型权重， 为每 个所述第一模型权 重生成相应的权 重扰动信息， 包括： 基于所述目标水印信息和所述第一模型权重， 以及所述目标水印信息、 所述第一模型 权重及其相应的噪声信息三者需要满足的预设条件， 为每个所述第一模型权重生成相应的 噪声信息， 将生成的噪声信息作为与每 个所述第一模型权 重相应的权 重扰动信息 。 3.根据权利要求1所述的方法， 所述基于所述目标水印信 息和所述第 一模型权重， 为每 个所述第一模型权 重生成相应的权 重扰动信息， 包括： 获取所述目标模型对应的目标水印信息， 并基于所述目标水印信息， 为每个所述第一 模型权重生成相 应的子水印信息， 对每个子水印信息进行隐私保护处理， 生成与每个所述 第一模型权 重相应的权 重扰动信息 。 4.根据权利要求3所述的方法， 所述对每个子水印信 息进行隐私保护处理， 生成与每个 所述第一模型权 重相应的权 重扰动信息， 包括： 基于每个子水印信 息生成相应的随机噪声信 息， 将生成的随机噪声信 息作为与每个所 述第一模型权 重相应的权 重扰动信息 。 5.根据权利要求1 ‑4中任一项所述的方法， 所述方法还 包括： 对所述权 重扰动信息进行加密处 理， 得到加密后的权 重扰动信息； 所述将生成的权重扰动信息与相应的第一模型权重进行融合处理， 生成目标模型权 重， 包括： 将加密后的权 重扰动信息与相应的第一模型权 重进行融合处 理， 生成目标模型权 重。 6.一种模型的处 理方法， 所述方法包括： 获取目标业务部署的目标模型， 所述目标模型是基于提示学习的方式进行模型训练后 得到； 获取所述目标模型中插入的提示信息对应的第一模型权重和与所述第一模型权重相 应的权重扰动信息， 所述权重扰动信息是基于所述目标模型对应的水印信息和所述第一模 型权重， 为每个所述第一模型权重生成的信息， 所述第一模型权重和所述权重扰动信息是 从所述目标模型对应的目标模型权重中获取 的信息， 其中， 生成的权重扰动信息能够对相 应的第一模型权重进 行扰动的程度小于预设阈值， 所述目标模型权重是基于所述权重扰动 信息与相 应的第一模型权重进行融合处理后得到的用以作为所述目标模型的模型权重的 权重； 如果基于获取的第一模型权重和与所述第一模型权重相应的权重扰动信息确定的水权　利　要　求　书 1/4 页 2 CN 115238250 B 2印信息与所述目标模型对应的目标 水印信息相匹配， 则确定所述目标模型存在泄 露风险。 7.根据权利要求6所述的方法， 所述方法还 包括： 基于所述第 一模型权重和与 所述第一模型权重相应的权重扰动信 息， 以及所述目标水 印信息、 所述第一模型权重和与所述第一模型权重相应的权重扰动信息三者需要满足的预 设条件， 确定所述水印信息 。 8.根据权利要求6所述的方法， 所述方法还 包括： 基于所述第 一模型权重和与 所述第一模型权重相应的权重扰动信 息， 确定每个所述模 型权重对应的子水印信息； 将确定的每 个所述模型权 重对应的子水印信息进行拼接处 理， 得到所述水印信息 。 9.根据权利要求6 ‑8中任一项所述的方法， 所述权 重扰动信息基于噪声信息确定 。 10.一种模型的处 理装置， 所述装置包括： 参数获取模块， 基于提示学习的方式对目标模型进行模型训练， 并获取训练后的目标 模型中针对需要插 入的提示信息确定的第一模型权 重； 扰动确定模块， 获取所述目标模型对应的目标水印信息， 并基于所述目标水印信息和 所述第一模型权重， 为每个所述第一模 型权重生成相应的权重扰动信息， 其中， 生成的权重 扰动信息能够对相应的第一模型权 重进行扰动的程度小于预设阈值； 模型部署模块， 将生成的权重扰动信息与相应的第一模型权重进行融合处理， 生成目 标模型权重， 并使用所述目标模型权重替换所述训练后的目标模型中针对需要插入的提示 信息确定的第一模型权重， 得到待部署的目标模型， 将待部署的目标模型部署于相应的业 务中。 11.一种模型的处 理装置， 所述装置包括： 模型获取模块， 获取目标业务部署的目标模型， 所述目标模型是基于提示学习的方式 进行模型训练后得到； 信息提取模块， 获取所述目标模型中插入的提示信 息对应的第 一模型权重和与所述第 一模型权重相应的权重扰动信息， 所述权重扰动信息是基于所述目标模型对应的水印信息 和所述第一模型权重， 为每个所述第一模型权重生成的信息， 所述第一模型权重和所述权 重扰动信息是从所述 目标模型对应的目标模型权重中获取 的信息， 其中， 生成的权重扰动 信息能够对相应的第一模型权重进行扰动的程度小于预设阈值， 所述目标模型权重是基于 所述权重扰动信息与相 应的第一模型权重进行融合处理后得到的用以作为所述目标模型 的模型权 重的权重； 风险确定模块， 如果基于获取的第 一模型权重和与所述第 一模型权重相应的权重扰动 信息确定的水印信息与所述目标模型对应的目标水印信息相匹配， 则确定所述目标模型存 在泄露风险。 12.一种模型的处 理设备， 所述模型的处 理设备包括： 处理器； 以及 被安排成存储计算机可执行指令的存储器， 所述可执行指令在被执行时使所述处理 器： 基于提示学习的方式对目标模型进行模型训练， 并获取训练后的目标模型中针对需要 插入的提示信息确定的第一模型权 重；权　利　要　求　书 2/4 页 3 CN 115238250 B 3