(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211191109.9 (22)申请日 2022.09.28 (71)申请人 苏州浪潮智能科技有限公司 地址 215100 江苏省苏州市吴中经济开发 区郭巷街道官浦路1号9幢 (72)发明人 王慕雪　 (74)专利代理 机构 北京集佳知识产权代理有限 公司 11227 专利代理师 崔清杨 (51)Int.Cl. G06F 8/41(2018.01) G06N 20/00(2019.01) (54)发明名称 一种数据调用方法、 装置、 设备及 介质 (57)摘要 本申请公开了一种数据调用方法、 装置、 设 备及介质， 涉及人工智能领域， 包括： 对 预先获取 的模型进行抽象转换， 以得到计算图， 然后对所 述计算图进行图像分割优化， 以得到各计算子 图； 对所述计算子图进行向量化处理， 以得到张 量表示， 确定出张量表示的类型， 并根据所述张 量表示的类型确定出相应的目标代码； 利用所述 目标代码对 所述张量表示进行处理， 以得到底层 代码， 并将所述底层代码发送至与所述计算子图 的类型相对应的编译器， 以得到二进制文件， 以 便服务端对 所述二进制文件中的数据进行调用。 通过本申请的上述技术方案， 能够实现深度学习 模型多平台部署， 支持其他深度学习处理器， 提 高数据调用的效率。 权利要求书2页 说明书9页 附图4页 CN 115509539 A 2022.12.23 CN 115509539 A 1.一种数据调用方法， 其特 征在于， 包括： 对预先获取的模型进行抽象转换， 以得到计算图， 然后对所述计算图进行图像分割优 化， 以得到各计算子图； 对所述计算子图进行向量化处理， 以得到张量表示， 确定出张量表示的类型， 并根据 所 述张量表示的类型确定出相应的目标代码； 利用所述目标代码对所述张量表示进行处理， 以得到底层代码， 并将所述底层代码发 送至与所述计算子图的类型相对应的编译器， 以得到二进制文件， 以便服务端对所述二进 制文件中的数据进行调用。 2.根据权利要求1所述的数据调用方法， 其特征在于， 所述对预先获取的模型进行抽象 转换， 以得到计算图， 包括： 利用Python脚本实现的预设前端解释器对预先获取的模型进行抽象转换， 以得到计算 图； 其中， 所述计算图中包括 算子和数据流信息； 将所述计算图以Torc hScript格式保存至 本地。 3.根据权利要求1所述的数据调用方法， 其特征在于， 所述对所述计算图进行图像分割 优化， 以得到各计算子图， 包括： 对所述计算图进行常量 折叠操作和算子融合操作， 以得到操作后的图像； 对所述操作后的图形进行分割， 以得到各计算子图。 4.根据权利要求1所述的数据调用方法， 其特征在于， 所述对所述计算子图进行向量化 处理， 以得到张量表示， 包括： 利用开源框架TVM中的AutoTVM对所述计算子图进行循环分块操作和向量化处理， 以得 到张量表示。 5.根据权利要求1至4任一项所述的数据调用方法， 其特征在于， 所述确定出张量表示 的类型， 并根据所述张量表示的类型确定出相应的目标代码， 包括： 确定出张量表示的类型； 根据所述张量表示的类型从预设的代码模块库中筛选出与所述张量表示的类型相对 应的目标代码。 6.根据权利要求5所述的数据调用方法， 其特征在于， 所述利用所述目标代码对所述张 量表示进行处理， 以得到底层代码， 并将所述底层代码发送至与所述计算子图的类型相对 应的编译器， 以得到二进制文件， 包括： 利用所述目标代码对所述张量表示进行语言转化处理， 以得到底层代码， 并确定出与 所述张量表示的类型相对应的编译器和算子内核； 将所述底层代码发送至所述编译器进行编译处理， 以得到二进制文件， 并将所述二进 制文件以动态 链接库的格式保存至与所述张量表示的类型相对应的算子内核。 7.根据权利要求6所述的数据调用方法， 其特征在于， 所述以便服务端对所述二进制文 件中的数据进行调用， 包括： 服务端根据业务需求确定出处理器， 建立与所述处理器类型相同的所述算子 内核之间 的连接关系， 以便所述服务端根据所述连接关系对所述算子内核中所述二进制文件中的数 据进行调用。 8.一种数据调用装置， 其特 征在于， 包括：权　利　要　求　书 1/2 页 2 CN 115509539 A 2图像分割模块， 用于对预先获取的模型进行抽象转换， 以得到计算图， 然后对所述计算 图进行图像分割优化， 以得到各计算子图； 目标代码确定模块， 用于对所述计算子图进行向量化处理， 以得到张量表示， 确定出张 量表示的类型， 并根据所述张量表示的类型确定出相应的目标代码； 数据调用模块， 用于利用所述目标代码对所述张量表示进行处理， 以得到底层代码， 并 将所述底层代码发送至与所述计算子图的类型相对应的编译器， 以得到二进制文件， 以便 服务端对所述 二进制文件中的数据进行调用。 9.一种电子设备， 其特 征在于， 包括： 存储器， 用于保存计算机程序； 处理器， 用于执行所述计算机程序， 以实现如权利要求1至7任一项所述的数据调用方 法。 10.一种计算机可读存储介质， 其特征在于， 用于保存计算机程序； 其中， 所述计算机程 序被处理器执行时实现如权利要求1至7任一项所述的数据调用方法。权　利　要　求　书 2/2 页 3 CN 115509539 A 3