(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210539729.0 (22)申请日 2022.05.17 (71)申请人 北京灵汐科技有限公司 地址 100080 北京市海淀区北四环西路67 号8层801 (72)发明人 吴欣洋　李涵　常永辉　李彤　 (74)专利代理 机构 北京天昊联合知识产权代理 有限公司 1 1112 专利代理师 彭瑞欣　冯建基 (51)Int.Cl. G06N 3/04(2006.01) G06F 9/50(2006.01) (54)发明名称 神经网络 计算图的处 理方法及处 理装置 (57)摘要 本公开提供了一种神经网络计算图的处理 方法及处理装置、 电子设备、 计算机可读介质， 处 理方法包括： 获取神经网络计算图中每个原始算 子节点对应的输入张量的批大小； 根据每个原始 算子节点对应的批大小对每个原始算子节点对 应的批处理维度进行维度长度变换， 以得到每个 原始算子节 点对应的目标算子节 点； 每个目标算 子节点对应的批处理维度的维度长度小于对应 的原始算子节 点对应的批处理维度的维度长度； 根据多个目标算子节点， 获取目标神经网络计算 图。 根据本公开的技术方案， 能够实现对神经网 络计算图的优化， 减少在编译时神经网络计算图 对芯片资源的占用， 提高神经网络计算图的编译 效率和效果， 降低编译 难度。 权利要求书2页 说明书10页 附图5页 CN 115034358 A 2022.09.09 CN 115034358 A 1.一种神经网络计算图的处理方法， 其特征在于， 原始的所述神经网络计算图包括多 个原始算子节点， 所述方法包括： 获取原始的神经网络计算图中每个所述原始算子节点对应的输入 张量的批大小， 所述 输入张量的批大小为所述输入张量的批处 理维度的维度长度； 根据每个所述原始算子节点对应的批大小对每个所述原始算子节点对应的批处理维 度进行维度长度变换， 以得到每个所述原始算子节点对应的目标算子节点； 每个所述 目标 算子节点对应的批处理维度的维度长度小于对应的原始算子节点对应的批处理维度的维 度长度； 根据多个所述目标算子节点， 获取目标神经网络计算图。 2.根据权利要求1所述的处理方法， 其特征在于， 每个所述原始算子节点对应的输入 张 量的批大小均大于1， 且任意两个原始算子节点对应的批大小中第一批大小与第二批大小 的比值为正整数； 其中， 所述第一批大小为任意两个原始算子节点中的一个原始算子节点对应的批大 小， 所述第二批大小为另一个原始算子节点对应的批大小， 且所述第一批大小大于或等于 所述第二批大小。 3.根据权利要求2所述的处理方法， 其特征在于， 所述根据每个所述原始算子节点对应 的批大小对每个所述原始算子节点对应的批处理维度进行维度长度变换， 以得到每个所述 原始算子节点对应的目标算子节点， 包括： 确定所有所述原 始算子节点对应的批大小中的最小批大小； 针对每个所述原始算子节点， 根据 所述原始算子节点对应的批大小与 所述最小批大小 的比值， 对所述原始算子节点对应的批处理维度进行维度长度变换， 得到所述原始算子节 点对应的目标算子节点； 其中， 所述目标算子节点对应的批处理维度的维度长度为对应的所述原始算子节点所 对应的批大小与所述 最小批大小的比值。 4.根据权利要求1所述的处理方法， 其特征在于， 所述获取原始的神经网络计算图中每 个所述原 始算子节点对应的输入张量的批大小， 包括： 根据所述原始算子节点对应的输入 张量的张量形状， 确定所述原始算子节点对应的输 入张量的批处 理维度的维度长度， 以得到所述输入张量的批大小。 5.根据权利要求1所述的处理方法， 其特征在于， 在所述获取目标神经网络计算图之 后， 所述处 理方法还 包括： 将所述目标神经网络计算图编译至众核系统， 所述众核系统包括至少一个众核芯片， 所述众核芯片包括多个物理核。 6.根据权利要求1 ‑5中任一项所述的处理方法， 其特征在于， 所述神经网络计算图中多 个原始算子节点之间为串行 连接关系。 7.一种处理装置， 其特征在于， 所述处理装置用于对待处理的神经网络计算图进行处 理， 所述神经网络计算图包括多个原 始算子节点， 所述处 理装置包括： 维度获取模块， 用于获取原始的神经网络计算图中每个所述原始算子节点对应的输入 张量的批大小， 所述输入张量的批大小为所述输入张量的批处 理维度的维度长度； 维度变换模块， 用于根据每个所述原始算子节点对应的批大小对每个所述原始算子节权　利　要　求　书 1/2 页 2 CN 115034358 A 2点对应的批处理维度进行维度长度变换， 以得到每个所述原始 算子节点对应的目标算子节 点； 每个所述目标算子节点对应的批处理维度的维度长度小于对应的原始 算子节点对应的 批处理维度的维度长度； 计算图重构模块， 用于根据多个所述目标算子节点， 获取目标神经网络计算图。 8.根据权利要求7所述的处理装置， 其特征在于， 每个所述原始算子节点对应的输入 张 量的批大小均大于1， 且任意两个原始算子节点对应的批大小中第一批大小与第二批大小 的比值为正整数； 其中， 所述第一批大小为任意两个原始算子节点中的一个原始算子节点对应的批大 小， 所述第二批大小为另一个原始算子节点对应的批大小， 且所述第一批大小大于或等于 所述第二批大小。 9.一种电子设备， 其特 征在于， 包括： 至少一个处 理器； 以及 与所述至少一个处 理器通信连接的存 储器； 其中， 所述存储器存储有可被所述至少一个处理器执行的一个或多个计算机程序， 一个或多 个所述计算机程序被所述至少一个处理器执行， 以使 所述至少一个处理器能够执行如权利 要求1‑6中任一项所述的处 理方法。 10.一种计算机可读存储介质， 其上存储有计算机程序， 其特征在于， 所述计算机程序 在被处理器执行时实现如权利要求1 ‑6中任一项所述的处 理方法。权　利　要　求　书 2/2 页 3 CN 115034358 A 3