(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211014123.1 (22)申请日 2022.08.23 (71)申请人 珠海格力电器股份有限公司 地址 519000 广东省珠海市前山金鸡西路 申请人 珠海零边界集成电路有限公司 (72)发明人 李辉武  (74)专利代理 机构 北京聿宏知识产权代理有限 公司 11372 专利代理师 施磊 陈超德 (51)Int.Cl. G06F 8/41(2018.01) G06N 20/00(2019.01) (54)发明名称 适配AI模型的编译方法、 装置、 存储介质及 电子设备 (57)摘要 本申请实施例提供了一种适配AI模型的编 译方法、 装置、 电子设备及存储介质, 应用于编译 器, 编译器包括: 编码器和解码器, 通过 获取AI模 型和AI模型对应的参数, 将AI模型和参数分配至 编码器的缓冲区, 获得待编译数据, 采用编码器 对待编译数据进行编码生成对应于缓冲区的算 子流文件, 实现计算即编译的设计, 将神经网络 向前推理计算过程抽象成算子, 采用解码器对各 个算子流文件进行解析和运算, 获得算子流文件 的算子执行结果, 并转化 成硬件可以识别的命令 和参数格式, 最终编码成自定义格式的算子流文 件, 可以实现在芯片端再反向解码文件, 基于算 子执行结果, 确定编译运 算结果。 权利要求书2页 说明书8页 附图4页 CN 115509534 A 2022.12.23 CN 115509534 A 1.一种适配AI模型的编译方法, 其特征在于, 应用于编译器, 所述编译器包括: 编码器 和解码器, 所述方法包括: 获取AI模型和所述AI模型对应的参数; 将所述AI模型和所述 参数分配至所述编码器的缓冲区, 获得待编译数据; 采用编码器对待编译数据进行编码生成对应于所述缓冲区的算子流文件; 采用所述解码器对各个所述算子流文件进行解析和运算, 获得算子流文件的算子执行 结果; 基于所述 算子执行结果, 确定编译运 算结果。 2.根据权利要求1所述的适配AI模型的编译方法, 其特征在于, 所述算子流文件包括: 头部变量、 算子序列、 硬件指令集 合和网络 权重集合。 3.根据权利要求2所述的适配AI模型的编译方法, 其特 征在于, 所述方法还 包括: 基于所述 算子流文件关联生成拓展样式文件; 基于所述拓展样式文件确定所述AI模型的位置信息, 其中, 所述位置信息包括: 所述AI 模型的数据输入位置和所述AI模型的数据输出位置 。 4.根据权利要求3所述的适配AI模型的编译方法, 其特征在于, 所述采用所述解码器对 各个所述 算子流文件进行解析, 包括: 判断所述 算子序列中的算子类型; 当所述算子类型为硬件算子时, 基于嵌入式神经网络计算器运 算; 当所述算子类型为软件算子时, 基于软件逻辑 运算。 5.根据权利要求2所述的适配AI模型的编译方法, 其特征在于, 所述方法还包括: 基于 所述算子流文件的大小分配目标缓冲区进行存 储, 包括: 判断所述 算子流文件的大小是否大于所述目标缓冲区的大小; 当所述算子流文件的大小大于所述目标缓冲区的大小时, 将所述算子流文件存储至第 一目标缓冲区, 其中, 所述第一目标缓冲区大小大于或等于所述 算子流文件的大小。 6.根据权利要求2所述的适配AI模型的编译方法, 其特征在于, 所述方法还包括: 基于 所述算子流文件的大小确认编码结果, 包括: 在所述算子流文件的大小为 零的情况 下, 确定编码失败。 7.根据权利要求2所述的适配AI模型的编译方法, 其特征在于, 所述算子流文件包括: 空算子, 所述基于所述 算子执行结果, 确定编译运 算结果, 包括: 在确定运算执行所述空算子文件的情况下, 确认所述算子流文件运算完成, 将运算结 果从定点 转化为浮点。 8.一种适配AI模型的编译装置, 其特征在于, 应用于编译器, 所述编译器包括: 编码器 和解码器, 所述 适配AI模型的编译装置包括: 获取模块, 用于获取AI模型和所述AI模型对应的参数; 分配模块, 用于将所述AI模型和所述参数分配至所述编码器的缓冲区, 获得待编译数 据; 编码模块, 用于采用编码器对待编译数据进行编码生成对应于所述缓冲区的算子流文 件; 解码模块, 用于采用所述解码器对各个所述算子流文件进行解析和运算, 获得算子流权 利 要 求 书 1/2 页 2 CN 115509534 A 2文件的算子执 行结果; 确定模块, 用于基于所述 算子执行结果, 确定编译运 算结果。 9.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质存储有程序代码, 所述程序 代码被一个或多个处理器调用执行如权利要求 1‑7中任一项 所述的适配A I模型的 编译方法。 10.一种电子设备, 其特征在于, 所述电子设备包括存储器、 处理器, 所述存储器上存储 有可在所述处理器上运行 的程序代码, 所述程序代码被所述处理器执行时, 实现如权利要 求1至7中任一项所述的适配AI模型的编译方法。权 利 要 求 书 2/2 页 3 CN 115509534 A 3

.PDF文档 专利 适配AI模型的编译方法、装置、存储介质及电子设备

文档预览
中文文档 15 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 适配AI模型的编译方法、装置、存储介质及电子设备 第 1 页 专利 适配AI模型的编译方法、装置、存储介质及电子设备 第 2 页 专利 适配AI模型的编译方法、装置、存储介质及电子设备 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:06:36上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。