(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211141190.X (22)申请日 2022.09.20 (71)申请人 联想 (北京) 有限公司 地址 100085 北京市海淀区上地西路6号2 幢2层201- H2-6 (72)发明人 陈旭  (74)专利代理 机构 北京派特恩知识产权代理有 限公司 1 1270 专利代理师 李丽霞 胡春光 (51)Int.Cl. G06F 9/48(2006.01) G06F 9/50(2006.01) (54)发明名称 一种任务调度方法、 装置、 设备及存 储介质 (57)摘要 本申请公开了一种任务调度方法、 装置、 设 备及存储介质, 其中, 所述方法包括: 获取第一任 务申请显存的显存申请指令, 其中, 所述显存申 请指令中包括待申请的显存容量; 基于所述待申 请的显存容量, 确定待暂止运行的第二任务, 其 中, 所述第一任务的显存使用优 先级高于第二任 务, 所述第二任务使用的显存容量为可释放显 存; 在暂止运行所述第二任务的情况下, 将所述 第二任务的可释放显存分配给所述第一任务; 在 确定存在与所述第二任务匹配的空闲显存容量 的情况下, 继续运行所述第二任务。 权利要求书2页 说明书11页 附图5页 CN 115509704 A 2022.12.23 CN 115509704 A 1.一种任务调度方法, 所述方法包括: 获取第一任务申请显存的显存申请指令, 其中, 所述显存申请指令中包括待申请的显 存容量; 基于所述待申请的显存容量, 确定待暂止运行的第 二任务, 其中, 所述第 一任务的运行 优先级高于第二任务, 所述第二任务占用的显存为可释放显存; 在暂止运行所述第 二任务的情况下, 将所述第 二任务占用的可释放显存分配给所述第 一任务; 在确定存在与所述第二任务匹配的空 闲显存容 量的情况 下, 继续运行所述第二任务。 2.如权利要求1所述的方法, 所述在暂止运行所述第 二任务的情况下, 将所述第 二任务 占用的可释放显存分配给 所述第一任务, 包括: 暂止运行 所述第二任务; 将所述第二任务占用的可释放显存中的显存数据迁移至指定内存空间; 释放所述第二任务的可释放显存; 将所述第二任务的可释放显存分配给 所述第一任务。 3.如权利要求2所述的方法, 所述在确定存在与所述第二任务匹配的空闲显存容量的 情况下, 继续运行所述第二任务, 包括: 将所述第二任务存放至等待运行队列; 确定存在与所述第二任务匹配的空 闲显存; 将所述第二任务对应的显存数据, 从所述指定内存迁移至所述空 闲显存; 继续运行所述第二任务。 4.如权利要求1所述的方法, 与所述第二任务匹配的空闲显存属于第三任务所占用显 卡的显存空间; 其中, 所述第三任务的运行优先级高于所述第二任务; 所述在确定存在与 所述第二任务匹配的空闲显存容量的情况下, 继续运行所述第 二任 务, 包括: 基于所述第三任务所占用的显卡, 继续 运行所述第二任务。 5.如权利要求3所述的方法, 在所述在确定存在与所述第二任务匹配的空闲显存容量 的情况下之前, 所述方法还 包括: 定时扫描显存空间, 获取 所述显存空间的占用情况; 基于所述显存空间的占用情况确定是否存在与所述第二任务匹配的空 闲显存。 6.如权利要求5所述的方法, 所述方法应用于计算节点, 所述计算节点包括至少一个显 卡; 所述定时扫描显存空间, 获取 所述显存空间的占用情况, 包括: 定时扫描所述计算节点上至少一个显卡的显存空间, 获取所述至少一个显卡的显存空 间的占用情况。 7.如权利要求6所述的方法, 所述方法应用于计算集群, 所述计算集群中包括至少一个 计算节点, 所述方法还 包括: 在确定所述计算节点上没有空闲显存容量的情况下, 扫描所述计算集群中其余计算节 点的显存空间的占用情况; 在确定所述其余计算节点的至少一个显卡存在空闲显存容量的情况下, 将存在空闲显权 利 要 求 书 1/2 页 2 CN 115509704 A 2存容量的计算节点确定为目标计算节点; 在所述目标计算节点, 重启所述第二任务。 8.如权利要求1所述的方法, 所述基于所述待申请的显存容量, 确定待暂止运行的第 二 任务, 包括: 获取所述待申请的显存容 量; 确定与所述待申请的显存容 量匹配的可释放显存; 将占用所述可释放显存的第二任务确定为所述待暂止运行的第二任务。 9.如权利要求1所述的方法, 所述方法应用于并行运算平台, 所述并行运算平台包括显 存任务管理中心、 任务编程接口, 所述方法包括: 所述任务编 程接口向所述显存任务管理中心发起第 一任务申请显存的显存申请指令, 其中, 所述显存申请指令中包括待申请的显存容 量; 所述显存任务管理中心基于所述待申请的显存容量, 确定待暂止运行的第二任务, 其 中, 所述第一任务的运行优先级高于第二任务, 所述第二任务占用的显存为可释放显存; 所述显存任务管理中心在暂止运行所述第 二任务的情况下, 将所述第 二任务的可释放 显存分配给 所述第一任务; 所述显存任务管理中心在确定存在与所述第 二任务匹配的空闲显存容量的情况下, 继 续运行所述第二任务。 10.一种电子设备, 包括存储器和处理器, 所述存储器存储有可在处理器上运行的计算 机程序, 所述处 理器执行所述程序时实现权利要求1至9任一项所述方法中的步骤。权 利 要 求 书 2/2 页 3 CN 115509704 A 3

.PDF文档 专利 一种任务调度方法、装置、设备及存储介质

文档预览
中文文档 19 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种任务调度方法、装置、设备及存储介质 第 1 页 专利 一种任务调度方法、装置、设备及存储介质 第 2 页 专利 一种任务调度方法、装置、设备及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:07:31上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。