(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210984558.2 (22)申请日 2022.08.17 (71)申请人 青岛超蓝生物信息科技有限公司 地址 266000 山东省青岛市崂山区文岭路5 号白金广场2号楼701室 (72)发明人 王顺志 刘啸森 刘凤永  (51)Int.Cl. G06F 11/07(2006.01) G06F 9/50(2006.01) (54)发明名称 一种基于MPI三层拓扑结构的超时机制管理 模块 (57)摘要 本发明涉及一种基于MPI三层拓扑结构的超 时机制管理模块, 包括总调度模块、 二级调度模 块、 总调度超时管理模块和二级调度超时管理模 块; 所述总调度模块设有一个总调度进程、 二级 调度模块设有N个二级调度进程, 二级调度进程 设有N*N个工作进程模块, 所述二级调度模块负 责接收总调度模块分块计算资料, 管理其下N个 所述工作进程的计算任务分配; 所述二级调度模 块将其下N个所述工作进程注册到所述二级调度 超时机制管 理模块, 发送计算任务后监控工作进 程状态, 判断是否超时; 通过三层MPI网络拓扑, 并配合超时机制管理模块, 有效提高超大规模并 行计算的容错率, 在多个核心出现错误、 宕机或 进程假死情况 下, 仍可保证 计算任务 顺利完成。 权利要求书1页 说明书3页 CN 115391078 A 2022.11.25 CN 115391078 A 1.一种基于MPI三层拓扑结构的超时机制管理模块, 包括总调度模块、 二级调度模块、 总调度超时管理模块和二级调度超时管理模块; 其特征是: 所述总调度模块设有一个总调 度进程、 二级调度模块设有N个二级调度进程, 二级调度进程设有N*N个工作进程模块, N为 正整数, *为乘积符号, 总调 度模块进程号为0; 所述二级调 度模块负责接收总调度模块分块 计算资料, 管理其下N个所述工作进程的计算任务分配; 所述二级调度模块将其下N个所述 工作进程注册到所述二级调度超时机制管理模块, 发送计算任务后监控工作进程状态, 判 断是否超时; 总调度超时机制模块通过MPI异步接收的方式, 按设置的超时时间定期查询二级调度 进程是否上送N个工作进程计算结果的汇总数据, 二级调度超时机制模块通过MPI异 步接收 的方式, 按设置的超时 时间定期查询其下子N个子 工作进程是否上送计算结果; 二级调度超时机制管理模块若在 设置的超时时间内没有获得某子工作进程计算结果, 则上述二级调度进程取消与该子工作进程的MPI通信, 并将此次使用的计算资料重新加入 计算资料集 合, 等待发送给其 他完成计算任务的子 工作进程; 总调度超时机制管理模块若在 设置的超时时间内没有获得某二级调度进程的N个计算 结果汇总数据, 则上述总调 度进程取消与该二级调 度进程的MPI通信, 将该二级调 度进程计 算资料分块未完成部 分平均划分, 通过MPI 发送给其他正常的二级调度进程, 最后在 超时机 制管理模块中注销所述 二级调度进程。权 利 要 求 书 1/1 页 2 CN 115391078 A 2一种基于MPI三层拓扑结构的超时机制管理模块 [0001] 技术领域 [0002]本发明属于通讯技术领域, 具体涉及一种基于MPI三层拓扑结构的超时机制管理 模块。 [0003] 背景技术 [0004]现阶段超级计算中心通常拥有千万级异构芯片用于超大规模并行计算, 每项计算 任务在调用如此规模的计算资源过程中, 通常使用MPI通信协议对全部计算资源进行管理 调度, 通过程序设计, MPI通信协议主要负责数据的同步异步发送和接收, 其本身并无通信 过程中的超时管理机制, 但整个计算过程中难以保证每个计算节点 都可以正常运行到任务 结束, 这就导致了需耗时几天甚至更久的计算任务因少数发生错误的节点而最终任务失 败, 造成计算资源的巨大浪费。 [0005]当某个计算节点发生宕机或处于假死状态时, 该节点无法触发MPI发送和接收指 令, 因此上游计算任务管理节点无法完成MPI通信逻辑闭环, 以致整个计算任务缺 失部分计 算结果或无法正常结束。 由于现存各版本MPI开 发包中并不存在通信超时管 理的相关接口, 这就导致通讯中接收节点会因发送节点故障无法正常获取数据, 这类 问题依靠现有MPI程 序无法有效解决, 因此超时机制的引入在保证超大规模并行计算过程中尤为重要。 [0006] 发明内容 [0007]为解决超大规模并行计算进程管理, 以及计算进程意外宕机假死等情况带来的任 务失败问题, 本发 明提出一种基于MPI三层拓扑结构的超时机制管 理模块, 根据计算进程状 态断开无效MPI通信, 将失败任务重新分配正常计算节 点, 保证整体并行计算任务能够顺利 完成。 [0008]本发明的技术方案为: 一种基于MPI三层拓扑结构的超时机制管理模块, 包括总调 度模块、 二级调 度模块、 总调度超时管理模块和二级调度超时管理模块; 所述总调 度模块设 有一个总调度进程、 二级调度模块设有N个二级调度进程, 二级调度进程设有N*N个工作进 程模块, N为正整 数, *为乘积符号, 总调 度模块进程号为0; 所述二级调度模块负责接收总调 度模块分块计算资料, 管理其下N个所述工作进程的计算任务分配; 所述二级调 度模块将其 下N个所述工作进程注册到所述二级调度超时机制管理模块, 发送计算任务后监控工作进 程状态, 判断是否超时; 总调度超时机制模块通过MPI异步接收的方式, 按设置的超时时间定期查询二级 调度进程是否上送N个工作进程计算结果的汇总数据, 二级调 度超时机制模块通过MPI异 步 接收的方式, 按设置的超时 时间定期查询其下子N个子 工作进程是否上送计算结果; 二级调度超时机制管理模块若在设置的超时时间内没有获得某子工作进程计算说 明 书 1/3 页 3 CN 115391078 A 3

.PDF文档 专利 一种基于MPI三层拓扑结构的超时机制管理模块

文档预览
中文文档 5 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共5页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于MPI三层拓扑结构的超时机制管理模块 第 1 页 专利 一种基于MPI三层拓扑结构的超时机制管理模块 第 2 页 专利 一种基于MPI三层拓扑结构的超时机制管理模块 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 13:08:10上传分享
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。