多HPC集群环境中跨群统一作业调度迁移技术

张 毅

(中国空气动力研究与发展中心，绵阳 621000)

0 引言

高性能计算(high performance computing，HPC)通常指使用很多处理器(作为单个机器的一部分)或者某一集群中组织的若干台计算机(作为单个计算资源操作)的计算系统和环境。

在集群计算中，负载均衡对于充分发挥集群计算能力和最大化地提升并行作业执行性能至关重要。尤其是随着计算规模的不断扩大，如何形成统一的资源调配统筹策略，协同多个高性能计算机系统高效地完成作业，实现多系统间的作业迁移容错，解决负载均衡问题，就成为迫切需要解决的问题[2-3]。

本文研究了多集群环境中作业统一调度迁移策略，并将其应用于基于Linux系统的一个由十多套高性能计算机集群系统构成的计算中心。这些计算机集群在数年内分期建设而成，每个集群系统有其内部互联网络和集中存储系统，且生产厂商、结构组成、节点规模、整体性能都不尽相同。各个集群都分别安装了不同的资源管理调度软件，为用户计算作业自动分配计算资源。计算中心面对的用户群是进行大规模数值模拟计算的科研人员。相比使用专用软件的生产性应用环境，本计算集群环境复杂程度高，涉及大量程序调试和计算方法研究，用户和计算作业的数量多，各作业运行时间相差大(从数小时到数月不等)，处理器规模从单核串行作业到数千核并行作业不等。由于各类任务的计算需求饱满，总体上计算资源非常紧张。

实际使用中我们发现，各集群以及各用户之间的资源利用率动态来看常常是很不平衡的。……