文/陈刚
大科学的数据是现代科学研究的根本,数据平台的建设将保障和促进科学研究的顺利开展。
现代科学研究项目往往规模巨大。高能物理、基因组学、蛋白组学、天体物理学等大科学工程都是以数据为中心的学科,这些大科学工程产生越来越多的数据,迫切需要建立大规模的数据中心对数据进行存储、管理、分析和处理。
以高能物理实验为例,当今以欧洲大型强子对撞机LHC(Large Hadron Collider)为代表的一批高能物理实验每年产生的数据多达数十PB,需要建立一大批数据中心联合对数据进行分析处理。过去十多年来,国际高能物理的同行在全球范围内建立了近两百个数据中心,利用网格技术将这些数据中心联合起来形成一个统一的数据处理平台,为LHC的物理研究提供支撑。这种多数据中心联合形成的网格平台很好地解决了海量数据开放融合、高效处理的问题。
高能物理采用完全开放融合共享的计算模式,海量基础数据、计算能力、存储能力、传输能力等等对于全球合作成员都是开放共享的。这种模式确保了所有的数据中心高效地分担数据处理的任务,同时使物理学家能够在世界上任何一个地方访问数据资源和计算资源。可以说,高能物理是科研大数据的先驱,也是科研大数据的典型成功案例。
分布式的数据中心首先需要强大的网络支撑。高能物理网格平台采用1Gbps~40Gbps的专用国际网络链路把这些近两百个数据中心连在一起,利用这些网络链路进行数据的传输和计算任务的全局调度。……