基于大数据技术的空管数据安全治理研究及实现

2019-12-30 01:51蔡建坤
中国科技纵横 2019年21期
关键词:微服务数据治理大数据技术

摘 要:随着大数据在中南空管局的应用,对数据安全提出了新的要求,传统的数据共享安全手段已不能满足大数据环境下的安全防护需要。本文设计和实現了基于大数据技术的数据安全治理平台,解决海量多源空管业务数据的安全共享。通过采用私有云平台,为数据共享提供一个安全、可靠、稳定的基础软硬环境;通过使用大数据技术和微服务技术实现数据总线和服务调用两种安全交换方式;通过结合资源目录服务、权限管理服务实现数据共享的可监管、可追踪。本文实现的数据安全治理平台符合SWIM实现指导手册的约束和建议,是SWIM理念的一种优秀实现方案。

关键词:大数据技术;数据安全;数据治理;微服务;SWIM

中图分类号:TP311.13 文献标识码:A 文章编号:1671-2064(2019)21-0036-02

0 引言

复杂的应用环境下,保证重要数据、机密数据以及用户隐私数据等敏感数据不发生外泄,是所有行业数据安全的首要需求[1],包括空管行业。随着大数据在中南空管局的应用,海量多源数据在大数据平台汇聚,一个数据资源池同时服务多个数据提供者和数据使用者,强化数据隔离和访问控制,实现数据“可用不可见”,是空管大数据环境下数据安全的新需求[2]。

传统的安全机制在性能、访问控制、数据加密方面很难满足大数据处理的要求[3]。大数据平台服务面向众多用户、场景多样,传统安全机制的性能难以满足需求。大数据场景下,数据从多个空管业务系统大量汇聚,数据类型、用户角色和应用需求更加多样化,增加了访问控制策略制定及授权管理的难度。大数据复杂的数据存储和流动场景使得数据加密的实现变得异常困难[4]。

民航广域信息管理(System Wide Information management,SWIM)实现指导手册描述了民航数据共享的建设方法,提出了SWIM GIF框架(SWIM Global Interoperability Framework)指导SWIM的实现[5]。本文通过研究大数据技术的数据安全治理方法,结合SWIM GIF理念框架,实现了一种空管大数据的数据安全治理平台。

1 基于大数据技术的数据安全治理平台的设计

1.1 元数据目录

元数据目标采用可视化界面呈现数据的属性信息,让用户对数据资料有更全面和直观的了解。本文提供可定制的数据目录服务,以数据目录的形式展示各业务系统发布的数据,其他用户可以按分类、按业务系统浏览数据,也可以按关键字搜索数据。

1.2 安全数据交换方式

本文提供两种安全交换方式以满足不同场景下的空管数据交换,包括数据总线交换方式和服务调用交换方式。数据总线交换方式,利用空管大数据平台提供的海量存储空间、计算资源,数据提供者将自身业务系统的数据发布给平台,数据使用者通过审批流程后,从平台订阅批复的数据。服务调用交换方式,利用空管大数据平台的网络资源和数据目录,数据使用者通过评审流程后,通过服务注册、服务发现和服务网关等平台服务,直接调用数据提供者的数据服务。

数据使用者如没有经过审批流程,则都无法从平台获取任何空管数据。

1.3 数据安全管控

平台通过多个维度来保证空管数据的安全。

(1)基于RBAC对用户进行角色权限管理,用户只能在权限范围内进行操作。(2)各部门目录库与局目录库分离,以保证各部门数据不被其他部分私自使用。(3)严格的审批流程,以保证各部门数据的受控流出。(4)严格的权限控制,以保证用户仅能获取授权数据。(5)完整的数据操作日志,以方便审计。

2 基于大数据技术的数据安全治理平台的架构

2.1 总体结构

基于大数据技术的数据安全治理平台的总体结构如图1所示,由应用层、接入层、服务层和基础设施层组成。

2.1.1 应用层

应用层为通过大数据平台进行数据交互的空管各业务系统。业务系统根据数据的供需,可分为数据使用者和数据提供者。

2.1.2 接入层

接入层细分为服务接入层和网关服务层。服务接入层是平台暴露给数据使用者的入口,一般通过防火墙或网闸等。网关服务层是介于客户端和服务端的中间层,所有的数据获取请求会先经过服务网关。服务网关为应用提供统一的访问控制入口。平台提供接入协议涵盖HTTPS REST协议、AMQP协议和kafka接入协议,对数据交互双方提供以上描述的两种安全数据交换方式。

2.1.3 服务层

服务层细分为业务服务层和支撑服务层。业务服务是平台的核心所在,是空管领域应用的具体体现。一般进一步拆分为基础服务和复合服务。本次验证中,平台提供了飞行计划服务、气象服务和情报服务。支撑服务层为应用提供运行支撑环境,包括注册发现,集中配置,运行态势展示,数据总线,服务申明,资源目录,安全认证,权限控制和容错限流。注册发现服务,让消费者可以自行发现发布者的服务;集中配置服务,将平台配置统一管理;态势展示服务,呈现平台当前的运行态势;数据总线服务,可实现对服务发布者向平台提供的数据进行聚集、清理、整合;安全认证服务,实现对服务使用者接入的安全审批。在支撑服务层,本次验证测试通过使用微服务技术来实现。

2.1.4 基础设施层

基础设施层采用私有云平台相关技术实现,提供运行所需的软硬件环境。基础设施层划分为平台服务层和基础资源层。平台服务层提供运行所需的软件资源,实现包括资源治理,服务治理,大数据处理,数据库,内存缓存,群集调度等基础软件服务。基础资源层提供运行所需的硬件资源,实现包括计算资源,网络资源,存储资源,基本的安全策略控制等硬件服务。

2.2 两种安全交换方式的实现流程

2.2.1 数据总线交换方式的实现流程

平台为数据交换的双方提供数据总线服务和权限管理服务,数据提供者和數据使用者的交换流程如下:

(1)数据提供者通过自身的数据服务或接口,与平台进行连接。(2)数据提供者生成本业务数据的资源目录,并将业务数据传输到平台。(3)数据使用者浏览平台的资源目录,确定期望获取的空管数据。(4)数据使用者向平台申请获取期望的空管数据。(5)平台管理者利用权限管理功能,对数据使用者进行身份识别、数据项审核、权限审定等权限审批。(6)平台管理者审批通过后,利用应用管理功能,配置应用接口,利用数据总线服务,为使用者提供数据发布服务。(7)数据使用者从数据网关获取审批通过的空管业务数据。

2.2.2 服务调用交换方式的实现流程

平台为数据交换的双方提供权限管理服务,数据提供者和数据使用者的交换流程如下:

(1)数据提供者通过自身的数据服务或接口,与平台进行连接。(2)-(5)同数据总线交换实现流程的第2步至第5步。(6)平台管理者审批通过后,利用应用管理功能,配置应用接口,并为数据使用者生成数据网关。(7)数据使用者利用数据网关,直接访问数据提供者的数据服务,获取审批通过的空管业务数据。

3 结语

针对随着中南空管局大数据的应用,针对监视数据、飞行数据、气象数据、情报数据等海量多源业务数据的安全共享问题,本文设计和实现了基于大数据技术的数据安全治理平台,提供了两种安全交换方式,为实现中南空管局大数据平台的数据安全共享提供了解决方案,为空管行业大数据平台应用积累经验。本文实现的数据安全治理平台符合SWIM实现指导手册的约束和建议,是SWIM理念的一种优秀实现方案。

参考文献

[1] 冯登国,张敏,李昊.大数据安全与隐私保护[J].计算机学报,2014,37(01):246-258.

[2] 沈振华.基于大数据技术的计算机网络安全问题分析[J].电子技术与软件工程,2019(10):199.

[3] 王丹,赵文兵,丁治明.大数据安全保障关键技术分析综述[J].北京工业大学学报,2017,43(3):335-349.

[4] 蔡建坤,刘俊波.基于发布订阅模式的空管系统间信息共享方案设计[J].电子技术与软件工程,2018,136(14):188.

[5] Razvan Guleac.Doc.10039 SWIM Manual Vol.II Implementation Guidance[R].IMP/WG/7-WP/12,2019.

猜你喜欢
微服务数据治理大数据技术
微信公众平台在医院图书馆的应用现状调查
从单一模式系统架构往微服务架构迁移转化技术研究
大数据治理模型与治理成熟度评估研究
大数据时代城市治理:数据异化与数据治理