农业气象大数据共享平台设计与实现*

2022-08-24 06:07吴门新侯英雨庄立伟何延波孙少杰
中国农业气象 2022年8期
关键词:气象作物可视化

李 轩,吴门新,侯英雨,庄立伟,何延波,孙少杰

农业气象大数据共享平台设计与实现*

李 轩,吴门新**,侯英雨,庄立伟,何延波,孙少杰

(国家气象中心,北京 100081)

为了适应现代农业气象业务发展,增强海量数据快速处理、多源数据融合智能分析、数据挖掘等数据分析能力,实现农业气象数据和产品在全国范围内的共享,国家气象中心采用开源框架,分布式(Hadoop)大数据技术和Web架构,融合现代农业气象业务技术,构建B/S(Browser/Server即浏览器/服务器)模式的农业气象大数据共享平台,实现多源农业气象数据分布式存储与管理,同时提供网络端数据和业务产品可视化展示。共享平台于2021年业务运行,部署在国家级服务器上,为国家级和31个省级用户提供13大类200余种数据要素和产品的在线快速浏览和查询,实现国家−省级用户通过网络快速浏览、查询业务数据和产品,实现农业气象业务数据资源的共享和交汇,形成统一应用的农业气象大数据共享环境。

农业气象大数据共享平台;B/S模式;分布式存储;数据可视化;产品可视化

国内农业气象业务始于1958年,经过60多年的发展,已成为气象部门业务规模最大、业务技术最成熟、业务体系最规范的专业服务。农业气象业务内容涵盖农业气象情报、土壤墒情监测、农业气象灾害监测预报、农用天气预报、国内外作物产量预报、植被与草地生态监测评估、农林病虫害发生发展气象等级预报、春耕春播、秋收秋种等关键农时农业气象服务专报等多方面[1−3]。农业气象业务所涉及的数据种类多、内容和结构复杂,科研人员在数据管理及业务软件系统方面做了大量研发。杨太明等[4−9]研发了省级农业气象数据库,但这些数据库具有明显的时域和地域的局限性,只能满足各自省的农业气象业务需求;早期多个基于微机版的农业气象情报预报业务系统具有电报报文收报解报、绘制气象要素等值线、作物产量预报等功能[10−15],这些系统普遍是因业务发展过程中新增业务需求单独研发,缺乏统一规范化规划与管理,使农业气象业务在发展过程中存在较多模块小而零散的业务系统。2010年国家气象中心建设了基于C/S(Client/Server即客户端/服务器端)架构的中国农业气象业务系统(CAgMSS)[16]及基于集中式关系型数据库的国家级农业气象数据库[17],制定统一规范的农业气象数据标准[18],CAgMSS系统涵盖农业气象业务范围,具有农业气象监测、分析、预报和制图等多种功能,国家级和省级业务单位通过CAgMSS系统独立开展业务工作。

随着现代农业的多元化发展及大数据、分布式存储、云计算、人工智能等信息技术的快速发展,农业气象业务的服务种类越来越多样化,服务的精细化、精准化、智能化水平不断提升,业务产品的时空分辨率显著提高,从原有周、月、季、年尺度图形产品发展到精细化、格点化日尺度产品。同时,数据规模呈爆发式增长,从而对数据和产品的海量存储、快速交互分析、实时共享和发布方面的需求愈加迫切。而目前的CAgMSS系统主要基于气象观测站点数据来设计,无法满足高空间精度、高时间精度的数据存储和运算;由于CAgMSS是基于C/S的架构,使其在省级用户推广应用与系统维护方面较为困难,需要投入大量人力和财力进行系统培训、设备与系统维护。现有的基于集中式关系型数据库在服务器上过于集中存储大量数据和数据分析功能,占用较多服务器资源,大量存储过程并发时对服务器造成很大的压力,存在一定的安全隐患;由于对外接口受限制,不能跟其他类型的数据进行交互,在数据共享与发布上存在一定的局限性[19]。同时,国家级与省级、省级之间的业务系统未能实现有效对接,国家−省两级用户在数据和产品共享时存在流程复杂、多途径传输、效率低等问题,导致反复流转造成网络和存储资源的浪费,而省级用户之间存在实时信息共享困难,短时间内不能对数据和业务产品进行高效访问和应用,影响了服务时效。

因此,为了适应现代农业气象业务发展,增强海量数据快速处理、多源数据融合智能分析、数据深度挖掘等数据分析能力,实现国家−省级农业气象业务互联互通和一体化发展,国家气象中心采用开源框架,分布式(Hadoop)大数据技术和Web架构,融合农业气象业务技术,构建B/S(Browser/Server即浏览器/服务器)模式的农业气象大数据共享平台,实现多源农业气象数据分布式存储与管理,同时提供网络端的数据和业务产品的可视化展示,国家级和省级用户可通过网络快速浏览和查询,为国家级、省级农业气象业务提供高性能、高可靠性的数据支撑,推动了数据资源共享和汇交,形成全国统一应用的农业气象大数据共享环境。

1 共享平台总体设计

1.1 总体框架

农业气象大数据共享平台总体逻辑结构采用自顶向下、分层设计思路,包括数据层、基础层、业务层和用户层(图1)。数据层是整个框架的基础,为共享平台提供多源数据,包括站点、格点、图像、文档等数据以及数据存储服务。基础层是整个框架的核心部分,以数据访问接口、业务访问接口、微服务框架等基础组件为基础,依托分布式存储和数据计算框架,实现数据检索统计和深度挖掘,进行数据关联和变化对比分析。业务层采用可视化基础组件在浏览端对数据和业务产品进行合理有效的组织,通过三维图和表格等形式,向用户展示所需数据和产品。用户层为面向共享平台的直接和间接用户,主要包括国家级、省级农业气象业务人员,通过网络终端可实时获取业务所需的数据和产品,为业务服务提供支撑,提高业务服务能力。

图1 农业气象大数据共享平台结构图

共享平台采用B/S架构,分为浏览器端和服务器端。B/S架构在用户端只需安装浏览器即可,应用逻辑集中在服务器和中间件上,提高了数据处理性能。浏览器端需要在计算机上部署操作系统(Windows XP/7/8/10或Linux/Redhat/CentOS等)以及支持HTML5标准的浏览器。采用标准Web架构,通过浏览器与用户交户,浏览器是用户操作共享平台的接口,用户通过浏览器界面向服务器端提出请求,通过数据接口对请求进行解析、运算、分析等处理,并对返回的结果进行处理和展示。服务器端采用6台高性能Linux服务器搭建分布式作业集群,部署操作系统(CentOS7.2)以及Cloudera Manager平台、Hadoop分布式组件等,主要提供分布式数据存储和分布式数据计算支撑,以及应用系统和网站的基本运行。

1.2 数据流程

农业气象业务数据来源主要包括国家气象信息中心CIMISS[20−21]、气象大数据云平台(天擎)[22]、卫星遥感数据[23]、国家气象中心精细化预报产品[24]等。数据涵盖了基础气象、农业气象观测、土壤水分等站点数据,农业灾害、作物生长模拟等格点数据,以及遥感、作物实景以及文档产品数据等。共享平台的数据流程可分为多源数据入库流程和数据服务流程2大部分(图2)。数据入库流程包括全系列数据的获取,根据各类数据特点对入库数据进行分类、解析整理、质量控制等预处理,得到规范化数据,进而存储到分布式数据库中。数据服务流程包括通过相关Web配置接口获取到菜单树,用户在浏览器端通过菜单点击所需功能,通过Web服务的代理接口向数据服务发送数据请求,数据服务快速解析请求信息,利用分布式数据分析引擎对数据进行快速的逻辑计算,同时向Web端返回计算结果并进行快速发布和可视化展示。共享平台通过数据流程实现各类农业气象数据和产品的检索、统计分析、数据挖掘、对比分析等,最终实现数据和产品的收集、加工、存储、分析、共享的统一管理。

2 共享平台实现的关键技术

2.1 信息技术

2.1.1 数据分布式存储

农业气象数据具有类型多样、多源、时间序列长、结构复杂、海量等特点,从存储角度可分为结构化数据和非结构化数据两类,按照数据类型采用不同的数据库分布式存储,能实现对数据进行更好地存储和管理(图3)。具体实现中共享平台采用具有管理海量数据优势的Kudu结构化数据库作为分布式大数据的底层存储,并结合使用功能丰富的MongoDB存储非结构化数据。

结构化数据主要包括基础气象数据、农业气象观测数据、自动土壤水分数据等,拥有以站号和时间为序列的结构化特征,包括历史数据和实时数据,现有数据量为百GB级别,共享平台设计为TB级别存储,可满足未来数据增量和业务发展要求。这些结构化数据由Kudu数据库存储,遵循农业气象数据库设计规范,对数据进行统一的入库、管理、查询和分析等操作,共存储管理7大类140多种农业气象要素。

图2 农业气象大数据共享平台数据流程图

图3 农业气象大数据共享平台数据存储结构图

对于农业气象精细化格点产品、农业作物实景图片和视频、卫星遥感数据、农业文档产品等结构不规则的数据则归属于非结构化数据。非结构化数据具有数据量大、数据时效和精度高以及数据类型多样(栅格、图像、文本)等特征,由MongoDB数据库存储,同时对数据的属性进行统一管理,建立文件索引,方便随机快速定位访问,目前存储了6大类60余种农业气象产品数据。

2.1.2 数据服务接口

共享平台的数据支撑来自分布式存储的200余种数据,不同种类数据之间关联性不强,对于开发人员来说,数据处理会较为困难,同时为了网络用户更快速便捷地访问到底层数据库中的数据,建立标准化的数据服务接口可以解决这些问题。数据服务接口具有无需详细了解数据存储、数据内部结构和格式,即可快速访问,提高访问效率;采用标准化统一规范,降低了开发的难度;有较强的灵活性,可满足不同的业务需求,能高效、完整、安全转换和传输数据;同时简化服务器部分,改善其可扩展性和不同平台上的可移植性等优点。

共享平台通过流行的Restful API接口对外提供数据服务。API(Application Programming Interface,应用程序接口)是一组编程接口规范、客户端与服务端通过请求响应进行数据通信。Restful API(Representation Station Transfer,表述性状态转移)是基于Rest思想实现Web架构约束的应用程序接口[25],具有轻量级、跨平台、跨语言的风格[26−27],是比较流行的互联网软件设计规范。它在设计API的路径时同一个资源要使用同一个地址,通过不同的请求方式来表示不同的操作,结构清晰、易于理解、扩展方便[28−30]。

共享平台从数据端的自动采集入库,到数据查询、数据分析、业务分析,均使用Restful API接口对外提供数据服务,不同模块之间采用接口相互访问,并以标准格式对数据进行交换,通过参数传递方式实现数据的请求访问。业务与数据通过接口形成隔离,业务层与数据层互不干扰,从而在数据优化时依然能够保障数据分析服务的正常工作。实现数据与业务分离,降低数据与业务的耦合度,减少数据端对应用端的影响。

共享平台包含了各类数据入库、数据管理、数据查询、数据分析、数据监控、业务分析、数据挖掘、数据报表、元数据、辅助功能等模块,为业务提供分析,为服务提供支撑。如格点数据入库,在检索到新的格点数据文件时,通过接口的形式发起数据写入请求,服务端接收到数据请求后对数据进行解析,提取格点数据的数据量、数据类型、数据范围、坐标系等元数据信息,将元数据信息和数据流统一存储到相关数据库。元数据接口主要给用户提供基本数据信息服务,包括数据的种类、数据配置、站点信息、表信息、字段信息等辅助功能信息的数据查询获取。通过数据分析接口用户可以对所需的数据要素进行累积、平均、天数统计、连续天数统计、对比分析等数据分析操作。

2.1.3 精细化格点产品

农业气象业务的发展越来越要求精准的、高时空分辨率的产品,以往以站点为主要信息源的产品无法满足高空间精度的需求,空间上从站点向精细化格点发展,已成为农业气象业务的必然选择。精准的农业气象业务基于观测数据、遥感数据、业务指标数据等多数据源,结合精细化格点预报产品和高精度的地形数据,利用成熟的业务技术模型对多种信息快速处理分析,生成精细化格点产品,为业务服务提供客观的指导产品。

在精细化格点产品制作流程中(图4),首先根据所要完成的业务,选取相关的站点观测数据,如作物发育期、气象要素、地理范围等数据,通过相关的算法(如距平、最大/小、天数等)进行数据加工处理,随后对加工处理后的数据进行地理空间插值,获得业务模型所需的格点数据;同时结合精细化格点预报数据、遥感数据以及业务指标(如干旱、寒露风、干热风、连阴雨等指标)等,通过相关业务模型的分析处理,最终生成业务所需的精细化格点产品。

2.1.4 可视化产品

数据可视化是业务服务的有效手段,通过地图、图形和图表等多种方式直观、便捷地为用户展示各类数据和产品。随着互联网、云计算和智能终端的发展,用户的需求越来越动态化、时效化和多样化,传统的点、线、面等可视化方式已不能满足这些需求,同时农业气象大数据具有高时效性、长时序性、格式多样性、空间尺度大、关联性强等特点,迫切需要基于Web端的数据可视化技术。共享平台通过三维可视化和图表可视化更直观、便捷地为用户展示数据和产品的时空信息,其中三维可视化采用Cesium组件,它支持丰富的地图数据服务(二维地图(2D)、哥伦布视图(2.5D)和三维地球(3D))和数据格式;图表可视化采用Echarts组件,它支持种类丰富的统计图、交互式强,能将数据关键信息采用多种形式直观表达,并可根据用户需求选择性展示数据。

共享平台利用接口调取分布式数据存储的站点数据、格点数据、文档产品等数据,利用WebGIS地图可视化、可视化图表、色标渲染等前端技术对数据进行可视化展示。如站点数据可视化通过调用数据访问接口获取可视化展示数据,获取数据后对数据进行解析,加工为标准空间可视化格式,通过获取色标等级对数据进行分级渲染,并以空间可视化形式进行展示;同时对数据增加时效切换、色标控制等操作,以及进行数据的图表制作(图5)。Web端的用户切换数据时效,共享平台根据设置请求对应时效数据,并将获取的数据加载到地图上;同时,根据请求的数据返回该数据的色标配置,Web端获取到数据色标配置信息后,解析色标等级,将数据渲染为对应等级效果。

共享平台采用直观可视化方式将农业气象大数据信息展示给国家级和省级用户,以便更直观地交互分析数据间的关系。共享平台对数据进行数据解析分级、图表制作、空间可视化等操作,实现了地图、折线图、柱状图、散点图、饼状图、格点图等多种方式展示数据。用户通过共享平台可随时浏览全国范围内任何省、市、县的温度、降水、日照、作物发育期、土壤水分等地面观测要素和农业气象要素的站点数据,也可浏览作物发育期、灾害监测、作物生长模拟等精细化格点数据,同时也可浏览作物实景、农田小气候、文档产品等多种格式的数据与产品。

图4 精细化格点产品制作流程

图5 农业大数据共享平台站点数据可视化流程

2.2 农业气象业务技术

2.2.1 农业气象条件监测分析

农业气象条件监测分析是根据农业气象业务的特殊需求,建立作物生长和气象条件等环境因素的相关性,判断某个时期(日、周、月等尺度)气象条件对作物生长的影响。它主要包括农业气象条件分析、作物生长状况监测、土壤水分监测等技术,是农业气象业务的基础。

农业气象条件分析常用的统计方法包括相关分析、回归分析、聚类分析、距平分析、比值分析等,比较客观、定量地反映出农业生产对象与气象条件之间的相关关系。光、温、水等因素是作物生长各阶段的重要因素,因而温度、降水、日照时数等气象条件分析是评价作物生长的重要指标。农业气象条件分析通过集成常用的统计方法,能对日、周、旬、月及任意时间段的平均气温、降水、日照、风速、积雪深度、土壤相对湿度等要素进行累计、平均、最大、最小、排位、对比等统计分析。

农业气象站观测作物生长信息,主要观测包括作物发育期、苗情、高度、密度等要素。通过观测数据中的发育期实况或发育期距平可监测当前作物发育期进程,苗情实况反映了当前作物长势,因而作物生长状况监测主要通过发育期、发育期距平和苗情来进行,为农业气象情报、关键农时农事气象服务、作物产量预报等业务服务提供支撑。

水分是一切生物维系生命的重要因素,水分过多或过少都会造成作物生理失调,针对作物各生育期对水分的需求,需要对土壤水分状况进行判断。目前,全国约2000多个业务化应用的土壤水分自动观测站,土壤水分观测数据经过质量控制[31−32]、GIS空间插值及实时对比等计算分析后,根据土壤墒情等级指标可以客观反映土壤水分的真实情况,为农业气象业务服务提供参考依据。

2.2.2 农业气象灾害监测预报

中国特殊的地理环境和气候特征使得气象灾害频发,对农业生产影响较大,农业气象灾害监测预报是农业气象业务的重点工作。农业气象灾害监测预报根据观测的农业气象条件、作物发育期、土壤水分等实况数据以及精细化格点天气预报数据,通过灾害指标和灾害模型运算,监测或预报气象灾害对农业生产的影响。灾害指标技术研究已较为成熟,均已发布了相关的国家标准[33]和行业标准[34−35]。经过多年的业务应用,多种指标、多模型综合集成判识[36]是较为成熟的方法。以农业干旱为例,国家气象中心通过集成降水距平、土壤相对湿度、作物水分亏缺距平、卫星遥感等多种指标构建了农业干旱综合监测、预报模型,实现农业干旱的逐日动态监测预报。目前平台可以对干旱、渍涝、低温冷害、霜冻、寒害、冻害、低温、低温阴雨、寒露风、干热风、高温热害等主要农业气象灾害进行监测预报,为防灾减灾和农业生产提供指导产品。

2.2.3 作物生长模型模拟

作物生长模型根据农业系统学原理,利用作物生长发育的观测资料、环境气象资料和农田技术条件等作为驱动因子,通过计算机模拟实现作物生长、发育和产量形成等基本生理过程的定量、动态描述[37−38]。目前,在国家级农业气象业务中集成了WOFOST、APSIM和WheatSM等较为成熟的作物生长模型,通过本地化参数因子调整,结合农业气象观测和土壤水分自动观测数据,实现对冬小麦、玉米、水稻等作物进行生长模拟,用于作物产量预报、灾害影响评估等业务服务。

2.2.4 农用天气预报

农用天气是指从农业生产角度分析、考虑和应用的天气,着重强调对农业生产活动和作物生长影响较大的天气现象或天气过程[39]。农用天气预报是根据当地农业生产过程中作物生长发育、各主要农事活动以及相关技术措施对天气条件的需要而编发的针对性较强的专业天气预报。经过多年的技术研发,农用天气预报业务根据农业生产的需求,结合天气预报、气候预测等多方因素,通过农业气象指标和农业气象评价方法,分析、预测未来天气条件对农业生产的影响,并提出针对性的措施和建议,为农业生产提供全过程的指导性服务,如春耕春播、夏收夏种、秋收秋种等关键农时农事活动的预报业务服务已在全国开展多年。

3 共享平台的应用

3.1 用户数据共享

共享平台可实时为用户提供包括站点数据和5km×5km格点数据的展示与共享。站点数据包括2412个站点的基础气象数据即日资料的平均(最高/最低)气温、20:00−20:00降水量、日照时数、最大风速等小时资料、24h变温和12h降水量等要素,10cm、20cm、30cm、40cm和50cm土壤水分自动观测数据(图6a),5cm、10cm、15cm、20cm、40cm和80cm地温自动观测数据(图6b),10种作物包括冬小麦、水稻、玉米、棉花和油菜等的生育期和长势观测资料(图6c、6d),农田小气候观测资料和中央气象台城镇预报资料等7大类140余种要素。可以根据需要分省、分区域、分站点查看要素渲染图,通过在地图上点击选择站点即可展示该站点所有关联要素的数值及其时序变化。也可以通过查询统计页面进行多条件组合查询,分站点、分区域对气象要素进行累计、平均、最大、最小等统计,并按时序进行排位。

格点数据为用户提供5大类产品的下载服务,主要包括农业气象灾害监测(干旱、渍害、高温热害、干热风、低温冷害、霜冻害等)(图7a、7b),作物生长模拟(作物叶面积指数、作物地上总生物量和作物穗重指数模拟)(图 7c),农用天气预报(春耕春播、夏收夏种和秋收秋种关键农时预报产品)(图 7d)、土壤水分监测和气象条件监测,用户可根据需求下载经空间分级渲染后可视化的格点数据图。用户还可在页面上通过浏览、查询、下载等功能,直接获得经汇总分析后形成的有关农业气象业务的文档产品,主要有农业气象周/月报、灾害监测评估、关键农时农事服务、特色农业、生态气象等。

3.2 业务产品共享

共享平台发布日、周、月等不同时间尺度的农业气象条件分析、农作物生长状况、土壤水分监测等产品,这些产品从单要素分析到综合分析,都紧密结合实际农业生产,客观、准确、及时地为各级用户部门提供宏观决策、指挥农业生产的科学依据;同时根据农业气象条件对农业生产的作用及提出的建议和措施,为农业生产者科学安排农业生产,因地制宜、积极有效地采用农业技术措施,充分利用有利的天气条件,避免或减轻不利和灾害性天气条件的影响,为保障农业高产稳产提供科学依据。

共享平台实时提供农业干旱、高温热害、低温冷害、霜冻害等多种农业灾害监测与预报产品,做到农业气象灾害监测、预报预警、评估信息的快速发布,及时、准确地为各级用户提供长期宏观调控和短期应变对策,最大限度地减轻灾害对农业生产造成的影响;同时使农业生产者及时获得准确的农业气象灾害监测、预报预警和评估结果,及时采取防御和减灾措施,减轻灾害带来的损失,促使农业气象灾害的防灾减灾由被动减灾向主动防灾转变。

图6 2022年4月5日10cm土壤水分(a)、2022年3月4日5cm土壤温度(b)、2022年4月3−9日冬小麦发育期(c)和2022年4月3−9日冬小麦生长状况(d)(缺港澳台数据,下同)

共享平台实时定期发布作物生长模型模拟、农用天气预报、国内外产量预报、粮食作物生育期气象评价等服务产品,开展对主要粮食作物生长发育、产量形成的定性和定量评价,提高了粮食生产过程中农业气象技术支撑能力。目前,共享平台发布基于作物生长模型模拟的产品主要包括冬小麦、春玉米、夏玉米、一季稻、早稻和晚稻等作物的相关精细化格点产品,为作物长势和产量评估提供叶面积指数、地上生物量和穗生物量等资料,为研究大区域作物生长、发育变化、产量形成的动态过程提供科学依据,同时为作物生长全生育期提供稳定、可靠、全方位、精细化监测预报服务。

3.3 服务效果

共享平台于2021年业务运行,部署在国家级服务器上,31个省级业务单位通过网络浏览器进行访问,运行性能稳定,达到很好的用户访问效果。

目前共享平台实时提供200余种农业气象数据和产品的在线浏览,打破了以往数据、产品的时空割裂和限制;实时快速地对农业气象观测、农业气象灾害、作物生长模拟、农作物实景和文档产品等多源农业气象数据进行全时间尺度、大范围、多层次、多要素的分析与展示;具备时间序列、柱状图、折线图、雷达图、三维和二维数字地图等多种方式灵活直观地展示数据的能力,同时采用符号等级、色斑分级等渲染方式进行数据表达;根据权限管理用户,用户可以实时更新、下载业务产品。

图7 2022年4月5日农业干旱综合监测(a)、2021年7月21日夏玉米农田渍害监测(b)、2021年8月23日晚稻叶面积指数(c)和2022年4月14−16日春耕春播农用天气预报(d)

共享平台打通技术、数据、产品和服务各环节,实现了农业气象业务一体化应用,为国家−省级用户提供了统一的数据和业务产品,提升了国家级和省级用户业务服务能力。

4 结论与讨论

4.1 结论

共享平台通过分布式大数据、集群管理和Web架构等技术,解决了农业气象多源海量数据统一存储、管理、实时共享、发布和可视化应用的难题。采用基于空间、时间等属性的灵活的数据供给,使各级用户可以真正体验到所见即所得、所得即所需的数据获取,可为用户提供高效便捷的网络化共享服务,增强了服务时效性。共享平台采用B/S架构,部署在服务器端,平台升级与维护只需在服务器端进行操作,大大节约了开发、维护及推广应用成本。同时,共享平台提供“云+端”服务,解决了国家级−省级两级用户和省级用户之间的数据和产品传输流程复杂、实时共享困难等问题。共享平台自2021年投入业务应用以来,已为31个省级业务单位提供200多种数据和产品的实时在线服务,实现了农业气象业务数据和产品的互联互通,推进了农业气象业务向集约化、网络化和共享化发展,实现了农业气象业务服务“一张网、一张图”。

4.2 讨论

随着人工智能、大数据计算与挖掘分析技术的发展,用户对在线实时数据分析的需求越来越高。共享平台可为用户提供数据与产品的网络可视化和部分格点数据下载,但尚未为用户提供实时的深度数据挖掘分析,如何实现农业气象在线大数据挖掘与快速智能分析是共享平台下一步的研究与应用发展方向。目前,共享平台主要展示国家级农业气象业务,业务虽然具有普遍通用性,但部分省级用户的特色业务未得到充分体现,考虑到省级用户的特色业务,未来会逐步提供数据服务接口与平台框架,便于省级用户访问底层大数据及研发基于共享平台的省级业务频道;随着共享平台的业务应用,用户访问需求越来越大,目前对省级用户进行权限管理开放,下一步需要对更多用户(如地县级业务单位用户)进行权限开放,使更多用户能访问共享平台。

[1] 太华杰.我国农业气象业务体系的形成、完善和发展[J].应用气象学报, 1995,6(4):505-508.

Tai H J.The formation improvement and development of agrometeorological operational system in China[J]. Journal of Applied Meteorological Science, 1995,6(4):505- 508.(in Chinese)

[2] 侯英雨,张蕾,吴门新,等. 国家级现代农业气象业务技术发展[J].应用气象学报, 2018,29(6):641-656.

Hou Y Y,Zhang L,Wu M X,et al.Advances of modern agrometeorological service and technology in China[J]. Journal of Applied Meteorological Science,2018,29(6): 641-656.(in Chinese)

[3] 毛留喜,吕厚荃.国家级农业气象业务技术综述[J].气象,2010,36(7): 75-80.

Mao L X,Lv H Q.Overview of national level agrometeorological operational techniques[J].Meteorological Monthly,2010,36(7):75-80.(in Chinese)

[4] 杨太明,马晓群,盛绍学,等.新一代可视化气象数据库管理系统[J].气象,2000,26(2):37-40.

Yang T M,Ma X Q,Sheng S X,et al.New generation of visual meteorological database management system[J]. Meteorological Monthly,2000,26(2):37-40.(in Chinese)

[5] 何彬方,杨太明,王海军,等.省级农业气象数据库及管理系统的设计与实现[J].中国农学通报,2009,25(24): 520- 524.

He B F,Yang T M,Wang H J,et al.Design and implementation of province agrometeorological database and management system[J].Chinese Agricultural Science Bulletin,2009,25(24):520-524.(in Chinese)

[6] 汤志成,高苹.农业气象数据库的研制[J].中国农业气象, 1996,12(6):17-23.

Tang Z C,Gao P.Development of agrometeorological database[J].Chinese Journal of Agrometeorology,1996,12 (6):17-23.(in Chinese)

[7] 张旭晖,孙涵,李亚春,等,农业气象数据库系统的改进及应用[J].中国农业气象,2003,24(1):41-43.

Zhang X H,Sun H,Li Y C,et al.An improved agro- meteorological database system and its application[J]. Chinese Journal of Agrometeorology,2003,24(1):41-43.(in Chinese)

[8] 刘丽,刘清,宋国强,等.基于GIS组件的农业气象信息服务系统[J].中国农业气象,2006,27(4):305-309.

Liu L,Liu Q,Song G Q,et al.Agro-meteorological information service system based on comGIS[J].Chinese Journal of Agrometeorology,2006,27(4):305-309. (in Chinese)

[9] 马渝勇,徐晓莉,宋智,等.省级气象信息共享系统的设计与实现[J].应用气象学报,2011,22(4):505-512.

Ma Y Y,Xu X L,Song Z,et al.The design and implementation of provincial meteorological information sharing system[J].Journal of Applied Meteorological Science,2011,22(4):505-512.(in Chinese)

[10] 赵四强,曹山明,殷建国,等.农业气象情报业务自动化系统[J].中国农业气象,1988,9(2):55-56.

Zhao S Q, Cao S M, Yin J G, et al. Agrometeorological information operational automation system [J]. Chinese Journal of Agrometeorology,1988,9(2):55-56. (in Chinese)

[11] 赵四强,庄立伟,王健林.国家级农业气象产量预报业务自动化系统[J].中国农业气象,1992,13(5):45-49.

Zhao S Q, Zhuang L W, Wang J L, et al. The National agrometeorological yield forecasting operational system [J]. Chinese Journal of Agrometeorology, 1992,13(5):45-49. (in Chinese)

[12] 王健林,赵四强.农业气象产量预报服务系统简介[J].气象,1991,17(7):23-26.

Wang J L, Zhao S Q, et al. Agrometeorological yield forecasting operational system[J].Meteorological Monthly, 1991,17(7):23-26.(in Chinese)

[13] 汤志成,武全岗,冯民学,等,农业气象情报预报系统[J].中国农业气象,1995,16(5):47-50.

Tang Z C, Wu Q G, Feng M X, et al. The variation features of grain yield in China in recent 40 years[J].Chinese Journal of Agrometeorology,1995,16(5):47-50.(in Chinese)

[14] 庄立伟,王馥棠,王石立.农业气象产量预报业务系统的研制[J].应用气象学报,1996,7(3):745-753.

Zhuang L W,Wang F T,Wang S L,et al.Development of agrometeorological yield forecasting operational system[J]. Journal of Applied Meteorological Science,1996,7(3): 745-753.(in Chinese)

[15] 王石立,庄立伟,刘庚山等,网络化农业气象信息服务技术研究[J].中国农业气象,2004,25(1):1-4.

Wang S L,Zhuang L W,Liu G S,et al .Study on agrometeorological information service techniques based on WebGIS[J].Chinese Journal of Agrometeorology, 2004,25(1):1-4. (in Chinese)

[16] 吴门新,庄立伟,侯英雨,等.中国农业气象业务系统(CAgMSS)设计与实现[J].应用气象学报.2019,30(5): 513-527.

Wu M X,Zhuang L W,Hou Y Y,et al.The design and implementation of China Agricultural Meteorological Service System(CAgMSS)[J].Journal of Applied Meteorological Science,2019,30(5):513-527.(in Chinese)

[17] 李轩,庄立伟,吴门新,等.基于Oracle的国家级农业气象数据库设计与实现[C]//全国农业气象业务服务技术交流论文集.北京:全国农业气象业务技术交流会,2014:79- 86.(in Chinese)

Li X,Zhuang L W,Wu M X,et al.Design and implementation of national agrometeorological database based on Oracle[C]//Papers on National Agrometeorological Service Technology Exchange,Beijing:Meeting of National Agrometeorological Service Technology Exchange,2014: 79-86.(in Chinese)

[18] 庄立伟,吴门新,王颖,等. QX/T 435-2018.农业气象数据库设计规范[S].中国气象局,2018

Zhuang L W,Wu M X,Wang Y,et al.QX/T 435-2018. Specification of agrometeorological database design[S]. China Meterological Administration,2018. (in Chinese)

[19] 汪华,李波,王彪,等.融合架构的分布式数据库技术在气象大数据平台上的应用时间[J].中低纬山地气象,2020, 44(5):93-96.

Wang H,Li B,Wang B,et al.Application practice of distributed database technology with fusion architecture on meteorological big data platform[J].Mid-low Latitude Mountain Meteorology,2020,44(5):93-96.(in Chinese)

[20] 熊安元,赵芳,王颖,等.全国综合气象信息共享系统的设计与实现[J].应用气象学报,2015,26(4):500-512.

Xiong A Y,Zhao F,Wang Y,et al.Design and implementation of China Integrated Meteorological Information Sharing System(CIMISS)[J].Journal of Applied Meteorological Science,2015,26(4):500-512.(in Chinese)

[21] 赵芳,熊安元,张小缨,等.全国综合气象信息共享平台框架设计技术特征[J].应用气象学报,2017,28(6):750-758.

Zhao F,Xiong A Y,Zhang X Y,et al.Technical characteristics of the Architecture Design of China Integrated Meteorological Information Sharing System[J].Journal of Applied Meteorological Science,2017,28(6):750-758.(in Chinese)

[22] 徐拥军,何文春,刘媛媛,等.气象大数据存储体系设计与实现[J].电子测量技术,2020,43(22):19-25.

Xu Y J,He W C,Liu Y Y,et al.Design and implementation of meteorological big data storage system[J].Electronic Measurement Technology,2020,43(22):19-25.(in Chinese)

[23] 罗敏宁,刘立葳.遥感大数据分布式技术研究与实现[J].应用气象学报,2017,28(5):621-631.

Luo M N,Liu L W.Research and implementation of remote sensing big data distributed technology[J]. Journal of Applied Meteorological Science,2017,28(5):621-631.(in Chinese)

[24] 贺雅楠,高嵩,薛峰,等.基于MICAPS4的智能网格预报平台设计与实现[J].应用气象学报,2018,29(1):13-24.

He Y N,Gao S,Xue F,et al.Design and implementation of intelligent grid forecasting platform based on MICAPS4[J]. Journal of Applied Meteorological Science,2018,29(1): 13-24. (in Chinese)

[25] Florian H.A REST-based open API architecture for cloud computing[C]. 2015 International conference on Advanced Management Science And Information Engineering (AMSIE 2015),2015:822-832.

[26] 章国材.气象云建设的研究与思考[J].气象与环境科学, 2015,38(4):1-11.

Zhang G C.Study and thinking on the construction of meteorological cloud[J].Meteorological and Environmental Sciences,2015,38(4):1-11. (in Chinese)

[27] 于洋. RESTFUL架构风格及其演变与发展[J].计算机时代,2020(4):10-13.

Yu Y.Review of RESTFUL architecture style and its evolution[J].Computer Era,2020(4):10-13. (in Chinese)

[28] 王婉,武鹏,郭学峰,等.基于智慧气象的数据接口的实现[J].气象与环境科学,2018,41(4):128-132.

Wang W,Wu P,Guo X F,et al.Implementation of data interface system based on climate smart[J].Meteorological and Environmental Sciences,2018,41(4):128-132.(in Chinese)

[29] 李琦,姚龙.基于REST架构的湖泊环境监测物联网平台[J].计算机工程,2016,42(11):27-31.

Li Q,Yao L.Internet of things platform for lake environmental monitoring based on REST architecture[J]. Computer Engineering,2016,42(11):27-31.(in Chinese)

[30] 方生,秦晓安,王睿.基于前后端分离技术的在线购物平台研究与实现[J].黄河水利职业技术学院学报,2021,33(4): 50-54.

Fang S,Qin X A,Wang R.Research and implementation on online shopping platform based on Web front-end and back-end separation technology[J].Journal of Yellow River Conservancy Technical Institute,2021,33(4):50-54.(in Chinese)

[31] 王良宇,何延波.自动土壤水分观测数据异常值阈值研究[J].气象,2015,41(8):1017-1022.

Wang L Y,He Y B.Research on outlier threshold of automatic soil moisture observation data[J].Meteorological Monthly,2015,41(8):1017-1022.(in Chinese)

[32] 陈金华,杨再强,杨太明,等.安徽省土壤水分监测预测系统[J].应用气象学报,2011,22(2):249-256.

Chen J H,Yang Z Q,Yang T M,et al.Real time observing and forecasting system for soil moisture in Anhui province[J].Journal of Applied Meteorological Science, 2011,22(2):249-256.(in Chinese)

[33] 吕厚荃,张玉书,李茂松,等.BG/T 32136-2015 农业干旱等级[S].北京:中国标准出版社,2015.

Lv H Q,Zhang Y S,Li M S,et al.BG/T 32136-2015 Grade of agricultural drought[S].Beijing:China Standards Press, 2015.(in Chinese)

[34] 霍治国,刘荣花,姜燕,等. QX/T81-2007 小麦干旱灾害等级[S].中国气象局,2007

Huo Z G,Liu R H,Jiang Y,et al.QX/T81-2007 Disaster grade of drought for wheat[S].China Meterological Administration,2007.(in Chinese)

[35] 霍治国,尚莹,王纯枝,等. QX/T82-2019 小麦干热风灾害等级[S].中国气象局,2019.

Huo Z G,Shang Y,Wang C Z,et al.QX/T82-2019 Disaster grade of dry-hot wind for wheat[S]. China Meterological Administration,2019. (in Chinese)

[36] Hao Z.Drought characterization from a multivariate perspective:a review[J].J Hydrol,2015,527:668-678.

[37] Li H,Jiang Z W,Chen Z X,et al.Assimilation of temporalspatial leaf area index into the CERES-Wheat model with ensemble Kalman filter and uncertainty assessment for improving winter wheat yield estimation[J]. Journal of Integrative Agriculture,2016,15(10):60345- 60347.

[38] 孙杨越,申双和.作物生长模型的应用研究进展[J].中国农业气象,2019,40(7):444-459.

Sun Y Y,Shen S H.Research progress in application of crop growth models[J].Chinese Journal of Agrometeorology, 2019,40(7):444-459.(in Chinese)

[39] 闵庆文.农用天气预报[M].北京:气象出版社,1988.

Min Q W.Agricultural weather forecast[M].China Meteorological Press,1988.(in Chinese)

Agrometeorological Big Data Sharing Platform Design and Implementation

LI Xuan, WU Men-xin, HOU Ying-yu, ZHUANG Li-wei, HE Yan-bo, SUN Shao-jie

(National Meteorological Center,Beijing 100081, China)

With the pluralistic development of modern agriculture and the rapid progress of information technologies such as big data, distributed storage, cloud computing and artificial intelligence, the agrometeorological services are gradually diversified, and the services are becoming improved refinement, and have better precision and intelligence. The spatial and temporal resolution of service products has been significantly improved, which have developed from weekly, monthly, quarterly and annual scale graphic products to refined gridded daily products. At the same time, the datum is growing explosively, and the demand for mass storage of data and products, rapid interactive analysis, real-time sharing and publishing is becoming more and more urgent. In order to improve the data analysis capabilities which include massive data rapid processing, multi-source data fusion and intelligent analysis, data mining, etc., and realize the sharing of agrometeorological data and products across the country, the National Meteorological Center established Agrometeorological Big Data Sharing Platform with browser/server mode using distributed big data technology (Hadoop), fusion of modern agrometeorological service technology and web architecture based on open source framework, which realized the distributed storage, sharing and management for multi-source agricultural meteorological data, and provided visualization of network data and products. The sharing platform was put into use nationwide in 2021, deployed on national servers to provide online service. The national and 31 provincial users can browse and query more than 200 data and products in 13 categories through the network. The sharing platform can share and exchange data between nation and province, which will form a unified application of agricultural meteorological big data sharing environment.

Agrometeorological big data sharing platform; Browser/server mode; Distributed storage; Visualization of data; Visualization of products

10.3969/j.issn.1000-6362.2022.08.006

李轩,吴门新,侯英雨,等.农业气象大数据共享平台设计与实现[J].中国农业气象,2022,43(8):657-669

2021−03−16

风云卫星应用先行计划(FY-APP-2021.0305);国家气象中心预报员专项(Y202118)

吴门新,博士,正高级工程师,从事农业气象研究,E-mail:wumx@cma.gov.cn

李轩,E-mail:lixuan@cma.gov.cn

猜你喜欢
气象作物可视化
纳米载体可缓解农药对靶标作物的负作用
中国农业科学院揭示大塑料和微塑料对作物生长发育和土壤健康的潜在影响
气象树
数据可视化设计在美妆类APP中的应用
思维可视化
吉林省省级作物种质资源保护单位名单(第一批)
中国气象“风云”
复变函数级数展开的可视化实验教学
复变函数级数展开的可视化实验教学
复变函数共形映射的可视化实验教学