云时代的高清存储

2015-12-31 11:36何遥
中国公共安全 2015年20期
关键词:存储设备监控系统

文/本刊记者 何遥

作为大数据应用中的数据来源,云存储的应用趋势体现于安防视频大数据应用的大规模发展,并为应用的开发提供更准确、高效的数据输出结果。本期栏目邀请到几位安防行业的资深专业人士,共同探讨高清存储在云时代的发展。

本期嘉宾:

深圳海云海量信息技术有限公司董事长 刘 维

天津天地伟业数码科技有限公司产品总监 程岳寅

浙江宇视科技有限公司存储拓展部部长 许钟生

希捷科技中国区云业务客户技术支持高级经理 农天使

浙江大华技术股份有限公司产品经理 何寿刚

杭州海康威视数字技术股份有限公司售前工程师 张 伟

云存储风起云涌

随着安防监控高清化、智能化的来临,安防数据呈爆炸式增长。传统的存储方案在大数据时代已明显跟不上发展步伐。云存储的应用,在系统容量、功能应用以及智能化方面,弥补了传统存储的不足。

刘维:传统的存储是把所有的数据集成到单一的存储体系之中,如果监控视频图像信息采集点过多,单台服务器承载量有限,就造成建设成本、管理成本、维护成本、能耗成本的增加;同时视频监控系统往往采用回滚写入方式,这种无序的频繁读写操作,随着使用时间的增加,将严重影响整体存储系统的读写性能,甚至导致无法写入新的视频数据,所以在面临大数据时就显得捉襟见肘。云存储是一个以数据存储和管理为核心的云计算系统,可以满足数量众多的用户即图像采集点,存储容量无限制的扩容,并做到简便易行,同时可以拥有线性增长的吞吐性能这也是传统的存储架构无法达成的目标。云存储有以下优势:

客制化:针对不同的IT架构与应用方案提供单一的云存储服务方案,这主要针对于私有云。私有云不但能为企业用户提供最优质的贴身服务,而且还能在一定程度上降低安全风险。

成本低:数据存储的成本相当高,为了减少重复建设、减少数据安全风险,把数据转移到云存储系统上,让云存储服务提供商来为他们解决数据存储的问题。这样就能花很少的价钱获得最优的数据存储服务。

安全方便:把数据委托保管在云存储上,不需要担心数据的安全性、兼容性。对数据采集点的增加也不需要担心存储的扩容问题,云存储的扩容非常简单,服务商只需在后端增加存储设备即可。

程岳寅:云计算、云存储和大数据将对视频监控行业带来存储架构、虚拟化、安全和高效处理四个方面的变化。

首先,大数据呈现出的典型特征是4个V:规模(volume)、速度(velocity)、类型多(variety)、价值密度低(veracity)。大数据的特征对存储容量的总体拥有量需求激增,海量存储模式也从传统的集中存储式架构发展到分布式存储架构,这种分布式架构,在多副本、网络RAID技术、快照技术驱动下,实现海量存储的高可靠、大并发能力,推进了存储从设备供应模式到服务模式的升级和转变。

其次,虚拟化技术在存储服务能力建设上将继续不断发展,升级模式从SCALEUP向SCALE-OUT模式发展,为无处不在的存储资源的调度与管理、存储资源的在线扩容升级、数据持续保护、存储服务不间断等实现有力的支撑。虚拟化,一方面大大简化应用环节,节省客户建设成本,同时提供更强的存储和共享功能;另一方面解决了存储空间的浪费,可以自动重新分配数据,提高了存储空间的利用率,同时具备负载均衡、故障冗余功能。

再次,安全方面实时计算和存储,对存储设备性能、存储网络性能、存储资源配置简化性要求越来越高。在复杂的存储服务中,基于虚拟化所构建的混合存储系统,系统的自动分层存储能力尤为重要。伴随闪存的成本不断降低的市场,市场上也有基于全闪存阵列产品的出现,基于虚拟化下的存储资源自动化分层,实现数据分层存储,并迁移的策略,大数据的实时性、安全性不可或缺。

最后,面对结构化数据、非结构化数据、半结构化等元数据的处理机制,云存储管理可以实现自动化和智能化,所有的存储资源被整合到一起,客户看到的是单一存储空间,提高了存储效率;云存储能够实现规模效应和弹性扩展,降低运营成本,避免资源浪费。

何寿刚:云存储针对的是海量数据存储。随着高清时代的到来,手机、相机、摄像头等大量的采集设备采集的图片、视频数据分辨率往往都是100万像素以上的,对应的图片、视频数据大小、存储容量也在不断的增加。

统一管理能力。传统的存储设备往往都是以单设备或者说设备堆叠的形式存储,各个设备之间相互独立,无法做到统一的管理和维护;云存储是将各个独立的存储设备通过软件进行整合,所有存储设备的容量进行整合,提供统一的虚拟化存储池给上层业务使用。

高容错能力。传统的存储设备一般采用RAID、设备级的N+M热备进行容错,容错能力较弱,无法解决RAID本身的局限,如一个RAID 5阵列坏3块盘时,整个阵列的数据就丢失了。云存储可以很好的解决这些类似的问题,能够从硬盘、节点多个层面进行多维度的容错,如N+M:b纠删码、网络RAID等。

无缝扩容能力。传统的存储在扩容时,需要进行业务系统的迁移,而云存储只需要进行设备简单的添加,无需任何业务的迁移。

农天使:数据备份、归档和灾难恢复是云存储的三个最重要用途。云存储管理可以实现自动化和智能化,所有的存储资源被整合到一起,客户看到的是单一存储空间;提高了存储效率,通过虚拟化技术解决了存储空间的浪费,可以自动重新分配数据,提高了存储空间的利用率,同时具备负载均衡、故障冗余功能;云存储能够实现规模效应和弹性扩展,降低运营成本,避免资源浪费。

刘 维深圳海云海量信息技术有限公司董事长

程岳寅天津天地伟业数码科技有限公司产品总监

张伟:目前,安防行业传统存储主要分为两大类:一类是针对小型监控规模本地存储,通过DVR/NVR设备接入就近前端,录像数据被存储在离摄像机最近的地方。此类型存储主要适用于小型规模的监控系统使用,系统存储容量较小,后期升级扩容存在局限性;对于有一定规模容量存储需求,通常采用集中存储方式,常见的方案主要有SAN、NAS存储架构。SAN具有独立存储网络组建方式,在扩展上具有一定的灵活和安全性,但存储服务器的转发性能容易成为数据转发瓶颈,各存储节点之间相互独立,系统扩容容量有上限。NAS系统提供的是一种共享文件夹的访问方式,可移植性良好,但在大数据量访问和系统规模扩展时系统性能会大打折扣。

云存储通过其分布式处理的存储架构,实现自身系统容量不断扩展的同时,存储性能随之呈线性增长。将系统所有的存储资源统一整合,对外提供统一的存储资源虚拟池,大大提高了存储效率和存储空间利用率。

在安防行业中,云存储另一优势体现在针对大数据平台,提供切合的系统支撑,以及根据安防应用特性对自身进行改造和优化。例如海康威视视频云存储针对视频数据长时间不中断生成以及周期覆盖等特性,创造性开发流式数据结构,将视频数据以更高效、更切合方式进行存储,使数据存储效率更高、数据检索更快、系统长期使用性能不下降。云存储将数据的关键信息进行初步分析后联同数据一起存储。这样在数据进行智能分析和应用扩展时将不再受到制约,更利于安防大数据的发展。因此随之而来的安防创新也会更为灵活与丰富,海康威视视频云存储与海康威视smart前端以及平台之间协同,可提供区域入侵检测、图片对比检索、视频浓缩等丰富的安防应用。

许钟生:最近几年,各行各业安防视频监控摄像头的数量不断增加。一个大学的平安校园建设,摄像机从1000个~3000个不等,一个中等规模城市的平安城市建设,摄像机数量可能超过1万个。1000路的1080P视频图像存储容量已经达到了1个PB(4M码率,24小时不间断存储30天),而1万路的1080P视频存储容量超过了10个PB(4M码率,24小时不间断存储30天),安防视频监控存储已经进入了存储P时代。

单台IP SAN存储设备的性能和扩展性基本可以满足PB级以内的视频接入和图像存储需求,但是要接入成千上万路高清1080P,甚至是4K摄像机,存储几十PB、甚至上百PB的数据,无论是性能还是容量都根本无法应对,其根本原因在于单台存储设备无法实现其性能与容量的线性增长。

而采用多台IP SAN存储设备叠加的方式勉强实现视频接入和图像存储需求时,由于多台存储设备间相互独立,缺乏有效的数据整合与协同处理能力,其实也额外带来了一些问题:如几十台、上百台的存储设备其管理难度非常之大,由于不同存储厂商的管理接口和协议各不相同,安防视频监控平台厂商在应对第三方存储设备管理时将变得异常困难。

如果按照简单的多台存储设备叠加方式部署的视频监控系统,可能先期建设的存储设备已经满负荷运载,而后期建设的存储设备因为考虑系统扩展性有一定的性能和存储空间冗余,而这部分性能和存储空间冗余既不能用于共享也不能用于故障切换。

应需而生的云存储技术能够很好的解决上述问题。云存储利用集群化、虚拟化、分布式文件系统等技术对整个系统内的设备资源、带宽资源、存储空间资源等进行统一整合,从而为用户提供大容量、高性能、高可靠的透明存储服务。

挑战与突破

视频监控存储技术相对于其他行业对存储系统的要求,有其独特性。监控点多、摄像头数量多、监控时间长、采集数据的时间往往长达几个月等,从而对存储系统的容量、性能、稳定性等方面有非常严格的要求。

程岳寅:近两年来,云存储技术和应用已经逐步落地,在政府、公安、政法、广电、能源、企业等均已有项目实践。但是云存储仍然面临一些问题:

·云存储硬件系统与Paas层面应用软件的性能调优、数据安全保障;

·政法、公安等专网对云架构的支持与适应;

·云存储系统与大数据的结合。

可预见的未来,视频监控行业中最为关注的三项技术,会持续突破:

视频浓缩检索技术,主要是利用图像处理(包括视频浓缩、摘要、复原等)、模式识别、海量数据分类存储以及搜索等技术,对海量的存储录像等原始信息进行分析和挖掘,对于目标特征、目标行为、目标间关联关系这三大类信息内容,形成各种分类的特征信息库、元数据和索引等,并提供统一接口供外部应用进行搜索,以期通过有限的线索,达到案件快速关联和定位。

视频图像信息库建设,目前应用比较广泛的是卡口和电警的应用。由于车牌识别技术的日趋成熟,通过车牌、车牌颜色、车身、车身颜色、车辆类型等特征识别,把车辆图片、车辆信息、车主信息、盗抢车辆库等结合起来,可以有效地进行车辆查找、布控和案件线索搜索。

海量数据的处理、分析、检索和视频智能分析技术,把海量的视频数据进行浓缩、提取特征摘要、减少了存储空间。如1小时的视频录像,通过特征值方式的视频浓缩,可以把录像压缩到10分钟左右。同时,视频图像信息库有别于传统的关系数据库模型,针对结构化,半结构化和非结构化数据,通过数据的多个副本分布式保存方式,可以有效节约存储空间,关键数据的二次备份,使系统架构更加稳定和可扩展,并且提供安全的负载均衡和容错机制。

农天使希捷科技中国区云业务客户技术支持高级经理

何寿刚浙江大华技术股份有限公司产品经理

许钟生:云存储技术由于刚刚兴起,存在诸多方面的问题:

第一、云存储技术没有统一的标准,各厂商都在按照自己的理解和基于不同业务需求推广自己的产品,真正使云存储技术完美贴合安防视频监控业务仍需时日。

第二、云存储产品刚在方兴未艾之时,却已陷入价格之战中,对云存储技术发展存在不利因素。

第三、云存储的数据安全性需要进一步提升,尤其是面向大众消费的民用安防视频监控接入公有云存储,隐私性和保密性应该被严格关注。

何寿刚:目前公有云在安防行业主要还是借助于互联网公有云平台,如大华的乐橙产品,借助的就是阿里云。公有云在安防行业主要面临的挑战是投入产出比的问题,公有云需要海量资金的投入,而且必然需要面对现在还无法解决的公有云安全性问题,对比投入产出可以说微乎其微,所以我们只有等待相应的技术变革以及国家政策的支持,才能在安防行业公有云铺开,公有云肯定是未来安防行业的趋势。

私有云在安防行业中发展趋势比较迅猛,特别是政府类部分。私有云没有一个固定的标准,每个厂家的私有云都是很封闭的,大部分的无法兼容其他厂家的存储设备,容易被一家存储厂家绑死;私有云如何兼容其他厂家的存储,或者说如何具备开放性,是目前最大的问题;最好能由权威组织定位一套私有云的标准,或者厂家基于标准协议(如ISCSI)定义出对接原则。

农天使:由于云技术在安防领域的应用,更多更大型的更智能化的联网系统得以实施。云计算让监控系统结合大数据的分析应用,实现更智能化的事前预警、事中跨网联动处理和事后快速检索。作为部署云安防的重要部分,云存储是大量高清视频内容智能化分布和扩展的基石。在当今监控高清化、智能化的大背景下,对存储的要求也是越来越高,除了高容量之外,高性能、高密度、低能耗也凸显成为对存储系统的要求。NVR或IPSan将会成为云存储系统中的关键存储结点。随着网络技术的发展和普及,目前,视频监控存储技术已经发展到了网络多媒体监控系统。伴随高清监控领域的普及,云技术的应用是让视频监控行业的发展更上一个台阶。网络多媒体监控系统以网络为依托,以数字视频的压缩、传输、存储和播放为核心,以智能实用的图像分析为亮点,并与报警系统、门禁系统整合到一个使用平台上,引发了视频监控存储技术行业的一次技术革命,迅速受到了安防行业和用户的关注。

为满足日益增长的高清监控图像存储需求,希捷推出第七代监控硬盘,最高容量可达4TB,能够存储480小时的高清内容,是专为监控应用而设计的业界最高容量的硬盘。该硬盘为扩展视频存储而设计,包含旋转震动(RV)传感器,可减少多硬盘运行环境中旋转振动对硬盘性能的影响,保证在配备16块硬盘的系统中稳定运行。

张伟:作为未来安防存储发展的一种趋势,云存储厂商正在将检索、应用、分析和云存储相结合,以便能够向企业提供一系列的数据服务;但现阶段,云存储的发展状况仍有其需要面临挑战的地方,主要体现在对网络带宽、数据安全、数据深入挖掘、场景合理应用等几方面:

网络带宽:云存储的部署和性能优势体现,很大程度上取决于网络带宽速率。只有宽带网络得到充足的发展,使用者才有可能获得足够大的数据传输带宽,实现大容量数据的传输,真正享受到云存储服务,否则只能是空谈。目前随着各大运营商“光进铜退”战略,光纤逐步向用户端延伸,前端高清码流可通过光纤高带宽传输;后端云存储随以太网技术发展,端口速率已从GE、10GE向40GE速率发展,为云存储发展可提供高速传输通道。但目前,大带宽、高速率的网络环境,在实际现场应用中,仍还需逐步通过网络升级改造才能实现。

数据安全性:从“云”概念的诞生,安全性一直是企业对“云”平台实施的主要考虑之一。同样,在云存储方面,许多用户对云存储的安全要求甚至高于对功能和应用的期许。

存储数据需求挖掘:云存储不仅仅是存储,更多的是数据价值分析和应用。大数据的核心诉求是对数据内容的分析和价值的挖掘。在多种数据类型中结构化数据是最便于提取到信息价值的,而以视频数据为代表的非结构化数据的提取难度则是非常大的。整个大数据体系中,存储系统处于最底层,其保留的是大量未经分析的基础数据,因此在大数据环境下云存储主要难点和挑战就在于同其他系统的配合和支撑上。云存储不仅需要满足高效的数据存储和数据输出等功能,还需要提供相关存储应用服务。

场景应用扩展:安防行业云存储是未来存储发展趋势。从目前行业云存储部署来看,海康威视视频云存储以其统一、高效、直存的优势,在系统架构上能实现最大扁平化;同时,前端直存优势,在成本上也节省不少中间节点设备投资。在一些中、小型项目,云存储价格会比一般NVR、IP-SAN整体成本会偏高。海康威视针对中、小型项目开发视频微视云存储系统。在原云存储系统中,取消元数据服务器节点成本,实现存储节点自治管理,实现云存储系统特点和优势。目前,海康威视从市场需求和应用环境的深入分析,开发视频微视云存储、视频标准云存储、视频分散云存储、视频互联云存储四大云存储解决方案。

规模化应用将成趋势

云存储已经成为未来存储发展的一种趋势。云存储服务商正在将各类搜索、应用技术和云存储相结合,以便能够向企业提供一系列的数据服务。

张 伟杭州海康威视数字技术股份有限公司售前工程师

何寿刚:公有云在互联网等领域会继续高速发展,私有云在监控行业会更加迅猛的发展。随着分辨率不断的提高、存储的容量再不断的增加;大数据应用的发展,对存储性能要求越来越高;数据可靠性要求不断的提高,传统的RAIDN+M备份已经无法满足对存储可靠性的保障;云存储能够完美的解决上述问题,因此它在未来两年内的迅猛发展是必然的。

农天使:有关行业数据表明,2015年全球云计算市场预计可达1300亿美元,年增长率为20%左右。而IDC的预测也显示,云存储市场的前年比将增加10%。

希捷拥有广泛的云存储产品组合,包括经过优化适用于各种云计算应用的希捷1200企业级固态硬盘、希捷企业级10K和15K超能盘和希捷企业级Turbo固态混合型硬盘,专为云存储设计的希捷监控硬盘、希捷企业级2.5英寸和3.5英寸海量盘、以及为中小企业量身定制的希捷商业级网络存储NAS系列。此外,希捷推出的Kinetic开放存储平台也能够重新定义云存储基础设施,提供更简单经济的云架构。

张伟:云存储的规模性应用是安防存储市场的一次革新,打破了传统存储仅仅停留在硬件设备简单叠加应用。云存储是通过系统软件,将大量硬件设备无缝的联合,两者间相互配合、协同工作。完成对外提供一个统一的系统服务。云存储将安防存储市场应用提升到一个更为严格、更加科学的新高度。

未来两年,IP监控存储设备在高清化、智能化、融合应用等方面会加剧竞争。安防存储行业也将向着大容量、多种存储模式并存、系统化、智能应用化等方面不断发展。

安防行业中云存储作为未来主要存储形态,应用会越来越广泛和成熟。云存储和云计算、大数据之间有千丝万缕的关系。在前端视频向高清化、IP化,以及4K应用的普及中,视频信息数据将会呈爆炸式增长,如何对海量数据进行高效存储、分析、挖掘、应用,依然在未来几年是安防行业共同探讨的热点话题。未来云存储将针对百PB、甚至EB的数据体量进行统一存储、高速输出,加之嵌入基础的智能算法进行初步数据筛选,将有利于大数据分析和挖掘的整体应用,对平安城市、智慧城市的整体建设和运行效率提供良好的支撑。

程岳寅:云计算和大数据应用未来势必对安防行业有深刻的改变和影响,尤其在智慧城市行业和交通行业。交通方面海量数据处理需求,智能交通管理系统可以在海量数据、恶劣网络环境和复杂业务处理情况下,实现大量图片、车辆数据、视频数据的时时网络传输和快速持久化存储,同时对任意站点的图像进行显示,对任意站点的视频进行流畅播放、实时进行比对报警,快速进行多条件检索,并且将各类多媒体数据和车辆数据合二为一。智慧城市方面公安部门可以利用相关技术进行犯罪嫌疑人追查,可通过输入嫌疑人照片进行人脸特征识别并在所有视频中寻找该人脸;犯罪嫌疑车辆追查可输入嫌疑车的照片或颜色车型等相关特征在所有视频中寻找;人车物的轨迹分析即在所有视频中按照特征查找指定的人车物并绘制其时空轨迹;车辆的首次入城分析等等。

随着“互联网+”的逐步落地,相信在政务、政法、智慧等领域,混合云、私有云的应用会越来越广泛。

刘维:监控云存储将是未来的趋势,如海云海量在山东济宁市建设的智慧城市项目,完全就是云存储的方式,将整个城区的3000多个不同应用的视频点数据通过网络全部纳入到中心数据库机房,并有效的进行数据分析,各个应用部门通过机房数据库中心进行查看、访问,避免了重复建设。未来的云存储将是监控行业的首选,是智慧城市、平安城市的首选,市场潜力巨大!

猜你喜欢
存储设备监控系统
Smartflower POP 一体式光伏系统
The Great Barrier Reef shows coral comeback
WJ-700无人机系统
基于PowerPC+FPGA显示系统
你被监控了吗?
Zabbix在ATS系统集中监控中的应用
连通与提升系统的最后一块拼图 Audiolab 傲立 M-DAC mini
浅析铁路视频监控存储设备设计
科学训练监控新趋势——适时监控
Windows环境下禁用USB存储设备程序设计与实现