一种基于Android 系统的大数据计算和存储平台

［刘勇 陆小慧］

1 研究背景

1.1 Hadoop

Hadoop 是一个由Apache 基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下，开发分布式程序，充分利用集群的威力进行高速运算和存储。

Hadoop 实现了一个分布式文件系统HDFS（Hadoop Distributed File System），HDFS 有高容错性的特点，并设计用来部署在相比小型机更为廉价的（Low-cost）PC服务器上；而且它提供高吞吐量（High throughput）来访问应用程序的数据，适合那些有着超大数据集（Large data set）的应用程序。HDFS 放宽了POSIX 的要求，可以以流的形式访问（Streaming access）文件系统中的数据。

Hadoop 框架最核心的设计是HDFS 和MapReduce：HDFS 为海量的数据提供了存储方式，MapReduce 为海量的数据提供了计算方式。

目前Hadoop 在大数据的通行市场上占据主导地位。基于开源免费、硬件廉价、开发便利这3 个原因使得Hadoop 市场份额逐年高速递增。事实上在软件的成本之外，硬件产生的经济成本更为可观，如何降低硬件成本是每一个应用运营商都在考虑并寻求解决方案的课题。

1.2 计算芯片

目前Intel 公司的CPU 占据着市场的主导地位，导致PC 服务器的CPU 价格居高不下，一颗服务器至强E3 型号的4 核CPU 处理器价格在1 500 元左右。而智能终端所用的CPU 处理器，如联发科MT6582 处理器只有42 元。这两者价格相差30 倍左右，功耗相差1 000 倍左右。而两者之间的性能差距，平均到单核上，至强处理器只有智能终端处理器的5 倍左右。

一台100 个智能终端组成的集群（如手机集群），成本可以控制在1 到2 万元，物理体积和一台普通PC 服务器相当，计算性能是一台PC 服务器的5～10 倍，功耗可以控制在PC 服务器的1/10 到1/20。……