信息熵在日益复杂的世界中的重要应用

高剑波,刘飞燕,张建方

（1.北京师范大学地理数据与应用分析中心，北京 100875；2.杭州城市大数据运营有限公司，杭州 310000；3.中国科学院大学经济与管理学院，北京 100190）

1 引言

我们生活在一个信息时代吗？若把增加知识和减少不确定性的任何东西都视为信息，那么答案显然是肯定的，以下事件也无疑支持了这个答案：

（1）存储设备从144KB 的软盘，100MB 和250MB的Zip驱动器，发展到几十个GB的优盘；

（2）Google，Amazon，以及Facebook 等新兴社交网络公司的巨大成功；

（3）互联网上越来越多的免费音频、文本和图像；

（4）互联网上呈指数增长的基因组学、蛋白质组学、地球物理学、天体物理学、和其它科学的数据正在给科学和技术的众多领域带来革命性变化；

（5）Google Books 项目把过去人类出版书籍的4%数字化了［1‑3］，GDELT(Global Database of Events,Language,and Tone）项目则把全世界所有英语和非英语的新闻媒体的数据收入其中［4］。

信息熵的概念对以上所有事件的发生都起了重要作用。特别是，通过遥感技术（尤其是人造卫星）获得的地球物理数据对天气预报的日益准确起了主要作用。

信息熵是重要且普遍存在的，这也使好奇之士不禁要问，信息熵与Boltzmann(波尔兹曼）和Gibbs (吉布斯）的热力学熵之间有什么关系。由于热力学熵的概念最初是被发明出来用于描述气体粒子的运动，所以讨论信息熵和热力学熵之间的关系似乎限定在非生命和唯物论的科学范畴才比较好（如文献［5］）。然而，这个策略不太可行，科学和技术都在向更小和更大的尺度发展，而且世界内部的关联越来越紧密。为了更好地解决新兴的科学、技术和环境问题，需要讨论信息熵的起源，找出信息熵和热力学熵的关键区别，理解信息熵在复杂性理论（包括混沌理论和分形理论）中的作用，推测信息熵可能会起重要作用的新领域。……