网络信息生态系统中的虚假信息：检测、缓解与挑战

Amrita Bhattacharjee 舒 凯 高 旻 刘 欢

1(亚利桑那州立大学计算机科学与工程系 美国亚利桑那州 坦佩 85281)

2(伊利诺伊理工大学计算机科学系 美国伊利诺伊州 芝加哥 60616)

3(重庆大学大数据与软件学院 重庆 400044)

在过去的几十年里，随着计算硬件的发展，人工智能研究突飞猛进，智能方法被应用到医学、环境技术、农业等不同领域.利用人工智能解决社会经济、政治甚至文化问题具有巨大潜力，因此学术界和工业界的专家聚集在一起，形成谷歌AI(1)https://ai.google/social-good/、微软(2)https://www.microsoft.com/en-us/ai/ai-for-good、国际电信联盟(ITU)(3)https://aiforgood.itu.int/等组织机构并启动人工智能项目.

在人工智能应用中，信息素质(information literacy)领域受到日益重视，尤其是在社会媒体检测和缓解虚假信息[1].根据国际电信联盟的报告[2]，2019年互联网用户已达41.3亿，占全球人口总数的50%以上；在社会媒体平台中，脸书(Facebook)是使用最广泛的平台之一，2018年用户已达22亿.除Facebook外，还有其他如Twitter，Reddit等可以发表个人观点的社会媒体平台，这些平台是不良用户散布虚假信息的重点场所[3].大规模的网络虚假信息可能会主导舆论，使人们两极分化，甚至可能威胁到公共卫生、民主和国际关系[4-5].

社会媒体上虚假或欺骗性的内容以不同的形式存在，并具有不同名称，如图1所示:

Fig. 1 Types of false or deceptive online content图1 虚假或欺骗性的网络内容的类型

其中，误传信息(misinformation)[6]通常指无意传播的错误或虚假信息，被视为“诚实的错误”.虚假信息(disinformation)是指信息因别有用心的动机而故意传播，无论是政治上的、经济上的，或者仅仅以煽动人们为目的.这些信息通常是捏造的，还可能……