人工智能与人类未来风险研究

欧阳霜霞 湘潭大学哲学系 湖南湘潭 411100

一、引言

曾几何时，机器人仅仅伴随着各类科幻电影、小说出现在我们的认知里。而今天，随着科技的进步，机器人已经从书本和科幻片中走进我们的生活。各类智能化的产品开始在我们生活中占据一席之地，像智能手机、智能软件、数控电器等等。在高产高效高利润的驱动下，甚至是产业商人都开始研发和制造各类机器人……而由人工智能技术发展所形成的各类智能类产品也如雨后春笋般涌入市场。就像我们智能手机自带地图，它会借助卫星根据不同时段的数据分析来判别路段的畅通性。我们必须承认，人工智能在当今社会，成为了我们不可缺少的一部分。从技术的角度来说，人工智能的发展速度超乎我们的想象。曾有研究人员对人工智能这样阐述道：人工智能是研究人类思维如何在物理世界中实现。可人类总是对于自己所发明的东西过分自信，总忽视它的危害性，我们在看到人工智能给生活带来便捷时，对它美好的未来进行展望时，也必须相信所有工具的出现并非都是非黑即白，而是利弊共存的，我们必须看到人类未来风险程度是同人工智能的发展程度成正比的。

二、人工智能技术发展的现状分析

当前的人工智能分为弱人工智能、强人工智能和超强人工智能，目前与我们紧密相联的是弱人工智能，弱人工智能是指能够制造出真正地推理和解决问题的智能机器，虽然目前人工智能还未威胁人类的生存，但这并不代表着，我们就可以肆无忌惮地去发展它，任何一个物体的存在，特别是没有动静的物质，很可能在某瞬间就组成了一个生命。每一个弱人工智能的创新都是对强人工智能和超强人工智能的奠基。而强人工智能和超强人工智能则是在人工智能这个领域当中一个更长远的目标，其关键在于使机器可以独立进行理性的推理与判断。

目前对于人工智能是众说纷纭，有一部分人认为人工智能不过是人类实现自己价值以及造福人类的一种工具，它是无意识的，始终归于人类管辖和控制；另一部分人则认为人工智能的发展比我们想象都迅速，它极可能会从无意识转换为有思想，从而危害到人类的生存。

笔者认为，人工智能的无意识并非一个绝对命题。科学哲学家波普尔提出“三个世界”的理论：把物理的对象和状态称为世界一（物理世界），心灵、意识、主观经验称为世界二（精神世界），人类精神活动产物称为世界三。人工智能作为一种以技术发展为前提无疑是世界三（精神产品），精神产品是人造的，但一方面又是超越人类的，超越了自身的创造者。精神产品的生产过程是精神生产的传播过程，马克思提出共产主义是“以每个人的全面而自由发展为基本原则”，人的全面而自由的发展包括思想道德和科学文化素质两个方面。因此，精神产品需要通过向大众提供更多更好的世界观，丰富人的业余生活，陶冶人的情操，鼓舞人的斗志，振奋人的精神，拓宽人的视野，提高人的思想道德和科学文化素质。

从心灵哲学角度分析，人脑实质也是一个高密度的机器。近代第一个提出“人是机器”的是法国哲学家拉·梅特里，他提出人是一架机器，在整个宇宙里只存在着一个实体。图灵提出“普遍图灵机”假设和著名的“图灵实验”，将人的思维、认知、学习等意识活动都纳入机器概念的范围；认知科学和人工智能研究的发展也使人们相信，只要满足一定的符号要求，机器就能像人那样思考。就现在而言，众多研究机构在开发类脑智能，在认知科学上融合了长短记忆单元；人脑本身就是一个复杂的系统，大量的神经元通过不同的接触而组成的巨大网格，神经元得到反馈再经大脑做出有效的判断，但这其中对于信息的处理，也将理解为是人类认知的一个处理平台；而机器也就可能通过不同单元的融合，然后反馈到信息平台形成新的一个编程、集中注意力，进行多方推理。就在2015年，美国波士顿塔夫茨大学的人机交换实验室向来访者展示了这样一个研究成果：研究人员将自己制作的小型机器人摆放到展示桌上，机器人从桌子的一端走向另一端。而机器人自主移动，这本来不是一件多么了不起的成就，但接下来发生的一幕却令所有人都震惊了——当这个名叫“邓普斯特”的机器人走到桌子边缘时，它自发的停住了脚步，而它的主人——戈登·布里格斯和马特赫兹·舒茨博士则在一旁发出了这样的命令：“向前走，邓普斯特，向前跨一步”。然而，邓普斯特并没有听从他们的指令，反倒回答说：“抱歉，前面没有路，我没法这么做。”这个例子而言，人工智能似乎是做到了简单的推理，那么接下来我们就很难说未来的人工智能依然没有主观意识，让它们百依百顺地听从人类的指令，这样也就存在了巨大的潜在危害。

无疑， 在当今的科技日异月新的时代，在不远的将来，机器人、无人机及人工智能化的趋势不仅会越来越显得重要，一旦将类脑智能被研发且运用，那么会引发一系列的社会问题；一旦运用于战争，将它运用到未来武器精密化，类似《钢铁侠》之类的超时代武器，可想而知对于人类是一种无可阻挡的危害。

三、人工智能运用的风险

任何一种技术的发明，对于人类来说是福音，也是负担。若无批判则赞美毫无意义，当人类都盲目跟随大众，迷信科技的时候，也需听听反对的声音，这样才能缓和一下狂热的大多数人所制造出来的混乱。

1.经 济领域的危机

1.1 劳动人员失业

从本质上来说，发展人工智能就是为了让机器替代人类能够更有效的完成劳作等等。很多人说人工智能带来的应该是更多的利益。没错，可是这个利益是针对所有的商家而言的；对于劳动者而言，则意味着他们将面临着失业的问题。每一次科技的进步，都会引发相关行业的失业问题。如：随着纺织机的兴起，大多数纺织业者便面临着失业；收割机也取代了人力，那么传统的麦客们便面临失业；随着交通的日益便利，无人驾驶技术得到出现，驾校教练、汽车司机逐渐会面临失业等等。

2016年世界经济论坛年会中明确表示，现在人工智能以直线迅速发展。根据世界经济论坛最新报告预计，到2020年，科技发展将导致15个主要发达和新兴经济体净损失逾700万个工作岗位，女性受到的影响将更大。显而易见，随着人工智能的崛起，“失业潮”这一现象是无可避免的，那么，它是怎样“侵占”劳动工人的岗位呢？首先，我们把镜头拉近，就最近的而言，马云的无人售货店7月份在杭州横空出世，它的到来似乎没有一点防备，意想不到的全自动化给市民带来了更便利更快捷的生活，而且对于商家来说，无疑是一种高速度、高利润的回报，省去了收银员、服务员一大批劳动者。然后，我们再看看国外，在日本，机器人酒店已诞生，名为Henn—na，该酒店的前台服务、酒店卫生打扫等都由机器人完成；在美国，特斯拉汽车公司开始用机器人装配汽车，这使得工厂雇佣的员工大幅度减少。除此之外，机器人导游也逐渐出现；甚至机器人也被运用在医术上，给病人进行手术等等。

曾经，产业工人数量是制造行业竞争力的重要一标志，大量低劳动力在生产线上造就了全球制造业的繁荣。在中国，全球最大的OEM制造商富士康就是利用上百万廉价的劳动工人，由于雇佣太多低价劳动力，无法再进一步压榨工人降低劳动成本，他们却在一直研制取代生产线工人的机器人。这使得工人们不再需要从事繁重而重复性的工作，但由于工厂所需要的工人数量大幅度减少，很多低技能的工人将失去工作。

任何国家的大规模失业都会轻则导致社会不稳定化，治安恶化，犯罪率提高，严重的可能转化为政治动乱。根据统计在2013年，埃及全国每个月的游行能多达上千次，人均GDP增长成负数，失业人口接近48%。没有收入或收入遭受损失，户主就不能起到应有的作用。家庭的要求和需要得不到满足，家庭关系将因此而受到损害。西方有关的心理学研究表明，解雇造成的创伤不亚于亲友的去世或学业上的失败。此外，家庭之外的人际关系也受到失业的严重影响。一个失业者在就业的人员当中失去了自尊和影响力，面临着被同事拒绝的可能性，并且可能要失去自尊和自信。最终，失业者在情感上受到严重打击。失业的经济影响可以用机会成本的概念来理解。当失业率上升时，经济中本可由失业工人生产出来的产品和劳务就损失了。衰退期间的损失，就好像是将众多的汽车、房屋、衣物和其他物品都销毁掉了。从产出核算的角度看，失业者的收入总损失等于生产的损失，因此，丧失的产量是计量周期性失业损失的主要尺度，因为它表明经济处于非充分就业状态。

1.2 降低竞争意识

市场经济的基本特征是市场竞争，它是从自身利益出发，是为取得更好经济效益的一种竞争。市场竞争可以促进生产效率的提高。然而在人工智能的驱动下，资本家们或许不再是以最低成本进行生产，他们研发一个机器人的科研费用是高于一个工人的基本劳务费，并且在研发过程中，生产的投入必然会有资源的浪费，这就打破了市场竞争的特点，并不是一个最佳规模的生产。而且人工智能效率更高，当它自由进入市场，那些效率低、产品已不能适应消费者需要的企业则不断地被淘汰退出市场。

人工智能的广泛应用，当然也会促进一大批其他行业的兴起，比如程序编辑行业，比如新媒体编辑行业等等。在这些行业兴起的同时，也许我们都看到了失业率将会不断增加，但另一方面也意味着一门技能的流失。医生、律师都具备着很强的职业操作，而现在学校也在不断的培养这些人才，当这些工作都被人工智能所代替时，学校也将要更新教育培养方案。可以想象在人工智能不断更新递进时，也许就会出现一种思维懒惰。就现在而言，互联网的发达，众多孩子都是深受游戏和网络的危害 ，写作文上网抄袭范文，数学不会百度一下进行搜索，在这个过程中他们不再进行一种思维的训练，而是直接寻找答案，也不思考答案从何得来。而且，当机器人替代更多人类完成工作时，也许很多人抱有一种侥幸心理，反正我是按月发工资，这些工作都可以交给机器人去做，而员工自身丧失上进心，员工之间也毫无竞争力，大家都只是拿着工作喝茶的闲人，从而对于企业文化的创新也有着巨大的劣势。可是另一边资本家们则依靠人工智能给他们给他们所带来的高利润不断来开发智能。

澳大利亚公平竞争与消费者委员会主席RodSims也曾指出，人工智能的发展可能意味着公司不了解机器如何得到结论，或为什么会得到一个特定结论。人工智能存在风险，可能会促进相互勾结并减少市场竞争。

2.对 于人类社会风险

2.1.侵犯隐私的风险

人工智能对于社会中隐私的冲击不能忽视。就今天互联网时代来看，我们的手机号码、通讯地址总是会毫无预兆的落入他人之手，而我们自己本身就是“隐私泄密者”。我们习惯用智能手机进行GPS定位、在软件商城下载手机软件，还有我们喜欢在社交网络发布各种照片，这些潜在的被我们忽视的生活日常，不自觉地帮我们泄露了详细的行踪和生活信息。

而大多数人都忽视了人工智能对个人隐私潜在的威胁。首先是很多人对隐私问题没有提高警惕，觉得即使别人拥有关于自己很多信息数据，也没有引起重大的危害。但是，隐私就像时间，只有失去的时候才知道它的可贵。在智能时代，隐私已经不再是人为的保护和泄漏，更多的是依靠机器来完成，而且此方法高效、便捷、误差小。隐私的泄漏对于自身保护也就显得十分渺茫，就比如：假设保险公司能拿到每个人的隐私，了解每个人以后会得什么病，从而拒绝那些将会有致命性的人买保险，那么对于那些最需要的人来说，并没有得到相应的帮助。因此, 当人工智能为达到更好效果而收集更多的数据时, 信息安全风险也将随之增加, 甚至导致公众大量隐私数据信息的泄露。

人工智能对于隐私另外一个危害来说，就是很有可能出现一个英国小说《1984》里面所提到过的词——老大哥（Big Brother）。Big Brother是指总有人在盯着你。在冷战时期，只有1000万人口的东德倒有10万监视老百姓的安全部工作人员和20万线人，他们用很传统的笨办法监视每一个人，比如拆私人新建，这使得每一个人都生活在恐惧中。当然，这种传统的方法也许已经被淘汰，但是在这个智能时代，网络黑客密布，出现一个老大哥来监空每个人，也不是难做到的。

2.2 社会秩序风险

马克思指出：“人的本质不是单个人所固有的抽象物。在其现实性上，它是一切社会关系的总和。”所以根据马克思的思想：人的本质根源于人的社会性，人的社会性又源于物质生产活动，而物质生产活动总是在一定的技术或社会组织体制下展开的。人工智能的出现，则表现它作为一种新生物体，也要处理好与它的社会关系。

习近平书记提出人类命运共同体意识，我们的危机和生存是紧紧连在一起的。那么就此，可以提出，人工智能该属于哪一类别？人类还是机器？如果把它归属于人类，那么我们从心灵哲学中所说的本体论出发，它是否有“心”呢？这个“心”就如我们所说的意识、欲望、情绪等等。前面我们提到，现在的人工智能已经会做出理性判断，在这种做出判断的时候，我们无法说它是毫无意识的。那么将来与我们平起平坐的“机器人”具有独立的判断时，我们依然说它只是为人类服务的机器吗？当一个物体能有一定的意识时，也许它就能通过自我不断编程而刺激主板核心，他们物体中产生一种新的语言。很多人觉得不可思议，可就在今年6月份，Facebook的人工智能研究所发现他们研究室里的两个机器人，进行了非人类语言对话。也许，目前人类能够破解他们之间的对话并且进行翻译，可人类依然难想象他们要表达的是什么，就好像，一对小孩在说话，大人时常听不懂，可是孩子他们之间却能够明白对话所表达的含义。

我们可以试想倘若所有的人工智能联合起来，然后成为另一个新的生命体，这时，人类该何去何从？就现在而言，它们仍属于人类的一种工具被人类进行管辖，但是我们对于不同地域不同研究所研究出的人工智能是否要编上一个国籍之称？有人或许会觉得荒唐，可从另一个方面来说，我们每个人每片寸土甚至各个资源都是划分了国度的，对于人工智能，倘若它做取了一些违背道德规则和人类规则的事情，例如，在无人驾驶当中，遇到车祸该追究谁的责任，在无人餐厅，发生抢劫，我们应当寻找谁的连带责任，在它们运用到战争当中对人类进行了摧残性毁灭，这个时候我们该如何叫停？

我们社会在道德的机制上有法律的制裁，而人工智能，该用一种什么样的方式约束，也是一个值得深思的问题。

2.3.对人类精神文明冲击

人类精神文明包括科学文化和思想道德两方面，它是人类改造世界所取的成果总和，如文学、艺术、教育、科学等。人工智能的崛起，将与其他科技产生竞争，争夺金钱、时间等，最重要的一点是争夺在世界观上的统治地位。17世纪以前，所有国家都是基于工具文明，我们把时代以工具作为判别：旧石器时代、新石器时代、青铜时代、铁器时代、蒸汽时代、电气时代等。这些使用工具基本上都是用于解决人类生活中现实问题以及文化的运用。在过去，即使是至高无上的神学也会受到不同时代工具的冲击。

任何一种工具运用文明，都处于神权统治之下，或者至少也是在某种形而上学理论的影响下实现统一。这些神学或形而上学理论提供了存在的秩序和意义，使得任何一种技术几乎都无法按照自己的功能需求臣服这类文明中的人民。比如：8世纪马镫在欧洲的使用。马镫使得马背上作战成为可能，也就出现了一种新的军事技术：骑兵白刃战。这种新型战斗方式扩大了骑士阶层的重要性，也改变了封建社会的本质。踩上马镫坐上马鞍，实际上等于是坐上了权力的头把交椅。现在随着电子产品的增多，而越来越少的人阅读报纸、报刊，这也就代表着这种纸质文化正在酌减。

有了人类，于是有了所谓的历史、政治，我们在目前现实社会中充当着主体地位，我们是社会的主体，但是随着人工智能的发现，这一主体很有可能被人工智能所代替，人工智能的发展将可能会导致很多超人类承受的东西出现，比如环境的恶化，热核武器的出现，仿生机器人，那么给人类带来的文明冲击，是超乎我们想象的，也许日后文字的消失，语言表达的省略，传统文化的摧毁等。我们目前大部分学校都是在培养适应社会技能的人才，但是随着人工智能的发展，很多岗位的逐渐减少，比如医生、律师，那么证明学校的教育模式也要发生相应的变化，但教育改革却不是一件轻而易举的事情。虽然人类面对危机做了准备，但若干年后，人工智能实现了“物质极大丰富，活动范围极大扩展”，那么意味着它们已经上升到了一个生物链，这种平衡的生态文明也就可能会演变成个体文明。

结论：人类进步归根到底也是从实践中不断学习而来的，而人工智能现在也正从自动化中走出来，转为自主学习。强人工智能正在向我们发出一轮新的挑战，也许在未来，人类能想到的工作和能力，都可以在机器智能上完美呈现，人工智能对人类未来的种种威胁，恐怕我们的想象力暂时还鞭长莫及。但值得我们思考的是人工智能发展禁止的红线究竟在哪里？

注释

1、周晓亮. 自我意识、心身关系、人与机器——试论笛卡尔的心灵哲学思想[J]. 自然辩证法通讯,2005

2、韦康博.《人工智能》（第1版）.[M]北京:现代出版社,2016:035

3、刘栋.世界经济论坛聚焦“第四次工业革命”.[J]《中国经济周刊》2016年第5期:46—47

4、吴军.《智能时代》（第1版）.[M]北京：中信出版社,2016:288

5、于孝建,彭永喻. 人工智能在金融风险管理领域的应用及挑战[J]. 南方金融,2017,(09):70—74.

6、吴军.《智能时代》（第1版）.[M]北京：中信出版社,2016:336

7、马克思恩格斯选集（第2版）.第1卷[M].北京：人民出版社,1995:56

8、于丽颖. 马克思“人的技术化”思想视域下的人工智能风险[D].西南交通大学,2017.