人工智能与单向度的人∗

吴永源

（华中科技大学 教育科学研究院，湖北 武汉 430074）

人工智能技术对社会发展的影响正在以不可避免的趋势深入到各行各业中。2017年7月，国务院印发的 《新一代人工智能发展规划》提出要 “加快人工智能深度应用”。随后，教育部在2018年4月印发 《高等学校人工智能创新行动计划》，将规划落实到了教育改革行动中。人们普遍认为，人工智能与教育的结合将为个性化教育的开展提供充足的想象和行动空间［1-2］，但这种结合既预示着机遇，也潜藏着风险。原教育部副部长杜占元更是直言道，人工智能不仅将替代人的智能，还将改变人的思维方式［3］。那么，人的思维方式会发生怎样的改变？这种 “改变”的方向是好是坏？诸如此类的问题也促使着我们更加理性地面对人工智能在教育领域中的应用。

一、虚假的个性化教育

现代性以前所未有的方式，把我们抛离了所有类型的社会秩序的轨道，从而形成了其生活形态［4］4。在人工智能时代，这种 “抛离” 将更加彻底，技术带来的对现有社会秩序与生活形态的影响也更为深远。正如在教育领域，人工智能通过分析和发现数据点之间的模式和相关性成为掌握学习过程的工具［5］，在数据收集的基础上更加准确地绘制学生的知识图谱，形成个性化的阶段性学习方案［6］。于是，人们乐观地认为这是教育批量化生产时代的终结，也预示着个性化教育的开始［7］。而事实上，人工智能介入教育并非是批量化生产的终结，更远非个性化教育的开始。

个性化教育是尊重个体生命的独特价值，发掘个体生命的潜能，培养学生独立人格和独特个性，促进个体生命自由和谐发展的教育［8］。但目前来看，人工智能与个性化教育的交集主要体现在所谓的通过大数据和智能计算精确定位每个学生的薄弱知识点，采用机器学习推荐最优的学习内容和学习路径［9］。这种定位甚至具体到不同个体学习时间、学习偏好和知识结构，以此形成各不相同的 “用户画像”。而人工智能基于用户画像推荐学习内容与路径的方式在公众的语义理解上与 “个性化教育”十分契合乃至完全等同。这也是最具迷惑性的地方，因为它表面上看起来是如此美好，以至于任何的拒绝都会显得不可想象。抛开这种表面的合理和美好我们发现，强调独立、多元和自由的个性化教育却在人工智能的深度参与下异化成为对学生学习过程的程序化建构，这种极为精细的程序化操作体现在：观察学生学习实时状态、精准鉴别知识水平、个人偏好、学习需求、学习成效等方面［10］。基于不同 “用户画像”的学习指导表面上突出了人在学习过程中的主体性地位，但实际上却使人深深陷入算法主导的世界中，特别是人工智能的学习过程甚至不需要利用人类专家的知识，而是自己从大量训练集中学习，这远超人类所能应付的体量［11］，使得人们更无力拒绝其强大的束缚力量。于是，出乎人想象的是，最强调个性化的教育模式竟是以最大的去个性化为基础的，人的复杂的学习行为和过程被一厢情愿地异化成基于算法的精细化操作和指导。这种情况下，人只会更加顺从和依赖于此，而失去了否定、批判和超越的能力，这种所谓的个性化教育也就逐渐成为训练人适应既定社会秩序与结构的工具。于是人工智能通过个性化教育的包装 “正在改变我们日常生活中最熟悉和最带有个人色彩的领域”［4］4，我们不仅毫无察觉，反而与之竞相拥抱。

二、技术的意外后果与单向度的人

对技术进步的部分控制遮掩了人们对其意外后果的注意，正如吉登斯 （Anthong Giddens）在《现代性的后果》中所言，我们中的大多数人都被大量我们还无法完全理解的事件纠缠着，这些事件基本上都还处在我们的控制之外［4］2。无论是发达工业社会中的 “机器主导”，还是即将来临的人工智能社会的 “数据主导”，技术变革带来的进步总是伴随着意外后果。一方面，技术的进步拓展到整个统治和协调制度，创造出种种高效率的生活形式，并裹挟着各种势力和反对不断前进。而另一方面，技术对于人的思维的影响又正如马尔库塞 （Herbert Marcuse）所说的， “在压倒一切的效率和日益提高的生活水准这双重的基础上，利用技术而不是恐怖去压服那些离心的社会力量”［12］2。在他眼里，技术的异化通过使人依附于机器而实现单向度社会的构建，使得社会成为一种 “没有反对派”的社会，也使得生活在这个社会中的人成为批判停顿的单向度的人，人们失去了否定、批判和超越的能力而忠心耿耿地臣服于 “技术的进步”。而现在，人工智能时代即将到来，这一幕似乎又将重演，至少在教育领域已有苗头。

人们对利用人工智能达到个性化教育抱有极大的期望，人工智能与教育的结合确实创造出了更多的选择，只不过这种精细化的操作更像是人工智能通过分析数据点之间的关系而建立起更为缜密且无孔不入的社会秩序与结构。曾经 “机器成为任何以机器生产程序为基本结构的社会的最有效的政治工具”［12］5，而现在，这种最有效的政治工具从 “机器”转向了 “数据”，我们不得不反思，以数据分析为基础形成的确定的知识图谱和其所勾勒的清晰的学习轨迹来指导复杂的、充满不确定性的学习活动是否具有足够的合理性？不可否认，我们收获了一个认识确定世界的机会，但与此同时我们也失去了一个认识不确定世界的窗户。我们将开始生活在一个一切都是确定的世界里，在这里不再有未知，不再有探索，也不再有失败，它们都是陈列在博物馆里的展品，而不再是人们生活中的要素。于是，批判开始停顿，因为 “要是受管理的生活是舒适的，甚至是 ‘美好’的生活的话，那么坚持自我决定的理由也就不复存在。”［12］41而生活的秩序乃至于知识建构过程都在人工智能的安排下显得如此井井有条，人们也不可避免地成为失去了否定、批判和超越的能力，成为一种单向度的人。

总而言之，我们应该积极利用人工智能在教育领域中带来的 “舒适”与 “美好”，但更应充分认识到其光鲜的背后潜藏着使人成为 “单向度的人”的风险。