《人工智能时代》博弈不确定的未来

郑渝川

享誉世界的顶尖级人工智能专家、斯坦福大学人工智能与伦理学教授杰瑞·卡普兰曾创建过Go公司、Onsale（全球首家在线拍卖公司），设计了世界上首台笔触式计算机，在美国科学界、产业界和政界有着很强的影响力。他所著的《人工智能时代》一书，主要从人工智能和机器人所必然带来的技术和社会风险入手，探讨了应对这些风险的可行之策。

谷歌研发的自动驾驶汽车已经累积了数十万英里的安全驾驶记录，预计数年内，这种无需人类驾驶的车辆将广泛投放市场。但随之而来的一个伦理性问题是：如果无人驾驶汽车出了车祸，责任应该归结于谁？如果搭乘车主的无人驾驶汽车，正要经过一座狭窄的桥，桥对面忽然开来了满载儿童的校车，这座桥无法容载两辆车，必须要有一辆车马上掉下桥去，才能保障另一辆车的安全。那么，无人驾驶汽车是会毫不犹豫地冲上前去，为车主清除隐患，把校车撞下桥去呢，还是自杀性地开下桥，牺牲车主以保全更多儿童的性命安全？

类似的伦理疑问还包括：如果你或你的家人突发重病，但无人驾驶汽车却拒绝超速赶往医院，你该怎么办？如果有家长让未成年的孩子喝酒，家佣机器人是否应当马上启动报警程序？

人工智能时代已经到来，机器人的智能化程度大幅提升，机器人已拥有了从经验中自我学习的能力，还能对现实问题作出快速反应。但有关人工智能、机器人的伦理性问题，却比单纯的技术问题更难得以解决。

在卡普兰看来，相比于过去的智能化机器，机器学习已有了本质的区别，已经“发展出自己的直觉力，然后用直觉来行动”，这也将使得机器人可以更为踊跃地进入人类世界，接管过去仅能由人执行完成的形形色色的工作。在过去，投放到医学、工业等多种领域的机器人，都存在精准性、力量性、持久性不足等问题，使得机器人适应环境的能力较差，只能在启动之前尽可能精准地设定，但随着机器感知领域的突破和发展，“未来的机器人可以看到、听到、做计划，还能根据混乱而复杂的真实世界来挑战自己”。

卡普兰预言，终有一天，随着传感器、反应器以及无线通信的不断进步，人工智能将以合成智能的方式，与人体甚至其他物体合而为一——“未来看起来会比你想象中的更像过去”。

智能时代毫无疑问会释放出更多的技术红利，但风险也不可小觑。卡普兰特意提到，随着在金融交易中越来越多地加入人工智能，高频交易程序一方面减少了市场震荡，另一方面却会将风险转嫁给一般的交易者，让交易者获得的交易价格偏离于最佳价格。这种情况在商业领域中也有表现，比如全球知名电商企业亚马逊通过复杂算法，使得不同顾客在不同时段获得的报价各有不同，并通过智能化的购买数据分析，推出更具诱惑力的促销方案，诱导顾客购买更多原本不需要购买的、实际上也并不那么价廉物美的商品。从目前情况来看，在合成智能方面投入最多的企业，无不热衷于将之应用于操控用户的注意力和购买力。

更进一步的风险在于，由于人工智能的设计仅仅服务于单一目的，因而未曾考虑是否存在副作用。比如，人工智能会抢在他人之前，（帮助主人）抢占车位，会在大萧条之前恶意抢购超市货架上的所有应急商品 ；与人对弈的机器人，不排除会使用“黑社会”式的手段，包括威胁对手的家人，破坏对手的交通工具。

要避免人工智能对社会体系甚至人类安全造成威胁，相关的智能设备、机器人开发和使用的伦理准则及立法，都应尽快提上议事日程；并且，在人工智能开发过程中，在增强单纯的技术能力的同时，也应尝试赋予它一种人类式的“感受同情和怜悯的能力”。

《人工智能时代》一书还探讨了人工智能时代将带来的另外两大风险：一是智能化潮流所可能造成的持续性失业，可能会急速扩大赤贫群体，继而引发社会震荡；二是人工智能、机器人、大数据等新科技应用，会进一步加剧社会的贫富差距。

卡普兰在书中指出，目前人们已经意识到，因为人工智能大幅度地提高了自动化作业的效能，从而产生了对工人的替代性，减少了工作机会；但人们大都还没有意识到，“很多科技进步会通过让商家重组和重建运营方式来改变游戏规则。这样的组织进化和流程改进不仅经常会淘汰工作岗位，也会淘汰技能”——无论是蓝领工作，还是律师、医生等带有很强专业性的技术岗位，传统的技能都可能被智能化所替代，变得低效，这也将迫使学校和职业培训机构改变课程体系，以确保（部分）学生、培训对象能够拥有强于智能设备的技能，这就意味着，无法通过这种新型教育、培训课程检验的人，将被未来的职场所抛弃。