让AI从驾驶舱里走开

吴越

2018年11月中，久负盛名的欧洲航空电子设备制造商泰雷斯公司与法国国家宇航研究中心（ONERA）签署了一份进行空间活动研究的合作协议。在随后的媒体采访中，这两大欧洲航空航天工业巨头共同抛出了一个令人震惊的观点——人工智能（AI）不适合用在驾驶舱中替代飞行员工作！

很显然，这个观点是完全有悖于近来多数人的认知的。

现代飞机上的电子设备越来越复杂，飞行员们的工作负担也越来越重，迫切需要一种辅助的手段协助飞行员进行飞行管理。电传操纵系統在一定程度上解决了飞机性能提高和安全性下降之间的矛盾，并通过设置边界保护、多重冗余等手段，达成了一定的智能化自动操作水平，显著降低了驾驶员操纵飞机的负担。但是，除了操纵飞机之外，现代飞机的飞行员需要掌控的其他事项仍然较多。而受人类的生理限制，在多任务监控和执行、对飞行参数变化的敏感度以及进行操纵的及时性等诸多方面，仍然难以满足现代飞机的要求，出现飞行员工作负荷增加、航空安全压力增大、无法适应现代的空中作战态势环境或者飞行环境等问题。据统计，目前的航空飞行事故中，大约80%是由于各种人为因素造成的。为此，需要更进一步提高AI的能力来辅助驾驶员进行飞机操纵。

洛克希德公司在上世纪80年代曾对一个可以协助客机飞行员进行实时航线管理和规划的AI系统进行了研究。从工作原理上来讲，这一类AI主要是采用知识库和专家系统，与实时性足够高的并行处理系统、语音系统等结合，形成一个人工智能辅助决策系统，为飞行员提供决策依据。在此基础上，增加此类系统的权限，使其在一定范围内可以接管驾驶员的操纵权限，便可实现驾驶员的“无忧虑操作”，并可以在应急时实现自动化调整和控制，保证飞机的安全飞行。例如，美国空军在上世纪90年代对具有故障重构能力的智能型飞控系统进行了验证，实现了在出现一定气动损伤的情况下，仍能维持战机飞行的能力。到了今天，这一类AI的发展已经非常成熟，目前几乎所有的先进飞机上，都已经广泛采用了类似的AI作为驾驶员辅助系统。这类辅助系统属于初级AI，目前也几乎成为了现代飞机的标准配置。这些初级AI已经成为了现代飞机系统的一个有机组成部分，自然不是ONERA和泰雷斯公司反对的对象。

需要可解析的AI

目前普遍探索、并不断深入发展的高级Al，基本上都沿袭了Deep Mind公司在“Alpha Go”上开创的道路（“Alpha Go”在2016年击败韩国围棋九段李世石而一举成名），关键技术为深度学习与神经网络。深度学习，是高级AI进行自主学习的主要方式，通过人工输入（或AI按规则自行生成、获取）大量的数据，AI会自行建立识别模型。而由分层算法组成的神经网络，则是模拟了生物神经网络的工作原理，非常适合大量数据并行操作，可以有效减少计算时间，提高反应速度。

但是，目前人们对于高级AI的最大忧虑，也来自于深度学习与神经网络。由于深度学习只是由人类进行目标指示，学习过程完全是由AI自主完成，而神经网络算法多重并行计算的特征则导致了难以进行数据回溯。因此，完全可以将这个过程看作是AI本身的“黑箱操作”，同时，高级AI的这种算法只能保证结果符合要求，并不能保证整个过程都可以受控。因此目前已经在许多领域取得重大进展的高级AI技术，并不满足现行航空运输安全标准的要求，也不适合用于装备飞机驾驶舱。ONERA信息处理和系统主管维金尼·威尔斯对此评价说：“如果我们不能解析该系统的功能，我们将很难使其通过认证。”

另外，目前的高级AI还有一个重大缺陷，即只能在限定的规则中学习，以“经验主义”的方法来完成工作，无法应对额外的错误或者扰动。这对于保证飞行安全的最高要求来讲，很可能是致命的威胁。去年，位于旧金山的一家人工智能公司Vicorance的专家进行了一个有趣的试验。他们训练了一个高级AI学习弹珠消除游戏，AI只进行了约600次学习，便达到了专业的人类玩家水平。然而，当专家们在游戏中做出改变，增加了一个不可击破的区域之后，AI便完全抓瞎了。Vicarious的专家迪利普·乔治对此评论说“我们人类不仅仅是模型识别器，我们也不断为看到的新东西建立新模型。”很显然，人类玩家可以迅速适应这些变化，而高级AI则困在了原有的规则中，无法突破。人类的逻辑推理能力，使得人脑可以应对许多突发的变化事件，这也是高级AI目前无法达到的能力。

泰雷斯公司首席技术官马尔科·艾尔曼也对高级AI出错的可能性进行了描述：“系统会提取图案，但我们不知道它在做什么——当识别照片上的乒乓球时，它可能会被欺骗，在一张展示另一项运动的照片上，在运动员的头发上增加一些颜色的像素。”

然而，不可否认的是，更强大、更完善、更能满足人类规则需求的新型AI，将会规避目前高级AI的缺陷，也是AI技术未来进一步发展的方向。事实上，泰雷斯公司和ONERA目前仍在进行新一代AI的研发工作，他们对媒体所说的驾驶舱不需要AI，仅仅是特指目前仍未成熟、无法达到航空工业标准的AI而已。艾尔曼为此说：“我们给自己两到三年的时间来完成第一个‘可解析人工智能系统。”换句话说，泰雷斯公司希望到2021年在新一代AI项目上取得重大进展。但威尔斯认为，对这些新AI系统的研究和测试需要更长的时间，在未来10年里，不会实际应用到驾驶舱里。

问题的关键在于“可解析”，艾尔曼解释说：“正在接受人工智能协助的人类飞行员必须能够理解人工智能选择的原因。目前的用户还没有解决这些问题，因为他们不需要解决这些问题。”关于新AI系统如何获得认证的问题，艾尔曼指出，“至于认证，我们已经与欧洲航空安全局（EASA）谈过，他们很清楚，认证标准必须与技术解决方案同步进行发展。”威尔斯对此补充说，“目前我们还不能进行认证，因为我们不知道该系统在每个案例中都做了什么。”

最近发生的印尼狮肮波音737客机空难，使得目前已有的人工智能与人类飞行员的矛盾暴露得更加明显。根据事故初步调查的结果，由于仰角传感器故障，导致防失速系统自动压低机头，而飞行员发现飞机状态错误后及时拉起，随后因为防失速系统具有超越权限，再次压低机头，二者反复多次较劲，直至飞机坠毁，造成了189人丧生的惨剧。很显然，未来的新型AI必须能够摆脱这种单调功能规则的局限，并与驾驶员达成良好的沟通和互动，才能真正成为驾驶舱中的好助手。

责任编辑：王鑫邦

2018年10月29日，印尼狮航JT610航班坠毁，机型为最新的波音737 MAX 8，机上189人遇难。