人−AI 交互:实现“以人为中心AI”理念的跨学科新领域

许为，葛列众，高在峰

（1.浙江大学 心理科学研究中心，浙江 杭州 310058;2.浙江大学 心理与行为科学系，浙江 杭州 310058）

人工智能(AI)技术正在造福人类，但是，目前许多AI 系统的研发主要遵循“以技术为中心”的理念[1-5]。研究表明不恰当的AI 技术开发导致了许多伤害人类的事故，AI 事故数据库已经收集了1 000 多起事故[6]，这些事故包括：自动驾驶汽车撞死行人，交易算法错误导致市场“闪崩”，面部识别系统导致无辜者被捕等。美国工程院院士、计算机教授Shneiderman[4]将围绕“以技术为中心”还是“以人为中心”理念开发AI 系统的争议形象化地描述为“AI 哥白尼革命”，提出AI 开发应该将人类放在中心，而不是算法和AI 技术。

近几年来，围绕“以人为中心AI”理念、如何避免AI 伤害人类以及产生社会负面影响等方面的研究引起越来越多的重视[2-3,5-11]，目前国内外还没有形成系统化的跨学科工作框架来有效应对这些新挑战及促进这方面工作的开展。中国国家自然科学基金委员会在2020 年成立了交叉科学部，在交叉科学高端学术论坛上，受邀的AI、人机交互(human-computer interaction)、人因工程(human factors engineering)等专家一致认为，学科交叉是未来科学发展的必然趋势。

在这样的基于跨学科合作理念的背景下，本文回答以下3 个问题：与传统计算技术相比，AI 技术带来了什么新挑战？应该如何促进“以人为中心AI”理念在AI 研发中的应用？从跨学科合作角度我们应该采取什么策略？本文将进一步阐述我们在2019 年提出的“以人为中心AI”(humancentered AI，HCAI)理念[2]，系统地提出人−人工智能交互(human-AI interaction，HAII)这一新兴跨学科领域。……