人机协同审核：概念与模式*

□文│刘锦宏 宋明珍

人类主要通过知觉、行动和推理来获取或生产知识，进而认识和改造世界。正是基于对知识的渴求，以及认识和改造世界的渴望，人类很早就试图通过机器推理来实现人的推理功能，[1]但具有推理能力机器的缺失让“人机协同”推理的梦想一直难以真正实现。如今，伴随着人工智能（AI）技术的全面渗透，尤其在“出版”进化到“数字出版”并成为数字内容产业的重要组成部分的当下，[2]基于人机协同的选题、编撰、审稿等出版流程或模式创新已经成为出版融合创新的主要方向。为此，我们不应再纠结是否该“接受”或“拒绝”AI技术这一简单问题，而应重点考量如何基于AI机器智能和编辑技能，通过人机协同审核来提升数字出版内容质量和出版审核工作效率。

一、人机协同审核概念界定

自人类使用工具开始，人机（工具）合作便一直在人类历史年轮里刻画出光辉灿烂的精神印痕。[3]当前，尽管出版业的人机协同审核业务发展较为迅速，但学界和业界尚未对其进行科学界定，人机协同审核仍然是一个新概念。其实，作为人类认识活动和实践活动中的一种，人机协同审核的本质仍是审核主体运用一定的中介手段（工具或方法等）作用于审核客体的客观过程。因此，厘清AI时代出版业人机协同审核主体、审核客体以及中介（审核）手段等，对于科学界定人机协同审核概念极为关键。

马克思主义实践观认为，主体是指在社会实践中认识和改造世界的人，它可以是一个个体、群体或人类整体。在人类利用技术改造世界的过程中，由于技术异化的存在，人的主体性地位不断受到挑战。尤其伴随着AI技术的快速崛起和普及应用，人作为出版审核的主体地位更遭受到了挑战。其实，AI时代出版人机协同审核的主体仍然是人，仍然是由编辑和出版管理者等构成的人这一主体来执行和主导出版审核实践工作。AI审核机器人可以通过自主学习和环境感知等具有认识审核客体的能力，并不断向真正的人类靠近，但其仍无法动摇编辑等审核主体的主体性地位。因为，即使AI审核机器人拥有了些许编辑智力和情感意识，但它并不是人类自我意识的凸显，而只是操控它的编辑所拥有的认知和情感意识的具体表现。[4]

利益之所在，即为客体。[5]客体是主体（人）认识活动和实践活动的对象，是主体通过努力使之转化为人化的为我的存在。[6]亦即，如何通过编辑等审核主体的努力（审核）提升内容这一审核客体的价值是出版审核的关键之所在。如今，随着出版融合的不断深入，出版审核客体变得更加多元，且极具不确定性。一方面，伴随着融合出版的不断深入，内容客体将更多以文字、图片、音频、视频、模型、场景等多元形式融合呈现；另一方面，在交互出版盛行的当下，内容的结果呈现和价值表达还会因读者（用户）的交互行为不同而更具不确定性、更加难以把握。而要降低这种不确定性、准确把握出版内容价值，则需要将内容呈现场景、用户交互行为、交互方式、交互工具等新元素融入审核客体的范畴。

为了准确判断和提升出版审核客体的价值，审核主体需要运用一定的工具和手段，以及知晓使用这些工具的程序和方法。一直以来，严格执行“三审三校”制度和方法是推动我国出版高质量发展的关键，智能出版时代更应如此。只是，与传统出版审核不同的是，智能出版环境下的审核工具、手段和理念等出现了新的变化，主要表现在以下3个方面：首先，AI机器作为一种审核工具和其他工具一样将被广泛应用到出版审核工作中；其次，自然语言处理、大数据和AI算法等技术将作为一种方法被广泛应用到出版审核工作中；最后，编辑（人）和AI机器之间采用协同工作模式，将成为出版审核的主要工作模式。

AI机器并不是电影导演们描绘的接管世界的邪恶者，如何融合人类智能和机器智能以解决实际应用场景和任务中人机协同的不确定性是AI要解决的主要难题。[7]“人机协同”的目标是通过人类与智能机器之间的交互合作，让人的行为优化后的智能算法能更好地服务于人类，作为人的延伸的机器能更好地提升人的能力，[8]并共同为人类提供更好的服务。那么，如何通过人机协同将人类智慧和AI结合起来，为出版业提供比仅靠人类或AI更有价值的服务十分关键。[9]基于以上分析，本文认为人机协同审核是指通过编辑与AI机器之间的相互沟通、学习和理解，利用编辑与AI的各自优势开展协同创新，共同为出版内容审核工作提供更优质、高效服务的一种人机协同工作模式。

二、人机协同审核模式研究

人机协同审核模式是一个复杂的系统，从不同的角度进行界定可以将其划分为不同的类型。本文根据人机合作的强弱程度将人机协同审核划分为人机互补协同审核模式、人机混合协同审核模式、人机融合协同审核模式和人机整体协同审核模式。

1.人机互补协同审核模式

人非完人、智能亦非全能。由于计算能力的不足，编辑在开展复杂、精确工作时，需要机器的协同处理；同样，机器由于缺乏编辑的思维和推理能力，在处理复杂数据时也需要编辑的帮助。如今，当编辑与机器试图共同完成出版审核工作任务时，显现出来的诸多冲突或问题都源自于彼此间缺乏认识。如果我们站在编辑和机器两者中间，试图去审视或解决这一问题时，可以发现达成编辑与机器之间的相互帮助是关键。为此，本文认为人机互补协同审核模式是指利用现代化的交互技术和手段基于编辑智能与机器智能的互补叠加，以“编辑辅助机器”或“机器辅助编辑”方式高效完成出版审核工作的一种人机协同审核模式。

未来的智能制造，不是机器换人、机器造人，而是机器助人、智能学人；[10]编辑和机器之间也不是替代和主仆关系，而是互补和伙伴关系。当编辑可以同时操控和帮助“人民日报AI智能编辑部”“谷歌大脑（Google Brain）”“吐真者（Truth Teller）”以及“腾讯云智能审核”等各种AI机器人协同工作时，不仅可以增加出版审核的灵活性，而且可以提高出版审核效率。同样，在“万方选题”“黑马校对”“网易易盾”“阿里云智能审核”以及“万得伯力（Wonderbly）”等AI机器的介入和帮助下，[11]编辑不仅可以减轻其审核工作压力，而且可以提升其审核工作价值。

2.人机混合协同审核模式

智能出版的关键不只是要解决出版内容的“快慢”问题，更是要解决出版内容价值的“是与非”与事实的“对与错”问题。只有当编辑在由“编辑—机器—环境”组成的智能审核系统中占据主导地位，并发挥关键作用（编辑控制关键人工智能）时，才能彻底解决智能出版内容的“是与非”与“对与错”问题。为此，我们认为人机混合协同审核模式是指利用交互技术在编辑人工经验的主导下以“编辑+机器”的智能方式发挥各自优势共同完成出版审核工作的一种人机协同审核模式。

既然人工智能是人类智能可描述化、可程序化的一部分，而智能是人、机（物）、环境系统相互作用的产物，[12]那么“编辑+机器”的人机混合协同审核模式将会在未来很长一段时间内发挥重要作用。例如，机器目前还无法根本解决出版要素的多义性或歧义性，“形式上一样的一段字符串，在不同的场景或不同的语境下为何可以理解成不同的词串、词组串，并具有不同的意义”，[13]“同一张图片为何在不同使用场域中所蕴含的意义不同”[14]等问题一直困扰着机器。只有通过编辑的介入，在编辑的主导下通过对特定语言、符号、图片、音频、视频、场景等进行语义关联标注供机器学习后，方能逐一解决。

3.人机融合协同审核模式

在AI研究领域，人机融合智能是研究的热点之一，其目标是通过人类智能与机器智能之间的相互学习、理解、感知和帮助，共同演化出更强大、更新的混合智能，以更好地服务于人类社会。如今，在仿生手臂、智能耳蜗、仿生眼和脑机接口等人机融合智能设备逐渐步入人们视野之际，出版界应该深入思考如何通过人机融合智能来解决出版审核这一复杂任务。亦即，如何利用人机融合协同审核模式，通过编辑智能和机器智能的相互学习、理解和帮助，整合和发挥编辑和机器的智能优势，以“编辑×机器”这一更强大的智能形态完成出版审核工作的人机协同审核。

人机融合协同审核模式需要解决的关键问题是如何将机器的计算能力与编辑的认识能力结合起来，[15]达到人脑与机器智能的相互融合。为此，人机融合协同审核首先要解决基于编辑的先验知识实现机器采集数据和编辑感知数据的有效结合；其次，人机融合协同审核要构建基于编辑的认知方式和机器智能算法相融合的审核信息理解途径；最后，人机融合协同审核要形成以编辑的价值决策效应与机器智能算法相匹配、有机化和概率化相协调的决策判断方式。在编辑与机器的相互理解和学习过程中，二者之间的交互与理解将会从单向性转变为双向性，编辑的主动性将与机器的被动性混合起来，从而形成一种新的、更为强大的人机协同审核智能。

4.人机整体协同审核模式

人与机器之间的信任问题是编辑与机器智能融合过程中需要解决的根本性问题。[16]当下，应用于出版审核的“腾讯云智能审核”“百度内容审核平台”等人机协同审核系统大多是单人单机系统，机器的自主调度功能较弱，它们无法从零散数据中获得有意义的领域知识，而且无法在编辑与机器之间达成信任。基于人机协同理论，要解决这一问题就必须采用人机整体协同模式，通过全部编辑和AI机器的共同参与和学习实现个体独立决策能力和系统总体性能的提升，进而实现审核工作的人机互信。为此，人机整体协同审核模式是指利用全部编辑和AI机器组成的协作群体，通过编辑、机器各个个体间的相互学习和帮助，以“人机+人机”的协同方式共同解决动态、复杂的出版审核问题的一种人机协同审核模式。

在人机整体协同审核工作环境下，单个出版审核任务首先会被参与者进行分拆，以便于编辑和机器进行个体独立决策判断，进而通过各个个体间的相互学习和援助实现对审核任务的总体判断；其次，人机整体协同审核系统需要构建一个清晰的“人—机”“人机—人机”沟通与交流渠道，以便于参与者通过学习和沟通形成共同的出版理念，达成共同的出版目标；最后，人机整体协同审核系统需要提供可行的、确定的、有穷的分析规则，亦即通过算法调节和优化参与者之间存在的矛盾与冲突，进而保证全部参与者审核决策行为的群体一致性。总之，利用人机的资源优势协同解决复杂的出版审核问题是人机协同审核的最终发展方向。

三、人机协同审核意义分析

在编辑和机器都有各自擅长和无法完成的审核工作任务的局面下，人机协同审核的意义主要表现在如何通过编辑与AI机器的相互沟通、学习与理解来全面提升各自能力，以及基于人机互信为出版内容审核工作提供更好的服务。具体来说，人机协同审核的意义主要表现在以下3个方面。

首先，人机协同审核的意义在于其能够提升编辑的人类智能及其审核工作效率和价值。在人机协同审核工作模式下，AI机器可以代替编辑完成繁重的排版、校对等工作，不仅减轻了编辑的工作负荷，而且极大地节约了编辑的时间和精力。也正是由于出版审核工作压力的减轻，编辑可以将更多的时间和精力投入到更多、更富有创造性的出版审核工作中去，从而实现更好的个人价值。此外，AI机器可以增强编辑的认知、决策和洞察能力。在编辑的参与和指导下，AI机器可以通过自主学习，利用更快、更准确的计算服务为编辑提供信息分析和决策服务，帮助编辑扩展、强化和提高其认知、决策和洞察等人类智能，从而更好地服务于出版审核工作。

其次，人机协同审核的意义在于其能够提升AI的“人性化”审核能力。人工智能虽然突破了从“不能用”到“可以用”的技术瓶颈，但离“用得好”和“很好用”还有很大的距离。[17]究其原因，AI机器学习算法的“人性化”能力不足是关键。在人机协同审核工作模式下，编辑不仅可以利用其已获知识和经验指导和监督机器学习算法的训练，以提升AI机器的人性化思维和推理能力，还可以通过指导和训练赋予AI机器对事实和情感环境的人性化感知能力。此外，在人机协同审核模式下，AI机器可能处于非正常、危险、不负责任的运行状态，需要通过编辑监督来预测和防止AI机器的潜在危害，以避免对出版审核工作造成巨大冲击。

最后，人机协同审核的意义在于其能够完成复杂、多模态和多维的出版审核任务。虽然利用AI机器可以提高出版审核工作效率，但在确保出版内容中不得包含违背宪法原则、危害国家安全、扰乱社会秩序、危害社会公德，以及国家法律法规禁止内容等复杂、多模态、多维审核场景方面，[18]AI似乎无法更好地胜任审核工作，尤其在根据用户行为生成出版内容审核方面更是无能为力。而人机协同审核则能够很好地处理这些复杂任务，AI可以利用技术优势将复杂任务拆分为简单的任务单元，快捷、经济地一次性完成多模态审核任务；编辑则可以基于机器运算结果利用人的思维判断能力快速、有效规避出版内容中“在敏感词语间使用特殊符号、代称等人为干扰因素”[19]的影响。

四、结语

人机协同审核本质上是一个编辑与机器之间相互沟通与相互理解的过程，它试图通过编辑智慧与机器智能之间的共同创造来为出版审核工作提供更有价值的服务。同时，作为一个技术驱动的产业，技术不仅可以驱动出版产业发展，也能赋能出版产业。[20]因此，在我国出版融合进程不断加快、尤其是多模态出版快速发展的当下，出版审核工作面临越来越多单凭人或AI机器都无法解决的复杂难题，因此采用“人机协同审核”逐渐成为出版业界必然的选择之一。唯有这样，我们方能构建和运行一个智能更为强大的人机协同审核系统，进而助力我国出版高质量发展目标的实现。