我国亟待建立人工智能算法审查机制

周游

2017年4月，美国《Nature》杂志发表的一项研究成果表明，当智能算法通过分析处理人类书写的文本来学习词句的含义时，也会获得类似于人类偏见那样的刻板印象。算法，是人工智能自主决策的关键。人工智能的应用，为人类社会带来巨大机遇的同时，也带来因算法而导致的歧视、错误等问题。因此，加快建立人工智能算法审查机制有助于维护我国国家、社会安全和抢占产业国际话语主导权。

建立算法审查机制的必要性

算法本身无法实现技术中立。技术是中立的，但算法本身不是中立的。一方面，算法的基础是数据，基于错误的或者不准确的数据，算法决策得出的结论自然是错误的、有偏差的；另一方面，算法是人工智能的底层构架，算法过程看起来是非人为的决策行为，但其实，算法内嵌程序不可避免地会带入设计者的价值取向、伦理道德素质、指标标准、结果导读等因素。

算法本身不具有公开透明性。智能时代，人类将选择权和决策权让渡给算法，就必然导致算法将成为监管的核心。算法具有高度技术性，其运行机制和决策依据， 只有程序员和相关人员能够知晓，竞争性商业机密也往往成为算法不能向公众公开、透明的主要缘由。因此，必须有相应的机制能够对算法进行监管，能够在公众质疑时公开或予以解释，以此保证算法是符合公众利益、伦理道德取向以及没有违反现有相关法律制度。

算法在一些领域已经开始主导人类选择方向和内容。……