算法决策规制路径探究

西安交通大学法学院 余楠

一、问题的提出

算法作为21世纪各大商业公司争先研发的技术，作为能够代替人类头脑进行决策的工具，当然存在着其特有的价值；另一方面，算法决策作为一项技术应用，是被算法设计者所研发出来的，算法设计者在设计过程中为了满足商业公司的要求与利益，本身就带着不理性与偏见，而算法本身的决策输出过程也可能存在着偏差，这就导致人们对算法决策产生了疑虑，甚至是恐惧。然而完全杜绝算法决策参与我们的生活与工作是不太现实的，不少学者便提出了算法透明的观点，但这一观点的实施立马遭到了拥有算法技术公司的反对，他们认为算法透明不仅侵害其商业秘密，而且由于算法具有极强的专业性，即使公开算法过程也很难向一般社会大众解释该套算法是如何运作的。通过何种路径达到个人私权与企业的商业秘密的平衡也成了亟须解决的问题。

二、算法决策的妨害

首先，算法存在偏见。“通过对已有研究成果的总结，导致算法偏见的原因主要包括两个方面：一是与输入数据相关的偏见；二是与算法相关的偏见。”目前，市场上广泛使用的算法是学习型算法，该类算法需要通过输入海量的数据来进行训练，从而形成自身的算法决策逻辑。因此，一旦输入数据存在偏见，就会导致算法决策结果存在偏见，即使算法是一项中立且客观的技术。另一方面，算法自身也可能存在偏见。……