自动化决策下的数据保护路径探究

□ 文 陈 鹏

0 引言

随着大数据与人工智能的运用，自动化决策既可以大幅提高决策效率，为消费者或用户提供更精准的服务，同时也带来很多现实的挑战。自动化决策可能侵犯个人的隐私。在Facebook组织用户的新闻推送的算法测试中，数据科学家亚当•卡拉默发现不同的微调会影响用户的行为和情绪，进而根据带有情感讯息的个人信息的自动化决策侵犯个人的隐私。自动化决策可能侵犯个人信息权益。互联网平台通过大数据收集消费者的个人信息，进而通过自动化决策推测出消费者的消费偏好，如果该过程未充分得到个人信息主体的授权，则可能涉嫌侵害个人信息权益。算法的不透明性使得机器决策渐渐剥夺了人类的决策的自主性，与此同时，建立在个人数据收集基础上的自动化决策威胁着个体的尊严与自由，也更容易固化算法带来的歧视与偏见。算法不透明被广泛承认但又定义不同。近年来有学者认为算法的自动化决策应当具备可解释性。数据主体有权了解自动化决策的逻辑和原因，但现在及未来处理公民个人数据的服务型算法通常依赖机器学习。基于决策树的机器学习方法理论上可以决定学习路径，但存在着严重的约束，使得任何说明都非常困难。因此，本文通过分析研判国内外法律的相关内容，对自动化决策的数据保护问题进行探究。

1 自动化决策的界定和可规制性

1.1 自动化决策的界定

在分析自动化决策的规制之前应当先对自动化决策的类型进行界定。……