科学史视域下人工智能的伦理反思及管控启示

安烁羽 商光美

(1. 上海交通大学马克思主义学院， 上海 200240；2. 福州大学马克思主义学院， 福建福州 350108)

21世纪的人工智能构建了全球性的变革，其迅速性和便捷性带来包括伦理在内的新挑战，在造福人类的同时，也带来潜在的威胁，人们不仅关注科技创新带来的文明智慧，更需要对其带来的科技伦理和道德问题给予重视。

一、人工智能伦理的重要缘起

人工智能触及人们传统的的价值观，它的滥用会不可避免地冲击现有的伦理，作为维持人类发展的基石，科技价值固然很高，但是伦理观念中离恶向善的共性也不可抛弃，人类的发展史就是在科技与伦理之间维持自己与他人的天性中不断进化发展起来的。

(一)人工智能威胁论

随着人工智能的发展，大批企业使用机器流程自动化技术，手工作业被自动化取代，此举将会增大重复度高、取代性强的工作岗位对应的工作人员失业风险率。在此过程中可能遇到显著的短期风险，如算法漏洞存在安全隐患、算法偏见导致歧视性政策的制定等，也可能面临潜在的长期风险，如对产权、竞争、就业甚至社会结构的影响。对于许多技术奇点论者面言，“智能”是至关重要甚至唯一的标尺；人类智能被视作这个标尺上的一个里程碑式的节点，一旦人工智能跨越了这个节点，技术奇点就将到来，威胁也随之降临。[1]当科技的发展取代人类的劳动，人类可选择的岗位逐渐减少，产业发展趋势也渐渐从劳动密集型向智能集约型过渡，传统意义上的劳动力也由个人逐步向机器转变。……