ChatGPT的伦理风险与中国因应制度安排

邹开亮， 刘祖兵

（华东交通大学 人文社会科学学院，江西 南昌 330013）

美国人工智能研究公司OpenAI 于2022 年11 月底发布首款基于GPT-3.5 架构的智能文本撰写与聊天工具ChatGPT（Chat Generative Pre-trained Transformer），该产品一经推出便吸引了数以亿计的用户，并受到包括美国微软、中国百度等全球多家IT 头部企业的青睐和国际舆论的高度赞誉。ChatGPT是一款人工智能算法驱动的自然语言处理系统，它凭借Transformer 神经网络架构实现“像人类一样对话”、翻译、生成代码和撰写论文等多项须由人类才能完成的复杂任务。因具备开放性和跨领域通用性等特征，ChatGPT 成为支撑人工智能技术和产业发展的一项关键基础设施，它的横空出世预示着下一个“拐点”的到来，人工智能或将从蛮荒时代步入下一发展阶段，即强人工智能时期（Strong Artificial Intelligence)。

ChatGPT 崭露头角得益于RLHF（Reinforcement Learning from Human Feedback,即人类反馈强化算法），一方面，作为ChatGPT 的底层算法，RLHF 在强化训练上表现出前所未有的效率优势。另一方面，与其他新兴科技产物一样，RLHF亦无可避免地存在技术短板并衍生出潜在的伦理障碍，将人类置于威胁之下。霍金曾多次就人工智能具备毁灭人类的可能性发出警告，马斯克也公开建言警惕人工智能的潜在威胁。随着GPT-3.5接口向全球开放，我们在享用ChatGPT所带来前所未有的技术便利时，更需要保持理性的态度审视其伦理风险，厘清其深层次的伦理意蕴，以便在其中国化应用的应对中科学施策。

一、ChatGPT伦理风险之表征

继“元宇宙”的概念被提出后，资本控制下的算法技术独角兽——ChatGPT①资本控制ChatGPT 的技术开发和商业运行。……