马斯克起诉OpenAI，打开了“潘多拉盒子”

Kevin Roose

伊隆·马斯克（Elon Musk）对OpenAI提起诉讼很容易被认为是出于一种“吃不到葡萄说葡萄酸”的嫉妒心理。

2024年3月1日，马斯克起诉OpenAI，指控该公司违反创始协议条款，违背了其创立原则。按照他的说法，OpenAI是作为一家非营利组织成立的，旨在为人类的利益构建强大的人工智能系统，并将研究成果免费提供给公众。马斯克认为，OpenAI违背了这一承诺，因为它成立了一家营利性的子公司，并接受了微软数十亿美元的投资。

OpenAI发言人拒绝就该诉讼发表评论。在发给员工的一份备忘录中，OpenAI首席战略官杰森·權（Jason Kwon）否认了马斯克的说法，并表示，“我们认为这起诉讼可能源于伊隆对如今没有参与公司事务的遗憾”。

从一个层面上看，这起诉讼充满了私人恩怨。马斯克在2015年与一些技术领袖、知名投资人等共同创立了OpenAI，向它提供了大部分初始资金。但由于与领导层发生分歧，马斯克在2018年离开了OpenAI。他对于在关于人工智能的讨论中被边缘化感到不满，而他自己的AI项目又远没有OpenAI的聊天机器人ChatGPT那么受欢迎。马斯克与OpenAI首席执行官山姆·阿尔特曼（Sam Altman）的不和也有据可查。

然而，在这些恩怨之中有一个值得注意的点，是它揭示了当代AI讨论的一个核心悖论—OpenAI实际上提供了两套说辞，既坚称人工智能系统极其强大，同时又坚定认为AI技术远远无法与人类智能相匹敌。

这种悖论集中在“AGI”这个术语上，也就是“通用人工智能”。尽管大多数人都觉得，AGI是指人工智能系统能够完成人脑能做的大部分或所有事情，但如何定义什么是AGI，是一个出了名的棘手问题。阿尔特曼将AGI描述为“可以雇佣它作为同事”，而OpenAI官方将AGI定义为“在大多数有经济价值的工作上能力优于人类的高度自主系统”。

构建AGI是OpenAI的明确目标，它有很多理由想率先实现这一目标。真正的AGI是一种极其宝贵的资源，能够将大量的人力劳动自动化，为这项技术的创造者赚取巨额收益。这也正是投资者热衷于投资的那种闪亮、充满雄心的项目，而AI实验室拥有资本加持后就能招募顶尖的工程师和研究人员。

但是，如果AGI能够超越人类，或者变得具有欺骗性、与人类价值观不一致，那么它也可能是危险的。包括马斯克在内的多位OpenAI创始团队成员都担心，AGI过于强大，无法只由单一实体拥有；围绕这项技术应该改革它的组织控制结构，以防止它造成危害，或避免过多的财富和权力集中在一家公司手中。

这就是为什么OpenAI在与微软建立合作伙伴关系时，特别向这家技术巨头提供了一份仅适用于“AGI诞生前”的技术许可证。

根据协议条款，如果OpenAI开发出符合AGI定义的技术产品—由OpenAI的非营利性董事会确定—微软的许可证将不再适用，OpenAI的董事会可以决定采取任何措施，以确保OpenAI的AGI造福于全人类。这可能意味着很多事情，包括开源技术或完全关闭它。

大多数人工智能评论家认为，当下最先进的人工智能模型都不属于AGI，因为它们缺乏复杂的推理能力，而且经常犯愚蠢的错误。但马斯克在诉状中提出了一个不同寻常的论点。他认为，OpenAI去年发布的GPT-4语言模型已经实现了AGI，该公司未来的技术也将更明确地符合AGI的标准。然而OpenAI的董事会眼下不会轻易承认其人工智能系统实际上已符合AGI的标准。因为一旦这样做，它就必须对该技术的部署方式和商业化方式做出重大改变。“相反，OpenAI实现AGI，就像电影《安妮》（Annie）中的‘明天一样，永远都是一天之后的事。”这份诉状写道。

马斯克指出，在去年的内部动荡导致阿尔特曼一度被OpenAI解雇后，微软有强烈的动机否认OpenAI的技术符合AGI的标准，否则会终止它在自家产品中使用该技术的许可，妨碍它从中获得潜在的巨额利润。

鉴于马斯克时常发起有争议的诉讼，这一次他的动机也很值得质疑。但此次诉讼确实给OpenAI提出了一个真正的难题，令其陷入自我矛盾：一方面低调介绍自家系统的能力，另一方面又继续营造AGI即将取得重大突破的预期。

这也让马斯克陷入了一个困难的境地：要求陪审团裁定什么是AGI以及OpenAI的技术是否达到了AGI的标准。

杰森·权在给员工的备忘录中写道：“GPT-4不是AGI。它能够解决许多工作中的小任务，但在经济中，人类完成的工作占比仍然比GPT-4能完成的工作高得多。”

即使被驳回，马斯克的诉讼也指出了一些重要问题：谁来判定某项技术是否属于AGI？技术公司在描述自家系统的能力时，是夸大其词还是有所保留（或两者兼而有之）？在我们离实现AGI有多近或多远的各种说法背后，隐藏着怎样的动机？

一个心怀怨恨的亿万富翁提起诉讼可能不是解答这些问题的正确方式，但这些问题确实很值得一问，尤其是在人工智能持续加速发展的大背景下。