技术创新中的文明与蛮荒

马克斯·韦塞尔 妮科尔·赫尔默

脸书建立了全球最大的内容创作和发行网络，媒体价值链不再由少数几家大型组织把持。不管是谁，只要有键盘、能上网，都可以轻松接入这个全球最大的发行系统。

脸书推动了行业生态系统的改变，却没有关注编辑伦理问题。它向剑桥分析等公司出售其用户群的访问权，同时对自己平台上发布的内容一概不闻不问。内容创作者可以利用终端用户的数据，精准定制针对他们的推送信息，而不管这些信息是真是假，有没有误导性。

科技行业正逐渐演变为一个自行定义伦理的灰色世界，而脸书只是其中一例。2001年，克莱顿·克里斯滕森等人提出了“相互依存与模块化理论”。该理论认为，当新技术出现时，往往会紧密集成在其设计中，因为整个系统的各个组件之间都存在相互依存关系。为克服这种脆弱性，组织必须严格控制系统的整体设计，以确保其性能。比如，苹果公司为了给用户带来最佳体验，严格控制软件、硬件，甚至网络。手机只有一种尺寸、一个浏览器，只能接入一家运营商。为了优化电池寿命、电容触屏和通话质量，许多功能都被砍去。

但随着时间的推移，人们会充分了解复杂系统中不同部分之间的联系。他们会确定每个要素的作用并制定标准。任何一个新技术产业最终都会走向模块化。一家公司不再需要对整个系统负责，而是专注于它们认为具有战略优势的要素。但模块化是一把双刃剑：开发责任的分散，意味着对伦理结果承担的责任也被分解了。

以3D打印机为例，这种模块化制造使我们得以摆脱在供应链、受监管行业和知识产权领域多年来受到的控制。你的孩子想要一个新款人偶——你是付钱买下来，还是干脆打印一个非法复制品？如果你的孩子到了驾驶年龄，他把一个自家打印的有缺陷的部件装在你的车里怎么办？还有更糟的情况，比如枪支。如果任何人都可以从互联网下载模型，然后在家中打印武器，那么我们在控枪方面的许多努力都将变得毫无意义。

作者建议企业高管采取以下三种做法，解决那些隐藏的伦理问题。

1. 假设自己成为行业领军者。作为颠覆者，追求成功的同时还应该具有某种改变范式的责任感。先假设自己已经成为市场主导者，然后问一问什么东西最有可能破裂，可以采取哪些措施来防止破裂，一旦破裂发生，应如何应对。

2. 记录能够防止当前系统崩溃的保障措施。首先，借鉴精益流程改进的方法，画出你们公司进入市场之前整个服务的价值链。接下来，设想一下你即将主导的那个未来。也许你已经通过删除某个步骤或缩小其范围而提高了效率。了解这一步骤的发展演变过程，并思考其中有哪些内在的保障措施。

3. 确定谁负责提供这些能力。在某些情况下，这一点是非常清楚的：如果乘客不信任司机，共享出行服务就无法生存，因此来福车和优步必须确保司机已经接受过背景调查。而在另一些情况下就不那么明显了：3D打印机仅仅是一个促进模型设计师和消费者之间交流的平台吗？领导者要做好心理准备，如果自己启动的变革失败，他们要为此负责。

每位高管都應该设想注定要降临的未来，既要考虑如何取悦消费者，也要思考哪些系统性保护措施是必不可少的。

马克斯·韦塞尔 妮科尔·赫尔默

劍桥分析（Cambridge Analytica）这个名字现在可谓家喻户晓，已成为侵犯隐私的同义词。它与脸书（Facebook）之间颇具争议的纠葛，为我们敲响了在线信息共享的警钟。当然，如今剑桥分析公司已不复存在，而马克·扎克伯格（Mark Zuckerberg）逃过此劫。但脸书面临的余波似乎永无止境：先是公司股价下跌，继而扎克伯格前往国会作证，美国联邦贸易委员会（Federal Trade Commission）开出创纪录的50亿美元罚单，一位联邦法官批准了针对脸书的集体诉讼，扎克伯格再次接受国会的严厉质询。

脸书的丑闻对高管和消费者来说都具有警示作用，但这个教训比所谓的假新闻要严重得多。围绕新技术仓促重建价值链的行为，在各行各业都引发并加剧了伦理问题。在一片混战中，公司争相推出新能力来打动用户，而其中的关键不仅在于哪些公司能够幸存，还在于我们究竟是有能力维持一个文明社会，还是最终变成一个用高科技武装起来的蛮荒西部。

脸书通过建立全球最大的内容创作和发行网络，开创了内容发布的新时代，积聚了数十亿用户。它邀请内容制作者和广告商在它的平台上补贴这些用户，而这个平台已经成了许多人无法割舍的生活必需品。媒体价值链不再由少数几家大型组织把持；脸书正在打开市场，不管是谁，只要有键盘、能上网，都可以轻松接入这个全球最大的发行系统。实际上，脸书拆解了媒体价值链，与此同时又围绕公司的应用编程接口（application programming interface， API）把它重建起来。

但是，脸书推动了行业生态系统的改变，却没有关注编辑伦理问题。它向剑桥分析等公司出售其用户群的访问权，同时对自己平台上发布的内容一概不闻不问。内容创作者可以利用终端用户的数据，精准定制针对他们的推送信息，而不管这些信息是真是假，有没有误导性。在数十亿用户需求的推动下，脸书只顾全力确保其网站上的内容能吸引大量点击。

在这个内容发布的新世界里，作者、编辑和发行者都是各谋其利的独立实体，爆发丑闻似乎在意料之中。毕竟，责任感也随着价值链的其他部分一起分崩离析。但是，如果谁也不肯站出来维护整个系统的伦理准则，那么我们所有人最终都会自食其果。

科技行业正逐渐演变为一个自行定义伦理的灰色世界，而脸书只是其中一例。我们在本文的观点是，随着科技系统快速重构，伦理困境会更加常见，如果我们能透彻地理解一些理论，就可以预测问题可能出现的时间和领域。各行各业的高管们都发现，对于医疗、贷款和出版等束缚重重的行业，实行市场准入民主化非常有吸引力。但是，如果你是一位高管，碰巧在抵押贷款业务中取消了消费者保护，那么无论你的出发点有多好，都免不了搬起石头砸自己的脚。

最关键的就是要预测一下在这个新世界中，你所在的行业会在哪些地方栽跟头，以确保企业在蓬勃发展的同时，避免声誉染上污点。

空前高速的模块化进程

我们要明白，问题并不是“快速行动、打破陈规”的思维方式导致了几个软件缺陷那么简单。问题在于一些领导者为了市场和消费者的最佳利益，在互联网高度普及的助力下，无意中回避了支撑我们这个社会的伦理保护问题。为了理解迫在眉睫的伦理危机，明白当前情况为何如此不同，我们需要了解价值链是如何形成的，为何连负责任的科技公司也可能会忽视其伦理义务。

2001年，克莱顿·克里斯滕森（Clayton Christensen）、迈克尔·雷纳（Michael Raynor）和马修·韦尔兰当（Matthew Verlinden）在《哈佛商业评论》（Harvard Business Review）上发表了一篇备受赞誉的文章——《滑向未来的利润源》（Skate to Where the Money Will Be）。文章阐释了他们所称的“相互依存与模块化理论”。该理论认为，当新技术出现时，往往会紧密集成在其设计中，因为整个系统的各个组件之间都存在相互依存关系。为克服这种脆弱性，组织必须严格控制系统的整体设计，以确保其性能。

以早期的iPhone为例。为了给用户带来最佳体验，苹果公司（Apple）严格控制软件、硬件，甚至网络。手机只有一种尺寸、一个浏览器，只能接入一家运营商。为了优化电池寿命、电容触屏和通话质量，许多功能都被砍去。用克里斯滕森的话来说，设计的相互依存性至关重要，因为手机本身必须尽量解决与其核心功能语音通信相关的基本性能问题。苹果正是通过毫不含糊的控制，才使产品拥有了毋庸置疑的竞争力。

克里斯滕森和另两位作者认为，随着时间的推移，人们会充分了解复杂系统中不同部分之间的联系。他们会确定每个要素的作用并制定标准。用克里斯滕森的话来说，这个行业已变得模块化，许多公司都可以优化并销售特定的小型组件，而不会对整个系统的性能产生任何实质性影响。今天的iPhone用户可自由选择屏幕大小和手机厚度，苹果应用商店里塞满了数百万开发者开发的工具和游戏，手机可以接入任何一家运营商的网络。现在，一个完整的智能手机产业已然形成，消费者几乎可以尽情挑选同自己手机相关的一切产品，为它安装各种软件，以满足自己的个性化需求。

任何一个新技术产业最终都会走向模块化：这不仅有利于消费者，还能把蛋糕做大。由于一家公司不再需要对整个系统负责，因此每家公司都可以专注于它认为具有战略优势的要素。克里斯滕森、雷纳和韦尔兰当建议公司预测其市场会如何走向模块化，然后在最难掌控的领域展开竞争。在智能手机的竞技场上，芯片组制造商和手机应用公司垄断了差异化程度最大的业务，进而瓜分了系统中的全部利润。在《哈佛商业评论》那篇文章的标题中，几位作者套用了韦恩·格雷茨基（Wayne Gretzky）的一项著名冰球绝技，指导战略家们奔向“钱将要出现的地方”，而不是它现在所处的位置。

然而，模块化也是一把双刃剑：开发责任的分散，意味着对伦理结果承担的责任也被分解了。

今天的现实是，各个行业的模块化进程都在加快。互联网使得通信、架构和信息交换的每一项功能都实现了标准化。因此，新企业可以在越来越窄的价值链环节上精益求精地做到极致，从而获得利润。

以来福车（Lyft）为例。该公司在2019年3月上市时，其备案文件暴露出某种风险：在支付、融资、网络基础设施、背景调查和其他重要技术组件方面，它都要依赖关键的第三方。公司的业务极为成功，但它的许多核心流程都要通过其他供应商的组合服务来交付。我们预计，在几乎所有拟上市公司的备案文件中，都会发现类似风险。

专注于为复杂系统开发简单组件的公司崛起，为潜在颠覆者提供了一份虚拟的“单点菜单”，使它们能够根据客户需求定制复杂的新产品，结果形成了一种良性循环，在各个行业引发了一场价值链重组的旋风。

在我们这个日益模块化的世界里，公司可以按照用戶需求快速定制产品；创新和机遇大量涌现，但潜在的风险也比比皆是——面临风险的不仅是公司的利润和声誉，还有整个社会。创新的速度也许可以直追闪电，但我们对用户的保护跑得不够快。

用户不想要的监管

依靠用户需求的拉动作用来塑造一个行业是很危险的，因为用户的短期愿望有时并不能代表长期社会需求。比如说，个人选择吸烟，而二手烟对他人造成伤害；不买个人医疗保险从短期来看会省钱，但对公共健康会造成长期影响；开私家车上班很方便，但是公共交通会带来更大的社会效益。在许多情况下，一位用户做出选择，后果却是由整个社会来承担。

现在，我们把这个困境代入一个独特的现代环境。假设你是一位家长，考虑到现在的年轻人越来越需要了解工程学概念，懂点设计知识，于是就想教孩子学习科技。你买了一台便宜的3D打印机，用它来讲解有关技术、软件和制造流程的课程。你带回家的这件工具令人赞叹，但也有潜在的危险。

先介绍一下背景知识。3D打印也叫“增材制造”，是利用3D计算机模型和一台标准化打印机，通过喷射材料来逐层构建实体物品的过程。同我们此前一直依赖的制造设备相比，这种打印机能够以极低的成本小批量生产。大多数3D打印机尚不能以达到商业规模所需的速度制造物品，但从一开始，它的架构设计中就被植入了灵活性。上一代的注塑成型制造需要专门的配置，而3D打印机几乎可以让你将任何设计变成现实。

如今，能3D打印的物品种类齐全，小到塑料小饰品等普通物件，大到改变生活的产品，比如平价住宅。2014年，第一架配备3D打印零件的飞机起飞首航。全球第一颗3D打印心脏也于2019年4月宣告成功。简单地说，有了3D打印技术，任何东西的制造都能实现民主化。

表面看来，这真是妙不可言。想象一下，需要做器官移植的患者再也不用排队等待；当你需要一颗钉子时，也不必再匆匆跑到五金店。难怪成千上万的家庭已投资购买了3D打印机。在家中打印重要商品的时代近在咫尺。

然而不幸的是，一旦模块化制造设备进入千家万户，就会像脸书公布其应用编程接口一样，引发类似的价值链颠覆。客户不用再求助于那些负责生产和分销产品的大公司。任何一位业余设计师，都可以用低价的计算机设计软件为产品建模，然后利用3D打印机制造商的分销网络，将自己的设计卖给数百万翘首以待的消费者。现在只需一次简单的下载，终端用户就可以将这些设计实时发送到3D打印机。

这种模块化制造使我们得以摆脱在供应链、受监管行业和知识产权领域多年来受到的控制。这样的例子非常多：你的孩子想要一个新款人偶——你是付钱买下来，还是干脆打印一个非法复制品？更严重的是，如果你的孩子到了驾驶年龄，他把一个自家打印的有缺陷的部件装在你的车里怎么办？还有更糟的情况，比如枪支。不同国家和美国各州对枪支的监管政策虽然各不相同，但相关规定的确存在，而且其中许多是在销售点执行的：可以将哪些类型的武器和弹药卖给谁？如果任何人都可以从互联网下载模型，然后在家中打印武器，那么我们在控枪方面的许多努力都将变得毫无意义。

当然，大多数消费者将台式3D打印机买回家，只是希望利用新系统的灵活性，而不会去预测它的每一种潜在用途和不良后果。用户将科技引入自己的生活是为了满足心中的一种渴望：脸书用来娱乐和社交，来福车用来从A地到达B地，3D打印机用来教育孩子或快速搞定一些简单任务。至于思考在模块化创新基础上引入新系统会造成哪些影响，这不是（也不应该是）消费者需要承担的责任。

作为高管，如果我们指望用户来引导我们履行伦理责任，那么我们注定充其量只能被动应对，而最坏的情况是我们行动太迟，根本来不及规划正确路线。

幸运的是，如果你相信互联网将继续在所有行业推动快速模块化，那么显然有一些方法可以指导你走进这个难以抗拒的未来。

健康的责任制

大约在相关新闻简报首次发布前后，安妮·沃西基（Anne Wojcicki）的23andMe公司开始提供直接面向消费者的DNA检测服务：只要把唾液吐在一只小瓶子里，23andMe就可以分析60多万个遗传标记，然后把有关健康风险和祖先的信息发送给你。《时代周刊》（Time）将其评为“开创性零售基因组学”2008年度最佳发明。这一发明的实现，完全得益于基因组学相关知识产权的模块化，以及令大规模存储、搜索和处理成为可能的云计算领域的发展。当然，这种模块化同样催生了一些伦理灰色地带。

除了帮助人们方便地获取自己的健康指标之外，沃西基还有志于加速并简化医学研究。如果能征得参与者同意访问他们的数据库，这个数据库规模足够大、足够多样化，我们就可以大幅削减将新疗法推向市场所需的成本和时间。被这种非同寻常的可能性深深吸引很容易，但思考一些棘手问题要难得多，比如检测的有效性，意外发现的亲子关系，以及家庭医生在理解检测结果方面所起的作用。更难的是，请想象一下，这些信息的获取将如何颠覆现有的社会体系：你有义务向自己的医疗保险公司报告某种疾病的遗传标记吗？医疗保险公司是否可以购买这些信息？执法部门有权获得哪些信息？如果你并未参加检测，但是根据你某位亲戚的信息，就可以轻松推断出你的信息，这又怎么办？谁负责考虑以上问题以及其他问题？

在模块化时代，所有权和责任制都是一团乱麻。

对于只是好奇自己祖先是谁的人来说，要求他们去考虑所有可能的社会影响未免不切实际。消费者基因检测这项业务，既不受医疗保险和医疗补助服务中心（Centers for Medicare and Medicaid Services）的临床研究法规约束（消费者DNA检测不是临床试验），也不属于美国食品药品监督管理局（Food and Drug Administration， FDA）有关药品、生物制品及医疗器械法规的监管对象（现在FDA将消费者基因检测并入医疗器械一类）。

沃西基连续四年在斯坦福大学商学院（Graduate School of Business， Stanford）谈到这个话题。她的观点是，虽然存在种种挑战，但信任对于维持医疗体系的运转而言仍然至关重要。因此，如果个人无法考虑到其深远影响，监管部门又跟不上变化的广度和速度，那么沃西基就必须担负起营造这种信任的責任。她从当前医疗行业中借用了一个实证有效的理念，聘请一家独立的伦理审查委员会来担任23andMe所有活动的伦理顾问。

实际上，23andMe的数据既可以用于改变地球的研究，同时也会造成意想不到的破坏性影响。在预约基因检测时不经家庭医生同意，或者绕开临床研究机构直接收集相关数据，这些并不是道德领域的问题，而是我们这个社会如何在控制成本的同时实现效益最大化的问题。关于23andMe数据的相关应用问题可能要争论数年，才能最终在公众当中达成共识。

我们已经看到，在模块化的帮助下，企业在发掘并满足用户需求之后，可以迅速将其推广到所有人群，而且这种速度简化了我们长期以来对待公众监督的方式。沃西基像传统研究机构一直做的那样，通过聘请第三方顾问来审查其数据使用情况，由此创造了一股抗衡性力量来代表社会观点。

直接面向消费者的基因检测，重新定义了我们获取医疗信息和参与研究的方式。在这个领域，模块化创新同样有可能因考虑欠周而让我们大失所望。只是在杯子里吐口唾沫，能带来哪些正面和负面的影响？FDA，当然还有个人消费者，都不可能对此做周全的预测。从这项业务中获得巨大价值的公司必须承担一部分伦理责任，就像23andMe已经着手在做的那样。

行动意愿

克里斯滕森等人的“相互依存和模块化理论”有力地解释了价值链的演变方式和消费者需求的影响。价值链四分五裂之后，创新者可以利用新的技术选项，根据客户需求重新把它组装起来。接受这些变化的高管还应该努力去解决那些通常不太明显的伦理问题。我们建议采取三种做法。

1.假设自己成为行业领军者。大多数创新者都喜欢在边缘地带竞争。采纳模块化方式的颠覆者从下层崛起后，很容易将矛头对准传统业务，凭借自己的能力去满足市场上的复杂需求。但作为颠覆者，追求成功的同时还应该具有某种改变范式的责任感，尤其是当这些业界新贵后来居上，成为主导平台时。所以，与其只紧盯初次进攻的结果，不如从后往前推导一下。先假设你已经成为市场主导者，然后问一问什么东西最有可能破裂，可以采取哪些措施来防止破裂，一旦破裂发生，应如何应对。

2.记录能够防止当前系统崩溃的保障措施。首先，借鉴精益流程改进的方法，画出你们公司进入市场之前整个服务的价值链。接下来，设想一下你即将主导的那个未来。也许你已经通过删除某个步骤或缩小其范围而提高了效率。了解这一步骤的发展演变过程，并思考其中有哪些内在的保障措施：它们是监管方面的吗？与标准有关吗？是社会建构（social construct）吗？与此同时，思考访问限制中的保护机制：有访问权限的人受过哪些教育或培训？想象一下一群天真少年如何滥用或误解你的服务，也许会有帮助。一定要考虑到恶意行为人可能会如何使用你的服务。保障措施既保护了市场，也保护了消费者。了解这些措施，并规划未来如何对待它们。

3.确定谁负责提供这些能力。在某些情况下，这一点是非常清楚的：如果乘客不信任司机，共享出行服务就无法生存，因此来福车和优步（Uber）必须确保司机已经接受过背景调查，尽管它们并不是直接去做调查。而在另一些情况下就不那么明显了：3D打印机仅仅是一个促进模型设计师和消费者之间交流的平台吗？领导者要做好心理准备，如果自己启动的变革失败，他们要为此负责。

为了将这些建议付诸实施，我们必须取得成功，了解差距，并对即将创造的未来承担责任。当然，实施的具体细节将因行业和公司而异。但我们坚信以上三项行动是关键所在，能帮助我们判断模块化的哪些领域可能出现伦理不确定性，了解如何负责任地应对这一变化。

Liberator是一款3D打印的塑料手枪，在一位联邦法官禁止在网上发布3D枪支蓝图之前，它的模型已经被人下载了10万多次。幸运的是，3D打印机并不是家家户户都有；打印出来的部件必须经过精密的组装，而且就算组装正确，这样造出来的枪也不怎么靠谱（误伤枪支主人和命中目标的概率一样大）。假以时日，这些复杂的问题都会得到解决。但这也意味着，监管机构同样有时间针对这种显而易见的威胁制订计划。

对其他竞争领域，我们应该予以更多关注。我们所知的贷款、媒体、就业服务和医疗保健等行业已历经数十年的发展。它们的保护机制有时是经过千辛万苦才建立起来的，有时则是前运营者或目标受众的性质中自带的。颠覆者和大公司都在以前所未有的速度改造这些价值链，以便能抓住机会充分利用信息的高速传递、人工智能的应用，以及低利润工作的市场和网络的建立。如果认为现有保护措施能自动移植到新的模块化系统中，那未免过于乐观和轻率了。

严格守法固然重要，但还不足以防止我们落入伦理陷阱。在美国有线电视新闻网（CNN）商业频道的一则报道中，剑桥分析公司前首席运营官（COO）朱利安·惠特兰（Julian Wheatland）对公司丑闻进行了反思：“一路走来，剑桥分析犯了很多错误，最后把自己搞得声名狼藉。但它最大的错误就是认为只要遵守政府法规就足够了，因此忽视了数据伦理和公众感受等更广范围的问题。”

启示：唯一合理的解决方案，就是深思熟虑，接受新的伦理范式。每位高管都应该设想注定要来临的未来，既要考虑如何取悦消费者，也要思考哪些系统性保护措施是必不可少的。