脑-机接口对个人自主的挑战与哲学反思

(中南大学湘雅医院，湖南长沙，410008)

随着神经科学和人工智能的迅猛发展，脑-机接口(brain-computer interfaces, BCI)逐渐进入人们的视野，引起了社会各界的普遍关注。脑-机接口通常被归类为神经康复技术①，用于检测和处理大脑活动，以便个人与外界交流和联系。通过提供大脑信号通道，在不需要周围神经和肌肉参与的情况下，脑-机接口使个体活动得以可能，例如驾驶轮椅、移动机器手臂等[1](25)。神经科学和脑-机接口的发展，使临床医生和研究人员能够更好地了解无反应觉醒综合征(也被称为持续性植物状态)患者的大脑功能，提高思维正常而运动功能障碍患者对外交流信息的能力，并拓展了个体控制肢体运动的途径，进而引发传统的人脑与外部世界信息交流和控制方式的革命。其中临床实践面临的挑战尤为突出。

自主的传统模式为理性个体在完全的知情同意后，经过充分的审慎权衡，自由地做出行为选择并实施，体现了个体意志的自由和行为的能力。在意识黑箱无法被窥视和大脑信号通道未建立之前，这种经典的自主认定模式无疑是合理的和令人信服的，它被视为对个体价值和尊严的保护，被视为对人类理性和人文关怀的彰显。然而在大脑信号通道建立之后，自主的概念、自主认定范式，甚至是自主理性的主体，都将面临挑战和冲击，根本原因在于脱离神经科学和脑-机接口的检测，我们模糊了自主的概念，包括理性本身和行为能力，甚至是作为理性意识表达的主体的人。例如，借助传统医学对意识临床表现的认定模式，我们通常认为持续性植物状态的患者是没有意识的。但脑-机接口的研究表明，这类群体事实上是有意识的，即使没有意识的临床表现，他们仍然保留了认知、理解交流和记忆等能力，利用脑-机接口，患者可以与外界交流[2](235-236)。因此，随着神经科学技术和脑-机接口的进一步发展，特别是在临床环境中，传统的基于认知功能完整性及其相关影响因素解读的个人自主性可能面临独特的伦理挑战。

一、问题的提出

一名女性因车祸昏迷了数天，之后发展为无反应觉醒综合征。在此状态下数月没有任何改善的迹象。她的女儿，拥有母亲赋予的持久健康护理决策委托书，要求移除母亲的生命支持系统，并说母亲遭受了长期的折磨，家人对她的康复也失去了希望。医生建议在终止患者生命之前，使用一种新的脑-机接口诊断方法以决定患者是否确实患有无反应觉醒综合征或是否被完全锁定。然而女儿拒绝了医生的建议，理由是她和母亲对心灵神圣的宗教信仰[2](237-239)。美国医学会的《医学道德守则》指出：医生应将委托人或代理人视为患者的延伸。一般而言，医生应该尊重患者委托人的决定，当医生认为委托人的决定明显不是患者会做出的决定时，或者没有为患者最佳利益合理决断时，应咨询伦理委员会[3]。

这里的关键问题是：撤掉生命维持系统是否为患者本人的真实意愿，是否表达了患者的自主决定，是否符合患者的最佳利益？相关问题涉及：(1)患者的宗教信仰事实和坚守信仰的程度。(2)假如患者本人有健康护理的决策能力，患者委托人的决策是否可以被推翻？如果患者决策能力确实存在，不让她为自身健康利益决策是不道德和不合法的。假如患者没有健康护理的决策能力，推翻拥有持久性授权的委托人的决定绝非易事，特别是患者与委托人确实有同样的宗教信仰时。即便如此，委托人的决策是否符合患者最佳利益依然需要评估[2](238)。研究表明，高质量照护的闭锁综合征患者也报告了有意义的快乐生活[6](449-455)。这意味着，即便我们按照最佳利益标准计算出可能符合患者最高净收益的选择，也可能不是患者本人的真实意愿或现实诉求。在脑-机接口高度发展和深度应用的今天，有关个人自主决策的科学判断，正不断左右甚至取代个人自主选择的价值评估，这种转变对传统个人及其自主性的解读提出了巨大挑战。

二、理性的自主个体与脑-机接口的挑战

(一)自主的本质和判定条件

自主一词源于希腊语autos(自我)和nomos(统治或支配)，它最初是指独立城邦的自治或自我支配。后来自主一词的用法拓展到个人，并获得多种含义，如自我支配、自由权、个人选择、意志自由、自主行为和自主者，等等。个人自主的最低限度是自治，即个人不受他人控制或干涉，也不受妨碍个人做出有意义的选择的限制。自主有两个必要的条件：(1)自由(不受控制性的影响)；(2)行为能力(故意行为的能力)。一个自主的人没有理解知情同意书就签字，尽管他显然具备自主行为的资格，但并没有做到自主。相反，有些人不具备自主决策能力也能做出自主选择。例如，有些没有自理能力被宣布为无行为能力的精神病人，可能做出一些自主的选择，如表达饮食偏好和拒绝服药等[5](59-60)。

事实上，对于普通行为者来说，分析其自主行为只需要符合三个条件：(1)有意图。在具体关系和背景下表达自我意图的能力。(2)理解。利用信息和知识找出理由的能力。(3)不受决定其行为的控制性因素的影响，确保有效实现预期行动的能力。其中，是否有意图只涉及有无、不涉及程度；而理解和不受决定其行为的控制性因素的影响，则涉及程度大小。由于可以在不同程度上满足这两个条件，因此，行为的自主程度就会产生从完全自主到完全不自主的自主连续谱系。例如，在此连续谱系中，我们可以发现许多儿童和病人表现出不同程度的理解力和独立性[5](61)。因此，从现实角度看，一个人的行为很少是完全自主的，她或他的理解和行为或多或少会受到外部环境和传统文化因素的影响或干扰。特别是在脑-机接口技术迅速发展和应用的当代，自主个体的鉴定被拓展到了微观的意识层面。

(二)自主行为能力与挑战

行为能力即“执行一项任务的能力”，我们这里是指一般情况下的普遍标准，比如同意或拒绝医疗干预的能力等，而不是个人执行特定任务的能力，比如特技表演能力。许多病人和受试者由于某些生理或心理限制没有作出有效同意的行为能力。医疗专业人员鉴定某个人无行为能力，可能导致他们推翻这个人的决定，转而寻求代理人的决定，或要求法院指定监护人来保护他/她的利益，或寻求强制住院，等等。行为能力鉴定在确定人们是否有资格作出某些决定时具有较强的规范性作用[5](70-72)。

个体自主行为能力可能受到限制或增强，其表现的行为能力谱系随之展现出差异。通常来说，行为能力表现为以自决或自主的方式行事或生活的能力，或一种对自我事务的某种控制能力。例如，一些人由于精神障碍(比如强迫症)而遭受内在强迫，其医疗决策是否自主就值得怀疑；一些痴呆症患者就显然没有自主行为能力；而一些闭锁综合征患者显然也无自主行为能力。但上述三个事例存在差异：精神障碍患者的行为能力可能是间歇性的，正常时符合意图表达、理解信息和自由行为的能力条件；痴呆症患者因智力障碍失去自主意识或理性推理能力，其意图表达、理解信息和自由行为的能力欠缺；而闭锁综合征患者因失去意图表达或行为控制能力而失去自主行为能力，但其理解信息和理性推理能力可能是完整的。

理论上来说，脑-机接口为个人行为能力的实现提供了多种可能性，它明显提高了个体自主行为能力。例如，脑卒中或损伤后的运动功能丧失可被脑-机接口系统修复，或者闭锁综合征患者能够通过脑-机接口重新与外界联系和交流。脑-机接口突破了决定个人行为的控制因素(内在的和外在的)的影响，从而提高了个人执行自主决策和自主行为的能力。然而，如果我们深入研究有关个体行为及大脑活动的相互作用机制，比如大脑活动和行为改变的关系，就很容易发现脑-机接口可能在以下三个方面影响甚至损害个体的自主行为：

首先，信息误导。在最基本的层面上，脑-机接口获取的个体大脑活动状态的知识，可能导致他/她改变原有行为目标，甚至破坏个体自主性。例如一个女孩决定写信给朋友，进而维护良好的朋友关系。但被动性脑-机接口显示，每当她做此尝试时，情感状态总是变得很坏。通常情况下这种变化个体无法察觉。从脑-机接口收到的这个信息可能导致她重新审视写信的动机、与朋友的关系以及对朋友的真实情感。从积极方面看，这当然可被视为脑-机接口对自我决策的修正，也可被解释为避免意志力薄弱，即当个体评估某个行动信念而形成理由时，不能有效地控制情感力量的影响[6](488-513)。但是从另一方面看，在被动性脑-机接口信息数量巨大而质量堪忧，甚至可能被误读的情况下，这些信息也会抑制个体自主性。特别当我们被这些新的信息所困扰而不能正确处理情感时，自主性可能被极大地破坏[7](4-5)。也就是说，当我们无法科学解读脑-机接口信息时，就无法形成正确的、符合理性的行为动机，个体自主性也就无从谈起。

其次，选择限制。通过自动化辅助性设备，对个体大脑活动的信号输入信息进行监测和脑-机接口可以完善个体自我决策路径，并提高其自主行为能力。然而，从控制的角度看，尽管这种高度自动化的设备更加容易转化个体指令，但也可能导致基于大脑活动信息设计的或计算机生成的个体行为选项的减少，最终表现为主体选择的限制。例如，把被动性脑-机接口连接到手机，当个人长期浏览网页后，计算机就可能接受并保存个人精神状态的信息，并基于相似情境的大脑活动设计向个人提供算法导向的行为选项。简而言之，脑-机接口不仅使人们更加受到自己过去精神状态和决定的束缚，而且还会限制他们的习惯、思维方式和行为发展变化。即将个人行为限制在脑-机接口认为合理的或可接受的选项中[7](5-8)。而当个人理所当然地接受所有可供选择的行为选项时，其基于理性和意愿的自主行为也随之被限制在一个狭窄的范围内。这个范围可能远远不能满足正常自主个体的意图范围，比如超出范围之外的个人意愿(突然奇想或创新)，就因计算机的控制性限制而被排除，个人这部分的自主性因为此类限制性而无法实现。

最后，行为操纵。操纵不同于强迫，它既不是说服性的，也不是强迫性的。操纵的本质是操纵者通过非强迫或非说服的方式控制人们按照操纵者的意图行事。在医疗领域中，最主要的操纵形式是信息操纵。信息操纵是一种操控信息的故意行为，不是通过说服的方式改变一个人对某种情况的理解，从而促使这个人按照操纵者的意图行事[5](94)。其基本形式包括撒谎、隐瞒信息、误导等，与个人自主性选择是格格不入的。

除强迫性限制个人行为选项以外，基于个人先前的大脑活动或行为习惯信息，计算机系统还会以一种比较吸引个人情感的方式呈现不同的选项[7](6-8)。这也可以视为由脑-机接口系统算法引导向的行为操纵。在某些情况下，个人可能甚至不知道行为选项已经减少或由计算机引导，或者行为指令已经由脑-机接口系统给定。理论上说，个人可能知道脑-机接口可以减少行为选择，甚至知道这种情况的发生方式。然而，假如计算机系统的这种算法导向不通知个人或不给个人选择决策权，很少有人能确切地知道这种改变或结果何时或在什么情况下发生。因此，通过限制、改变或以算法引导影响个人行为选择的范围，脑-机接口能够降低并破坏个人选择的能力，并最终导致不同的行为结果。这种情况与自我决策的必要条件相矛盾，即缺乏影响行为决策的控制性因素。正如格林等人所说，脑-机接口的限制正在侵蚀个人的自主性，可能导致完全操纵，即个人的整个行为将被机器控制[8](59-70)。个人行为动机产生的依据是计算机自动化和算法处理后的数据，个人几乎没有洞察力或控制力，其选择受到算法的影响或操纵，其行为动机不是自主性的结果。

(三)代理决策与最佳利益评估

行为能力包括理解和处理信息的能力，以及对行为结果的推理能力。疑为自主的或不自主的病人的决策权一般被授予代理决策者。代理决策的理论前提是，治疗决策应当属于无行为能力或无自主性的病人，病人有决定的权利但无行为能力行使权利，但仅仅因为无行为能力的病人不再(或从未)具有自主性就剥夺他的决定权是不公平的。如果病人无选择治疗或拒绝治疗的行为能力，那么医院、医生或家人可以正当地成为作决定的角色。如患有中风、阿尔茨海默症、帕金森综合征、慢性抑郁引起的认知障碍、老年病和精神疾病的人，做出终止还是继续治疗的决定[5](97)。这里的理论预设是，从大多数理性人的视角，评估无行为能力者如果有行为能力的话将会作出的决定，它代表着患者的最佳利益。

脑-机接口的出现和发展，对传统自主理论提出了挑战，有些理论问题原本不是问题，而现在却成为争论焦点。脑-机接口通过解码大脑的活动过程可以识别并处理个人特殊的心理活动，并转化为特定指令，从而建立人脑与外部世界沟通和交流的信息通道。这也是本文开篇案例所提出的问题之所以存在的重要原因，也是问题得以解决的根本途径。这些问题可转变为：(1)如何保证大多数理性人的选择或决定一定符合某个无行为能力者的自主选择，或者说如何保证病人关于未来的明确指令(治疗或不治疗的决定)适用于当下情景？(2)如果患者当下的决定与代理决策者的决定不同，谁的决策应占据主导？(3)如何保证大多数理性人的决定能够代表患者的最佳利益，我们需要真正关心的是“病人的真实需要”还是“病人应该需要什么”？

1.代理决策者与患者决策的矛盾

信念和选择会随着时间的推移和情境的改变而发生变化。在某些情况下，个人以前明确表达过的选择(以前明确表达选择的原因旨在防止意愿的未来改变而影响自主抉择)，也可能发生改变(疼痛会改变人的意识状态)。这种可能性原本极低，特别是一些闭锁综合征患者，尽管其可能保留了认知、理解交流和记忆的能力，但由于缺乏意识表达能力，无法与外界沟通交流表达自主意愿。然而，如前所述，在脑-机接口协助下，这些患者可以与外界沟通，表达自我决策[7](3-5)。

这里的难题在于，患者本人在疾病状态下(类似持续性植物状态等可能影响患者意识的疾病)被认为具有医学能力作出的自愿选择，是否能被认它为是一种理性的选择？假如它与其授权代理决策者的选择不一致，哪种选择应当被视为代表了患者的自主性，从而成为最终决策的道德基础呢？

2.代理决策者与患者决策的权衡

一般情况下我们普遍认为，代理决策者之所以被患者授权代理其健康护理的决策权，是因为代理决策者对患者的了解应当足够深刻和贴切，代理的判断能够反映患者的态度和价值观，或者说两者可能拥有共同或相似的价值观念或信仰体系，因此，当患者无行为能力时，代理决策者的选择就代表了患者的自主意愿和最佳利益。无论从法律层面还是从道德规范层面，我们都应当尊重代理决策者的选择，即便这种选择可能置患者于不可逆的死亡境地。

但是，我们也知道确保病人有选择的权利，是一项基本的道德义务，否则就是违反自主原则的。根据这个原则要求，假如患者本人有健康护理的决策能力，不让她/他为自身的健康利益决策是不道德和不合法的。因此，当脑-机接口赋予某些原本无决策能力患者一种选择的自由和权利时，我们首先应当遵从患者本人的医疗决策权，即便这种决策结果与其代理决策者的选择不一致。如此，脑-机接口对传统代理决策权提出了挑战。这种挑战也是原本的决策判断模式不会出现的。鉴于患者在疾病和疼痛状态下的选择可能违反其本心，因此解决问题的关键在于患者的最佳利益是什么？

3.患者最佳利益评估

按照最佳利益标准，代理决策者必须计算每一种选择给病人带来的利益的大小，然后扣除决策本身的风险或成本，在各种可能的选择中确定哪种选择可以获得最高的净收益。“最佳”标准表明，代理人的责任是通过比较性的评估，找到最高净收益，使病人的利益最大化。最佳利益标准通过评估各种治疗方案以及其他备选方案的风险和利益，考虑病人的痛苦和疼痛，评估病人功能的恢复或丧失，来保护病人的福利[5](100)。但是这里依然需要注意的是，这种标准是针对无行为能力者的普遍的生命质量标准判断，当它与患者本人偏好、价值观念和信仰冲突时，依然需要进行综合考虑。

根据目前主流的观点，个人自主性的排序和执行标准是：个人自主性选择优先于代理决策，代理决策优先于最佳利益评估。对于那些以前具有行为能力的患者来说，代理授权本身就已经构成一个合法的自主判断，尊重代理决策者的选择本身就代表了患者的自主抉择；如果以前有行为能力者并没有留下任何表达意愿的授权，那么最佳利益评估就应当成为判断患者最终医疗决策的依据。这种标准对于绝大多数无行为能力的患者来说，依然是适用的。然而脑-机接口的出现和发展，仍然提出了有关特殊的、具有意识能力的闭锁综合征患者的自主权问题。传统个人的自主性排序和执行标准可能面临挑战，任何排序始终需要首先经受患者脑-机接口的“意识或意愿测试”。原因在于：(1)个人才是自身健康利益的根本决策者和主权人。(2)最佳利益不仅是医学事实判断，而且应该是价值判断。当个人能够表达自主意愿时，其选择就不是一种基于人类利益和理性的推定，而应该是根据自身价值观的实际选择。尊重从来不是一种简单的推理和默许的态度，而应是基于信念和价值的实际行为。因此，当处于疾病状态的患者的决策明显不符合其理性状态下的决定和价值观时，代理决策者、家庭成员、医生、社区代表和宗教人士的共同参与是必要的，最终决策如何慎重都不为过。

三、脑-机接口临床实践的哲学反思

自主性是个人自由和理性的表达，个人与外部世界、他人和物质条件是相互作用的，因此个人自主性可能受到多种因素作用后增强或降低。换句话说，人与世界的关系塑造着他们的自主性，而这种关系也常常被技术所塑造[9](48-50)。技术调节人与世界的关系，也调节人的主体性。因此，脑-机接口不但塑造了用户与其身体的关系，也重塑了人们对治疗与增强、自由意志和道德责任的传统观念。

(一)治疗与增强

人类在增强自身的征途中从未停歇，从外部的技能到内部的体能、从道德情感到行为模式，技术一直扮演助推与建构的角色。近年来，脑-机接口的发展和应用，彰显了技术在人类探索未知意识黑箱中的卓绝功效，人类在乐享受益匪浅的技术成果时进一步增强了技术深度应用的信心。如今，基于脑-机接口的神经干预已从实验室开始逐渐渗透到普通大众，从情感增强过渡到认知增强并深入到道德增强。然而，这些神经干预技术能够直接改变大脑功能的判断，基于神经调节技术作为神经精神疾病的有效治疗方法的科学事实[10](294)，并非简单的形而上学的还原论推论。尽管如此，当研究人员开始研究这些技术增强健康人群认知功能的潜力并试图提升人类的道德行为时，同样引发了一些学者的关切和激烈的伦理学讨论。其中争论的一个先在问题是：技术用于疾病治疗与机能增强的界限问题。

人类大脑时刻都在变化，饮食、睡眠、体育锻炼和教育都是其功能的影响因素，这些耳熟能详的传统方式，尽管其功效是缓慢和或然的，但却能够被人们普遍接受。而脑-机接口的显著发展提供了更直接、更先进的方法来修饰人脑，尽管其功效可能更有效和更实惠，但往往引发人们的诟病。重要原因在于技术可能发挥超出其正常范围的功能[10](294)。从而导致侵犯人的自主和尊严、导致不公正等一系列负面社会影响。但是当多数人持反对意见时，他们却很难区分人类正常功能的清晰界限。实际上，大多数情况下，我们所定义的“健康”和“正常”可能是随意的，人类机能不同状态之间的模糊界限使得增强的定义变得极其棘手。

一些学者提出了有关增强的比较有代表性的狭义观点，即“正常水平”观点。这种观点认为认知增强意味着“超越特定物种正常的功能水平”“旨在改善或提升良好健康所必需的范围之外的功能”，或者更简单地说，“这种故意的改变，其目的不是为了使残疾人或患病者变得正常、健康，而是使其不仅正常，而且超出正常”[11-12]。与此不同，广义的增强观点认为，认知增强包括“改善思考，感觉和记忆能力的所有干预措施”“增强是人的生物学或心理上的任何变化，与人的初始状态无关”[11]。

目前，有关增强的定义依然存在争议，我们无法真正确定一个物种固定的功能平均值或正常的功能水平，况且随着人群整体功能的提升，有关疾病和机能的正常概念的理解也会不断发生变化。例如，增加士兵警觉性通常被认为是有益的，但是对睡眠障碍患者来说则可能导致相反的结果；在神经退行性疾病患者中，提高记忆力是关键，但对于治疗创伤事件导致的心理伤害患者来说，减弱创伤事件的记忆则是更好的选择。但是可以肯定的是，治疗与增强的理论争议，对于脑-机接口伦理问题的解决毫无裨益，我们认为，技术实践的伦理风险在于其可能导致的个人和社会的不良后果。具体而言，我们无法在社会整体或单个物种层面上清晰界定治疗与增强的界限，脑-机接口的风险应聚焦于它可能导致的个人微观层面的伤害，特别是与它直接作用和发生联系的认知功能方面。

(二)认知增强与自由意志

脑-机接口直接的目的是调节不同大脑状态个体的认知功能，从而提高其与外界沟通和联系的能力。有效性和安全性的大多数证据主要来自患者而非健康受试者[11]，因此，当脑-机接口用于普通大众的认知增强时，首先应考虑的是其安全性问题。缺少健康受试者的严格的纵向大规模研究，脑-机接口用于健康人群的认知增强几乎是没有科学依据的，很难说认知增强的好处大于认知安全隐患。但是，存在认知增强的潜在风险的事实并不一定意味着应该将其禁止。很多风险很高的活动，例如极限运动和整容手术，仍然有国家鼓励并有众多人群追逐。关键问题在于，当个人进行风险-收益分析并决定采取行动时，当前的行为决策是否是自主的，并且未来是否能够维持理性的自由意志状态。

问题的第二个方面，脑-机接口的认知增强是否可能导致胁迫。这里依然存在两种情况：(1)从个体外部环境看，即使认知增强被证明是安全有效的，也可能导致人们不自主的行为选择。例如需要注意力高度专注的职业人员(飞行员或外科医生)，即使与自我意愿相左，为减少职业可能的负面风险，认知增强也可能成为他们的一种道德甚至法律责任。另外，来自家庭成员、同龄人、社区或整个社会的竞争压力，同样可能导致人们不自主地使用认知增强功能[2]。(2)从个体自身来看，如前所述，脑-机接口可能在信息误导、选择限制和行为操纵等三个方面损害个体自主行为。而自主性、自由、自控等概念与自我理解和自由意志紧密相关。这就可能导致第三个问题，即认知增强是否可能威胁自由意志？

一般情况下，脑-机接口仅对大脑信息进行传递，个体意志依然可控。但技术的发展从未让人真正满足，脑-机接口的智能化还可以根据外部环境信号的变化，逆向传递信息给大脑，从而改变个体的判断或决定。当然，这种逆向信息传递是人性化的一种表现，也是技术的追求。基于脑-机接口之于自主意识的蚕食性侵蚀，个体在坐享技术福利时可能逐渐丧失抵御力，甚至丧失自主决策能力，从而迷失于无法自控的境地。这种自治的逐渐丧失类似于上瘾，个体沉迷于享乐中无法自控，从而破坏了自由意志。我们主观上感觉正在生活的海洋中自主航行，而实际上风帆正被逐渐模糊的意识所间接地操纵，这种意识的沦陷本身可能是无意识的。

(三)自主决策与道德责任

长久以来，哲学家们一直在争论人类自由和道德责任的本质。虽然意见不一致，但大多数人都同意的一点是：道德责任要求有能力反思我们的选择、理性地作出自主的决定并采取行动的能力。我们相信，如果没有自主决策能力，就不会有自由意志，我们也不会对自己的行为负责。如果我们不能理性地反思行为的动机，就不能找出行动的最佳理由并据此采取行动，那么我们的行为就可能不会反映我们的价值观、判断或决定，从而我们也不会对这种行为负责。但是，这种传统的道德归因模式，在当前的脑-机接口人机互动中可能遭受严峻挑战，具体表现在以下三个方面：

首先，行为主体的自主性问题。从上述论证可知，个体在使用脑-机接口时自主性可能受到限制，行为可能被改变或被操纵，甚至丧失自由意志。在这些情况下，个体行为的道德责任界定就成了难题或挑战。如果让一个不能理性思考、无法预测行为后果的个体承担道德责任，是不合理的和不公正的。

其次，道德主体的界定问题。脑-机接口不仅能传递大脑信号、逆向反馈大脑信息，还可以帮助个体(患者或健康个体)实现与外界环境的互动，例如完成移动肢体的执行命令等[13](4)。脑-机接口不仅能够帮助个体有目的地实现某种身体或心理行为，成为整个行动的一部分，还可以反馈外界信息，成为改变或操纵个体行为的主导。也就是说，不是任何情况下，脑-机接口使用者都得为自己的某种行动后果承担道德责任。进行道德责任归因之前，必须清晰界定行为主体是谁的关键问题。这里不仅涉及技术的安全性问题(技术故障等)、使用个体的隐私保护问题(防止黑客攻击等)，更为关键的是程序的设计即算法问题。

最后，算法偏见问题。脑-机接口的运行依赖于设计精准的算法和系统实现，任何步骤的污染或偏差都会对其他步骤产生影响。技术开发人员和使用者都必须意识到程序设计中有意或无意的偏见，而且偏见的可能来源有很多，包括程序设计中的利益权衡、风险评估和应对措施等。例如，在脑-机接口运行中，一旦发现使用者行为目标的实现存在风险，应该继续遵从主体指令还 是违背主体意愿而偏移预期行为，应该如何编程？[14](10)算法偏见引起的行为后果的道德责任归因非常复杂，因为我们很难评判行动的真实动机、无法合理权衡各方的利益和风险，甚至不能把此类事件归因于一种有自主决策动机和清晰目标取向的行为。

四、结语

目前，有关脑-机接口应用的社会和伦理问题已经逐渐引起了社会各领域人士的普遍关注。大多数人认为，脑-机接口收益明显大于风险[15](541-578)。但也有专家表示，脑-机接口尚未成熟，很难确定用户是否保留作出并充分传达明智决定的能力[16](205-222)。确实，脑-机接口明显提高了个体与外界交流和沟通的能力，促进了人的自主性，但它也同时挑战了有关个体自主的判断模式，甚至对理性的人及其行为能力也产生了极大影响。我们认为，脑-机接口在医学中的优势不应蒙蔽人们理性审视的双眼，从而低估它对个人自主性的潜在的负面影响。讨论处于起步阶段的技术是明智的和必须的，不应该将道德讨论推迟，技术的乐观期望可能产生不切实际的媒体炒作，或因过于悲观而产生不必要的盲目 担忧。

脑-机接口重塑了人们对治疗与增强、自由意志和道德责任的传统观念，引发了人类对自身存在的理性思考。技术帮助人类通向自由与解放，也引发了新的矛盾和困境，人类的技术化生存和对技术的批判性反思成为人类依仗技术征服自然和祛除蒙昧过程中的常态。当技术的发展已深入人类自我意识层面时，技术可能成为人类重新审视并自我解构的新尺度，可能建构人类技术化生存的新图景。

注释：

① 从功能上脑-机接口可分为三类，被动性、反应性和积极性。被动性脑-机接口依赖于个体非自主调节的大脑活动，包括心理负荷、睡意或情感状态等，通过捕捉大脑活动变化作为输入，这意味着个人不必要运用任何脑力故意产生某个脑活动。反应性脑-机接口需要个人有选择地集中注意力，可以是听觉、体感或视觉，比如屏幕上闪烁的字母，但它仍然需要周围的神经和肌肉功能，比如凝视，因此这种系统不太适合完全闭锁综合征患者。积极性脑-机接口需要个人特殊的心理活动，比如运动想象，从而记录、处理并传输个人命令。个人想象不同的运动会产生相应的大脑活动，脑-机接口识别这种脑活动的改变并执行不同的指令。这种脑-机接口既不需要依靠外部刺激，也不需要凝视类控制，对主体行为能力和意识状态要求较低。参见Friedrich O, Racine E, Steinert S, et al.An analysis of the impact of brain-computer interfaces on autonomy.Neuroethics, 2018,1(4):2.