智能机器人致人损害民事责任的困境及其破解

奥鹏网院作业

智能机器人致人损害民事责任的困境及其破解
朱静洁1，2.3

（1.云南财经大学 法学院，云南昆明 650221；2.西南政法大学 经济法学院，重庆 401120；3.贵州省社会科学院 法律研究所，贵州贵阳 550002；）

[摘 要]随着人工智能技术的不断发展，智能机器人作为典型的人工智能实体已逐步被运用于医疗、交通、家居、军事等行业，然而智能机器人为人类提供便利的同时，其致人损害事故也时有发生。智能机器人致人损害不同于传统的侵权行为，其特殊性表现在侵权关系主体的复杂性、侵害客体的多样性、损害结果的潜伏性三个方面。这决定了传统民事责任制度适用于智能机器人致人损害时面临三大困境，分别是民事责任主体不明、因果关系认定及证明困难、民事责任的承担方式局限。针对上述困境，可从明确智能机器人民事责任主体地位、科学认定智能机器人致人损害因果关系及增设特殊民事责任承担方式三个方面着手，逐一进行破解。

[关键词]人工智能；智能机器人；致人损害；民事主体地位；侵权责任

一、问题的提出
人工智能是当前全球的热点话题，亦是我国国家战略布局的重要组成部分①2016年5月18日，国家发展改革委、科技部、工业和信息化部、中央网信办印发《“互联网＋”人工智能三年行动实施方案（发改高技[2016]1078号）》，提出我国将着力突破若干人工智能关键核心技术，增强智能硬件供给能力，促进人工智能在国民经济社会重点领域的推广。2017年7月20日，国务院印发《关于新一代人工智能发展规划的通知（国发〔2017〕35号）》，明确提出把人工智能发展放在国家战略层面系统布局，牢牢把握战略主动。2017年12月31日，工业和信息化部印发《促进新一代人工智能产业发展三年行动计划（2018—2020年）（工信部科[2017]315号）》，以加快人工智能产业发展，推动人工智能和实体经济深度融合。。智能机器人是典型的人工智能实体之一，其主要通过传感器、数据等与外界进行交流，是具备“深度学习”及自主决策能力、能够随着环境变化自我调节、进化的有形实体。随着人工智能技术的迅速发展，智能机器人的运用范围已遍及医疗、交通、制造、军事、教育等领域，“AlphaGo”、自动驾驶汽车、智能医疗机器人等智能机器人的出现颠覆了人类对于机器人的传统认知。

然而，智能机器人在为人类提供便利的同时，其致人损害事故也时有发生。2007年美国食品药品监督管理局就曾收到指控医疗外科手术机器人导致病人遭受烧伤、切割伤与感染的投诉，数量多达200余次，其中包括89例致人死亡的事故[1]（p132）；2015年德国曾发生工人被工业机器人伤害致死的事故①新浪财经.德国大众工厂发生机器人杀人事故：一名工人身亡.（2015-7-2），[2019-5-1].http：//finance.sina.com.cn/chanjing/gsnews/20150702/175722574804.shtml.；2018年3月20日在美国发生优步无人驾驶汽车撞人致死的交通事故，这是首例无人驾驶汽车致人死亡事故②新浪科技.优步自动驾驶事故首例无人驾驶车撞人致死案.（2018-3-20），[2019-5-1].http：//www.techweb.com.cn/digitallife/2018-03-20/2647095.shtml.。随着智能机器人各项技术的日益成熟，其运用必然更加广泛，类似的智能机器人侵害人类人身、财产的事例还会增多，因此必须正视并解决智能机器人致人损害民事责任的相关问题。智能机器人因其具备深度学习及自主决策能力而与传统机器人有显著区别，智能机器人致人损害行为较传统侵权行为有一定的特殊性，所以在现行民事责任制度的框架下难以有效解决智能机器人致人损害的问题。本文尝试结合智能机器人致人损害行为的特殊性，深入分析传统民事责任制度适用于智能机器人致人损害时面临的三大困境，进而有针对性地提出破解对策，以期为我国智能机器人的发展及相关法律规定的修改提供初步建议。

二、智能机器人致人损害的特殊性
智能机器人具备能够与外界发生交互的物理载体，其不仅可以通过算法、代码、信息传感技术处理并分析海量数据、信息，还能在此基础上作出独立自主的决策，并通过“深度学习”不断更新、完善自身知识体系与数据库，从而持续调整自身系统以适应环境变化[2]（p104）。可见，将智能机器人等同于纯粹供人类使用的工具并不恰当，而智能机器人的拟人性、复杂性、不可预见性则导致智能机器人致人损害较传统侵权行为具备一定的特殊性，具体表现为侵权关系主体的复杂性、侵害客体的多样性、损害结果的潜伏性。

（一）侵权关系主体的复杂性
智能机器人致人损害行为的侵权关系主体较为复杂，该类致人损害事件往往具有复杂多变的发生机制。智能机器人在被研发、制造、使用或自行运转的每个阶段都可能存在导致损害事件发生的因素，同时牵涉多个侵权关系主体。在智能机器人的研发、制造阶段，研发人及生产者为智能机器人提供了初始的认知、价值及控制体系，即使是在出厂后进行的深度学习过程中，其学习方式、内容及运用都由研发者拟定的算法决定。因此，当研发者和生产者因过错导致智能机器人存在缺陷进而造成他人损害时，研发者及生产者将成为民事责任主体之一。在人类合理使用而智能机器人正常运转的情况下，智能机器人因偶发性自主决定而致人损害时，研发者和生产者是否仍应当成为侵权行为主体？智能机器人又能否成为独立的民事责任主体？在人类未合理使用智能机器人而遭受损害时，使用者是否应当承担相应的过错责任？上述问题都需要进一步商榷，可见智能机器人致人损害牵涉的侵权关系主体较为复杂，其确定并不像传统侵权行为关系主体那样简单明了。

（二）侵害客体的多样性
智能机器人致人损害的侵害客体较传统侵权行为更为多样，其不仅可能对受害人的人身、财产造成损害，还可能通过大数据及互联网对受害人的个人信息、数据造成损害。智能机器人通过不断收集海量的信息、数据进行“深度学习”，同时针对系统指令完成特定的目标。以无人驾驶汽车为例，用户要享受其减轻驾驶难度、提高交通安全指数的便利，就需要提供基本的身份信息、支付信息、目的地信息、个人实时位置信息等数据，同时用户乘坐无人驾驶汽车期间的行程路线、通话记录、出行习惯等信息也将被持续收集、整理、分析。上述数据信息包括用户的个人信息及其他使用数据，兼具人格属性及财产属性，无人驾驶汽车整合的这些电子数据信息将形成每个用户独一无二的电子人格[3]（p119），一旦数据被篡改、泄露、非法利用将严重危害用户隐私权、财产权、生命健康权等民事权利。智能机器人发生故障或偶发性自主决策而致人损害，既可能造成交通事故损害用户的人身、财产安全，也可能泄露或篡改用户的数据信息，损害用户的个人信息权利。

（三）损害后果的潜伏性
人工智能技术更新快、难度大，智能机器人的设计、制造、运行呈现高度技术化的特点，智能机器人的“深度学习”及自主决策能力虽由人类赋予，但研发者却尚不能完全解释其运行机制，对于普通人而言智能机器人的技术路径及运行机制则更是难以把握。在某些情境下智能机器人致人损害的后果并不一定即时显现或被人察觉，具有一定的潜伏性。其内在运行技术的复杂性及自主决策的独立性导致制造者、生产者、使用者或与其发生交互的其他主体难以完全预见其行为，更无法及时发现智能机器人致人损害的后果。以智能家居机器人为例，其具备收集、分析用户使用数据并完善运行方案的功能，智能家居机器人的性质决定了其能够轻易地获取用户日常生活的习惯、隐私等信息。然而，普通用户并不能完全把握智能家居机器人收集数据的具体范围、数据分析的模式、数据的使用路径等，无形中用户不愿被采集的隐私数据也会被智能家居机器人收集并运用，同时智能家居机器人也可能在未经用户允许的情况下通过互联网将用户数据接入企业平台，用于推广目标锁定或直接分享进而损害用户合法利益。而上述智能机器人致人损害行为后果的潜伏性导致受害者对于损害结果的察觉往往具有滞后性，当用户发现时损害结果已经扩大并可能在一定时间内产生持续性的后果，这也是智能机器人致人损害区别于普通侵权行为的特殊之处。

三、传统民事责任制度适用于智能机器人致人损害的困境
智能机器人致人损害的特殊性导致相关民事责任的认定及承担不同于传统侵权行为，直接适用我国现行《侵权责任法》《产品质量法》等相关规定将面临诸多困境，其中智能机器人致人损害的民事责任主体确认、因果关系认定、民事责任承担方式三大问题最为突出。

（一）智能机器人致人损害的民事责任主体不明
确认智能机器人致人损害的民事责任主体，首先要明确引发智能机器人致人损害的原因，究其原因至少有以下三种可能：其一，研发者、生产者在研发制造智能机器人时存在过失，导致智能机器人因存在设计缺陷、制造缺陷或警示缺陷[4]（p2）而致人损害；其二，智能机器人致人损害是由占有者、使用者的不合理使用造成的；其三，在研发者、生产者不存在过失，占有者、使用者合理使用的情形下，智能机器人因自主决策行为而致人损害。上述三种情形既可以单独造成智能机器人致人损害，也可能同时成为智能机器人致人损害的诱因。在第一种情形下，研发者、生产者可依据《产品质量法》对智能机器人因缺陷致人损害承担相应的赔偿责任，而在第二种情形下占有者、使用者可依据《侵权责任法》承担不当使用的侵权责任，这两种情形中的民事责任主体尚能依据现行民事责任制度得以确定。然而，第三种情形下智能机器人民事责任主体的确定则存在许多值得商榷的地方。

在研发者、制造者没有过失，占有者、使用者合理使用情形下，直接适用传统民事责任制度确认智能机器人致人损害民事责任主体的难度较大。首先，参照第一种情形适用《产品质量法》，直接将研发者、生产者作为智能机器人致人损害的民事责任主体并不可行。原因在于研发者、生产者在智能机器人的设计、制造过程中并没有过失，其在设计、制造智能机器人时已经根据人工智能发展的实际情况履行了预见义务。在研发者、生产者无过失的情况下仍然将其作为智能机器人致人损害民事责任主体，表面上看似乎能够通过严格责任震慑研发者及生产者，但无条件要求研发人、生产者承担却将导致其承担过重的研发风险及成本，直接影响智能机器人技术的创新发展。

其次，将智能机器人作为占有人、使用人的财产，要求占有人、使用人就智能机器人自主决策致人损害行为承担全部民事责任的做法亦不具备合理性。占有人、使用人在运行智能机器人对于其行为的预见性有限，由于智能机器人的设计、制造技术先进且更新迅速，其进行“深度学习”及自主决策主要依据算法及数据，并不是机械执行占有人的指令，要求占有人对智能机器人基于自主决策行为致人损害承担全部民事责任并不合理。

最后，将智能机器人自身作为致人损害民事责任主体的观点尚存争议。智能机器人能否就其致人损害行为承担民事责任，取决于智能机器人是否具备民事主体地位，但目前学界对于该问题尚未形成共识。有学者认为智能机器人不能拥有独立财产，尚不足以取得独立的民事主体地位[5]（p82），另有学者则提出智能机器人不是物，其具备自主性与主动性[6]（p40），我国民事法律制度应当赋予其法律人格[7]（p14）。同时，还有学者指出当智能机器人已经遵循预设程序精准运行但仍导致损害发生，其致人损害的民事责任不能归属于设计、制造、流通的某个或某几个主体时，智能机器人应当就此承担民事责任[8]（p39）。可见，在无法将研发者、生产者、占有者或使用者作为智能机器人致人损害民事责任主体的情况下，智能机器人是否能够获得独立的民事主体地位并成为致人损害的民事责任主体尚不明确，传统民事责任制度难以充分、有效地适用于智能机器人致人损害行为。而民事责任主体不明将直接导致该类行为的受害人无法提起民事诉讼并获得相应赔偿，进而使智能机器人致人损害行为成为法律规制的盲区，不利于人工智能技术的持续发展及人类生命财产的有效保护。

（二）智能机器人致人损害的因果关系认定及证明困难
传统民事责任制度一般通过必然因果关系确定损害行为与结果之间的关系，但智能机器人致人损害行为与结果却难以适用必然因果关系进行认定。一方面，智能机器人致人损害行为的发生机制复杂，他人干扰、自身缺陷、使用不当、未知原因等均能单独或共同造成致人损害的后果，而多个原因同时作用时各诱发因素在不同情况下对损害结果发生的影响程度又会有显著差异。一果多因、多因多果的广泛存在导致智能机器人致人损害行为和结果间的因果关系复杂化，显著提升了智能机器人致人损害因果关系的认定难度。另一方面，智能机器人运行的不透明性及不可预见性，进一步导致加剧了智能机器人致人损害行为因果关系的认定难度。如前所述，智能机器人设计、制造的技术难度高且更新迅速，智能机器人“深度学习”及自主决策行为的原理、技术路径、运行风险等问题中尚存在专业技术人员通过现有技术无法解释的盲区。智能机器人行为及决策的不透明性及不可预见性，将直接导致人类无法查明智能机器人致人损害的真正原因，即使获得智能机器人的算法及运行数据当事人也将面临严峻的技术障碍及诉讼成本[9]（p172）。

此外，智能机器人致人损害因果关系的证明难度较大，当事人难以采集并固定到有效的证据。在现行民事法律制度下，证明智能机器人致人损害因果关系至少需要提供智能机器人存在机械故障、算法漏洞等问题的证据，而这些证据皆需要原告提供。但是，智能机器人致人损害诉讼中受害人与智能机器人研发者、生产者的技术能力及经济实力的悬殊，决定了双方存在严重的信息不对等，这将把受害人置于相当被动的处境。对于非该技术领域专业人员的当事人而言，采集并固定智能机器人存在机械故障、算法漏洞等有效证据的难度极大且需要投入巨额成本，而在未知因素导致损害结果发生的情形下，当事人则基本没有证明的可能。同时，智能机器人致人损害结果的潜伏性导致受害人发觉被侵害的时间具有滞后性，证据在损害结果发生到受害人发觉期间可能会被删除、覆盖、篡改等，直接影响相关证据的真实性及解释力。

（三）智能机器人致人损害民事责任的承担方式局限
从传统民事责任的构造角度，可依据功能将我国的民事责任分为防御性责任、返还性责任和损害赔偿责任三种类型，其中防御性责任主要包括停止侵害、消除危险、排除妨害等，返还性责任则包括返还原物及返还权益的价值形态，而损害赔偿责任则包括恢复原状及价值赔偿两种形式[10]（p95）。然而，在现行民事责任制度框架下确认的智能机器人致人损害民事责任承担方式却不够科学、合理，其根本原因在于现行民事责任承担方式适用于该类行为时具有局限性。其一，智能机器人通过收集、泄露、不当利用等方式侵害用户数据信息所造成的损害后果往往具有不可逆性，无法通过“恢复原状”对受害人进行救济[11]（p67）。用户的个人信息及其他涉及隐私、个人习惯等的敏感或非敏感数据信息一旦被泄露或公开就无法恢复原状，同时信息数据在互联网中的传播范围、速度也难以控制，很难彻底消除损害后果。其二，在智能机器人作为独立民事责任主体，独立承担致人损害民事责任的情况下，传统的民事责任承担形式也将面临挑战。以“赔礼道歉”为例，“赔礼道歉”这一传统民事责任承担方式建立在人类具有羞耻感的基础之上，这种羞耻感是人类通过后天习得并具有浓厚社会性的独特情感[12]（p100）。要求侵权人承担“赔礼道歉”的民事责任，一方面是为了满足受害人的心理需求，另一方面则能够通过“羞辱性制裁”公开惩戒侵权人，震慑其他社会成员。然而，智能机器人没有生命体且不具备羞耻感，“赔礼道歉”无法让智能机器人产生羞耻心，亦不能对其他智能机器人产生震慑效果，更无法使受害人得到心理上的补偿。由此可见，传统民事责任承担方式适用于智能机器人致人损害时具有一定的局限性，需要补充专属于智能机器人的新型民事责任承担方式，从而达到有效惩戒责任主体、预防智能机器人致人损害再次发生、合理救济受害人的目的。

四、智能机器人致人损害民事责任困境的破解
随着人工智能技术的发展，智能机器人致人损害行为将更为复杂，损害后果则可能更为严重，传统民事责任制度适用于智能机器人致人损害的困境将更加凸显。顺应当前时代发展趋势，充分考虑智能机器人的特殊性，寻求智能机器人致人损害民事责任困境的破解之道已是大势所趋。具体而言，可从明确智能机器人民事责任主体地位、科学认定智能机器人致人损害因果关系及增设特殊民事责任承担方式三个方面，逐一破解智能机器人致人损害的民事责任困境。

（一）明确智能机器人的民事主体地位
我国法律应当基于“理性”赋予智能机器人民事主体地位。“理性”是民事法律地位的确认依据，其作为民事主体与客体的本质区别得到了民事法律制度发展史的印证。智能机器人具备与人类相当甚至超越人类的“理性”，其所具备的“理性”来源于人类，是人类认知理性与行为理性的延伸。一方面智能机器人本身就承载着研发者的知识、规则、逻辑与伦理等，而智能机器人的运算逻辑则是知识、信息与规则的高度统一[13]（p22），其扩展认知的“深度学习”能力决定了智能机器人不仅仅是承载人类思维的工具，更是能够产生自我意识并具备相当认知弹性的个体[14]（p1334）。另一方面智能机器人具备在最大限度实现某一特定目标时确定从事或不从事某些行为的理性，其能够以与人类相当甚至超越人类的认知能力准确预测、权衡其实现某行动将产生的后果，并在人类伦理道德、法律等行为守则的束缚下选择最优的实施方案。智能机器人对行为的精准控制依赖于人类社会的规则及其通过互联网、大数据对各个实施方案数字化的利弊分析[15]（p139）。简言之，智能机器人不是物，其因具备与人类相当甚至超越人类的认知理性及行为理性而应享有民事主体地位、具备民事行为能力，进而具有民事责任能力①学界通常认为，凡依法具有民事行为能力者，均具有民事责任能力（参见梁慧星.民法总论[M].北京：法律出版社，2007，p68）。。需要强调的是，法律应当赋予智能机器人民事主体地位，但这种民事主体地位并不是完全、不受限制、与人类平等的民事主体地位，而是限制性的民事主体地位[16]（p44）。为了保护人类、维护人类利益，自然人与智能机器人之间不应存在法律意义上的平等，限制性民事主体地位意味着优先保障自然人利益应是处理自然人与智能机器人利益冲突的首要原则。

智能机器人致人损害民事责任的具体承担可参照自然人致人损害的民事责任承担，依据智能机器人的智能化程度和理性指数划分不同民事行为能力智能机器人致人损害的民事责任。现行民事责任制度下自然人致人损害民事责任的承担主要以民事行为能力为标准进行划分，立法者采取年龄与辨认、控制能力（精神健康状况）相结合的标准，将自然人依据其理性程度划分为不同的民事行为能力等级[17]（p8），进而分别划分无民事行为能力人、限制民事行为能力人及完全民事行为能力人致人损害的民事责任。智能机器人致人损害民事责任的具体承担可以参照自然人，以智能机器人的理性程度为基本尺度，采取智能化程度和理性指数相结合的标准。与自然人以客观年龄作为民事行为能力分层标准类似，我国可将智能机器人分为低级智能机器人、中级智能机器人及高级智能化机器人。同时，将智能机器人的理性指数从低到高分为一级、二级、三级，结合智能化程度将智能机器人划分为无民事行为能力机器人、限制民事行为能力机器人及完全民事行为能力机器人。

无民事行为能力机器人能够进行独立判断并作出自主决策，但由于其不具备辨认、控制自身行为的能力，其行为应当视为实现研发者或占有者意志的行为。无民事行为能力机器人为实现研发者或占有者意志而致人损害的，应由研发者或法定代理人（即智能机器人的所有权人或占有人）承担民事责任。限制民事行为能力机器人致人损害民事责任的具体承担应考虑其法定代理人是否尽到监督、预防义务，限制民事行为能力机器人与法定代理人类似于监护人与被监护人。法定代理人未尽到监督、预防义务的，由法定代理人承担民事责任；法定代理人尽到监督、预防义务的，由限制民事行为能力机器人以个人财产承担民事责任，个人财产不足以支付赔偿费用时由法定代理人承担替代责任[18]（p53）。完全民事行为能力机器人致人损害的，以其所拥有的财产承担民事责任。完全民事行为能力机器人对自身行为暂时无法辨认或控制而造成他人损害的（例如：他人通过病毒控制智能机器人），如果其存在过错则应当承担民事责任，若无过错则根据智能机器人的经济承担能力对受害人进行适当补偿。

（二）科学认定智能机器人致人损害的因果关系
智能机器人致人损害的因果关系与环境侵权案件具有较高的相似性，损害行为与损害后果间关系复杂，一果多因、多因多果的情况常见，难以适用必然因果关系理论。同时，原告与被告技术、经济实力悬殊，大多数证明因果关系的事实存在于被告方的内部控制范围内[19]（p98），部分事实与结果间的因果关系具有科学上的不确定性。因此，可以参照环境法领域学者的观点，将适用相当因果关系理论作为智能机器人致人损害因果关系认定的最佳选择，并辅以部分因果关系理论进行修正[20]（p173）。相当因果关系的成立要求相关事实是损害发生的必要条件，并且显著增加损害发生的客观可能性。部分因果关系则是指相关事实是损害结果发生的“非充分且非必要条件”[21]（p254），仅是损害发生的部分原因，目前学界提出的概然因果关系、表面因果关系、疫学因果关系等概念皆与“部分因果关系”在一定意义上存在交叉。部分因果关系理论与相当因果关系理论在智能机器人致人损害因果关系认定中的定位各有不同，部分因果关系理论是从单纯认知的角度通过理论或逻辑划分因果关系的类别，而相当因果关系则是从法律归责角度通过实证分析智能机器人致人损害案件中因果关系认定的方式，二者相互配合、补充方能科学认定智能机器人致人损害的因果关系。在因果关系的证明方法上，由于智能机器人致人损害的因果关系一般很难通过演绎的方式直接加以证明，且常需要对依据现有科学技术尚不能准确认识的事物作出判断，因此事实推定应成为因果关系证明的主要方法。

智能机器人致人损害因果关系证明责任的分配决定着当事人举证的内在动力，因果关系证明机制应当鼓励当事人通过证明活动查明事实，尽可能保证各方当事人举证责任的合理分配。首先，原告应对被告智能机器人行为与损害之间的因果关系进行初步举证，并将其主张具体化以明确证明对象或范围。此处，原告仅需提供简化证明，既可以不确切说明证明对象或只是将猜测成立的证据作为主张的支撑，也可以提出较为模糊的整体主张，从而迫使被告方提出更接近案情事实的证据。其次，在原告本证的基础上，被告应提出反证或间接反证。因为智能机器人致人损害案件中双方当事人技术、经济等方面实力的悬殊将使被告方占有相当的证据优势，所以在原告明确了基本证明方向后具体的证明责任将转由被告承担。被告若提出反证则只需证明相关事实真伪不明，而如果被告提出间接反证则应对间接反证的相关事实进行完全证明。最后，在证据手段的利用上，智能机器人致人损害的双方当事人平等，均负有事证开示义务或事案阐明义务。这意味着智能机器人致人损害的受害人也需向对方当事人开示除涉及隐私、商业秘密之外的有关案件信息。此外，智能机器人致人损害的因果关系证明可能存在“证据偏在”的情况，在举证责任方完全没有取得证据的“期待可能性”时，可根据公平、诚信原则要求对方当事人例外地承担事案阐明义务。

（三）增设智能机器人致人损害的特殊民事责任承担方式
我国民事责任制度确立自然人民事责任承担方式时充分考虑了自然人的特点，设立了防御性责任、返还性责任和损害赔偿责任。虽然，在确定智能机器人民事主体地位后，其能够拥有独立财产并享有部分民事权利，可以承担绝大多数返还性责任和损害赔偿责任，但是防御性责任的承担却仍存在壁垒，特别是以自然人特有的“羞耻感”为基础设立的“赔礼道歉”难以适用于智能机器人。因此，有必要针对智能机器人的特点增设其专属的民事责任承担方式。具体而言，可以增设更改程序、删除数据、召回销毁、停止生产等民事责任承担方式。更改程序，是指强制修改直接导致智能机器人致人损害的基础程序，将其“深度学习”、自主决策的能力限制在合理的安全范围内，从源头上降低智能机器人再次致人损害的可能性。删除数据，是指通过技术手段彻底删除智能机器人实施致人损害行为所依赖的相关程序及数据。通过删除致人损害的相关程序及数据不仅能够使智能机器人摆脱“负面程序”或“负面数据”的影响，避免再次致人损害，还能够消除用户不愿意被收集、分析、利用却被非法侵害的个人数据信息的后续影响，保障受害人对个人数据信息所享有的合法权益。后续研发者及生产者可以通过添加替代程序更新智能机器人，使其在保持其原来功能的情况下再次进入市场，也可以将其直接改装为其他功能的智能机器人，两种做法均可以彻底消除引起智能机器人致人损害事件的程序的影响。在智能机器人致人损害程度严重，影响极大的情况下，如果修改程序、删除数据皆无法对受害人进行有效救济或人类已无法对智能机器人的程序、数据再次形成有效控制，则可以考虑将智能机器人召回销毁，同时不再生产该型号的智能机器人。修改程序、删除数据、永久销毁及停止生产可构成专属于智能机器人的民事责任体系，新增的民事责任承担方式具有一定的层次性，且能够与智能机器人致人损害的侵权后果及受害人的救济需求形成对应关系。

参考文献：

[1]吴汉东.人工智能时代的制度安排与法律规制[J].法律科学（西北政法大学学报），2017（5）.

[2]张童.人工智能产品致人损害民事责任研究[J].社会科学，2018（4）.

[3]张里安，韩旭至.大数据时代下个人信息权的私法属性[J].法学论坛，2016（3）.

[4]American Law Intitute，Restatement of the Law，Torts-Products Liabililty.St.Paul，MN：American Law Institute Publishers，1998.

[5]郑戈.人工智能与法律的未来[J].探索与争鸣，2017（10）.

[6]郭少飞.“电子人”法律主体论[J].东方法学，2018（3）.

[7]孙占利.智能机器人法律人格问题论析[J].东方法学，2018（3）.

[8]John Frank Weaver.机器人也是人——人工智能時代的法律[M].郑志峰，译.台北：元照出版有限公司，2018.

[9]司晓，曹建峰.论人工智能的民事责任：以自动驾驶汽车和智能机器人为切入点[J].法律科学（西北政法大学学报），2017（5）.

[10]张家勇.论统一民事责任制度的建构——基于责任融合的“后果模式”[J].中国社会科学，2015（8）.

[11]王利明.论个人信息权的法律保护——以个人信息权与隐私权的界分为中心[J].现代法学，2013（4）.

[12]唐芒花.民事公益诉讼中赔礼道歉的适用方式[J].社会科学家，2016（10）.

[13]冯洁.人工智能对司法裁判理论的挑战：回应及其限度[J].华东政法大学学报，2018（2）.

[14]Brenden Lake，Ruslan Salakhutdinov and Joshua Tenenbaum.Human-level Concept Learning Through Probabilistic Program Induction[J].Science，Vol.350，2015，（6266）.

[15]刘宪权.人工智能时代的“内忧”“外患”与刑事责任[J].东方法学，2018（1）.

[16]刘宪权.人工智能时代机器人行为道德伦理与刑法规制[J].比较法研究，2018（4）.

[17]朱广新.民事行为能力制度的立法完善——以《中华人民共和国民法总则(草案)》为分析对象[J].当代法学，2016（6）.

[18]魏盛礼.民事权利能力与民事责任承担的逻辑应对关系——兼评《侵权责任法》关于被监护人侵权责任的规定[J].南昌大学学报（人文社会科学版），2010（3）.

[19]王倩.环境侵权因果关系举证责任分配规则阐释[J].法学，2017（4）.

[20]胡学军.环境侵权中的因果关系及其证明问题评析[J].中国法学，2013（5）.

[21]John L.Mackie.Causes and Conditions[J].American Philosophical Quarterly，1965（2）.

[DOI编号]10.14180/j.cnki.1004-0544.2020.01.014

[中图分类号]D923

[文献标识码]A

[文章编号]1004-0544（2020）01-0130-08

基金项目：2018年度国家社科基金项目“移动互联网领域反垄断法实施疑难问题研究”（18BFX149）；中国博士后科学基金第66批面上资助项目（2019M663908XB）。

作者简介：朱静洁（1991—），女，云南昆明人，法学博士，云南财经大学法学院教师，西南政法大学、贵州省社会科学院联合培养博士后研究人员。

责任编辑 杨 幸