刘艳红：自动驾驶的风险类型与法律规制

    【摘要】自动驾驶汽车事故的法律责任应依据不同风险对事故主体和责任类型进行区分。在自动驾驶汽车生产阶段，存在生产、销售不符合安全标准的自动驾驶汽车的制造风险与难以进行特殊道路路段测试的安全风险。在自动驾驶汽车应用阶段，基于发生事故后的事故责任和保险责任的认定，存在自动驾驶系统与驾驶员的过失风险和故意风险。根据不同风险类型，在坚持自动驾驶责任主体否定论的前提下，自动驾驶汽车的法律规制路径应从民事侵权责任和刑事责任两方面展开。在民事责任方面，驾驶员与自动驾驶系统本身均不适合责任承担，由生产者一方承担责任更具正当性，并应同时引入责任保险制度作为社会化救济方式。在刑事责任方面，生产者因为设计缺陷或者未履行自动驾驶汽车应用安全管理义务并发生严重后果的，应当承担刑事责任。对于交通肇事过程中驾驶员的刑事责任，则应该根据自动驾驶汽车的自动化分级进行分类探讨。
    【关键字】自动驾驶汽车；风险类型；交通肇事；过失责任；刑事责任
    人工智能技术的迭代升级意味着自动驾驶汽车成为整个人工智能产业的“领航者”，包括脑机结合、情感计算、避险算法在内的诸多人工智能前沿科技被应用于自动驾驶汽车，寄希望于将人类驾驶汽车时的情感状态投射于自动驾驶过程中，[1]从而最大程度上发挥出自动驾驶汽车的行驶潜能。对于自动驾驶汽车而言，传统的“机械功能汽车”正逐步向“人工智能汽车”进化，其原因在于人工智能汽车对非结构化环境的高适应性，但是这同时也引发了关于自动驾驶的安全监管、道德伦理、风险类型以及责任认定等一系列未知的问题，[2]当前自动驾驶汽车的最新算法已经简化至19个控制神经元的单一算法，并尝试学习将高维度的内容输入映射到驾驶指令之中，[3]而这种高度且复杂的智能化技术会增加人工智能汽车交通肇事的归责难度，并对当前的法律体系构成了极大的挑战。对于自动驾驶的法律规制，以往的研究重点集中在责任主体的认定以及归责模式的构建，对责任主体的认定存在争议：肯定说承认自动驾驶汽车作为责任主体，并追究其具体责任，从而更新责任规则。[4]否定说则认为自动驾驶所应用的人工智能缺乏自由意志，并不具备刑事责任能力，[5]人工智能技术得出的结论是基于海量数据拟合的概率结果，缺乏内在情绪或情感基础的人工智能机体并不具有人性、尊严以及人格等人之属性，所以提倡赋予其法律主体的观点显然有悖于现代法的要义。[6]折中说则大多将自动驾驶汽车比照为“电子人”，希望借助拟制法律人格来有限地处理现实情境中的问题，[7]但是伴随自动驾驶场景的愈发复杂多样，折中说的论点自然难以为继。实际上，上述不同观点的碰撞都是学界研究视角失衡引发的“泡沫化”争议，只要明确人工智能的法律地位是为了解决权利能力与义务承担问题，并解决权利与义务的分配问题，也就随之解决了法律责任的承担问题。[8]囿于人工智能技术终究是人类智慧在技术领域的具体投射，而非具有真实智慧的责任主体，为了贯彻“使人成为人，并尊敬他人为人”的价值理念，[9]本文坚持自动驾驶汽车责任主体否定论，并在此基础上对自动驾驶汽车的法律问题展开更进一步的研究，基于对自动驾驶的风险进行类型化区分，再探讨当处于不同阶段和情境时自动驾驶汽车的法律规制路径构建，通过合理的刑事归责体系，消弭自动驾驶汽车的刑事风险，在维护司法公正的同时保证自动驾驶汽车整体产业的正常发展。
    一、自动驾驶汽车事故法律责任认定困境 自动驾驶汽车是指通过搭载先进传感器等装置，通过人工智能等新兴技术实现自动驾驶功能，逐步成为智能交通移动终端的新一代汽车。我国的自动驾驶汽车产业发展迅速，但法律体系并未完全跟上技术产业的迭代升级，存在一定的法律规制漏洞。虽然从整体上看，自动驾驶汽车可以显著降低事故发生率，根据替代安全评估模型（SSAM）显示，随着自动驾驶汽车渗透率的提高，道路交通的安全水平也随之提高，[10]但这不意味着自动驾驶汽车能够实现道路交通安全的高枕无忧，事实上，在自动驾驶汽车投入的磨合阶段仍然存在一定的交通肇事风险。2020年10月11日，百度宣布其无人驾驶出租车服务（Robotaxi）在北京开放运营，覆盖了海淀、亦庄等15个测试站点。随后，重庆、武汉两地政府部门也率先发布自动驾驶全无人商业化试点政策，百度也获得全国首批无人化示范运营资格。[11]基于此次获批，百度将被允许使用车内无安全员的自动驾驶车辆在社会道路上开展商业化服务，从而提供自动驾驶的完整解决方案。值得注意的是，商业化的成功并不能掩盖法律规制体系的缺漏，当前我国的法律规范体系对于自动驾驶技术的迅速发展整体上呈现滞后的态势。构建合理的自动驾驶汽车法律责任规制体系的前提是结合技术特征对其进行合理分级。根据2022年3月1日实施的《汽车驾驶自动化分级》（GB/T?40429-2021），我国汽车驾驶自动化等级分为0级驾驶自动化（应急辅助）、1级驾驶自动化（部分驾驶辅助）、2级驾驶自动化（组合驾驶辅助）、3级驾驶自动化（有条件自动驾驶）、4级驾驶自动化（高度自动驾驶）、5级驾驶自动化（完全自动驾驶），[12]这一分级标准的提出为构建自动驾驶汽车的类型化规制体系提供了规范基础，而法律规制的重心则集中在3-5级的自动驾驶汽车。
    伴随着自动驾驶汽车产业的发展，与自动驾驶汽车相关的法律规范也在不断地创设与完善。2022年8月1日，《深圳经济特区智能网联汽车管理条例》（下文简称《深圳条例》）开始施行，这是国内首次立法对智能网联汽车的准入登记、上路行驶等事项作出具体规定，并支持L3级自动驾驶汽车上路。[13]2023年8月7日，江苏省十四届人大常委会发布了《江苏省道路交通安全条例》（下文简称《江苏条例》），其中将有条件自动驾驶汽车、高度自动驾驶汽车和完全自动驾驶汽车进行了分类管理，赋予高度自动驾驶汽车驾驶员更高的注意义务。事实上，早在2021年3月的《道路交通安全法（修订建议稿）》中就明确具有自动驾驶功能的汽车进行道路测试和通行的相关要求，并规定了违法和事故责任分担规定。但2021年4月修订后的《中华人民共和国道路交通安全法》（下文简称《道路交通安全法》）对于自动驾驶汽车的分级与事故责任承担并未作出相关规定，因此导致自动驾驶汽车事故的法律责任认定仍然存在争议。目前的争议点在于自动驾驶汽车导致事故后，对具体的自动驾驶风险仅作概括性地描述，并不符合汽车运行的实际情况，而后续的自动驾驶汽车的法律规制体系存在整体性的缺失，将会导致对自动驾驶汽车的监管陷入无序化的尴尬境地。
    二、自动驾驶汽车的风险类型认定
    自动驾驶技术的发展贯穿自动驾驶汽车的生产阶段和应用阶段，其所引发的风险也不局限于生产者或使用者本身，而可能扩散至整个社会。[14]换言之，其网联化、高效率、规模化特性通常会产生社会性的影响。依据《深圳条例》第3条规定，自动驾驶汽车是指由自动驾驶系统替代人的操作在道路上安全行驶的汽车，包括有条件自动驾驶、高度自动驾驶和完全自动驾驶三种类型，对应L3、L4和L5级三种自动化水平等级。其中L5完全自动驾驶汽车不需要人工操作，系统可以完成驾驶员在所有道路环境下的动态驾驶任务。而L3和L4级都有驾驶员参与，只是参与的程度不同。鉴于自动驾驶汽车存在技术水平的差异，所以在生产阶段和应用阶段存在不同的风险类型。
    （一）生产阶段的制造风险与测试风险
    自动驾驶汽车的初衷之一是人们希望通过自动驾驶减少驾驶员错误几率，进而降低事故发生率。[15]2018年《道路机动车辆生产企业及产品准入管理办法》提出对因采用新技术、新工艺、新材料等原因，不能满足本办法规定的准入条件的，企业可以提出相关准入条件豁免申请，这为智能网联、自动驾驶车辆的准入做好了铺垫，也鼓励、促进了技术创新和新型产业生态形成。2021年《关于加强智能网联汽车生产企业及产品准入管理的意见》要求加强汽车数据安全、网络安全、软件升级、功能安全和预期功能安全管理，保证产品质量和生产一致性，推动智能网联汽车产业高质量发展。由此助力汽车智能化、网联化发展，但同时也在生产阶段涌现出数据安全、网络安全、交通安全等一系列安全风险问题。
    在自动驾驶汽车生产阶段的风险相对较为集中。首先是自动驾驶汽车的制造风险，自动驾驶汽车作为生产产品，必须符合产品准入和产品流通的相关规定，如果不能符合规定要求，则是一种新形态的产品安全风险，在人工智能技术的加持下，这一风险的状态不稳定且影响范围较广。以《刑法》第140-149条的规定为例，对于生产、销售伪劣商品的行为，构成犯罪的应当承担刑事责任。在生产阶段，不符合产品质量安全标准或产品质量存在问题的汽车，存在潜在的事故风险，自动驾驶汽车的生产者、销售者需要承担相应的法律责任。但从“制造”的狭义角度而言，鉴于自动驾驶汽车在生产阶段的制造风险不属于测试场景和上路场景下的风险，而仅限于制造层面，需承担产品质量责任较为合理，刑法规制的介入需要慎重。基于《规定》第19条、第54条，自动驾驶汽车的生产者、销售者应当对其生产、销售的产品质量安全负责，建立完善产品质量安全追溯机制。自动驾驶汽车与人们的出行安全息息相关，保障系统技术的安全，应是“企业一切技术研发、商业化推广的出发点”[16]。由于制造风险所带来的自动驾驶汽车缺陷及损害，驾驶员可以依法向生产者、销售者请求赔偿。与此同时，与自动驾驶应用阶段相对应，自动驾驶汽车的主动安全系统的制造风险同样存在。在自动驾驶汽车技术的自动化升级中，自动驾驶系统应当可以意识到其他车辆是否减速、预测到其他车辆是否会闯红灯，并立即采取规避行动，[17]这种对于主动安全系统的期待已经逐渐从安全员的监督转向“真正的人工智能处理”，所以作为自动驾驶汽车的重要模块，在生产阶段就应该事先设定好编程程序来应对每一种可能出现的风险，[18]而这一模块的生产安全风险也成为自动驾驶汽车能否真正被纳入现有公共交通秩序的“命门”。在蔚来测试车事件中，一辆蔚来测试自动驾驶车于3楼坠下，导致两名试车员死亡，原因是在发生突发情况时，超声波雷达未能与车辆的紧急刹车系统相关联并做出有效的反应，而无论是对车辆测试可能存在危险的预测和把控，还是对员工生命健康权利的保护，蔚来公司都应当承担确保不发生测试安全事故的注意义务，[19]自动驾驶汽车存在制造上的防御性驾驶主动安全系统缺陷，意味着自动驾驶汽车生产者的产品责任的增加。而从刑法视角来看，生产商也可能需要对间接故意杀人、危害道路交通等罪承担刑事责任。[20]
    其次，在自动驾驶汽车出厂上路流通行驶之前，需要在指定道路路段进行自动驾驶功能测试活动，并存在测试风险，但目前我国对测试风险并未有所规定。《规定》第19条规定在测试阶段发生交通违法或交通事故等情形，按照国家有关主管部门关于道路测试和示范应用的规定处理。自动驾驶汽车需要通过制定道路路段的功能测试才能逐步完善安全性能并由此实现商业应用，而目前发生的很多自动驾驶汽车肇事案例，均存在于测试风险中。但由此带来的问题是，我国法规中并未规定自动驾驶汽车在高速公路、城市快速路、高架桥等场景中进行测试，因此企业无法更全面检测汽车的自动驾驶系统功能。我国《道路交通安全法》在2021年3月的修订建议稿首次涉及“自动驾驶”内容，其中第155条中提出，具有自动驾驶功能的汽车开展道路测试，应当在封闭的道路场地内测试合格，取得临时汽车车牌，并且按照规定在指定的时间和区域内展开测试。经测试合格的自动驾驶汽车依照有关法律规定准予生产、进口和销售。如果需要上路行驶的，应当申请机动车车牌号。第2款则是对测试风险后的责任承担有了较为明确的划分，规定为“发生道路交通安全违法行为或者交通事故的，应当依法确定驾驶员、自动驾驶系统开发单位的责任，并依照有关法律、法规确定损害赔偿责任。构成犯罪的，依法追究刑事责任。”但是该修订内容并未通过，这意味着我国自动驾驶汽车上路仍存在难题，其并未受到《道路交通安全法》的规制与保护。《道路交通安全法》以驾驶者对交通工具的控制过错为中心构建相应的责任体系，与智能驾驶汽车的核心发展路径存在不同，由此带来应用中的空白和抵牾。[21]目前北京、上海、重庆、深圳等自动驾驶汽车公共道路测试也为普通的道路测试，因此在后续应用中存在较大风险。值得期待的是，这种道路测试上的风险会随着立法进步而有所改善。比如《规定》第21条尝试性规定道路测试主体可以申请开展高速公路、城市快速路等特殊道路测试的条件，主要包括道路测试达到规定里程以及符合相关技术要求且未发生因车辆原因造成的安全事故，那么未来也可以适当扩大自动驾驶道路测试范围，协同推进自动驾驶新技术创新和落地。[22]
    （二）应用阶段的过失风险与故意风险
    在自动驾驶汽车的应用阶段，主要存在过失风险与故意风险，并因此衍生出对应的事故责任和保险责任的认定问题。在我国汽车交通事故中，传统的事故责任与保险责任均以人为主体进行责任承担与损失赔偿。《刑法》第133条交通肇事罪规定“违反交通运输管理法规，因而发生重大事故，致人重伤、死亡或者使公私财产遭受重大损失的……”，人作为责任主体构成该罪并承担刑责，重伤、死亡的对象均为人，而且保险责任也多针对人的伤亡和汽车的损毁程度展开。但并未讨论自动驾驶汽车系统“死亡”之情形，或者更确切地说是并未涉及自动驾驶汽车或系统损毁消失的情形。例如醉驾主体驾驶普通汽车撞向自动驾驶汽车致其车毁人亡，是否对自动驾驶系统承担相应责任的问题暂无定论。自动驾驶系统尤其是高等级的自动化系统的研发所耗成本巨大，保险责任与事故主体责任却难以认定。《道路交通安全法》规定机动车的驾驶员是人类，并未将中高级的自动驾驶汽车系统认定为驾驶员，也没有办法真正实现无人驾驶的测试和应用，由此对自动驾驶汽车的安全事故责任判定存在障碍。此外，自动驾驶系统的出现使得机动车保险中的驾驶员内涵产生混乱。而“人机协同扩大了机动车责任保险的风险对象和风险因素，从而改变了保险人厘定费率的基础。”[23]换句话说，自动驾驶汽车的投保主体、投保方式、投保费率也难以明确。
    自动驾驶汽车的生产者具有对汽车的安全管理义务，尤其是对自动驾驶汽车的使用算法安全保持监控、封闭管理和及时维护。当自动驾驶汽车存在严重危险时，应当启动应急装置，并对事故发生原因进行精确判断，而在具体事故中，系统过失风险与驾驶员或安全员的过失风险存在竞合，对于相关责任的认定也不相同。在美国亚利桑那州坦佩市优步（Uber）自动驾驶汽车案件中，涉及自动驾驶汽车的致死情形。2018年3月18日，伊莱恩?·赫茨伯格（Elaine?Herzberg）推着自行车横穿马路时被一辆正在行驶中的优步自动驾驶汽车撞死。[24]拉斐拉·巴斯克斯（Rafaela?Vasquez）为Uber公司为这辆无人驾驶汽车所指派的安全员，也是该自动驾驶汽车车内的指定司机，他当时正在车内收看电视节目《美国之声》，因此分散了注意力，未能及时观察到伊莱恩，进而导致了惨剧的发生。属地检察官指控该自动驾驶车辆的安全员存在过失杀人的嫌疑。该安全员的职责包括监控重要的车辆等诊断信息，并在系统出现故障时人工操作干预。一方面，拉斐拉被智能手机分散注意力，没有注意路面情况，并未尽到安全管理义务，在发生行人过马路这一事件时，没有做到及时处理相关信息并实行人工驾驶干预。另一方面，对自动驾驶系统的识别能力存疑。在该车辆撞到行人的前几秒中，系统是否能够精确识别人物或者汽车并作出相应反应。在该案中，为了减少误报可能性，优步公司对自动驾驶系统进行设定，使其不会进行突然的紧急停车。系统检测到伊莱恩发生车祸的前6秒走到了马路上，系统判断碰撞即将发生时，它为了避免突然停车，选择了进一步识别而非启动刹车。[25]基于该过失风险，存在以下问题需要进一步厘清并进行法律规制。该案中的优步自动驾驶车辆为测试车辆，在测试车辆中存在有安全员，也即车辆的指定驾驶员，而安全员又受雇于优步公司。与普通驾驶员不同之处在于安全员具有特定义务，产品生产者在此处可能也存在有雇佣责任。基于检察官的认定，事故的可能原因是“指定驾驶员未能监控驾驶环境和自动驾驶系统的操作，因为其在整个行驶过程中都被个人手机分散了视觉注意力。”[26]此外，优步对于该自动驾驶系统的“不充分的安全风险评估程序”“对车辆运营商的监管不力”以及“缺乏足够的机制来解决运营商在自动化方面的自满情绪”也导致了这起事故的发生。[27]有专家认为一方面需要不断完善自动驾驶汽车的道路规范与上路标准，另一方面也可以在自动驾驶车辆中配备有遇到紧急状况后能让公安警察随时关停的按键。[28]本文认为，受雇佣关系影响，安全员应当承担过失责任。因为自动驾驶汽车处于测试状态，系统也属于不断完善更新阶段，因此该事故应由疏忽大意的安全员承担责任。换言之，人类司机本可能在应有的时间范围内采取刹车行为，但是其被外部因素干扰，放松了对于自动驾驶汽车的安全监管，并未履行安全管理义务。
    三、风险类型下自动驾驶汽车的法律规制路径展开
    基于自动驾驶汽车在生产阶段和应用阶段存在制造风险、测试风险等一系列风险情形，自动驾驶汽车的归责过程实际上受到社会系统与技术系统相互作用的影响，并因不同部分之间相互影响而产生归责难题，如技术系统内部的复杂博弈导致责任主体的认定出现混淆等。[29]鉴于此，对自动驾驶汽车的法律规制应充分考虑社会系统与技术系统的复合影响，从责任主体确定、过失责任竞合认定、故意犯罪责任承担等方面构建法律规制路径。
    （一）前提：自动驾驶系统责任主体之否定
    从技术层面而言，自动驾驶汽车是运用人工智能技术将汽车由人工操控的机械产品逐步转变为电子信息系统控制的智能产品。从产业层面而言，自动驾驶汽车的发展促成了汽车与相关产业的全面融合，未来将呈现智能化、网络化、平台化发展特征。从应用层面而言，汽车将由单纯的交通运输工具，逐渐转变为智能移动空间和应用终端，成为新兴业态重要载体。自动驾驶汽车所依赖的自动驾驶系统属于人工智能产品，它本身不具有法律上的可解释性，因为其不具备人的自由意志，而承担责任的主体一定是自由意志下的人类行为。[30]在具体运行过程中，不论是采用符号计算主义还是联结主义，当前自动驾驶汽车的人工智能技术都无法解决语义的理解和生成问题，无法逾越语义鸿沟成为责任主体否定论的强力依据。[31]鉴于自动驾驶汽车无法意识到自己行为能够给人类或法益造成损害，因此其不具备归责可能，应当将其解释为自动驾驶汽车生产者、销售者或驾驶者的解释义务或责任，而人类违反这些义务的行为是违反了相关法律法规的规定，这不是容许的风险并具有违法性，构成主体归责的前提。在责任承担层面，尽管自动驾驶汽车的生产者都增强了人工智能系统的可解释性功能，但是算法的认知仍然应解释为人类认知，应当落实算法安全主体责任，深入剖析算法模型的解释可能性，而充分发挥算法解释权同时也是在维护个人自主和尊严。[32]鉴于目前自动驾驶汽车中系统决策的算法特征，也更多体现于对不同主体责任承担的影响。
    如果自动驾驶汽车具有自动学习系统，那么它将从自己的日常运行过程决策中获得知识和技能，同时针对交通环境的特征和驾驶员的选择中进行学习，不断优化自身算法，并且这种自动化和智能化学习算法将在实践中得到进一步的检验，[33]而这则意味着责任归属的判断成为一项更具挑战性的任务。在美国山景城特斯拉案件中，自动驾驶系统过失情形就是由人的过失所致，特斯拉Model?X行驶在加州山景城附近的高速公路上，其撞上中间隔离栏后发生起火，随后这辆特斯拉又被车道后方驶来的车辆相继撞上，最后司机被送到医院后因伤重不治而亡。[34]当自动驾驶系统功能打开后，汽车可以识别车道标记，保持恒定速度自动驾驶，并根据前方的交通状况减速。涉事司机曾在事故发生前15分钟接到系统警报，但在他撞上高速公路的减震器和混凝土护栏之前的最后六秒内，他的手没有放回到方向盘上。在该案的调查中，美国国家运输安全委员会发现，自动驾驶的各种系统都没有在事故中发生故障，该情形已完全超出自动驾驶汽车的能力范围。因此，在某些情形中，涉及自动驾驶汽车的死亡事件的发生并不是因为自动驾驶技术未能按照设计的方式运行，而是因为人类未能尊重和承认该技术已知的局限性。[35]与之相近，英国政府发布新的自动驾驶政策文件《互联和自动化出行2025：在英国实现自动驾驶汽车的利益》（Connected&?Automated?Mobility2025：Realising?the?benefits?of?self-driving?vehicles?in?the?UK），其中提到自动驾驶汽车的安全目标要求其安全水平与称职、谨慎的人类驾驶员（competent?and?careful?human?driver）相当。自动驾驶汽车将被期望遵守《道路交通法》《公路法》等相关规定，但这并不意味着它们应该复制一个称职和谨慎的人类司机在任何情况下会采取的行动。[36]
    通过梳理域外实践与规范可以发现，自动驾驶系统的决策并非追求绝对完美，而只需达到人类驾驶员同等水平即认定为具有安全性。“法律主体需要对自己的行为承担法律责任就需要其行为本身必须可被解释。”[37]在我国的规范文件中，《道路交通安全法（修订建议稿）》第155条规定，自动驾驶汽车的责任承担主要分为驾驶员责任与自动驾驶系统开发单位的责任，责任承担主体为驾驶员和自动驾驶系统开发单位，而《规定》第53条也认定赔偿责任主体为驾驶员、车辆所有人、管理人、生产者或销售者。2022年2月15日施行的《上海市智能网联汽车测试与应用管理办法》（以下简称《上海办法》）第43条“责任认定与承担”规定，自动驾驶汽车在自动驾驶模式下发生交通事故并造成损害，由开展智能网联汽车测试与应用活动的单位依法先行承担相应的赔偿责任，并可依法向相关责任方追偿。由此可见，在规范层面，我国对于自动驾驶汽车的责任主体地位持否定的态度，自动驾驶交通肇事将回归传统的归责路径，强调对驾驶者或者生产者的事后追责。
    （二）自动驾驶汽车导致事故的民事责任认定
    自动驾驶汽车作为人工智能化新生事物，给既有法律秩序与法律框架带来一系列挑战，并导致交通肇事的事后归责路径需要重新构建。[38]自动驾驶汽车本身并非适格的责任主体，因而事后归责主要集中在自动驾驶汽车的生产者、驾驶员等主体之间的民事责任分配。
    1.驾驶员过失责任
    否定自动驾驶汽车的过失责任主体资格后，对于自动驾驶汽车驾驶员过失风险所致的民事责任存在以下几种观点争议。第一，交通事故侵权责任说的观点认为驾驶员应当承担传统意义上的道路交通事故侵权责任，对于自动驾驶汽车的判断仍然没有摆脱传统机械性视角的窠臼和“物品”的定位，认为驾驶员应该主导驾驶的进行，在自动驾驶汽车上路后，按下自动驾驶模式“开始”键的人应当承担随后的一切后果。[39]第二，参照雇主替代责任说的观点认为自动驾驶汽车好比是驾驶员雇佣的司机，当车辆按照驾驶员的指示运行时，如果其违反道路交通规则并发生交通事故，由驾驶员承担责任。自动驾驶汽车发生事故后，作为“雇佣”（购买）车辆的驾驶员（消费者）负有对于发生事故的自动驾驶汽车或系统连带责任，甚至可以考虑引入机动车保有人的严格责任。[40]第三，参照动物侵权责任说的观点认为自动驾驶汽车与犬类相似，两者都能在没有人类控制和干预的情况下思考、行动或引起损害。依据《民法典》第1245-1246条的规定，由动物饲养人或者管理人承担相应的侵权责任，并认为既然我国民法典可以将饲养动物致害责任纳入危险责任范畴，那么对于自动驾驶汽车保有人实行危险责任也无不妥。[41]在美国Lewis?v.Amorous案中，诉讼的焦点在于汽车应当与凶猛的动物归为一类，以及与这类动物主人的责任有关的法律是否应该适用。[42]上诉法院认为可怕的并非汽车的凶猛，而是那些驾驶汽车的人的凶猛，因为在人类干预之前，汽车通常是无害的，人们应当害怕的不再是汽车背后的人类，而是失去控制的汽车。
    交通事故侵权责任说的缺陷在于，在车辆自主控制阶段，系统能够自行监测驾驶环境，承担驾驶任务，无需使用人实施任何驾驶行为，驾驶员并不实际控制汽车的运行，让其承担责任显然不公。同时，老年人、未成年人、盲人等原本不适宜开车的群体将成为自动驾驶汽车的使用人，如果将这部分群体界定为驾驶员进而让其承担交通事故侵权责任显然不妥。雇主替代责任说的核心框架在于驾驶员雇主与自动驾驶汽车之间的责任关系，前提是预设自动驾驶汽车具有法律人格。其直接弊端在于法律配套的空白状态使得该观点的社会接受度处于未知状态，而赋予自动驾驶汽车法律人格显然会引发更多的争议，法律人格的定义和边界在相当长的一段时间内都存在争议，即使已有的结论也可能因为技术的迭代升级而被推翻，导致归责路径不具有稳定性。动物侵权责任说的观点同样不合理，因为自动驾驶汽车和动物之间存在较大差异，动物侵权与交通事故侵权在归责原则、构成要件、责任主体等方面都难以相提并论，参照动物侵权规则处理并不符合法理。事实上，德国道路安全委员会就曾经认定自动驾驶汽车交通肇事的责任不应该归咎于驾驶员，当自动驾驶汽车超过一定的自动化程度之后，坐在驾驶位上的驾驶员就无可争议地失去了驾驶人的法律身份，其无法对自动驾驶汽车进行实质上的掌控，进而无法承担交通法规所规定的驾驶责任。[43]因此，目前完全的驾驶员过失责任与自动驾驶汽车事故民事责任承担相去甚远，而作为一切行为的起点，自动驾驶汽车事故的过失责任由自动驾驶系统算法失败引起，应当由其生产者承担，而非其他任何第三方或人工智能平台负责，[44]所以归责路径也应该回归到生产者的视角。
    2.生产者过失责任
    自动驾驶系统过失风险所带来的生产者责任的法律规制问题，是因为在自动驾驶系统缺陷中判断生产者责任具有一定难度，需要更多关注生产者对自动驾驶汽车的注意义务。在国内首起特斯拉车祸致死案中，高某驾驶特斯拉轿车在高速公路行驶，因前车躲避障碍物，该车未能及时躲避而直接撞上一辆正在作业的道路清扫车，致使该司机不幸身亡。[45]虽然经交警认定，事故中的司机高某负主要责任，但是高某父亲却坚持认为特斯拉夸大宣传的自动驾驶功能才是车祸的元凶，请求法院向特斯拉美国公司调取事故车辆的驾驶状态数据，并要求对事故发生时特斯拉轿车是否开启了自动驾驶功能进行司法鉴定。虽然最终确认高某所驾驶的特斯拉轿车在事发时处于自动驾驶状态，但对于自动驾驶状态下的车辆未能识别前方车辆是否构成质量缺陷、事故应当由驾驶员还是特斯拉承担责任等核心问题，至今仍无定论。
    对于生产者过失责任的判断，当前主要有三种观点：一般过失侵权说认为，在全自动驾驶阶段，自动驾驶汽车是政府承认的合法交通工具，使用人不应为自己在汽车运行中打电话、发短信等行为承担过失侵权责任，而是应该由汽车生产者承担责任。引起自动驾驶汽车的交通事故的责任承担多为过失风险，主要与自动驾驶系统的自动化程度与反应水平直接相关，自动驾驶汽车在道路中的行驶行为虽然是自动化的，但遇到不同交通环境场景中的意外情形如果做出反应，是需要生产者对系统发出指令和决定进行人工智能学习的。[46]由于自动驾驶系统的原因导致交通事故，主要产生过失侵权责任，而消费者或驾驶者基于信赖原则，完全信任或基本信任自动驾驶系统的操作，所以事故后果应该归咎于自动驾驶汽车“辜负”了其所宣传的“值得信赖”，自然应由生产者承担相应的民事侵权责任。第二，产品责任说认为，当自动驾驶汽车发生交通事故时，最有可能的原因就是系统出现故障，而非使用人存在过错。尤其是自动驾驶汽车事故的发生大多是人工智能或者算法技术的不稳定所引起的系统性故障，所以驾驶员并无法施加实际影响，而是生产者在调试和设计算法时应该尽到审慎的注意义务，并且对产品的设计缺陷承担刑事责任。第三，参照电梯侵权责任说认为，自动驾驶汽车与电梯运行十分相似，可参照电梯侵权规则，将自动驾驶汽车的生产者认定为公共承运人（Common?Carrier），由其承担侵权责任。该观点以驾驶员或使用人失去汽车控制为前提，一旦发生“电梯事故”，则由电梯生产者承担责任。在电梯生产者承担责任后，通过对事故的再次检测分析，可能进行二次责任划分。
    梳理以上观点可以发现其都各有优缺点。鉴于自动驾驶技术是一项高风险的新技术，对其适用一般过失侵权责任说，既不利于救济受害人，也无法有效激励生产者完善自动驾驶技术。参照电梯侵权说责任观点是基于电梯总是处在一个封闭的环境中运行的客观环境，运行环境的单一意味着其责任判断的相对恒定，但是在自动驾驶汽车的复杂运行环境下，这一观点显然不符合实际情况。鉴于此，基于产品责任说追究生产者的责任相较而言是比较稳妥的归责方案，在自动驾驶汽车事故的责任认定中，将关注重心置于自动驾驶汽车初始的系统性能的好坏，对于自动驾驶汽车硬件设施的装配以及软件程序的调试，都是生产者在生产自动驾驶汽车过程中应尽的避免事故发生的注意义务，注意义务不再是个案判断中具体驾驶员的注意义务，而主要是生产者的注意义务。[47]对于生产者而言，其在生产的全过程中因为自身原因导致的自动驾驶汽车的制造缺陷，将会在其行驶过程中造成严重损害，并且这类损害大多超出了一般公民的正常预期，应当明确由生产者作为责任主体，并在法人责任模式下，以相对严格责任的方式承担产品刑事责任。[48]面对生产者可能承担苛重的责任的质疑，应该尝试以刑事合规模式来推动生产者预防此类风险，促使生产者的犯罪规制模式从外部规制转向自我管理，提前预防自动驾驶所可能引发的风险，[49]实现合理的责任分配。
    3.驾驶员与自动驾驶系统过失竞合
    在目前主流的L2-L3级自动驾驶模式中，自动驾驶系统与驾驶员可能都参与了驾驶行为，这将产生自动驾驶系统与驾驶员关于过失责任竞合的问题。以2016年美国威利斯顿特斯拉案件为例，[50]这辆拥有自动驾驶辅助系统Autopilot的汽车与一辆拖挂卡车相撞，驾驶员当场死亡。特斯拉认为除了车辆故障和驾驶员疏忽之外，因为车辆没有与拖车的前部或后部相撞，导致Model?S的安全系统无法避免严重的伤害。美国国家运输安全委员会总结事故的原因包括拖挂车司机没有主动避让，还包括特斯拉汽车驾驶员“过于依赖”辅助驾驶功能而疏忽大意，在将近40分钟内手握方向盘的时间总计只有25秒。在该案中，存在自动驾驶系统和驾驶员的过失竞合情形：一方面，自动驾驶系统没有精准识别将要发生的危险并作出正确的防御性行为；另一方面，驾驶员由于疏忽大意的过失，没有及时接管车辆进而避险。对于本案中驾驶员而言，由于过失很难预想到阳光照射迎面驶来的挂车白色面板进而产生强烈的反光，使得该系统未能识别前方车辆，[51]因此存在过失竞合的责任。再如前述美国亚利桑那州坦佩市Uber自动驾驶汽车案件，自动驾驶汽车的安全员由于收看手机节目这一疏忽大意的过失，未尽安全管理防范义务，具有驾驶员过失责任。但该自动驾驶汽车并未作出有效行动，同样具有系统过失。这种情形的过失责任分配应当依据法条规定具体分析，以想象竞合或法条竞合处理，若涉及主体竞合，就要依据主体的立场进行责任划分。
    综合来看，自动驾驶系统作为人工智能算法，是基于数据集和成熟算法模型的编程所形成，生产者通过运用“卷积神经网络算法和相关算法研发并构筑自动驾驶汽车的感应系统和决策控制系统”，[52]但是现阶段的自动驾驶汽车“并不能完美应对各种突发情况，在驾驶中可能会因为干扰因素而造成伤亡”[53]。在责任承担方面，驾驶员与自动驾驶系统本身均不适合责任承担，因为其运行全然由自动驾驶系统操控，而出现事故的系统缺陷可以追溯至生产者，无论是硬件缺失还是软件不当，都应该由自动驾驶汽车生产者承担责任。退言之，如果贸然让驾驶员承担责任，只会违背自动驾驶的技术创新初衷，在面对交通事故的瞬间让驾驶员恢复对自动驾驶汽车的操纵甚至会对其提出更高的注意义务要求，而这显然不符合自动驾驶技术的未来发展趋势，对驾驶员而言也过于苛刻，[54]驾驶员在这种语境下除了选择目的地之外大多无法控制车辆，因此很难让他们对事故负责。[55]事实上，当前自动驾驶汽车的产品缺陷主要有三种类型，分别是制造缺陷、设计缺陷与警示说明缺陷，[56]其中由生产者“因程序设计缺陷等原因造成的”缺陷最为频繁，损害后果也更为严重，但是这种缺陷和生产者的生产过程直接相关，驾驶者被排除在外，对此不存在过失。[57]换言之，由生产者承担自动驾驶汽车交通事故的赔偿责任对于“遵循产品责任的进路最有效率，是法经济学视角下的最优规则”[58]，而这也有助于落实对自动驾驶汽车的合规监管，从源头强化对自动驾驶汽车技术标准的掌控，比如欧盟在2022年8月26日发布了关于自动驾驶车辆的型式认证法规《全自动车辆自动驾驶系统（ADS）型式认证的统一程序和技术规范》（Reg.（EU）2022/1426），其中就规定了自动驾驶汽车的性能要求和合规性评估，要求生产者构建“安全管理体系”以实现对自动驾驶系统的“全生命周期”的有效管理，从而为交通肇事后的责任追究提供参照依据。[59]对于目前的自动驾驶汽车而言，大数据的自动驾驶汽车生产者大多能通过自动驾驶系统来控制引导车辆，任何自动驾驶功能还未达到完全意义上高水平的自动驾驶状态，[60]相反其运行需要生产者提供技术支撑甚至是云端的远程技术支持。比如基于CPSS视角提出的5G远程自动驾驶系统解决方案已经投入使用，[61]其中的运行数据也大多被传输至生产者的后台，由生产者来确认自动驾驶汽车处于“安全驾驶”状态，在这种情境下，自动驾驶汽车的生产者主导了运行过程，自然也应该承担相应的责任。
    对于生产者承担责任的社会效果，可以引入责任保险制度提供社会化救济方式，藉此弥补产品责任制度的不足，平衡生产者、驾驶员与受害人之间的利益，既能及时高效地救济受害人，又可让生产者免于诉累，专注于提升自动驾驶技术的安全性能。实际上，完全参照产品责任说将自动驾驶汽车的交通事故侵权责任全部施加给生产者的做法，会在一定程度上阻碍自动驾驶汽车产业的发展。鉴于此，应该构建双层次责任保险框架：第一层保险由直接责任主体为分散风险而投保，第二层保险采用社会救助方式，由相关主体的部分盈利转化为共同赔偿基金。同时，考虑到我国民众的保险意识和投保能力等因素，自动驾驶汽车责任保险要同时承保“人”和“车”的风险。[62]《上海办法》第40条就对责任保险与风险基金作出了大胆的尝试，要求人工智能汽车的道路测试、示范应用、示范运营的单位应当按照有关规定，投保机动车交通事故责任强制保险，并投保一定金额的商业保险或者提供相应金额的保函。实际上，汽车保险业在自动驾驶时代已经逐渐从追究驾驶员个体责任转向生产者责任上来，[63]所以应该鼓励保险公司开发适应人工智能汽车特点的保险产品，以救济受害人为中心的利益平衡为核心来构建保险制度，倡导多元投保主体模式来提高整体的风险控制水平，督促生产者通过履行跟踪观察义务作为人工智能汽车的预防性补救措施，[64]推动相关社会团体、企业等联合设立社会风险基金，对因智能网联汽车遭受人身、财产损失的受害者，当其因责任无法认定等原因不能及时得到赔偿时，先予补偿。
    （三）自动驾驶汽车导致事故的刑事责任认定
    鉴于“刑法犯罪构成理论与侵权法构成要件理论具备高度的同构性”[65]，并考虑到自动驾驶汽车中控制汽车的主体呈现多样化状态，在归责时需要结合具体情形进行考察。[66]自动驾驶汽车无法成为交通肇事的犯罪主体，删除数据、修改程序和永久销毁也不能作为对自动驾驶汽车的刑罚。自动驾驶汽车缺乏自我意志，其所做出各类有社会意义并能接受社会评价的行为，均是人类行为与指令的延伸，[67]而生产者通过人工智能技术不断训练自动驾驶系统，以推动自动驾驶的自我学习、迭代与升级。[68]
    1.生产者的刑事责任判断
    鉴于自动驾驶系统无法承担刑事责任，所以自动驾驶系统与驾驶员无需考虑过失竞合的刑事责任承担问题，二者无法成立共同犯罪。因此，依据过失行为与结果发生之关联分析，在使用自动驾驶导致交通肇事的情形中只需找到法律责任承担主体即可。因为自动驾驶汽车生产阶段存在制造风险与测试风险，所以在该阶段生产者生产、销售不符合安全标准的自动驾驶汽车导致严重后果的，应当按照生产、销售不符合安全标准的产品罪追究刑事责任。而在应用阶段，存在过失风险与故意风险，生产者过失未履行自动驾驶汽车应用安全管理义务并发生严重后果的，应当承担刑事责任。对于自动驾驶汽车而言，其应该保持系统安全特别是算法安全，通过实时监控、封闭管理和及时维护来预防自动驾驶汽车运行存在严重危险，尤其是当车内人员启动紧急处置求助按键时，应当通过云端后台对自动驾驶汽车启动远程监控或干预。对于生产者而言，德国学者认为当自动驾驶汽车投入市场使用之后，其应该对自动驾驶汽车进行全流程的监管检测，并通过设置固定的时间窗口（Zeitfenster）来观察自动驾驶汽车运行的状况，而在时间窗口内谨慎尽职的生产者则不必对自动驾驶汽车的交通肇事承担责任。[69]事实上，这种对生产者的责任认定模式值得我国借鉴，设置时间窗口充分地考虑了生产者在第一次事故时大多缺乏可预见性，此时对谨慎尽职的生产者进行追责不但无法起到预防效果，还会阻碍自动驾驶汽车产业的长久发展，时间窗口可以在技术进步和安全生产之间取得平衡，而当自动驾驶汽车的潜在风险经过一定的时间窗口且可以被识别后，生产者必须采取合理的反应措施来以消除实质性的危险，否则就应该承担刑事责任。[70]例如，《深圳条例》第33条规定了“生产者获知其生产的产品可能存在危及人身、财产安全缺陷的，应当立即组织调查分析，并如实向市场监管部门报告调查分析结果”，这种规定可在对生产者进行刑法规制的同时保持刑法谦抑性，避免刑法过度介入。
    2.驾驶员的刑事责任判断
    自动驾驶汽车的自动化分级与事故责任的后果密切相关，而在不同自动化等级下，自动驾驶汽车所需履行的主体义务与法律规范的义务无法直接等同，[71]驾驶员对应的刑事责任也因此存在差异。事实上，《江苏条例》第85条就规定当有条件自动驾驶汽车、高度自动驾驶汽车发生交通肇事，由驾驶员承担责任，而当完全自动驾驶汽车发生交通肇事，则由自动驾驶汽车所有人、管理人承担责任，由此可见对自动驾驶汽车交通肇事的归责需要考虑汽车的人工智能化程度并进行分类处理。在通常情况下，L4-L5级自动驾驶汽车为高度和完全自动化阶段，由自动驾驶系统完成所有驾驶操作，因此，不存在竞合情形。而在L1-L3级，因为都存在人类驾驶者的操作，所以需要考虑使用车辆辅助驾驶功能致使交通肇事后果的责任承担。自动驾驶汽车的生产者不符合交通肇事罪的犯罪构成，[72]而系统的设计者、生产者、销售者等也都不属于传统刑法意义上交通肇事罪的主体。[73]《刑法》第133条中要求“违反交通运输管理法规”以及发生重大事故造成相关人身伤亡或财物损失的严重后果。自动驾驶汽车违反相关法规的行为，主要由驾驶员行驶造成，系统设定的内容应是符合法律法规的情形，而行为后果也是在行进过程中或过程后产生，生产者的注意义务体现于交通行为之前，自然无法对应刑事责任。在潘某交通肇事罪案中，潘某使用定速巡航和车道偏离纠正系统模式驾驶客车，与轻型货车发生碰撞后，在向前滑行时碰撞他人并导致造成交通事故。[74]潘某是由于过于相信车辆辅助系统功能，而疏忽大意驾驶车辆，并在遭遇事故时措施失当造成车辆失控，构成交通肇事罪。定速巡航和车道偏离纠正系统模式属于L1或L2级，主要是通过驾驶环境对方向盘和加减速中的操作提供驾驶支援，并未完全真正影响驾驶员操作车辆，属于车辆辅助驾驶功能，所以可以追究驾驶员的过失责任。而当车辆属于L3级时，驾驶员具有对自动驾驶汽车的安全监管义务，在未履行该项义务造成后果的情形中，应当依法承担相应的刑事责任。如果驾驶员认为有能力在行驶中控制住汽车的，可以由其决定接管时间，同时承担接管失败的法律责任；如果驾驶员自认为无法接管的，应允许其在自动驾驶汽车停车后接管，否则将使驾驶员陷入两难境地，即无论是否接管汽车都要对交通事故承担刑事责任。在L4-L5级自动驾驶汽车中，已经完全由自动驾驶系统完成所有的驾驶操作，人类驾驶员可以完全不参与驾驶活动中，也因此不承担相应的法律责任。
    对于驾驶员的刑事归责不能对不同程度的自动驾驶汽车等同视之，自动驾驶汽车的智能化程度越高，操作汽车的自然人的责任就越小。随着更高水平的自动驾驶汽车技术发展，驾驶员逐渐彻底成为汽车的乘客。[75]参考域外经验，若自动驾驶汽车因为可预见的故障而造成他人伤害或死亡，自动驾驶汽车的驾驶员可能被判过失伤害或杀人罪，即使他们的疏忽仅仅是没有对危险事件的报告作出适当的反应。[76]但在L5级汽车中，则可以不设置驾驶位，也不存在驾驶员或安全员角色，车上人员不对自动驾驶汽车交通事故承担刑事责任。L4级汽车驾驶员不承担警觉接管义务，其不接管汽车也不承担法律责任。在L4与L5级自动驾驶汽车中，汽车的自动运行已经高度脱离了驾驶员的掌控，驾驶员对于自动驾驶系统的信赖具有相当性与合理性，同时这种高度运行的紧张状态下对驾驶员提出高强度的接管义务也实属“强人所难”，所以驾驶员在这种情形下不应该承担法律责任。[77]L3级汽车的驾驶员负有警觉接管汽车的法律义务，因为在这种技术语境下，驾驶员存在操作的空间，同时其也不应该过度信赖该技术。尽管有学者提出这种被动接管规则有悖于自动驾驶汽车作为替代型人工智能的设计初衷，同时与人类中心主义伦理准则相悖，[78]但这不符合技术发展的实际情况，L3级汽车的驾驶人员应该充分地认识到何为“有条件”的技术使用语境，如若其因未履行警觉接管义务而发生严重后果的，将依法承担刑事责任。L1-L2级汽车只具有辅助人类驾驶员控制功能，实际上仍是由人类驾驶员控制汽车，若因驾驶员存在过失导致严重交通事故，直接追究驾驶员的刑事责任。
    结语
    “坚持法治为了人民，就是要始终把人民利益摆在最高位置”[79]。自动驾驶汽车的发展势不可挡，预防自动驾驶汽车事故所带来的公民人身权利与财产权利的风险显得尤为重要。从不同风险视野下的防范路径出发，对民事责任和刑事责任进行区分探讨，并引入责任保险制度作为社会化救济方式。同时，自动驾驶汽车的生产者和驾驶员都应积极履行相应的安全管理义务和安全驾驶义务，以此避免交通肇事的发生。此外，对未来算法应用中的衍生风险防范、系统中的人机关系设置、系统的伦理决策判断争议等潜在问题，[80]不断积累法律规制的经验。
    刘艳红，中国政法大学刑事司法学院教授
    【注释】
    [1]参见王禄生：《情感计算的应用困境及其法律规制》，《东方法学》2021年第4期。
    [2]参见翁岳暄、[德]多尼米克·希伦布兰德：《汽车智能化的道路：智能汽车、自动驾驶汽车安全监管研究》，《科技与法律》2014年第4期；周佑勇：《智能技术驱动下的诉讼服务问题及其应对之策》，《东方法学》2019年第5期。
    [3]See Mathias Lechner et al。，Neural Circuit Policies Enabling Auditable Autonomy，Nature Machine Intelligence，Vol。10：2，p。642-643（2020）。
    [4]参见郑志峰：《自动驾驶汽车的交通事故侵权责任》，《法学》2018年第4期。
    [5]康兰平、王紫函：《自动驾驶汽车交通犯罪中刑法规制研究》，《东南法学》2021年第1期。
    [6]刘艳红：《人工智能法学的“时代三问”》，《东方法学》2021年第5期。
    [7]参见袁曾：《基于功能性视角的人工智能法律人格再审视》，《上海大学学报》（社会科学版）2020年第1期。
    [8]参见刘艳红：《人工智能法学研究的反智化批判》，《东方法学》2019年第5期。
    [9]参见[德]黑格尔：《法哲学原理》，范杨、张企泰译，商务印书馆2019年版，第53页。
    [10]See Kareem Othman，Exploring the Implications of Autonomous Vehicle：A Comprehensive Review， Innovative Infrastructure Solutions，Vol。7：1，p。165（2022）。
    [11]参见崔吕萍：《自动驾驶拿到路权更要安全》，《人民政协报》2022年8月16日。
    [12]其中，0至2级为驾驶辅助，系统辅助人类执行动态驾驶任务，驾驶主体仍为驾驶员；3至5级为自动驾驶，系统在设计运行条件下代替人类执行动态驾驶任务，当功能激活时，驾驶主体是系统。参见郑敏慧：《汽车驾驶自动化分级有据可依》，《中国交通报》2022年5月5日。
    [13]参见陈晓慧：《无人驾驶汽车可持牌上路 〈深圳经济特区智能网联汽车管理条例〉下月起实施》，《深圳商报》2022年7月6日。
    [14]参见孔祥稳：《面向人工智能风险的行政规制革新——以自动驾驶汽车的行政规制为中心而展开》，《行政法学研究》2020年第4期；周佑勇：《论智能时代的技术逻辑与法律变革》，《东南大学学报》（哲学社会科学版）2019年第5期。
    [15]See Bryant Walker Smith，Automated Driving and Product Liability，Michigan State Law Review，No。1， p。15（2017）。
    [16]许亚杰：《“主驾无人”车首度获批自动驾驶发展进入快车道》，《中国青年报》2022年5月12日。
    [17]Smith，Automated Driving，p。63。
    [18]参见[德]弗兰克·彼得·舒斯特：《自动驾驶中的应急算法——一个对刑法学的挑战》，张正昕译，《中国政法大学学报》2021年第5期。
    [19]范昕茹：《蔚来“饭圈”危机四伏!》，《IT时报》2022年7月1日。
    [20][德]弗兰克·彼得·舒斯特：《自动驾驶下生产商的刑事责任》，李倩译，《苏州大学学报》（法学版）2021年第3期。
    [21]参见许中缘：《论智能汽车侵权责任立法——以工具性人格为中心》，《法学》2019年第4期。
    [22]李硕：《完善法律体系，以政策创新助推自动驾驶规模化应用》，《每日经济新闻》2022年3月10日。
    [23]王春梅：《人机协同视域下中国自动驾驶汽车责任保险立法构设》，《上海师范大学学报》（哲学社会科学版）2022年第3期。
    [24]See Alexandra DeArman，The Wild，Wild West：A Case Study of Self-Driving Vehicle Testing in Arizona， Arizona Law Review，Vol。 61：4，p。984（2019）。
    [25]Christopher B。 Emch，Why the Birth of Autonomous Driving Is the Death of Our"Right" to Drive，Pace Law Review，Vol。 40：2，p。 293（2020）。
    [26]Matthew Wansley，The End of Accidents，UC Davis Law Review，Vol。 55：1，p。311（2023）。
    [27]Ibid。
    [28]董天意：《Robotaxi被警察截停后逃逸道路规范与驾驶标准需尽快完善》，《每日经济新闻》2022年4月14日。
    [29]参见宋春艳：《社会技术耦合障碍与自动驾驶汽车归责难题破解》，《科技管理研究》2023年第16期。
    [30]参见刘艳红：《人工智能的可解释性与AI的法律责任问题研究》，《法制与社会发展》2022年第1期。
    [31]王钢：《人工智能刑事责任主体否定》，《苏州大学学报》（法学版）2022年第4期。
    [32]张恩典：《超越算法知情权：算法解释权理论模式的反思与建构》，《东南法学》2022年第1期。
    [33]See Melinda Florina Lohmann，Liability Issues concerning Self-Driving Vehicles，European Journal of Risk Regulation，Vol。 7：2，p。337（2017）。
    [34]Alexander B。Lemann，The Duty to Warn in the Age of Automation，Kentucky Law Journal，Vol。 110：3， p。471（2022）。
    [35]Christopher B。 Emch，Why the Birth of Autonomous Driving Is the Death of Our“Right” to Drive，Pace Law Review，Vol。 40：2，p。292（2020）。
    [36]Policy paper by Centre for Connected and Autonomous Vehicles，Connected& Automated Mobility 2025：Realising the benefits of self-driving vehicles in the UK”，Published on 19 August 2022，p。12，35。
    [37]刘艳红、龚善要：《网络服务提供者对AI决策的刑事归责研究》，《广西大学学报》（哲学社会科学版）2022年第3期。
    [38]参见胡铭：《数字法学：定位、范畴与方法》，《政法论坛》2022年第3期。
    [39]参见李硕：《自动驾驶汽车交通事故侵权的责任认定》，《学习与实践》2022年第11期。
    [40]冯珏：《自动驾驶汽车致损的民事侵权责任》，《中国法学》2018年第6期。
    [41]参见郑志峰：《自动驾驶汽车交通事故责任的立法论与解释论》，《东方法学》2021年第3期。
    [42]Lewis v。 Amorous，59 S。E。 338，340（Ga。 Ct。 App。 1907）。
    [43]Vgl。 von Bodungen/ Hoffmann：Autonomes Fahren-Haftungsverschiebung entlang der Supply Chain？（1。Teil），NZV，2016，S。 451。
    [44]See John Armour& Horst Eidenmuller，Self-Driving Corporations？，Harvard Business Law Review， Vol。10：1，p。111（2019）。
    [45]参见左茂轩：《从特斯拉到蔚来：如何逃离自动驾驶“死亡魔咒”？》，《21世纪经济报道》2021年8月17日。
    [46]参见曾粤兴、高正旭：《论人工智能技术的刑法归责路径》，《治理研究》2022年第3期。
    [47]参见郭泽强：《人工智能时代权利与责任归属的域外经验与启示》，《国外社会科学》2020年第5期。
    [48]徐永伟、袁彬：《无人驾驶交通事故中的刑事责任及其分配》，《南京师大学报》（社会科学版）2022年第3期。
    [49]参见万方：《合规计划作为预防性法律规则的规制逻辑与实践进路》，《政法论坛》2021年第6期。
    [50]Bela Csitei，Self-Driving Cars and Criminal Liability，Debreceni Jogi Muhely/ Legal Workshop of Debrecen，Vol。19：3，p。37（2020）。
    [51]参见周维明：《系统论刑法学的基本命题》，《政法论坛》2021年第3期。
    [52]金梦：《立法伦理与算法正义——算法主体行为的法律规制》，《政法论坛》2021年第1期。
    [53]郑玉双：《自动驾驶的算法正义与法律责任体系》，《法制与社会发展》2022年第4期。
    [54]Vgl。 Siehe Volker Lüdemann，Stellungnahme zum Entwurf eines Gesetzes zur ?nderung des Stra?enverkehrsgesetzes（automatisiertes Fahren）。 Drucksache 18/11300，URL：https：//www。bundestag。 de/resource/blob/498594/127329cb7b1fb6fa7a65dba93c6b7e49/101_sitzung_486c-data。pdf。
    [55]See Sven Ove Hansson，Matts-?ke Belin& Bj?rn Lundgren，Self-Driving Vehicles-an Ethical Overview， Philosophy& Technology，Vol。34，p。138（2021）。
    [56]王琦：《对自动驾驶机动车的产品责任》，《中德法学论坛》2019年第1期。
    [57]参见魏超：《自动驾驶汽车对生命紧急避险的刑事责任》，《华东政法大学学报》2022年第4期。
    [58]吴维锭、张潇剑：《人工智能致第三方损害的责任承担》，《广东财经大学学报》2019年第3期。
    [59]See The European Parliament and of the Council as Regards Uniform Procedures and Technical Specifications for the Type-approval of the Automated Driving System（ADS）of Fully Automated Vehicles，URL：https：//eur-lex。europa。eu/legal-content/EN/TXT/？uri=CELEX：32022R1426。
    [60]Keri Grieman，Hard Drive Crash：An Examination of Liability for Self-Driving Vehicles，Journal of Intellectual Property，Information Technology and Electronic Commerce Law，Vol。9：3，p。300（2019）。
    [61]参见杨良义等：《面向5G远程自动驾驶的CPSS控制系统研究》，《重庆理工大学学报》（自然科学）2022年第2期。
    [62]王春梅：《人机协同视域下中国自动驾驶汽车责任保险立法构设》，《上海师范大学学报》（哲学社会科学版）2022年第3期。
    [63]参见[美]詹姆斯·M。安德森、[美]尼德黑·卡拉：《重新思考自动驾驶变革时代的汽车保险和责任制度》，马成亮译，《国外社会科学文摘》2019年第1期。
    [64]参见张祖阳、樊启荣：《论我国智能汽车产品责任强制保险的制度构建》，《江汉论坛》2023年第7期。
    [65]刘艳红：《人性民法与物性刑法的融合发展》，《中国社会科学》2020年第4期。
    [66]参见王霖：《自动驾驶场景下过失犯归责困境巡检与路径选择》，《河北法学》2020年第3期。
    [67]参见王乐兵：《自动驾驶汽车的缺陷及其产品责任》，《清华法学》2020年第2期。
    [68]刘艳红：《Web3。0时代网络犯罪的代际特征及刑法应对》，《环球法律评论》2020年第5期。
    [69]Vgl。 Lea Bachmann，Prozedurale Entlastung von Herstellern smarter Produkte im Strafrecht？ ZStrR1/2022，S。92。
    [70]参见蔡仙：《自动驾驶中过失犯归责体系的展开》，《比较法研究》2023第4期。
    [71]参见张溪瑨：《商用自动驾驶技术监管问题及对策——以特斯拉为例》，《中国科技论坛》2022年第5期。
    [72]参见皮勇：《论自动驾驶汽车生产者的刑事责任》，《比较法研究》2022年第1期。
    [73]陈结淼、王康辉：《论无人驾驶汽车交通肇事的刑法规制》，《安徽大学学报》（哲学社会科学版）2019年第3期。
    [74]参见广东省肇庆市高要区人民法院刑事判决书，（2021）粤1204刑初95号。
    [75]Csitei，Self-Driving Cars，p。39。
    [76]See Sabine Gless，Emily Silverman& Thomas Weigend，If Robots Cause Harm，Who Is to Blame？ Self-Driving Cars and Criminal Liability，New Criminal Law Review，Vol。 19：3，p。436（2016）。
    [77]参见蔡仙：《人机共驾模式下的接管义务及其刑事归责》，《苏州大学学报》（法学版）2023年第3期。
    [78]参见郑志峰：《论自动驾驶汽车被动接管规则》，《华东政法大学学报》2023年第3期。
    [79]周佑勇：《大变局下中国式民主的制度优势与宪法保障》，《中国法学》2023年第1期。
    [80]参见储陈城：《以利益衡量作为网络领域刑事治理的原则》，《法学论坛》2021年第5期。