系统|当法律纽带变成“机器红线”，能让自动驾驶汽车更安全吗？( 二 ) 汽车|上海交通大学

第二，世界上不存在100%的安全，技术法往往会以ABC原则：Analyse Benefits and Costs（分析收益与成本），去思考一个更高的安全水准相对应的解决方案经济性、操作舒适性或是造成的不利影响。欧洲的法案就被认为不利于AI进步，在前不久举办的《自动驾驶与法律责任》研讨活动中，上海交通大学法学院教授彭诚信提出，如果涉及智能开发都要承担连带责任的话，很多企业都要连带上去，这会影响中国人工智能的发展。
第三，技术安全不仅有技术的成分，也有非技术的成分，只有吸收包括技术伦理学在内的社会学和人文科学才能得以实现。而自动驾驶及其所涉及的人工智能等技术伦理目前还在探讨中，比如和自动驾驶汽车一样的“自主机器人”是否要被当作法律和道德责任的主体来看待，就是一个问题。
上海交通大学凯原法学院郑戈教授认为，目前以人为法律责任主体的立法逻辑体系设计难以满足技术的快速发展，因此道交法修订建议稿中引入自动驾驶系统开发单位作为责任主体。
法学界与产业界需要相互沟通和了解，对这项颠覆性技术的影响，做整体性的评估和思考。所以，在技术法律的制定和应用中，多学科间的携手合作是必不可少的。
冗余，冗余，还是冗余说了这么多，法律界人士需要从哪些角度去理解自动驾驶技术？
从当下的业务原理上看，安全保障离不开一个词：冗余。
强依赖于实时感知和单车智能决策的自动驾驶安全，需要足够的安全冗余机制。
一方面体现在硬件上。
自动驾驶汽车的感知能力主要依赖摄像头、毫米波雷达、超声波雷达等传感器，而单一传感器就如同眼耳口鼻等器官一样，都有自身的局限性。摄像头可能遭遇遮挡或较差的天气环境，毫米波雷达缺乏高程探测能力，高精地图受限于采集频率和审图法规，不可避免地存在信息滞后性……
这些情况下自动驾驶汽车无法百分百消除不确定性因素，所以系统服务商在进行设计时，就必须加进一个安全冗余，以防止“完全无法预见的载荷”，把安全事故的发生率降到最低。
另一方面，安全冗余中不仅包含技术层面的自动驾驶系统方案，也包含应用层面用户和系统的各种关系。
这些关系涉及自动驾驶系统的设计、符合功能要求的生产制造以及正确的操作和使用等。这里保障安全的关键点则是自动驾驶汽车的生产者、系统服务商、使用者等。
早在几年前，沃尔沃就倡议如果自动驾驶汽车在行驶过程中出了事故，由汽车公司主动承担责任；《自动驾驶与法律责任》研讨活动中，郑戈教授也提出，在目前行业标准尚不成熟的情况下，可以由整车制造商或自动驾驶系统开发方案上统一承担责任。
了解自动驾驶的系统如何工作，就会更容易清晰责任主体。未来，系统商需要打磨出足够可靠的传感器方案，配合可靠的算法、以及计算和执行单元，才能从整体上保障自动驾驶的功能安全。
从这个角度来看，产业突破口不仅仅是要扩展自动驾驶汽车的技术发展路线，还要唤起各个参与者的行为改变，主机厂、系统商等齐心协力，给标准化的制定工作注入新的活力。
技术未来的发展路线无法预知，与之相关的使用后果也同样是个未知数。因此，法律制定也会处在一种不确定的决策情况之中，却又必须做出一个具有风险的决定。
柏拉图曾形容法律，是一根金质的柔韧的绳索。在今天看来，法律也正是让自动驾驶导向理想未来的关键纽带。一个人机友好的新世界，也许就是法律+技术的完美结合。