驾驶员|信任问题,自动驾驶技术面临的挑战( 二 )


其他挑战同样是根本性的。人类很难监控大多数时候运行良好的自动化系统——这不仅是Waymo在十年前学到的教训,而且从航空到核能等各行各业都明白这一点。
麻省理工学院研究人员9月份发表的一项研究强调了这一点。
【 驾驶员|信任问题,自动驾驶技术面临的挑战】他们发现,当启用Autopilot时,特斯拉司机眼睛偏离道路的频率更高、时间更长。对其他汽车制造商驾驶辅助系统的进一步研究正在进行中。
驾驶员|信任问题,自动驾驶技术面临的挑战
文章插图
如果系统引起了注意力不集中,它们会被认为是安全的吗?包括通用汽车在内的一些汽车制造商正在寻求和推广驾驶辅助技术,允许驾驶员将手从方向盘上移开。
卡内基梅隆大学专门研究嵌入式安全系统的教授菲尔·库普曼(Phil Koopman)说:“ADAS安全的问题在于,你是否正在构建一个非超人司机也能安全操作的系统?”
“我们告诉他们不要睡着,但我们知道事实并非如此。你不能忽视可预测的人类反应。”
随着驾驶辅助系统在汽车行业的普及,了解驾驶员的状态以及他们的反应准备,将比以往任何时候都更加重要。
驾驶员|信任问题,自动驾驶技术面临的挑战
文章插图
监测司机
在多次调查与自动驾驶相关的致命事故后,NTSB发现特斯拉对驾驶员行为的监控能力不足。
该委员会的建议包括,汽车制造商、标准机构和NHTSA都应该开发更好的应用程序和规则,以监测人类驾驶员的状态。
驾驶员|信任问题,自动驾驶技术面临的挑战
文章插图
2021年4月,行业组织汽车创新联盟概述了一套安全原则,以应对人们对驾驶员监控系统日益增长的需求。值得注意的是,特斯拉并不是这个行业组织的成员。
但这些自愿原则并没有与安装驾驶辅助系统的棘手问题发生冲突。他们只是说,例如,应该“评估”可预见的系统滥用。
NTSB的报告明确指出,特斯拉通过监测方向盘扭矩来监控驾驶员参与度的方法是不够的,该联盟只是表示,应该“考虑”基于摄像头的座舱系统——许多驾驶辅助系统的供应商都喜欢这种系统。
也许,与驾驶员监控技术的萌芽状态相比,这些原则的中庸性质是一个较小的问题。内视摄像头系统可以确保驾驶员的头部朝向前方的道路,更好的系统甚至可以透过太阳镜跟踪司机的眼神。
然而,在驾驶员注意力已经偏离,或者在他们需要纠误时,车载报警器才向发出鸣叫,不一定是最有效的。
“预测是预防的关键。”以色列初创公司Adam CogTec的联合创始人兼现任董事长埃雷兹·阿卢夫(Erez Aluf)说。该公司致力于开发一种技术,可以衡量司机的认知能力,并有助于提高人类的表现。
驾驶员|信任问题,自动驾驶技术面临的挑战
文章插图
更好的决策
从这个意义上说,驾驶辅助系统不仅监控司机,还是一种驾驶员管理技术,试图促进人与机器之间的合作关系。“这不是一个或另一个,”阿卢夫说,“而是一加一。”
当汽车不仅了解司机是否在盯着前方的道路,还了解司机在驾驶工作中的参与程度,它就能更好地决定何时交出控制权或保持控制权。
驾驶员|信任问题,自动驾驶技术面临的挑战
文章插图
信任是这种微妙合作的核心。德国亚琛工业大学的人类系统集成教授弗兰克·弗莱米施(Frank Flemisch)将其比喻为骑马者随着时间的推移,与他们的动物共同学习的一种直觉平衡。
但是,如果说机器驾驶员和人类驾驶员之间需要相互信任,那么在更广泛的层面上,驾驶员、大肆宣传自动化技术前景的汽车制造商、独立的第三方(如学术界和保险公司)以及监管机构之间,也需要这种信任。