特斯拉FSD系统测评：开上电车轨道，认不出停车标志，且差点撞上行人( 二 ) 机器之心报道编辑：张倩、蛋

特斯拉的软件结合了机器学习软件和更简单的软件「规则」，比如「见到停车标志和红灯就要停。」但正如一位研究人员指出的那样，机器学习算法总是会学到不该学的东西。比如，如果软件被告知「永远不要撞到行人」，它可能会错误地理解成：如果行人即将被撞到，他们自己会让开。
软件开发人员可以创建一个「规则」，即汽车必须为行人减速或停车。但这样一来软件就会瘫痪，因为城里到处都是人。所以，这最终还是一个长尾问题。
远距离停车
在同一位司机12月初录制的另一段视频中，特斯拉会在人行横道外有行人过马路时停下来，并且是在行人距离很远时就开始停下来。此时，许多人类驾驶员会选择继续行驶。

文章图片
?
该视频表明，如果行人向道路方向行进，特斯拉可能会被命令减速。但一位专家提出了另一种可能性：汽车可能是因为视觉错觉而停下来的。
在这个视频中，特斯拉和行人之间的红色标志与人行道上的一棵树重合在一起，创造了一个类似于停车标志的图像。今年2月上传的一段视频展示了同样的现象，表明停车标志错觉确实在欺骗汽车。
争夺方向盘的控制权
当然，这些视频中的特斯拉并没有造成真正的危险，因为大多数情况下车主会在系统做出错误选择时及时接管。特斯拉官网显示，在使用Autopilot和FSD时，驾驶员必须「始终将手放在方向盘上」，并始终「保持对汽车的控制和责任」。

文章图片
但有时候，接管也会出现麻烦。在另一个例子中，同一辆特斯拉正在经过一辆停在狭窄街道上的卡车，同时两边都停着车辆。在不确定该怎么做时，汽车软件会提示驾驶员接管。但此时驾驶员难以控制车辆，因为方向盘在剧烈地左右摆动。

文章图片
在这个案例中，计算机系统和人类都试图驾驶汽车通过一个狭窄的位置，几乎没有左右摆动的空间。在大多数情况下，司机通过向软件试图转向的相反方向猛拉方向盘来接管。但是，在这种情况下，这种运动是不可能的，因此不清楚是汽车还是人在控制。由于没有急转弯，驾驶员无法通过转动方向盘来重新获得控制权，因此情况变得棘手。
认不出只有字母的停车标志
还有一个严重的问题是，特斯拉的汽车没有对「Stophereonred」（红灯在此停车）标志做出反应。密歇根州的一位司机Chris在11月发布了一段视频，在这个过程中，他被迫踩下了刹车。

文章图片
一位自动驾驶研究者表示，这种在美国道路上随处可见的标志会给特斯拉工程师带来困扰。除非汽车摄像头能够识别出标志上的字母，否则计算机将不得不寻找其他线索，例如箭头标志或画在马路上的白线。但这可能会在其他情况下产生问题，导致汽车在看到道路上的线条或类似箭头标志时错误地停车。
特斯拉的许多竞争对手都使用高清地图来猜测停车和转弯的位置，但这种策略也会引发其他问题，比如任何地图都有可能跟不上持续变化的道路网络。
所以，在使用FSD大约一年后， Chris认为汽车距离实现可靠的自动驾驶还需要十年时间。
除了自动驾驶，特斯拉最近还因为其他问题召回近58万辆汽车。