首页 › 案例
Tesla · 2018 · AI 的故事

101 号公路的导流区

出事前一个月里,一辆开着 Autopilot 的特斯拉两次朝着看来是同一个岔口转向,两次司机都在两秒内拉了回来。第三次,他没有。

◷ 约 2 分钟

2018 年 3 月 23 日早上 9 点 27 分,一辆特斯拉 Model X 行驶在加州山景城的 101 号公路上,往南开,这是司机上班的路。Autopilot 开着,替他把车保持在车道里,跟着前车走,巡航速度设在每小时 75 英里。

撞击前大约六秒,Autopilot 的车道保持系统向左打了方向,开进了导流区,也就是出口匝道和主路分开处那块楔形的空地。前车继续沿车道直行。前方没了车,特斯拉开始加速,回到设定的速度。它的防撞系统没有探测到导流区尽头的防撞缓冲设施,没有报警,也没有自动刹车。

车以每小时约 71 英里撞了上去。那个缓冲设施在之前一次事故里撞坏了,一直没修。司机伤重身亡。

美国国家运输安全委员会(NTSB)根据车辆数据和他的手机,还原了最后几分钟。系统没有检测到他的手在方向盘上,他也没有任何转向或刹车动作。他手机最前台的应用是一款游戏,流量使用和正在玩游戏的情形相符。

调查人员还翻查了他一个月的早晨通勤数据。2 月 27 日和 3 月 19 日,自动转向两次做出了类似的向左动作,看来也是在那个岔口附近。两次,司机都在两秒内把车拉了回来。

Autopilot 属于工程界所说的二级系统,即「部分驾驶自动化」。它控制转向和速度,但按照这个定义,司机仍要负责盯路、了解系统的局限,并随时准备接管。车判断司机有没有在做这些事的办法,是通过方向盘上的扭矩感知他的手在不在。

NTSB 认定的可能原因,两头都点到了:Autopilot「由于系统局限」把车开进了导流区;司机没有反应,很可能是分心了,也「过度依赖」这套系统。促成因素是「特斯拉车辆对司机投入程度的监测无效」。NTSB 的结论是,方向盘扭矩是衡量司机是否专注的「一个无效的替代指标」,并警告说,如果特斯拉不把 Autopilot 限制在它的设计适用条件内,超出条件的使用是「可以预见的」。

这件事里藏着几个道理

自动化等级Autopilot 负责转向和控速,这是二级系统的活。盯路、抓它的错仍归司机,而车用来确认司机在不在盯的办法并不管用。人在回路上(监督控制)车在撞击前约六秒转进了导流区。NTSB 认定司机很可能在玩手机游戏,车对司机注意力的监测也不管用。信任校准那个月里,司机两次纠正过自动转向,看来都在这个岔口附近。NTSB 仍把他对系统的「过度依赖」列为原因之一。

出处

  1. NTSB, Collision Between a Sport Utility Vehicle Operating With Partial Driving Automation and a Crash Attenuator, Mountain View, California, March 23, 2018 (HAR-20/01), 2020