首页 › 案例
通用汽车旗下的 Cruise · 2023–2024 · AI 的故事

一段「胜过千言」的视频

一辆无人驾驶的 Cruise 汽车把行人拖行了约 20 英尺。第二天,Cruise 给监管者放了视频,等着对方提问。画面一卡再卡,问题始终没来。

◷ 约 3 分钟

2023 年 10 月 3 日上午 10 点半,六名 Cruise 员工和美国国家公路交通安全管理局(NHTSA)的六名官员开了一个视频会。一位 Cruise 工程师在家里共享屏幕,播放一段 45 秒的录像,是公司一辆无人驾驶汽车前一晚拍下的。

他家的网不好,画面一会儿卡住,一会儿黑屏。据两位与会者后来回忆,有一次他在撞上那一刻之后按了暂停,转头回答问题,就再也没有点播放。

散会前,两位监管官员向 Cruise 道谢:「谢谢你们这么快就来沟通。视频胜过千言。」会后,一位 Cruise 律师给同事发消息说,视频在「车辆刹停后再次开动之前」就断了。

前一晚 9 点 29 分左右,旧金山第五街和市场街路口,一辆人类驾驶的日产车撞上了人行横道上的一名女子,把她抛到了一辆 Cruise 车的正前方。那辆车在自动驾驶,车里没有人。它猛踩刹车,还是撞上了她,停住。接着,软件把这次碰撞判成了侧面碰撞,指挥车子开出车道、靠边停下。它没有察觉她就在车底。它以最高每小时 7.7 英里的速度,把她拖了约 20 英尺,直到一个压在她腿上空转的车轮触发了传感器故障,才停下来。日产司机逃逸了。消防员动用了重型破拆工具,才把她救出来。

Cruise 是知道的。凌晨 3 点 45 分,一位工程师在一个有 77 名员工的 Slack 频道里写道,车子撞人后又往前开了一两个车身。去见 NHTSA 之前的准备会上,笔记记下一位公司律师的话:拖行是「坦白说最大的问题」。

公司的打算是:把完整视频放出来,让它「自己说话」,对方问什么再答什么。可在 NHTSA、加州车管局和市长办公室这几场会上,问题始终没来;调查认为,很可能是网络太差,对方没能看清视频。据 Cruise 与会者事后回忆,车管局有几位官员看得双手捂着头,愣在那里。从头到尾,没有一个 Cruise 的人明明白白地说出:车把她拖走了。

Cruise 员工对调查者说,他们本来就打算如实披露;当天下午,完整视频也传给了 NHTSA。Cruise 和通用汽车的董事会请来律师事务所 Quinn Emanuel 调查,它访谈了 Cruise 员工,但没有访谈监管者,结论是找不到有人蓄意误导的证据。它找到的是另一件事:管理层一门心思要纠正早先的报道,那些报道把车祸怪到无人车头上,漏掉了日产。当天早上 6 点 45 分,首席执行官凯尔·沃格特和公司的传播主管讨论过要不要把完整视频给媒体看、要不要改声明,最后两样都没做。调查者还看到,公司里对监管者的「我们对他们」心态太重。「船上没有船长。」

10 月 24 日,加州车管局暂停了 Cruise 的无人驾驶许可,说它是从另一个政府机构那里才得知车子撞人后又动过。沃格特 11 月离职。罚单接踵而来:加州公用事业委员会 112,500 美元,NHTSA 150 万美元,还有 50 万美元的刑事罚金,因为 Cruise 承认向 NHTSA 提交了一份漏掉拖行的不实事故报告。

2024 年 12 月,在 Cruise 身上花了 100 多亿美元之后,通用汽车宣布不再为它的无人出租车研发出钱。新闻稿给出的理由是:要做大,需要太多时间和资源,市场竞争也越来越激烈。10 月 2 日那晚的事,一个字也没提。

这件事里藏着几个道理

负面副作用靠边停车这条规则,本意是撞车后让车别堵在路中间。软件把这次碰撞判成了侧面碰撞,照规则去靠边,车底下压着一个人,就这样把她拖了约 20 英尺。自动化等级车上没有人,撞完之后要不要再动,全由软件说了算。车最后停下,是因为一个车轮压在她腿上空转,触发了传感器故障,不是有人叫它停。眼见即为事实(WYSIATI)两位 NHTSA 官员在会议结束时说:「视频胜过千言。」可事后一位 Cruise 律师写道,视频在车子再次启动之前就断了。直接负责人(DRI)Quinn Emanuel 的结论是「船上没有船长」:没有哪个人或团队负责把全部事实告诉监管者,各组各自准备,最后由一位工程师放视频,指望画面替公司说话。病态型、官僚型与生机型文化调查者看到,公司里对监管者的「我们对他们」心态太重。当时就有员工担心监管者没看到拖行那一段,却没有人采取行动。

出处

  1. Quinn Emanuel, Report to the Boards of Directors of Cruise LLC, GM Cruise Holdings LLC and General Motors Holdings LLC regarding the October 2, 2023 accident in San Francisco, January 24, 2024
  2. NHTSA, NHTSA Announces Consent Order with Cruise After Company Failed to Fully Report Crash Involving Pedestrian, September 30, 2024
  3. US Attorney's Office, Northern District of California, Cruise admits submitting a false report to influence a federal investigation, November 14, 2024
  4. CBS News Bay Area, Cruise admits to false report in 2023 dragging of San Francisco pedestrian, November 14, 2024
  5. NBC Bay Area, CPUC orders Cruise to pay $112,500 in penalties, June 20, 2024
  6. General Motors, GM to refocus autonomous driving development on personal vehicles, December 10, 2024
  7. CNBC, GM exits robotaxi market, will bring Cruise operations in house, December 10, 2024