首页 › 案例
美国陆军与英国皇家空军 · 2003

一分钟的决定

爱国者导弹连的电脑把一架返航的英国战机判定为来袭导弹。要不要照这个判断开火,操作员只有大约一分钟决定,而他们受的训练是信任这套系统。

◷ 约 2 分钟

2003 年 3 月 23 日凌晨(当地时间),伊拉克战争刚开打没几天,一架英国皇家空军的「狂风」战机正飞回科威特的基地。飞行员刚开始下降高度。领航员检查过敌我识别系统的开关,这套系统会在友军雷达询问时,回一个加密的应答。

附近,一个美国陆军的爱国者导弹连正在盯着伊拉克的弹道导弹。它的雷达捕捉到了这架狂风。操作员屏幕上的符号显示:一枚反辐射导弹,也就是专门追着雷达打的导弹,正直冲他们而来。系统向这个目标发出敌我识别询问,没有应答。目标满足了敌方导弹的每一条判定标准。

导弹连开了火。狂风上的两名机组人员当场身亡。

英国皇家空军的调查委员会和美国陆军的调查同步进行,结论是没有单一原因。狂风的敌我识别系统有故障,机组并不知道,最可能是一次驾驶舱不会显示的电源故障。爱国者识别反辐射导弹的标准,是按全世界所有这类导弹写的,所以非常宽,狂风下降时的航迹正好符合。导弹连自己的通信设备还在从美国运来的路上,看不到更大范围的空情,而那本可能让人认出这是一架友机。

还有操作员本身。事故摘要写道:「爱国者操作员受的训练是快速反应、尽早交战、信任爱国者系统。」他们大约只有一分钟来决定。调查委员会认为,如果他们再等一等,随着飞行路线变化,系统很可能会把狂风重新归类。他们的训练重点是识别威胁,而不是识别误报。

战争后来,爱国者还击落了一架美国海军的 F-18。

约翰·霍利(John Hawley)是美国陆军的工程心理学家,和爱国者等防空系统打了 35 年以上的交道,事后负责陆军提升操作员警觉性的工作。他写道,陆军当初「天真地信任了这套系统」,也没有正视一件事:监督一个近乎自主的系统,和亲手操控它是两份不同的工作。他也批评了设计本身:爱国者的自动模式「基本上是一个全有或全无的运行模式」,操作员能影响其交战逻辑的「决策杠杆点」很少。他最痛的一条教训是:「一套自动化系统,落在训练不足的操作员手里,实际上就是一套全自动系统。」

陆军后来做了改变。训练里加进了类似的事件,操作员也被教会去向系统追问,确认或推翻它对一个目标的判定。霍利写道,最重要的改变是「接受了系统并不总是对的这一事实」。

这件事里藏着几个道理

人在回路上(监督控制)开不开火由操作员决定,可他们只有大约一分钟,看不到更大范围的空情,受的训练又强调快速反应、信任机器。信任校准爱国者操作员受的训练是「信任爱国者系统」,训练重点是识别真正的威胁,而不是识别误报。自动化等级霍利说,爱国者的自动模式「基本上是一个全有或全无的运行模式」,操作员能左右它的环节很少。自动化的讽刺导弹连当时在盯弹道导弹,那正是它的自动化擅长的活。被它击落的这架飞机,落在了留给人去判断的灰色地带。

出处

  1. Ministry of Defence, Military Aircraft Accident Summary, Aircraft Accident to Royal Air Force Tornado GR Mk4A ZG710, May 2004
  2. John K. Hawley, Patriot Wars, Automation and the Patriot Air and Missile Defense System, Center for a New American Security, January 2017