2003 年 3 月 23 日凌晨(当地时间),伊拉克战争刚开打没几天,一架英国皇家空军的「狂风」战机正飞回科威特的基地。飞行员刚开始下降高度。领航员检查过敌我识别系统的开关,这套系统会在友军雷达询问时,回一个加密的应答。
附近,一个美国陆军的爱国者导弹连正在盯着伊拉克的弹道导弹。它的雷达捕捉到了这架狂风。操作员屏幕上的符号显示:一枚反辐射导弹,也就是专门追着雷达打的导弹,正直冲他们而来。系统向这个目标发出敌我识别询问,没有应答。目标满足了敌方导弹的每一条判定标准。
导弹连开了火。狂风上的两名机组人员当场身亡。
英国皇家空军的调查委员会和美国陆军的调查同步进行,结论是没有单一原因。狂风的敌我识别系统有故障,机组并不知道,最可能是一次驾驶舱不会显示的电源故障。爱国者识别反辐射导弹的标准,是按全世界所有这类导弹写的,所以非常宽,狂风下降时的航迹正好符合。导弹连自己的通信设备还在从美国运来的路上,看不到更大范围的空情,而那本可能让人认出这是一架友机。
还有操作员本身。事故摘要写道:「爱国者操作员受的训练是快速反应、尽早交战、信任爱国者系统。」他们大约只有一分钟来决定。调查委员会认为,如果他们再等一等,随着飞行路线变化,系统很可能会把狂风重新归类。他们的训练重点是识别威胁,而不是识别误报。
战争后来,爱国者还击落了一架美国海军的 F-18。
约翰·霍利(John Hawley)是美国陆军的工程心理学家,和爱国者等防空系统打了 35 年以上的交道,事后负责陆军提升操作员警觉性的工作。他写道,陆军当初「天真地信任了这套系统」,也没有正视一件事:监督一个近乎自主的系统,和亲手操控它是两份不同的工作。他也批评了设计本身:爱国者的自动模式「基本上是一个全有或全无的运行模式」,操作员能影响其交战逻辑的「决策杠杆点」很少。他最痛的一条教训是:「一套自动化系统,落在训练不足的操作员手里,实际上就是一套全自动系统。」
陆军后来做了改变。训练里加进了类似的事件,操作员也被教会去向系统追问,确认或推翻它对一个目标的判定。霍利写道,最重要的改变是「接受了系统并不总是对的这一事实」。