巴克·克南上将给敌人许了一个诺。「千年挑战 2002」是他的美国联合部队司令部那年夏天主持的军事推演,花了 2.5 亿美元,要在一套新作战概念写进条令之前,狠狠地检验它一回。克南说,这是「自由对抗」,敌方「有机会赢」。
敌方指挥官是保罗·范·莱珀,64 岁,退役陆战队中将。他料定美军会先动手,「所以我决定先打」。
一支美军航母战斗群驶入波斯湾,周围有一群小船和螺旋桨飞机,很多是民用的,漫无目的地兜着圈子。然后,信号来了。它没有走无线电,按《卫报》几周后的描述,它藏在清真寺宣礼塔的唤礼声里,是一段暗语。导弹从商船上射了出来。按《华盛顿邮报》的统计,十分钟之内,19 艘美国军舰被摧毁,航母也在其中。
这些都不是真的。所以,也都可以收回。
让沉船浮起来
「我一遍又一遍听到同一句话:『这种事根本不会发生。』」范·莱珀对《卫报》说。一位裁判正是这么裁定的:除了四艘,其余军舰全部「重新浮起」。
接着,他被禁止使用化学武器,理由是这不符合他所扮演角色的「心态」。7 月 29 日起,演习总导演绕过他,直接给他的参谋长下指导。「我留下来提建议,但不再下命令了。」范·莱珀说。8 月 15 日,推演以美军获胜收场。
五角大楼也有它的道理。参谋长联席会议副主席彼得·佩斯上将说,让「阵亡」的人复活,就能从这场推演里多换来 13 天的实验。范·莱珀不满的是,这场推演事先宣传的是自由对抗,是要检验这些概念到底站不站得住。他在报告里下的结论是:结果「至少从 7 月 31 日起就已注定」。
司令部找来了一个高明的对手,也告诉他放手去赢。只是从没想清楚:他真赢了,能改变什么。
专门安排一个人唱反调,再让他的反对真能改变点什么。
拿俸禄的反对者
这个角色有几百年的来历。天主教会在把一个人封为圣人之前,有一位叫「信仰促进者」的官员,按 1907 年《天主教百科全书》的说法,他的职责是「以书面形式准备一切可能的反对理由,哪怕有时看似微不足道」。人们给他起的俗称,就是 advocatus diaboli,魔鬼代言人。
一个小组喜欢上自己的方案之后,往往会把反对听成不忠。把反对派给一个人当差事,反对就成了一项任务,谁也用不着主动站出来,当那个「不配合」的人。
这解决的是谁来开口,管不了谁来听。
装出来的反对
它还会从另一头失灵。心理学家查兰·内梅特研究的就是这个。她的团队 2001 年发表的一篇论文,拿一位真心持不同意见的人,和三种不同版本的魔鬼代言人比,看人们想出多少办法、办法好不好。结果,真心的少数派比三种魔鬼代言人都强。论文还总结了此前的一项研究:魔鬼代言人似乎主要让人去加固自己原来的看法。
她在 2018 年的一次访谈里解释,差别在于信不信。对着一个在演戏的人,「你没法跟一个假装的人争」。所以这个角色比真货弱,但不是没用。范·莱珀是奔着赢去的。他对《卫报》说,这场推演「被说成是自由对抗」,是「双方都想赢」。他的麻烦不在演戏,在于赢了。
一条无处落地的反对
假设你的客服团队下个月要换一套新的工单系统。最后一次评审会上,你请最细心的那位分析师专门唱反调。她说到了点子上:新系统导不进旧工单,客服会看不到每位客户以前投诉过什么。
回应来得很快:客户不指望我们记得;我们导一份表格出来就行。两句话谁也没去核实。她不再说了,会议纪要上写着:无异议。
换一个做法。她开口之前,大家先写下来:她要拿出什么,上线日期就得推迟。比如,普通一周里,每十张工单就有一张提到以前的问题,那旧系统就保留只读,给客服查。她调出一周的工单,一张张数。这下,她的反对是能赢的,就像克南当初说敌方能赢那样。
一个软件扮的魔鬼代言人
2024 年,普渡大学的 Chun-Wei Chiang 和三位同事,把这份差事交给了一个语言模型。在一项线上实验里,350 人分成小组(一开始每组三人),判断刑事被告两年内会不会再犯。每个小组都会看到一个 AI 模型的建议,这个模型是研究者故意用有偏的样本训练的,在某一类被告身上表现很差。
各组被随机分到两种情况:没有魔鬼代言人,或者有四种用 GPT-3.5-turbo 做的魔鬼代言人之一。它要么反驳 AI 的建议,要么反驳组里多数人的看法;要么只在开头说一次,要么在讨论里一直插话。
作者发现,和没有魔鬼代言人的小组相比,能明显提高准确率的,是反驳 AI、而且一直插话的那一种。提高的幅度不大。在 AI 出错的那些题上,四种版本都没能明显减少小组跟着 AI 走。作者也提醒,参与者是互不相识的匿名者,只合作一次,没有专业背景,题目也只来自一个领域。
你可以把它对准你自己的 AI 给的答案。新开一个会话,把事实和那条建议贴进去,让它给出最有力的反对理由。多跑几次,某一次冒出来的一条尖锐意见,只是一条线索,不是结论。每一条都拿事实去核。动手之前,先写下:一条反对要拿出什么,你才会改主意。
这么做不会舒服。那些魔鬼代言人一直反驳 AI 的小组,成员给自己打的「完成得好不好」,比魔鬼代言人只在开头反驳 AI 一次的小组低。
在诺福克,那支重新浮起来的舰队,赢了。