首页 › 决策 › 魔鬼代言人
决策 · 群体决策

魔鬼代言人

专门安排一个人唱反调,再让他的反对真能改变点什么。

Devil's Advocate◷ 约 4 分钟▤ 4 个真实故事换成 AI 也一样在知识地图里看它和谁相连 →

巴克·克南上将给敌人许了一个诺。「千年挑战 2002」是他的美国联合部队司令部那年夏天主持的军事推演,花了 2.5 亿美元,要在一套新作战概念写进条令之前,狠狠地检验它一回。克南说,这是「自由对抗」,敌方「有机会赢」。

敌方指挥官是保罗·范·莱珀,64 岁,退役陆战队中将。他料定美军会先动手,「所以我决定先打」。

一支美军航母战斗群驶入波斯湾,周围有一群小船和螺旋桨飞机,很多是民用的,漫无目的地兜着圈子。然后,信号来了。它没有走无线电,按《卫报》几周后的描述,它藏在清真寺宣礼塔的唤礼声里,是一段暗语。导弹从商船上射了出来。按《华盛顿邮报》的统计,十分钟之内,19 艘美国军舰被摧毁,航母也在其中。

这些都不是真的。所以,也都可以收回。

让沉船浮起来

「我一遍又一遍听到同一句话:『这种事根本不会发生。』」范·莱珀对《卫报》说。一位裁判正是这么裁定的:除了四艘,其余军舰全部「重新浮起」。

接着,他被禁止使用化学武器,理由是这不符合他所扮演角色的「心态」。7 月 29 日起,演习总导演绕过他,直接给他的参谋长下指导。「我留下来提建议,但不再下命令了。」范·莱珀说。8 月 15 日,推演以美军获胜收场。

五角大楼也有它的道理。参谋长联席会议副主席彼得·佩斯上将说,让「阵亡」的人复活,就能从这场推演里多换来 13 天的实验。范·莱珀不满的是,这场推演事先宣传的是自由对抗,是要检验这些概念到底站不站得住。他在报告里下的结论是:结果「至少从 7 月 31 日起就已注定」。

司令部找来了一个高明的对手,也告诉他放手去赢。只是从没想清楚:他真赢了,能改变什么。

专门安排一个人唱反调,再让他的反对真能改变点什么。

拿俸禄的反对者

这个角色有几百年的来历。天主教会在把一个人封为圣人之前,有一位叫「信仰促进者」的官员,按 1907 年《天主教百科全书》的说法,他的职责是「以书面形式准备一切可能的反对理由,哪怕有时看似微不足道」。人们给他起的俗称,就是 advocatus diaboli,魔鬼代言人。

一个小组喜欢上自己的方案之后,往往会把反对听成不忠。把反对派给一个人当差事,反对就成了一项任务,谁也用不着主动站出来,当那个「不配合」的人。

这解决的是谁来开口,管不了谁来听。

装出来的反对

它还会从另一头失灵。心理学家查兰·内梅特研究的就是这个。她的团队 2001 年发表的一篇论文,拿一位真心持不同意见的人,和三种不同版本的魔鬼代言人比,看人们想出多少办法、办法好不好。结果,真心的少数派比三种魔鬼代言人都强。论文还总结了此前的一项研究:魔鬼代言人似乎主要让人去加固自己原来的看法。

她在 2018 年的一次访谈里解释,差别在于信不信。对着一个在演戏的人,「你没法跟一个假装的人争」。所以这个角色比真货弱,但不是没用。范·莱珀是奔着赢去的。他对《卫报》说,这场推演「被说成是自由对抗」,是「双方都想赢」。他的麻烦不在演戏,在于赢了。

一条无处落地的反对

假设你的客服团队下个月要换一套新的工单系统。最后一次评审会上,你请最细心的那位分析师专门唱反调。她说到了点子上:新系统导不进旧工单,客服会看不到每位客户以前投诉过什么。

回应来得很快:客户不指望我们记得;我们导一份表格出来就行。两句话谁也没去核实。她不再说了,会议纪要上写着:无异议。

换一个做法。她开口之前,大家先写下来:她要拿出什么,上线日期就得推迟。比如,普通一周里,每十张工单就有一张提到以前的问题,那旧系统就保留只读,给客服查。她调出一周的工单,一张张数。这下,她的反对是能赢的,就像克南当初说敌方能赢那样。

一个软件扮的魔鬼代言人

2024 年,普渡大学的 Chun-Wei Chiang 和三位同事,把这份差事交给了一个语言模型。在一项线上实验里,350 人分成小组(一开始每组三人),判断刑事被告两年内会不会再犯。每个小组都会看到一个 AI 模型的建议,这个模型是研究者故意用有偏的样本训练的,在某一类被告身上表现很差。

各组被随机分到两种情况:没有魔鬼代言人,或者有四种用 GPT-3.5-turbo 做的魔鬼代言人之一。它要么反驳 AI 的建议,要么反驳组里多数人的看法;要么只在开头说一次,要么在讨论里一直插话。

作者发现,和没有魔鬼代言人的小组相比,能明显提高准确率的,是反驳 AI、而且一直插话的那一种。提高的幅度不大。在 AI 出错的那些题上,四种版本都没能明显减少小组跟着 AI 走。作者也提醒,参与者是互不相识的匿名者,只合作一次,没有专业背景,题目也只来自一个领域。

你可以把它对准你自己的 AI 给的答案。新开一个会话,把事实和那条建议贴进去,让它给出最有力的反对理由。多跑几次,某一次冒出来的一条尖锐意见,只是一条线索,不是结论。每一条都拿事实去核。动手之前,先写下:一条反对要拿出什么,你才会改主意。

这么做不会舒服。那些魔鬼代言人一直反驳 AI 的小组,成员给自己打的「完成得好不好」,比魔鬼代言人只在开头反驳 AI 一次的小组低。

在诺福克,那支重新浮起来的舰队,赢了。

先看几件事

玩一玩

出处

  1. Lt. Gen. Paul K. Van Riper,Opposition Force Senior Mentor's Observations of Millennium Challenge 2002,2002 年 8 月,2024 年部分解密(美国国家安全档案馆)
  2. 《卫报》,Julian Borger,Wake-up call,2002 年 9 月 6 日
  3. 《华盛顿邮报》,Nate Jones,How the U.S. military lost a $250 million war game in minutes,2024 年 10 月 30 日
  4. Richard Burtsell,Advocatus Diaboli,《天主教百科全书》第 1 卷,1907(New Advent)
  5. Charlan Nemeth、Keith Brown、John Rogers,Devil's advocate versus authentic dissent: stimulating quantity and quality,European Journal of Social Psychology 31(6),2001
  6. Ilaria Schlitz,Stop Playing Devil's Advocate, and Other Advice for Better Decision Making(Charlan Nemeth 访谈),Behavioral Scientist,2018 年 7 月 10 日
  7. Chun-Wei Chiang、Zhuoran Lu、Zhuoyan Li、Ming Yin,Enhancing AI-Assisted Group Decision Making through LLM-Powered Devil's Advocate,IUI '24,2024
  8. Lt. Gen. Paul K. Van Riper, Opposition Force Senior Mentor's Observations of Millennium Challenge 2002, August 2002, declassified in part 2024 (National Security Archive)
  9. The Guardian, Julian Borger, Wake-up call, September 6, 2002
  10. The Washington Post, Nate Jones, How the U.S. military lost a $250 million war game in minutes, October 30, 2024
  11. John F. Kennedy Presidential Library and Museum, The Bay of Pigs
  12. Office of the Historian, U.S. Department of State, The Bay of Pigs Invasion and its Aftermath, April 1961-October 1962
  13. Foreign Relations of the United States, 1961-1963, Volume X, Cuba, Document 80, Editorial Note on the April 4, 1961 meeting
  14. Foreign Relations of the United States, 1961-1963, Volume X, Cuba, Document 81, Memorandum from Arthur Schlesinger Jr. to President Kennedy, April 5, 1961
  15. Office of the Historian, U.S. Department of State, The Cuban Missile Crisis, October 1962
  16. Sheldon M. Stern, Robert Caro and the Mythical Cuban Missile Crisis, History News Network, June 18, 2012
  17. Arthur M. Schlesinger Jr., A Thousand Days, John F. Kennedy in the White House, 1965
  18. Irving L. Janis, Victims of Groupthink, 1972 (chapter 2, A Perfect Failure, and chapter 6, The Cuban Missile Crisis)
  19. Akbir Khan, John Hughes, Dan Valentine et al., Debating with More Persuasive LLMs Leads to More Truthful Answers, ICML 2024 (arXiv 2402.06782)
  20. House of Commons Home Affairs Committee, Maccabi Tel Aviv fan ban, Fifth Report of Session 2024-26, HC 1553, February 2026
  21. Letter from Chief Constable Craig Guildford to Dame Karen Bradley, Chair of the Home Affairs Committee, 12 January 2026
  22. HMICFRS, Confirmation bias influenced West Midlands Police's recommendation to ban Maccabi Tel Aviv fans, 14 January 2026
  23. BBC News, West Midlands Police chief retires over Israeli fans ban row, 16 January 2026
  24. BBC News, Police admit overstating Maccabi fan ban evidence, 23 January 2026