首页 › 决策 › 结果论
决策 · 决策机制

结果论

结果好,不证明决定好;结果坏,也不证明决定坏。

Resulting◷ 约 4 分钟▤ 1 个真实故事换成 AI 也一样在知识地图里看它和谁相连 →

2015 年 2 月 1 日,西雅图海鹰队离蝉联超级碗冠军只差一码。他们以 24 比 28 落后新英格兰爱国者队,比赛还剩 26 秒,手里还有一次暂停。马肖恩·林奇刚把球带进 1 码线以内,NFL.com 的迈克尔·西尔弗称他是「橄榄球界在球门线前最有冲击力的跑卫」。

林奇站在后场。四分卫拉塞尔·威尔逊接球后,向里卡多·洛基特扔出一记快速斜线短传。爱国者的马尔科姆·巴特勒,一个落选秀出身、职业生涯还没有过一次抄截的新秀角卫,抢先切到线路上,把球抱进了怀里。

到第二天早上,《西雅图时报》的杰里·布鲁尔已经写道,这是「超级碗史上最糟糕的战术选择」。海鹰主教练皮特·卡罗尔赛后已经在 NBC 节目上把责任揽了下来:「这完全是我的错。」

四天后,他又说了一句听上去像是在找台阶的话。「这是有史以来结果最糟的一次叫战术。」他在《今日秀》上对马特·劳尔说,「要是接住了,这会是个很棒的决定。」

牌桌上的一个词

结果好,不证明决定好;结果坏,也不证明决定坏。

把这两样混为一谈,牌手们有个专门的说法。「我们打扑克的人有个词,叫『结果论』(resulting)。」前职业牌手安妮·杜克 2017 年接受《鹦鹉螺》杂志采访时说。在她看来,这就是把结果的好坏和决定的好坏「绑得太紧」。下象棋输了,她说,你几乎可以肯定哪一步走错了,回头也找得到。打牌不一样,一手牌你打得无可挑剔,照样可能输。

她紧接着举的例子,就是海鹰队那次传球;出版社介绍她 2018 年出的书 Thinking in Bets,开头讲的也是它。橄榄球的一次进攻,比起一步棋,更像一手牌:教练叫的战术,加上他管不了的一切,头一样就是那个新秀抢断的时机。

开球之前

先把那次抄截拿开,单看这个决定。据 ESPN 统计与信息部门,威尔逊这一传,是那个赛季从 1 码线扔出的第 109 次传球,也是第一次被抄截。卡罗尔的理由跟时间有关:只剩一次暂停,海鹰没法连跑三次;传球没传成,时钟会停,后面还能跑两次。

这并不能一锤定音。ESPN 也查到,此前五个赛季,在 1 码线上跑球的达阵率是 54%,传球略低于 50%。FiveThirtyEight 的本杰明·莫里斯把时钟一起算进去,发现两种选择差得都不多:按最看好林奇的假设,跑球的胜率只高 0.3 个百分点;换一组假设,传球最多高 3 个百分点。NFL.com 的格雷格·罗森塔尔挑的是另一处毛病:海鹰在两次进攻之间耗掉了 40 秒。

这些争论,开球前都能吵。只有那些标题,非得等到球落进巴特勒怀里才写得出来。

那台手术

心理学家管这种倾向叫「结果偏差」。1988 年,宾夕法尼亚大学的乔纳森·巴伦和约翰·赫尔希请 20 个本科生给一批医疗决定打分。其中一个病例:一位 55 岁的男子有心脏病,做搭桥手术能缓解疼痛,把预期寿命从 65 岁延到 70 岁,可做这种手术的人有 8% 死在手术台上。医生决定做。一个版本里手术成功了,另一个一模一样的版本里,病人死了。

学生们知道医生知道的一切。平均来看,结果好的那一版,同一个决定照样得分更高。事后问到的 8 个人里,7 个说不该看结果,1 个说拿不准。2023 年一项预先登记的重复实验,在网上找了 692 人,效应方向和原研究一致。

结果也不是毫无用处。巴伦和赫尔希写道,如果有些情况只有做决定的人知道,拿结果来评判决定「完全合理」。杜克的分界线是样本多少。一次车祸说明不了一个司机,但「要是有人去年出了 15 次车祸,我当然可以从结果倒推他的决定」。一次抄截,只是一手牌。

客户倒了

假设你批了一笔大折扣,拿下一个成长很快的客户的两年合同。对方的推荐人评价不错,合同条款也是你的常规条款。八个月后,客户倒闭了,还欠着你的钱。复盘会上,大家只问一句:谁签的字?

开会前,先写下签字时你知道什么、当时你愿意赌多大。再借用杜克讲过的一个牌桌习惯:找一个不知道你怎么选、也不知道后来怎样的同事,把情况讲到要拍板的那一刻,问他会怎么做。他要是也会签,复盘该看的是条款和审核,不是那个签名。要是你最近五笔这样的单子全砸了,这份记录告诉你的,就是一笔单子告诉不了你的东西。

模型的一次回答

同一个问题问语言模型,每次的回答可能不一样,所以任何一次回答里都掺着运气。假设你改了客服机器人的提示词,拿一封棘手的客户邮件试了一下,回答完美,就上线了。你等于只凭一手牌给提示词打了分。

2024 年,Anthropic 的研究者在评测分数上提出了同样的问题。一个模型在基准测试上赢了另一个,他们问:会不会「只是在抽到哪些题上运气好」?他们建议每个分数都附上误差范围;对要求模型一步步推理的评测,每道题的回答要重复采样几次。

落到你手上,就是拿新旧两版提示词去跑同样 20 封真实邮件,每封跑几次,每条回复都用你要求真人客服的标准去评。如果差距在大多数邮件、多次重跑里都站得住,就值得据此行动;只在一封邮件、一次运行里出现的差距,只是一条线索。

卡罗尔在《今日秀》上说,要是洛基特接住了那个球,「一切都会好好的,谁也不会多想一下」。

先看几件事

玩一玩

出处

  1. NFL.com(Around the NFL),Pete Carroll on interception, 'That's my fault, totally',2015 年 2 月
  2. Michael Silver,NFL.com,Seahawks' Pete Carroll explains ill-fated call in Super Bowl XLIX,2015 年 2 月
  3. Krishnadev Calamur,NPR,After The Game, Looking Back At 'The Worst Call In Super Bowl History',2015 年 2 月 2 日
  4. Chris Wesseling,NFL.com,Pete Carroll concedes 'worst result of a call ever',2015 年 2 月 5 日
  5. ESPN Stats & Information,Inside Seattle's decision to pass from the 1,2015 年 2 月 2 日
  6. Benjamin Morris,FiveThirtyEight,A Head Coach Botched The End Of The Super Bowl, And It Wasn't Pete Carroll,2015 年 2 月 2 日
  7. Gregg Rosenthal,NFL.com,Why did Seahawks take so long before second down?,2015 年 2 月 3 日
  8. Stuart Firestein,The Resulting Fallacy Is Ruining Your Decisions(安妮·杜克访谈),Nautilus,2017 年 11 月 30 日
  9. Annie Duke,Thinking in Bets, Making Smarter Decisions When You Don't Have All the Facts,Portfolio,2018(出版社页面)
  10. Jonathan Baron、John C. Hershey,Outcome Bias in Decision Evaluation,Journal of Personality and Social Psychology 第 54 卷第 4 期,1988
  11. Sriraj Aiyer、Hoi Ching Kam、Ka Yuk Ng 等,Outcomes Affect Evaluations of Decision Quality, Replication and Extensions of Baron and Hershey's (1988) Outcome Bias Experiment 1,International Review of Social Psychology 第 36 卷,2023
  12. Anthropic,A statistical approach to model evaluations,2024 年 11 月 19 日(介绍 Evan Miller 的论文 Adding Error Bars to Evals)
  13. NFL.com,Butler's late INT lifts Patriots to fourth Super Bowl title,2015 年 2 月