首页 › 人才 › 达克效应
人才 · 看人的偏差

达克效应

能力不足的人会高估自己;为什么会这样,研究者仍在争论

The Dunning-Kruger Effect◷ 约 4 分钟▤ 1 个真实故事换成 AI 要改一改在知识地图里看它和谁相连 →

1995 年 1 月 6 日,一个男人走进匹兹堡的两家银行,想把两家都抢了。他脸上什么也没遮。监控拍下了他:手里拿着枪,站在柜员面前。

他的照片上了当地晚间十一点新闻的「打击犯罪」栏目。节目播出不到一小时,警察就抓到了 45 岁的麦克阿瑟·惠勒(McArthur Wheeler)。他完全不敢相信:「可我抹了果汁啊。」

原来他往脸上抹了柠檬汁,以为这样摄像机就拍不到他。柠檬汁辣得他眼睛难受,只能眯着。警探对《匹兹堡邮报》说,他并不是贸然行事,事先验证过。他用宝丽来相机给自己拍了一张,照片上果然没有他的脸。

一位巡佐猜,也许是胶卷坏了,也许是相机对歪了。惠勒做了检验,检验说行,他就走进了两家银行。

倒数四分之一,自评第 62

康奈尔大学的心理学家邓宁(David Dunning),是在《1996 年世界年鉴》的趣闻栏里读到这件事的。按纪录片导演埃罗尔·莫里斯(Errol Morris)后来在《纽约时报》上的讲述,邓宁当时冒出一个念头:惠勒笨到当不了劫匪,会不会也笨到连这一点都不知道?

邓宁和他的研究生克鲁格(Justin Kruger)决定量一量。在 1999 年发表的四项研究里,他们让大学生做幽默感、语法和逻辑测试,再请他们估计自己考得如何。成绩排在最后四分之一的人,实际大约在第 12 个百分位,给自己估的却是第 62 个。

两位作者给出的解释是「双重负担」:缺某项本事的人,不光会得出错误结论、做出糟糕选择,这份无能还让他们没法意识到这一点。

照这个解释,垫底的人就像一个不会拼写的校对员。稿子在他眼里干干净净,因为能把错挑出来的那门本事,正是他没有的。作者还报告了一个支持它的结果:他们提高了一部分参与者的技能之后,这些人更能看清自己能力的边界了。

能力不足的人会高估自己;为什么会这样,研究者仍在争论。

后来,统计学家把 1999 年那张图仔细看了一遍。

随机数也画得出来的图

2016 年,努弗(Edward Nuhfer)和同事用随机数做模拟,指出把人按成绩分组、再画自评和实际成绩的常见画法,会「引入容易招致误读的假象」。心理学家麦克奈特(Patrick McKnight)后来干脆让电脑生成完全随机的成绩和自评,照样画出这张图。麦吉尔大学科学与社会办公室的贾里(Jonathan Jarry)写道,两条线和原图「像得出奇」。

按真实成绩把人排好队,只要每个人的自估有误差,垫底那组的平均自估就会高过他们的实际成绩,顶尖那组则会低过。再加上人普遍爱觉得自己比一般人强,垫底那组的落差还会更大。用不着谁真的看不见自己,这幅图也会出现。

2020 年,吉尼亚克(Gilles Gignac)和扎延科夫斯基(Marcin Zajenkowski)换用专门绕开这个陷阱的统计方法,测了 929 名成年人的推理能力,并请他们自评智力。结果,实际智力和自评智力之间「基本上完全是线性关系」。他们的结论是,这个效应「可能比以往报告的小得多」。

邓宁的团队早在 2008 年就回应过此前的质疑,报告说在真实场景里、在有激励让人如实估计的条件下,表现差的人照样看不清自己的短处。争论至今没有定论。

不管哪一方对,有一点站得住:垫底那组人平均确实把自己放在了第 62 个百分位左右。争的是原因。是缺了本事所以看不见,还是人人的自估都这么模糊,只不过垫底那组往高处错的余地最大?邓宁在给贾里的邮件里写道:「这个效应讲的是我们,不是他们。」

那份看着没问题的预测

设想你是做销售出身,刚接手一个分析师团队。一位分析师发来下季度的预测:图表清爽,合计也对得上。你觉得挺好。

不管哪一方对,这份「觉得」都说明不了多少。按原作者的解释,要看出一份预测哪里坏了,得有分析师的本事,而那恰好不是你被请来干的活。按批评者的看法,你对自己判断的估计和谁的一样模糊,而在做预测这件事上你正排在后头,往高处错的余地最大。

你能查的,是有标准答案的东西:拿这套模型去年做的预测,和后来的实际数字对一对;或者签字之前,请另一位分析师把假设读一遍。自己出题、自己判卷,靠的还是那个正被检验的判断。

心里有数的模型

语言模型也有某种「把握」。在 A、B、C、D 里挑答案之前,它会给每个选项一个概率。OpenAI 在 2023 年的技术报告里,拿 MMLU 基准的一部分题目检查了 GPT-4 的这些数字。预训练阶段的模型,也就是还没经过那些把它调教成助手的额外训练时,校准程度很高:有几成把握,大体就答对几成。报告图表的说明写道,后续训练让校准明显变差。

相通的是那份标准答案:想知道把握和对错隔着多远,唯一的办法是拿一个去对另一个。

不同的是落差从哪儿来。OpenAI 报告说,在它测过的选择题考试上,基础模型和后训练模型的平均成绩差不多。照这个标准,本事没掉,把握却漂走了。这不太像 1999 年那个「缺了本事所以看不见」的故事,倒更像批评者描绘的情形:把握和本事,各走各的。

惠勒的证据,是一张可能拍歪了的宝丽来照片。模型却可以拿成千上万道有标准答案的题去对。

先看几件事

玩一玩

出处

  1. Errol Morris, The Anosognosic's Dilemma, Something's Wrong but You'll Never Know What It Is (Part 1), The New York Times, 2010-06-20(引用《匹兹堡邮报》记者 Michael A. Fuoco 的报道,并采访了 David Dunning)
  2. Justin Kruger, David Dunning, Unskilled and Unaware of It, Journal of Personality and Social Psychology 77(6), 1121-1134, 1999(摘要读自 Europe PMC)
  3. Joyce Ehrlinger, Kerri Johnson, Matthew Banner, David Dunning, Justin Kruger, Why the Unskilled Are Unaware, Organizational Behavior and Human Decision Processes 105(1), 2008(摘要读自 Europe PMC)
  4. Edward Nuhfer 等, Random Number Simulations Reveal How Random Noise Affects the Measurements and Graphical Portrayals of Self-Assessed Competency, Numeracy 9(1), 2016
  5. Gilles E. Gignac, Marcin Zajenkowski, The Dunning-Kruger Effect Is (Mostly) a Statistical Artefact, Intelligence 80, 2020(摘要读自 Semantic Scholar)
  6. Jonathan Jarry, The Dunning-Kruger Effect Is Probably Not Real, 麦吉尔大学科学与社会办公室, 2020-12-17(含 Patrick McKnight 的模拟和邓宁的邮件回复)
  7. OpenAI, GPT-4 Technical Report, 2023(第 5 节和图 8,关于校准;附录 B,基础模型与后训练模型的考试成绩)
  8. Errol Morris, The Anosognosic's Dilemma, Something's Wrong but You'll Never Know What It Is (Part 1), The New York Times, 2010-06-20(引用《匹兹堡邮报》记者 Michael A. Fuoco 的报道)