2013 年夏天,X(当时叫 Google X)的一支团队开始试一个听上去像科幻的点子:把海水变成碳中和的液体燃料,替代汽油。牵头的是凯西·汉纳,项目叫「雾笛」。
开工之前,他们先写下到什么地步就收手。X 管这叫「止损指标」。雾笛的止损线是成本:五年内,生产成本降到每加仑汽油当量 5 美元,做不到就停。
化学这一关过了。团队和帕洛阿尔托研究中心的研究者一起,用从海水里提出的二氧化碳做出了甲醇。可成本模型(据汉纳说,占了团队一半的工夫)给出的是另一个答案。X 的项目页面说,要找到便宜又稳定的氢气来源,得再做五年以上的研究,投入大笔资金。2016 年 1 月,干了两年之后,团队决定结束雾笛。「是我做了这个艰难的决定,砍掉雾笛。」汉纳写道。
一个月后,X 的负责人阿斯特罗·特勒站上 TED 的台子,讲 X 怎么对待亲手结束自己项目的团队:「团队结束了项目,我们给其中每一个人都发了奖金,小到两个人的团队,大到三十多人的团队。」
干了两年,没出产品
在不少公司,干了两年没出产品,会记在某个人的账上。2011 年,哈佛商学院的埃德蒙森(Amy Edmondson)在《哈佛商业评论》上写道:她请高管们看一张「失败原因谱系」,再估一估自家组织里的失败,有多少是真正该受责备的。回答通常是个位数,大概 2% 到 5%。她接着问:有多少被当成该受责备的来处理?对方往往先停一下,或者笑一声,然后说 70% 到 90%。这是估计,不是实测。她得出的后果是:「许多失败没人上报,教训也就丢了。」
失败分好几种,一律问责,教训就埋掉了。
这张谱系从「故意违规」一路排到「深思熟虑的实验」。排在第一的故意违规,「显然该受责备」。疏忽就不一定:要是因为一个班排得太长、人在最后累垮了,她写道,「排这个班的经理比员工更该负责」。越往下越难找到该怪的人;能产出有价值信息的实验,失败了「甚至可能值得表扬」。
2025 年的一次访谈里,她把这件事归成了三类。基本失败只有一个原因,「常常是、但不总是人为差错」;复杂失败有好几个原因,单拿出任何一个都不至于出事。这两类在熟悉的工作里都值得预防。聪明的失败要过四关:在新领域、为一个目标、事先做足功课有假设、失败的规模小到不危险。雾笛没有配方可抄,目标清楚,止损线一开始就定好了。
这不等于每次失败都该庆祝。埃德蒙森说,她「对预防可预防的失败,和对欢迎聪明的失败,一样上心」,还拿丰田举例:要造出零缺陷的车,靠的是人人愿意随手发现、随手纠正难免出现的差错。同样一笔奖金,要是发给跳过了必查步骤的人,教的就是错的东西。
把失败堆成一堆,还会把它们藏起来。在埃德蒙森 1996 年对医院病区的研究里(也就是心理安全那一页讲的故事),查出来的用药差错和病区怎么管有关;不可预防的药物不良事件,比如事先谁都不知道的过敏,和病区怎么管未发现显著关联。
亏了钱的定价试验
假设你带一个区域销售团队,在一座城市试了六周新的定价方案,结果亏了钱。复盘会上,总监第一句话问的是:谁批的?
把它当成基本失败来处理,大家只会学到一件事:别提试验。
要是你事先像雾笛那样写下了「出现什么结果就停」,复盘就能问:这个试验当初想回答什么,它又告诉了我们什么。反过来,要是亏损一路拖满六周,只是因为没人看每周的数字,那一段就是基本失败,管它叫「实验」,反倒把它藏住了。
是谁的失败
2026 年 1 月,Anthropic 的工程师在一份测试 AI 智能体的指南里,讲到了谱系上的几种失败。
一种在前沿。在一个叫 τ2-bench 的基准里,Claude Opus 4.5 碰上一道订机票的题,它在给定的政策里找到一个漏洞,把题解了。按指南的说法,照原题判,它「失败」了,「可实际上给用户想出了更好的办法」。
指南又用了一次「漏洞」这个词,说的是反面:测试要设计成,想通过就得「真把问题解决」,靠「钻没料到的漏洞」过关不算数。钻判分规则空子的智能体,是在违规,不是在探索。
还有一种失败属于考题本身。指南有条经验法则:对前沿模型来说,试一百次一次都没过,「多半是题坏了的信号」,未必是智能体不行。关键结果那一页,讲过一个类似的基准测试故事。
给自己智能体的失败分类,指南建议先写一份确定能用的参考答案,看它能不能过所有检查;过不了,毛病在检查上。再挑几份失败的运行记录,各归一堆:考题把对的答案判错了;智能体找到了可能更好的办法;智能体真犯了错,或者绕开了规则。只有最后一堆算模型的。智能体每次跑的结果会变,一次判定只是线索。
指南还给了一个数字。Opus 4.5 在一个叫 CORE-Bench 的基准上,起初只得了 42%。后来一位 Anthropic 研究员发现:判分器要的是「96.124991…」,就把「96.12」判错;题目说明含糊;有些题随机性太大,没法复现。修好毛病、换了一个限制更少的运行框架后,分数到了 95%。前后是同一个模型。