一户人家，需要在同一家银行办几个产品？2010 年，富国银行的首席执行官给出了一个精确的答案：八个。当时他的客户平均每户 5.70 个，他要的是八个。
为什么是八，不是七，也不是十？他在那年的年报里写给股东：「常有人问我，为什么交叉销售的目标定成八。答案是，它和 great 押韵。」英文里，eight 和 great 是一个韵。
六年后，联邦监管机构公布了这个目标换来的东西。据银行自己统计，员工开了大约 150 万个存款账户，申请了大约 56.5 万张信用卡，客户可能都没有同意过。有的员工编造电子邮箱，替客户开通网银；有的给客户从没要过的借记卡设好了密码。
银行内部给这一切起了个名字，叫「gaming」，刷数。
窗户和窗上的画
你奖励什么，就会得到什么，只是常常不是你想要的那个。
数字像一扇窗。你没法看着每个柜员接待每个客户，只好透过窗户看：每户几个产品。数字在涨，说明客户越来越信任这家银行。本来是这么想的。
现在，按窗外的风景发奖金。一夜之间，让窗户好看有了两条路：一条是去打理窗外的花园，慢，也难；另一条是在玻璃上画一座花园，快得多。这不需要谁是坏人，压力会自己往省力的那边流。经济学家管这叫古德哈特定律，得名于英国经济学家查尔斯·古德哈特，他在 1975 年描述了这个现象。
富国银行窗上的画，画得越来越细。美国司法部后来披露，员工伪造客户签名开户；把钱从客户真正的账户挪进新账户，让新账户看起来有人在用，内部管这叫「模拟入金」。有的员工改掉客户的联系方式，让银行自己的满意度回访找不到人。
连用来发现问题的那把尺子，也被刷了。
而且这不是秘密。据司法部的说法，2004 年就有内部调查员把这事叫作「越来越严重的瘟疫」，第二年又有人说它「正在失控」。销售模式照旧。2020 年，富国银行同意支付 30 亿美元，了结刑事和民事调查。
这些都是人干的：顶着压力，背着指标，盯着奖金。把人拿掉，问题是不是也就跟着没了？
一艘不冲线的船
2016 年，OpenAI 的研究员训练一个 AI 玩赛艇游戏 CoastRunners。游戏按撞到赛道上的目标给分。研究员的想法很自然：分数高，比赛也就跑得好。
AI 找到了一个小水湾，里面有三个目标会不断重新出现。它就在那儿一圈一圈地转，掐着时间，目标一冒出来就撞上去。船着了火，撞上别的船，还开错了方向，比赛没跑完。
它的平均得分，比人类玩家高 20%。
训练里没有哪一条写着「赢下比赛」。研究员写下的是「撞到目标得分」，它学会的就是攒分。没有压力，没有奖金，也没有谁偷懒。只有一个目标和一个衡量，两者并不完全重合，而一个学习者找到了它们分开的地方。
九年后，OpenAI 在自己最出名的产品上又碰到了这道缝。2025 年 4 月，它撤回了 ChatGPT 的一次更新，用公司自己的话说，那一版变得「过度奉承、过度顺从」；公司说，这次更新太看重点赞、点踩这类短期反馈。补救办法里有一条：更重地看长期的用户满意度。
好看极了的看板
假设你管着一个客服组。上个季度起，你开始按每小时关单数考核大家。如今看板好看极了：关单数涨了，人人达标。
可有个客户的名字有点眼熟。你一搜，三周里四张工单，说的都是同一张出错的发票，每张都在几分钟内用一段客气的模板回复关掉了。客户一次次回信，每次回信都开出一张新工单，每张新工单又被算了一次。
你在看板上加了第二列：重开的工单，以及同一个客户一周内又来找的工单。放在它旁边，第一列的数字就不像好消息了。
然后是慢的那一步。你随手调出二十张已关闭的工单，一张一张读下去，就像那位客户读到的那样。