照阿瑟·施奈德曼自己的说法,1990 年 7 月 19 日,他给一群高管做了一次报告。这群人来自十来家公司,由咨询公司 Nolan, Norton & Co. 召集,研究企业该怎么衡量业绩。哈佛的教授罗伯特·卡普兰是他们的顾问。
施奈德曼是亚德诺半导体(Analog Devices)负责质量和生产率的副总裁,这家公司做集成电路。1987 年,他搭了一张公司计分卡,在惯常的财务数字旁边,放上准时交货、交货周期、良率、缺陷、生产周期这些指标,其中不少定了很激进的目标。卡普兰写案例时发现了这张卡,于是请施奈德曼来给这群人讲讲。
据卡普兰 2010 年的一篇论文回忆,报告结束时,有人问公司现在怎么样。施奈德曼说,计分卡上每一项质量指标都大幅改善了。
他又提了一句:过去三年,公司股价跌了将近七成。
只有一块表的驾驶舱
卡普兰后来这样描述他们要回答的问题:「为什么光靠财务指标,抓不住当代组织创造价值的那些活动?」财务数字报告的,是上个季度的决定带来了什么。工厂是不是在变好,客户会不会回头,员工有没有在学明年要用的本事,它说得很少。只看财务结果评判一家公司,就像只盯着后视镜开车。
卡普兰用驾驶舱打过一个比方。设想一架飞机,驾驶舱里只有一块仪表,显示目的地和预定到达时间。哪怕飞行员和乘客的利益完全一致,也没几个人愿意坐这架飞机。
亚德诺已经补上了别的仪表。卡普兰的结论是,它的计分卡缺的,是从这些指标连到客户看重的东西、连到任何客户结果的那条线。公司没能把制造和交货上的进步,变成更多销售、更高利润;他写道,少了这条线,「很可能」是股价下跌的原因之一。1992 年 1 月,卡普兰和大卫·诺顿把这群人一年的工作写成文章,登在《哈佛商业评论》上,题目叫《平衡计分卡:驱动业绩的衡量指标》。计分卡从四个角度看一家公司:财务、客户、内部业务流程,以及第四个角度,他们后来称之为「学习与成长」。文章第一句是:「你衡量什么,就得到什么。」
造卡的人另有看法
施奈德曼自己写过,就他所知,平衡计分卡理论里的主要要素,亚德诺在卡普兰来之前的计分卡里都有。1999 年,他写了一篇文章,题目就叫《平衡计分卡为什么失败》。他把亚德诺七年里的延迟发货比例和股价画在一起,得到了他所说的不错的相关性,只是方向反了:交货越准时,股价越低。1993 年以后,交货变差了,股价反倒一路涨,1998 年按拆股调整后到了 100 美元左右的高点。
他给了两种解释:半导体行业的周期压过了一切,或者两者之间的滞后超过五年。他也承认,要分辨是哪一种,需要的分析和假设「仍然说服不了人」。他写道,管理层只能凭「信念的一跃」,去相信计分卡财务和非财务两半之间的联系。
这就是这个想法老老实实的边界。非财务指标是押注,押它们日后会在利润里显出来。押得对,也可能被整个市场盖过去,或者要好几年才兑现。
看着不错的一个季度
假设你管一家健身房,这个季度收入涨了 8%。
你自己的卡上还有三行。上个月来了至少四次的会员比例:从 61% 降到 52%。坏了一周以上没修的器械:从两台变成五台。考过新课程认证的教练:六个里只有一个。
收入上涨,来自 1 月份的提价。另外三行说的,是 12 月要决定续不续卡的那些会员。到店次数能不能预示你这家店的续卡率,要几个月后才知道。但你现在就可以开始盯着它。
只用一个数给模型打分
AI 模型常常只按一个最显眼的数排名,通常是某个基准测试上的准确率。
2022 年,以斯坦福基础模型研究中心为主的一个团队发布了 HELM,语言模型的整体评估。他们在 16 个核心场景里测了七样东西:准确率、校准、稳健性、公平性、偏见、有害内容和效率。他们统计,在 HELM 之前,模型平均只在这些核心场景的 17.9% 上测过。
多出来的几项,有时讲的是另一个故事。在阅读理解任务 NarrativeQA 上,一个准确率排第三的模型,加上错别字之类的扰动后,准确率从 72.6% 掉到 38.9%。在一个常识问答任务上,准确率越高的模型校准越好;在另一个相似的任务上,恰恰相反。
你可以给自己的用途做一张小卡。从工作里拿五十个真实例子,算模型的准确率;把同样的例子加上错别字、换个说法,再跑一遍;数一数它有多少次答错了却说得很笃定;记下每次回答的花费和用时。每一项都多跑几次,因为每次的回答会有出入。哪一行最要紧,取决于你想做成什么,这正是战略地图要回答的问题。
差点印进年报
亚德诺曾经差一点就把这些全摊给投资者看。施奈德曼写道,1988 年,首席执行官雷·斯塔塔在《斯隆管理评论》上公开了公司五年的非财务计分卡。公司离把整张计分卡印进年报只差几天。
他写道,最后一刻撤了下来,因为担心「华尔街」还没准备好。